ETV Bharat / bharat

ഇത് ഫേക്കുകളുടെ രാജാവ്, അവഗണിക്കാന്‍ വരട്ടെ! അറിയാം ഡീപ്ഫേക്കിനെ കുറിച്ച്

author img

By ETV Bharat Kerala Team

Published : Nov 18, 2023, 7:29 AM IST

Updated : Nov 18, 2023, 8:03 AM IST

Deepfake video of actress Rashmika Mandana went viral on the internet: നടി രശ്‌മിക മന്ദാനയുടെ ഒരു ഡീപ്‌ഫേക്ക് വീഡിയോ ഇന്‍റർനെറ്റിൽ പ്രചരിച്ച ശേഷമാണ് 'ഡീപ്ഫേക്ക്' എന്ന സാങ്കേതിക വിദ്യ ചർച്ച ചെയ്യപ്പെട്ടത്.

deepfake  നടി രശ്‌മിക മന്ദാന  എന്താണ് ഡീപ്ഫേക്ക്  ഡീപ്ഫേക്ക്  Deepfake news  actress Rashmika Mandana  actress Rashmika Mandana deepfake  deepfake actress Rashmika Mandana  നടി രശ്‌മിക മന്ദാന ഡീപ്‌ഫേക്ക് വീഡിയോ  ഡീപ്‌ഫേക്ക് വീഡിയോ നടി രശ്‌മിക മന്ദാന
What is Deepfake and why is this a topic

ഹൈദരാബാദ് : സാങ്കേതികപരമായി അതിവേഗ പുരോഗതിയുടെ കാലഘട്ടത്തിൽ ആർട്ടിഫിഷ്യൽ ഇന്‍റലിജൻസ് (Deepfake by using AI). ഈ നൂതന വിദ്യ നിർണായക പങ്ക് വഹിക്കുന്ന ഒന്നാണ് 'ഡീപ്‌ഫേക്ക്'. ഡിജിറ്റൽ ലോകത്തിന്‍റെ വിശ്വാസ്യതയെ കുറിച്ചും തെറ്റായ വിവരങ്ങൾ പ്രചരിപ്പിക്കുന്നതിനുള്ള സാധ്യതയെ കുറിച്ചും 'ഡീപ്ഫേക്ക്' ഗുരുതരമായ ആശങ്കകൾ ഉയർത്തിയിട്ടുണ്ട്. 'ഡീപ് ലേണിങ്', 'ഫേക്ക്' എന്നിവയുടെ സംയോജനത്തിൽ നിന്ന് പിറവിയെടുത്ത ഡീപ്ഫേക്കുകൾ, വിഷ്വൽ, ഓഡിറ്ററി വശങ്ങളെ ബോധ്യപ്പെടുത്തുന്ന വിധത്തിൽ വീഡിയോ, ഓഡിയോ ഉള്ളടക്കം വിദഗ്‌ധമായി പരിഷ്‌ക്കരിക്കുന്നതിന് ആർട്ടിഫിഷ്യൽ ഇന്‍റലിജൻസും (എഐ) മെഷീൻ ലേണിങ്ങും പ്രയോജനപ്പെടുത്തുന്നു.

എന്തുകൊണ്ട് ഈ വിഷയം? : ഐടി റൂൾസ് 2021 അനുസരിച്ച്, ഒരു പരാതി ലഭിച്ച് 24 മണിക്കൂറിനുള്ളിൽ കൃത്രിമ വീഡിയോകളോ ഡീപ്ഫേക്കുകളോ അവരുടെ പ്ലാറ്റ്‌ഫോമുകളിൽ നിന്ന് നീക്കം ചെയ്യാൻ നവംബർ 8-ന് ഇന്ത്യൻ സർക്കാർ സോഷ്യൽ മീഡിയ ഇടനിലക്കാർക്ക് നിർദേശം നൽകിയിട്ടുണ്ട്. ഈ നിർദേശം നൽകിയിരിക്കുന്നത് അഭിനേതാക്കളായ രശ്‌മിക മന്ദാനയുടെയും കത്രീന കൈഫിന്‍റെയും ഡീപ്ഫേക്ക് വീഡിയോകൾ പുറത്തുവന്നതിനെ തുടർന്നാണ്.

അടുത്തിടെ നടി രശ്‌മിക മന്ദാനയുടെ ഒരു ഡീപ്‌ഫേക്ക് വീഡിയോ ഇന്‍റർനെറ്റിൽ വലിയ തോതില്‍ പ്രചരിച്ചിരുന്നു. താരം ഒരു ലിഫ്റ്റിൽ പ്രവേശിക്കുന്നതായി ചിത്രീകരിച്ച വീഡിയോ ആയിരുന്നു അത്. മറ്റൊരു പെൺകുട്ടിയുടെ ശരീരത്തിൽ രശ്‌മികയുടെ മുഖം ചേർത്ത ഈ വീഡിയോ ലോകം മുഴുവൻ പ്രചരിച്ചു. വിശദമായ അന്വേഷണത്തിനൊടുവിലാണ് അതിലെ ഡിജിറ്റൽ കൃത്രിമത്വം തിരിച്ചറിഞ്ഞത്.

ഇതിഹാസ താരം അമിതാഭ് ബച്ചൻ പോലും ഈ സംഭവത്തിൽ പ്രതികരണവുമായി എത്തുകയും നിയമനടപടിക്ക് ആവശ്യപ്പെടുകയും ചെയ്‌തിരുന്നു. കേന്ദ്രമന്ത്രി രാജീവ് ചന്ദ്രശേഖറും നോട്ടിസ് നൽകി. വീഡിയോ വളരെ സങ്കീർണമായ രീതിയിലാണ് കൈകാര്യം ചെയ്‌തിരുന്നത്, കഥാപാത്രം യഥാർഥത്തിൽ രശ്‌മിക മന്ദാനയല്ലെന്ന് മനസിലാക്കുന്നത് ഒരു വെല്ലുവിളി നിറഞ്ഞ ജോലിയായിരുന്നും.

എന്താണ് ഡീപ്ഫേക്ക്? (what is deepfake) : ഡീപ്ഫേക്ക് എന്നത് കൃത്രിമ മൾട്ടിമീഡിയ ബുദ്ധിയാണ്. ചിത്രങ്ങളിലോ വീഡിയോകളിലോ ഒരാളുടെ മുഖമോ ശരീരമോ മറ്റാരെയെങ്കിലും സാദൃശ്യമാക്കി കൃത്രിമമായി തട്ടിപ്പ് നടത്താൻ ഉപയോഗിക്കുന്ന സാങ്കേതിക വിദ്യ. 2014-ൽ സിന്തറ്റിക് മീഡിയയായി രൂപപ്പെടുത്തിയ ഇത് 2017-ൽ ഒരു അജ്ഞാത ഉപയോക്താവ് ഒരു ഡീപ്ഫേക്ക് വീഡിയോ ക്രിയേറ്റ് ചെയ്‌തപ്പോൾ ഇന്‍റർനെറ്റിൽ ശ്രദ്ധ നേടി. സമീപകാലത്ത് മലയാളത്തിലെ മുൻനിര അഭിനേതാക്കളുടെ മുഖങ്ങൾ 'ദി ഗോഡ്‌ഫാദർ' രംഗങ്ങളിൽ ചിത്രീകരിക്കപ്പെട്ടിരുന്നു.

സിന്തറ്റിക് മീഡിയ എന്നാൽ! : സിന്തറ്റിക് മീഡിയ എന്നത് ടെക്‌സ്‌റ്റ്, ഇമേജുകൾ, വീഡിയോകൾ, അല്ലെങ്കിൽ കൃത്രിമ ബുദ്ധിയിലൂടെ നിർമിച്ച ശബ്‌ദം, തെറ്റായ വിവരങ്ങളുടെ ഒരു വസ്‌തുവിനെ പുനർനിർമിക്കാൻ കഴിവുള്ളതാണ്. ഈ എഐ-അധിഷ്‌ഠിത സാങ്കേതിക വിദ്യകൾ, പല സാങ്കേതിക വിദ്യകളെയും പോലെ ക്രിയാത്മകവും നിയമവിരുദ്ധവുമായ ലക്ഷ്യങ്ങൾക്കായി ഉപയോഗിക്കാവുന്നതാണ്. ഇവ ദുരുപയോഗം, ആൾമാറാട്ടം, വഞ്ചനാപരമായ ആശയവിനിമയം എന്നിവ പോലുള്ള സുപ്രധാന ഭീഷണികൾ ഉയർത്തുന്നു. ഇത് നെറ്റ്‌വർക്കുകളിലേക്കുള്ള അനധികൃത ആക്‌സസിലേക്കും സ്ഥാപനങ്ങൾക്കുള്ളിലെ സെൻസിറ്റീവ് വിവരങ്ങളിലേക്കും നയിക്കുന്നു.

എങ്ങനെ തിരിച്ചറിയാം ഒരു ഡീപ്ഫേക്ക്? (How to realize deepfake videos) : ഡീപ്ഫേക്ക് സാങ്കേതികവിദ്യ പുതിയ ഉയരങ്ങളിലെത്ത. ഓൺലൈൻ ഉള്ളടക്കം ഉപയോഗിക്കുമ്പോൾ ഉപയോക്താക്കൾ ജാഗ്രത പാലിക്കേണ്ടത് അത്യന്താപേക്ഷിതമാണ്. വ്യാപകമായി പ്രചരിച്ച രശ്‌മിക മന്ദാനയുടെ വീഡിയോയിൽ, തുടക്കത്തിലെ ഫ്രെയിമുകളിൽ ബ്രിട്ടീഷ്-ഇന്ത്യൻ മോഡല്‍ സാറ പട്ടേലിനെയാണ് കാണിച്ചത്. പിന്നീടത് ലിഫ്റ്റിനുള്ളിലെ ഒരു ഡീപ്ഫേക്ക് സാഹചര്യത്തിൽ രശ്‌മികയിലേക്ക് മാറി.

ഡീപ്ഫേക്കുകൾ പലപ്പോഴും സംഭാഷണങ്ങളിലോ പ്രവർത്തനങ്ങളിലോ ക്രമരഹിതമായ മാറ്റങ്ങൾ കാണിക്കുന്നു. ഓഡിയോയും വീഡിയോയും തമ്മിലുള്ള സമന്വയം പരിശോധിച്ച് ലിപ് സിങ്ക് പ്രശ്‌നങ്ങൾ കണ്ടെത്താം. സൂക്ഷ്‌മമായ പരിശോധനയിൽ വ്യക്തമായ പൊരുത്തക്കേടുകൾ കണ്ടെത്താന്‍ സാധിക്കും. വീഡിയോകൾ ഒന്നിലധികം തവണ കാണുന്നത് ഈ പൊരുത്തക്കേടുകൾ കണ്ടെത്തുന്നതിന് സഹായിക്കും.

Also Read: ഡീപ് ഫേക്ക് : ഇത്തരം ഫോട്ടോകളും വീഡിയോസും എങ്ങനെ തിരിച്ചറിയാം?, യാഥാർത്ഥ്യം ഏതൊക്കെ?

ഹൈദരാബാദ് : സാങ്കേതികപരമായി അതിവേഗ പുരോഗതിയുടെ കാലഘട്ടത്തിൽ ആർട്ടിഫിഷ്യൽ ഇന്‍റലിജൻസ് (Deepfake by using AI). ഈ നൂതന വിദ്യ നിർണായക പങ്ക് വഹിക്കുന്ന ഒന്നാണ് 'ഡീപ്‌ഫേക്ക്'. ഡിജിറ്റൽ ലോകത്തിന്‍റെ വിശ്വാസ്യതയെ കുറിച്ചും തെറ്റായ വിവരങ്ങൾ പ്രചരിപ്പിക്കുന്നതിനുള്ള സാധ്യതയെ കുറിച്ചും 'ഡീപ്ഫേക്ക്' ഗുരുതരമായ ആശങ്കകൾ ഉയർത്തിയിട്ടുണ്ട്. 'ഡീപ് ലേണിങ്', 'ഫേക്ക്' എന്നിവയുടെ സംയോജനത്തിൽ നിന്ന് പിറവിയെടുത്ത ഡീപ്ഫേക്കുകൾ, വിഷ്വൽ, ഓഡിറ്ററി വശങ്ങളെ ബോധ്യപ്പെടുത്തുന്ന വിധത്തിൽ വീഡിയോ, ഓഡിയോ ഉള്ളടക്കം വിദഗ്‌ധമായി പരിഷ്‌ക്കരിക്കുന്നതിന് ആർട്ടിഫിഷ്യൽ ഇന്‍റലിജൻസും (എഐ) മെഷീൻ ലേണിങ്ങും പ്രയോജനപ്പെടുത്തുന്നു.

എന്തുകൊണ്ട് ഈ വിഷയം? : ഐടി റൂൾസ് 2021 അനുസരിച്ച്, ഒരു പരാതി ലഭിച്ച് 24 മണിക്കൂറിനുള്ളിൽ കൃത്രിമ വീഡിയോകളോ ഡീപ്ഫേക്കുകളോ അവരുടെ പ്ലാറ്റ്‌ഫോമുകളിൽ നിന്ന് നീക്കം ചെയ്യാൻ നവംബർ 8-ന് ഇന്ത്യൻ സർക്കാർ സോഷ്യൽ മീഡിയ ഇടനിലക്കാർക്ക് നിർദേശം നൽകിയിട്ടുണ്ട്. ഈ നിർദേശം നൽകിയിരിക്കുന്നത് അഭിനേതാക്കളായ രശ്‌മിക മന്ദാനയുടെയും കത്രീന കൈഫിന്‍റെയും ഡീപ്ഫേക്ക് വീഡിയോകൾ പുറത്തുവന്നതിനെ തുടർന്നാണ്.

അടുത്തിടെ നടി രശ്‌മിക മന്ദാനയുടെ ഒരു ഡീപ്‌ഫേക്ക് വീഡിയോ ഇന്‍റർനെറ്റിൽ വലിയ തോതില്‍ പ്രചരിച്ചിരുന്നു. താരം ഒരു ലിഫ്റ്റിൽ പ്രവേശിക്കുന്നതായി ചിത്രീകരിച്ച വീഡിയോ ആയിരുന്നു അത്. മറ്റൊരു പെൺകുട്ടിയുടെ ശരീരത്തിൽ രശ്‌മികയുടെ മുഖം ചേർത്ത ഈ വീഡിയോ ലോകം മുഴുവൻ പ്രചരിച്ചു. വിശദമായ അന്വേഷണത്തിനൊടുവിലാണ് അതിലെ ഡിജിറ്റൽ കൃത്രിമത്വം തിരിച്ചറിഞ്ഞത്.

ഇതിഹാസ താരം അമിതാഭ് ബച്ചൻ പോലും ഈ സംഭവത്തിൽ പ്രതികരണവുമായി എത്തുകയും നിയമനടപടിക്ക് ആവശ്യപ്പെടുകയും ചെയ്‌തിരുന്നു. കേന്ദ്രമന്ത്രി രാജീവ് ചന്ദ്രശേഖറും നോട്ടിസ് നൽകി. വീഡിയോ വളരെ സങ്കീർണമായ രീതിയിലാണ് കൈകാര്യം ചെയ്‌തിരുന്നത്, കഥാപാത്രം യഥാർഥത്തിൽ രശ്‌മിക മന്ദാനയല്ലെന്ന് മനസിലാക്കുന്നത് ഒരു വെല്ലുവിളി നിറഞ്ഞ ജോലിയായിരുന്നും.

എന്താണ് ഡീപ്ഫേക്ക്? (what is deepfake) : ഡീപ്ഫേക്ക് എന്നത് കൃത്രിമ മൾട്ടിമീഡിയ ബുദ്ധിയാണ്. ചിത്രങ്ങളിലോ വീഡിയോകളിലോ ഒരാളുടെ മുഖമോ ശരീരമോ മറ്റാരെയെങ്കിലും സാദൃശ്യമാക്കി കൃത്രിമമായി തട്ടിപ്പ് നടത്താൻ ഉപയോഗിക്കുന്ന സാങ്കേതിക വിദ്യ. 2014-ൽ സിന്തറ്റിക് മീഡിയയായി രൂപപ്പെടുത്തിയ ഇത് 2017-ൽ ഒരു അജ്ഞാത ഉപയോക്താവ് ഒരു ഡീപ്ഫേക്ക് വീഡിയോ ക്രിയേറ്റ് ചെയ്‌തപ്പോൾ ഇന്‍റർനെറ്റിൽ ശ്രദ്ധ നേടി. സമീപകാലത്ത് മലയാളത്തിലെ മുൻനിര അഭിനേതാക്കളുടെ മുഖങ്ങൾ 'ദി ഗോഡ്‌ഫാദർ' രംഗങ്ങളിൽ ചിത്രീകരിക്കപ്പെട്ടിരുന്നു.

സിന്തറ്റിക് മീഡിയ എന്നാൽ! : സിന്തറ്റിക് മീഡിയ എന്നത് ടെക്‌സ്‌റ്റ്, ഇമേജുകൾ, വീഡിയോകൾ, അല്ലെങ്കിൽ കൃത്രിമ ബുദ്ധിയിലൂടെ നിർമിച്ച ശബ്‌ദം, തെറ്റായ വിവരങ്ങളുടെ ഒരു വസ്‌തുവിനെ പുനർനിർമിക്കാൻ കഴിവുള്ളതാണ്. ഈ എഐ-അധിഷ്‌ഠിത സാങ്കേതിക വിദ്യകൾ, പല സാങ്കേതിക വിദ്യകളെയും പോലെ ക്രിയാത്മകവും നിയമവിരുദ്ധവുമായ ലക്ഷ്യങ്ങൾക്കായി ഉപയോഗിക്കാവുന്നതാണ്. ഇവ ദുരുപയോഗം, ആൾമാറാട്ടം, വഞ്ചനാപരമായ ആശയവിനിമയം എന്നിവ പോലുള്ള സുപ്രധാന ഭീഷണികൾ ഉയർത്തുന്നു. ഇത് നെറ്റ്‌വർക്കുകളിലേക്കുള്ള അനധികൃത ആക്‌സസിലേക്കും സ്ഥാപനങ്ങൾക്കുള്ളിലെ സെൻസിറ്റീവ് വിവരങ്ങളിലേക്കും നയിക്കുന്നു.

എങ്ങനെ തിരിച്ചറിയാം ഒരു ഡീപ്ഫേക്ക്? (How to realize deepfake videos) : ഡീപ്ഫേക്ക് സാങ്കേതികവിദ്യ പുതിയ ഉയരങ്ങളിലെത്ത. ഓൺലൈൻ ഉള്ളടക്കം ഉപയോഗിക്കുമ്പോൾ ഉപയോക്താക്കൾ ജാഗ്രത പാലിക്കേണ്ടത് അത്യന്താപേക്ഷിതമാണ്. വ്യാപകമായി പ്രചരിച്ച രശ്‌മിക മന്ദാനയുടെ വീഡിയോയിൽ, തുടക്കത്തിലെ ഫ്രെയിമുകളിൽ ബ്രിട്ടീഷ്-ഇന്ത്യൻ മോഡല്‍ സാറ പട്ടേലിനെയാണ് കാണിച്ചത്. പിന്നീടത് ലിഫ്റ്റിനുള്ളിലെ ഒരു ഡീപ്ഫേക്ക് സാഹചര്യത്തിൽ രശ്‌മികയിലേക്ക് മാറി.

ഡീപ്ഫേക്കുകൾ പലപ്പോഴും സംഭാഷണങ്ങളിലോ പ്രവർത്തനങ്ങളിലോ ക്രമരഹിതമായ മാറ്റങ്ങൾ കാണിക്കുന്നു. ഓഡിയോയും വീഡിയോയും തമ്മിലുള്ള സമന്വയം പരിശോധിച്ച് ലിപ് സിങ്ക് പ്രശ്‌നങ്ങൾ കണ്ടെത്താം. സൂക്ഷ്‌മമായ പരിശോധനയിൽ വ്യക്തമായ പൊരുത്തക്കേടുകൾ കണ്ടെത്താന്‍ സാധിക്കും. വീഡിയോകൾ ഒന്നിലധികം തവണ കാണുന്നത് ഈ പൊരുത്തക്കേടുകൾ കണ്ടെത്തുന്നതിന് സഹായിക്കും.

Also Read: ഡീപ് ഫേക്ക് : ഇത്തരം ഫോട്ടോകളും വീഡിയോസും എങ്ങനെ തിരിച്ചറിയാം?, യാഥാർത്ഥ്യം ഏതൊക്കെ?

Last Updated : Nov 18, 2023, 8:03 AM IST
ETV Bharat Logo

Copyright © 2024 Ushodaya Enterprises Pvt. Ltd., All Rights Reserved.