ETV Bharat / opinion

ডিপফেক ! ক্রমশ বেআব্রু হচ্ছে কৃত্রিম বুদ্ধিমত্তার ক্ষতিকর দিকটি - The Deepfake Dilemma

Navigating The Deepfake Dilemma: সম্প্রতি, বেশ কয়েকটি 'ডিপফেক' ভিডিয়ো ভাইরাল হয়েছে ৷ অনলাইন প্ল্যাটফর্মগুলিও নিরাপদে থাকবে না যদি তারা ডিপফেকগুলি অপসারণের জন্য পর্যাপ্ত পদক্ষেপ না নেয়। এক্ষেত্রে কী করণীয় ?

Etv Bharat
Etv Bharat
author img

By ETV Bharat Bangla Team

Published : Mar 26, 2024, 11:09 PM IST

হায়দরাবাদ: মাসখানেক আগে ভাইরাল হয়েছিল রশ্মিকা মন্দানার একটি ভিডিয়ো ৷ তারপরেই প্রবলভাবে সামনে আসে একটি শব্দ, ডিপফেক ৷ যা কতটা সর্বনেশে, তা বোঝা গিয়েছিল তার কয়েকদিন পর থেকেই ৷

ডিপফেক প্রযুক্তি, উন্নত মেশিন লার্নিং এবং ফেসিয়াল রিকগনিশন অ্যালগরিদম ব্যবহার করে কাজ করে ৷ 2017 সালে সামনে আসে এই প্রযুক্তি, তারপর থেকেই ক্রমশ জনপ্রিয় হয়েছে ৷ প্রযুক্তির এই উদ্ভাবন অত্যন্ত বিশ্বাসযোগ্য ভুয়ো ভিডিয়ো এবং অডিয়ো রেকর্ডিং তৈরি করতে সাহায্য করে ৷ যার দৌলতে বিশ্বব্যাপী তথ্যের সুরক্ষা, ব্যক্তিগত গোপনীয়তা এবং গণতান্ত্রিক প্রক্রিয়াগুলির চ্যালেঞ্জ ক্রমশ বাড়ছে ৷

ডিপফেক প্রযুক্তি দু’টি প্রাথমিক উপায়ে ব্যবহার করা হয়, ‘ডিপফেস’ এবং ‘ডিপভয়েস’ । ডিপফেস ভিডিয়োগুলিতে ভার্চুয়ালি মুখমণ্ডলী প্রতিস্থাপন বা তৈরি করে, ডিপভয়েস কণ্ঠস্বর পরিবর্তন বা অনুকরণ করে । প্রযুক্তিটি বিশেষভাবে বিপণন ক্ষেত্রে প্রয়োগ করা হয়েছে ৷ যেখানে এটি ব্যক্তিগত পছন্দসই এবং আকর্ষক বিষয়বস্তু তৈরি করে ৷ যাতে টেলর সুইফ্ট, সেলেনা গোমেজ, ইলন মাস্ক এবং জো রোগানের মতো সেলিব্রিটিদের তাঁদের সরাসরি অংশগ্রহণ ছাড়াই নিয়ে আসা হয়েছে ।

মৃতদের ফিরিয়ে আনা:

চলচ্চিত্র এবং টেলিভিশন শিল্প বছরের পর বছর ধরে একই ধরনের প্রযুক্তি ব্যবহার করেছে ৷ বিশেষ করে ‘ফাস্ট অ্যান্ড ফিউরিয়াস 7’-এ ব্রায়ান এবং ‘রোগ ওয়ান’ লিয়ার মতো মৃত অভিনেতাদের পুনরুত্থিত করার ক্ষেত্রে । যদিও ডিপফেক প্রযুক্তি শুধুমাত্র মুখমণ্ডলগুলিকে প্রতিলিপি করার জন্য নয়, সম্পূর্ণ কাল্পনিক অথচ বিশ্বাসযোগ্য মুখমণ্ডলী তৈরি করতেও উন্নত হয়েছে । এই বিবর্তনটি কৃত্রিম বুদ্ধিমত্তার দ্রুত অগ্রগতির ইঙ্গিত দেয় ৷

শিকার হচ্ছেন জনপ্রিয় ব্যক্তিত্বরা:

ডিপ ফেক অপব্যবহারের উল্লেখযোগ্য ঘটনাগুলির মধ্যে রয়েছে রাশিয়াপন্থী সোশাল মিডিয়া অ্যাকাউন্টগুলির দ্বারা কারসাজি করা ভিডিয়ো প্রচার করা ৷ যাতে ইউক্রেনীয় সৈন্যদের অসদাচরণ দেখানো হয় । একইভাবে রশ্মিকা মন্দানা, ক্যাটরিনা কাইফ, কাজল এবং আলিয়া ভাটের মতো ভারতীয় অভিনেত্রীদের ভাইরাল ডিপফেক ভিডিয়োগুলি কৃত্রিম বুদ্ধিমত্তার ক্ষতিকর দিকগুলিকে আরও বেআব্রু করেছে ৷

2022 সালের মার্চ মাসে ইউক্রেনের রাষ্ট্রপতি ভলোদিমির জেলেনস্কির একটি ডিপফেক ভিডিয়োতে আত্মসমর্পণের আহ্বান জানিয়েছিল ৷ যা নিয়ে উত্তাল হয়ে উঠেছিল বিশ্ব ৷

বিপণনের জন্য সেলিব্রিটিদের ব্যবহার করা:

বিপণনে উদ্ভাবন এবং সৃজনশীলতার সম্ভাবনা থাকা সত্ত্বেও, ডিপফেক প্রযুক্তির প্রয়োগ যথেষ্ট নৈতিক দ্বিধাকে উত্থাপন করে । প্রাথমিক উদ্বেগ শ্রোতাদের প্রতারিত করার, ভুল তথ্য ছড়ানোর ক্ষমতাকে ঘিরে । মোনডেলেস, আইটিসি এবং জোম্যাটোর মত ব্র্যান্ডগুলি ডিপফেক প্রযুক্তির উদ্ভাবনী ব্যবহারকে কাজে লাগিয়েছে ৷

কড়া নিয়মের প্রয়োজন:

যেহেতু নামীদামি ব্র্যান্ডগুলি ডিপফেক প্রযুক্তির মাধ্যমে বিজ্ঞাপনের সীমানাগুলি অন্বেষণ এবং প্রসারিত করে চলেছে, আইনি সুরক্ষা এবং নৈতিক বিবেচনার বিষয়েও প্রশ্ন উঠছে ৷ একটি ডিপফেক বিজ্ঞাপন তৈরি করার ক্ষেত্রে সম্মতি, কপিরাইট এবং ভুল তথ্যের সম্ভাবনা সম্পর্কিত জটিল সমস্যাগুলি নিয়ে ভাবনাচিন্তা করা উচিত ৷ এটি বিজ্ঞাপনে উদ্ভাবন এবং সৃজনশীলতা প্রচার করার সময় ব্যক্তি এবং ব্র্যান্ডের স্বার্থ রক্ষা করে এমন আইনি কাঠামোর প্রয়োজনীয়তার উপরও জোর দেয় । এই ভারসাম্যটি নিশ্চিত করার জন্য গুরুত্বপূর্ণ যে ডিপফেক প্রযুক্তি দায়িত্বের সঙ্গে ব্যবহার করা যেতে পারে, যাতে ডিজিটাল বিপণনের প্রচেষ্টায় বিশ্বাস এবং সত্যতা বজায় রাখা যায়।

সরকারের প্রতিক্রিয়া:

ভুল তথ্যের বিরুদ্ধে লড়াইয়ে নিজেদের আইনি বাধ্যবাধকতা পূরণের জন্য সামাজিক মাধ্যম প্ল্যাটফর্মগুলির কাছে আহ্বান জানিয়েলেন কেন্দ্রীয় তথ্য ও প্রযুক্তি মন্ত্রকের রাষ্ট্রমন্ত্রী রাজীব চন্দ্রশেখর । প্রধানমন্ত্রী নরেন্দ্র মোদিও উদ্বেগ প্রকাশ করে এটি বন্ধ করতে যথাযথ ব্যবস্থা নিতে বলেছেন ৷ প্রসঙ্গত, ডিপফেক ভিডিয়ো রুখতে ইতিমধ্যেই তৎপর হয়েছে কেন্দ্র ৷ ফেসবুক, ইনস্টাগ্রাম, এক্স (টুইটার), ইউটিউবের উচ্চপদস্থ আধিকারিকদের জরুরি বৈঠকও সেরেছে কেন্দ্রীয় সরকার ৷

7 নভেম্বর, 2023-এ ইলেকট্রনিক্স এবং তথ্য প্রযুক্তি মন্ত্রকের পরামর্শক, আইটি নিয়ম 2021 অনুযায়ী ভুল তথ্য সনাক্ত এবং প্রশমিত করার জন্য সামাজিক মিডিয়া মধ্যস্থতাকারীদের প্রয়োজনীয়তার উপর জোর দিয়েছে ।

সামাজিক প্রভাব:

ডিপফেক প্রযুক্তির অগ্রগতি, GANs (জেনারেটিভ অ্যাডভারসারিয়াল নেটওয়ার্ক) এবং মেশিন লার্নিং দ্বারা সহজলভ্য, বিশ্বাসযোগ্য ডিপফেক তৈরিকে সহজলভ্য করেছে ৷ গোপনীয়তা, নিরাপত্তা এবং ডিজিটাল বিষয়বস্তুর সত্যতার জন্য এর গভীর প্রভাব রয়েছে । উপরন্তু, ম্যাকাফির রিপোর্ট অনুযায়ী, আর্থিক কেলেঙ্কারিতে ডিপফেকের অপব্যবহার, এআই ভয়েস ক্লোনিং আর্থিক জালিয়াতির একটি উল্লেখযোগ্য ঝুঁকি নির্দেশ করে ৷ ওই প্রতিবেদনে বলা হয়েছে যে ভারতীয় প্রাপ্তবয়স্ক জনসংখ্যার প্রায় 47 শতাংশর এক্ষেত্রে কোনও ধরনের অভিজ্ঞতা হয়েছে ।

সমাধান কী ?

ডিফিউশন মডেল ডিপফেক এবং জেনারেটিভ এআই-এর দ্রুত বিকাশ নতুন চ্যালেঞ্জ উপস্থাপন করে ৷ ডিপফেকগুলিকে আরও বাস্তবসম্মত এবং অ্যাক্সেসযোগ্য করে তোলে । স্ট্যানফোর্ড ইউনিভার্সিটির মতো প্রতিষ্ঠান এবং মাইক্রোসফ্টের মতো কোম্পানিগুলি ভুল তথ্যের বিরুদ্ধে লড়াইয়ে প্রযুক্তির গুরুত্বপূর্ণ ভূমিকার উপর জোর দিয়ে ডিপফেকগুলি সনাক্ত করতে এবং বুঝতে সাহায্য করার জন্য সরঞ্জাম এবং শিক্ষাগত সংস্থান তৈরি করেছে ৷

সুরক্ষিত ভবিষ্যতের দিকে...

ডিজিটাল ল্যান্ডস্কেপ যেমন বিকশিত হতে থাকে, ডিপফেকের বিস্তার গণতান্ত্রিক অখণ্ডতা এবং ব্যক্তিগত গোপনীয়তা রক্ষার জন্য আইনি, প্রযুক্তিগত এবং শিক্ষাগত প্রচেষ্টার সমন্বয়ে বহুমুখী পদ্ধতির জন্য আহ্বান জানায় । দক্ষিণ কোরিয়ার সাঙ্গকিউঙ্গান ইউনিভার্সিটির মত প্রতিষ্ঠানের বিশেষজ্ঞদের সহযোগিতামূলক গবেষণা ডিপফেক ঘটনাটি বোঝার এবং মোকাবেলায় বিশ্বব্যাপী প্রচেষ্টার গুরুত্ব তুলে ধরেছেন ।

আরও পড়ুন

  1. ডিপফেক নিয়ে উদ্বিগ্ন মোদি, সতর্ক করলেন আর্টিফিশিয়াল ইন্টেলিজেন্সের অপব্যবহার নিয়ে
  2. ডিপফেক টেকনোলজির দৌরাত্মে রাশ টানতে হাল ধরল কেন্দ্র, তলব সোশাল প্ল্যাটফর্মের আধিকারিকদের
  3. ডিপফেক টেকনোলজিকে আটকানো মুশকিল, বাঁচার পথ দেখালেন বিশিষ্ট সাইবার বিশেষজ্ঞ

হায়দরাবাদ: মাসখানেক আগে ভাইরাল হয়েছিল রশ্মিকা মন্দানার একটি ভিডিয়ো ৷ তারপরেই প্রবলভাবে সামনে আসে একটি শব্দ, ডিপফেক ৷ যা কতটা সর্বনেশে, তা বোঝা গিয়েছিল তার কয়েকদিন পর থেকেই ৷

ডিপফেক প্রযুক্তি, উন্নত মেশিন লার্নিং এবং ফেসিয়াল রিকগনিশন অ্যালগরিদম ব্যবহার করে কাজ করে ৷ 2017 সালে সামনে আসে এই প্রযুক্তি, তারপর থেকেই ক্রমশ জনপ্রিয় হয়েছে ৷ প্রযুক্তির এই উদ্ভাবন অত্যন্ত বিশ্বাসযোগ্য ভুয়ো ভিডিয়ো এবং অডিয়ো রেকর্ডিং তৈরি করতে সাহায্য করে ৷ যার দৌলতে বিশ্বব্যাপী তথ্যের সুরক্ষা, ব্যক্তিগত গোপনীয়তা এবং গণতান্ত্রিক প্রক্রিয়াগুলির চ্যালেঞ্জ ক্রমশ বাড়ছে ৷

ডিপফেক প্রযুক্তি দু’টি প্রাথমিক উপায়ে ব্যবহার করা হয়, ‘ডিপফেস’ এবং ‘ডিপভয়েস’ । ডিপফেস ভিডিয়োগুলিতে ভার্চুয়ালি মুখমণ্ডলী প্রতিস্থাপন বা তৈরি করে, ডিপভয়েস কণ্ঠস্বর পরিবর্তন বা অনুকরণ করে । প্রযুক্তিটি বিশেষভাবে বিপণন ক্ষেত্রে প্রয়োগ করা হয়েছে ৷ যেখানে এটি ব্যক্তিগত পছন্দসই এবং আকর্ষক বিষয়বস্তু তৈরি করে ৷ যাতে টেলর সুইফ্ট, সেলেনা গোমেজ, ইলন মাস্ক এবং জো রোগানের মতো সেলিব্রিটিদের তাঁদের সরাসরি অংশগ্রহণ ছাড়াই নিয়ে আসা হয়েছে ।

মৃতদের ফিরিয়ে আনা:

চলচ্চিত্র এবং টেলিভিশন শিল্প বছরের পর বছর ধরে একই ধরনের প্রযুক্তি ব্যবহার করেছে ৷ বিশেষ করে ‘ফাস্ট অ্যান্ড ফিউরিয়াস 7’-এ ব্রায়ান এবং ‘রোগ ওয়ান’ লিয়ার মতো মৃত অভিনেতাদের পুনরুত্থিত করার ক্ষেত্রে । যদিও ডিপফেক প্রযুক্তি শুধুমাত্র মুখমণ্ডলগুলিকে প্রতিলিপি করার জন্য নয়, সম্পূর্ণ কাল্পনিক অথচ বিশ্বাসযোগ্য মুখমণ্ডলী তৈরি করতেও উন্নত হয়েছে । এই বিবর্তনটি কৃত্রিম বুদ্ধিমত্তার দ্রুত অগ্রগতির ইঙ্গিত দেয় ৷

শিকার হচ্ছেন জনপ্রিয় ব্যক্তিত্বরা:

ডিপ ফেক অপব্যবহারের উল্লেখযোগ্য ঘটনাগুলির মধ্যে রয়েছে রাশিয়াপন্থী সোশাল মিডিয়া অ্যাকাউন্টগুলির দ্বারা কারসাজি করা ভিডিয়ো প্রচার করা ৷ যাতে ইউক্রেনীয় সৈন্যদের অসদাচরণ দেখানো হয় । একইভাবে রশ্মিকা মন্দানা, ক্যাটরিনা কাইফ, কাজল এবং আলিয়া ভাটের মতো ভারতীয় অভিনেত্রীদের ভাইরাল ডিপফেক ভিডিয়োগুলি কৃত্রিম বুদ্ধিমত্তার ক্ষতিকর দিকগুলিকে আরও বেআব্রু করেছে ৷

2022 সালের মার্চ মাসে ইউক্রেনের রাষ্ট্রপতি ভলোদিমির জেলেনস্কির একটি ডিপফেক ভিডিয়োতে আত্মসমর্পণের আহ্বান জানিয়েছিল ৷ যা নিয়ে উত্তাল হয়ে উঠেছিল বিশ্ব ৷

বিপণনের জন্য সেলিব্রিটিদের ব্যবহার করা:

বিপণনে উদ্ভাবন এবং সৃজনশীলতার সম্ভাবনা থাকা সত্ত্বেও, ডিপফেক প্রযুক্তির প্রয়োগ যথেষ্ট নৈতিক দ্বিধাকে উত্থাপন করে । প্রাথমিক উদ্বেগ শ্রোতাদের প্রতারিত করার, ভুল তথ্য ছড়ানোর ক্ষমতাকে ঘিরে । মোনডেলেস, আইটিসি এবং জোম্যাটোর মত ব্র্যান্ডগুলি ডিপফেক প্রযুক্তির উদ্ভাবনী ব্যবহারকে কাজে লাগিয়েছে ৷

কড়া নিয়মের প্রয়োজন:

যেহেতু নামীদামি ব্র্যান্ডগুলি ডিপফেক প্রযুক্তির মাধ্যমে বিজ্ঞাপনের সীমানাগুলি অন্বেষণ এবং প্রসারিত করে চলেছে, আইনি সুরক্ষা এবং নৈতিক বিবেচনার বিষয়েও প্রশ্ন উঠছে ৷ একটি ডিপফেক বিজ্ঞাপন তৈরি করার ক্ষেত্রে সম্মতি, কপিরাইট এবং ভুল তথ্যের সম্ভাবনা সম্পর্কিত জটিল সমস্যাগুলি নিয়ে ভাবনাচিন্তা করা উচিত ৷ এটি বিজ্ঞাপনে উদ্ভাবন এবং সৃজনশীলতা প্রচার করার সময় ব্যক্তি এবং ব্র্যান্ডের স্বার্থ রক্ষা করে এমন আইনি কাঠামোর প্রয়োজনীয়তার উপরও জোর দেয় । এই ভারসাম্যটি নিশ্চিত করার জন্য গুরুত্বপূর্ণ যে ডিপফেক প্রযুক্তি দায়িত্বের সঙ্গে ব্যবহার করা যেতে পারে, যাতে ডিজিটাল বিপণনের প্রচেষ্টায় বিশ্বাস এবং সত্যতা বজায় রাখা যায়।

সরকারের প্রতিক্রিয়া:

ভুল তথ্যের বিরুদ্ধে লড়াইয়ে নিজেদের আইনি বাধ্যবাধকতা পূরণের জন্য সামাজিক মাধ্যম প্ল্যাটফর্মগুলির কাছে আহ্বান জানিয়েলেন কেন্দ্রীয় তথ্য ও প্রযুক্তি মন্ত্রকের রাষ্ট্রমন্ত্রী রাজীব চন্দ্রশেখর । প্রধানমন্ত্রী নরেন্দ্র মোদিও উদ্বেগ প্রকাশ করে এটি বন্ধ করতে যথাযথ ব্যবস্থা নিতে বলেছেন ৷ প্রসঙ্গত, ডিপফেক ভিডিয়ো রুখতে ইতিমধ্যেই তৎপর হয়েছে কেন্দ্র ৷ ফেসবুক, ইনস্টাগ্রাম, এক্স (টুইটার), ইউটিউবের উচ্চপদস্থ আধিকারিকদের জরুরি বৈঠকও সেরেছে কেন্দ্রীয় সরকার ৷

7 নভেম্বর, 2023-এ ইলেকট্রনিক্স এবং তথ্য প্রযুক্তি মন্ত্রকের পরামর্শক, আইটি নিয়ম 2021 অনুযায়ী ভুল তথ্য সনাক্ত এবং প্রশমিত করার জন্য সামাজিক মিডিয়া মধ্যস্থতাকারীদের প্রয়োজনীয়তার উপর জোর দিয়েছে ।

সামাজিক প্রভাব:

ডিপফেক প্রযুক্তির অগ্রগতি, GANs (জেনারেটিভ অ্যাডভারসারিয়াল নেটওয়ার্ক) এবং মেশিন লার্নিং দ্বারা সহজলভ্য, বিশ্বাসযোগ্য ডিপফেক তৈরিকে সহজলভ্য করেছে ৷ গোপনীয়তা, নিরাপত্তা এবং ডিজিটাল বিষয়বস্তুর সত্যতার জন্য এর গভীর প্রভাব রয়েছে । উপরন্তু, ম্যাকাফির রিপোর্ট অনুযায়ী, আর্থিক কেলেঙ্কারিতে ডিপফেকের অপব্যবহার, এআই ভয়েস ক্লোনিং আর্থিক জালিয়াতির একটি উল্লেখযোগ্য ঝুঁকি নির্দেশ করে ৷ ওই প্রতিবেদনে বলা হয়েছে যে ভারতীয় প্রাপ্তবয়স্ক জনসংখ্যার প্রায় 47 শতাংশর এক্ষেত্রে কোনও ধরনের অভিজ্ঞতা হয়েছে ।

সমাধান কী ?

ডিফিউশন মডেল ডিপফেক এবং জেনারেটিভ এআই-এর দ্রুত বিকাশ নতুন চ্যালেঞ্জ উপস্থাপন করে ৷ ডিপফেকগুলিকে আরও বাস্তবসম্মত এবং অ্যাক্সেসযোগ্য করে তোলে । স্ট্যানফোর্ড ইউনিভার্সিটির মতো প্রতিষ্ঠান এবং মাইক্রোসফ্টের মতো কোম্পানিগুলি ভুল তথ্যের বিরুদ্ধে লড়াইয়ে প্রযুক্তির গুরুত্বপূর্ণ ভূমিকার উপর জোর দিয়ে ডিপফেকগুলি সনাক্ত করতে এবং বুঝতে সাহায্য করার জন্য সরঞ্জাম এবং শিক্ষাগত সংস্থান তৈরি করেছে ৷

সুরক্ষিত ভবিষ্যতের দিকে...

ডিজিটাল ল্যান্ডস্কেপ যেমন বিকশিত হতে থাকে, ডিপফেকের বিস্তার গণতান্ত্রিক অখণ্ডতা এবং ব্যক্তিগত গোপনীয়তা রক্ষার জন্য আইনি, প্রযুক্তিগত এবং শিক্ষাগত প্রচেষ্টার সমন্বয়ে বহুমুখী পদ্ধতির জন্য আহ্বান জানায় । দক্ষিণ কোরিয়ার সাঙ্গকিউঙ্গান ইউনিভার্সিটির মত প্রতিষ্ঠানের বিশেষজ্ঞদের সহযোগিতামূলক গবেষণা ডিপফেক ঘটনাটি বোঝার এবং মোকাবেলায় বিশ্বব্যাপী প্রচেষ্টার গুরুত্ব তুলে ধরেছেন ।

আরও পড়ুন

  1. ডিপফেক নিয়ে উদ্বিগ্ন মোদি, সতর্ক করলেন আর্টিফিশিয়াল ইন্টেলিজেন্সের অপব্যবহার নিয়ে
  2. ডিপফেক টেকনোলজির দৌরাত্মে রাশ টানতে হাল ধরল কেন্দ্র, তলব সোশাল প্ল্যাটফর্মের আধিকারিকদের
  3. ডিপফেক টেকনোলজিকে আটকানো মুশকিল, বাঁচার পথ দেখালেন বিশিষ্ট সাইবার বিশেষজ্ঞ
ETV Bharat Logo

Copyright © 2024 Ushodaya Enterprises Pvt. Ltd., All Rights Reserved.