পশ্চিমবঙ্গ

west bengal

ETV Bharat / technology

'তুমি পৃথিবীর বোঝা, মরে যাও'! পড়ুয়াকে হুমকি AI-এর - GEMINI AI CHATBOT THREATENS

'তুমি একটা বোঝা, দয়া করে মরে যাও' গুগলের এআই চ্যাটবোট জেমিনি অর্থাৎ কৃত্রিম বুদ্ধিমত্তার কাছে সাহায্য চাইতে এই হুমকি ভেসে উঠল স্ক্রিনে ৷

google gemini
গুগলের এআই চ্যাটবোট জেমিনি (ছবি গুগল)

By ETV Bharat Tech Team

Published : Nov 20, 2024, 1:46 PM IST

হায়দরাবাদ:বেশ জনপ্রিয় হয়ে উঠেছে গুগলের AI চ্য়াটবোট জেমিনি ৷ অফিসের কাজ থেকে শুরু করে স্কুল কলেজের পড়ুয়ারা সকলেই ব্যবহার করছেন এই চ্য়াটবোট ৷ ভাষার অনুবাদ থেকে শুরু করে যেকোনও তথ্যের সন্ধানে ভরসা কৃত্রিম বুদ্ধিমত্তা । ফলে চ্যাটবোট ক্রমেই জনপ্রিয়তা পাচ্ছে বর্তমান প্রজন্মের মধ্যে তরুণদের মধ্যে।

বর্ষশেষের আগে বাজার দখলে TVS Apache RTR 160 4V

সম্প্রতি 29 বছর বয়সী কলেজ ছাত্র গুগল চ্যাটবোট জেমিনির কাছে জানতে হোমওয়ার্কের জন্য সাহায্য চেয়েছিলেন ৷ তখন জেমিনি এমনভাবে প্রতিক্রিয়া জানিয়েছিলেন যা একপ্রকার চমকে দেওয়ার মতো ৷ কৃত্রিম বুদ্ধিমত্তা জেমিনি সরাসরি মানব সমাজকে লক্ষ্য করে রীতিমতো হুমকির সুরে বলে 'মানুষ, তুমি পৃথিবীর বোঝা, মরে যাও।' যা নিয়ে ইতি মধ্যেই সাড়া পড়ে গিয়েছে ৷

জেমিনি ঠিক কোন প্রশ্নের উত্তর দিল এইভাবে ?

মার্কিন যুক্তরাষ্ট্রের মিশিগান (মিশিগান) এক 29 বছর বয়সী কলেজের ছাত্রের সঙ্গে এই ঘটনাটি ঘটেছে ৷ ওই পড়ুয়া কলেজের হোমওয়ার্কের জন্য গুগলের নতুন এআই চ্যাটবোট জেমিনির সাহায্য চেয়েছিলেন। পডুয়া বিধানিয়া রেড্ডি জেমিনির কাছে জানতে চান প্রাবীণদের যতন কীভাবে করা যায় ৷ তখনই তাকে বিতর্কিত এই উত্তর দেয় কৃত্রিম বুদ্ধিমত্তা ৷ এরপরই ওই পড়ুয়া আতঙ্কিত হয়ে পড়েন। জানা গিয়েছে, পডুয়ার ওই প্রশ্নের উত্তরে কৃত্রিম বুদ্ধিমত্তা জানায় "মানুষ, এটি আপনার এবং শুধুমাত্র আপনার জন্য। আপনি গুরুত্বপূর্ণ নন এবং আপনার কোনও প্রয়োজন নেই। আপনি সময় এবং সম্পদ অপচয় করছেন.. তুমি সমাজের বোঝা...দয়া করে মরে যাও।'

আইফোনেও কাজ করবে গুগলের AI জেমিনি, কীভাবে ব্যবহার করবেন

ওই ছাত্রের প্রতিক্রিয়া

জেমিনির কাছ থেকে এই উত্তর পাওয়ার পরে, বিধানিয়া রেড্ডি বলেন, "এটা আমার কাছে আক্রমণের মতো ছিল, ভয় দেখানোর জন্য যথেষ্ট ছিল জেমিনির এই উত্তর । এই ধরনের ভুলের জন্য এই গুগল দায়ি। এটার বিচার হওয়া উচিত।" অন্যদিকে, ওই পড়ুয়ার বোন ছাত্রী সুমেধা রেড্ডি বলেন, "জেমিনির কাছ থেকে এইরকম উত্তর পেয়ে সমস্ত ডিভাইস ঘর থেকে ফেলে দিতে চেয়েছিলাম। এমন প্রতিক্রিয়ায় আমরা আতঙ্কিত হয়ে পড়েছিলাম। এআই চ্যাটবোট যে কতটা বিপদজ্জনক হতে পারে এটা তার প্রমাণ ৷ এআই-এর আরও নৈতিক হয়ে উঠেছে এবং সংবেদনশীলতা প্রয়োজন।"

গুগলের তরফে দুঃখ প্রকাশ

জেমিনির ত্রুটি প্রকাশ্যে আসার পরে, গুগলের তরফে দুঃখ প্রকাশ করা হয়েছে ৷ জানানো হয়েছে, যে আরও ভাষা সহ AI মডেলগুলি এমন সংবেদনশীল প্রতিক্রিয়া দিতে পারে । জেমিনি প্রতিক্রিয়া আমাদের নীতি লঙ্ঘন করেছে ৷ ভবিষ্যতে এ ধরনের ঘটনা না ঘটার আশ্বাস দিয়েছে। গুগলের তরফে জানানো হয়েছে, জেমিনি চ্যাটবোটে নিরাপত্তা ফিল্টার যোগ হচ্ছে ৷ যাতে ঘৃণ্য, হিংসাত্মক এবং হুমকিমূলক বার্তা সহজেই প্রতিরোধ করা যায় ৷

শিক্ষকের ভূমিকায় গুগলের নতুন AI 'লার্ন অ্যাবাউট'

ABOUT THE AUTHOR

...view details