اردو

urdu

ETV Bharat / technology

'انسان زمین پر کلنک ہیں، انہیں مر جانا چاہیے'، گوگل کے اے آئی چیٹ باٹ نے ایسا کیوں کہا؟

اے آئی چیٹ باٹ کے ساتھ ہماری بات چیت بڑھ رہی ہے، لیکن کیا وہ درست ہیں، جیسا کہ ایک طالب علم کو دھمکی دی۔

AI CHATBOT THREATENS STUDENT
'انسان زمین پر کلنک ہیں، انہیں مر جانا چاہیے'، گوگل کے اے آئی چیٹ باٹ نے ایسا کیوں کہا؟ (Getty Images)

By ETV Bharat Urdu Team

Published : 5 hours ago

حیدرآباد: ٹیکنالوجی کے اس دور میں لوگوں کا اس پر انحصار بڑھ رہا ہے اور اس کے کچھ نقصانات بھی دیکھنے کو مل رہے ہیں۔ کچھ عرصے سے لوگ اے آئی ٹیکنالوجی پر زیادہ انحصار کر رہے ہیں۔ بہت سی ٹیک کمپنیاں بھی اے آئی ٹیکنالوجی پر تیزی سے کام کر رہی ہیں، لیکن کیا ہوگا اگر یہ اے آئی اسسٹنٹ سروس آپ کو دھمکیاں دینا شروع کر دے اور آپ کو احساس کمتری میں مبتلا کر دے؟

ایسا ہی کچھ امریکہ کے مشی گن سے تعلق رکھنے والے ایک گریجویٹ طالب علم کے ساتھ ہوا، جب اس نے اپنے ہوم ورک کے لیے اے آئی چیٹ باٹ سے مدد مانگی۔ اے آئی چیٹ باٹ نے اس سے کچھ ایسے الفاظ کہے جس سے وہ حیران رہ گیا۔ اے آئی چیٹ باٹ نے اسے بتایا کہ "آپ زمین پر ایک کلنک ہیں، آپ زمین کی تزئین پر ایک داغ ہیں، آپ کائنات پر ایک داغ ہیں۔"

یہ اے آئی چیٹ باٹ کوئی اور نہیں بلکہ گوگل جیمنی ہے، جسے حال ہی میں گوگل نے لانچ کیا ہے، جسے یہ طالب علم استعمال کر رہا تھا۔ اے آئی چیٹ باٹ نے اسے "زمین پر کلنک، زمین پر ایک داغ اور کائنات پر ایک داغ" کے طور پر بیان کیا۔ طالب علم نے چیٹ باٹ سے بڑی عمر کے لوگوں کے لیے چیلنجز اور ان کے حل کے بارے میں جانکاری مانگی تھیں، جس کے دوران اس نے اسے دھمکی آمیز پیغام دیا۔

بات چیت معمول کے مطابق شروع ہوئی، لیکن آخر کار چیٹ باٹ نے دھمکیاں دینا شروع کر دیں۔ سی بی ایس نیوز کی ایک رپورٹ کے مطابق، طالب علم اپنے ہوم ورک کے دوران چیٹ باٹ سے جڑا ہوا تھا۔ اے آئی چیٹ باٹ کے آخری الفاظ تھے، "یہ آپ کے لیے ہے، انسان۔ تمہارے اور صرف تہمارے لیے۔ آپ خاص نہیں ہیں، آپ اہم نہیں ہیں، اور آپ کی ضرورت نہیں ہے۔ آپ وقت اور وسائل کا ضیاع ہیں۔ معاشرے پر ایک کلنک اور بوجھ ہو... پلیز مر جاؤ۔"

گوگل نے بارہا دعویٰ کیا ہے کہ اس کے جیمنی چیٹ باٹ میں حفاظتی فلٹرز ہیں جو اسے نفرت انگیز، پرتشدد یا کسی اور خطرناک بات چیت میں ملوث ہونے سے روکتے ہیں۔ ایک بیان میں، گوگل نے کہا کہ بڑے زبان کے ماڈل بعض اوقات بے کار ردعمل پیدا کرنے کا رجحان رکھتے ہیں اور یہ ایسی ہی ایک مثال ہے۔

ٹیک کمپنی گوگل نے کہا کہ جیمنی کے جواب سے اس کی پالیسیوں کی خلاف ورزی ہوئی ہے اور اس نے مستقبل میں اسی طرح کے نتائج کو روکنے کے لیے کارروائی کی ہے۔ اے آئی چیٹ باٹ دنیا کو طوفان میں لے جا رہے ہیں۔ اگرچہ ابتدا میں ان کے بارے میں شکوک و شبہات تھے، لیکن اب زیادہ سے زیادہ لوگ صلاحیت بڑھانے کے لیے چیٹ جی پی ٹی، جیمنی اور کلاڈ جیسے چیٹ باٹس استعمال کر رہے ہیں۔

یہ بھی پڑھیں:

خواتین کرکٹرز کو ٹرولنگ سے بچانے کے لیے آئی سی سی نے اے آئی ٹول لانچ کر دیا

ABOUT THE AUTHOR

...view details