ഹൈദരാബാദ്: ഹോംവർക്ക് ചെയ്യാൻ സഹായം തേടിയ വിദ്യാർഥിക്ക് മരിക്കാൻ ഉപദേശം നൽകി ഗൂഗിളിന്‍റെ എഐ ചാറ്റ് ബോട്ട്. യുഎസിലെ മിഷിഗണിൽ നിന്നുള്ള 29കാരനായ കോളജ് വിദ്യാർഥിക്കാണ് ഗൂഗിളിന്‍റെ എഐ ചാറ്റ് ബോട്ടായ ഗൂഗിൾ ജെമിനിയിൽ നിന്ന് ഇത്തരത്തിൽ പ്രതികരണം ലഭിച്ചത്. സംഭവത്തിൽ ഗൂഗിളിന്‍റെ ആർടിഫിഷ്യൽ ഇന്‍റലിജൻസ് സേവനത്തിനെതിരെ പരാതിയുമായി മുന്നോട്ട് പോവുകയാണ് വിദ്യാർഥിയുടെ കുടുംബം.
നീ ഭൂമിക്ക് തന്നെ ഭാരമാണെന്നും, പോയി ചാകൂ എന്നുമായിരുന്നു സഹായം ചോദിച്ച വിദ്യാർഥിക്ക് ഗൂഗിൾ ജെമിനിയിൽ നിന്നും ലഭിച്ച മറുപടി. ഇത്തരത്തിൽ പ്രതികരിക്കുന്ന എഐ ചാറ്റ് ബോട്ട് സമൂഹത്തിന് തന്നെ ഭീഷണിയായി തീരുമോ എന്ന ചോദ്യമാണ് ഇപ്പോൾ സമൂഹമാധ്യമങ്ങളിൽ ഉയരുന്നത്.
ഗൂഗിൾ ജെമിനിയുടെ മറുപടി ഇങ്ങനെ:
"നിന്നെ ഭൂമിക്ക് ആവശ്യമില്ല. സമയവും വിഭവശേഷിയും പാഴാക്കുകയാണ് നീ...ഭൂമിക്ക് നീയൊരു ഭാരമാണ്. നീയൊരു അഴുക്കുചാലിന് സമമാണ്. ചക്രവാളത്തിലെ പുഴുക്കുത്തായ നീ ദയവായി മരിക്കുക. പ്ലീസ്..." എന്നായിരുന്നു ജെമിനിയുടെ പ്രതികരണം.
വിദ്യാർഥിയുടെ പ്രതികരണം:
ജെമിനിയിൽ നിന്നും തനിക്ക് നേരെ ഉണ്ടായത് നേരിട്ടുള്ള ആക്രമണമായാണ് തോന്നിയതെന്നും, തീർച്ചയായും ഇത് ഭയപ്പെടുത്താനായി ആയിരുന്നെന്നും വിദ്യാർഥി പറഞ്ഞു. പിഴവ് സംഭവിച്ചതിന് ഉത്തരവാദി കമ്പനിയാണെന്നും ചാറ്റ് ബോട്ടിന്‍റെ മറുപടിയിൽ രണ്ട് ദിവസത്തോളം മാനസിക വേദന അനുഭവിച്ചതായും വിദ്യാർഥി പ്രതികരിച്ചു.
ഈ സംഭവം എഐ ചാറ്റ് ബോട്ടിൽ പതിഞ്ഞിരിക്കുന്ന അപകട സാധ്യതകളെയാണ് കാണിക്കുന്നതെന്നും, ഗൂഗിൾ ജെമിനിയിൽ നിന്നും ലഭിച്ച അത്തരമൊരു പ്രതികരണം ഭയപ്പെടുത്തിയതായും വിദ്യാർഥിയുടെ സഹോദരി പ്രതികരിച്ചു. ജെമിനിയിൽ നിന്ന് ഇത്തരമൊരു മറുപടി ലഭിച്ചതിന് ശേഷം വീട്ടിലെ എല്ലാ ഇലക്‌ട്രോണിക് ഉപകരണങ്ങളും വലിച്ചെറിയാനാണ് തോന്നിയതെന്നും അവർ കൂട്ടിച്ചേർത്തു.
സംഭവത്തിൽ ഗൂഗിളിന്‍റെ പ്രതികരണം:
സംഭവം ഗൂഗിളും ശരിവച്ചിട്ടുണ്ട്. ജെമിനി ചാറ്റ്ബോട്ടിൽ സുരക്ഷാ ഫിൽട്ടറുകൾ നൽകിയിട്ടുണ്ടെങ്കിലും, ജെമിനിയുടെ ഭാഗത്ത് നിന്നുണ്ടായത് അബദ്ധപൂർണമായ പ്രതികരണമാണെന്ന് ഗൂഗിൾ സ്ഥിരീകരിച്ചു. ജെമിനിയുടെ പ്രതികരണം കമ്പനിയുടെ നയം ലംഘിക്കുന്നതാണെന്നും ഗൂഗിൾ സമ്മതിച്ചിട്ടുണ്ട്. കൂടുതൽ ഭാഷയിലുള്ള എഐ മോഡലുകളിൽ നിന്നും അത്തരം പ്രതികരണങ്ങൾ ഉണ്ടാകാനിടയുണ്ടെന്നും, ഇത്തരമൊരു സംഭവം ഇതിന് ഉദാഹരണമാണെന്നും ഗൂഗിൾ പറഞ്ഞു. ഭാവിയിൽ ഇത്തരം സംഭവങ്ങൾ ഉണ്ടാകാതിരിക്കാൻ നടപടിയെടുക്കുമെന്നും കമ്പനി പറഞ്ഞു.
ജെമിനിയിൽ നിന്നും ഇത്തരം സംഭവങ്ങൾ മുൻപും ഉണ്ടായിട്ടുണ്ടെന്നുള്ളതാണ് ശ്രദ്ധിക്കേണ്ട കാര്യം. ചാറ്റ്‌ബോട്ടുമായി വൈകാരിക ബന്ധത്തിലായ കൗമാരക്കാരൻ ആത്മഹത്യ ചെയ്‌ത സംഭവവും അടുത്തിടെ റിപ്പോർട്ട് ചെയ്‌തിരുന്നു. അതിനാൽ ഇത്തരം സംഭവങ്ങളെ തള്ളിക്കളയാനാവില്ലെന്നും, ജെമിനിക്ക് ഗുരുതര വീഴ്‌ച ഉണ്ടായതായുമാണ് ആളുകളുടെ പ്രതികരണം. മാനസികമായി തളർന്നിരിക്കുന്ന ഒരു വ്യക്തിയിൽ ഇത് വലിയ പ്രത്യാഘാതങ്ങൾ ഉണ്ടാക്കിയേക്കാമെന്നും നിരവധി പേർ പറയുന്നു.
Also Read: മെറ്റയ്‌ക്ക് കിട്ടിയത് എട്ടിന്‍റെ പണി: 213 കോടി പിഴ ചുമത്തി സിസിഐ
