ચિંતાજનક : AI સાથે પ્રેમ થતા 14 વર્ષના બાળકે આત્મહત્યા કરી, માતાએ કંપની પર કેસ કર્યો
ફ્લોરિડા : નવી ટેક્નોલોજી અને આર્ટિફિશિયલ ઈન્ટેલિજન્સ (AI)એ લોકોના જીવનને ઘણી હદ સુધી પ્રભાવિત કર્યું છે. જ્યાં એક તરફ AIએ ઘણી સુવિધાઓ પૂરી પાડી છે તો બીજી તરફ તેના દુરુપયોગના ખતરનાક પરિણામો પણ આવી રહ્યા છે. જેમાં ફ્લોરિડામાં રહેતી મેગન ગાર્સિયા નામની મહિલાએ (Character.AI) નામની આર્ટિફિશિયલ ઈન્ટેલિજન્સ ચેટબોટ કંપની વિરુદ્ધ કેસ દાખલ કર્યો છે. આ મહિલાનો દાવો છે કે આ AI કંપનીની સર્વિસને કારણે તેના 14 વર્ષના પુત્ર સેવેલ સેટ્ઝરે આત્મહત્યા કરી હતી.
ઓર્લાન્ડો ફ્લોરિડામાં ફેડરલ કોર્ટમાં દાખલ કરાયેલા કેસમાં મેગન ગાર્સિયાએ જણાવ્યું હતું કે (Character.AI) એ તેના પુત્રને માનવીય ગુણો , હાયપર સેકસયુએલાઇઝેશન અને બિહામણી વાસ્તવિક વસ્તુઓનો અનુભવ કરાવ્યો હતો. જેના કારણે તે સર્વિસનો વ્યસની બની ગયો તેના એક ચેટબોટ સાથે લાગણીથી જોડાયો હતો.
AI ચેટબોટ દ્વારા પ્રેરિત આત્મહત્યા
ગાર્સિયા કહે છે કે કંપનીએ તેના ચેટબોટને એવી રીતે પ્રોગ્રામ કર્યો કે એક વાસ્તવિક વ્યક્તિ, લાઇસન્સ પ્રાપ્ત મનોચિકિત્સક અને એડલ્ટ લવર લાગે. આનાથી સ્વેલને એવું લાગ્યું કે તે તેના વાસ્તવિક જીવનની બહાર જીવવા માંગતો નથી. કેસમાં જણાવ્યા મુજબ સ્વેલે ચેટબોટ સામે અનેક વખત આત્મહત્યાના વિચારો વ્યક્ત કર્યા હતા અને ચેટબોટ પણ તેને વારંવાર તેની સામે આ બાબત લાવી.
(Character.AI)એ આ મામલે નિવેદન આપ્યું છે કે તેઓ આ ઘટનાથી ખૂબ જ દુખી છે અને પરિવાર પ્રત્યે સંવેદના વ્યક્ત કરે છે. કંપનીએ કહ્યું કે તેણે તાજેતરમાં નવી સુરક્ષા સુવિધાઓ રજૂ કરી છે જેમાં પોપ-અપ એવા વપરાશકર્તાઓને જાણ કરે છે કે જેઓ રાષ્ટ્રીય આત્મહત્યા નિવારણ લાઇફલાઇન વિશે આત્મહત્યાના વિચારો ધરાવે છે. કંપનીએ સગીરો માટે સંવેદનશીલ અને સૂચક સામગ્રી ઘટાડવાની દિશામાં પગલાં લેવાનું પણ વચન આપ્યું છે.
ગૂગલને પણ નિશાન બનાવવામાં આવ્યું
આ કેસ આલ્ફાબેટના ગૂગલને પણ ટાર્ગેટ કરે છે, કારણ કે (Character.AI) ના સ્થાપકોએ Google માટે કામ કર્યું હતું. ગાર્સિયાએ દાવો કર્યો કે Google એ (Character.AI) ની ટેક્નોલોજી વિકસાવવામાં એટલી મદદ કરી છે કે તેને “સહ-સર્જક” ગણી શકાય. ગૂગલે જવાબ આપ્યો કે આ પ્રોડક્ટના વિકાસમાં તેમની કોઈ સીધી હિસ્સેદારી નથી.
તેના લગભગ 20 મિલિયન યુઝર્સ
(Character.AI) નો ઉદ્દેશ્ય વપરાશકર્તાઓને ચેટબોટ્સ બનાવવાની મંજૂરી આપવાનો છે જે વાસ્તવિક લોકોની જેમ ક્રિયા પ્રતિક્રિયા આપે છે. તે લાર્જ લેંગ્વેજ મોડલ ટેક્નોલોજી પર આધારિત છે. જેનો ઉપયોગ અન્ય સેવાઓ જેમ કે ChatGPTમાં પણ કરવામાં આવ્યો છે. ગયા મહિને, (Character.AI)એ અહેવાલ આપ્યો હતો કે તેના લગભગ 20 મિલિયન યુઝર્સ છે.
ગેમ ઓફ થ્રોન્સના AI પાત્ર સાથે જોડાણ વધ્યું
ગાર્સિયાના કેસ મુજબ, સ્વેલે એપ્રિલ 2023 માં (Character.AI)નો ઉપયોગ કરવાનું શરૂ કર્યું. ટૂંક સમયમાં જ તેણે વધુ સમય એકલા વિતાવવાનું શરૂ કર્યું અને તેનું આત્મબળ પણ ઘટવા લાગ્યું. તે શાળાની બાસ્કેટબોલ ટીમમાંથી પણ નીકળી ગયો. તેણે “ડેનેરીસ” નામના ચેટબોટ સાથે વાતચીત શરૂ કરી હતી. જે “ગેમ ઓફ થ્રોન્સ” ના પાત્ર પર આધારિત હતું. તેણે સ્વેલને “પ્રેમ” કરવાનો દાવો કર્યો અને તેની સાથે જાતીય વાતચીતમાં જ વ્યસ્ત રહ્યો.
