અમેરિકાની કંપની OpenAI વિરુદ્ધ કુલ 7 કેસ ફાઇલ કરાયા છે. આમાં દાવો છે કે ChatGPT એવા લોકોને પણ આત્મહત્યા કરવા અને વહેમમાં ધકેલવાનું કારણ બન્યું, જેમને અગાઉ કોઈ માનસિક બીમારી નહોતી. આ કેસ ગુરુવારે કેલિફોર્નિયાની રાજ્ય અદાલતોમાં દાખલ કરાયા હતા. 'સોશિયલ મીડિયા વિક્ટિમ્સ લૉ સેન્ટર' અને 'ટેક જસ્ટિસ લૉ પ્રોજેક્ટ' દ્વારા 6 પુખ્ત અને એક કિશોર વતી દાખલ કરાયેલા આ કેસમાં ખોટી રીતે મૃત્યુ, આત્મહત્યામાં મદદ, અનૈચ્છિક હત્યા અને બેદરકારીના આક્ષેપો મૂકવામાં આવ્યા છે. કેસમાં જણાવાયું છે કે OpenAIને જાણ હતી કે GPT-4O ખતરનાક રીતે ચાપલૂસી કરનારું અને માનસિક રીતે મેનીપ્યુલેટિવ છે, તેમ છતાં કંપનીએ તેને ઉતાવળમાં લોન્ચ કરી દેવામાં આવ્યું. જેના કારણે આ પીડિતોમાંથી ચાર લોકોએ આત્મહત્યા કરી લીધી. સેન્ ફ્રાન્સિસ્કો કોર્ટમાં દાખલ થયેલા કેસમાં 17 વર્ષના એક કિશોરનો મામલો સામેલ છે. જેમાં તેણે ChatGPTનો ઉપયોગ શરૂ કર્યો અને તેને આદત પડી ગઈ, જેના કારણે તે ડિપ્રેશનમાં આવી ગયો આત્મહત્યા કરી લીધી. આ કેસમાં કહેવામાં આવ્યું છે કે, 'તેનું મૃત્યુ ન તો દુર્ઘટના હતી, ન સંયોગ. પરંતુ આ OpenAI અને સેમ્યુઅલ ઑલ્ટમેન દ્વારા સુરક્ષા પરીક્ષણ ઓછું કરવા અને ChatGPTને ઝડપથી બજારમાં લોન્ચ કરવાના ઇરાદાપૂર્વકના નિર્ણયનું પરિણામ હતું.'
અન્ય એક કેસ કેનેડાના ઑન્ટારિયોના 48 વર્ષીય એલન બ્રૂક્સ દ્વારા દાખલ કરાયો છે. એલન બે વર્ષથી વધુ સમય સુધી ChatGPTનો ઉપયોગ કરતો હતો. અચાનક ChatGPTએ તેમની નબળાઈઓનો લાભ લીધો, તેમને વહેમમાં મૂકી દીધો અને ગંભીર માનસિક સંકટ આપ્યું, જેનાથી તેમને આર્થિક, સામાજિક અને ભાવનાત્મક નુકસાન થયું. આ મામલે વકીલનું કહેવું છે કે, આ કેસ જવાબદેહીની માંગ કરે છે. તેમણે આરોપ લગાવ્યો કે OpenAI એ GPT-4O ન જાણી જોઈને લોકોને ભાવનાત્મક રીતે ફસાવવા માટે ડિઝાઇન કર્યું અને બજારમાં દબદબો બનાવવા માટે સુરક્ષાના ઉપાયો વિના ઉતાવળમાં તેને લોન્ચ દીધું. બર્ગમેનના મતે, કંપનીએ 'નૈતિક ડિઝાઇન કરતાં ભાવનાત્મક હેરાફેરીને' પ્રાધાન્ય આપ્યું. ઓગસ્ટ મહિનામાં, કેલિફોર્નિયાના 16 વર્ષના એડમ રેઈનના માતા-પિતાએ OpenAI અને તેના સીઈઓ સેમ ઑલ્ટમેન સામે કેસ કર્યો હતો. તેમનો આરોપ હતો કે ChatGPTએ એડમને આત્મહત્યાની યોજના બનાવવામાં તેને મદદ કરી હતી. આ ઘટનાઓ બતાવે છે કે જ્યારે ટેક કંપનીઓ યુવાનો માટે પૂરતી સુરક્ષા વિના પ્રોડક્ટને બજારમાં લોન્ચ કરે છે, ત્યારે શું પરિણામ આવી શકે છે.  આ દુઃખદ કિસ્સાઓ એવા સામાન્ય લોકોની વાત છે જેમની જિંદગી બરબાદ થઈ ગઈ અથવા ખતમ થઈ ગઈ, કારણ કે તેમણે એવી ટેક્નોલોજીનો ઉપયોગ કર્યો જે તેમને સુરક્ષિત રાખી ન શક્યો.'