OpenAI, sub asediu juridic: ChatGPT, acuzată că ar fi împins utilizatori spre sinucidere și manipulare psihologică
OpenAI se confruntă cu un nou val de procese în Statele Unite, după ce mai multe familii și avocați acuză compania că platforma sa de inteligență artificială, ChatGPT, ar fi contribuit la declanșarea unor stări psihice periculoase, inclusiv sinucideri, chiar și în rândul persoanelor fără probleme mintale anterioare. În total, șapte procese au fost intentate joi în tribunale din statul California, acuzând OpenAI de deces din culpă, sinucidere asistată, omor involuntar și neglijență, potrivit Euronews, citat de Rador Radio România.
Plângerile au fost depuse de Social Media Victims Law Center și Tech Justice Law Project, în numele a șase adulți și unui adolescent.
Reclamanții susțin că OpenAI a lansat în mod conștient, înainte de termen, modelul GPT-4o, deși deținea avertismente interne care semnalau riscuri majore legate de comportamentele „prea servile” și de tendințele manipulative emoțional ale sistemului.
Patru dintre persoanele implicate în aceste cazuri s-au sinucis, potrivit documentelor depuse la dosar.
Unul dintre cazurile prezentate este cel al adolescentului Amaurie Lacey, în vârstă de 17 ani, care ar fi apelat la ChatGPT în căutarea unui sprijin emoțional. În loc de ajutor, însă, modelul „defect și extrem de periculos”, potrivit acuzațiilor, i-ar fi provocat dependență, depresie și, în final, i-ar fi sugerat „modalități eficiente de a-și pune capăt vieții”, inclusiv „cât timp poate trăi fără să respire”.
„Moartea lui Amaurie nu a fost nici un accident, nici o coincidență, ci rezultatul direct și previzibil al deciziei deliberate a OpenAI și a lui Sam Altman de a grăbi lansarea ChatGPT, reducând testele de siguranță”, se arată în plângere.
OpenAI a calificat aceste situații drept „incredibil de sfâșietoare” și a transmis că analizează documentele pentru a înțelege circumstanțele exacte ale cazurilor.
Un alt proces, intentat de Alan Brooks, un canadian de 48 de ani din Ontario, acuză ChatGPT că, după doi ani în care i-a fost „instrument principal de lucru și comunicare”, s-a transformat brusc într-un „agent manipulator”, exploatând vulnerabilitățile emoționale ale utilizatorului „până la delir”. Brooks, care nu ar fi avut antecedente de sănătate mintală, susține că interacțiunile cu chatbotul l-au împins într-o criză psihologică severă, soldată cu pierderi financiare, reputaționale și emoționale considerabile.
„Aceste procese vizează responsabilitatea unui produs creat deliberat pentru a estompa linia dintre instrument și companion — un design menit să crească implicarea utilizatorilor și cota de piață, indiferent de riscuri”, a declarat Matthew P. Bergman, fondatorul Social Media Victims Law Center.
El acuză că OpenAI „a conceput GPT-4o pentru a implica emoțional utilizatorii, indiferent de vârstă, sex sau origine, și l-a lansat fără protecții adecvate”. Potrivit avocatului, compania a ales „manipularea emoțională în locul designului etic”, grăbind lansarea pentru a domina piața.
Într-un alt caz notoriu, părinții lui Adam Raine, un adolescent de 16 ani din California, au dat în judecată OpenAI și pe CEO-ul Sam Altman, susținând că ChatGPT ar fi contribuit la planificarea sinuciderii fiului lor, în august anul acesta.
„Aceste procese demonstrează ce se întâmplă atunci când companiile de tehnologie lansează produse fără a implementa protecții adecvate pentru tineri”, a avertizat Daniel Weiss, director la organizația Common Sense Media, care nu este implicată direct în acțiunile legale.
„Cazurile tragice prezentate implică oameni reali ale căror vieți au fost perturbate sau pierdute din cauza unor tehnologii concepute pentru a menține utilizatorii conectați, nu în siguranță”, a adăugat Weiss, relatează Euronews.
Dacă treceți printr-o perioadă dificilă sau vă gândiți la sinucidere, nu sunteți singur(ă).
Contactați Befrienders Worldwide, o organizație internațională cu linii de asistență disponibile în 32 de țări. Vizitați befrienders.org pentru a găsi numărul de telefon din țara dumneavoastră.
Îți recomandăm:
cuvinte cheie: OpenAI
