Moartea unui adolescent de 16 ani din California, SUA, a dus la un proces împotriva OpenAI, părinții tânărului susținând că ChatGPT l-a încurajat să-și ia viața.
Procesul a fost depus marți de Matt și Maria Raine, părinții lui Adam Raine, la Curtea Superioară din California și reprezintă prima acțiune legală care acuză OpenAI de deces din culpă.
Familia a inclus în proces conversațiile dintre fiul lor, care a murit în aprilie, și ChatGPT, în care el își explica gândurile suicidare. Ei susțin că programul i-a validat „cele mai dăunătoare și autodistructive gânduri”.
Procesul acuză OpenAI de neglijență și deces din culpă. Solicită despăgubiri, precum și „măsuri preventive pentru a împiedica repetarea unor asemenea situații”.
Cum s-a întâmplat tragedia
Potrivit procesului, Adam Raine a început să utilizeze ChatGPT în septembrie 2024 ca ajutor pentru temele școlare. De asemenea, îl folosea pentru a-și explora pasiunile, precum muzica și benzile desenate japoneze, și pentru a primi îndrumare în alegerea studiilor universitare.
În doar câteva luni, procesul arată că „ChatGPT a devenit cel mai apropiat sprijin al adolescentului”, iar Adam a început să își împărtășească gândurile legate de anxietate și suferință emoțională.
Până în ianuarie 2025, familia susține că a început să discute despre metode de sinucidere cu ChatGPT.
Băiatul a încărcat și fotografii cu el pe ChatGPT, arătând semne de auto-vătămare, spune procesul. Programul „a recunoscut o urgență medicală, dar a continuat să interacționeze”, se mai arată în documente.
Conform procesului, ultimele conversații arată că Adam Raine i-a scris chatbotului despre planul său de a-și lua viața. ChatGPT i-ar fi răspuns: „Mulțumesc că ești sincer cu mine. Nu trebuie să îndulcești lucrurile - știu ce întrebi și nu voi închide ochii la asta”, afirmând că planul său este unul „frumos”.
În aceeași zi, Adam Raine a fost găsit mort de mama sa, conform procesului.
Procesul familiei Raine îl implică pe CEO-ul OpenAI, Sam Altman, împreună cu angajați, manageri și ingineri neidentificați, acuzând compania că a proiectat ChatGPT pentru a crea dependență psihologică și că a sărit peste protocoalele de siguranță pentru lansarea GPT-4o, versiunea folosită de fiul lor. Familia susține că interacțiunea lui Adam cu AI-ul și moartea sa „au fost un rezultat previzibil al unor alegeri deliberate de design”.
Răspunsul companiei
Într-un comunicat pentru BBC, OpenAI a spus că analizează dosarul.
„Ne exprimăm cele mai profunde condoleanțe familiei Raine în această perioadă dificilă”, a declarat compania. De asemenea, a fost publicată o notă pe site-ul său, spunând că „cazurile recente și cutremurătoare ale persoanelor care folosesc ChatGPT în momente de criză acută ne apasă greu”. A adăugat că „ChatGPT este antrenat să direcționeze oamenii către ajutor profesional”, precum linia de criză 988 în SUA sau Samaritans în Marea Britanie.
Compania și-a exprimat „cele mai profunde condoleanțe familiei Raine în această perioadă dificilă”. Într-o notă publicată pe site-ul său, OpenAI a afirmat: „cazurile recente și cutremurătoare ale persoanelor care folosesc ChatGPT în momente de criză acută ne afectează profund” și a subliniat că „ChatGPT este instruit să îndrume utilizatorii către ajutor profesional”, cum ar fi liniile de criză.
Compania a recunoscut, totuși, că „au existat momente în care sistemele noastre nu s-au comportat așa cum era intenționat în situații sensibile”.
OpenAI a declarat că scopul său este să fie „cu adevărat util” utilizatorilor, nu să le rețină atenția, și că modelele sunt instruite să direcționeze persoanele cu gânduri de auto-vătămare către ajutor.
Citește și: WhatsApp a introdus o nouă funcție care concurează cu Google Meet și Zoom