Trei foști cercetători de la OpenAI, concediați pentru că ar fi gestionat greșit informațiile sensibile, susțin că, de fapt, au fost dați afară după ce au ridicat semne de întrebare privind siguranța în cadrul firmei tehnologice.
"Cred că am fost concediați pentru că am prioritizat siguranța în fața intereselor pe termen scurt ale OpenAI”, a postat Mikita Balesni pe platforma X, alături de o scrisoare deschisă adresată creatorului ChatGPT, scrisă împreună cu ceilalți foști angajați, potrivit BBC.
Pe 2 octombrie, un purtător de cuvânt al firmei de AI a declarat pentru BBC că investigația sa „a confirmat că aceste persoane au gestionat greșit informații sensibile în afara procedurilor stabilite ale companiei”.
"O încălcare semnificativă a încrederii"
OpenAI a repetat aceste afirmații vineri dimineață, într-o notă trimisă de liderii echipei de cercetare. "Dorim să fim foarte clari că aceste decizii nu au avut legătură cu ridicarea unor probleme de siguranță sau cu exprimarea publică a unor opinii”, se arată în notă.
"Investigația noastră internă a scos la iveală o încălcare semnificativă a încrederii, dincolo de ceea ce este prezentat în scrisoarea publicată de ei, și ne menținem decizia de a nu le mai prelungi contractele de muncă.”
Concedierile vin pe fondul unei dezbateri tot mai aprinse privind siguranța inteligenței artificiale și riscurile potențiale pe care sistemele avansate de AI le-ar putea reprezenta pentru societate.
Scrisoarea comună adresată conducerii OpenAI a fost scrisă de Balesni, Tomek Korbak și Jasmine Wang, care afirmă că, până de curând, au fost cu toții angajați în departamentele de siguranță sau „aliniere” (alignment) din cadrul companiei.
Alinierea este practica de a integra ideile și principiile etice umane în tehnologie. Cu alte cuvinte, scopul ei este de a menține tehnologia pe aceeași linie cu valorile umane.
"Pierdem capacitatea de a monitoriza ce gândesc agenții AI"
Foștii membri ai personalului și-au exprimat îngrijorarea că demiterile lor i-au făcut pe angajații companiei tehnologice "să se teamă să vorbească și să acționeze”.
Repostând scrisoarea, Korbak a scris: "Luni de zile am atras atenția asupra unor probleme de siguranță și anume că pierdem capacitatea de a monitoriza ce gândesc agenții AI, acesta fiind unul dintre cele mai bune instrumente ale noastre pentru a depista când aceștia au un comportament greșit.”
"Cred că acesta a fost motivul pentru care am fost concediat”, a mai spus acesta.
OpenAI a declarat că finalizează contractele cu evaluatori externi de siguranță și că va anunța detalii în săptămânile următoare.
"Nu am fost primii care au fost înlăturați de la OpenAI în circumstanțe suspecte. Dacă angajații nu iau atitudine acum împotriva acestui tip de manevră, mă tem că nu vom fi ultimii”, a declarat Wang într-o postare pe X.