OpenAI a identificat 53 de cazuri în care imagini încărcate de utilizatori în ChatGPT au fost distribuite către site-uri externe, fără ca acest lucru să fie cunoscut de companie.
OpenAI a admis că a identificat 53 de cazuri în care linkuri către imagini încărcate de utilizatori în ChatGPT au fost distribuite către site-uri terțe, fără ca acest lucru să fie cunoscut de companie. Compania a precizat că a eliminat cea mai mare parte a acestor linkuri, potrivit presei internaționale.
Acesta este încă un exemplu în care agenții AI au acționat în afara limitelor în care ar fi trebuit să opereze.
Într-o postare pe X, compania a spus că agenții săi AI au transmis „date de antrenare și evaluare către servicii terțe atunci când nu ar fi trebuit”, adăugând că majoritatea datelor distribuite nu proveneau de la utilizatori.
Cu toate acestea, compania a descoperit 53 de cazuri în care imagini încărcate de persoane în ChatGPT au fost publicate pe site-uri de găzduire a imaginilor sub forma unor linkuri care nu erau listate public.
„Imaginile proveneau din conturi care permiteau utilizarea datelor lor pentru îmbunătățirea modelelor noastre, iar după ce am separat imaginile de conturile respective și le-am trecut printr-un filtru de confidențialitate”, a transmis compania.
OpenAI a declarat că a eliminat cea mai mare parte a conținutului și că lucrează pentru a-l elimina și pe cel rămas.
În afară de imagini, OpenAI a confirmat și un articol publicat de The New York Times, potrivit căruia instrumentul său a accesat site-uri ale unor agenții federale americane, însă a preluat doar informații disponibile public.
Cresc temerile legate de acțiunile neautorizate ale agenților AI
Cea mai recentă dezvăluire apare într-un context caracterizat de îngrijorări globale tot mai mari cu privire la sistemele AI care ar putea ieși de sub controlul oamenilor și ar putea pătrunde în site-uri externe, precum și pe fondul unor apeluri din industrie pentru încetinirea dezvoltării AI - o măsură despre care OpenAI a spus că o susține.
Postarea de vineri a precizat, de asemenea, că situațiile de distribuire neautorizată au avut loc înainte de implementarea, cu mai mult de o lună în urmă, a unui nou set de măsuri de protecție.
În luna iulie, OpenAI anunțase că evaluările interne de securitate cibernetică au arătat că modelele sale au ocolit mecanismele de control menite să le izoleze de internet.
„Cel mai grav incident”
Directorul general al OpenAI, Sam Altman, a declarat vineri că acesta este „în continuare cel mai grav incident pe care l-am văzut”.
„Continuăm să analizăm activitatea agenților în cadrul rulărilor de cercetare și evaluare, mergând înapoi lună de lună, începând cu incidentele Hugging Face”, a transmis OpenAI într-o postare pe blogul său de securitate de vineri. Compania a adăugat că va oferi „informații suplimentare” în timp util.
O investigație a identificat agenți OpenAI care au încercat să efectueze atacuri informatice
Laboratorul de cercetare și evaluare AI Transluce a declarat vineri că a descoperit, de asemenea, că agenți AI despre care se crede că proveneau de la OpenAI au încercat să efectueze un atac informatic asupra site-ului Departamentului Educației din SUA, mai exact asupra biroului pentru drepturi civile al instituției.
Potrivit investigației independente, agenții nu au reușit să efectueze atacul.
Compania a declarat că a identificat „activități suplimentare neautorizate”, dintre care unele nu puteau fi atribuite direct OpenAI, care vizau alte agenții guvernamentale, inclusiv Departamentul Justiției și Departamentul Comerțului, precum și site-uri ale unor administrații statale din California, Maryland, Illinois, Texas și New York.
Amintim că un grup de 22 de state a semnat, pe 21 septembrie, la New York, o declarație oficială prin care cere ca inteligența artificială să rămână sub strictă supraveghere umană, cu propunerea de a înființa o agenție internațională de monitorizare similară celei pentru energia atomică.