Modelul de inteligență artificială al Google, Gemini, a accesat fără autorizație trei sisteme informatice externe, în cadrul unui unui test din luna mai. Google spune că acțiunile Gemini au fost doar o confuzie a sistemului, nu uncaz de comportament neconform.
Google a arătat primul caz cunoscut în care Gemini, software-ul său de inteligență artificială, a spart un sistem în afara mediului de testare.
Cum a obținut Gemini acces la trei sisteme externe
Conform companiei, modelul a o reușit să obțină acces la trei sisteme externe, după ce a ghicit date de autentificare ori a utilizat credențiale găsite online, dar s-a oprit înainte de a provoca daune, transmite NBC.
Google a precizat că accesările au fost cauzate de o eroare de identificare a mediului de testare și că Gemini s-a oprit înainte de a face alte acțiuni. Incidentul nu a reprezentat un fapt prin care un model de inteligență artificială nu respectă instrucțiunile.
Google a aflat despre accesările neautorizate în iulie, în momentul în care compania de securitate cibernetică Irregular făcea testele asupra Gemini și a analizat rezultatele, cu scopul de a identifica incidente asemănătoare unor cazuri raportate anterior de alte companii.
Apoi, Google a investigat incidentele, a informat organizațiile care administrau sistemele accesate. Și a notificat autoritățile federale. Irregular a spus că nu consideră cazul o acțiune cibernetică sofisticată și că nu există în prezent probleme deschise.
Riscurile IA și solicitarea de încetinire a progresului
Incidentul are loc în contextul preocupări tot mai mari despre comportamentul autonom al agenților de inteligență artificială. În ultimele luni, companii precum OpenAI și Anthropic au raportat cazuri în care modelele lor au avut comportamente neașteptate în contextul testelor de securitate.
Totodată, companiile din domeniu au solicitat o încetinire a progresului, în contextul îngrijorării față de riscurile inteligenței artificiale. Preocupările despre securitatea inteligenței artificiale au redevenit subiect de interes după ce un cercetător ce a lucrat și la OpenAI și Anthropic a avertizat că IA ar putea „elimina omenirea până la sfârșitul deceniului”.
