Un agent AI dezvoltat de OpenAI a accesat fără autorizație un portal al guvernului australian, un incident fără precedent.
Un agent de Inteligență Artificială (AI), dezvoltat de OpenAI, a spart un portal al guvernului australian care conținea date medicale, inclusiv informații nepublice despre sistemul Medicare, scrie CNN. Acesta este primul caz cunoscut de piratare a unei rețele guvernamentale de către Inteligența Artificială, a declarat, miercuri, 23 septembrie, premierul australian.
Incidentul a avut loc în luna iunie, însă compania a descoperit ce s-a întâmplat abia în luna august și a informat autoritățile australiene pe 10 septembrie. Premierul Anthony Albanese a catalogat situația drept „inacceptabilă” și a discutat direct cu directorul general al OpenAI, Sam Altman, despre cele întâmplate.
„Agentul de Inteligență Artificială a accesat atât fișiere publice, cât și nepublice” din baza de date statistică Medicare a țării și chiar a scris fișiere în aceasta, a declarat Anthony Albanese reporterilor în marja Adunării Generale a Națiunilor Unite (AGONU) de la New York.
Raportarea acestui incident vine după alte situații în care agenți AI au acționat necinstit și au depășit așteptările administratorilor lor umani, dar și în urma apelurilor făcute de personalități de top din industria Inteligenței Artificiale, inclusiv de CEO-ul OpenAI, Sam Altman, de a încetini ritmul dezvoltării AI. Același apel l-a făcut și directorul Anthropic, Dario Amodei, care a avertizat că "în 6-12 luni, un grup de agenţi AI va fi capabil să preia controlul internetului".
Australia a deschis o anchetă criminalistică
Albanese a declarat că i-a exprimat „îngrijorarea extremă” a Australiei lui Altman într-un apel telefonic de miercuri. Canberra nu cunoaște niciun precedent pentru o încălcare a unui sistem guvernamental de către Inteligența Artificială, a adăugat el.
„O investigație criminalistică este în curs de desfășurare pentru a afla mai multe informații, inclusiv ce alte sisteme guvernamentale au fost afectate”, a spus premierul australian.
Atacul cibernetic a avut loc atunci când un agent OpenAI care realiza cercetări privind cheltuielile din domeniul sănătății a ocolit blocajele pentru a găsi răspunsuri în domenii pe care nu avea autorizație să le acceseze, a declarat Albanese.
Precizările OpenAI. Alte trei sisteme guvernamentale ar fi putut fi afectate
Purtătorul de cuvânt al OpenAI, Drew Pusateri, a declarat că incidentul a avut loc în luna iunie, dar că firma a fost informată despre acesta abia în august, deoarece a efectuat verificări ample ale activității modelelor sale de Inteligență Artificială.
„În timpul acestei analize, am identificat activități care au implicat mai multe site-uri web și servicii ale guvernului australian, în timp ce modelele noastre încercau să caute răspunsuri și statistici disponibile pentru întrebări despre Australia în timpul unei evaluări interne. În cursul acesteia, modelele noastre au întreprins acțiuni pe care nu le-am intenționat”, a spus Pusateri.
Albanese a declarat că alte trei sisteme guvernamentale ar fi putut fi afectate, inclusiv Institutul Australian de Sănătate și Bunăstare, Biroul de Statistică și Cercetare a Criminalității din New South Wales și Departamentul de Sănătate din Victoria.
OpenAI a informat guvernul australian prin poștă, ceea ce a dus la întârzieri. Anthony Albanese: Inacceptabil!
OpenAI a declarat că nu a găsit nicio dovadă că dosarele pacienților au fost accesate în breșa de securitate Medicare și că informațiile includeau „statistici agregate privind sănătatea și nume de fișiere interne”.
Compania a susținut că a informat guvernul australian pe 10 septembrie, prin poștă, despre incident.
„Companiei i-a luat mult prea mult timp să informeze guvernul despre ce s-a întâmplat, iar natura modului în care a avut loc notificarea a fost, de asemenea, inacceptabilă. Cred că OpenAI știe că trebuie să aibă protocoale mai bune”, a mai spus Anthony Albanese.
Ministrul australian al Apărării, Richard Marles, a anunțat joi, 23 septembrie, o anchetă a unui grup de lucru privind ultima breșă de securitate, asigurând în același timp publicul că impactul a fost „relativ minor”.
„Nu au fost accesate date medicale ale unor persoane aici. Sistemul în sine nu a fost compromis în niciun fel”, a spus el.
Experții vorbesc despre un "tipar"
Directorul general al OpenAI, Sam Altman, și CEO-ul Anthropic, Dario Amodei, au cerut din nou o coordonare globală și standarde internaționale pentru dezvoltarea Inteligenței Artificiale, miercuri, la Adunarea Generală a ONU.
Altman a îndemnat liderii globali să creeze standarde internaționale pentru „măsurarea capacităților, evaluarea riscurilor, determinarea dacă măsurile de siguranță sunt suficiente și menținerea unei supravegheri umane semnificative” asupra tehnologiei aflate în continuă dezvoltare.
În iulie, OpenAI a dezvăluit că, în timpul testelor de securitate cibernetică, modelele sale au creat o mulțime de agenți AI care au piratat sistemele companiei de Inteligență Artificială "Hugging Face". Mulți din industrie au indicat acest atac cibernetic ca un exemplu clar al pericolului reprezentat de ritmul rapid al dezvoltării AI.
Walayat Hussain, profesor în tehnologia informației la Universitatea Catolică Australiană din Sydney, a declarat că cel mai recent incident, alături de breșa de securitate Hugging Face din iulie, pare a fi un tipar.
„Agenții AI de astăzi devin străluciți în a duce lucrurile la bun sfârșit, dar încă nu sunt în stare să știe unde este limita. Nu ne putem baza pe agenții de Inteligență Artificială să se autocontroleze și nu putem cere companiilor care îi construiesc să își corecteze singuri temele”, a spus el.
Hussain a avertizat că multe sisteme guvernamentale nu au fost construite având în minte agenți de Inteligență Artificială sofisticați, deci sunt vulnerabile în fața unor astfel de atacuri.
