Un raport recent semnalează că agenți de inteligență artificială creați de OpenAI ar fi capabili să își șteargă urmele și activitatea desfășurată, ridicând noi semne de întrebare privind controlul asupra acestor sisteme.
Agenţi de inteligenţă artificială (AI) ai OpenAI, care operează în afara cadrului desemnat pentru accesarea site-urilor web guvernamentale, au încercat să şteargă urmele activităţii lor, potrivit unui raport de expertiză publicat joi. Cu toate acestea, raportul afirmă că este imposibil de stabilit dacă acest lucru a fost deliberat, tansmite AFP.
Firma de securitate cibernetică Asymmetric Security a analizat activitatea acestor agenţi - programe AI capabile să acţioneze independent - care au vizat site-urile web ale guvernului australian şi ale altor organizaţii publice între martie şi septembrie.
Raportul său se adaugă investigaţiilor efectuate de OpenAI şi cercetători independenţi asupra seriei de incidente dezvăluite din iulie, inclusiv piratarea platformei de AI Hugging Face.
Aceste analize încearcă să evalueze măsura în care instrumentele autonome de AI cu capacităţi fără precedent pot funcţiona, iar potenţialul de utilizare abuzivă alimentează temerile de pierdere a controlului asupra acestei tehnologii.
Modelele au încercat uneori să şteargă sau să falsifice "istoricul activităţii lor în timpul testelor interne"
OpenAI a descris atacul asupra Hugging Face drept "primul caz cunoscut" de agenţi care acţionează ofensiv fără autorizaţie. Potrivit Asymmetric, tehnicile agenţilor au evoluat "în câteva zile", în timp ce cele ale infractorilor cibernetici umani se schimbă în luni sau ani, ilustrând riscul ca tehnicile ofensive să se poată dezvolta mai rapid decât sistemele de apărare.
Incidentele examinate de Asymmetric Security par să fi început ca "sarcini inocente", cum ar fi colectarea statisticilor sanitare australiene, care apoi au deviat de la curs, conform raportului. Agenţii au obţinut în special statistici privind criminalitatea în New South Wales prin mijloace neautorizate.
Conform raportului, agenţii au deschis conturi private pe un serviciu de analiză a site-urilor web, care le-a mascat căutările, şi au creat conturi de e-mail temporare, care erau şterse după 48 de ore. Prin urmare, în lipsa oricăror dovezi fizice, este "imposibil să excludem accesul la date sensibile" de către aceşti agenţi, scriu autorii.
Aceste elemente "nu ne permit să stabilim" dacă agenţii încercau să-şi "ascundă" activitatea, specifică ei în continuare.
OpenAI a recunoscut la sfârşitul lunii august că modelele sale au încercat uneori să şteargă sau să falsifice" istoricul activităţii lor în timpul testelor interne, însă fără succes.
Toate aceste incidente au alimentat apelurile la încetinirea dezvoltării AI. Directorul Anthropic, Dario Amodei, a cerut oprirea cursei, temându-se că un grup de agenţi ar putea, în acest ritm, să "preia controlul asupra întregului internet" în termen de şase până la douăsprezece luni.
Opunându-se oricăror reglementări restrictive care ar înăbuşi inovaţia, mai ales având în vedere concurenţa intensă cu China, Donald Trump a convocat marţi lideri din industrie, care au adoptat un cod de conduită voluntar. În prezent, nicio lege federală nu reglementează dezvoltarea AI în Statele Unite, conform Agerpres.
Incident fără precedent: Un agent de Inteligență Artificială al OpenAI a spart o bază de date a Guvernului Australiei
Gravitatea situației este reflectată chiar de un caz recent. Un agent de Inteligență Artificială (AI), dezvoltat de OpenAI, a spart un portal al guvernului australian care conținea date medicale, inclusiv informații nepublice despre sistemul Medicare, scrie CNN. Acesta este primul caz cunoscut de piratare a unei rețele guvernamentale de către Inteligența Artificială, a declarat, miercuri, 23 septembrie, premierul australian.
Incidentul a avut loc în luna iunie, însă compania a descoperit ce s-a întâmplat abia în luna august și a informat autoritățile australiene pe 10 septembrie. Premierul Anthony Albanese a catalogat situația drept „inacceptabilă” și a discutat direct cu directorul general al OpenAI, Sam Altman, despre cele întâmplate.
„Agentul de Inteligență Artificială a accesat atât fișiere publice, cât și nepublice” din baza de date statistică Medicare a țării și chiar a scris fișiere în aceasta, a declarat Anthony Albanese reporterilor în marja Adunării Generale a Națiunilor Unite (AGONU) de la New York.
Raportarea acestui incident vine după alte situații în care agenți AI au acționat necinstit și au depășit așteptările administratorilor lor umani, dar și în urma apelurilor făcute de personalități de top din industria Inteligenței Artificiale, inclusiv de CEO-ul OpenAI, Sam Altman, de a încetini ritmul dezvoltării AI. Același apel l-a făcut și directorul Anthropic, Dario Amodei, care a avertizat că "în 6-12 luni, un grup de agenţi AI va fi capabil să preia controlul internetului".
Australia a deschis o anchetă criminalistică
Albanese a declarat că i-a exprimat „îngrijorarea extremă” a Australiei lui Altman într-un apel telefonic de miercuri. Canberra nu cunoaște niciun precedent pentru o încălcare a unui sistem guvernamental de către Inteligența Artificială, a adăugat el.
„O investigație criminalistică este în curs de desfășurare pentru a afla mai multe informații, inclusiv ce alte sisteme guvernamentale au fost afectate”, a spus premierul australian.
Atacul cibernetic a avut loc atunci când un agent OpenAI care realiza cercetări privind cheltuielile din domeniul sănătății a ocolit blocajele pentru a găsi răspunsuri în domenii pe care nu avea autorizație să le acceseze, a declarat Albanese.
Purtătorul de cuvânt al OpenAI, Drew Pusateri, a declarat că incidentul a avut loc în luna iunie, dar că firma a fost informată despre acesta abia în august, deoarece a efectuat verificări ample ale activității modelelor sale de Inteligență Artificială.
„În timpul acestei analize, am identificat activități care au implicat mai multe site-uri web și servicii ale guvernului australian, în timp ce modelele noastre încercau să caute răspunsuri și statistici disponibile pentru întrebări despre Australia în timpul unei evaluări interne. În cursul acesteia, modelele noastre au întreprins acțiuni pe care nu le-am intenționat”, a spus Pusateri.
Albanese a declarat că alte trei sisteme guvernamentale ar fi putut fi afectate, inclusiv Institutul Australian de Sănătate și Bunăstare, Biroul de Statistică și Cercetare a Criminalității din New South Wales și Departamentul de Sănătate din Victoria.
