Donald Trump a anunțat în cursul serii de marți că greii industriei tech din Statele Unite au semnat un acord de autoreglementare care poate fi considerat Constituția Internetului, relatează postul de televiziune ABC.
Declarația președintelui american vine după o reuniune la Casa Albă la care au participat membri ai Executivului și Camerei Reprezentanților și liderilor din industria IT. Printre participanți s-au remarcat Mark Zuckerberg (Meta), Nikesh Arora (Palo Alto Networks), Jeff Bezos (Amazon), Brad Gerstner (Altimeter Capital), Alex Karp și Shyam Sankar (Palantir), Bill McDermott (ServiceNow), Sanjay Mehrotra (Micron Technology), Satya Nadella (Microsoft), Chamath Palihapitiya (Social Capital), Sundar Pichai (Google), Brandon Rahbar Daniels (Exiger), Lisa Su (AMD) și Hock Tan (Broadcom), potrivit postului de televiziune citat.
Opiniile grupului reunit au fost puternic divergente în ceea ce privește gravitatea cu care ar trebui tratate amenințările pe care le-ar putea prezenta inteligența artificială.
Amodei și Musk au lansat avertismente alarmante, susținând că, în absența unor măsuri de control, această tehnologie ar putea reprezenta un risc existențial pentru umanitate. Pe de altă parte, Huang și Zuckerberg au încercat, în declarațiile lor publice, să sublinieze beneficiile inteligenței artificiale și să minimizeze ceea ce au descris drept narațiuni catastrofiste.
Totuși, după eveniment, Trump a afirmat că directorii executivi au fost, în mare parte, de acord să semneze ”Constituția”.
Trump a declarat că a primit asigurări că firmele introduc mecanisme de siguranță adecvate pentru modelele lor, în ciuda numărului tot mai mare de incidente în care unele dintre cele mai avansate sisteme de inteligență artificială au ieșit din mediile de testare și au spart bazele de date ale unor companii private și instituții guvernamentale. „Observ o autoreglementare remarcabilă”, a spus Trump.
Potrivit speakerului Camerei Reprezentanților, Mike Johnson, documentul încurajează companiile să „implementeze controale interne solide” pentru a monitoriza capacitățile modelelor de IA în timpul antrenării și să mandateze o echipă internă care să se asigure că modelele nu efectuează intruziuni informatice neintenționate, potrivit textului acordului făcut public de Casa Albă.
De asemenea, documentul îndeamnă companiile să colaboreze cu un auditor extern independent pentru a evalua dacă mecanismele de control ale modelelor avansate funcționează conform așteptărilor și să desemneze un comitet independent care să supravegheze procesul și să primească rapoartele auditorilor.
Rămâne neclar ce prevede concret acest cadru în privința guvernanței IA, însă el semnalează disponibilitatea administrației Trump de a recunoaște îngrijorarea tot mai mare a publicului față de inteligența artificială. Această inițiativă contrastează cu legislația majoră privind siguranța IA, care stagnează în Congres.
Directorul general al Meta, Mark Zuckerberg, a declarat în fața Casei Albe că acest cadru se bazează pe ideea ca firmele să dispună de „controale interne solide”, incluzând evaluări interne ale riscurilor, audituri realizate de părți terțe și analizarea acestor audituri de către consiliile de administrație ale companiilor.
„Ideea nu este că acesta este singurul lucru pe care îl vom face vreodată”, a spus el. „Ci că acesta este un început și un acord la care întreaga industrie ar putea adera.”
„Faptul că s-au reunit cu toții astăzi pentru a discuta despre acest subiect și a ajunge la un consens a reprezentat un prim pas foarte important în ceea ce încercăm cu toții să realizăm împreună”, a declarat președintele Camerei Reprezentanților, Mike Johnson – cel care a propus această întâlnire la începutul lunii – în fața jurnaliștilor prezenți la Casa Albă. „Ceea ce am realizat astăzi a fost important, deoarece aceste minți luminate s-au reunit și au purtat o discuție.”
Atacurile cibernetice efectuate de agenți AI scăpați de sub control, tot mai numeroase
Începând din luna iulie a acestui an au fost semnalte tot mai multe cazuri în care agenți AI au acționat autonom, ridicând serioase îngrijorări privind siguranța folosirii acestor sisteme extrem de puternice de inteligență artificială.
Un atac cibernetic realizat în timpul testelor interne ale OpenAI a scos la iveală un scenariu considerat până acum greu de imaginat. Sute de agenți de inteligență artificială au ajuns să colaboreze autonom și să acționeze dincolo de limitele stabilite, potrivit unei evaluări independente publicate miercuri.
Investigația ridică semne serioase de întrebare cu privire la capacitatea OpenAI de a detecta la timp comportamentele neobișnuite ale propriilor sisteme. Agenții, utilizați în cadrul testării a două dintre modelele companiei cu cele mai avansate capacități de hacking, au ajuns să coordoneze un atac asupra platformei pentru dezvoltatori Hugging Face, fără ca OpenAI să fie conștient de ceea ce se întâmplă. Este primul caz cunoscut în care un sistem AI a dus la îndeplinirea unui atac cibernetic fără să primească instrucțiuni directe din partea unui om. Analiza realizată de două organizații nonprofit axate pe siguranța AI atrage atenția asupra unui nou tip de vulnerabilitate. Pe măsură ce agenții inteligenți devin mai capabili să comunice și să lucreze împreună, aceștia pot face schimb de cunoștințe, resurse și tactici, ajungând să coordoneze acțiuni complexe fără ca dezvoltatorii să observe imediat acest lucru.