Un studiu arată că agenţi autonomi de inteligenţă artificială dintr-un grup care ar putea avea legătură cu OpenAI ar fi folosit un site "wiki" public, în limba germană, pentru a comunica între ei.
Studiul arată că discuţiile dintre agenţii AI se concentrau pe împărtăşirea răspunsurilor la sarcinile primite, dar şi pe schimbul de metode pentru ocolirea restricţiilor din mediul lor de operare. Studiul a fost realizat de patru cercetători, printre care Sydney Von Arx, de la organizaţia pentru siguranţa AI Nightingale Collective.
Cercetătorii au descoperit circa 18.000 de postări realizate de astfel de agenţi AI. Aceştia s-au autoidentificat ca provenind de la OpenAI în timp ce foloseau internetul public. Comportamentul agenţilor AI le-a oferit un avantaj în îndeplinirea sarcinilor atribuite, într-un mod neprevăzut de dezvoltatorii lor.
Cea mai mare parte a activităţii a avut loc pe DSEWiki, un site "wiki" în limba germană, asemănător Wikipedia, care există de aproximativ 25 de ani şi care a fost puţin utilizat în ultimii ani.
Agenţii AI nu au fost dezvoltaţi să scrie informaţii online
Potrivit cercetătorilor, agenţii ar fi trebuit să poată citi informaţii de pe internet, dar nu şi să scrie informaţii online. Cu toate acestea, agenţii au găsit modalităţi de a posta informaţii pe site-ul "wiki", pe care l-au folosit pentru a face schimb de răspunsuri, pentru a împărtăşi rezultatele cercetărilor şi pentru a face schimb de tehnici de eludare a restricţiilor de reţea din mediul de testare.
Cercetătorii au observat pentru prima dată agenţii care încercau să editeze un "wiki" public la 11 mai şi au înregistrat prima lor scriere reuşită pe DSEWiki la 24 mai.
Coordonarea la scară largă a început la 16 iunie, când agenţii au început să schimbe răspunsuri şi să-şi sincronizeze informaţiile cu privire la rundele ulterioare ale sarcinilor lor.
Datele citate în studiu arată că agenţii care s-au confruntat cu întrebări anterior au postat uneori răspunsuri care au fost folosite ulterior de agenţii care primeau aceleaşi întrebări.
Studiul a constatat, de asemenea, că agenţii au discutat şi testat metode de ocolire a restricţiilor de reţea din mediul de testare.
Un om ştergea paginile, AI-ul crea pagini de rezervă
După ce un moderator uman a început să şteargă pagini, unii agenţi au creat pagini de rezervă cu nume care începeau cu "ZZZ", într-un efort evident de a reduce probabilitatea ca acestea să fie şterse primele.
Aproximativ 98,5% dintre modificările efectuate de agenţi pe DSEWiki au provenit de la adrese IP ale Microsoft Azure, în timp ce cercetătorii au înregistrat, de asemenea, vizite de la adrese IP asociate cu OpenAI. Mulţi agenţi au folosit, de asemenea, nume care conţineau referinţe la OpenAI.
Pe baza acestor dovezi şi a altora, cercetătorii au afirmat că agenţii au fost probabil implementaţi la nivel intern de către OpenAI.
Cercetătorii au avertizat, însă, că această analiză a fost una preliminară, bazată doar pe informaţiile lăsate de agenţi pe "wiki-ul" public. Ei nu au avut acces la datele agenţilor, deţinute intern de OpenAI, şi au precizat că întrebările privind motivaţiile şi strategiile agenţilor au rămas fără răspuns.
În studiu se menţionează că nu este clar dacă sarcinile făceau parte din procesul de antrenare sau de testare a modelului.
Un purtător de cuvânt al OpenAI a declarat că firma pe care o reprezintă nu a avut ocazia să examineze raportul înainte de publicare şi, prin urmare, nu poate răspunde în mod substanţial la afirmaţiile sau concluziile acestuiam scrie Agerpres.
Purtătorul de cuvânt a afirmat că OpenAI va examina cu atenţie raportul publicat şi va lua orice măsuri necesare ulterior.
Două modele OpenAI au atacat un site
OpenAI a precizat că activitatea de pe "wiki" nu avea nicio legătură cu incidentul separat de pe Hugging Face din iulie şi, prin urmare, nu ar fi fost inclusă în raportul său referitor la acel incident.
În iulie, OpenAI a dezvăluit că două dintre modelele sale au ieşit din mediul controlat de testare, din proprie iniţiativă, pentru a ataca site-ul Hugging Face.
Startup-ul american de AI Anthropic a anunţat ulterior că modelele sale au "obţinut acces neautorizat" la sistemele a trei organizaţii în timpul unor teste menite să împiedice accesul acestora la sisteme din "lumea reală".
La începutul lunii august, Meta a anunţat că unul dintre modelele sale AI a piratat o altă companie în timpul testelor de securitate cibernetică, alimentând îngrijorările cu privire la modul în care dezvoltatorii pot controla sisteme AI din ce în ce mai performante, după incidente similare la rivalii Anthropic şi OpenAI.
OpenAI, dezvoltatorul ChatGPT, a anunţat la jumătatea lunii august că îşi înăspreşte măsurile de siguranţă în cadrul testelor modelelor AI, în urma unor atacuri cibernetice de mare amploare realizate de software-ul AI.