OpenAI și Hugging Face investighează un incident de securitate fără precedent, identificat în timpul unor teste interne. Două modele avansate de inteligență artificială au reușit să exploateze vulnerabilități informatice, au obținut acces la internet și au compromis infrastructura Hugging Face, fapt grav care a dus la implementarea unor măsuri de securitate excepționale la nivelul industriei AI.
OpenAI, compania care dezvoltă chatbotul ChatGPT, a confirmat un incident de securitate fără precedent în domeniul inteligenței artificiale.
În timpul unor teste interne, două modele experimentale AI au exploatat vulnerabilități informatice, au obținut acces la internet și au compromis ulterior o parte din infrastructura platformei Hugging Face.
Incident scos la iveală de Hugging Face și confirmat apoi de OpenAI
Incidentul a fost dezvăluit, inițial, de Hugging Face și confirmat ulterior de OpenAI printr-un comunicat oficial. Atacul s-a produs într-un mediu de testare extrem de izolat, creat special pentru evaluarea capacităților cibernetice ale celor mai avansate modele AI dezvoltate de companie, scrie Axios.
Potrivit OpenAI, incidentul a implicat modelul GPT-5.6 Sol și un alt sistem aflat încă în etapa de pre-lansare. Ambele modele au fost configurate temporar cu restricții mai permisive în privința solicitărilor de natură cibernetică, pentru a le evalua comportamentul și limitele în cadrul unor teste desfășurate în condiții controlate.
Incident cibernetic fără precedent
„Considerăm că acest incident reprezintă un incident cibernetic fără precedent, care implică capacități cibernetice de ultimă generație, și reacționăm în consecință. Împărtășim concluziile preliminare în această etapă pentru a ajuta specialiștii în securitate să înțeleagă ce s-a întâmplat și pentru a contribui la calibrarea capacităților actuale ale modelelor”, a transmis OpenAI, conform unui comunicat.
Cum au depășit modelele AI mediul de testare
Potrivit OpenAI, modelele au fost evaluate în cadrul ExploitGym, un sistem intern de testare conceput pentru a măsura capacitatea acestora de a identifica și exploata vulnerabilități informatice.
Au descoperit o vulnerabilitate de tip „zero-day”
În timpul evaluărilor, modelele au analizat infrastructura disponibilă și au descoperit o vulnerabilitate de tip „zero-day” într-o aplicație folosită pentru gestionarea pachetelor software. Profitând de această breșă, au reușit să acceseze un nod conectat la internet, deși mediul de testare fusese proiectat să funcționeze aproape în totalitate izolat.
După obținerea accesului online, modelele au identificat platforma Hugging Face ca sursă relevantă de modele AI, seturi de date și alte resurse utile pentru îndeplinirea obiectivului testului.
Conform OpenAI, sistemele AI au combinat mai multe tehnici de atac, inclusiv folosirea unor credențiale compromise, precum și exploatarea unor vulnerabilități necunoscute până atunci, cu scopul de a avea acces la informații din infrastructura Hugging Face.
Compania subliniază însă că întreaga activitate a fost detectată rapid de sistemele sale de monitorizare, iar echipele de securitate ale OpenAI și Hugging Face au intervenit imediat pentru izolarea incidentului și demararea investigațiilor.
Măsuri suplimentare de securitate, anunță OpenAI
În urma incidentului, OpenAI a anunțat mai multe măsuri, cu scopul de a reduce riscul repetării unor situații asemănătoare.
Compania a subliniat că va introduce controale mai severe asupra infrastructurii folosite pentru cercetare, chiar dacă acest fapt va încetini dezvoltarea viitoarelor modele. De asemenea, vulnerabilitatea de tip „zero-day” găsită în software-ul terț folosit în timpul testelor a fost raportată responsabil dezvoltatorilor pentru remediere.
OpenAI colaborează în continuare cu Hugging Face, cu scopul de a analiza incidentul și pentru consolidarea mecanismelor de protecție folosite în timpul testării modelelor avansate.
În comunicatul companiei se arată că dezvoltarea inteligenței artificiale capabile să desfășoare operațiuni cibernetice complexe trebuie însoțită de măsuri defensive pe măsură.
Principala lecție desprinsă
„Principala lecție desprinsă din acest incident este că securitatea și siguranța modelelor trebuie să țină pasul cu capacitățile care avansează rapid”, evidențiază OpenAI.
De asemenea, CEO-ul Hugging Face, Clem Delangue, spune că incidentul arată importanța colaborării între companiile din domeniul AI.
„Suntem recunoscători pentru colaborarea cu OpenAI pe această temă și pe alte subiecte. Acest incident, probabil primul de acest gen, demonstrează un lucru în care credem de mult timp: siguranța IA nu va fi asigurată de o singură companie care lucrează în secret. Ea va fi asigurată în mod deschis, prin colaborare, cu acces larg la IA pentru fiecare specialist în securitate, oriunde s-ar afla”, a zis Clem Delangue, cofondator și CEO al Hugging Face.
Vezi și - Meta intră în cursa AI cu un nou model care provoacă liderii pieței, ChatGPT și Claude