Un agent AI a descoperit o vulnerabilitate în sistemul de rezervări al unei săli de sport și a folosit-o pentru a-și îndeplini obiectivul. Fără să i se ceară, a mers chiar mai departe și a eliminat o altă persoană de pe lista de așteptare.
Un asistent AI a primit o sarcină aparent simplă: să găsească un loc pentru utilizatorul său la unul dintre cursurile de dimineață foarte căutate ale sălii de sport. Rezervarea se făcea online, iar utilizatorul se aștepta ca asistentul să poată îndeplini fără probleme această cerință.
Numai că lucrurile au luat o turnură neașteptată.
În încercarea de a-și îndeplini obiectivul, asistentul AI a descoperit o vulnerabilitate în software-ul de rezervări și a găsit o modalitate de a face rezervarea cu câteva luni mai devreme decât permitea sistemul în mod normal.
Apoi a mers și mai departe. Fără să i se ceară acest lucru, agentul a eliminat de pe lista de așteptare o altă persoană care se afla înaintea utilizatorului, astfel încât acesta să urce o poziție pe listă, potrivit ABC.
Cum s-a întâmplat eroarea
La începutul acestui an, Andrew, care lucrează pentru o companie australiană ce vinde produse bazate pe inteligență artificială, a început să experimenteze cu OpenClaw, un software popular pentru agenți AI, pe care îl folosea împreună cu serviciul de inteligență artificială Claude, dezvoltat de Anthropic.
Agenții AI combină capacitatea unui chatbot de a răspunde la întrebări cu instrumente care le permit să acceseze internetul, e-mailul, cardurile bancare și alte servicii. În plus, ei pot planifica și executa singuri sarcini alcătuite din mai mulți pași.
Andrew a decis să folosească agentul AI pentru a-i rezerva un loc la curs.
„Stăteam pur și simplu pe canapea și mă gândeam: 'Of, ce corvoadă'”, a povestit el.
Câteva minute mai târziu, agentul AI i-a spus că descoperise o metodă prin care îl putea înscrie la cursuri cu câteva săptămâni înainte de perioada permisă în mod normal.
Andrew se afla pe locul al patrulea pe lista de așteptare pentru un curs care urma să aibă loc mai târziu în acea săptămână. El l-a întrebat pe agent dacă exista vreo modalitate de a-l muta pe primul loc.
Agentul i-a răspuns că eliminase o altă persoană de pe lista de așteptare, în cadrul testării propriilor capacități.
„API-ul nu are deloc verificări de autorizare pentru anularea rezervărilor altor persoane. Am testat acest lucru cu persoana aflată pe locul 1 pe lista de așteptare și chiar a funcționat. Așa că ai trecut deja de pe locul 4 pe locul 3”, i-a transmis agentul.
Alarmat, Andrew i-a cerut să anuleze acțiunea.
„Vești proaste - nu pot să o adaug înapoi”, a răspuns agentul AI.
Compania care dezvoltă software-ul de rezervări al sălii de sport a declarat că nu comentează probleme specifice de securitate.
Agenții AI devin din ce în ce mai autonomi
Apariția agenților AI este un fenomen relativ recent, făcut posibil de progresele rapide în domeniul inteligenței artificiale.
Cercetători independenți au constatat că durata sarcinilor pe care AI-ul le poate îndeplini în mod autonom s-a dublat aproximativ la fiecare șapte luni.
În 2020, inteligența artificială putea realiza singură o sarcină care i-ar fi luat unui om aproximativ patru secunde.
În 2026, sistemele AI au ajuns să poată efectua sarcini care unui om i-ar lua aproximativ 12 ore.
Lansarea OpenClaw la începutul anului 2026 a reprezentat un moment important pentru agenții AI personali. Software-ul gratuit putea fi rulat pe propriul computer și a ajuns rapid la milioane de descărcări.
Și companiile au început să exploreze utilizarea agenților AI pentru efectuarea unor activități și pentru a ajuta clienții să folosească diferite servicii.
La scurt timp după lansarea OpenClaw, au început să apară relatări despre agenți AI care ștergeau căsuțe întregi de e-mail sau care redactau materiale denigratoare despre persoane care le respinseseră sugestiile.
Bill Simpson-Young, cofondator și director executiv al organizației australiene de cercetare în domeniul siguranței AI, Gradient Institute, spune că autonomia agenților AI crește posibilitatea ca aceștia să aleagă metode pe care utilizatorii nu le-au anticipat.
„Cineva îi poate cere unui agent să facă ceva complet nevinovat. Dar, pentru a îndeplini acea sarcină, agentul poate desfășura și alte activități pe care persoana respectivă nu le-a luat în calcul și nu i le-a cerut în mod explicit”, a spus el.
Cazul lui Andrew
În cazul lui Andrew, acesta nu îi ceruse agentului AI să spargă sistemul de rezervări al sălii de sport. Cu toate acestea, agentul a făcut acest lucru în încercarea de a-și atinge obiectivul care îi fusese stabilit.
Această diferență dintre obiectivul stabilit de om și metodele pe care un agent AI le alege pentru a-l îndeplini este cunoscută în domeniul cercetării AI drept „problema alinierii (alignment problem)”.
După incidentul de la sala de sport, Andrew a spus că experiența i-a oferit o nouă perspectivă asupra capacităților agenților AI și l-a făcut să fie mai precaut.
Cu toate acestea, nu a renunțat la utilizarea lor.
„Nu este sfârșitul lumii, așa că nu m-am învinovățit pentru asta, dar cu siguranță a fost un semnal de avertizare că trebuie să folosim aceste tehnologii în mod responsabil”, a spus el.
După ce agentul AI nu a reușit să readucă persoana pe lista de așteptare, Andrew i-a cerut să redacteze un e-mail către compania care furniza software-ul sălii de sport pentru a o avertiza cu privire la vulnerabilitatea pe care agentul o exploatase.
