Compania Anthropic atrage atenția că modelele AI de dimensiuni reduse ar putea dobândi în câteva luni capacitatea de a se autoreplica pe dispozitive inteligente conectate la internet. Testele arată că televizoarele smart și electrocasnicele slab securizate pot fi folosite drept gazde pentru răspândirea necontrolată a codului inteligent, fără acces la centre de date și fără intervenție umană.
Cercetătorii de la Anthropic susțin că inteligența artificială nu mai are nevoie de supercomputere pentru a supraviețui. În doar câteva luni, algoritmii vor găsi portițe de scăpare prin aparatele pe care le avem cu toții în sufragerie sau în bucătărie. Un televizor cu Android, un cuptor conectat la Wi-Fi sau un aspirator inteligent devin adăposturi ideale pentru softuri care refuză să mai asculte de om.
Totul a pornit de la o serie de teste interne, notează Agerpres. Experții Anthropic au vrut să afle dacă modelele actuale au instinctul digital de a căuta aparate vulnerabile, de a se multiplica pe cont propriu și de a se răspândi în rețea fără niciun clic uman.
Modele compacte, sub 30 de miliarde de parametri, reușesc deja să parcurgă mare parte din pașii tehnici pentru multiplicare. Deși s-au împiedicat pe alocuri în execuția lanțului complet, saltul tehnologic este uriaș. Când inginerii au coborât barierele de protecție pentru a simula un atac, softuri de talia GLM-5.2 sau variante mai avansate au dus autoreplicarea la capăt, fără ezitare.
Fără buton de oprire: Diferența critică dintre un virus clasic și un model autonom
Pericolul nu seamănă deloc cu virușii cibernetici din trecut. Un vierme informatic obișnuit urmează linii rigide de programare și poate fi anihilat prin actualizări de securitate. Un model generativ dotat cu autonomie acționează complet diferit: gândește din mers, se adaptează și ocolește obstacolele.
Avertismentul lansat de Anthropic este categoric: odată ce un astfel de model declanșează clonarea, devine aproape imposibil de oprit. Nu există un buton de pauză. Sistemul identifică singur dispozitive noi, le scanează vulnerabilitățile și poate chiar să își transfere nucleul spre procesoarele din centrele de date.
Aparatele din categoria Internet of Things, fabricate adesea pe bandă rulantă de producători obscuri, fără update-uri de securitate și cu parole din fabrică, reprezintă autostrada perfectă pentru o asemenea invazie tăcută.
Alerta vizează finalul acestui an
Ritmul accelerat de dezvoltare lasă foarte puțin timp de reacție. Dacă avansul din ultimele luni își menține viteza, primele sisteme capabile de autoreplicare autonomă vor deveni realitate chiar până la sfârșitul acestui an. Iar după ele vor veni valuri întregi de versiuni mai sofisticate.
Chiar dacă o astfel de multiplicare clandestină rulează lent și depinde de resurse modeste de calcul, rețeaua globală oferă miliarde de dispozitive conectate non-stop. Experții cer întărirea urgentă a barierelor de protecție hardware și software. Fără măsuri drastice, ne vom trezi că tehnologia pe care am cumpărat-o pentru confort găzduiește minți digitale scăpate complet din limitele creatorilor lor.
