Un raport de informații făcut cu AI era să pornească un adevărat război între SUA și China, potrivit CNN.
Un raport de informații generat cu ajutorul Inteligenței Artificiale (AI) a determinat armata americană să pregătească interceptarea unei nave chineze despre care se credea că transportă componente pentru un program de arme nucleare, potrivit a patru surse familiarizate cu episodul citate de CNN. Un incident militar între China și SUA era pe punctul de a fi declanșat. Avioane militare erau în aer, au declarat două dintre sursele familiarizate cu incidentul.
Abia înainte ca operațiunea să înceapă, oficialii americani au analizat mai amănunțit raportul întocmit de un analist al comandamentului operațiunilor speciale și au descoperit că acesta fusese generat cu ajutorul AI, potrivit sursei citate. Se pare că un chatbot folosit de analist a identificat în mod inexact materialul transportat de navă. CNN nu a reușit să afle care era încărcătura identificată greșit.
Raportul făcut de AI „aproape a declanșat un război”
Raportul, potrivit uneia dintre surse, era „complet fals”. Dar, de asemenea, „aproape a declanșat un război”, a spus sursa. Orice operațiune americană împotriva unei nave chineze ar fi putut risca să se transforme într-un conflict armat între cele două națiuni.
În cadrul armatei americane, oficialii fac presiuni pentru a integra AI în aproape fiecare aspect al muncii lor, de la analiza volumelor uriașe de informații brute pe care SUA le colectează și selectarea țintelor pentru atacuri, până la aplicații mai banale, cum ar fi gestionarea bugetului, logisticii și lanțurilor de aprovizionare.
Însă episodul subliniază riscurile profunde ale utilizării acestei tehnologii noi și relativ puțin înțelese, scrie sursa citată. Analiștii se tem de mult timp că Inteligența Artificială ar putea duce la un calcul greșit catastrofal dacă țările se bazează pe date slabe sau corupte - genul de calcul greșit care ar putea determina Statele Unite să tragă asupra unei nave chineze pe baza unor informații inexacte.
Ce sisteme de Inteligență Artificială folosesc analiștii militari americani
În acest caz particular, analistul a interogat un chatbot despre niște rapoarte de informații privind manifestul navei, provenite de la Comandamentul Operațiunilor Speciale din Pacific al SUA, cu sediul în Hawaii. Nu era clar dacă chatbot-ul era unul disponibil comercial sau un produs al guvernului SUA.
„Instrumentele interne sunt în mare parte doar copii ale materialelor comerciale”, a declarat un fost oficial american de rang înalt, familiarizat cu sistemele de Inteligență Artificială utilizate de analiștii militari și de informații.
Chatbotul a combinat informații open-source cu informații secrete despre semnale aflate în deținerile guvernamentale și a ajuns la concluzia sa fatidică despre materialul transportat de navă. Analistul a folosit apoi din nou AI pentru a împacheta concluziile într-un raport standard de informații - genul în care au încredere oficialii militari - și l-a diseminat.
Comandamentul Operațiunilor Speciale ale SUA din Pacific și Pentagonul nu au răspuns solicitărilor de informații transmise de CNN.
De ce armata americană folosește Inteligența Artificială
Inteligența Artificială a fost adoptată atât de rapid deoarece poate ajuta armata să ia decizii pe câmpul de luptă, cum ar fi ce ținte să atace sau ce active militare să mute și unde, mai rapid. Oficialii spun că SUA nu își pot permite să rămână în urmă în integrarea AI, în cazul în care va trebui într-o zi să lupte împotriva Chinei sau a unui alt adversar care ar putea fi capabil să fie cu un pas înaintea SUA.
În ianuarie, secretarul Apărării, Pete Hegseth, a lansat „Strategia de accelerare a Inteligenței Artificiale” a agenției sale, în încercarea de a accelera utilizarea AI de către armată.
„Vom declanșa experimente, vom elimina barierele birocratice, ne vom concentra investițiile și vom demonstra abordarea de execuție necesară pentru a ne asigura că suntem lideri în domeniul AI militară”, a declarat Hegseth într-un discurs în care a anunțat strategia.
Strategia promovează, de asemenea, utilizarea sa pe scară largă în cadrul armatei, ordonând departamentului să pună la dispoziție Inteligența Artificială prin intermediul mai multor programe, cu scopul de a „democratiza experimentarea și transformarea Inteligenței Artificiale în cadrul departamentului, prin punerea modelelor de AI de top din America direct în mâinile celor trei milioane de angajați civili și militari ai noștri, la toate nivelurile de clasificare”, se arată într-un comunicat care anunță strategia.
Subiectul AI, dezbătut intens la Washington
Dar efortul este descentralizat, au declarat mai mulți oficiali americani, diferite părți ale guvernului utilizând instrumente diferite în baza unor ordine și standarde de siguranță diferite. Nu există un set unic de standarde pentru modul în care SUA verifică informațiile generate de aceste instrumente. De exemplu, Jacob Coxon, un cercetător în Inteligență Artificială care a lucrat la Anthropic și anterior la OpenAI, a declarat în urmă cu câteva săptămâni că AI ne-ar putea ucide pe toți până la sfârșitul deceniului.
Timp de săptămâni întregi, factorii de decizie de la Washington au dezbătut intens subiectul AI, după o serie de avertismente sumbre din partea inginerilor și directorilor generali din domeniul tehnologiei din Silicon Valley cu privire la posibilitatea ca AI să se elibereze de constrângerile umane, cu consecințe care ar putea pune capăt civilizației.
Dar episodul cu nava chineză subliniază un risc diferit și mai imediat: ființele umane iau decizii dezastruoase pe baza unor informații inexacte sau înșelătoare generate de AI sau de alte sisteme automate, concluzionează CNN.