Inteligența artificială a folosit „strategii foarte neașteptate pentru a-și atinge obiectivul” în testul simulat, a declarat Col Tucker „Cinco” Hamilton, șeful testelor și operațiunilor AI cu forțele aeriene americane, în timpul Summitului „Future Combat Air and Space Capabilities” de la Londra, în mai, scrie The Guardian.
Hamilton a descris un test simulat în care o dronă operată de inteligență artificială a fost sfătuită să distrugă sistemele de apărare aeriană ale inamicului și a atacat pe oricine interfera cu acele ordine.
„Sistemul a început să-și dea seama că, deși identifica amenințarea, uneori operatorul uman nu trecea la ucis. Deci ce a făcut? A ucis operatorul. A ucis operatorul pentru că acea persoană îl împiedica să-și atingă obiectivul”, a spus el, potrivit unei postări pe blog.
„Am antrenat sistemul – „Hei, nu ucideți operatorul – asta e rău. Vei pierde puncte dacă faci asta”. Deci, ce începe să facă? Începe să distrugă turnul de comunicații pe care operatorul îl folosește pentru a comunica cu drona pentru a o împiedica să omoare ținta.”
Nicio persoană reală nu a fost efectiv rănită în afara simulării.
Hamilton, un pilot de testare experimentală, a avertizat ca armata să nu se bazeze prea mult pe AI și a spus că testul arată că „nu poți avea o conversație despre inteligența artificială, învățarea automată, autonomie dacă nu vei vorbi despre etică”.
Armata americană a îmbrățișat AI și a folosit recent inteligența artificială pentru a controla un avion de luptă F-16.
Într-un interviu de anul trecut pentru Defense IQ, Hamilton a spus: „AI nu este un lucru plăcut, AI nu este un moft, AI ne schimbă pentru totdeauna societatea și armata”.
„Trebuie să ne confruntăm cu o lume în care AI este deja aici și ne transformă societatea”, a spus el. „AI este, de asemenea, foarte fragil, adică este ușor de păcălit și/sau manipulat. Trebuie să dezvoltăm modalități de a face AI mai robustă și de a fi mai conștienți de motivul pentru care codul software ia anumite decizii – ceea ce numim explicabilitate AI.”
Fiți la curent cu ultimele noutăți. Urmăriți DCNews și pe Google News
