Google a raportat primul atac cibernetic bazat 100% pe inteligenţa artificială şi spune că a fost provocat de hackeri vorbitori de limba rusă.
Divizia de ameninţări cibernetice a companiei transmite că a observat cum hackerii folosesc inteligenţa artificială pentru "a automatiza complet descoperirea vulnerabilităţilor şi pentru a le exploata fără ajutorul unui factor uman pentru prima dată în istorie", conform Politico.
Acest atac cibernetic ar putea reprezenta un punct de cotitură în ceea ce priveşte folosirea AI în atacuri cibernetice, mai ales că acest lucru a stârnit mari îngrijorări printre decidenţii politici încă decât Anthropic a lansat modelul Mythos, în aprilie.
Hackerii identificaţi de Google ar fi folosit limba rusă în documentele tehnice. Aceştia au programat mai mulţi agenţi AI pentru "a compara continuu bucăţi de cod înainte şi după aplicarea unor patch-uri de securitate, pentru ca apoi să poată dezvolta diverse exploatări fără să aibă nevoie de intervenţie umană".
Asta înseamnă că agenţii AI au găsit problemele de software în mod independent, dar şi moduri în care acestea pot fi ţintite. Atacatorii au ţintit site-uri din Franţa, din sectorul media, entertainment şi educaţie, conform Google.
Anterior, se credea că până şi cele mai avansate modele AI aveau nevoie de intervenţie umană pentru a provoca atacuri cibernetice. Schimbarea a provenit din faptul că modelele AI le permit acum hackerilor să accelereze atacurile şi să le facă să fie mai ţintite.
Omul care a creat inteligenţa artificială spune că era mai bine să nu fi făcut asta
Unul dintre creatorii inteligenței artificiale și laureat al Premiului Nobel, Geoffrey Hinton, lansează un avertisment fără precedent: omenirea riscă să regrete crearea acestei tehnologii. Informaticianul britanic atrage atenția că omenirea se află în pragul unui eveniment de proporții comparabil cu cel de la Cernobîl, provocat de atacuri cibernetice asupra rețelelor electrice sau a sistemului bancar global.
Informaticianul premiat cu Nobel a declarat pentru The Guardian că nu adoptă o perspectivă apocaliptică asupra tehnologiei dezvoltate pe baza cercetărilor sale de pionierat în rețele neuronale artificiale. El crede că IA are potențialul de a aduce un „viitor minunat”, însă adaugă: „s-ar putea să fi fost mai bine să nu o fi creat deloc”.
Hinton, în vârstă de 78 de ani, arată că într-un deceniu, poate chiar mai repede, omenirea va afla dacă poate stăpâni riscurile tehnologiei pentru a permite ceea ce numește „abundență radicală”, ori dacă „eșuăm în gestionarea riscurilor și avem o prăpastie uriașă între bogați și săraci, probleme culturale grave, șomaj masiv, pur și simplu o societate sfâșiată”.
Declarațiile au fost făcute înaintea proiecției noului documentar de lungmetraj „AI: Probably Nothing to Worry About”, titlu propus chiar de un chatbot de IA, film în care apare alături de fostul său coleg de la Google, Demis Hassabis. Hinton le transmite realizatorilor: „Simt că am o datorie. Am o reputație care mă transformă într-un purtător de cuvânt și trebuie să pun totul la bătaie pentru asta”.


