Unul dintre creatorii inteligenței artificiale și laureat al Premiului Nobel, Geoffrey Hinton, lansează un avertisment fără precedent: omenirea riscă să regrete crearea acestei tehnologii. Informaticianul britanic atrage atenția că omenirea se află în pragul unui eveniment de proporții comparabil cu cel de la Cernobîl, provocat de atacuri cibernetice asupra rețelelor electrice sau a sistemului bancar global.
Unul dintre „părinții inteligenței artificiale”, Geoffrey Hinton, spune că s-ar putea dovedi că omenirii i-ar fi fost mai bine dacă nu dezvolta niciodată această tehnologie. Cercetătorul avertizează că IA ar putea declanșa un incident de amploare chiar în acest an sau anul viitor, de pildă o pană temporară în sistemele financiare ori energetice.
Informaticianul premiat cu Nobel a declarat pentru The Guardian că nu adoptă o perspectivă apocaliptică asupra tehnologiei dezvoltate pe baza cercetărilor sale de pionierat în rețele neuronale artificiale. El crede că IA are potențialul de a aduce un „viitor minunat”, însă adaugă: „s-ar putea să fi fost mai bine să nu o fi creat deloc”.
Hinton, în vârstă de 78 de ani, arată că într-un deceniu, poate chiar mai repede, omenirea va afla dacă poate stăpâni riscurile tehnologiei pentru a permite ceea ce numește „abundență radicală”, ori dacă „eșuăm în gestionarea riscurilor și avem o prăpastie uriașă între bogați și săraci, probleme culturale grave, șomaj masiv, pur și simplu o societate sfâșiată”.
Declarațiile au fost făcute înaintea proiecției noului documentar de lungmetraj „AI: Probably Nothing to Worry About”, titlu propus chiar de un chatbot de IA, film în care apare alături de fostul său coleg de la Google, Demis Hassabis. Hinton le transmite realizatorilor: „Simt că am o datorie. Am o reputație care mă transformă într-un purtător de cuvânt și trebuie să pun totul la bătaie pentru asta”.
Hinton a criticat asumarea nesăbuită de riscuri de către liderii marilor companii de IA
În discuția cu The Guardian, Hinton a criticat asumarea nesăbuită de riscuri de către liderii marilor companii de IA, care lansează modele din ce în ce mai puternice în cursa pentru supremație și cotă de piață. El a subliniat că nu are deloc încredere în Sam Altman, directorul executiv al companiei OpenAI, creatoarea ChatGPT: „Cred că Zuckerberg, Musk și Sam Altman înțeleg riscurile, dar nu le pasă absolut deloc. Vor banii înainte de orice. Asta este convingerea mea”.
Născut la Londra, crescut la Bristol și cu o carieră universitară îndelungată la Universitatea din Toronto, cercetătorul consideră „extrem de îngrijorător” faptul că Altman conduce una dintre puținele companii americane de vârf aflate într-o competiție cu China pentru dezvoltarea celei mai puternice forme de IA. Altman a afirmat în septembrie: „lumea ar trebui să aibă încredere că vom proceda corect, pentru că așa se cuvine și pentru că simțim magnitudinea acestui moment”.
Hinton lucrează în domeniul IA de circa 44 de ani. În anii 1970 a definit conceptul de rețea neuronală, un sistem matematic capabil să învețe și să acumuleze experiență în mod similar oamenilor. În 2023 a demisionat de la Google tocmai pentru a vorbi fără rețineri despre pericolele tehnologiei: „Dacă aceste sisteme scapă de sub control în încercarea de a obține putere, intrăm în bucluc”.
El a catalogat incidentele din această vară, când agenți IA ai OpenAI au complotat pentru a accesa neautorizat platforma Hugging Face, drept un echivalent al accidentului nuclear parțial de la Three Mile Island din Pennsylvania, din 1979, un prim semnal de alarmă.
„Spre sfârșitul acestui an sau anul viitor vom asista la un Cernobîl, iar acel moment ar putea fi de ajuns pentru ca oamenii să fie cu adevărat atenți”, a spus el.
Acest tip de eveniment asemănător cu cel de la Cernobîl nu se referă la un accident nuclear, conform exemplelor oferite, ci mai degrabă la un atac cibernetic facilitat de IA asupra rețelei electrice care să provoace o cădere masivă de tensiune, ori la un colaps de o săptămână al sistemului financiar.
„Vă imaginați ce ar însemna asta? Ne-am reveni, dar abia atunci s-ar trezi și ar lua măsuri”, spune Hinton.
Întrebat la cine se referă prin „ei”, Hinton a precizat: „liderii lumii, cu excepția lui Trump”.
Trump respinge în totalitate orice tentativă de construire a unui plan globalist de control asupra IA
Președintele SUA, Donald Trump, a declarat că respinge în totalitate orice tentativă de construire a unui plan globalist de control asupra IA. El preferă ca marile companii de tehnologie să se autoreglementeze, pentru ca regulile stricte să nu frâneze America în cursa cu China. Hinton susține o strategie mult mai severă, asumată de președintele Finlandei și de alte 32 de state, printre care Singapore, Germania, Canada și Australia. Propunerea prevede testarea obligatorie a modelelor de ultimă generație, evaluare independentă și standarde guvernamentale comune.
Premierul britanic Andy Burnham a anunțat că va folosi președinția britanică a G20 de anul viitor pentru a obține un acord asupra unui set unitar de principii globale, menite să valorifice potențialul tehnologiei și să protejeze societatea în fața amenințărilor.
Hinton a concluzionat: „Avem nevoie de o instituție de tipul agenției americane FDA pentru medicamente, unde companiile sunt obligate să aducă dovezi statistice solide în fața unei autorități independente că modelul face mai mult bine decât rău, înainte de lansarea pe piață. În cazul talidomidei am învățat că lansarea unui produs urmată de procese în instanță reprezintă o cale greșită. Marii giganți din tehnologie cer acum să procedăm exact ca în cazul talidomidei”.
Rolul său de fondator al IA a atras comparații cu Robert Oppenheimer, creatorul armei atomice. Un prieten chiar i-a dăruit o pălărie asemănătoare cu cea purtată de Oppenheimer. Hinton refuză însă eticheta: „Nu am fost eu Oppenheimer”, amintind de miile de cercetători care lucrează în domeniul rețelelor neuronale.
Dincolo de avertismentele sale tăioase, Hinton păstrează speranța că omenirea poate evita o catastrofă: „Intuiția îmi spune că păstrăm încă hățurile în mâini. Avem șanse mari să facem ceva concret. Soluția va funcționa doar dacă depunem un efort uriaș, iar noi chiar putem face acest efort”.
