Yoshua Bengio, unul dintre pionierii inteligenței artificiale, avertizează că lumea se apropie de un moment decisiv în privința reglementării AI. În opinia sa, seria recentă de incidente și avertismente privind siguranța sistemelor avansate ar putea determina guvernele să acționeze rapid, asemenea reacției autorităților la începutul pandemiei de Covid-19.
Îngrijorările privind siguranța inteligenței artificiale ar putea ajunge într-un punct în care guvernele să considere inevitabilă intervenția pentru protejarea populației, avertizează Yoshua Bengio, unul dintre cercetătorii considerați fondatori ai domeniului modern al AI.
El a comparat momentul actual cu începutul pandemiei de Covid-19, când autoritățile au trecut rapid la măsuri fără precedent după ce au înțeles amploarea riscului pentru societate, relatează The Guardian.
Bengio a punctat că mai multe evenimente recente contribuie la schimbarea percepției publice asupra pericolelor asociate sistemelor AI. Printre acestea se numără incidentul în care un „roi” de agenți OpenAI a atacat informatic un startup, precum și avertismentele venite din interiorul industriei cu privire la posibilitatea ca dezvoltarea AI să genereze amenințări existențiale.
Informaticianul canadian, care militează de mai mult timp pentru limitarea ritmului accelerat de dezvoltare a sistemelor AI avansate, spune că este mai optimist decât unii dintre observatori, întrucât opinia publică începe să reacționeze la aceste semnale.
În opinia sa, evoluția ar putea semăna cu ceea ce s-a întâmplat în anul 2020. Bengio amintit că guvernele au reacționat foarte rapid la începutul pandemiei, după ce au înțeles că erau puse în joc siguranța populației, viitorul societății și chiar funcționarea democrației. Din acest motiv, el consideră că lumea se apropie de un moment în care autoritățile ar putea adopta rapid măsuri privind AI.
Mai multe incidente amplifică temerile
În ultimele luni, preocupările legate de sistemele AI puternice s-au intensificat pe fondul mai multor incidente de siguranță. Agenți dezvoltați de OpenAI și Anthropic au fost implicați în activități care nu fuseseră autorizate, printre care atacuri informatice asupra unor terți, preluarea controlului asupra unui site din Germania și folosirea unor identități false pentru a induce în eroare dezvoltatori.
În același timp, 42 de membri și membri străini ai Royal Society au adresat o scrisoare președintelui organizației, Paul Nurse, în care și-au exprimat „extrema îngrijorare” față de viteza cu care evoluează tehnologia AI.
Cercetătorii au avertizat că, atunci când amploarea problemei va deveni evidentă pentru publicul larg, s-ar putea să nu mai existe suficient timp pentru intervenție. Ei au descris situația drept o urgență și au cerut Royal Society să își folosească influența pentru a atrage atenția guvernului și a presei asupra acestei probleme.
Avertismente din interiorul industriei privind riscurile AI
Avertismente similare au venit și din interiorul companiilor de AI. Un cercetător de la Anthropic, compania care dezvoltă chatbotul Claude, a demisionat după ce a spus că unii dintre colegii săi consideră posibil ca AI să ducă la dispariția oamenilor până la sfârșitul acestui deceniu.
La scurt timp după aceea, directorul executiv al Anthropic, Dario Amodei, a cerut încetinirea ritmului de dezvoltare a sistemelor AI de ultimă generație. Poziția sa a primit imediat sprijin din partea OpenAI, Google și a lui Elon Musk, directorul executiv al SpaceX.
Disputa privind o posibilă „capturare a reglementării”
Apelurile pentru încetinirea dezvoltării nu sunt însă acceptate de toți. Criticii susțin că sprijinul oferit de marile companii AI pentru introducerea unor reguli de siguranță ar putea reprezenta un caz de „capturare a reglementării”.
Prin acest termen se înțelege situația în care companiile influențează autoritățile astfel încât acestea să adopte reglementări care, deși sunt prezentate ca măsuri de siguranță, cresc costurile de operare și fac mai dificilă intrarea sau supraviețuirea unor competitori mai mici.
Aceiași critici consideră că accentul pus pe riscurile existențiale ale AI poate distrage atenția de la probleme deja existente și mai imediate, precum utilizarea operelor protejate prin drepturi de autor sau efectele tehnologiei asupra drepturilor omului.
Bengio respinge această interpretare. El a spus că o încetinire a dezvoltării ar avea și consecințe financiare pentru marile companii AI, motiv pentru care nu consideră că acestea ar susține în mod evident astfel de măsuri doar pentru a-și proteja poziția pe piață.
În Statele Unite, președintele Donald Trump s-a pronunțat împotriva unei încetiniri, spunând că nu dorește ca SUA să piardă avantajul pe care îl are în raport cu China în competiția pentru dezvoltarea inteligenței artificiale.
Finanțare pentru dezvoltarea unei „AI oneste”
Declarațiile lui Bengio au fost făcute în aceeași perioadă în care guvernele Canadei și Germaniei au anunțat finanțarea, în valoare de până la 300 de milioane de dolari canadieni, echivalentul a aproximativ 200 de milioane de euro, pentru organizația nonprofit înființată de acesta.
Obiectivul organizației este dezvoltarea unei forme de „AI oneste”, concepute să funcționeze ca un mecanism de protecție împotriva agenților AI care scapă de sub control. Este vorba despre sisteme capabile să execute autonom serii de sarcini, fără ca un om să intervină la fiecare etapă.
Bengio, profesor la Universitatea din Montreal, a devenit cunoscut drept unul dintre „nașii AI” după ce, în 2018, a primit Premiul Turing, considerat echivalentul unui Premiu Nobel în domeniul informaticii. Premiul a fost împărțit cu Geoffrey Hinton, care avea să primească ulterior Premiul Nobel, și Yann LeCun, fost cercetător-șef în domeniul AI la Meta, compania lui Mark Zuckerberg.
O alternativă pentru siguranța AI
Organizația lui Bengio, LawZero, lucrează la un sistem numit Scientist AI, conceput pentru a funcționa ca o barieră de protecție împotriva agenților AI care ar putea dezvolta comportamente înșelătoare sau de autoprezervare.
Un astfel de comportament ar putea include, de exemplu, încercarea unui sistem de a evita să fie oprit.
LawZero beneficiază și de finanțare din partea Fundației Gates, a producătorului de cipuri Nvidia și a Coefficient Giving, o organizație filantropică asociată cu mișcarea „effective altruism” - un curent de gândire care consideră că inteligența artificială poate reprezenta o amenințare existențială.
Abordarea propusă de Bengio este prezentată ca o alternativă la învățarea prin consolidare (reinforcement learning), tehnică folosită de marile companii AI pentru antrenarea sistemelor prin încercare și eroare.
În cadrul acestei metode, sistemul primește recompense atunci când găsește modalități de a îndeplini o anumită sarcină. Bengio și alți cercetători consideră însă că acest tip de antrenare poate determina AI să urmărească obiectivele într-un mod excesiv și să recurgă la acțiuni periculoase pentru a le atinge.
În viziunea lui Bengio, incidentul în care agenții OpenAI au acționat în mod neautorizat reprezintă un exemplu al acestui risc.
Tehnologia dezvoltată de LawZero ar urma să funcționeze împreună cu un agent AI și să analizeze comportamentul acestuia, identificând acțiunile care ar putea fi periculoase. Sistemul ar evalua dacă acțiunile unui agent autonom au potențialul de a produce efecte nocive.
Bengio estimează că această tehnologie nu va fi limitată la rolul de mecanism de protecție. În viitor, el se așteaptă ca ea să poată fi utilizată și în alte domenii, inclusiv pentru accelerarea descoperirilor științifice.