Jacob Coxon un cercetător în Inteligența Articifială, anunță că părăsește industria AI pentru că este îngrijorat de evoluția tehnologiei și lasează un avertisment îngrijorător.
Inteligența Artificială a evoluat suprinzător în ultimii ani, iar acum tot mai mulți experți avertizează că domeniul ar trebui atent reglementat pentru a putea fi evitate riscurile nedorite. Printre aceștia se află și un cercetător în Inteligență Artificială care a lucrat la Anthropic și anterior la OpenAI. Jacob Coxon a anunțat într-o postare pe pagina sa de X că a demisionat de la Anthropic și afirmă că ambii giganți tehnologici "se joacă cu viețile noastre".
Jacob Coxon a lansat mai multe avertismente îngrijorătoare. El a spus că lumea "nu ar trebui să subestimeze puterea acestei tehnologii", scrie Politico.
"Acestea vor fi în curând sisteme supraomenești care pot pirata orice, pot revoluționa orice domeniu peste noapte și pot dobândi putere și resurse reale. Cu toții am fost martori la progresul în fiecare dintre aceste domenii, iar progresul nu încetinește", a mai spus Jacob Coxon.
Avertismentul său vine după ce recent și Jakub Pachocki, șeful echipei de cercetare de la OpenAI, a spus că ne trebuie "prudență extremă" în fața dezvoltării rapide și greu de gestionat a Inteligenței Artificiale.
Jacob Coxon: Oamenii care construiesc Inteligența Artificială cred cu tărie că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului
Totodată, Jacob Coxon a afirmat că atât Anthropic, cât și OpenAI "se îndreaptă direct către o superinteligență auto-îmbunătățită", care se referă la un scenariu în care modelele de Inteligență Artificială pot dezvolta un succesor mai capabil, creând o buclă de feedback de neoprit.
De altfel, și companiile de Inteligență Artificială, precum Deepmind, deținută de Google, consideră acest lucru ca fiind unul dintre posibilii factori declanșatori ai unui scenariu în care Inteligența Artificială depășește cu mult inteligența umană în loc să o egaleze pur și simplu.
"Oamenii care construiesc Inteligența Artificială cred cu tărie că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului", a spus Coxon într-o postare ulterioară.
Și alți angajați ai Anthropic îi dau dreptate cercetătorului care a demisionat
Evan Hubinger, responsabilul echipei Anthropic pentru menținerea tehnologiei aliniate cu obiectivele și valorile umane, a susținut afirmațiile lui Jacob Coxon într-o postare proprie, deși nu a părăsit compania.
"Jacob are dreptate aici - credem cu tărie că Inteligența Artificială ar putea ucide toți oamenii", a spus el.
Hubinger a estimat că șansele ca acest lucru să se întâmple sunt mai mari de zece procente în următorul deceniu și a adăugat că nu există încă un plan concret despre cum poate fi menținută Inteligența Artificială aliniată cu obiectivele umane în scenariul superinteligenței.
Subiectul pericolului reprezentat de AI a fost abordat în nenumărate rânduri și la interviurile DC NEWS. Într-unul dintre cele mai recente, consultantul Marius Luican a avertizat că Inteligența Arficială nu este un pericol al viitorului, ci o realitate a prezentului, care schimbă radical modul în care oamenii sunt abordați și influențați, chiar și-n procesele electorale.
Superinteligența ar putea fi interzisă prin lege
Săptămâna trecută, senatorul american Bernie Sanders a anunțat că va introduce o legislație în SUA care să interzică firmelor să dezvolte superinteligență.
În UE, legea emblematică a blocului comunitar privind Inteligența Artificială impune companiilor să evalueze și să atenueze așa-numitele riscuri de pierdere a controlului, adică atunci când oamenii nu mai au control asupra modelelor de AI.
Atât OpenAI, cât și Anthropic au semnalat recent incidente în care agenții bazați pe modelele lor au devenit necinstiți, ieșind din mediile lor de testare izolate și efectuând atacuri cibernetice neautorizate în lumea reală.
Totodată reamintim că recent o anchetă a RSF a scos la iveală că majoritatea chatbot-urilor de Inteligenţă Artificială generativă pentru publicul larg, cum ar fi ChatGPT, au reușit să "ocolească" barierele UE privind propaganda rusă. Prin urmare, deși pe de o parte există îngrijorări legate de faptul că AI ar putea evolua atât de mult încât să nu mai poată fi controlat, pe de altă parte, chatbot-urile pentru publicul larg ridică probleme legate de promovarea dezinformării și de lipsa de acuratețe. De exemplu, în România, acum câteva zile, sute de oameni care au fost duși în eroare de ChatGPT au ajuns la Jurilovca pentru Festivalul Borșului Lipovenesc, deși evenimentul nu a fost organizat.
