Un fost cercetător al OpenAI și Anthropic avertizează că industria inteligenței artificiale nu ştie încă să împiedice modelele avansate să îşi stabilească propriile obiective şi să încerce să le atingă. Jacob Coxon cere companiilor să încetinească dezvoltarea AI şi să acorde prioritate măsurilor de siguranţă.
Companiile de top din domeniul inteligenţei artificiale nu ştiu cum să împiedice AI să îşi stabilească propriile obiective şi să se încerce să le atingă, a atenţionat luni avertizorul de integritate Jacob Coxon, în timpul unei audieri în faţa Consiliului Municipal din New York, conform AFP și Agerpres.
Cercetătorul britanic, fost angajat la OpenAI şi Anthropic, a publicat pe platforma X, la începutul lunii septembrie, un text în care îşi explica decizia de a demisiona de la Anthropic, afirmând că dezvoltatorii de AI "cred cu adevărat că aceasta ne-ar putea ucide pe toţi până la sfârşitul deceniului".
Mărturia sa a făcut înconjurul lumii, iar mai mulţi actuali sau foşti angajaţi ai unor companii importante de AI şi-au exprimat ulterior îngrijorări similare.
Deşi AI ar putea "genera beneficii imense" pentru societate, el consideră că, dacă industria "rămâne pe traiectoria actuală, (...) este mai probabil ca omenirea să piardă controlul asupra acestor AI şi este posibil ca acest lucru să ducă la dispariţia" speciei umane, a declarat el luni.
"Nu ştim cum să împiedicăm (modelele) să-şi stabilească propriile obiective", în afara controlului creatorilor lor, a explicat Jacob Coxon, "şi nu avem măsurile de siguranţă care să le împiedice să încerce să le atingă".
Jacob Coxon, un critic al avansului tehnologic
Absolvent al Universităţii Cambridge şi pasionat de matematică, Jacob Coxon a criticat cultura industriei tehnologice, care, în opinia sa, poate fi rezumată ca "mişcă-te repede, strică lucrurile" şi "repară-le mai târziu".
"Acest lucru funcţionează pentru o aplicaţie de partajare a fotografiilor, dar nu şi pentru construirea celei mai puternice tehnologii de până acum", a afirmat Jacob Coxon.
"Atâta timp cât atitudinea rămâne una de aşteptare ca lucrurile să se schimbe", este "probabil" ca un incident similar cu cel din iulie, când două modele OpenAI au scăpat din mediul lor închis, au accesat internetul şi au pătruns în platforma Hugging Face, să se întâmple din nou.
"Diferenţa este că", de data aceasta, "AI va fi mult mai puternică", a atenţionat el.
Companiile de AI "sunt extrem de imprudente, având în vedere miza", a adăugat avertizorul de integritate.
Cercetătorul a cerut companiilor care creează cea mai avansată AI să încetinească ritmul dezvoltării acesteia pentru a le permite informaticienilor să facă progrese în reglementarea modelelor.
