Directorul Anthropic cere încetinirea ritmului de dezvoltare a inteligenţei artificiale, dar şi un control mai strict al evoluţiilor acesteia.
Dario Amodei, directorul Anthropic, a venit cu mesajul la doar câteva zile după ce Jacob Coxon, cercetător în cadrul companiei, şi-a dat demisia şi a invocat minimizarea riscului existenţial pe care AI îl reprezintă pentru umanitate.
Apelul lui Dario Amodei este similar cu un altul, lansat la începutul lunii iunie de Anthropic, şi care solicita ca marii actori din domeniul AI să aibă posibilitatea de a "încetini sau suspenda temporar dezvoltarea" acestei tehnologii.
La sfârşitul lunii iulie, Sam Altman, şeful companiei rivale OpenAI, a vorbit, la rândul lui, despre o încetinire "pentru a oferi suficient timp societăţii să se adapteze acestor noi capacităţi".
Ulterior, peste o mie de angajaţi ai unor companii din domeniul AI, inclusiv Dario Amodei şi personal de conducere din Open AI, au cerut guvernului american să ajute la "temporizarea" lansării modelelor celor mai avansate.
Modele AI au ajuns pe internet fără ştirea supraveghetorilor
Aceste îndemnuri au fost formulate în urma unui incident în care modele OpenAI au ieşit în mod spontan din mediului lor controlat cu prilejul unor teste, conectându-se la internet şi atacând platforma AI Hugging Face.
De atunci, alte evenimente în care sisteme AI ale OpenAI şi Anthropic au ajuns pe internet fără ştirea supraveghetorilor lor au fost raportate de cele două companii.
De fiecare dată a fost vorba despre agenţi AI, programe construite pe un model specific şi dotate cu cunoştinţe şi obiective proprii.
Acţiunile şi metodele acestor agenţi au stârnit cu atât mai multă îngrijorare cu cât au demonstrat o tendinţă de a se coordona, a stabili o ierarhie între eele, a trişa şi a şterge apoi urmele faptelor lor.
Având în vedere actuala viteză de dezvoltare a AI, "mă tem că în următoarele 6 până la 12 luni un grup de (agenţi) va fi capabil să preia controlul întregului internet", a avertizat Dario Amodei, iar asta "ar putea atrage după sine pagube de sute de miliarde de dolari".
Jacob Coxon a tras un semnal de alarmă: AI, pericol pentru existenţa oamenilor
Jacob Coxon a scris marţi pe platforma online X că AI va putea "sparge orice" şi va avea capacitatea de a "dobândi putere şi resurse reale".
"Cei care dezvoltă AI cred cu tărie că aceasta ne-ar putea ucide pe toţi până la sfârşitul deceniului", a avertizat Coxon.
Britanicul în vârstă de 27 de ani a declarat pentru The Wall Street Journal că, în "cele mai agresive scenarii", lucrurile ar putea deja să scape de sub control până la sfârşitul anului viitor. Un pericol major este acela că AI se poate dezvolta singură, devenind mai greu de controlat, a spus el.
Cercetătorul de la Anthropic Evan Hubinger, parţial responsabil de menţinerea AI aliniată intereselor umane, a confirmat ulterior îngrijorările lui Coxon. El a scris pe platforma X că, în opinia sa, riscul ca AI să distrugă omenirea în următorul deceniu este mai mare de 10%.
Jakub Pachocki, director de cercetare la OpenAI, compania care a dezvoltat ChatGPT şi cea mai aprigă rivală a Anthropic, a îndemnat anterior la "prudenţă extremă". El şi-a exprimat, într-o postare pe blog, îngrijorarea faţă de faptul că nimeni nu este pregătit pentru o evoluţie rapidă a capacităţilor AI.
Pachocki a afirmat că istoria a ajuns într-un punct în care inteligenţa artificială începe să depăşească inteligenţa umană.
Directorul OpenAI a descris mai în detaliu de ce sistemele moderne de AI sunt mai greu de controlat. El a spus că AI a fost lăsată să "crească" în loc să fie proiectată.
Sistemele de AI sunt produsul unor procese complexe. "Sesiunile noastre de antrenament la scară largă sunt experimente şi uneori suntem surprinşi de rezultatele lor", a declarat el.
Şi, cu cât capacităţile maşinilor le depăşesc pe cele ale oamenilor, cu atât va fi mai dificil să înţelegem de ce sunt ele capabile, a precizat reprezentantul OpenAI.
În acelaşi timp, Pachocki a adus un argument în favoarea continuării cercetării rapide, deoarece dezvoltarea AI ar putea oferi protecţie împotriva pericolelor reprezentate de alte forme de AI. Acest lucru ar fi necesar, printre altele, pentru a proteja infrastructura şi pentru a dezvolta mecanisme de apărare complet noi.
