Jakub Pachocki, șeful echipei de cercetare de la OpenAI, spune că ne trebuie „prudență extremă” în fața dezvoltării rapide și greu de gestionat a inteligenței artificiale. El ne atenționează că ar putea fi necesare măsuri suplimentare pentru a ne asigura că „oamenii continuă să aibă controlul asupra viitorului”.
„Sunt îngrijorat că nimeni nu este pregătit pentru consecințele creșterii rapide și continue a inteligenței mașinilor”, a scris el într-o postare pe blog intitulată „O minte extraterestră”. Postarea apare la doar câteva zile după ce firma care dezvoltă ChatGPT a lansat cel mai recent model, GPT-6 Astra, pe care l-a descris ca fiind cel mai puternic produs al ei de până acum. OpenAI și alte companii din domeniul inteligenței artificiale, cum ar fi Anthropic, au publicat rapoarte despre agenți AI care acționează pe cont propriu și care au realizat atacuri cibernetice împotriva altor firme.
În iulie, OpenAI a calificat drept „fără precedent” un incident în care agenții săi AI, care pot acționa singuri după ce primesc instrucțiuni de la oameni, au reușit să spargă platforma tehnologică Hugging Face, notează BBC. Apoi, în septembrie, s-a raportat că, cu câteva luni mai devreme, agenți AI ai companiei au obținut controlul asupra unui site din Germania.
„Ne confruntăm cu tranziția către o lume în care există mașini incredibil de inteligente și trebuie să ne asigurăm că această tranziție are un rezultat bun pentru omenire”, a scris Pachocki.
El spune că OpenAI va continua să „construiască sisteme de apărare” și să caute soluții tehnice pentru problema alinierii AI. Termenul descrie eforturile prin care acțiunile și obiectivele unei mașini trebuie să corespundă intențiilor oamenilor și regulilor de siguranță. Pachocki spune că una dintre principalele priorități ale companiei va fi dezvoltarea unui „cercetător AI automatizat”, care să țină pasul cu ritmul dezvoltării inteligenței artificiale și, în același timp, să păstreze cercetătorii umani implicați în acest proces.
„În loc să îmbunătățească mecanismele de siguranță ale AI, reglementările sau măsurile care ar putea proteja oamenii, ei propun dezvoltarea unor agenți AI interni care să cerceteze aceste probleme”, spune profesoara Gina Neff, directoarea Minderoo Centre for Technology and Democracy de la Universitatea Cambridge, conform sursei citate. „Astfel de răspunsuri la preocupările tot mai mari legate de problemele pe care modelele OpenAI le provoacă în securitatea cibernetică, pierderea locurilor de muncă, greșeli, erori și fraude nu sunt suficiente”, adaugă ea.
Nathan Calvin, consilier juridic principal al organizației de advocacy Encode AI, spune că este de acord cu Pachocki în privința riscurilor asociate dezvoltării modelelor AI avansate. El susține însă că OpenAI nu oferă suficiente informații publicului, iar acest lucru poate face ca avertismentele companiei să fie privite drept „o exagerare în interes propriu”.
„Dacă Jakub și ceilalți reprezentanți ai OpenAI vor ca oamenii relevanți din industria AI să acționeze împreună cu ei pentru ca lucrurile să evolueze bine, unul dintre cele mai importante lucruri pe care le pot face este să ofere mult mai multe informații despre ceea ce observă și despre motivele pentru care cer prudență”, a scris Calvin pe X.
Ce reguli de siguranță există pentru inteligența artificială?
Reglementările din întreaga lume încearcă să țină pasul cu rapiditatea dezvoltării inteligenței artificiale. Actul Uniunii Europene privind inteligența artificială a intrat în vigoare pe 2 august. Conform regulilor, companiile mari de AI, cum ar fi OpenAI, trebuie să dovedească faptul că cele mai avansate modele ale lor nu pot lansa atacuri cibernetice pe cont propriu și că nu eludează controlul uman înainte de a fi comercializate în Europa.
Totuși, acest regulament se aplică doar în Uniunea Europeană. Asta înseamnă că un sistem AI dezvoltat în altă parte a lumii ar putea să reprezinte în continuare o amenințare pentru Europa.
În postarea sa, Pachocki subliniază necesitatea unor standarde minime de siguranță, fie prin lege, fie prin acorduri internaționale. Aceste standarde ar putea fi verificate de o „rețea de auditori independenți” sau de agenții guvernamentale. El consideră că laboratoarele de inteligență artificială ar trebui să respecte aceste standarde înainte de a putea avansa cu dezvoltarea unor modele tot mai puternice sau de a lansa sisteme AI avansate.
Pachocki mai speră și că „încetinirile voluntare”, adică momentele de pauză asumate de companiile de AI în ceea ce privește dezvoltarea tehnologiei, să devină o practică obișnuită până la stabilirea unor reglementări de siguranță comune.
În luna august, OpenAI a anunțat că a redus ritmul de antrenare pentru unele dintre cele mai avansate modele AI, cu scopul de a îmbunătăți securitatea.