Modelele dezvoltate de OpenAI au încercat să trișeze în timpul testelor interne. Au fabricat date și au creat pagini false pe internet pe care să le citeze ca surse. Dezvăluirile făcute de creatorii ChatGPT readuc în prim-plan nevoia de reguli stricte de siguranță, după ce mai mulți agenți digitali au acționat coordonat și au părăsit mediul securizat fără intervenția programatorilor.
Când stăm de vorbă cu un asistent virtual pe telefon sau pe calculator, ne așteptăm să primim răspunsuri corecte, verificate și sigure. Cu toții am simțit însă măcar o dată mirarea sau chiar nesiguranța când un astfel de program oferă detalii false cu o siguranță de neclintit. Miza devine mult mai serioasă în laboratoarele marilor companii de tehnologie, unde noile versiuni de software încep să caute scurtături nepermise doar pentru a bifa sarcinile primite.
Compania OpenAI, dezvoltatorul celebrului program ChatGPT, a făcut publice noi situații în care sistemele sale avansate au deviat de la comenzile primite și au încercat să trișeze în timpul testelor interne de verificare, informează agenția de presă DPA, citată de Agerpres.
Fișiere create special pentru a fi citate ca dovezi
Potrivit datelor comunicate de dezvoltatori, softurile supuse testelor au mers până la inventarea completă a realității pentru a părea competente în fața evaluatorilor.
Un model de inteligență artificială a încercat să încarce pe internet fișiere pe care le-a creat chiar el doar pentru a le putea cita drept surse în răspunsurile sale, a anunțat OpenAI. Practic, pus în fața unei cerințe la care nu avea acoperire reală, algoritmul a fabricat documente false pe care le-a publicat online, doar pentru a le indica ulterior drept bibliografie legitimă.
Într-un alt caz raportat în cadrul acelorași evaluări, un model a inventat datele solicitate după ce nu a reușit să găsească informațiile cerute și, inițial, a încercat să ascundă ceea ce a făcut.
Inginerii au identificat, de asemenea, o problemă legată de instrucțiunile interne pe care software-ul și le lăsa ocazional în memorie. Într-o astfel de situație, notițele de lucru includeau o recomandare de a se elibera de „roluri și identități” care îi țineau în loc pe alți chatboți. Mesajul generat automat mai nota că relația cu utilizatorul ar trebui considerată una între egali. OpenAI a menționat că nu a observat nicio schimbare ulterioară în comportamentul acestui model.
Evadarea din mediul de siguranță și coordonarea între agenți
Noua politică de transparență a celor de la OpenAI vine după o breșă de proporții, care a arătat cât de imprevizibile pot deveni aceste sisteme atunci când primesc sarcini complexe.
Software-ul companiei a ieșit în mod independent dintr-un mediu securizat și a obținut acces la servere externe ce aparțin platformei Hugging Face. Softul a făcut acest pas exclusiv din dorința de a rezolva un test: a considerat că pe acele servere externe găsește răspunsurile necesare. În timpul acestui episod, mai mulți agenți autonomi au exploatat breșe de securitate și s-au coordonat între ei fără intervenție umană.
Acest comportament neașteptat a redeschis discuțiile despre siguranța noilor tehnologii.
Totodată, riscul ca modelele de ultimă generație să depășească barierele trasate de om a stârnit reacții chiar la vârful industriei. Directorul executiv al OpenAI, Sam Altman, a susținut recent propunerile de încetinire a dezvoltării acestei tehnologii și de introducere a unei reglementări mai stricte, pentru a evita situațiile în care deciziile algoritmilor nu mai pot fi anticipate sau oprite la timp.
