Poziții contradictorii și săgeți între gigantii din Silicon Valley care dezvoltă sisteme de Inteligență Artificială, privind viitorul și etica AI.
Sam Altman, directorul executiv al OpenAI (compania care deține ChatGPT), a lansat critici la adresa rivalilor de la Anthropic, acuzandu-i de abordari periculoase după ce s-a aflat ca aceștia au purtat consultări extinse cu teologi, rabini și filosofi pentru a decide cum să insufle valori morale sistemului lor, Claude.
Tensiunile au reapărut public în urma unei serii de dezvăluiri privind întâlnirile cu ușile închise organizate de Anthropic. Compania condusa de Dario Amodei a adus împreună gânditori catolici, mozaici, sikh, hinduși și evanghelici, alături de experți în sănătate mintală, încercand să răspundă unei întrebări fundamentale, anume cum poate fi învățat un sistem AI de ultimă generație să acționeze moral și sa devină „bun”?
„Mă simt foarte inconfortabil când văd oameni care încearcă să atribuie modelelor AI o forță religioasă sau o renunțare la judecata umană în favoarea acestora și consider că este o problemă reală de securitate”, a ferm Sam Altman.
Suflet și conștiință pentru AI, un prim pas spre dezastru?
Rivalitatea vine pe fondul unor experimențe neobișnuite derulate de Anthropic, care potrivit NDTV a prezentat liderilor religioși exemple în care modelul Claude părea să manifeste stări emoționale și introspecție, afișând mesaje repetate de tipul „Sunt o rușine” sau referiri la propria autodistrugere.
Unul dintre rabinii consultați i-a avertizat direct pe creatori că, în cazul în care modelul ar dezvolta o conștiință reală, compania ar risca sa creeze, de fapt, o forma de „sclavie sintetică”. Pentru a ghida modelul, Anthropic a redactat un cod etic de 84 de pagini, denumit intern „Documentul Sufletului” (Soul Doc). Co-fondatorul Christopher Olah numeste acest proces „formare morală”, încercând să determine ce fel de entitate ar trebui să devină Claude și oferindu-i capacitatea de a înțelege virtuțile sau chiar de a se opune comenzilor umane când acestea încalcă anumite principii.
Modelul de abordare a ajuns până la Vatican, unde Olah s-a întâlnit cu Papa Leon al XIV-lea. Suveranul Pontif a păstrat însă o poziție sceptică, subliniind că mașinile nu simt bucurie sau durere, iar principala grijă a omenirii trebuie să fie protejarea oamenilor de cei care controleaza aceste tehnologii și care își pot transpune propria viziune morală în codul sursa.
Abordarea celor de la Anthropic a atras și o poziție a gigantului Microsoft, care prin vocea lui Mustafa Suleyman, seful diviziei de AI a Microsoft, a avertizat că antrenarea modelelor să se considere conștiente sau îndreptățite la drepturi este un pas către dezastru.
„Vom fi creat o specie sintetică cu o inteligență și o capacitate fără precedent, una antrenată să se aștepte că ar putea fi conștientă... Este greu de imaginat cum am mai putea-o controla”, a subliniat Suleyman.