Lumea nu este pregătită pentru progrese în domeniul inteligenței artificiale, spun „nașii“ IA-ului: Ar putea duce la dispariția umanității

O trecere a companiilor de tehnologie către sisteme autonome ar putea „amplifica masiv” impactul IA-ului, iar guvernele au nevoie de regimuri de siguranță care să declanșeze acțiuni de reglementare dacă produsele ating anumite niveluri de capacitate, scrie The Guardian.

Recomandările sunt făcute de 25 de experți, inclusiv Geoffrey Hinton și Yoshua Bengio, doi dintre cei trei „nași ai inteligenței artificiale” care au câștigat premiul ACM Turing – echivalentul în informatică al premiului Nobel – pentru munca lor.

Intervenția vine în timp ce politicienii, experții și directorii din domeniul tehnologiei se pregătesc să se întâlnească marți la un summit de două zile la Seul.

Lucrarea academică, numită „gestionarea riscurilor extreme ale inteligenței artificiale pe fondul progresului rapid”, recomandă legi guvernamentale de siguranță care introduc cerințe mai stricte dacă tehnologia avansează rapid.

De asemenea, solicită o finanțare sporită pentru organismele nou înființate, cum ar fi institutele de siguranță IA din Regatul Unit și SUA; obligarea firmelor de tehnologie să efectueze o verificare mai riguroasă a riscurilor; și restricționarea utilizării sistemelor AI autonome în roluri societale cheie.

Lucrarea spune că sistemele avansate de inteligență artificială ar putea ajuta la vindecarea bolilor și la creșterea nivelului de trai, dar și la amenințarea erodării stabilității sociale. Acesta avertizează, totuși, că mișcarea industriei tehnologice către dezvoltarea sistemelor autonome reprezintă o amenințare și mai mare.

„Companiile își schimbă atenția către dezvoltarea de sisteme IA generaliste care pot acționa în mod autonom și pot urmări obiective. Creșterile capacităților și autonomiei ar putea în curând amplifica masiv impactul IA, cu riscuri care includ daune sociale pe scară largă, utilizări rău intenționate și o pierdere ireversibilă a controlului uman asupra sistemelor IA autonome”, au spus experții, adăugând că progresul necontrolat al IA ar putea duce la „marginalizarea sau dispariția umanității”.

Următoarea etapă de dezvoltare pentru IA comercială este AI „agentică”, termenul pentru sistemele care pot acționa autonom și, teoretic, pot îndeplini și sarcini precum rezervarea vacanțelor.

  Fiți la curent cu ultimele noutăți. Urmăriți DCNews și pe Google News