Inteligența artificială ar putea ajunge într-un punct în care sistemele devin tot mai greu de controlat, susține Andrei Caramitru.
Andrei Caramitru a vorbit despre riscurile dezvoltării inteligenței artificiale și a spus că există două componente importante: posibilitatea ca AI să ajungă dificil de controlat și competiția dintre companiile americane și cele chineze.
Potrivit acestuia, marile companii de AI susțin reglementarea pentru a reduce riscurile, dar și pentru a-și proteja interesele economice.
„Ați văzut știrile despre AI. Toate marile labs (Anthropic, OpenAI, până și Musk cu Grok) - zic că există un risc imens pentru omenire și că trebuie să se reducă ritmul de evoluție ca să fie mai mult control.
În paralel angajați din interiorul firmelor zic că există 10% sau mai mult risc de dispariție a umanității.
Încerc să explic mai jos. Sunt două teme reale de fapt.
Prima
Lab-urile au ajuns la o arhitectură recursivă. Adică - programarea unui loop cu zeci sute de mii de agenți coordonați care se auto ameliorează adică AI programează următoarea evoluție a AI. Problema e că dacă parametrii inițiali nu sunt perfect înțeleși sau dacă loop-ul o ia un pic razna e posibil să se ajungă la ceva pe care chiar nu mai există nici un control și nici o capacitate de a înțelege ce face și de a stopa ceva”, a scris Andrei Caramitru pe pagina de Facebook.
Modelele de AI americane, copiate și oferite gratuit
„A doua: Firmele chinezești au o strategie de a distruge economic industria de AI a americanilor. Ce fac? Iau rezultatele modelelor (în care au fost investite zeci de miliarde), esențialmente le copiază / distilează și le dau gratis. Deci pot distruge economic investițiile de trilioane făcute deja + agenții open source de tipul ăsta chiar că nu îi poate controla absolut nimeni.
Așa că lab-urile împing acum pentru reglementare guvernamentală. Pentru că e și în interesul lor - dacă e reglementat ei devin kosher și sunt eliminate celelalte modele open source. Și da asta reduce și riscul per total. Fiind în avantajul lor vor face scandal și lobby să sperie cu scenarii apocaliptice.
Lucrurile sunt mult mai complexe în general decât știrile simpliste pe care le citim. E bine să înțelegem chestiile astea care au și vor avea un impact colosal pe întreaga societate și pe viețile noastre”, a scris Andrei Caramitru pe pagina de Facebook.