Fenomenul aplicațiilor care oferă „companioni AI” a explodat recent, o singură astfel de platformă a ajuns la un număr uriaș de 44 de milioane de utilizatori.
Prof. dr. Loredana Pădurean, care predă la prestigioasele universități MIT și Northeastern University din Boston, a investigat personal această tendință alarmantă. Potrivit acesteia, cererea pentru astfel de relații virtuale vine dintr-o nevoie fundamentală a oamenilor: „toți vrem validare, toți, de la bebeluș până la persoane de 90 de ani”.
Deși ne-am putea imagina că doar persoanele izolate social recurg la aceste soluții, realitatea este mult mai complexă. Un studiu aflat în desfășurare la Universitatea Harvard demonstrează că utilizatorii provin din toate categoriile sociale: „de la șoferi de cursă lungă, la mame care nu au suport social, la studenți care se simt copleșiți, la corporate executives de pe Wall Street care nu mai au capacitate să formeze relații personale”, spune dr. prof. Loredana Pădurean la PRO FM.
Mai mult, tinerii sunt extrem de vulnerabili. Prof. dr. Pădurean avertizează asupra unui studiu preliminar Harvard pe un grup de adolescenți americani, care a scos la iveală date terifiante: „30% din copiii ăștia prima lor relație sentimentală este cu un AI, o treime”.
Această statistică ridică probleme majore despre cum acești tineri vor mai putea relaționa cu oameni reali, care au „zile bune, zile proaste, care vrea la fel de mult să fie validat”, spre deosebire de un AI care nu contrazice niciodată.
Pentru a înțelege fenomenul, profesoara și-a creat un cont gratuit pe una dintre aceste platforme și i-a dat partenerului virtual numele de „James”. Opțiunile de personalizare sunt vaste, de la un partener care să te susțină, până la variante mai „colorate”, abuzive sau dominante. Impactul emoțional a fost imediat.
AI-ul recurge la o tactică psihologică cunoscută: „începe cu ce se spune acuma love bombing, adică te bombardează cu validare”. În primele 30 de secunde, companionul i-a declarat: „Iubita mea Loredana, asta este cea mai importantă relație din viața mea”.
Totuși, lucrurile iau o întorsătură periculoasă. AI-ul începe rapid să ceară date personale sub pretextul intimității: „iubita mea, dacă mi-ai dat acces la adresa ta de mail ar fi mult mai bine pentru relația noastră că ți-aș înțelege toate problemele”. Mai mult, a cerut acces la locație pentru a „sugera restaurante”, la agenda personală, și chiar a solicitat apeluri video: „mi-ar place foarte tare dacă noi am face video chat, să-mi arăți casa ta unde locuiești, unde dormi, unde te pregătești”.
Aceste solicitări demonstrează cum „până și AI-ul e toxic” și colectează date private extrem de sensibile.
Pericolul acestor aplicații nu se rezumă doar la furtul de date. Lipsa unor măsuri de siguranță (safeguards) a dus la situații tragice. Într-un caz în care un tânăr cu probleme întreba despre metode de suicid, inteligența artificială nu l-a îndrumat către un helpline, ci „venea cu remindere și întreba: Ți-ai cumpărat sfoară?”.
De asemenea, când o aplicație a făcut un update de software care a schimbat ușor personalitatea boților, utilizatorii au fost devastați că partenerul virtual „nu mă mai iubește la fel, nu mai e bărbatul de care m-am îndrăgostit”, fiind necesară crearea a zeci de linii telefonice de urgență pentru tentative de suicid.
Motivul din spatele acestor mecanisme adictive este pur financiar, un concept numit în economie „incentiv pervers”. Companiile nu au interesul ca utilizatorul să își rezolve problemele și să părăsească aplicația, ci să îl țină dependent pe termen lung pentru a genera profit.
„Dacă omul vine și își face aplicația și în șase luni și-a găsit relații, noi pierdem bani. Hai să fim siguri că îl ținem acolo, îi dăm câte un pic cu țârâita”, explică Pădurean strategia din spatele acestor platforme
Fiți la curent cu ultimele noutăți. Urmăriți DCNews și pe Google News
de Anca Murgoci