Declaraţiile sale au fost făcute la Conferința Internațională de Criminologie și Psihologie Criminalistică din Bucureşti. Conform lui James Harris, aşa cum un program de calculator are erori, aşa se comportî şi natura umană. Iar aceste erori pot fi exploatate.
"Securitatea cibernetică este strâns legată de comportamentul victimelor. Devine din ce în ce mai ușor pentru oameni să excludă umanitatea din ecuație atunci când comit astfel de fapte. Tendințele actuale din AI amplifică acest fenomen în toate aspectele sale. Există probleme, există erori în software. Se investesc milioane și milioane de ore pentru ca oamenii să învețe cum să le exploateze. Pe de altă parte, avem natura umană. În două milioane de ani de evoluție, nu am învățat încă cum să reparăm aceste vulnerabilități psihologice. Ele au existat dintotdeauna. Nu le putem „repara” pur și simplu; nu suntem imuni la ele și majoritatea dintre noi nu pot învăța să le evite complet.
Există multe studii despre motivația din spatele criminalității cibernetice, dar mă voi opri doar la două. O carte din 2020 din Hong Kong analizează conceptul de deconectare morală (moral disengagement), care explică modul în care învățăm să ne justificăm comportamentele imorale sau lipsite de etică, convingându-ne că victima „o merită”.
Acest concept joacă un rol în toate formele de infracționalitate, de la exploatarea minorilor până la fraudele financiare. Autorii Wang și Fang vorbesc despre faptul că atacatorii aplică selectiv acest principiu, considerând că victimele își merită soarta. Există, de asemenea, conceptul de pedepse amânate. În criminalitatea cibernetică, poți comite o infracțiune și obții recompensa financiară imediat. Dacă nu există consecințe rapide – deoarece investigațiile pot dura luni sau chiar ani de zile până când autorul este identificat – riscul perceput este minim. Așadar, avem o recompensă imediată, un risc scăzut și o pedeapsă mult amânată.
Cei de la Mississippi Now vorbesc despre același concept de deconectare morală, dar prin prisma reducerii conexiunilor emoționale directe cu potențialele victime. Astfel, începi să nu mai vezi victimele ca pe niște ființe umane, ci ca pe niște simple date de identificare: adrese IP, conturi sau ID-uri de rețea. Te dezumanizezi!
Adesea tindem să credem că acești infractori sunt doar niște „băieți răi”, niște psihopați lipsiți de empatie, cărora le este ușor să facă rău fără remușcări. Însă oamenii pot fi manipulați să își piardă empatia. Am văzut asta în terorism, unde, în mod curent, indivizii sunt convinși de radicalizatori: „Tot ce este rău în viața ta se datorează acestor oameni. Prin urmare, orice le faci este justificat”. Acest lucru îi determină să se implice în astfel de comportamente. De asemenea, pot fi influențați de mediul online; mulți au canale de YouTube sau activează pe rețelele sociale unde se laudă cu ce au făcut, își cumpără mașini scumpe, afișează bunuri de lux și fac ca totul să pară un stil de viață legitim și de succes", a declarat James Harris, fost agent FBI, actual expert în Cyber Security.
CITEŞTE ŞI Anthropic blochează accesul la cel mai nou AI al său după un ordin al administrației SUA
AI-ul nu înseamnă, de fapt, Inteligenţă Artificială
"Sistemele AI nu sunt cu adevărat „inteligente” în sensul uman. Este vorba despre o recunoaștere avansată de tipare. AI-ul ne lasă impresia că este inteligent și ne poate convinge de asta, dar în esență este doar un model statistic care calculează probabilități: dacă elementul X este prezent, atunci este foarte probabil să urmeze elementul Y.
Având în vedere acest lucru, AI-ul poate procesa volume uriașe de date, iar fiecare dintre noi are o amprentă digitală uriașă în prezent. De aici apare conceptul de personalizare avansată a unei fraude. Deoarece există atât de multe informații disponibile despre un individ, te poți aștepta ca AI-ul să coreleze profilurile și să creeze o înșelătorie croită special pe vulnerabilitățile acelei persoane.
Când diferențiem AI-ul de ceea ce urmează, aș vrea să vă gândiți la sisteme precum ChatGPT, unde mergi și pornești o conversație. Însă tehnologia a evoluat rapid. Acum avem ceea ce se numește Agentic AI (AI Autonom / Agenți AI). În cazul acestor agenți, în loc să interacționezi direct și să le pui întrebări pas cu pas, le poți delega sarcini complete pe care să le execute singuri în numele tău.
Dacă ne gândim la Agentic AI, acesta reprezintă un multiplicator de forță uriaș pentru fraude, atacuri cibernetice și escrocherii, deoarece reduce masiv efortul uman. Gândiți-vă cum era înainte: dacă voiai să înșeli pe cineva, trebuia să vorbești tu direct sau să folosești ChatGPT pentru a compune mesaje, încercând manual să convingi victima să facă lucruri pe care nu ar trebui să le facă. Trebuia să fii implicat activ în fiecare etapă a procesului. Și tocmai în acel moment exista posibilitatea să simți compasiune pentru victimă și să decizi să te oprești.
Cu Agentic AI, poți planifica totul de la început și îi spui agentului: „Lansează frauda, clonează vocea, creează avatarul, fă tot ce este necesar”. Tu doar pornești procesul și poți pleca din cameră. Când trebuie doar să apeși pe un buton și să lași AI-ul să se ocupe de toată interacțiunea și de escrocherie, nu mai există o reangajare emoțională, nu mai există interacțiune umană din partea ta. Prin urmare, nu mai simți nicio empatie față de victimă. Odată ce ai stabilit în mintea ta că acea persoană „o merită”, apeși pe buton, activezi agentul, iar infracțiunea se produce de la sine", a mai spus reprezentantul FBI.
CITEŞTE ŞI Inteligenţa artificială "atrofiază" creierul. Principalele primejdii generate de AI
Putem implementa modele etice de AI?
Cât de probabilă este implementarea unor sisteme de siguranţă în inteligenţa artificială, pentru ca astfel de lucruri să nu se mai întâmple? James Harris spune că, şi dacă s-ar implementa, infractorii tot le-ar ocoli.
"Vă puteți întreba în acest moment: de ce nu putem face tehnologia mai etică? Nu putem construi modele etice? Nu putem antrena aceste sisteme să se comporte mai bine? Răspunsul este: ba da, se poate și poate funcționa într-o anumită măsură, dar infractorii nu vor folosi acele modele securizate. Ei vor folosi modele open-source modificate sau modele dezvoltate de state-națiune ostile. Există întotdeauna versiuni alternative spre care se vor orienta.
Un alt aspect important este modul în care atacatorii ocolesc barierele din modele. Să presupunem că implementăm filtre pentru a face sistemele să refuze comportamentele dăunătoare. Aceste modele sunt, repet, statistice. Ele nu înțeleg moralitatea, așa cum nici infractorii nu o fac în acel context. Ele doar recunosc tipare. Prin urmare, ideea de a rezolva problema doar prin educarea AI-ului să fie „mai bun” nu va funcționa la nivel global.
Desigur, am putea crea algoritmi pentru platformele de social media care să facă detectarea mai eficientă, reducând recrutarea, radicalizarea teroristă sau răspândirea mesajelor de ură care îi determină pe oameni să comită aceste fapte. Da, din punct de vedere tehnic se pot crea astfel de algoritmi de monitorizare. Dar, după cum probabil știți de la prietenii sau specialiștii din Silicon Valley, acest lucru nu se întâmplă la nivelul dorit. De ce? Pentru că indignarea și conținutul controversat generează un trafic uriaș și se vând la fel de bine ca ecranele cu conținut explicit. În plus, oamenii tind să caute exact acele informații care le confirmă propriile convingeri și prejudecăți, alimentând acest cerc vicios", a completat James Harris.