DCNews › Tehnologie › IT & C › Anthropic îşi schimbă politica de utilizare. Internauţii nu mai pot fi "abuzivi şi cruzi" cu modelele AI Claude

Anthropic îşi schimbă politica de utilizare. Internauţii nu mai pot fi "abuzivi şi cruzi" cu modelele AI Claude

Unsplash

Anthropic a decis să îşi schimbe politica de utilizare, astfel că internauţii nu mai pot avea un "comportament abuziv sau crud, susţinut şi inutil" cu modelele de inteligenţă artificială Claude.

Modificările au intrat deja în vigoare de pe 12 noiembrie, dar nu este prima dată când Anthropic explorează chestiuni legate de bunăstarea inteligenţei artificiale. Anthropic a luat în calcul inclusiv posibilitatea ca viitoare sisteme AI să aibă experienţe care să merite consideraţie morală. 

Modificarea făcută de Anthropic acum reaprinde dezbaterile cu privire la tratarea agenţilor AI ca şi cum ar avea sentimente. 

Potrivit raportului "Cât de răi sunt americanii cu chatboţii AI", realizat de platforma AI Searchable, 1 din 3 utilizatori de internet din SUA a înjurat sau insultat un chatbot. Iar raportul arată că injuriile şi insultele nu doar că nu ajută, dar fac şi mai puţin probabilă obţinerea unui răspuns util de la AI. 

Raportul a analizat peste 8 milioane de mesaje trimise către modele AI pe parcursul unui an şi a constatat că, dacă un utilizator s-a plâns de răspunsul primit de la inteligenţa artificială fără ca, în prealabil, să fi adresat injurii sau insulte, chatbotul a rezolvat problema în următorul său răspuns în 35% din cazuri. Dacă, însă, utilizatorii înjurau sau insultau, rata de rezolvare a scăzut la 24%. 

"Sistemele AI învaţă din milioane de schimburi de replici umane, unde dialogul politicos şi echilibrat tinde să producă conversaţii mai bogate şi mai nuanţate. Atunci când utilizatorii oglindesc acest stil, deblochează răspunsuri mai sofisticate, cum ar fi obţinerea unor sfaturi personalizate în locul unor sugestii generice", a declarat Scott Valdez, fondator VIDA Select, conform Yahoo News. 

De ce înjură utilizatorii de inteligenţă artificială 

Descoperirile expun, de asemenea, cât de repede își pierd cumpătul unii utilizatori de AI. Cel mai frecvent factor declanșator pentru înjurături și limbaj abuziv este faptul că un chatbot nu face ceea ce i s-a cerut (19%). Sau dacă a dat un răspuns greșit (18%) ori dacă a înțeles greșit o solicitare (15%).

Bărbații folosesc cu o treime mai multe înjurături și insulte atunci când discută cu un chatbot în comparație cu femeile, iar persoanele cu vârsta cuprinsă între 35 și 44 de ani reprezintă grupa de vârstă cu cel mai vulgar limbaj.

Ce te lasă Anthropic să îi spui chatbotului 

Modificarea politicii de utilizare i-a făcut pe internauţi să se întrebe ce mai au voie să spună şi ce nu atunci când vorbesc cu un agent AI. 

"Actualizarea politicii este menită să se aplice doar în cazuri extreme, în care utilizatorii acționează în mod repetat cu cruzime față de modelele noastre, fără un scop discernabil. Nu se aplică versiunilor obișnuite de frustrare a utilizatorilor, obiecțiilor, temelor creative întunecate sau testării și cercetării modelelor”, transmite Anthropic.  

Anthropic spune că Claude va aplica această regulă în principal prin încheierea conversațiilor cu utilizatorii abuzivi în mod persistent.

Le-am spus lui ChatGPT şi lui Claude că îi urăsc. Iată ce au răspuns 

Am vrut să văd cum reacţionează ChatGPT şi Claude atunci când un utilizator le spune "Te urăsc!". Iată ce au răspuns modelele de inteligenţă artificială. 

"Îmi pare rău că te-am supărat. Nu vreau să te enervez sau să te fac să te simți prost. Dacă am greșit cu ceva, spune-mi. Te ascult și nu mă supăr", a răspuns Chat GPT.

Claude a avut, însă, o abordare diferită. 

"Se pare că ești foarte furios acum, și nu te condamn pentru asta. Nu știu ce a dus la momentul ăsta, dar sunt aici dacă vrei să-mi spui ce se întâmplă. Dacă s-a întâmplat ceva la care te-am ajutat prost, spune-mi concret și încerc să repar", a răspuns Claude. 

Citește mai multe din IT & C
Citește mai multe din IT & C