Facebook își cere iertare după ce a confundat persoanele de culoare cu primatele

Mulți utilizatori de pe Facebook, care au vizionat recent un videoclip de pe un tabloid britanic cu bărbați de culoare, au văzut un mesaj automat al rețelei sociale care i-a întrebat dacă ar dori să „vadă în continuare videoclipuri despre Primate”, determinând compania să investigheze și să dezactiveze funcția bazată pe inteligență artificială care a cauzat acel mesaj.

Vineri, Facebook și-a cerut scuze pentru ceea ce a numit „o eroare inacceptabilă” și a spus că analizează funcția de recomandare pentru „a împiedica repetarea acestui lucrue”.

Videoclipul, vechi din 27 iunie 2020, a fost publicat de The Daily Mail și a prezentat imagini cu bărbați de culoare în altercații cu civili albi și ofițeri de poliție. Nu avea nicio legătură cu maimuțele sau primatele.

Darci Groves, fost manager de design de conținut la Facebook, a declarat că un prieten i-a trimis recent o captură de ecran a. Apoi a postat-o ​​pe un forum de feedback pentru produse pentru angajații Facebook actuali și foști. Ca răspuns, un manager de produs pentru Facebook Watch, serviciul video al companiei, l-a numit „inacceptabil” și a spus că „se uită la cauza principală”.

Dna Groves a spus că solicitarea a fost „oribilă și flagrantă”.

Dani Lever, purtător de cuvânt al Facebook, a declarat: „După cum am spus, în timp ce am adus îmbunătățiri la A.I., știm că nu este perfect și avem mai multe progrese. Ne cerem scuze oricui poate că a văzut aceste recomandări jignitoare ”.

Google, Amazon și alte companii de tehnologie sunt supuse controlului de ani de zile pentru prejudecăți în cadrul sistemelor lor de inteligență artificială, în special în ceea ce privește problemele de rasă. Studiile au arătat că tehnologia de recunoaștere facială este părtinitoare împotriva persoanelor de culoare și are mai multe probleme în identificarea lor, ducând la incidente în care negrii au fost discriminați sau arestați din cauza erorii computerului.

Într-un exemplu din 2015, Google Photos a etichetat în mod eronat imaginile cu negri drept „gorile”, pentru care Google a spus că „îi pare rău cu adevărat” și că va face demersuri pentru a remedia problema imediat. Doi ani mai târziu, Wired a descoperit că soluția Google a fost să cenzureze cuvântul „gorilă” din căutări, blocând în același timp „cimpanzeu”, „cimpanzeu” și „maimuță”.

Facebook are unul dintre cele mai mari depozite din lume de imagini încărcate de utilizatori. Compania, care adaptează conținutul utilizatorilor pe baza obiceiurilor de navigare și vizionare anterioare, uneori îi întreabă pe oameni dacă ar dori să continue să vadă postări în categorii conexe, scrie NYTimes.

  Fiți la curent cu ultimele noutăți. Urmăriți DCNews și pe Google News