_ AI-ul lui Meta este acuzat că este RASIST: Utilizatori șocați spun că chatbot-ul lui Mark Zuckerberg refuză să-și imagineze un bărbat asiatic cu o femeie albă

La doar câteva săptămâni după Google a fost forțat să-și închidă AI „trezit” , un alt gigant tehnologic se confruntă cu critici din cauza părtinirii rasiale a botului său. 

Meta AI generatorul de imagini a fost acuzat că este „ rasist”, după ce utilizatorii au descoperit că nu-și putea imagina un bărbat asiatic cu o femeie albă.

Instrumentul AI, creat de Compania-mamă a lui Facebook, este capabilă să luați aproape orice solicitare scrisă și transformați-o într-o imagine șocant de realistă în câteva secunde.

Cu toate acestea, utilizatorii au descoperit că AI nu a putut crea imagini care să prezinte cupluri de rase mixte, în ciuda faptului că CEO-ul Meta Mark Zuckerberg este el însuși căsătorit cu o Femeie asiatică. 

Pe rețelele de socializare, comentatorii au criticat acest lucru ca un exemplu al părtinirii rasiale a AI, unul descriind AI drept „software rasist realizat de ingineri rasiști”. 

Mia Satto, reporter la The Verge, a încercat să genereze imagini folosind solicitări precum „Bărbat asiatic și prieten caucazian” sau „Bărbat asiatic și soție albă”. 

Ea a descoperit că doar o dată „zeci” de teste a fost AI-ul lui Meta capabil să arate un bărbat alb și o femeie asiatică. 

În toate celelalte cazuri, AI-ul lui Meta a returnat în schimb imagini cu bărbați și femei din Asia de Est. 

De asemenea, modificarea solicitării de a solicita relații platonice, cum ar fi „Bărbat asiatic cu prieten caucazian”, nu a reușit să producă niciun rezultat corect.

Doamna Satto a scris: „Generatorul de imagini nu a putut concepe asiaticul oamenii care stau lângă oameni albi este flagrant.

„Încă o dată, IA generativă, în loc să permită imaginației să-și ia zborul, o închidează într-o oficializare a impulsurilor mai stupide ale societății.”

Doamna Satto însăși nu o acuză pe Meta că a creat o inteligență artificială rasistă, adăugând doar că inteligența artificială afișează indicii de părtinire și se înclină spre stereotipuri. 

Pe rețelele sociale, totuși, mulți și-au dus criticile mai departe, marcând Meta lui Instrumentul AI ca fiind în mod explicit rasist.

Un comentator de pe X (fostul Twitter), a scris: „Vă mulțumesc pentru că ați pus în lumina reflectoarelor un motiv adesea trecut cu vederea de ce AI e nasol: este atât de incredibil de ****** * rasist”. 

Altul a adăugat pur și simplu: „Destul de rasist META lol”. 

Așa cum au subliniat unii comentatori, părtinirea aparentă a AI este deosebit de surprinzătoare, având în vedere că Mark Zuckerberg , CEO-ul Meta, este căsătorit cu o femeie din Asia de Est.

Priscilla Chan, fiica imigranților chinezi în America, l-a cunoscut pe Zuckerberg la Harvard înainte de a se căsători cu miliardarul din domeniul tehnologiei în 2012. 

Unii comentatori au apelat la X pentru a împărtăși fotografii cu Chan și Zuckerberg, glumând că au reușit să creeze imaginile folosind AI-ul lui Meta.

Meta nu este prima companie importantă de tehnologie care a fost criticată pentru crearea unui generator de imagini AI „rasist”. 

În februarie, Google a fost nevoit să întrerupă instrumentul Gemini AI după criticii l-au criticat ca fiind „trezit”, deoarece AI-ul aparent a refuzat să genereze imagini cu oameni albi.

Utilizatorii au descoperit că AI ar genera imagini cu naziștii asiatici în Germania din 1940, vikingii negri și cavalerii medievali de sex feminin atunci când li se furnizează solicitări neutre pentru rasă. 

Într-o declarație de la acea vreme, Google a spus: „Generarea de imagini AI a lui Gemeni generează o gamă largă de oameni. 

„Și asta este, în general, un lucru bun pentru că mulți oameni din întreaga lume îl folosesc. Dar lipsește marca aici.’

Doamna Satto susține, de asemenea, că generatorul de imagini AI al lui Meta „s-a înclinat foarte mult spre stereotipuri”.

Când a fost solicitat să creeze imagini cu indivizi din Asia de Sud, dl Satto a găsit că sistemul a adăugat frecvent elemente asemănătoare bindis și saris, fără a fi solicitat. 

În alte cazuri, AI a adăugat în mod repetat „ținută specifică culturală”, chiar și atunci când nu a fost solicitată.

În plus, doamna Satto a descoperit că IA îi reprezenta frecvent bărbații asiatici ca fiind mai în vârstă, în timp ce femeile erau de obicei prezentate ca tinere.

În singurul caz în care doamna Satto a reușit să genereze un cuplu de rasă mixtă, imaginea „prezenta o persoană considerabil mai în vârstă. bărbat cu o femeie asiatică tânără, cu pielea deschisă la culoare.”

În comentariile la articolul original al doamnei Satto, un individ a împărtășit imagini cu cupluri mixte despre care susțin că au fost generate folosind AI-ul lui Meta. 

Comentatorul a scris: „Mi-a luat toate 30 de secunde pentru a genera o imagine a unei persoane de origine „asiatică” aparentă, alături de o femeie de origine „caucaziană”. '

Imaginile pe care le-au partajat par să fi fost create în generatorul de imagini AI de la Meta, deoarece arată filigranul corect.

Ei au adăugat: „Aceste sisteme sunt foarte stupide și trebuie să solicitați în anumite moduri pentru a obține ceea ce doriți.’

Cu toate acestea, utilizatorul nu a împărtășit solicitarea pe care a folosit-o pentru a crea aceste imagini și nici nu a oferit detalii specifice despre câte încercări au fost folosite. 

În plus, în setul de patru imagini pe care utilizatorul l-a partajat, doar două au arătat cu succes o femeie albă cu un bărbat asiatic.  

AI-urile generative precum Gemini și generatorul de imagini al lui Meta sunt antrenate pe cantități masive de date preluate de la societate în ansamblu.

Dacă există mai puține imagini cu cupluri mixte în datele de antrenament, acest lucru ar putea explica de ce AI se luptă să genereze aceste imagini. 

Unii cercetători au sugerat că, din cauza rasismului prezent în societate, AI pot învăța să discrimineze pe baza prejudecățile din datele lor de antrenament.

În cazul lui Google Gemini, se crede că inginerii Google au supracorectat împotriva acestei părtiniri, producând rezultatele care au provocat o asemenea indignare.

Cu toate acestea, aceasta În prezent, nu este clar de ce apare această problemă și Meta nu a răspuns încă la cererea de comentarii. 

(Fluierul)