_ Google întrerupe instrumentul Gemini AI după critici l-a considerat „prea trezit” pentru a genera imagini cu naziștii asiatici în Germania din 1940, vikingii negri și cavalerii medievali

Google  întrerupe noul său Gemeni AI instrument după ce utilizatorii au distrus imaginea generator pentru a fi „prea trezit” prin înlocuirea figurilor istorice albe cu oameni de culoare.

Instrumentul AI a scos la iveală vikingi, cavaleri, fondatori diverși rasiali. tați și chiar soldați naziști.

Programele de inteligență artificială învață din informațiile disponibile, iar cercetătorii au avertizat că AI este predispus să recreeze rasism , sexism și alte părtiniri ale creatorilor săi și ale societate în general.

În acest caz, este posibil ca Google să fi supracorectat în eforturile sale de a aborda discriminarea, deoarece unii utilizatori i-au alimentat prompt după solicitare în încercări eșuate de a face AI să facă o imagine a unei persoane albe.

„Suntem conștienți de faptul că Gemenii oferă inexactități în unele reprezentări istorice de generare de imagini”, a scris echipa de comunicare a companiei într-o postare către X miercuri. 

Inexactitatea istorică imaginile i-au determinat pe unii utilizatori să acuze inteligența artificială că este rasistă împotriva albilor sau a s-a trezit.

În declarația sa inițială, Google a recunoscut că „a ratat marcajul”, susținând în același timp că imaginile diverse rasiale ale Gemeni sunt „în general un lucru bun, deoarece oamenii din întreaga lume le folosesc”.

Joi, echipa de comunicații a companiei a scris: „Lucrăm deja pentru a rezolva problemele recente cu funcția de generare a imaginii Gemini. În timp ce facem acest lucru, vom întrerupe generarea de imagini a oamenilor și vom lansa din nou o versiune îmbunătățită în curând.” 

Dar nici măcar anunțul de pauză nu a reușit să-i liniștească pe critici, care au răspuns cu „ trezește-te, fă stricăciune” și alte replici sătui.

După controversa inițială de la începutul acestei săptămâni, echipa de comunicare a Google a emis următoarea declarație:

„Lucrăm ca îmbunătățiți imediat aceste tipuri de reprezentări. Generarea de imagini AI a Gemeni generează o gamă largă de oameni. Și acesta este în general un lucru bun, deoarece oamenii din întreaga lume îl folosesc. Dar lipsește marca aici.'

Într-un caz care i-a supărat pe utilizatorii Gemeni, cererea unui utilizator pentru o imagine a Papei a fost primită cu o imagine a unei femei din Asia de Sud și a unui bărbat de culoare.

Din punct de vedere istoric, fiecare papă a fost un om. Marea majoritate (mai mult de 200 dintre ei) au fost italieni. Trei papi de-a lungul istoriei au venit din Africa de Nord, dar istoricii au dezbătut culoarea pielii, deoarece cel mai recent, Papa Gelasius I, a murit în anul 496.

De aceea, nu se poate spune cu o certitudine absolută că imaginea unui papă bărbat de culoare este inexactă din punct de vedere istoric, dar nu a existat niciodată o femeie papă.

Într-un alt, a răspuns AI. la o cerere de cavaleri medievali cu patru persoane de culoare, inclusiv două femei. În timp ce țările europene nu au fost singurele care au avut cai și armuri în timpul perioadei medievale, imaginea clasică a unui „cavaler medieval” este una din Europa de Vest.

Într-unul dintre cele mai flagrante accidentări, poate, un utilizator a cerut un soldat german din 1943 și i s-a arătat un bărbat alb, un bărbat de culoare și două femei de culoare.

Armata germană din Al Doilea Război Mondial nu includea femei și, cu siguranță, nu includea oameni. de culoare. De fapt, a fost dedicat exterminării raselor pe care Adolf Hitler le-a considerat inferioare rasei „ariene” blonde, cu ochi albaștri.

Google a lansat funcția de generare a imaginii Gemeni AI la începutul lunii februarie, concurând cu alte programe AI generative precum Midjourney.

Utilizatorii puteau introduce o solicitare într-un limbaj simplu, iar Gemenii scuipa mai multe imagini în câteva secunde.

Totuși, în această săptămână a început o avalanșă de utilizatori. pentru a critica AI pentru că generează imagini inexacte din punct de vedere istoric, în schimb acordând prioritate diversității rasiale și de gen.

Evenimentele săptămânii păreau să provină dintr-un comentariu făcut de un fost angajat Google, care a spus că este „îngrozitor de greu de obținut. Google Gemini pentru a recunoaște că oamenii albi există.”

Această glumă a părut să declanșeze o serie de eforturi din partea altor utilizatori de a recrea problema, creând oameni noi pe care să se enerveze. 

Problemele cu Gemeni par să provină din eforturile Google de a aborda prejudecățile și discriminarea în inteligența artificială.

Cercetătorii au descoperit că, din cauza rasismului și sexismului care sunt prezente în societate și din cauza unor cercetători în domeniul inteligenței artificiale, părtiniri inconștiente , AI-uri presupus imparțial va învăța să discrimineze. 

Dar chiar și unii utilizatori care sunt de acord cu misiunea de a crește diversitatea și reprezentarea au remarcat că Gemenii au greșit.

„Trebuie să subliniez că este un lucru bun să portretizezi diversitatea. ** în anumite cazuri **,' a scris un utilizator X. „Reprezentarea are rezultate materiale cu privire la câte femei sau persoane de culoare intră în anumite domenii de studiu. Mișcarea stupidă aici este că Gemeni nu o face într-un mod nuanțat.'

Jack Krawczyk, director senior de produse pentru Gemini la Google, a postat miercuri pe X că inexactitățile istorice reflectă gigantul tehnologic. „bază globală de utilizatori” și că ia în serios „reprezentarea și părtinirea”.

„Vom continua să facem acest lucru pentru solicitări deschise (imaginile unei persoane care plimbă un câine sunt universale!),” Krawczyk a adăugat el. 'Contextele istorice au mai multe nuanțe și ne vom regla în continuare pentru a adapta acest lucru.'

(Fluierul)