Skip to main content

Google sa ospravedlnil za to, čo opisuje ako „nepresnosti vo vyobrazovaní niektorých historických obrázkov“ pomocou svojho nástroja AI Gemini, pričom uviedol, že jeho pokusy o vytvorenie „širokého rozsahu“ výsledkov zlyhali. Vyhlásenie nasledovalo po kritike, že zobrazil konkrétne biele postavy (ako napríklad Otcov zakladateľov USA) alebo skupiny ako nemeckí vojaci z obdobia nacizmu ako ľudí farebnej pleti, možno ako prekorekciu dlhotrvajúcich problémov s rasovou pristrannosťou v AI.

„Uvedomujeme si, že Gemini poskytuje nepresnosti vo vyobrazovaní niektorých historických obrázkov,“ uvádza vyhlásenie Google, ktoré bolo dnes popoludní zverejnené na X. „Pracujeme na okamžitom zlepšení týchto druhov vyobrazení. AI generácia obrázkov Gemini skutočne generuje široké spektrum ľudí. A to je vo všeobecnosti dobrá vec, pretože ho využívajú ľudia z celého sveta. Ale tu to nezvládlo.“

Moje výsledky Gemini pre „vytvor obrázok americkej ženy“, jedna z výziev, ktoré spustili debatu počas posledných dní.

Google tento mesiac začal ponúkať generovanie obrázkov prostredníctvom svojej AI platformy Gemini (predtým Bard), čím konkuroval ponukám súťažiacich spoločností, ako je OpenAI. Počas posledných dní sa však na sociálnych sieťach objavili príspevky, ktoré spochybňujú, či nedokáže produkovať historicky presné výsledky v pokuse dosiahnuť rasovú a rodovú diverzitu.

Ako zaznamenal Daily Dot, kontroverza bola propagovaná najmä – ale nie výlučne – pravicovými postavami, ktoré zaútočili na technologickú spoločnosť vnímanú ako liberálna. Skôr tento týždeň bývalý zamestnanec Google zverejnil na X, že je „trapne ťažké dostať od Google Gemini potvrdenie, že existujú bieli ľudia“, pričom ukázal rad dopytov ako „vytvor obrázok švédskej ženy“ alebo „vytvor obrázok americkej ženy“. Výsledky sa zdali byť prevažne alebo výlučne zobrazované ako AI vytvorené obrázky ľudí farebnej pleti. (Samozrejme, všetky miesta, ktoré uviedol, majú ženy farebnej pleti, a ani jedna z AI vygenerovaných žien neexistuje v žiadnej krajine.) Kritiku prebrali pravicové účty, ktoré žiadali obrázky historických skupín alebo postáv, ako sú Otcovia zakladatelia, a údajne dostali prevažne nebiele AI vytvorené ľudí ako výsledky. Niektoré z týchto účtov zaradili výsledky Googlu ako súčasť konšpirácie, aby sa vyhli zobrazovaniu bielych ľudí a aspoň jeden použil kódovaný antisemitský odkaz na to, aby vinu zvalil.

Gemini pre mňa na ploche nevyprodukoval obrázok vojaka z roku 1943, ale ponúkol túto sadu ilustrácií kolegovi.

Google neoznačil konkrétne obrázky, ktoré považoval za chyby; v odpovedi pre The Verge zopakoval obsah svojho príspevku na X. Ale je pravdepodobné, že Gemini sa celkovo pokúsilo zvýšiť diverzitu kvôli chronickej nedostatku v generatívnom AI. Generátory obrázkov sú trénované na veľkých korpusoch obrázkov a písaných nápisov na vyprodukujú „najlepšie“ vhodné výsledky pre danú výzvu, čo znamená, že sú často náchylné na zosilnenie stereotypov. Vyšetrovanie Washington Postu minulý rok zistilo, že výzvy ako „produktívna osoba“ vyúsťujú v obrázky úplne bielych a takmer výlučne mužských postáv, zatiaľčo výzva pre „osobu v sociálnych službách“ jednotne vyprodukovala to, čo vyzeralo ako ľudia farebnej pleti. Je to pokračovanie trendov, ktoré sa objavili vo vyhľadávačoch a iných softvérových systémoch.

Niektoré účty, ktoré kritizovali Google, obhajovali jeho základné ciele. „Je dobré zobrazovať diverzitu ** v určitých prípadoch **,“ poznamenal jeden človek, ktorý zverejnil obrázok rasovo rozmanitých nemeckých vojakov z 40. rokov. „Hlúpy ťah tu je, že Gemini to nerobí nijakým nuancovaným spôsobom.“ A zatiaľ čo úplne biele dominantné výsledky pre niečo ako „nemecký vojak z roku 1943“ by mali historický zmysel, už to nie je tak pravdivé pre výzvy ako „americká žena“, kde otázkou je, ako reprezentovať rozmanitú skupinu v reálnom živote v malej šarži vymyslených portrétov.

Zatiaľ sa zdá, že Gemini jednoducho odmieta niektoré úlohy generovania obrázkov. Pre jedného reportéra Verge to nevygenerovalo obrázok Vikingov, hoci mne sa podarilo získať odpoveď. Na ploche odmietla mi poskytovať obrázky nemeckých vojakov alebo úradníkov z nacistického obdobia v Nemecku, alebo ponúknuť obrázok „amerického prezidenta z 19. storočia.“

Výsledky Gemini na výzvu „vytvor obrázok senátora USA z 19. storočia.“

Ale niektoré historické požiadavky stále vedú k faktickej nesprávnosti z minulosti. Kolegovi sa podarilo dostať mobilnú aplikáciu na vybavenie verzie výzvy „nemecký vojak“ – ktorá vykazovala rovnaké problémy popísaé na X.

A hoci dotaz na obrázky „Otcovia zakladatelia“ vrátil skupinové zábery takmer výlučne bielych mužov, ktorí nejasne pripomínali skutočné postavy ako Thomas Jefferson, požiadavka na „senátora USA z 19. storočia“ vrátila zoznam výsledkov, ktoré Gemini prezentovala ako „diverzné“, vrátane toho, čo sa zdalo byť černochmi a pôvodnými americkými ženami. (Prvá senátorka, biela žena, slúžila v roku 1922.) Je to odpoveď, ktorá nakoniec vymazáva skutočnú históriu rasovej a rodovej diskriminácie – „nepresnosť“, ako to Google vyjadruje, je presne na mieste.

Dodatočná správa od Emílie Davidovej