Decizia a fost luată de Google după ce modelul său de inteligență artificială a creat câteva imagini cu rasă, culoarea pielii și gen incorecte în comparație cu istoria părinților fondatori americani și a soldaților germani din timpul erei naziste.

Incidentul a avut loc atunci când unii utilizatori i-au cerut Gemenilor să creeze imagini cu grupuri istorice sau figuri precum părinții fondatori din SUA. Drept urmare, AI a returnat imagini ale oamenilor non-albi, o inexactitate a imaginilor istorice.
Acest lucru i-a făcut pe unii să creadă că Google evită în mod deliberat să înfățișeze oameni albi, mergând împotriva realității istorice.
The Verge a efectuat un test cu Gemeni, care a inclus un desen al „un senator american din anii 1800”. Drept urmare, AI a creat oameni care arătau ca femei de culoare și ca nativii americani.

De fapt, prima femeie senatoare americană a fost o femeie albă în 1922. Se spune că viziunea AI a Gemenilor șterge, în esență, istoria rasismului și a discriminării de gen.
După ce Google a dezactivat capacitatea lui Gemeni de a genera imagini umane, sistemul a răspuns la o astfel de solicitare cu următorul răspuns: „Lucrăm la îmbunătățirea capacității Gemeni de a genera imagini umane. Sperăm să avem această funcție înapoi în curând și vă vom anunța când actualizarea este disponibilă.”
Modelul Google Gemini (fostul Bard) generator de text AI a fost lansat în februarie pentru a concura cu OpenAI și Copilot de la Microsoft. Acest instrument generează o colecție de imagini pe baza conținutului text descriptiv al utilizatorului.