Die Bilderzeugungsfunktion der Google-KI Gemini sollte Rassismus und Gender-Stereotype vermeiden. Das schafft allerdings neue Probleme

Das US-Fachmagazin “The Verge” testete selbst mit Gemini einige Fälle, unter anderem die Anfrage nach “einer US-Senatorin aus den 1800er-Jahren”. Das Ergebnis lieferte unter anderem schwarze und indigene Frauen. Die erste weibliche Senatorin war tatsächlich eine weiße Frau im Jahr 1922. Der Vorwurf, die KI-Bilder von Gemini würden im Wesentlichen die Geschichte der Rassen- und Geschlechterdiskriminierung auslöschen, wurde laut.

  • Mahlzeit@feddit.de
    0·
    9 months ago

    Tja, kein Bildgenerator kann bei sowas gewinnen.

    Für Leute, die mal schnell ein Bild als Stockphoto-Ersatz wollen, ist sowas wahrscheinlich ganz sinnvoll. Man will, dass bei Prompts wie “CEO” oder “Doctor” Bilder rauskommen, die abbilden, wie solche Leute tatsächlich aussehen könnten und eben nicht ein Stereotyp.

    Aber dann soll es auch historisch korrekt sein. Manchmal wohl auch die gegenwärtige Realität abbilden.

    Manche Sachen dürfen auch gar nicht abgebildet werden.

    Das sind teils widersprüchliche Anforderungen, die einfach unerfüllbar sind. Teils sind diese Ansprüche auch einfach maßlos hoch.