KI scheitert an Diversity

Google hat das bildgenerierende KI-Modell namens Gemini (ehemals Google Bard) als erste Redaktion auf OpenAIs ChatGPT-Erfolg entwickelt und im März 2023 veröffentlicht. Leider sind die Ergebnisse des KI-Modells teilweise umpassend. So wurden z.B. die Gründerväter der USA als multikulturelle Gruppe dargestellt, was zum Sheetstorm #WokeGemini führte.

Für den peinlichen Fehler hat sich Google entschuldigt. Die Ursache des Problems liegt in der mangelnden Berücksichtigung von historischem Kontext bei der Entwicklung des Modells. Die KI basiert auf Trainingsdaten, die oft Verzerrungen aufweisen, wie z.B. eine Überrepräsentation weißer Personen. Google betont die Notwendigkeit von Vielfalt und Kontextsensitivität in KI-Systemen, um relevante Ergebnisse unabhängig von ethnischer Zugehörigkeit oder anderen Merkmalen zu liefern.

Der Artikel "Reflections in the "woke’ mirror" in BuzzMachine behandelt die Kontroverse um #WokeGemini und die gesellschaftlichen Reaktionen darauf. Es wird diskutiert, wie generative KI als kreatives Werkzeug betrachtet werden sollte. Zudem wird die Frage nach der Verantwortung in der Entwicklung und Anwendung von KI-Technologien aufgeworfen, insbesondere in Bezug auf die ethischen Implikationen und die Auswirkungen auf die Gesellschaft.