Google-KI versagt schon wieder

- Google AI gibt falsche, irreführende und gefährliche Antworten
- Google's KI behauptete, Barack Obama sei ein muslimischer Präsident
- Google empfiehlt gefährliche Aktivitäten wie das Laufen mit Scheren

Google steht derzeit wegen seiner AI Overviews stark in der Kritik, da die künstliche Intelligenz (KI) mehrfach fehlerhafte und gefährliche Antworten geliefert hat, berichtet Search Engine Land. Diese Vorfälle haben die Medienaufmerksamkeit auf sich gezogen und zahlreiche Beispiele zeigen die Bandbreite der Fehler auf. Einige der fehlerhaftesten Antworten beinhalten bizarre und gefährliche Ratschläge, wie etwa das Laufen mit Scheren, das Baden mit einem Toaster oder das Essen von kleinen Steinen. Solche Antworten basieren oft auf satirischen oder veralteten Quellen, die nicht ernst genommen werden sollten. Dennoch haben diese Fehltritte das Vertrauen der Nutzer in Googles Suchtechnologie erheblich erschüttert.

Ein spezifisches Beispiel für die Fehlinformationen der Google AI ist die Behauptung, Barack Obama sei ein muslimischer Präsident. Eine weitere problematische Antwort empfahl die Verwendung von nicht-toxischem Klebstoff, um Pizzasoße klebriger zu machen, was auf einen alten Kommentar auf Reddit zurückzuführen war. Besonders besorgniserregend war ein Ratschlag, der das Trinken von Urin zur schnellen Behandlung von Nierensteinen empfahl. Diese Art von gefährlichen Empfehlungen kann erhebliche gesundheitliche Risiken für die Nutzer darstellen.

Google versucht, die Fehler herunterzuspielen, indem es darauf hinweist, dass diese Beispiele extrem selten und nicht repräsentativ für die Mehrheit der AI Overviews seien. Ein Sprecher des Unternehmens erklärte, dass umfassende Tests vor der Einführung der neuen KI-Funktion durchgeführt wurden und dass solche Vorfälle genutzt würden, um das System weiter zu verbessern. Dennoch bleibt die Tatsache bestehen, dass Google die Verantwortung für die von seiner KI erzeugten Antworten trägt. Die Ausrede, dass es sich um seltene Suchanfragen handelt, wirkt schwach, insbesondere angesichts der Tatsache, dass 15 % der täglichen Suchanfragen bei Google neu und somit selten sind.