Google-KI pfuscht bei Giftpilzen

- Google zeigt KI-generierte Pilzbilder, die potenziell giftige Pilze falsch darstellen
- Fehlerhafte Pilzbilder auf Google bergen Gesundheitsrisiken für Sammler
- Experten fordern bessere Kennzeichnung und Kontrolle von KI-Inhalten in Suchergebnissen

Ein schwerwiegender Fehler bei Google betrifft die Anzeige von KI-generierten Pilzbildern in den Suchergebnissen. Diese Bilder, die teils potenziell giftige Pilze falsch darstellen, stammen von Stockbild-Webseiten wie Freepik, berichtet Perplexity. Obwohl sie auf diesen Seiten klar als KI-generiert gekennzeichnet sind, gelingt es Googles Algorithmen nicht, diese von echten Fotografien zu unterscheiden. Das führt dazu, dass ungenaue Darstellungen, wie im Fall des essbaren Pilzes Coprinus comatus, in den hervorgehobenen Such-Snippets erscheinen. Dieser Vorfall birgt erhebliche Gesundheitsrisiken, da Sammler, die sich auf diese visuelle Identifikation verlassen, giftige Pilze fälschlicherweise als essbar einstufen könnten.

Das Problem geht jedoch über Pilze hinaus und verweist auf ein größeres Thema: die wachsende Verbreitung von KI-generierten Inhalten in den Suchergebnissen, oft ohne ausreichende Verifikation. Mykologen und Experten fordern deshalb strengere Kontrollen und klare Kennzeichnungen für KI-Inhalte, insbesondere bei sensiblen Themen wie der Pilzbestimmung, wo Genauigkeit lebenswichtig ist.

Der Vorfall verdeutlicht, dass Suchmaschinen wie Google dringend Mechanismen zur besseren Erkennung von KI-Inhalten entwickeln müssen. Experten empfehlen zudem, verlässliche, von Fachleuten geprüfte Informationen in den Suchergebnissen stärker hervorzuheben, um sicherzustellen, dass Nutzer auf exakte und sichere Daten zugreifen können.