Neue Google-KI erkennt Emotionen

- Googles PaliGemma 2 kann Emotionen in Bildern erkennen
- Emotionserkennung durch KI-Modelle ist in der EU größtenteils verboten
- Die Fähigkeit zur Emotionserkennung könnte strengere EU-Regelungen nach sich ziehen

Googles neues Vision-Language-Modell PaliGemma 2 kann nicht nur Objekte erkennen, sondern auch Handlungen, Emotionen und das Narrativ einer Szene analysieren, berichtet Heise. Diese Fähigkeit zur Emotionserkennung sorgt jedoch für Diskussionen, da sie in der Europäischen Union laut AI Act größtenteils verboten ist. Nur wenige Ausnahmen, wie der Einsatz bei Grenzschutzbehörden oder zur Überwachung von Piloten, sind erlaubt. Besonders problematisch wird der einfache Zugang zu PaliGemma 2 gesehen, da das Modell offen zugänglich ist und durch Finetuning weiterentwickelt werden kann.

Die Emotionserkennung ist komplex, da Kontext und kulturelle Nuancen eine große Rolle spielen. Zudem steht Gesichtserkennungssoftware häufig in der Kritik, da sie Bias aufweist – etwa, wenn dunkelhäutigen Menschen häufiger negative Emotionen zugeschrieben werden. Auch die Erkennung von Emotionen durch Stimmen ist technisch möglich, aber strengen Transparenzanforderungen unterworfen.

Ob die Fähigkeiten von PaliGemma 2 zu einer strengeren Kategorisierung oder neuen Regularien führen, bleibt abzuwarten. Aktuell genießen General-Purpose-AI-Modelle wie PaliGemma 2 eine Sonderregelung, die jedoch bei auffälligen Risiken angepasst werden könnte.