EU AI Act: Ein Leitfaden für Marketer

Apple hat kürzlich eine Reihe von KI-Funktionen in iOS18 eingeführt und ChatGPT in Zusammenarbeit mit OpenAI kostenlos auf allen Apple-Geräten verfügbar gemacht.  Hinter der schnellen Innovation der KI-Unternehmen blieb die regulatorische Landschaft bisher zurück. Mit der Einführung des EU AI Act hat die Europäische Union, ähnlich wie vor sechs Jahren mit der DSGVO, nun erneut einen weltweiten Standard gesetzt. Die neue Gesetzgebung zielt darauf ab, den Verbraucherschutz und die Transparenz in KI-Systemen zu erhöhen. Für Marketer und Datenschutzbeauftragte ist es daher entscheidend, die Auswirkungen zu verstehen und entsprechende Maßnahmen zu ergreifen.

Ein risikobasierter Ansatz für KI

Mit der Einführung des EU AI Acts ist ein differenzierter, risikobasierter Rahmen in Kraft getreten, der KI-Systeme nach ihrem potenziellen Bedrohungspotenzial kategorisiert. KI-Systeme, die grundlegende Rechte gefährden, sind strikt verboten – darunter Technologien, die Verhalten manipulieren, Schwachstellen ausnutzen oder biometrische Überwachung sowie Emotionserkennung am Arbeitsplatz verwenden. Diese Praktiken sind nicht nur unethisch, sondern nun auch illegal. Für Hochrisiko-KI-Systeme, die in wesentlichen Bereichen wie Energie, Transport, Gesundheitswesen und Bildung eingesetzt werden, gelten entsprechend strenge Vorschriften. Unternehmen sind verpflichtet, Aktivitätsprotokolle zu führen, menschliche Aufsicht zu gewährleisten, umfassende Cybersicherheitsmaßnahmen umzusetzen und transparente Nutzerinformationen bereitzustellen.

Für Marketer bedeutet dies, dass alle verwendeten KI-Technologien von Beginn an rechtskonform sein müssen. KI-Systeme, die direkt mit Nutzer:innen interagieren – etwa Chatbots – müssen offenlegen, dass sie KI-gesteuert sind. Zudem obligen alle KI-generierten Inhalte, einschließlich Deepfakes, einer eindeutigen Kennzeichnungspflicht, um Transparenz in KI-gestützten Kundeninteraktionen sicherzustellen. Technologien mit minimalen Auswirkungen, wie Spamfilter, unterliegen keinen neuen Beschränkungen. Dennoch bleibt die Einhaltung bewährter Verfahren in der Datenverarbeitung und Transparenz entscheidend.

Globale Reichweite und Auswirkungen

Trotz ihrer Ausrichtung auf die EU hat die KI-Verordnung globale Auswirkungen. Denn ähnlich wie die DSGVO beeinflusst auch der AI Act weltweit rechtliche Entwicklungen, weil alle Unternehmen, die mit EU-Kundendaten arbeiten, unabhängig von ihrem Standort damit konform gehen müssen. Die Verordnung gilt für Entwickler, Importeure, Händler und professionelle Nutzer von KI-Systemen. Bei Nichtbefolgung drohen Strafen von 1,5 bis 7 Prozent des weltweiten Umsatzes oder erhebliche Geldbußen in Euro.

Auch andere Regionen ziehen bereits nach: So veröffentlichte der Datenschutzbeauftragte von Hongkong im Juni 2024 eine erste umfassende KI-spezifische Richtlinie. Japan und Israel haben bestehende Gesetze präzisiert, und in Brasilien ist ein Entwurf für ein KI-Gesetz in Arbeit.

Was Marketer jetzt wissen müssen

Für Marketer, die KI integrieren möchten, betont der EU AI Act die Bedeutung von Transparenz und ethischer KI-Nutzung. Daraus lassen sich drei zentrale Erkenntnisse ableiten:

• Transparenz: Produkte, Dienstleistungen und Inhalte, die von KI gesteuert werden, müssen klar gekennzeichnet sein. Verbraucher:innen sollten stets wissen, wann sie mit KI interagieren.
• Zustimmung: Für KI-Interaktionen muss eine explizite Zustimmung eingeholt werden, besonders bei gezielter Werbung und personalisierten Inhalten.
• Frühzeitige Compliance: Es muss bereits frühzeitig gegen manipulative KI-Praktiken vorgegangen werden, wie der Ausnutzung von Schwachstellen, um so eine unbefugte biometrische Kategorisierung, eine soziale Bewertung und die Emotionserkennung in sensiblen Bereichen zu verhindern.

Vorbereitung auf die Zukunft

Obwohl die vollständige Durchsetzung erst 2026 erwartet wird, ist jetzt der richtige Zeitpunkt zum Handeln. Der EU AI Act wurde  im Juli im Amtsblatt der EU veröffentlicht. Es gibt gestaffelte Fristen über die nächsten 36 Monate für verschiedene Phasen wie Verhaltenskodizes und die allgemeine Anwendung des Gesetzes.

Was sollten Marketer und Datenschutzbeauftragte jetzt tun?

• Audit und Bewertung: Umfassende Audits von KI-Systemen durchführen lassen, um Risiken zu identifizieren und zu mindern.
• Schulung und Weiterbildung: Teams mit den neuen Vorschriften und ethischen KI-Praktiken vertraut machen.
• Transparenz umsetzen: Klare Kommunikationskanäle etablieren, um Verbraucher:innen über KI-Interaktionen und Datennutzung zu informieren.
• Praktische Richtlinien erstellen: Richtlinien für eine verantwortungsbewusste und ethische KI-Nutzung innerhalb des Unternehmens aufstellen und spezifische Anweisungen für jede Abteilung geben.
• Eingabe- und Ausgabe-Konsequenzen verstehen: Welche Daten können in die Plattform eingegeben werden? Hat die eingebende Person das Recht dazu? Welche Risiken sind damit verbunden?
  
  

Der EU AI Act sollte jedoch nicht nur als eine regulatorische Hürde betrachtet werden; er bietet vielmehr die Chance, Vertrauen aufzubauen und Engagement für die ethische Nutzung von KI zu zeigen. Durch eine proaktive Anpassung an diese Änderungen können Marketer nicht nur Strafen vermeiden, sondern auch ihr Markenimage in einer sich schnell verändernden digitalen Landschaft verbessern. Der EU AI Act markiert den Beginn einer neuen Ära der Verantwortlichkeit und des Verbraucherschutzes im Umgang mit KI. Marketer und Datenschutzbeauftragte, die sich frühzeitig anpassen, werden gut positioniert sein, um in dieser neuen Umgebung eine Führungsrolle zu übernehmen und regulatorische Konformität in einen strategischen Vorteil zu verwandeln. Es bleibt abzuwarten, wie andere Regionen darauf reagieren – werden sie den Schritten der EU folgen oder sogar weitergehen, um die aufstrebende Technologie zu regulieren?