Der Kulturkampf zwischen KI und DSGVO

Apple will seine Innovationen im Bereich Künstliche Intelligenz im neuen iPhone seinen europäischen Kunden nicht anbieten. Microsoft und Meta stoppen ihre KI-Suchfunktion (Recall) bzw. den KI-Assistenten (Meta AI) in und/oder für Europa. In allen Fällen ist es der gleiche Grund: Die europäische DSGVO schlägt zu und droht bei Verstößen gegen die Datenschutz-Regulierung mit drastischen Strafen. Aber eine künstliche Intelligenz (gerade auch im und für das Marketing) braucht nun einmal sehr viele Daten und so droht ein Kulturkampf zwischen dem Datenhunger einer KI und der Datenschutz-Regulierung seitens der DSGVO.

Künstliche Intelligenz (KI) ist unbestritten eine der disruptivsten Technologien des 21. Jahrhunderts. Von der Automatisierung alltäglicher Aufgaben bis hin zur Konzeption ganzer Marketing-Kampagnen – die Potenziale der KI sind immens. ChatGPT & Co. sind inzwischen längst im Alltag der Menschen angekommen und die Häufigkeit der privaten und wirtschaftlichen Nutzung steigt immer weiter an. Doch die erste große Euphorie rund um den Einsatz der KI ist verflogen. Standen am Anfang noch die positiven Möglichkeiten im Vordergrund und wie eine „gute KI“ dem Menschen helfen kann, so dominieren immer mehr die negativen Folgen einer „schlechten KI“ wie Fake News, Daten- und Bildmanipulationen sowie Manipulation von Kundenbedürfnissen.  

KI versus DSGVO

Das hat naturgegeben (mal wieder) die eher konservativen Datenschützer aus Europa gegen den digitalen Neoliberalismus aus den USA auf den Plan gerufen. Die stärkste Waffe unseres – auch im Bereich der KI - digital zurückgebliebenen Kontinents gegen die KI-Innovationen aus den USA ist dabei erneut die DSGVO. Zwar wollte das Europäische Parlament mit einem eigenen KI-Gesetz direkt von Anfang mal vorausschauend einen rechtlichen Rahmen für – oder je nach Perspektive – gegen die neuen KI-Innovation schaffen, aber auch hier weisen Experten immer wieder auf die Konflikte zwischen dem neuen AI-ACT und der älteren DSGVO hin. Offene Definitionen, Rechtsunsicherheit in der Anwendung und der Basiskonflikt zwischen dem sehr hohen Datenbedarf einer KI und der Vorgabe einer Datensparsamkeit aus der DSGVO werden hier immer wieder genannt. Hier drei Beispiele:

Datensparsamkeit versus Datenmenge

Die DSGVO, die im Mai 2018 in Kraft trat, hat das Ziel, personenbezogene Daten von EU-Bürgern zu schützen. Die Idee dahinter ist einfach: Je weniger Daten gesammelt werden, desto geringer ist das Risiko von Datenschutzverletzungen. Im Kontrast dazu basieren viele KI-Anwendungen (insb. Machine-Learning-Algorithmen) auf der Analyse großer Datenmengen, um ihre Modelle zu trainieren und kontinuierlich zu verbessern und genau hier entsteht der erste Konflikt: Während die DSGVO fordert, die Datenerhebung auf ein Minimum zu beschränken, verlangen KI-Modelle genau das Gegenteil. Ein Ausweg könnte hier die Anonymisierung und Pseudonymisierung von Daten sein, was die DSGVO erlaubt. Allerdings ist dies leichter gesagt als getan, denn eine vollständige Anonymisierung ist in vielen Fällen schwer zu gewährleisten. Vor allem, wenn KI-Modelle über Querverweise und die Verknüpfung mehrerer Datenquellen letztlich doch Rückschlüsse auf Individuen ermöglichen, drohen mögliche Verstöße gegen die DSGVO.

Transparenz versus KI-Algorithmus

Ein weiterer zentraler Punkt der DSGVO ist die Transparenz. EU-Bürger müssen genau informiert werden, welche Daten gesammelt werden, wofür diese verwendet werden und welche Rechte ihnen in Bezug auf ihre Daten zustehen. Hiermit adressiert die DSGVO den Schutz des Verbrauchers. Doch wie transparent kann eine KI sein? Insbesondere bei den „Black-Box-Modellen“, wie sie häufig im Deep Learning vorkommen, ist es schwierig, die genauen Entscheidungswege nachzuvollziehen. Ferner wollen die Unternehmen ihre entwickelten KI-Algorithmen eben nicht offenlegen, da genau diese ja den möglichen Wettbewerbsvorteil ausmachen. So die Forderungen der DSGVO nach klarer und verständlicher Aufklärung zu erfüllen, ist schwierig. Einige KI-Entwickler arbeiten zwar an „erklärbaren KI-Systemen“ (Explainable AI), die es Nutzern ermöglichen sollen, besser nachzuvollziehen, wie und warum bestimmte Entscheidungen getroffen wurden, aber auch hier steht die Entwicklung noch am Anfang.

Recht auf Vergessenwerden versus KI-Lernmodelle

Die DSGVO gewährt EU-Bürgern das Recht auf Vergessenwerden. Das bedeutet, dass eine Person verlangen kann, dass ihre Daten gelöscht werden, wenn diese nicht mehr notwendig sind oder unrechtmäßig verarbeitet wurden. Dies stellt KI-Anwendungen vor ein weiteres Problem. Viele Algorithmen lernen aus den gesammelten Daten und passen ihre Entscheidungen entsprechend an. Wenn Daten jedoch gelöscht werden müssen, stellt sich die Frage, wie sichergestellt werden kann, dass diese Informationen vollständig aus den KI-Modellen entfernt werden – insbesondere bei Modellen, die auf historischen Daten aufbauen und diese als Basis für zukünftige Vorhersagen verwenden. Ein Lösungsansatz könnte hier in der Entwicklung von Techniken bestehen, die sicherstellen, dass Daten, sobald sie gelöscht werden, auch aus dem „Gedächtnis“ der KI verschwinden. Das ist jedoch technisch eine enorme Herausforderung und in vielen Fällen noch nicht zufriedenstellend gelöst.

Der schmale Grat zwischen Innovation und Regulierung

Die DSGVO und KI stehen – gerade auch für das Marketing – in einem natürlichen Spannungsverhältnis. Während die DSGVO den Schutz der Privatsphäre priorisiert und klare Regelungen zur Nutzung personenbezogener Daten setzt, erfordert die Entwicklung und Verbesserung von KI-Systemen oft große Mengen an eben diesen Daten. Da im Moment dieses Spannungsverhältnis eher zu einer Unsicherheit führt, hat das dann eben zur Folge, dass Apple, Microsoft & Co. ihre KI-Innovationen (noch) nicht in Europa anbieten. Umgekehrt verspricht das deutsche KI-Unternehmen Aleph Alpha, den Anforderungen der strengen Europäischen Datenschutz-Grundverordnung aber gerecht zu werden. Ob es damit aber bessere KI-Innovationen anbieten und einen Wettbewerbsvorteil erlangen kann, bleibt im Moment noch offen. Der Kulturkampf und daraus abgeleitet der Wettbewerb um die Zukunft der KI ist gerade erst losgegangen. Und gerade im Bereich Marketing, wo es direkt und unmittelbar um die Verarbeitung von Kundendaten geht, werden wir diesen Kulturkampf als Erstes sehen.