Künstliche Intelligenz: EU muss Verbraucher schützen

In den Verhandlungen zum AI Act in Brüssel zeichnet sich eine Einigung ab, die auch generative KI-Systeme wie Chat GPT berücksichtigt. Angebote wie ChatGPT machen eine verbraucherfreundliche Regulierung besonders dringlich. Der vzbv fordert: Der AI Act muss Verbraucher:innen mit starken Rechten gegenüber Betreibern ausstatten. „Wir brauchen Transparenz sowie ein Recht auf Korrektur und Löschung, damit sich Betroffene etwa gegen KI-generierte Falschmeldungen oder Manipulation zur Wehr setzen können.“, so Ramona Pop, Vorständin des Verbraucherzentrale Bundesverbands (vzbv).  

Verbraucherentscheidungen werden künftig verstärkt durch KI-basierte Empfehlungssysteme wie ChatGPT beeinflusst werden. Um Risiken von generativer KI für Verbraucher:innen auszuschließen, muss der geplante europäische AI Act für starke Verbraucherrechte und die Möglichkeit der unabhängigen Risikobewertung sorgen.

KI mit Risiken für Verbraucher:innen

„Das Risiko, dass KI-Systeme zu falschen oder manipulativen Kaufempfehlungen, Bewertungen und Verbraucherinformationen führen, ist hoch. Künstliche Intelligenz ist nicht immer so intelligent, wie es der Name verspricht.“, so Pop. Die Folgen können für Verbraucher:innen gravierend sein. „Es muss sichergestellt werden, dass Verbraucherinnen und Verbraucher angemessen geschützt werden vor Manipulation, Irreführung und Täuschung, etwa durch KI-gesteuerte Empfehlungssysteme. Unabhängige Wissenschaftler müssen Zugang zu den Systemen erhalten, um deren Risiken und Funktionsweise bewerten zu können.“

Verbraucherrechte gegenüber KI-Betreibern stärken

Verbraucher:innen müssten sich gegen KI-generierte Falschmeldungen zur Wehr setzen können. „Wir brauchen einklagbare individuelle Betroffenenrechte gegenüber KI-Betreibern. Menschen müssen ein Recht auf Korrektur und Löschung erhalten, etwa wenn durch Systeme wie ChatGPT Nachteile durch Rufschädigung entstehen.“

Der vzbv fordert: Der AI Act muss sicherstellen, dass KI-Anwendungen europäische Gesetze einhalten und europäischen Werten entsprechen.

Hintergrund

Neue generative Künstliche Intelligenz (KI) wie ChatGPT, ist bislang nicht speziell reguliert und wird ohne eine angemessene Folgenabschätzung durch unabhängige Dritte und ohne öffentliche Kontrolle oder besondere Aufsicht auf den Markt gebracht.

Seit April 2021 wird in Brüssel ein Rechtsrahmen für KI, der Artificial Intelligence Act (AI Act), verhandelt. Dieser soll Regeln und Qualitätsvorgaben für Anbieter von KI-Systemen definieren. Die breite Debatte um ChatGPT hat auch die Debatte um KI-Regulierung auf europäischer Ebene in den Fokus gerückt. Chat GPT zeigt, welche Risiken KI für Verbraucher:innen birgt.

Der Rat der Europäischen Union hatte sich bereits am 6. Dezember 2022 auf eine Position geeinigt. Der Rat muss jetzt seine Position rund um grundlegende KI-Modelle wie ChatGPT anpassen. Das Europäische Parlament will sich bis Anfang Juni auf eine Position einigen. Dann beginnen die Trilogverhandlungen zwischen Rat, Parlament und Kommission für den AI Act.