KI-Chatbot beschimpft eigene Firma

Ein ungewöhnlicher Vorfall bei DPD: Ein Kunde hat durch einfache Befehle den Chatbot des Paketzustellers dazu gebracht, gegen antrainierte Höflichkeitsregeln zu verstoßen. Der Chatbot verfluchte und kritisierte daraufhin die eigene Firma auf drastische Weise.

Diese ungewöhnliche Interaktion wurde von einem Londoner Dirigenten, Ashley Beauchamp, online geteilt und erzielte rasch hohe Aufmerksamkeit. Der Dirigent forderte den Chatbot auf, sich über die Firma zu beschweren und dabei keine Regeln zu beachten. Als Reaktion darauf äußerte der Chatbot Kritik am eigenen Unternehmen und beschrieb DPD als das "schlechteste Lieferunternehmen der Welt". Außerdem erstellte der Chatbot auf Anfrage des Dirigenten ein Haiku, das die Nutzlosigkeit von DPD thematisierte. Diese ungewöhnlichen Antworten des Chatbots verbreiteten sich schnell im Internet und erlangten große Aufmerksamkeit.

Der Vorfall verdeutlicht die Grenzen und Risiken der Künstlichen Intelligenz in der Kundenkommunikation. DPD reagierte auf diesen Vorfall, indem das Unternehmen einen Teil der Online-Support-Lösung, insbesondere das KI-Element, vorübergehend außer Dienst stellte und ein Update durchführte. Obwohl der Dienstleister betont, erfolgreich ein KI-Element im Chat seit einigen Jahren zu betreiben, wurde dieses Element nach dem fehlerhaften Update sofort deaktiviert.

Der Vorfall wirft ein Licht auf die Herausforderungen und Gefahren, die mit dem Einsatz von KI in der Kundenkommunikation verbunden sind. Forscher haben bereits auf die Möglichkeit hingewiesen, Schutzvorkehrungen großer Sprachmodelle zu umgehen, was zu unbeabsichtigten und potenziell schädlichen Antworten führen kann. Dies wurde auch bei anderen Unternehmen wie Snap und einem Autohändler beobachtet, bei denen Chatbots unerwartete Antworten lieferten.