Grok-2 produziert Flut von Deepfakes

- Grok-2 produziert unzensierte Deepfakes
- Deepfakes zeigen echte Personen in schockierenden Szenen
- Diese Entwicklungen verschärfen bereits bestehende Brand-Safety-Probleme bei X

Grok-2, die neueste Version von Elon Musks Grok-Chatbot, hat kürzlich Schlagzeilen gemacht, indem es unzensierte Deepfakes generiert, die reale Personen in schockierenden oder gewalttätigen Szenarien darstellen. Diese Funktion, entwickelt von dem deutschen Startup Black Forest Labs und exklusiv für X Premium-Abonnenten verfügbar, hat sofort Besorgnis ausgelöst. Besonders alarmierend ist der Mangel an Inhaltsschutzmaßnahmen, dies zu Bedenken hinsichtlich der Markensicherheit und potenziellen rechtlichen Problemen führt.

Werbeabwanderung bei X
Die Einführung von Grok-2 kommt zu einem kritischen Zeitpunkt für X, wo bereits eine signifikante Werbeabwanderung zu verzeichnen ist. X, früher Twitter, hat unter Elon Musk seine Inhaltsmoderationspraktiken drastisch gelockert, dies zu einem dramatischen Rückgang der Werbeeinnahmen geführt hat. Experten wie Jacob Bourne von Emarketer warnen, dass Grok-2 die Probleme weiter verschärfen könnte, indem es die Verbreitung von Deepfakes und Fehlinformationen fördert und die Beziehung zu Werbetreibenden weiter belasten könnte.

Rechtliche Risiken und Regulierungslücke
Zusätzlich wird befürchtet, dass der Mangel an Schutzmaßnahmen gegen Urheberrechtsverletzungen zu rechtlichen Auseinandersetzungen führen könnte. Die gegenwärtige Regulierungslage in den USA bietet keine klaren Richtlinien zur Kennzeichnung von Deepfakes, während europäische Vorschriften wie der AI Act bereits Schritte zur Offenlegung solcher Inhalte eingeführt haben.