App lässt Gesichtserkennungssoftwares keine Chance

Informatiker der University of Maryland und der US Naval Acadamy haben eine Software entwickelt, welche die Gesichtserkennung bei Fotos verhindern soll. Dabei werden Fotos so verändert, dass sie für das menschliche Auge nur leicht anders erscheinen, Gesichtserkennungs-APIs sie allerdings nicht mehr erkennen können. Eine Studie zeigt, dass mit der Unkenntlichmachung durch das Tool „LowKey“ die Gesichtserkennungssoftwares von Amazon und Microsoft in weniger als ein Prozent der Fälle das Gesicht zuordnen konnten. Die Forscher haben die Software als Webtool kostenfrei zur Verfügung gestellt.

Forscher warnen vor Gefahren von Gesichtserkennung

Anfang letzten Jahres machte die New York Times die Aktivitäten eines Start-ups bekannt, das die Fotodatenbanken von beispielsweise Facebook oder Instagram aber auch hunderten weiteren Webseiten durchforstete und Milliarden Fotos sammelte. Durch einen einfachen Abgleich eines Beispielsbildes mit den Fotos in der Datenbank, konnten so problemlos Personen identifiziert werden. Die Technik wurde bereits an hunderte Polizeibehörden verkauft und war flächendeckend im Einsatz, bevor sie publik gemacht wurde. Genau solche Verfälle, will das Forscherteam mit ihrer Software in Zukunft vermeiden und gleichzeitig die Menschen vor den Gefahren von Gesichtserkennung warnen.

Gesichtserkennung von Amazon und Microsoft scheitert

Die Forscher testeten das Tool mit den Gesichtserkennungs-APIs Amazon Rekognition und Microsoft Azure Face. Amazon Rekognition hat bei unveränderten Bildern eine Erkennungsrate von 93,7 Prozent, mit „LowKey“ sank diese auf 0,6 Prozent. Microsoft Azure Face erkannte sogar nur noch 0,1 Prozent der Bilder von vormaligen 90,5 Prozent. Komplexere Gesichtserkennungs-APIs wären laut dem Forscherteam wohl im Stande, die Unkenntlichmachung zu umgehen.

Der Algorithmus von „LowKey“ funktioniert so, dass er die Merkmalsraumrepräsentation der Gesichter so verschiebt, dass sie nicht mehr mit dem Originalbild übereinstimmt. Das Ergebnis sind leicht verwaschene Gesichter, die aber trotzdem dem Originalbild sehr stark ähneln. Einen Unterschied zum Original erkennt das menschliche Auge allerdings trotzdem auf den ersten Blick.