Verstörende KI findet jedes deiner Fotos im Internet

Die Software PimEyes kann alle Fotos einer Person im Internet aufspüren. Obwohl das auch gute Seiten hat, birgt die KI große Gefahren – und verstößt wahrscheinlich gegen das Gesetz.

PimEyes sucht das Internet anhand biometrischer Daten nach Bildern ab. (Foto: Getty Images)
Die App PimEyes sucht das Internet anhand biometrischer Daten nach Bildern ab. (Foto: Getty Images) (imaginima via Getty Images)

Man stelle sich vor: Eine fremde Person macht in der U-Bahn heimlich ein Foto von uns. Dieses Foto wird in eine App hochgeladen, die das Gesicht scannt und anschließend alle Fotos ausspielt, die von uns im Internet existieren – auch wenn die Bilder in einem Kontext online sind, den vielleicht nicht jede*r kennen soll.

Stalker-Software soll vordergründig Missbrauch des eigenen Bildes verhindern

Wenn der*die Stalker*in dann auch noch ein Monatsabo abschließt, zeigt die App sogar die Quelle der Bilder an. In sekundenschnelle weiß der fremde Mensch aus der U-Bahn alles über uns: Wie wir heißen, wer unsere Freunde sind, wo wir wohnen, unsere Vorlieben und so weiter. Mit der Künstlichen Intelligenz PimEyes ist genau dieses Alptraumszenario möglich und für jede*n zugänglich.

Dabei soll PimEyes vordergründig genau den Missbrauch von Bildern verhindern. Denn durch die Suche kann man auch feststellen, wer das eigene Gesicht unrechtmäßig verwendet, zum Beispiel für Betrugsmaschen. Es lässt sich sogar ein Alert einstellen, der anzeigt, wenn jemand ein Bild mit den eigenen biometrischen Daten hochlädt. Was zunächst praktisch klingt, kann aber aufs schlimmste missbraucht werden.

PimEye verstößt wahrscheinlich gegen EU-Recht

Mit der Software ist jede*r auf der Straße identifizierbar. Das kann nicht nur für Stalking missbraucht werden. So liefert das Programm Auskunft über Menschen auf Demonstrationen, die Anonymität von Sexworker*innen ist in Gefahr und wenn ein*e gekränkte*r Ex-Partner*in intime Fotos ins Internet hochlädt, kann die jetzt auch jede*r anhand eines heimlichen Schnappschusses finden.

Wer verhindern will, dass das eigene Bild gefunden wird, muss sich anhand des Personalausweises bei PimEyes identifizieren und die Bildersuche für sich sperren lassen. Diese als „Opt-Out“ bezeichnete Vorgehensweise, bei der statt aktiver Zustimmung ein Widerspruch geleistet werden muss, dürfte sich wahrscheinlich nicht mit geltendem Recht vereinen lassen.

Tatsächlich sind Datenschützer*innen der Meinung, dass die Speicherung der biometrischen Daten gegen die Rechte der europäischen Bürger*innen, genauer gegen den Artikel 9 der Datenschutzgrundverordnung (DSGVO) verstößt, auch wenn PimEye-Hersteller „Face Recognition Software Solutions Ltd.“ mittlerweile seinen Firmensitz von Polen zuerst auf die Seychellen und dann nach Belize verlegt hat. Inzwischen wurde ein Verfahren eröffnet, dem Unternehmen droht eine Geldstrafe von bis zu 20 Millionen Euro.

VIDEO: Schweiz wappnet Lehrer gegen KI-Chatbots an den Schulen