San Francisco fordert Apple und Google zum Löschen von „Nudify“-Apps auf
Die Stadt San Francisco erhöht den Druck auf Apple und Google: Der dortige Staatsanwalt David Chiu hat beide Unternehmen schriftlich aufgefordert, insgesamt 13 KI-Apps aus ihren App-Stores zu entfernen. Die Anwendungen sollen sich dazu verwenden lassen, ohne Zustimmung der abgebildeten Personen intime Bilder zu erzeugen.
- San Francisco fordert die Entfernung von 13 KI-Apps
- Acht Apps stammen aus Apples App Store, fünf aus dem Play Store
- Die Anwendungen sollen intime Deepfakes ohne Zustimmung ermöglichen
- Google hat die fünf genannten Android-Apps bereits gelöscht
- Apple hat sich bislang nicht öffentlich zu den Schreiben geäußert
Wie Wired berichtet, gingen die Unterlassungsaufforderungen am Donnerstag an die beiden Plattformbetreiber. Acht der beanstandeten Anwendungen seien im App Store von Apple angeboten worden, fünf weitere im Google Play Store.
Apps tarnen sich als Face-Swap-Werkzeuge
Nach Angaben der Behörde präsentieren sich die betroffenen Anwendungen überwiegend als harmlose Face-Swap-Apps. Nach der Installation sollen Nutzer mit ihnen jedoch auch Fotos realer Personen bearbeiten und deren Kleidung digital entfernen können.
Die dabei entstehenden Bilder werden häufig als Deepfakes bezeichnet.
Ein Deepfake ist ein mit künstlicher Intelligenz erzeugtes oder verändertes Bild, Video oder Audiosignal. Dabei werden etwa Gesichter ausgetauscht oder Personen in Situationen dargestellt, die tatsächlich nie stattgefunden haben.
Der Staatsanwalt wirft Apple und Google vor, den Vertrieb solcher Inhalte zumindest indirekt zu unterstützen. Beide Unternehmen verdienen über ihre jeweiligen Bezahlsysteme an kostenpflichtigen Downloads, Abonnements und In-App-Käufen mit.
Die Behörde verlangt deshalb nicht nur die Entfernung der Apps. Apple und Google sollen außerdem ihre Geschäftsbeziehungen zu den verantwortlichen Entwicklern beenden und ihre Prüfverfahren verschärfen.
Google hat die genannten Android-Apps bereits entfernt
Google erklärte gegenüber Wired, bereits Hunderte Apps mit entsprechenden Funktionen wegen Verstößen gegen die Richtlinien gesperrt zu haben. Dazu gehörten auch die fünf Anwendungen, die in dem Schreiben der Stadt genannt werden.
Das Unternehmen beschränkt nach eigenen Angaben außerdem Suchbegriffe wie „nudify“ im Play Store. Apple äußerte sich vor der Veröffentlichung des Berichts nicht zu den Forderungen.
Beide Plattformbetreiber untersagen pornografische Inhalte sowie Anwendungen, die Missbrauch oder Belästigung ermöglichen. Dennoch wurden in den vergangenen Jahren wiederholt Apps entdeckt, die sich zur Erstellung nicht einvernehmlicher intimer Aufnahmen einsetzen ließen.
Untersuchung zeigt Lücken bei Schutzmaßnahmen
Die Problematik beschränkt sich offenbar nicht auf Anwendungen, die offen mit entsprechenden Funktionen werben. Forschende der Cornell University und der Georgetown University untersuchten 155 allgemeine Face-Swap-Apps aus dem App Store und dem Play Store.
Bei rund 70 Prozent der getesteten Anwendungen ließen sich demnach Gesichter in Nacktbilder einsetzen. Viele dieser Apps verfügten offenbar nicht über ausreichende Schutzmechanismen, um einen solchen Missbrauch zu verhindern.
Derartige Werkzeuge gelten deshalb als Dual-Use-Technologie: Sie können für harmlose Bildbearbeitung verwendet werden, lassen sich aber ebenso zur Erstellung manipulierter intimer Aufnahmen missbrauchen.
San Francisco behält sich weitere Schritte vor
David Chiu fordert Apple und Google auf, die beanstandeten Anwendungen umgehend zu entfernen und die Kontrolle neuer Apps zu verbessern. Sollten die Unternehmen nicht reagieren, will die Behörde nach eigenen Angaben weitere rechtliche Möglichkeiten prüfen.
San Francisco war bereits zuvor juristisch gegen Anbieter von Deepfake-Webseiten vorgegangen. Die aktuellen Schreiben richten sich nun erstmals unmittelbar gegen die Betreiber der beiden großen mobilen App-Plattformen.
