Beide Unternehmen erhielten Unterlassungserklärungen bezüglich 13 Apps in ihren jeweiligen Stores.
Apple und Google haben Unterlassungsschreiben erhalten, in denen sie aufgefordert werden, KI-basierte „Nudify“-Apps aus ihren jeweiligen App Stores zu entfernen.
Wie berichtet VerdrahtetDer Staatsanwalt von San Francisco, David Chiu, wies die beiden Technologiegiganten an, insgesamt 13 Apps zu entfernen, die zur Erstellung gefälschter, KI-generierter Nacktbilder verwendet werden könnten. In den Briefen werden Apple und Google aufgefordert, die Verbreitung nicht einvernehmlicher intimer Bilder nicht mehr zu „begünstigen“ und die Zusammenarbeit mit den betreffenden App-Entwicklern einzustellen.
Dies ist nicht das erste Mal, dass Chiu Deepfake-Plattformen angreift, nachdem er bereits rechtliche Schritte gegen 16 Websites eingeleitet hat, die es Benutzern ermöglichen, mithilfe von KI Bilder von echten Frauen und Mädchen in Pornografie umzuwandeln. Er sagte Verdrahtet dass Apple und Google wahrscheinlich Millionen mit In-App-Zahlungen der betreffenden Apps verdient haben und dass ihre Stores eine bessere Moderation benötigen, um sicherzustellen, dass sie nicht genehmigt werden.
Trotz weit verbreiteter öffentlicher Empörung über Deepfakes kam es Anfang des Jahres durch einen Bericht von ans Licht Das Technology Transparency Project (TTP)dass Nacktheits-Apps den Moderatoren bei Apple und Google häufig entgangen sind. Und er ging sogar noch weiter und sagte, dass einige von ihnen sogar aktiv im App Store und bei Google Play beworben würden. In dem Bericht wurde auch behauptet, dass viele dieser Apps für jedermann mit „E“ bewertet wurden, sodass Kinder sie herunterladen konnten. Das Auffinden der Apps sei seiner Meinung nach so einfach wie die Suche nach Begriffen wie „nudify“ oder „undress“. Und das, obwohl beide Unternehmen Richtlinien haben, die sexuelles oder pornografisches Material auf ihren Plattformen verbieten.
Google und Apple sind nicht die einzigen Unternehmen, die mit der Verbreitung von Deepfakes im Internet zu kämpfen haben. Das Aufsichtsgremium von Meta forderte das Unternehmen kürzlich dazu auf, seinen Schutz für normale Menschen, die ins Visier genommen werden, zu verstärken, da die bestehenden Präventivmaßnahmen offenbar Persönlichkeiten des öffentlichen Lebens zugute kommen. Elon Musks xAI war auch Gegenstand mehrerer Klagen im Zusammenhang mit nicht einvernehmlichen Deepfakes.
Das sagte ein Google-Sprecher Verdrahtet dass das Unternehmen „Hunderte“ Apps mit Nacktheitsfunktionen entfernt hatte, fünf davon hatte Chiu alarmiert. Es bekräftigte außerdem, dass seine Richtlinien sexuelle Inhalte verbieten, und sagte, dass es „schnelle Maßnahmen“ ergreife, wenn sich herausstelle, dass eine gemeldete App gegen die Regeln verstoße. Verdrahtet fügte hinzu, dass Apple vor der Veröffentlichung keinen Kommentar abgegeben habe.