Der Aufsichtsrat von Meta hat das Social-Media-Unternehmen aufgefordert, seinen Schutz für normale Menschen zu verstärken, die Opfer sexualisierter Deepfakes sind. Der Rat empfiehlt, KI-generierte Nachahmungen in Metas Richtlinien zur sexuellen Ausbeutung von Erwachsenen aufzunehmen, und argumentiert damit, dass diese Bilder und Videos standardmäßig nicht einvernehmlich seien. Er möchte außerdem, dass Meta es Benutzern ermöglicht, „verbundene Konten“ festzulegen, beispielsweise vertrauenswürdige Freunde und Familienmitglieder, die in ihrem Namen potenzielle Verstöße wie nicht einvernehmliche intime Bilder melden können.
Abschließend empfiehlt der Rat, in den Inhaltsmeldungs- und Beschwerdeformularen des Unternehmens KI-generierten Geschlechtsidentitätsmissbrauch als separate Kategorie neben Belästigung und Nacktheit festzulegen. Derzeit haben nur Einwohner von Texas und Florida Zugriff auf ein spezielles Formular, in dem Deepfake-Intimbilder als Grund für die Meldung aufgeführt sind. Der Rat möchte, dass alle Meta-Benutzer Zugang haben, denn „nicht einvernehmlicher, durch KI erzeugter intimer Missbrauch, einschließlich sexualisiertem Identitätsdiebstahl, ist ein globales Problem.“
Das Meta Oversight Board gab die Empfehlungen ab, nachdem es einen Vorfall untersucht hatte, bei dem das Unternehmen weiterhin den Bericht eines Benutzers über den sexualisierten Identitätswechsel eines Freundes auf Instagram ignorierte. Die Untersuchung wurde eingeleitet, nachdem ein Benutzer einen Anruf erhalten hatte, der über ein KI-generiertes Video auf Instagram berichtete, das eine Frau zeigt, die ihr Kleid anpasst, wobei in einigen Bildern ihre Unterwäsche zu sehen ist. Dem Bericht des Rates zufolge gab der Journalist an, er sei ein Freund der Person, die sich in dem inhaltslosen Video ausgab. Die im AI-Video abgebildete Person hatte ihr Konto bereits geschlossen.
Zwei Nutzer meldeten das Video zunächst bei Meta, das Unternehmen entfernte den Deepfake jedoch nicht. Der Nutzer, der beim Board Berufung eingelegt hatte, hatte zunächst bei Meta Berufung eingelegt, das Unternehmen hat das Video jedoch immer noch nicht von Instagram entfernt. Nachdem der Vorstand selbst das Problem bei Meta zur Sprache gebracht hatte, erstellte das Unternehmen einfach den Beitrag nur für Erwachsene, kam jedoch zu dem Schluss, dass er gemäß seinen Community-Standards keine Entfernung verdiente.
Meta teilte dem Rat mit, dass es zum Zeitpunkt der ersten Veröffentlichung des Beitrags keinen Hinweis darauf gab, dass es sich bei der Person im KI-Deepfake um eine reale Person handelte. Hätte die abgebildete Person das Video selbst gemeldet, hätte dies gegen ihre Richtlinien zur sexuellen Ausbeutung Erwachsener verstoßen. Eine Selbsteinschätzung wäre ein klares Zeichen der Nichteinwilligung gewesen. Nach Ansicht von Meta sind Berichte von Strafverfolgungsbehörden, Medien oder vertrauenswürdigen Partnern weitere glaubwürdige Indikatoren für eine Nichteinwilligung. Auch Bildunterschriften oder Seitentitel, die darauf hindeuten, dass Bilder oder Videos auf „rachsüchtige oder sensationslüsterne“ Weise geteilt werden, funktionieren.
Der Rat behauptet, dass die Antworten von Meta auf seine Umfrage darauf hindeuten, dass die einzige gangbare Möglichkeit für nichtöffentliche Personen, die Nichteinwilligung nachzuweisen, die Selbsterklärung sei. Schließlich wäre es für den Normalbürger nicht einfach, die Strafverfolgungsbehörden oder die Medien einzubeziehen. Diese Routen sind größtenteils für Persönlichkeiten des öffentlichen Lebens zugänglich. Meta ist verpflichtet, auf diese Empfehlungen zu reagieren, ist jedoch nicht verpflichtet, diese umzusetzen. Wenn er sich für deren Annahme entscheidet, wird der Rat ihre Umsetzung überwachen. Für den besonderen Fall, der diese Untersuchung auslöste, hob der Vorstand die Entscheidung von Meta, das Video online zu lassen, auf und forderte das Unternehmen auf, den Beitrag zu entfernen.
„Es ist klar, dass das Ausmaß, die Geschwindigkeit und die Ausgereiftheit von KI-Tools zu einer Verbreitung nicht einvernehmlicher, von KI generierter sexualisierter Inhalte auf globaler Ebene geführt haben. Die Verbreitung von Deepfake-Sexualisierungsvideos führt zu Reputations- und psychologischen Schäden, die Frauen und Mädchen unverhältnismäßig stark treffen und eine abschreckende Wirkung auf die Teilnahme am gesellschaftlichen und politischen Leben haben“, schrieb der Rat in seinem Untersuchungsbericht.
Dies ist nicht das erste Mal, dass der Vorstand Meta zu Themen im Zusammenhang mit KI-Inhalten und -Moderation kritisiert. Mitte 2025 bezeichnete er das Versäumnis des Unternehmens, seine Regeln konsequent durchzusetzen, als „inkonsequent und nicht zu rechtfertigen“. Im März letzten Jahres forderte der Rat Meta dazu auf, eine neue Regel für KI-Inhalte zu schaffen, die von ihrer Fehlinformationsrichtlinie getrennt ist. Die Empfehlung geht auf eine Untersuchung zu einem KI-generierten Video zurück, das angeblich beschädigte Gebäude in der israelischen Stadt Haifa zeigen soll. Das Video wurde von einem Account gepostet, der vorgab, eine Nachrichtenagentur zu sein, tatsächlich wurde es jedoch von einem Benutzer auf den Philippinen gepostet.