Das Meta Oversight Board untersucht ein offenbar KI-generiertes Video eines britischen Politikers, das seine Ansichten zu Themen wie Einwanderung falsch darstellt. Das Komitee sagte, das fragliche Video sei Teil eines Albums, das im November letzten Jahres auf Facebook gepostet wurde und einen offenbar falschen Labour-Partei-Ratsmitglied zeigte, der eine Region Schottlands vertritt und sarkastische und beleidigende Kommentare zu Flüchtlingen und sexuellen Übergriffen abgibt.
Zusätzlich zu dem Deepfake-Video enthält der Beitrag auch ein Video von pro-palästinensischen Demonstranten, von dem das Aufsichtsgremium ebenfalls vermutet, dass es KI-generiert ist, sowie ein wahrscheinlich authentisches Standbild mehrerer Frauen, darunter die Politikerin im ersten Video, die anti-rechtsextreme Schilder halten. Die Frauen werden in dem Beitrag auch namentlich genannt, und die Bildunterschrift soll haltlose Vorwürfe der Steuerhinterziehung gegen den Labour-Politiker enthalten.
Nach Angaben des Gremiums war die Interaktion mit dem Beitrag relativ gering, er enthielt jedoch keine KI-Kennzeichnungen oder Offenlegungen. Er sagte, zwei Nutzer hätten behauptet, dass der Inhalt gegen die Mobbing- und Belästigungsrichtlinie von Meta verstoße, doch als die Systeme des Unternehmens ihre Beschwerden nicht zur menschlichen Überprüfung weiterleiten konnten und der Inhalt auf Facebook verblieb, legte einer von ihnen Berufung beim Vorstand ein.
In der Fallerklärung heißt es weiter, dass der fragliche Berater deutlich zum Ausdruck gebracht habe, was er als rassistische Fehlinformation ansah, die dazu genutzt werde, bei Protesten gegen die Unterbringung von Asylbewerbern in britischen Hotels eine migrantenfeindliche Stimmung zu schüren. Sie haben zuvor über Drohungen und Einschüchterungstaktiken berichtet, die gegen sie angewendet wurden, weil sie sich zu dem Thema geäußert hatten, einschließlich KI-generierter Online-Verleumdungen.
Das Aufsichtsgremium sagt, Meta habe gesagt, der Beitrag sei nicht zur Entfernung markiert worden oder habe den Eindruck, dass er gegen seine Regeln verstoße, weil der Politiker eine erwachsene Persönlichkeit des öffentlichen Lebens sei und daher nicht automatisch vor „unerwünschten manipulierten Bildern“ geschützt sei. Einzelpersonen können schädliche Inhalte selbst melden und deren Entfernung beantragen.
Meta erhob auch Einwände gegen Behauptungen, dass der Inhalt allgemeine Aussagen über Flüchtlinge enthielt, die gegen seine Richtlinie zu hasserfülltem Verhalten verstießen, und sagte, dass er die Kriterien für Fehlinformationen nicht erfülle, da er von niemandem in seinem „Trusted Partner“-Programm gemeldet worden sei. Auch dies galt nicht als Wahleinmischung, da der abgebildete Stadtrat bei den jüngsten Kommunalwahlen in Schottland nicht angetreten war und Meta das geringe Engagement und den „satirischen“ Charakter des Videos als Gründe dafür anführte, dass keine Notwendigkeit für die Anbringung einer KI-Kennzeichnung bestand.
Das Aufsichtsgremium lädt nun zu öffentlichen Kommentaren zu dieser Angelegenheit ein, die als Grundlage für etwaige politische Empfehlungen an Meta dienen könnten. Diese sind unverbindlich, Meta ist jedoch verpflichtet, innerhalb von 60 Tagen darauf zu antworten. Zur Erinnerung: Der Aufsichtsrat ist trotz seiner letztlichen finanziellen Abhängigkeit von Meta ein unabhängiges externes Gremium.
Metas offensichtliche Gleichgültigkeit gegenüber dem Deepfake des schottischen Politikers ist umso überraschender, wenn man bedenkt, in welche Schwierigkeiten sie sich letztes Jahr wegen eines KI-generierten Videos der (erfolgreichen) irischen Präsidentschaftskandidatin Catherine Connolly befand. In dem Video schien die derzeitige Präsidentin Irlands anzukündigen, dass sie sich aus dem Wahlkampf zurückzieht, und es wurde fast 30.000 Mal auf Facebook geteilt, bevor es gelöscht wurde.
Connolly nannte das Video einen „beschämenden Versuch, Wähler in die Irre zu führen und die (irische) Demokratie zu untergraben“, und Meta löschte schnell den Account, auf dem es gehostet wurde, nachdem er von der kontaktiert wurde Irischer Unabhängiger. In diesem Fall das Video War stellte fest, dass es gegen Meta-Community-Standards verstößt, und dies war bei weitem nicht das erste Mal, dass es mit dem Aufkommen politisch motivierter Deepfakes zu kämpfen hatte.