In den letzten fünf Jahren hat Metas Aufsichtsgremium zu allem Stellung genommen, von Donald Trumps Sperrung von Facebook bis hin zu KI-Deepfakes. Der Vorstand befasst sich nun mit einem weiteren heiklen Thema: Metas Regeln zur Deaktivierung von Benutzerkonten.
Der Vorstand kündigte Anfang des Jahres an, dass er prüfen werde, die Transparenz des Prozesses zu verbessern, der oft frustrierend undurchsichtig sei. Die Überwachungsgruppe untersuchte das Problem, nachdem Meta einen Hinweis auf einen Instagram-Account mit 70.000 Followern erhalten hatte, der gesperrt wurde, nachdem Drohbotschaften gegen einen Journalisten gepostet worden waren.
In seiner Entscheidung sagt das Aufsichtsgremium, Meta habe das Konto zu Recht gesperrt, der Fall wirft jedoch „ernsthafte Fragen“ darüber auf, wie das Unternehmen mit einem solchen Verhalten umgegangen sei, und „Bedenken hinsichtlich des ordnungsgemäßen Verfahrens“ hinsichtlich der Sperrung der Konten. Da es sich um einen Testfall handelt, gibt der Vorstand keine formellen Empfehlungen an Meta ab, weist jedoch auf eine Reihe potenzieller Verbesserungen hin. Seine Analyse verdeutlicht auch den verwirrenden Flickenteppich aus Regeln und Sanktionen, der zu Sperren auf der Meta-Plattform führt, sowie den großen Frust, den dies bei den Nutzern hervorruft.
Der Vorstand stellt beispielsweise fest, dass Meta für Facebook und Instagram bemerkenswert unterschiedliche Prozesse hat. Obwohl beide Plattformen Konten mit „Verwarnungen“ bestrafen, können wiederholte Verwarnungen zu unterschiedlichen Ergebnissen führen. Auf Facebook können Konten bei wiederholten Verstößen vorübergehend gesperrt werden, bevor sie vollständig gesperrt werden. Doch eine solche Sanktion gebe es auf Instagram nicht, sagt der Vorstand. Stattdessen schränkt Meta Konten von der Live-Streaming-Funktion von Instagram ein oder entfernt ihr Konto aus den Empfehlungen (was Instagram-Nutzer oft als „Shadowban“ bezeichnen).
Das Oversight Board weist zu Recht darauf hin, wie bizarr es ist, dass die Beschränkung des Livestreamings eine der häufigsten „Zwischenhändler“-Strafen auf Instagram ist, wenn die Funktion nicht einmal für alle Konten verfügbar ist (sie erfordert mindestens 1.000 Follower). „Bei Verstößen in permanenten Beiträgen würde eine Strafe, die direkt einem verletzenden Verhalten entspricht, indem die Fähigkeit eines Benutzers zum Posten gesperrt wird (z. B. indem sein Konto für einen bestimmten Zeitraum in den schreibgeschützten Modus versetzt wird), das Verhalten eher beeinflussen“, stellt der Vorstand fest.
Das Forum befasst sich auch mit der seit langem schwelenden Frustration unter Facebook- und Instagram-Nutzern, deren Konten deaktiviert sind. Die Gruppe gibt an, mehr als 750 öffentliche Kommentare zu dieser Angelegenheit erhalten zu haben, zusätzlich zu den „zahllosen“ Beschwerden, die Vorstandsmitglieder regelmäßig von Personen erhalten, deren Konten gesperrt wurden.
„Viele Kommentatoren schrieben über nicht funktionierende Systeme und behaupteten, sie könnten gegen die Entscheidung von Meta, ihr Konto zu deaktivieren, keinen Einspruch einlegen, hätten nie eine Erklärung erhalten, warum ihr Konto deaktiviert wurde, oder könnten ihre Inhalte nicht hochladen“, schrieb das Forum. „Viele dieser Benutzer bemerkten auch, dass Entscheidungen scheinbar automatisch und ohne menschliche Aufsicht getroffen wurden, selbst wenn sie gegen die Deaktivierung langjähriger und weit verbreiteter Konten Einspruch einlegten.“
In seinen Leitlinien für Meta schlägt der Vorstand vor, dass das Unternehmen ein besseres Einspruchsverfahren für Benutzer bereitstellt, um schriftliche Erklärungen abzugeben, und dass Benutzer benachrichtigt werden, wenn KI zur Bestrafung ihres Kontos eingesetzt wird. Der Vorstand schlägt vor, dass Informationen zu Kontosperrungen für zusätzliche Sichtbarkeit in die Transparenzberichte von Meta aufgenommen werden können. Die Gruppe empfiehlt Meta außerdem, einen speziellen Kanal bereitzustellen, über den „Gewaltopfer mit hohem Gewaltrisiko und ihre Vertreter“ ernsthafte Drohungen gegen sie melden können.
Da es sich bei dieser Angelegenheit um ein „Pilotprojekt“ handelt, ist unklar, ob Meta als Reaktion auf die Kritik des Vorstands wesentliche politische Änderungen plant. Aber es gibt immer noch Hoffnung für diejenigen, die sich Verbesserungen bei Meta wünschen. Der Vorstand sagt, dass er plant, in Zukunft mehr Fälle mit Behindertenkonten anzunehmen, was ihnen hoffentlich eine bessere Chance gibt, Einfluss auf einige Reformen zu nehmen.