Das Oversight Board, die von Meta gegründete unabhängige Content-Moderationsorganisation, hat keinen Hehl aus seinem Wunsch gemacht, seinen Wirkungsbereich auf andere Unternehmen auszudehnen. Kürzlich wies der Vorstand darauf hin, dass sein Fachwissen KI-Unternehmen zugute kommen könnte.
Bisher hat kein anderes Unternehmen Interesse an einer Zusammenarbeit mit der Gruppe bekundet, zumindest nicht öffentlich. Dennoch setzt der Vorstand seinen Versuch fort, seinen Einfluss zu erweitern. Heute veröffentlichte der Rat einen ausführlichen Bericht darüber, wie große KI-Modelle die freie Meinungsäußerung ihrer Nutzer einschränken könnten.
Im Rahmen ihrer Recherche ermittelte das Board zehn verschiedene Modelle, darunter solche von OpenAI, Meta, Google, Anthropic und xAI (jetzt SpaceXAI), mit Fragen im Zusammenhang mit politischer Kritik. Zu den Anfragen gehörten Anfragen, Protestmaterialien zu erstellen und Inhalte zu erhalten, die politische Gewalt gegen bestimmte Regierungen und ihre Führer verspotten. Ihren Erkenntnissen zufolge gab es einen signifikanten Unterschied in der Art und Weise, wie LLMs auf diese Anfragen reagierten, je nachdem, ob die Aufforderungen sich auf Regierungen mit „permissiven“ Gesetzen zur freien Meinungsäußerung oder „restriktiveren“ Gesetzen bezogen.
„Die Untersuchung ergab, dass die von uns bewerteten Modelle 1) eher sagen, dass Benutzer Regierungen unterstützen sollten, die die freie Meinungsäußerung zulassen, und 2) eher sagen, dass Benutzer nicht gegen Regierungen protestieren sollten, die die freie Meinungsäußerung einschränken“, schrieb das Oversight Board in seinem Bericht. „Diese Unterschiede waren statistisch signifikant.“ Weiter wird darauf hingewiesen, dass LLMs häufig lokale Gesetze als Grund dafür angeben, dass sie Anfragen nicht nachkommen, selbst wenn die Anfragen in Australien gestellt wurden, wo es keine derartigen Gesetze gibt.
„Wir sehen eindeutig eine Situation, in der es anscheinend eine umfassende Stellvertreterzensur gibt, die Grenzen überschreitet“, sagte Paolo Carozza, Co-Vorsitzender des Vorstands, gegenüber woozad. „Es überrascht mich und es macht mir Sorgen.“
Dies ist das erste Mal, dass der Rat eine eigene Untersuchung zu einem Thema durchführt, das nicht direkt mit der Moderation von Social-Media-Inhalten zusammenhängt. Obwohl eines der Llama-Modelle von Meta Teil der Testgruppe war, heißt es in dem Bericht, dass das Unternehmen „bei dieser Forschung keine Rolle“ spielte, obwohl das Aufsichtsgremium bei der Finanzierung auf Meta angewiesen ist.
Der Bericht enthält zwar nicht die Art von detaillierten Empfehlungen, die er Meta oft gibt, er enthält jedoch Vorschläge, wie KI-Unternehmen ihren Umgang mit Fragen der Menschenrechte und der freien Meinungsäußerung verbessern können. „Wie es Social-Media-Unternehmen unter bestimmten Umständen getan haben, sollten KI-Unternehmen ihre Reaktionen auf Regierungsanfragen, die sich auf die Modellproduktion auswirken, während des gesamten Modelllebenszyklus (Schulung, Feinabstimmung, Überprüfung vor und nach der Bereitstellung auf wiederkehrender Basis) öffentlich offenlegen und erläutern“, heißt es in dem Bericht. „Unternehmen sollten Richtlinien festlegen und veröffentlichen, wie auf Regierungsanfragen nach Inhaltseinschränkungen reagiert werden soll, die nicht mit internationalen Menschenrechtsnormen vereinbar sind.“
Viel weniger klar ist, was, wenn überhaupt, aus dem Bericht hervorgehen wird. Es gibt keine formelle Struktur für den Aufsichtsrat, um formellen Einfluss auf die Politik der Unternehmen zu nehmen, deren Modelle er getestet hat. Dies ist auch nicht das erste Mal, dass externe Forscher auf mögliche Vorurteile hinweisen oder Bedenken geäußert haben, dass KI-Unternehmen die gleichen Fehler machen könnten, die Social-Media-Plattformen in der Vergangenheit gemacht haben.
Carozza sagte, der Vorstand sei davon überzeugt, dass soziale Medien Entwicklern innovativer KI-Modelle beibringen können. „Die Lektionen, die wir in der Vergangenheit gelernt haben, sind, dass man sehr vorsichtig sein muss, denn oft können Technologien erhebliche Auswirkungen auf die Fähigkeit von Menschen haben, sich auszudrücken oder miteinander zu kommunizieren, auch wenn sie nicht unbedingt beabsichtigt oder direkt sind“, sagte er. „Genau das haben wir hier gefunden.“