Meta arbeitet an einem Tool zur Identifizierung von Bildern und Videos, die mit seinem neuen Bildgenerierungsmodell Muse Image erstellt wurden. Das Unternehmen zeigte eine Vorschau des Web-Tools, das nach unsichtbaren Wasserzeichen suchen kann, die vom neuen Modell verwendet werden.
Dieses Wasserzeichensystem namens „Content Seal“ bleibt bestehen, „auch wenn es zugeschnitten, komprimiert, in der Größe geändert oder erfasst wird“, erklärt Meta in einem Blogbeitrag. „Wir zeigen eine Vorschau eines Erkennungstools, mit dem Sie überprüfen können, ob ein Bild ein Content Seal-Wasserzeichen aufweist. Dies bietet eine erste Möglichkeit, besser zu verstehen, ob ein Bild mit Meta AI erstellt wurde.“
Content Seal scheint für Meta ein etwas neuer Ansatz zu sein. Die Version, die Teil von Muse Image ist, ist proprietär, obwohl das Unternehmen bereits zuvor Open-Source-Versionen der Technologie veröffentlicht hat, sagte Meta gegenüber woozad. Die neuen Modelle von Meta enthalten keine sichtbaren Wasserzeichen, wie einige frühere Versionen von Meta AI, bei denen in der unteren rechten Ecke ein kleines Logo hinzugefügt wurde.
Derzeit sind die Erkennungsfunktionen von Meta AI auf Bilder beschränkt, die mit Muse Image erstellt oder bearbeitet wurden, obwohl das Unternehmen Pläne angekündigt hat, Content Seal-Wasserzeichen auch auf KI-generierte und bearbeitete Videos auszuweiten. Meta arbeitet außerdem an einem separaten Videogenerierungsmodell namens Muse Video, das „bald verfügbar“ sein wird.
Ich habe die neue Erkennungsfunktion an Bildern ausprobiert, die ich heute mit Meta AI erstellt habe, und das Webtool konnte ein Wasserzeichen sowohl für bearbeitete Bilder als auch für vollständig KI-Kreationen (wie das oben abgebildete) erkennen. Das Wasserzeichen wurde auch in Screenshots meiner Bilder gefunden. „Ein positives Ergebnis bedeutet, dass das Bild mit der Meta AI-Anwendung oder meta.ai generiert oder geändert wurde“, erklärt das Unternehmen in einer FAQ. „Ein negatives Ergebnis bedeutet, dass das Bild wahrscheinlich nicht mit der Meta AI-Anwendung oder meta.ai verarbeitet wurde.“
Interessanterweise scheinen die neuen Erkennungsfunktionen von Meta AI noch nicht Teil der Meta AI-App zu sein. Als ich Metas App-basierten Assistenten nach einem Bild fragte, das das Web-Tool als von der KI erstellt identifiziert hatte, teilte er mir mit, dass es nicht in der Lage sei, es zu überprüfen. „Ich kann Ihnen nicht sicher sagen, ob dieses spezielle Bild mit Meta Al gemacht wurde, wenn ich es mir nur ansehe“, sagte er. „Meta Al versieht Bilder nicht automatisch mit Wasserzeichen und ich habe kein Tool, das erkennen kann, welche Al-Vorlage ein vorhandenes Bild erstellt hat.“
Meta wurde zuvor wegen der Art und Weise kritisiert, wie es KI-generiertes Material in seinen Anwendungen kennzeichnet und identifiziert. Das Oversight Board teilte dem Unternehmen Anfang des Jahres mit, dass es „besorgt“ sei, dass Meta digitale Wasserzeichen „inkonsistent“ auf KI-Inhalten implementiert, die mit seinen eigenen Tools erstellt wurden.
Die neue Funktion scheint jedoch andere Einschränkungen zu haben. Content Seal ist nicht mit SynthID oder C2PA Content Credentials kompatibel, zwei etablierten Wasserzeichenmethoden, die von anderen Unternehmen verwendet werden. Die Webfunktion konnte in meinen Tests keine Bilder identifizieren, die mit früheren Versionen der KI-Modelle von Meta erstellt oder bearbeitet wurden. Als ich Bilder hinzufügte, die in älteren Threads mit Meta AI erstellt wurden, konnte mir nicht gesagt werden, ob das Bild mit seiner KI erstellt wurde. Aus irgendeinem Grund scheint die Funktion auch den Ratenbeschränkungen von Meta zu unterliegen. Nachdem ich eine Handvoll Proben heruntergeladen hatte, wurde ich darauf hingewiesen, dass ich mein „Tageslimit für Identitätsprüfungen“ erreicht hatte.
