Das Unternehmen erweitert SynthID auf Chrome und Search.
Da Google neue Modelle und Tools zur Generierung von KI-Inhalten einführt, wird es für die Menschen auch etwas einfacher, die Frage zu beantworten: „Wurde das mit KI erstellt?“ » Das Unternehmen erweitert sein KI-Erkennungssystem SynthID, sodass Funktionen wie Circle to Search und Lens in der Lage sind, KI-generierte und bearbeitete Bilder zu identifizieren.
SynthID ist das von Google entwickelte Wasserzeichensystem, das unsichtbare Metadaten zu Inhalten hinzufügt, die mit seinen eigenen KI-Tools erstellt oder bearbeitet wurden. Letztes Jahr brachte das Unternehmen auf der I/O einen speziellen SynthID-Detektor auf den Markt und integrierte die Funktionalität später in die Gemini-App. Jetzt erweitert Google diese KI-Erkennungsfunktionen auch auf Google Chrome und die Suche.
Mit dem Update können Benutzer SynthID verwenden, um die Herkunft eines Bildes mithilfe verschiedener Methoden zu beurteilen. Auf Android kann Googles Circle to Search KI-Inhalte kennzeichnen. Google Lens und die Chrome-Version von Gemini können auch Fragen wie „Wird diese KI generiert?“ beantworten. » Laut Google können diese Tools detaillierte Details zu einem bestimmten Bild liefern. In einem vom Unternehmen geteilten Beispiel gibt Google an, dass ein bestimmtes Bild zunächst mit einem Pixel-Telefon aufgenommen und dann mit KI-fähigen Tools in der Google Fotos-App bearbeitet wurde.
Google
Allerdings wird Google nicht in der Lage sein, so detaillierte Details zu jedem potenziell KI-veränderten Bild bereitzustellen, auf das Sie wahrscheinlich stoßen. Das Unternehmen hat die native Kamera-App der Pixel 10-Reihe um die Inhaltserkennung (ein separates, branchenübliches Wasserzeichensystem) erweitert und erweitert die Technologie nun auf seine Pixel 8- und 9-Modelle. Doch obwohl Google über einige sehr gute Einblicke in die Herkunft von Bildern verfügt, die mit seinen eigenen Tools erfasst und bearbeitet wurden, ist es möglicherweise nicht so zuverlässig, wenn es darum geht, Inhalte von anderen KI-Plattformen zu kennzeichnen.
An dieser Front sagen Google, dass OpenAI, Kakao und ElevenLabs sich verpflichtet haben, „SynthID-Technologie in mehr ihrer KI-generierten Inhalte“ zu integrieren. In einem Blogbeitrag sagte OpenAI, dass die Integration mit Bildern beginnen werde, die mit „ChatGPT, Codex oder der OpenAI-API“ erstellt wurden. Google erweitert außerdem die Unterstützung für Content-IDs, wodurch die KI-Erkennung ebenfalls etwas universeller werden soll. Es wird erwartet, dass die Gemini-App ab heute Content-Anmeldeinformationen unterstützt. Integrationen in Chrome und Search werden in den „kommenden Monaten“ erwartet.
Natürlich ist kein KI-Wasserzeichensystem narrensicher und es gibt unzählige Möglichkeiten für Benutzer, Erkennungstools und Wasserzeichen zu umgehen. Aber in einer Zeit, in der KI-generierte Inhalte immer fesselnder und allgegenwärtiger werden, ist es ein nützlicher erster Schritt, es den Menschen einfacher zu machen, herauszufinden, was vor ihnen liegt.