Jetzt können wir Cyberkriminalität zu der Liste der wachsenden Bedenken im Zusammenhang mit künstlicher Intelligenz hinzufügen. Die Threat Intelligence Group (GTIG) von Google gab an, zum ersten Mal einen Bedrohungsakteur entdeckt zu haben, der einen Zero-Day-Exploit nutzt, von dem sie glaubt, dass er von KI entwickelt wurde. „Zero-Day-Schwachstellen sind oft am gefährlichsten, weil sie den Zielen unbekannt sind und ihnen somit keine Tage Zeit bleiben, sich auf den Angriff vorzubereiten.
Google sagte in dem Bericht, dass der Bedrohungsakteur geplant habe, es im Rahmen eines „Massenausnutzungsereignisses“ einzusetzen, dass seine proaktive Entdeckung „seinen Einsatz jedoch hätte verhindern können“. Google fügte hinzu, dass man nicht glaubt, dass seine eigenen Gemini-Modelle verwendet wurden, dass man aber immer noch „hohes Vertrauen“ habe, dass ein KI-Modell an der Entdeckung der Schwachstelle und der Nutzung eines Exploits beteiligt sei.
Im GTIG-Bericht wurde das Ziel nicht identifiziert, es hieß jedoch, Google habe das namentlich nicht genannte Unternehmen benachrichtigt, das das Problem dann behoben habe. Google gab die böswilligen Akteure ebenfalls nicht bekannt, deutete jedoch an, dass diejenigen, die mit China und Nordkorea in Verbindung stehen, „erhebliches Interesse“ daran gezeigt hätten, KI zur Ausnutzung von Sicherheitslücken einzusetzen.
Wenn man bedenkt, wie schnell sich KI-Modelle für den täglichen Gebrauch entwickelt haben, ist es keine Überraschung, dass sie für böswillige Zwecke verwendet werden. Im Interview mit Die New York TimesJohn Hultquist, Chefanalyst von GTIG, nannte es „einen Vorgeschmack auf das, was noch kommt“ und „die Spitze des Eisbergs“ und fügte hinzu, dass dieser Fall nur der erste „harte Beweis“ für diese Art von Angriffen sei. Google sagte in seinem Bericht, dass Bedrohungsakteure KI in verschiedenen Phasen eines Cyberangriffs eingesetzt hätten, dass „KI aber auch ein leistungsstarkes Werkzeug für Verteidiger sein kann.“ Wie Google nutzen auch andere Unternehmen KI-Modelle, um vorbeugende Maßnahmen zu ergreifen. Letzten Monat kündigte Anthropic das Project Glasswing an, eine Initiative mit der Aufgabe, Claude Mythos Preview zu nutzen, um „schwerwiegende Schwachstellen“ zu finden und abzuwehren.