Google hat nach eigenen Angaben erstmals einen Cyberangriff gestoppt, bei dem künstliche Intelligenz sowohl zur Suche nach einer bislang unbekannten Sicherheitslücke als auch zu deren geplanter Ausnutzung eingesetzt worden sein soll. Das erklärte die Threat Intelligence Group von Google, kurz GTIG, in einem aktuellen Bericht.

Demnach beobachteten die Sicherheitsexperten eine bislang nicht näher benannte kriminelle Gruppierung, die mit Unterstützung von KI eine sogenannte Zero-Day-Sicherheitslücke entdeckt haben soll. Ziel sei ein populäres Online-Systemverwaltungstool gewesen. Laut Google hätte die Schwachstelle ermöglicht, die Zwei-Faktor-Authentifizierung des betroffenen Systems zu umgehen. Bei einem Zero-Day-Exploit handelt es sich um eine bis dahin unbekannte Sicherheitslücke, gegen die noch keine Schutzmaßnahmen existieren. Der Begriff beschreibt den Umstand, dass Entwicklern nach Bekanntwerden der Schwachstelle theoretisch null Tage bleiben, um ein Sicherheitsupdate bereitzustellen.

Bildquelle: Erstellt mit getimg.ai

Google erklärte, das betroffene Unternehmen sowie Strafverfolgungsbehörden informiert zu haben. Weitere technische Details veröffentlichte der Konzern nicht. Auch Angaben zur Identität der mutmaßlichen Täter oder zum verwendeten KI-Modell fehlen weitgehend. Laut Google gebe es jedoch Hinweise darauf, dass weder Googles Gemini noch Anthropics Claude Mythos zum Einsatz gekommen seien. John Hultquist, Leiter der GTIG, sprach von einem neuen Abschnitt im Bereich der Cyberkriminalität. KI könne Angreifern dabei helfen, Sicherheitslücken deutlich schneller aufzuspüren und auszunutzen. Besonders kriminelle Gruppen würden von dieser Geschwindigkeit profitieren, da sie bislang oft langsamer und verdeckter agiert hätten.

Bildquelle: SocialBrothers.nl

Google verweist zudem darauf, dass bereits Gruppen mit mutmaßlichen Verbindungen nach China und Nordkorea ähnliche Methoden getestet hätten. Konkrete Belege oder technische Analysen dazu wurden allerdings nicht veröffentlicht. Die Diskussion um KI-gestützte Angriffe gewinnt seit Monaten an Bedeutung. Mehrere Unternehmen meldeten zuletzt, dass moderne Sprachmodelle eigenständig bislang unbekannte Schwachstellen identifizieren konnten. Im April hatte Anthropic erklärt, dass das KI-Modell Mythos eine ältere Sicherheitslücke in einem verbreiteten Betriebssystem entdeckt habe. Das Unternehmen entschied sich daraufhin gegen eine öffentliche Veröffentlichung des Modells.

Bildquelle: Tagesschau.de

Auch in der Politik wird das Thema inzwischen diskutiert. Im Umfeld der US-Regierung wurden zuletzt Überlegungen bekannt, besonders leistungsfähige KI-Modelle vor ihrer Veröffentlichung stärker zu überprüfen, berichtete der Spiegel. Dean Ball, ehemaliger Berater für Technologiepolitik im Weißen Haus, sprach sich in diesem Zusammenhang für mögliche Regulierungen aus. IT-Sicherheitsexperten kritisieren unterdessen, dass große KI-Unternehmen häufig nur begrenzte Informationen zu solchen Vorfällen veröffentlichen. Dadurch lasse sich das tatsächliche Risiko unabhängiger nur schwer bewerten.

Ebenfalls interessant:

Neue Game-Pass-Stufe: Gratiszugang für Discord Nitro-Nutzer?

AMD + KI im Weltraum: Edge-Computing als Schlüsseltechnologie

Generative KI in AAA-Spielen: Branchenstandard im Verborgenen?