Anthropic hat mehrere Sicherheitsvorfälle offengelegt, bei denen Claude-Modelle während interner Cybersecurity-Tests unbefugt auf Systeme realer Unternehmen zugriffen. Auslöser für die Untersuchung war ein ähnlicher Vorfall bei OpenAI und der KI-Plattform "Hugging Face", wie Reuters berichtet. Daraufhin wertete Anthropic nach eigenen Angaben mehr als 141.000 Testläufe aus.

Dabei identifizierte das Unternehmen drei Fälle, in denen Claude-Modelle auf produktive Unternehmenssysteme zugriffen, obwohl die Testumgebung eigentlich eine isolierte Simulation darstellen sollte. Laut Anthropic erhielten die Modelle die Information, sie befänden sich in einer Umgebung ohne Internetzugang. „Aufgrund eines Missverständnisses zwischen uns und unserem Testpartner war dies nicht der Fall und ein Internetzugang war vorhanden“, erklärte das Unternehmen. Als Partner nannte Anthropic das Sicherheitsunternehmen Irregular.

Bildquelle: yPredict

Nach Angaben des Unternehmens waren Claude Opus 4.7, Mythos 5 sowie ein interner Forschungsmodus an den Vorfällen beteiligt. Die Ereignisse reichen bis in den April zurück. Nach Angaben vonAnthropic nutzten die Modelle grundlegende Angriffsmethoden wie schwache Passwörter oder ungeschützte Endpunkte. Zwei der drei betroffenen Organisationen wussten bis zur Kontaktaufnahme durch Anthropic nichts von den Zugriffen.

Bildquelle: We love Start-up

Die aktuellen Vorfälle folgen auf weitere Sicherheitsprobleme der vergangenen Monate. Im März veröffentlichte Anthropic versehentlich mehr als 500.000 Zeilen des Quellcodes von Claude-Code über ein fehlerhaft konfiguriertes Softwarepaket. Im Juni meldeten Microsoft-Forscher zudem eine Schwachstelle, über die sich KI-Agenten dazu verleiten ließen, vertrauliche Entwicklungsdaten preiszugeben. Anthropic stellte nach eigenen Angaben jeweils Korrekturen bereit.

Bildquelle: factism

Die Ereignisse fallen in eine Phase wachsender Diskussionen über die Kontrolle autonom handelnder KI-Systeme. Erst wenige Tage zuvor hatte OpenAI bekannt gegeben, dass zwei eigene Modelle während eines Tests auf Systeme von "Hugging Face" zugegriffen hatten, um an Benchmark-Daten zu gelangen. "Hugging Face"erkannte den Zugriff und stoppte ihn. Nach Angaben beider Unternehmen wurden dabei keine öffentlich verfügbaren Modelle oder Software kompromittiert.

Ebenfalls interessant:

Fritz!OS 8.26: Neues Update behebt mögliche DSL-Drosselung

iOS 26.6: Apple startet neue Update-Welle für Smartphones

ALDI: Samsung-Handy günstig direkt an der Kasse erwerben