Dutzende US-Abgeordnete drängen das Weiße Haus, schneller gegen KI-gesteuerte Cyberbedrohungen vorzugehen, und warnen, dass Tools wie „Mythos“ von Anthropic das Hacken massiv verstärken könnten, wenn sie unkontrolliert bleiben. In einem neuen parteiübergreifenden Brief fordern 32 Kongressabgeordnete die Regierung auf, fortschrittliche KI-Modelle als ernstes Problem der nationalen Sicherheit zu behandeln und nicht nur als technologisches Thema.
Mythos ist das neueste High-End-KI-Modell von Anthropic, das darauf ausgelegt ist, Softwarefehler mit einer Geschwindigkeit und in einem Umfang aufzuspüren, die Menschen nicht erreichen können. Erste Tests haben Berichten zufolge gezeigt, dass es Tausende bisher unbekannter Schwachstellen aufdecken kann, was bei Banken, Tech-Firmen und Regierungsbehörden Alarmglocken läuten lässt. Anthropic hat den Zugang über ein Programm namens „Project Glasswing“ eingeschränkt und arbeitet nur mit einer kleinen Gruppe von Unternehmen zusammen, während die Abwehrmaßnahmen aufholen.
Ältere Modelle von Anthropic und OpenAI können bereits viele der herausragenden Fähigkeiten von Mythos nachbilden, wenn sie sorgfältig koordiniert werden. Mythos sticht hervor, weil es nicht nur Fehler findet, sondern auch dabei hilft, funktionierende Exploits mit weitaus weniger menschlichem Aufwand zu generieren. Diese Möglichkeit hat Gesetzgeber und Regulierungsbehörden beunruhigt, da sie eine Welle automatisierter Angriffe auf Schulen, Krankenhäuser, Banken und Regierungssysteme befürchten.
Was der Kongress vom Weißen Haus erwartet
In ihrem Brief fordern die 32 Gesetzgeber das Weiße Haus auf, darzulegen, wie es „Pionier“-KI-Modelle handhaben will, die kritische Software durchbrechen können. Sie wollen klare Regeln dafür, wann Unternehmen die Regierung benachrichtigen müssen, wenn ein neues Modell ernsthafte Sicherheitsrisiken mit sich bringt. Außerdem drängen sie auf eine stärkere Koordination zwischen Bundesbehörden und privaten Firmen, die KI bereits in realen Systemen testen.
Der Brief kommt zu einem Zeitpunkt, an dem Beamte hinter verschlossenen Türen darüber debattieren, ob freiwillige Sicherheitszusagen ausreichen. Einige Politiker diskutieren auch über eine Lizenzierung oder strengere Überwachung der leistungsstärksten Modelle. Andere befürchten, dass eine zu strenge Regulierung wertvolle Sicherheitsforschung behindern könnte. Diese Meinungsverschiedenheit führt zu einer frühen Auseinandersetzung darüber, wie weit Washington bei der Regulierung von KI-Fähigkeiten im Bereich Cybersicherheit gehen sollte.
Das Weiße Haus hat zuvor IT- und Cybersicherheitsexperten versammelt, um über Mythos und ähnliche Tools zu sprechen, und gefragt, welche Codebasen sie analysieren und wie sie Updates priorisieren. Anthropic und OpenAI geben unterdessen an, frühzeitig vor KI-gestützten Cybergefahren zu warnen und Systeme schrittweise einzuführen, um den Verteidigern Zeit zur Anpassung zu geben. Sicherheitsforscher sagen jedoch, dass Angreifer, insbesondere solche, die von Regierungen unterstützt werden, bereits wissen, was sie mit den Schwachstellen anfangen können, wenn diese entdeckt werden.
WEITERLESEN: Aktie mit Aufwärtstrend stagniert vor der Gewinnbekanntgabe: Wie geht es weiter mit BLSH?
