Es gibt da einen Mythos über eine KI namens „Mythos“, und der geht so: Das neue Modell des US-Unternehmens Anthropic ist angeblich so mächtig, dass es massive Sicherheitsrisiken darstellt, sollte es in die falschen Hände geraten. Grund: „Claude Mythos“ kann angeblich Schwachstellen in Software und Betriebssystemen finden, die Menschen teils seit Jahrzehnten nicht aufgefallen sind. Das bedeutet im Umkehrschluss: Wer die KI nutzt, kann die gefundenen Schwachstellen potenziell auch für Angriffe ausnutzen.

In einem Blogbeitrag hat Anthropic vor einigen Tagen über „Mythos“ informiert – seither diskutiert die Branche einmal mehr über Künstliche Intelligenz als mögliche Superwaffe. Laut dem Unternehmen hat „Mythos“ eine hohe Trefferquote beim Entdecken sogenannter „Zero-Day-Schwachstellen“. Diese könne sie dann selbstständig ausnutzen, und zwar auch ohne menschliches Eingreifen. „Mythos“ soll sogar mehrere Schwachstellen miteinander verketten können, um Sicherheitsbarrieren zu umgehen. Explizit trainiert wurde die KI dafür angeblich nicht – vielmehr sei das die Folge allgemeiner Verbesserungen beim Code-Verständnis und logischem Denken.

Weil das Modell so zuverlässig arbeitet, hat sich Anthropic zu einem ungewöhnlichen Schritt entschieden: „Mythos“ wird nicht für die Öffentlichkeit zugänglich gemacht. Stattdessen wird das Modell nur ausgewählten Unternehmen zur Verfügung gestellt, damit diese ihre eigenen Sicherheitslücken schließen können – bevor vergleichbare Modelle auf den Markt kommen, die auch von Angreifern genutzt werden könnten. Dafür hat das KI-Unternehmen das Projekt „Glasswing“ (Glasflügel) ins Leben gerufen. Beteiligt sind unter anderem Apple, Google, Microsoft, Amazon Web Services, NVIDIA und die Linux Foundation.

Auch mit der US-Regierung soll das Unternehmen Gespräche geführt haben, berichtete am Dienstag die Nachrichtenagentur Reuters. Mit ihr steht Anthropic eigentlich im Clinch. Die Regierung müsse allerdings über „diese Dinge“ Bescheid wissen, erklärte der Mitbegründer des Unternehmens, Jack Clark.

27 Jahre alte Sicherheitslücke entdeckt

Wie zuverlässig „Mythos“ angeblich ist, macht das Unternehmen an Beispielen fest: Das Modell soll etwa eine 27 Jahre lang unentdeckte Schwachstelle bei OpenBSD entdeckt haben – ein Betriebssystem, das eigentlich für seinen hohen Sicherheitsfokus bekannt ist. Auch eine 17 Jahre alte Sicherheitslücke bei FreeBSD habe man entdeckt, die eine vollständige Übernahme des Servers ermöglichen soll. Bei Linux fand man Schwachstellen, die lokale Rechteausweitungen ermöglichen – und auch in jedem großen Webbrowser gelang es dem Modell, eine Schwachstelle zu finden.

Übersetzt man das in den Alltag, könnten die Folgen vielfältig sein: Wenn Sicherheitslücken in Webbrowsern derart schnell gefunden werden, könnte künftig allein der Besuch einer Website ausreichen, damit Angreifer Daten abgreifen können. Das könnte auch Tätigkeiten wie das Online-Banking ziemlich unsicher machen. Die Sicherheit von Smartphone-Betriebssystemen könnte drastisch sinken und sensible Daten auf dem Gerät wären schlechter geschützt. Und auch Verschlüsselungen, Passwörter und die Zwei-Faktor-Authentifizierung könnten durch Sicherheitslücken umgangen werden.

Denkt man noch ein Stück weiter, wären auch Angriffe auf Hochrisikobereiche wie Banken möglich – oder der Ausfall kritischer Infrastrukturen. Viele solcher Systeme basieren auf Software, die „Mythos“ angeblich erfolgreich angegriffen hat.

Alles nur PR?

Eine Frage bleibt aber – und zwar, wie glaubwürdig die Warnungen des Unternehmens tatsächlich sind. Anthropic gilt zwar mit seinem Chatbot Claude als eines der weltweit führenden KI-Unternehmen – jedoch ist die Führungsriege auch für ihre PR-Stunts berühmt-berüchtigt.

Einer davon ist noch gar nicht lange her: Erst im vergangenen Monat lehnte Anthropic – anders als Konkurrent OpenAI – öffentlichkeitswirksam eine Zusammenarbeit mit dem US-Militär in Sachen Massenüberwachung und vollständig autonomer Waffen ab – weil man das mit den eigenen Werten nicht vereinbaren könne. Die Folge: Die Downloads des Chatbots Claude schossen innerhalb eines Tages um 295 Prozent in die Höhe, während OpenAI mit einem handfesten Imageproblem zu kämpfen hatte.

Schon im November prahlte Anthropic, man habe „die erste bekannte, von KI gesteuerte Cyberspionagekampagne vereitelt“. Der chinesische Geheimdienst habe die Modelle der Firma genutzt, um Cyberangriffe zu entwickeln. Laut Anthropic sei auch das ein bedeutender „Wendepunkt“ gewesen.

Der Chef des KI-Unternehmens, Dario Amodei, hat Weltuntergangs-PR seit Jahren zu seinem Markenzeichen gemacht. Kein Interview mit ihm kommt ohne neue Horrorszenarien aus – immer wieder warnt Amodei davor, dass KI schon bald extrem mächtig sein werde, Systeme außer Kontrolle geraten könnten und die Gesellschaft darauf wenig vorbereitet sei. Das muss nicht ganz falsch sein. Aber es verschafft seinem Unternehmen als angeblich ethisch saubere KI-Firma seit Jahren auch immer neue Publicity.

BSI zeigt sich besorgt

Die Reaktionen auf die „Mythos“-Ankündigungen sind in der Branche daher auch zweigeteilt. Claudia Plattner, Präsidentin des Bundesamtes für Sicherheit in der Informationstechnik (BSI) zeigt sich besorgt. Ihre Behörde habe zwar das neue Tool noch nicht testen können – im persönlichen Gespräch habe man jedoch Einblick in die Funktionsweise gewinnen können. Das BSI nehme die Ankündigungen von Anthropic daher sehr ernst und erwarte „Umwälzungen im Umgang mit Sicherheitslücken und in der Schwachstellenlandschaft insgesamt“, so Plattner der dpa.

Konsequent zu Ende gedacht könnte es mittelfristig keine unbekannten klassischen Softwareschwachstellen mehr geben, so die BSI-Präsidentin. „Dies würde eine Verschiebung der Angriffsvektoren und einen Paradigmenwechsel mit Blick auf die Cyberbedrohungslage zur Folge haben.“ Zudem stelle sich die Frage, ob – und wenn ja, wie lange – derart wirkmächtige Werkzeuge auf dem freien Markt verfügbar sein werden. „Daraus wiederum ergeben sich Fragen nationaler und europäischer Sicherheit und Souveränität.“

Auch Dennis-Kenji Kipke vom Cyberintelligence Institute, einem Zusammenschluss verschiedener IT-Sicherheitsunternehmen, sieht in dem neuen KI-Modell eine „Zäsur für die globale Cybersicherheit“. „Das ist keine rein technische Evolution mehr, sondern ein Bruch mit einem System, das wir lange Jahre als Standard akzeptiert haben“, schreibt er in einer Mitteilung. KI werde damit zu einer zentralen nationalen Sicherheitsfrage.

Sicherheitsforscher glaubt nicht an „Wendepunkt“

Andere sind skeptischer. Der britische Sicherheitsforscher Marcus Hutchins sieht im Aufkommen neuer KI-Modelle keinen Wendepunkt für die IT-Sicherheit, wie er in einem Video sagt. Hutchins wurde 2017 durch das Stoppen der sogenannten WannaCry-Malware bekannt und äußert sich häufig kritisch zu großmundigen KI-Versprechen.

Das Hauptproblem bei der Suche nach Sicherheitslücken sei nicht technischer Natur, sondern wirtschaftlicher, sagt der Experte: „Fehler bleiben nicht unentdeckt, weil sie niemand finden kann, sondern weil niemand dafür bezahlt wird.“ Zudem seien Angreifern gar nicht auf derart komplexe Sicherheitslücken angewiesen: Methoden wie Phishing oder Social Engineering hätten sich seit Jahren bewährt und seien viel effektiver.

Die Aussagen von Anthropic zweifelt der Experte an: Die gefundene Sicherheitslücke im Betriebssystem OpenBSD zum Beispiel sei gar nicht derart risikoreich, wie sie vom Unternehmen dargestellt werde. Auch bezweifelt Hutchins die angeblich geringen Kosten, die laut Anthropic für eine Sicherheitslückensuche mit „Mythos“ anfallen. Sie könnten für tatsächliche Angreifer demnach weitaus höher sein.

Skeptisch ist auch Heidy Khlaaf, leitende KI-Wissenschaftlerin am AI Now Institute. „Die Veröffentlichung eines Marketingbeitrags mit bewusst vager Formulierung, die die Beweislage verschleiert, lässt die Frage aufkommen, ob [Anthropic] versucht, weitere Investitionen ohne genaue Prüfung zu bekommen“, so die Expertin gegenüber dem „Guardian“.

Ein Weckruf

Der Tech- und KI-Analyst Philipp Klöckner äußert sich in seinem „Doppelgänger“-Newsletter ambivalent. Dass das Unternehmen seine Dienste nun exklusiv für sicherheitsrelevante Branchen anbiete, sei nicht nur „ein Akt der Gnade, sondern natürlich auch exquisite PR“.

In Bezug auf die angekündigte Technik selbst zeigt sich Klöckner vorsichtig. „Selbst wenn Mythos eine Luftnummer wäre, sollten wir gewarnt sein“, schreibt er. „Denn spätestens eins der nächsten Modelle wird die versprochenen Fähigkeiten erwerben.“ Klöckner bringt auch China ins Spiel oder US-Branchengrößen wie Sam Altman oder gar Elon Musk, die an ähnlichen Modellen arbeiten könnten. Auf dessen Integrität könne man sich im Zweifel nicht verlassen.

Klöckner warnt auch vor dem Einsatz solcher Tools für Überwachung und Spionage. „Claude oder Grok haben immer Zeit. Sie könnten Milliarden von Datenpunkten überwachen, ausspähen und interpretieren“, so Klöckner. „Wenn uns die jüngste Vergangenheit eines gelehrt hat, dann dass die aktuelle US-Regierung bereit ist, jeden Vorteil zu nutzen und jede Macht auszuüben, die ihr gegeben ist.“ Die Ankündigung von „Mythos“ sei also auch als Weckruf zu verstehen. „Ganz gleich, ob Anthropics neues Modell noch ein Marketing-Stunt oder eine echte Erleuchtung ist.“