Anthropic hält Claude Mythos wegen Hacking-Ängsten zurück

Anthropic hat beschlossen, sein neuestes künstliches Intelligenzmodell, Claude Mythos, nicht öffentlich zu machen, nachdem es eine beispiellose Fähigkeit gezeigt hat, Softwareschwachstellen aufzudecken, die für groß angelegte Cyberangriffe ausgenutzt werden könnten.

Wie The Guardian berichtete, sagte das in San Francisco ansässige Unternehmen, dass das Modell bereits Tausende von Schwächen in weit verbreiteten Anwendungen identifiziert hat, darunter einige, die Jahrzehnte zurückreichen und von Entwicklern bisher unentdeckt wurden. Aus Sorge über den möglichen Missbrauch solcher Fähigkeiten beschränkt Anthropic stattdessen den Zugang auf Cybersicherheitsexperten und ausgewählte Partner.

Durch eine Initiative namens "Glasswing" arbeitet das Unternehmen mit großen Technologie- und Sicherheitsunternehmen wie Amazon, Apple, Microsoft, Cisco, CrowdStrike und Palo Alto Networks sowie der Linux Foundation zusammen. Das Ziel ist es, das Modell defensiv zu nutzen, um Schwachstellen zu identifizieren und zu beheben, bevor böswillige Akteure sie ausnutzen können.

Anthropisch