Anthropic håller tillbaka Claude Mythos på grund av rädslor för hacking

Anthropic har beslutat att inte släppa sin senaste artificiella intelligensmodell, Claude Mythos, till allmänheten efter att den visat en aldrig tidigare skådad förmåga att upptäcka mjukvarusårbarheter som kan utnyttjas för storskaliga cyberattacker.

Enligt The Guardian sade det San Francisco-baserade företaget att modellen redan har identifierat tusentals svagheter i allmänt använda applikationer, inklusive några som går tillbaka decennier och tidigare inte upptäckts av utvecklare. Oroade över potentiell missbruk av sådana funktioner begränsar Anthropic istället tillgången till cybersäkerhetsexperter och utvalda partners.

Genom ett initiativ kallat "Glasswing" samarbetar företaget med stora teknik- och säkerhetsföretag som Amazon, Apple, Microsoft, Cisco, CrowdStrike och Palo Alto Networks, samt Linux Foundation. Målet är att använda modellen defensivt, för att hjälpa till att identifiera och åtgärda sårbarheter innan illvilliga aktörer kan utnyttja dem.

Anthropisk