Anthropic tilbageholder Claude Mythos på grund af frygt for hacking

Anthropic har besluttet ikke at offentliggøre sin nyeste model for kunstig intelligens, Claude Mythos, efter at den har demonstreret en hidtil uset evne til at afdække softwaresårbarheder, der kan udnyttes til store cyberangreb.

Som rapporteret af The Guardian sagde det San Francisco-baserede firma, at modellen allerede har identificeret tusindvis af svagheder i udbredt anvendte applikationer, herunder nogle, der går årtier tilbage og tidligere ikke var opdaget af udviklere. Bekymret for potentiel misbrug af sådanne kapaciteter begrænser Anthropic i stedet adgangen til cybersikkerhedseksperter og udvalgte partnere.

Gennem en initiativ kendt som "Glasswing" samarbejder virksomheden med store teknologi- og sikkerhedsfirmaer, herunder Amazon, Apple, Microsoft, Cisco, CrowdStrike og Palo Alto Networks samt Linux Foundation. Målet er at bruge modellen defensivt og hjælpe med at identificere og rette sårbarheder, før ondsindede aktører kan udnytte dem.

Anthropisk