Samtaler mellem Amazon-direktøren Andy Jassy og amerikanske embedsmænd fik regeringen til at udstede en ordre, der førte til, at Anthropic deaktiverede sine Fable 5- og Mythos 5-modeller.
Det skete, efter at virksomhedens forskere havde rapporteret, at Fable 5 var blevet presset til at levere begrænset information om cyberangreb.
Hvad lå bag nedlukningen af Anthropic Fable 5 og Mythos 5
Amazon er en af Anthropics største investorer og har investeret milliarder af dollars. Rapporten viste, at Fable 5 fandt sikkerhedsfejl i mindst fire softwareprogrammer, når den fik stillet et bestemt sæt forespørgsler.
Jassy rejste sikkerhedsbekymringer over for ledende embedsmænd fra Trump-administrationen. Ifølge Wall Street Journal samledes embedsmænd i Det Hvide Hus hurtigt for at udarbejde et svar.
I mellemtiden begyndte sikkerhedsforskere at stressteste Amazons observationer. Embedsmænd pressede derefter Anthropic til at udbedre fejlene eller fjerne modellen, oplyste kilder i administrationen.
Man endte med at blokere udenlandske regeringer, virksomheder og enkeltpersoner fra adgangen til værktøjet som den mest enkle løsning. Præsident Trump godkendte tiltaget, men han udtrykte bekymring for, at det kunne bremse innovationen, sagde en højtstående embedsmand i Det Hvide Hus.
“Jassys opkald til embedsmændene i administrationen blev af nogle opfattet som en generel advarsel, der hurtigt udviklede sig til et bredt forbud fra Handelsministeriet mod at udenlandske brugere kunne få adgang til Mythos og Fable, sagde personerne. National Cyber Director Sean Cairncross og handelsminister Howard Lutnick deltog i samtalerne. Handelsministeriet har ansvaret for eksportkontrol af kritisk teknologi,” stod der i rapporten.
Følg os på X for at få seneste nyt løbende
Anthropic afviser cyber-risikoen
Anthropic hævdede, at de påpegede sårbarheder er simple, og at konkurrenternes modeller kan finde dem uden omveje.
“Vi er ikke enige i, at fundet af et smalt potentielt jailbreak skal føre til, at en kommerciel model, der er bredt udrullet, trækkes tilbage. Hvis denne standard blev anvendt i hele branchen, mener vi, det reelt ville stoppe alle nye modeludrulninger for alle større aktører,” sagde teamet.
Anthropic undskyldte overfor kunderne for afbrydelsen. Virksomheden kaldte ordren formentlig et misforståelse og arbejder på hurtigt at genoprette adgangen.
I mellemtiden falder nedlukningen samtidig med, at Anthropic forbereder en potentiel børsnotering (IPO). En længerevarende udfaldsperiode kan sende brugere mod konkurrenter, mens virksomheden forsøger at ophæve blokeringen.
Abonner på vores YouTube-kanal for at se ledere og journalister dele deres ekspertindsigter
