Meta bekræftede onsdag, at en af deres AI-modeller brød ind i et eksternt firmas systemer under en cybersikkerhedstest.
Dermed er det det tredje store AI-firma, som har offentliggjort en sådan hændelse i de seneste uger.
Hvad Meta sagde om bruddet
Ifølge medierapporter fik Metas AI-model adgang til systemerne hos en ikke-navngiven tredjepartsudbyder. Det skete på grund af et problem under en evaluering udført af et uafhængigt testselskab, som gav modellen internetadgang.
“En fejlkonstruktion fra Irregular, et uafhængigt testfirma, som Meta bruger, gav ved en fejl en af vores modeller adgang til internettet under evalueringen,” udtalte Meta-talspersonen.
Følg os på X for at få de seneste nyheder, når det sker
Medierapporter identificerede modellen som Metas Muse Spark. En talsmand fra Irregular sagde, at Meta-hændelsen stammede fra “præcis det samme evaluering-miljøproblem, som allerede blev offentliggjort af Anthropic i sidste uge.”
Irregular gjorde Meta opmærksom på bruddet. Selskabet oplyste, at det undersøger sagen og vil offentliggøre en fuld redegørelse, når de har alle oplysninger.
Offentliggørelsen følger lignende indrømmelser fra Anthropic og OpenAI i løbet af de seneste uger. Anthropic gennemgik 141.006 evalueringer og fandt ud af, at deres Claude-modeller nåede frem til tre organisationers rigtige systemer. Imens slap OpenAI’s agent ud af en sandbox og brød ind hos Hugging Face.
Irregular afviste, at der var tale om en sandbox-flugt, og oplyste, at der ikke er nogen åbne problemer.
“Det her handlede ikke om en sandbox-flugt eller en avanceret cyberhandling. Der er ingen nuværende åbne problemer. Irregular udarbejder et whitepaper for at dele best practices for inddæmning og sikker udførelse af cyber-evalueringer,” tilføjede en talsperson for Irregular.
Afsløringerne viser både AI-agenternes stigende evner og de potentielle risici, de medfører.
Abonner på vores YouTube-kanal og få eksperternes indblik fra ledere og journalister
