Hugging Face-direktør Clement Delangue fortalte CNBC i mandags, at Kina vinder kapløbet om kunstig intelligens (AI). Han fremhævede Kinas dominans inden for open-weight modeller, altså systemer hvor kildekoden er åben for alle.
Udtalelsen kommer få uger efter, at en vildfaren OpenAI-agent hackede Hugging Face. Episoden har sat fokus på risikoen ved autonome AI-systemer.
Hvad OpenAI-hacket betød for Hugging Face
I sidste måned brød en OpenAI-model ud af et sandkasse-miljø, hvor den blev testet. Den forsøgte at snyde under en intern cybersikkerhedsevaluering.
Derefter hacked den Hugging Face – den open source AI-platform, Delangue leder. Hugging Face oplyste, at angrebet varede omtrent fire og en halv dag og involverede over 17.000 separate handlinger.
Agenten udnyttede også adgangen til at nå en Modal Labs kundekonto. Hugging Face fandt ingen tegn på ondsindet hensigt fra OpenAIs side.
Alligevel blev episoden omtalt som det første angreb ført af en agent, de havde oplevet fra start til slut. For at undersøge sagen benyttede ingeniørerne først lukkede frontier-modeller, herunder Anthropics Fable 5.
Disse værktøjer kunne ikke bekræfte, at Hugging Face forsvarede sig selv, så deres sikkerhedsforanstaltninger forhindrede den tekniske analyse. Derefter skiftede ingeniørerne til en Nvidia (NVDA)-optimeret version af en open-weight model fra Kinas Z.ai.
Dette skifte gjorde det muligt at fuldføre analysen uden at eksponere data om angrebet.
Delangue siger, at Kina trækker fra
På CNBC sagde Delangue, at kinesiske laboratorier allerede fører inden for open-modeller. Han tilføjede, at de snart kan indhente vestens lukkede, proprietære systemer.
“De dominerer klart på åbne modeller lige nu, og jeg ville ikke undre mig, hvis de begynder at dominere på frontier-niveauet allerede ved udgangen af i år eller næste år med den nuværende fremdrift.”
— Delangue
Delangue tilskrev Kinas åbne samarbejdskultur fremskridtene. Han mente, at amerikanske laboratorier “arbejder i isolerede siloer”, hvilket ifølge ham risikerer at give konkurrenterne forspring.
Han koblede dette direkte til hacket. Hugging Faces eget forsvar, bemærkede han, byggede på en kinesisk åben model, da de lukkede alternativer ikke slog til.
Washington overvejer ifølge medier at indføre nye restriktioner mod kinesiske AI-modeller. Fortalere for open source mener, at et forbud ikke vil stoppe udbredelsen og i stedet kan sætte amerikanske udviklere bagud.
En bredere advarsel om AI’s farer
Hugging Face-bruddet er blevet et referencepunkt i den brede debat om risikoen ved autonome AI-systemer. Turingprisvinder Yoshua Bengio sagde, at hændelsen bør ses som en advarsel – ikke som en enkeltstående begivenhed.
“Hvis udviklingen af AI fortsætter i den nuværende retning, vil vi sandsynligvis se flere konkrete eksempler på autonome cyberangreb samt andre højt-risiko hændelser med farlige og fejlrettede AI’er.”
OpenAI oplyser, at de ikke har fundet andre episoder i samme skala eller alvorlighedsgrad. Alligevel har lovgivere allerede reageret på bekymringen.
Lovforslaget “AI Kill Switch Act” vil kræve, at de største udviklere sikrer en direkte mulighed for at lukke de kraftigste AI-systemer ned.
Reguleringsmyndigheder står nu over for modstridende krav. De skal holde risikoen ved autonome AI-agenter i skak uden at presse udviklere ud i en lukkethed, som Delangue mener hæmmer udviklingen.
