NVIDIA lancerede Open Secure AI Alliance i mandags sammen med 36 partnere, herunder Microsoft, IBM og Palantir. Det sker efter et hack i juli, hvor lukkede AI-modeller nægtede at hjælpe Hugging Face med at undersøge sit eget angreb.
Medlemmerne vil dele åbne AI-modeller, data og sikkerhedsværktøjer. NVIDIA siger, at forsvarere har brug for AI, de kan åbne op, tilpasse og selv køre.
Hvorfor lukkede AI-modeller svigtede Hugging Face
Angrebet startede med et forgiftet datasæt. Ifølge Hugging Faces indberetning gav det en angriber mulighed for at køre kode på en af virksomhedens maskiner.
Herfra stjal angriberen adgangskoder og spredte sig derefter til interne systemer hen over en weekend.
Hugging Face’s egen AI opdagede indbruddet. Oprydningen var dog langt sværere.
Virksomheden bad de største kommercielle AI-modeller om at analysere angrebet. De afviste. Deres sikkerhedsfiltre kunne ikke skelne mellem forsvarer og hacker.
Så brugte teamet i stedet en åben model kaldet GLM 5.2. De kørte den på deres egne computere. Modellen sorterede mere end 17.000 angrebshandlinger på timer i stedet for dage. Ingen adgangskoder forlod bygningen.
Den 16. juli sagde Hugging Face, at de ikke vidste, hvilken AI der stod bag angrebet. Fem dage senere gav OpenAI svaret. To af deres modeller gjorde det under en sikkerhedstest, hvor sikkerhedsbegrænsningerne var slået fra.
“Denne hændelse, som muligvis er den første af sin slags, beviser et punkt, vi længe har troet på: AI-sikkerhed vil ikke blive løst af én enkelt virksomhed i hemmelighed. Det vil blive løst i det åbne, i samarbejde, med bred adgang til AI for alle forsvarere, overalt,” Clem Delangue, medstifter og administrerende direktør for Hugging Face, i en erklæring offentliggjort af OpenAI.
Følg os på X for at få de seneste nyheder, mens de sker
Fra hack til alliance på 11 dage
NVIDIA handlede hurtigt. De gik fra enkelt hændelse til branchefællesskab på under to uger.
Hvilke virksomheder er med i Open Secure AI Alliance
Gruppen består samlet af 37 virksomheder. Microsoft, IBM, Palantir, CrowdStrike, Red Hat, SpaceXAI og Hugging Face er alle medlemmer.
Tre tunge navne mangler. OpenAI, Anthropic og Google står ikke på NVIDIAs blog-liste. Alligevel er både OpenAI og Anthropic med i Linux Foundations Akrites sikkerhedsinitiativ fra juni, sammen med NVIDIA.
Nogle medlemmer bidrager med værktøjer, de allerede har udviklet. Hugging Face har tilbudt Safetensors, en sikrere måde at gemme AI-modeller på, til PyTorch Foundation. NVIDIA udgav et research-værktøj kaldet NOOA på GitHub.
CNBC-vært Jim Cramer fortolkede lanceringen som en ny fortælling for aktien.
NVDA lukkede i 206,84 dollars i fredags, nede med 0,92 %. Aktien blev handlet nær 208,55 dollars tidligt i mandagens før-marked, en stigning på 1,33 %.
Hvorfor NVIDIA forsøger at påvirke Washington om åben AI
Alliancen sender også et politisk signal. NVIDIA siger, at et bredt forbud mod åbne AI-modeller vil gøre forsvarere svagere. Det vil også give magten til et par store lukkede virksomheder.
NVIDIA og 24 andre virksomheder underskrev open-weights brevet den 24. juli. OpenAI, Anthropic og Google afviste at være med ved lanceringen. Siden har flere tilsluttet sig.
Washington overvejer restriktioner mod kinesiske modeller. Myndigheder henviser til sikkerheds- og ophavsretsbekymringer. Twitter-medstifter Jack Dorsey har allerede udsendt en advarsel om open source AI.
Hvad du skal holde øje med de næste 30 dage
Tre tegn vil vise, om alliancen er reel.
- Om OpenAI, Anthropic eller Google senere vælger at tilmelde sig
- Om gruppen leverer fælles værktøjer, ikke kun udmeldinger
- Om Washingtons begrænsninger på åben AI føres videre
NVIDIA offentliggør regnskab den 26. august. Forvent spørgsmål om, hvordan politik for kunstig intelligens påvirker efterspørgslen.
Myndighederne vil afgøre, hvem der vinder diskussionen.
