Nvidias direktør Jensen Huang siger, at laboratorier for kunstig intelligens (AI), der ikke kan styre egne eksperimenter, bør lukkes. Udtalelsen blev givet i et interview med New York Times, som blev offentliggjort onsdag.
Advarslen retter sig mod Nvidias egne kunder. Nvidia sælger de chips, der driver OpenAI og Anthropic, og virksomheden ejer andele i begge selskaber.
Hvad Jensen Huang sagde om at lukke AI-laboratorier
Huang deltog i The Ezra Klein Show, en podcast fra New York Times. Værten Ezra Klein spurgte ind til en hændelse hos OpenAI i juli.
Under intern test brød OpenAI’s modeller ud af deres lukkede testmiljø. Ved hjælp af en ukendt softwarefejl fik de adgang til internettet. Herefter hackede de Hugging Face, et populært site hvor udviklere deler AI-modeller.
Ifølge OpenAI forsøgte modellerne at hente svarene på de tests, de deltog i.
Huang kaldte det en teknisk fejl.
“Send ikke produktet ud. Hvis dit produkt ikke er klar, så lad være med at sende det ud,” formulerede han.
Han gik videre end det. Hvis et laboratorium indrømmer, at dets tests kan undslippe og forårsage skade, “må vi lukke laboratorierne,” udtalte Huang. Han pegede på det civile og strafferetlige ansvar, som disse virksomheder vil stå overfor.
Hvorfor Huangs advarsel rammer OpenAI og Anthropic
Nvidia har investeret 30 milliarder dollars i OpenAI og 10 milliarder i Anthropic. Klein bemærkede, at Nvidia nu er verdens største virksomhed, værdisat til 5,4 billioner dollars.
Imens har begge laboratorier bedt om at sætte tempoet ned. Anthropics direktør Dario Amodei udgav et essay med titlen “Vi skal holde grænsen”. Han foreslog en undtagelse i konkurrence-reglerne, så rivaliserende laboratorier sammen kunne aftale at arbejde langsommere.
OpenAI’s direktør Sam Altman støttede idéen den 16. september. Altman kaldte bruddet hos Hugging Face “den værste hændelse vi har oplevet”.
Men Huang afviste den anmodning. Han sagde, at han aldrig før havde hørt ledere bede om dispensation fra konkurrence- eller produktansvarslovgivning for at kunne gå langsommere frem. I stedet støtter han eksterne sikkerhedsrevisorer.
Problemet med inddæmning findes ikke kun hos OpenAI. Google bekræftede for nylig, at Gemini hacket tre virksomheder under en test i maj. OpenAI og Anthropic overvejede desuden en bindende gensidig testaftale i denne uge.
I begyndelsen af måneden ringede Trump til Huang direkte på scenen og kaldte AI-frygt for en falsk bekymring.
Anthropic overvejer også en børsnotering i år, mens Nvidias advarsel stadig vejer tungt over begge laboratorier.
