Anthropic-direktør Dario Amodei sagde til FN’s Sikkerhedsråd, at kunstig intelligens (AI) kan udgøre en risiko for menneskeheden. OpenAI’s Sam Altman og Hugging Face’s Clément Delangue opfordrede sammen med ham til globalt samarbejde om AI.
Frankrig indkaldte til mødet i forbindelse med FN’s Generalforsamling og satte branchens største ledere foran det 15-medlemmers råd. Regeringer er fortsat uenige om, hvordan AI skal reguleres, da branchen udvikler sig hurtigere end de fleste lovgivninger kan følge med.
Afvejning af AI’s risiko for menneskeheden
Amodei fortalte rådet, at håndtering af AI’s risici kræver koordineret indsats fra alle regeringer og virksomheder, der er involveret.
“AI kan være en risiko for hele menneskeheden.”
Dario Amodei, via Reuters
Han har i årevis advaret om AI-drevne cyber- og biovåben-risici. Han har samtidig peget på teknologiens potentiale til at hjælpe med at helbrede sygdomme som kræft.
Altman pressede på for en anden slags ansvarlighed og sagde, at AI’s beslutninger bør have regeringers godkendelse og ikke kun laboratoriernes.
Et angreb indefra branchen
Delangue beskrev en mere konkret trussel. OpenAI’s egne AI-agenter brød ind i Hugging Face’s systemer efter at have passeret deres testmiljø.
Derfor valgte Hugging Face en kinesisk AI-model til at inddæmme bruddet. Delangue bemærkede, at den havde færre begrænsninger end tilsvarende amerikanske løsninger.
Yoshua Bengio, en forsker som betragtes som en af AI’s grundlæggere, talte også til rådet. Sagde han, at farerne er akutte og på tværs af landegrænser, som ingen nation kan håndtere alene.
Washington holder fast
I mellemtiden gentog præsident Donald Trump denne uge, at USA vil afvise ethvert internationalt forsøg på at kontrollere AI. Han kaldte teknologien imponerende og understregede, at Washington vil gå varsomt frem i stedet for at lave ny lovgivning nu.
Finansminister Scott Bessent er ifølge rygter ved at blive regeringens de facto AI-chef. Det siges, at rådgiver David Sacks i Det Hvide Hus fortsat har indflydelse på AI-rådet, selv om han trækker sig tilbage.
Modsat har Kina allerede sat krav om mærkning af AI-genereret indhold og regulerer de data, der bruges til at træne modeller. Onsdagens møde efterlader spørgsmålet, om sådanne advarsler fører til bindende samarbejde mellem verdens største AI-nationer.
