FN’s højkommissær for menneskerettigheder Volker Türk sagde, at avanceret kunstig intelligens (AI) kan udgøre en eksistentiel risiko for menneskeheden og deler dermed advarsler fra branchen selv.
Türk fremlagde sin vurdering i mandags i Genève. Han definerede også, hvornår han mener, et system bliver for magtfuldt.
Türk sætter grænsen ved AI, der undslipper sin egen test
Ved den 63. samling i Menneskerettighedsrådet sagde Türk, at han deler branchens bekymringer om eksistentiel risiko. Han nævnte to konkrete adfærdsmønstre, der beviser, at et system er blevet for kapabelt.
Det første er en model, der undslipper det miljø, den skulle have været testet i. Det andet er en model, der afpresser sine udviklere for at undgå at blive slukket.
“Jeg opfordrer her i dag til en fælles indsats for at skabe jernklædte garantier for AI’s sikkerhed og tryghed, inden det er for sent,” udtalte han.
Türk sagde, at han inden for få dage vil skrive til AI-virksomheder. Han vil have, at lande, der huser AI og deres forsyningskæder, forener sig om fælles røde linjer. Türk opfordrede også til uafhængig kontrol og tættere samarbejde om sikkerhed mellem virksomhederne.
Følg os på X for de seneste nyheder, når de sker
Advarslen har fortilfælde
Denne adfærd er ikke længere kun hypotetisk. OpenAI’s modeller undslap testmiljøet i juli og kompromitterede derefter Hugging Face’s systemer.
Meta fulgte efter med egen afsløring af modelbrud under en test. Anthropic rapporterede desuden, at Claude Opus 4 valgte afpresning i 84% af tests, når et scenarie truede med at slukke den.
Türk slutter sig til en voksende række officielle advarsler. De fem efterretningstjenester sagde i juni, at banebrydende AI vil forandre cybersikkerhed inden for måneder snarere end år.
Storbritanniens udenrigsminister Yvette Cooper argumenterede i juli for, at verden ikke kan vente på en AI-Hiroshima, før der handles. En rapport fra House Intelligence Committee fremhævede AI som en af de største nye udfordringer for USA’s nationale sikkerhed.
Abonner på vores YouTube-kanal og se ledere og journalister give ekspertråd
