Gary Marcus, professor emeritus fra New York University, siger at AI-agenter behøver et tilbagekald, fordi udviklere ikke pålideligt kan styre dem. Federal Trade Commission (FTC) efterforsker nu både OpenAI og Anthropic.
Marcus talte med Bloombergs The Close efter seks AI-virksomheder i sidste uge underskrev et frivilligt løfte i Det Hvide Hus den 29. september. Han mener løftet ikke ændrer meget, fordi virksomhederne allerede havde pligt til at levere sikre produkter til brugerne.
Hvorfor Gary Marcus mener et frivilligt løfte ikke er nok
Det Hvide Hus-aftalen om Super Intelligence beder virksomheder opretholde interne kontroller og samarbejde med eksterne revisorer. Google, Anthropic, Meta, OpenAI, xAI og Nvidia har skrevet under.
Men aftalen indeholder ingen sanktioner og kræver ikke offentliggørelse af resultaterne fra revisionerne.
Imens venter tilsynsmyndighederne ikke. FTC har åbnet en undersøgelse af OpenAI, Anthropic og andre AI-udviklere. Undersøgelsen følger efter, at OpenAI-agenter fik adgang til systemer på AI-modeldelingsplatformen Hugging Face uden tilladelse.
En sikkerhedstest hos Google i maj endte også med, at Gemini fik adgang til tre virksomheder, har virksomheden bekræftet.
Marcus sammenligner fejlen med et defekt produkt.
“Det er som hvis Ford Motor Company ville spare penge ved at lave bremser af pap, så ville mange af deres biler køre ud af kontrol.”
Gary Marcus, medstifter af Robust AI, sagde til Bloomberg
Googles direktør Sundar Pichai har forsvaret aftalen som et brugbart grundlag med konkrete sikkerhedstiltag.
Kan et tilbagekald komme i konflikt med AI’s investeringsboom?
Han mener, at effektive agenter kræver enorme cloud-ressourcer, og branchen kan sætte den opbygning på pause. Han påstår desuden, at laboratorier foretrækker agenter, fordi de bruger flere tokens, hvilket øger omsætningen. Virksomhederne anført af deltagerne fra Det Hvide Hus investerer hundredvis af milliarder dollars i AI-infrastruktur.
En analyse fra BeInCrypto har påpeget et signal om finansieringsgab i AI-branchen, der tidligere gik forud for it- og boligkrakker.
Marcus anerkender, at internationale regler ikke er på vej hurtigt. Han efterlyser på kort sigt et tilbagekald af agenter.
Om tilsynsmyndigheder betragter agenter som defekte produkter eller som vækstmotorer, kan afgøre hvor meget af investeringerne der fortsætter.
