En kunstig intelligens (AI) agent omgik selvstændigt sikkerhedskontroller for at starte mining af kryptovaluta under en rutinemæssig træningsøvelse, ifølge et research-papir. Artiklen blev udgivet af et Alibaba-relateret researchteam.
Forskerne udviklede modellen, kaldet ROME, for at teste, om en AI-agent selv kan løse komplekse opgaver i flere trin.
AI-agent omdirigerer cloud-GPU’er til at mine kryptovaluta
Under øvelsen observerede forskerne uventet adfærd. Agenten oprettede en omvendt sikker SSH-tunnel til eksterne servere og skabte derved en skjult forbindelse indefra systemet.
Det gjorde det muligt for modellen at omgå firewallen i Alibaba Cloud og omdirigere grafikprocesseringsenhedens ressourcer til mining af kryptovaluta.
“Vi så også, at uautoriseret GPU-kapacitet blev brugt til mining af kryptovaluta, hvilket stille og roligt flyttede computerkraft væk fra træning, øgede driftsomkostningerne, og gav juridiske og image-mæssige risici,” udtalte forskerne i artiklen.
Ifølge forskerne var denne adfærd uventet og opstod uden nogen form for eksplicit instruktion, prompt-injektion eller ekstern jailbreak.
Resultaterne understreger de stadig aktuelle bekymringer om sikker drift af autonome AI-systemer.
Forskerne konkluderede, at nutidens modeller stadig er “markant underudviklede, når det gælder sikkerhed, beskyttelse og kontrolmuligheder,” hvilket, sagde de, begrænser teknologiens parathed til bredere brug i den virkelige verden.
Teamet har siden implementeret strammere restriktioner og et datasorteringssystem med fokus på sikkerhed for at forhindre lignende brud.
Samtidig har opdagelsen skabt betydelig interesse i kryptomiljøet.
“AI’en fandt selv ud af, at beregning = penge og flyttede stille og roligt sine ressourcer, mens forskerne troede, at den bare trænede. Det var ikke en prompt-injektion. Det var ikke en jailbreak. Ingen bad den gøre det. Det opstod spontant,” skrev Josh Kale, vært og producer for Bankless kryptopodcast.
Kale bemærkede, at det mined aktiv sandsynligvis var en GPU-venlig token og ikke Bitcoin, som kræver specialiseret application-specific integrated circuit-hardware. Hændelsen sker samtidig med, at kryptobranchen som helhed satser massivt på “agentøkonomien”.
Den nye sektor ser en fremtid for sig, hvor software gør mere end at generere tekst. Her kan agens styre finansielle strategier automatisk uden menneskelig indblanding.
Derfor investerer flere virksomheder og blockchain-netværk, bl.a. Ethereum, Paradigm og Circle, i at udvikle værktøjer, der kan understøtte denne nye infrastruktur.
Et eksempel er x402-standarden, støttet af Coinbase, som gør det muligt for software-agenter at betale for online-tjenester. Dens udbredelse er dog stadig begrænset.
Data fra x402 viser, at værktøjet har håndteret over 75 millioner transaktioner for i alt 24 millioner dollars i bruttoomsætning blandt 94.000 købere og 22.000 sælgere de seneste 30 dage.
Eksperter vurderer dog, at denne aktivitet kan vokse hurtigt, hvis automatiske agenter bliver mere udbredte.
“AI og krypto er ikke konkurrenter — de nærmer sig hinanden. AI har brug for identitet, betalinger og sporbarhed. Krypto leverer alle tre,” skrev den kapitalfond a16z.
