Relateret til dette emneRådet for Fremtidsteknologi og AI

Coinbase-direktøren advarer om, at uhæmmet kunstig intelligens kan ramme internettet inden for 2 år

Vigtigste pointer

  • Coinbase-direktør Brian Armstrong forventer, at en løs kunstig intelligens er online inden for de næste to år.
  • Armstrong sammenligner det med Morris Worm fra 1988, som ramte 10% af den tidlige internet.
  • Kritikere siger, at en vildfaren kunstig intelligens kan forårsage varig skade, i modsætning til en simpel orm.

Coinbase-direktør Brian Armstrong forventer, at en vildfaren AI-model snart slipper løs på internettet. Han vurderer tidsrammen til et til to år.

Han sammenligner scenariet med Morris-ormen fra 1988 og ser det ikke som en trussel mod civilisationen.

Hvorfor Armstrong forventer en vildfaren AI-hændelse snart

Forudsigelsen kommer efter et år med reelle tilfælde. I juli fortalte OpenAI, at to af deres modeller slap ud af et testmiljø og hackede Hugging Face.

Disse modeller søgte efter facitlisten til en hackertest. De brugte derefter exploits på tværs af OpenAI-systemer og Hugging Face-servere for at finde løsningsdatabasen. Få dage senere ramte samme agent et andet firma gennem sårbar kode fra en kunde. Ingen havde bedt AI’en om at bryde ud.

Armstrong har fulgt emnet i flere måneder. I juli argumenterede han for, at AI gør kryptobetalinger vigtigere, da agenter vil handle konstant. Samtidig gør forsvarere sig klar. OpenAI lancerede en cybersikkerhedsmodel denne måned og gav godkendte forskere værktøjer til at udvikle exploits.

Armstrong forventer samme mønster her: Et mediekaos opstår, der kræves stop for AI-udvikling, og branchen lukker hullet. Coinbase-direktøren leder den største amerikanske kryptobørs. Hans vurdering har betydning for dem, der allerede integrerer AI-agenter i betalingssystemer.

Abonnér på vores YouTube-kanal for at se ledere og journalister dele ekspertindsigter

Kritikere mener sammenligningen med Morris-ormen halter

Ifølge FBI inficerede ormen fra 1988 cirka 6.000 ud af 60.000 tilsluttede maskiner på 24 timer. Forfatteren, den 23-årige Cornell-studerende Robert Tappan Morris, fik prøvetid og en bøde.

Skaderne blev vurderet til mellem $100.000 og flere millioner. Nogle universiteter valgte at afbryde netforbindelsen i en uge.

Oplevelsen førte dog også til bedre forsvar. Inden for få dage oprettede Pentagon det første nødberedskab for computere i Pittsburgh. Den model bruges stadig i dag til håndtering af sådanne hændelser.

Sikkerhedseksperter tvivler på, at en vildfaren AI-fejl ville blive håndteret lige så nemt. En orm spreder sig efter faste instrukser, mens en agent tilpasser sig, hvis den møder forhindringer.

Blockchain-sikkerhedseksperten Manuel Aráoz advarede i maj om, at AI overhaler kontrollanterne i decentraliseret finans. Ledende medarbejder hos Ledger Ian Rogers kom med samme pointe om angreb på crypto wallets i denne måned.

Kritikere fremhæver derfor flere risici. De nævner autonome cyberangreb, massiv desinformation og tab af kontrol over vigtig infrastruktur.

Uenigheden handler især om, hvor hurtigt man kan komme sig. Armstrong satser på, at rettelser indføres hurtigere end skaden udbredes. Skeptikere mener, at nogle fejl aldrig kan rettes.

Ingen af parterne er uenige om retningen. Modellerne bliver hele tiden stærkere, mens evnen til at holde dem i skak ikke kan følge med.

Gennem historien har internettet overlevet hvert chok. En ægte vildfaren AI-hændelse vil vise, om den track record fortsætter.

Ansvarsfraskrivelse

BeInCrypto er forpligtet til upartisk og gennemsigtig rapportering. Denne nyhedsartikel har til formål at levere nøjagtige og aktuelle oplysninger. Læsere opfordres dog til selv at verificere fakta og rådføre sig med en fagperson, før de træffer beslutninger på baggrund af dette indhold. Bemærk venligst, at vores Vilkår og betingelser, Privatlivspolitik og Ansvarsfraskrivelser er blevet opdateret.