Den stigende investering i AI-agenter antyder en fremtid med udbredt automatisering, potentielt endnu mere transformerende end den industrielle revolution. Som med enhver teknologisk innovation vil AI-agenter uundgåeligt stå over for problemer i deres udvikling. Kontinuerlig forbedring vil være afgørende for ansvarlig brug og for at realisere AI-agenters fulde potentiale.
Ved Consensus Hong Kong interviewede BeInCrypto Andrei Grachev, Managing Partner hos DWF Labs, om de største udfordringer, AI-agenter står over for i at opnå masseudbredelse, og hvordan udbredt brug kan se ud.
Traditionelle teknologisektorer og Web3 omfavner kunstig intelligens
På nuværende tidspunkt er det sikkert at sige, at udbredelsen af kunstig intelligens (AI) snart vil være uundgåelig. Teknologigiganter som Meta, Amazon, Alphabet og Microsoft har allerede annonceret planer om at investere op til 320 milliarder dollars i AI og datacentre i 2025.
I sin første uge i embedet annoncerede Trump Stargate, et nyt privat joint venture fokuseret på udvikling af AI-datacentre. Venturet, der består af OpenAI, Softbank og Oracle, planlægger at bygge op til 20 store AI-datacentre over hele USA.
Den indledende investering anslås til at være 100 milliarder dollars, og udvidelsesplaner kan bringe det samlede beløb op på 500 milliarder dollars i 2029.
Web3-projekter foretager også lignende investeringer i AI. I december lancerede DWF Labs, et førende krypto venturekapitalfirma, en AI-agent fond på 20 millioner dollars for at accelerere innovation inden for autonome AI-teknologier.
Tidligere på måneden annoncerede NEAR Foundation, som støtter NEAR-protokollen, også sin egen fond på 20 millioner dollars fokuseret på at skalere udviklingen af fuldt autonome og verificerbare agenter bygget på NEAR-teknologi.
“Historien viser, at alt, der kan automatiseres, vil blive automatiseret, og bestemt vil nogle forretnings- og hverdagsprocesser blive overtaget af AI-agenter,” sagde Grachev til BeInCrypto.
Men efterhånden som AI-udviklingen accelererer, bliver potentialet for misbrug en voksende bekymring.
Ondsindet brug af AI-agenter
Inden for Web3 bliver AI-agenter allerede hurtigt mainstream. De tilbyder forskellige kapaciteter, fra markedsanalyse til autonom kryptohandel.
Men deres stigende integration præsenterer også kritiske udfordringer. Misbrug af AI af ondsindede aktører er en stor bekymring, der omfatter scenarier fra simple phishing-kampagner til sofistikerede ransomware-angreb.
Den udbredte tilgængelighed af generativ AI siden slutningen af 2022 har fundamentalt ændret indholdsskabelse, samtidig med at det tiltrækker ondsindede aktører, der søger at udnytte teknologien. Denne demokratisering af computerkraft har forbedret modstanderens kapaciteter og potentielt sænket adgangsbarrieren for mindre sofistikerede trusselsaktører.
Ifølge en rapport fra Entrust overgår digitale dokumentforfalskninger, der lettes af AI-værktøjer, nu fysiske forfalskninger med en stigning på 244% år-over-år i 2024. I mellemtiden tegnede deepfakes sig for 40% af al biometrisk svindel.
“Det bliver allerede brugt til svindel. Det bruges til videoopkald, når man fejlagtigt repræsenterer folk og deres stemmer,” sagde Grachev.
Eksempler på denne type udnyttelse har allerede nået nyhedsoverskrifter. Tidligere på måneden blev en finansmedarbejder i et multinationalt selskab i Hong Kong narret til at godkende en betaling på 25 millioner dollars til svindlere ved hjælp af deepfake-teknologi.
Medarbejderen deltog i et videoopkald med personer, han troede var kolleger, herunder virksomhedens finansdirektør. Trods indledende tøven fortsatte medarbejderen med betalingen, efter at de andre deltagere virkede og lød autentiske, ifølge rapporter. Det blev senere opdaget, at alle deltagere var deepfake-fabrikationer.
Fra tidlig udbredelse til mainstream accept
Grachev mener, at sådanne ondsindede anvendelser er uundgåelige. Han bemærker, at teknologisk udvikling ofte ledsages af indledende fejl, som mindskes, efterhånden som teknologien modnes. Grachev gav to forskellige eksempler for at bevise sin pointe: de tidlige stadier af World Wide Web og Bitcoin.
“Vi skal huske, at internettet startede med pornosider. Det var ligesom den første Bitcoin, der startede med narkohandlere og derefter blev forbedret,” sagde han.
Flere rapporter er enige med Grachev. De antyder, at voksenunderholdningsindustrien spillede en afgørende rolle i den tidlige udbredelse og udvikling af internettet. Udover at levere en forbrugerbase, banede den vejen for teknologier som VHS, videostreaming, virtuel virkelighed og enhver form for kommunikation.
Pornografi fungerede som et onboarding-værktøj. Voksenunderholdningsindustrien har historisk set drevet forbrugerudbredelsen af nye teknologier.
Dens tidlige omfavnelse og anvendelse af innovationer, især når de med succes opfylder publikums krav, fører ofte til bredere mainstream-udbredelse.
“Det startede med sjov, men sjov onboardede mange mennesker. Så kan du bygge noget på dette publikum,” sagde Grachev.
Over tid blev der også indført sikkerhedsforanstaltninger for at begrænse hyppigheden og tilgængeligheden af voksenunderholdning. Uanset hvad er det stadig en af de mange tjenester, internettet tilbyder i dag.
Bitcoins rejse fra darknet til disruption
Bitcoins udvikling spejler tæt internettets tidligste anvendelser. Bitcoins tidlige udbredelse var i høj grad forbundet med darknet-markeder og ulovlige aktiviteter, herunder narkotikahandel, svindel og hvidvaskning af penge. Dets pseudonyme natur og letheden ved globale pengeoverførsler gjorde det attraktivt for kriminelle.
På trods af dets fortsatte brug i kriminelle aktiviteter har Bitcoin fundet adskillige legitime anvendelser. Blockchain-teknologien, der understøtter kryptovalutaer, tilbyder løsninger på virkelige problemer og forstyrrer traditionelle finansielle systemer.
Selvom de stadig er meget nye industrier, vil kryptovaluta og blockchain-applikationer fortsætte med at udvikle sig. Ifølge Garchev vil det samme ske med den gradvise anvendelse af AI-teknologi. For ham skal fejl bydes velkommen for at lære af dem og justere derefter.
“Vi skal altid huske, at svindel sker først, og så begynder folk at tænke på, hvordan man forhindrer det. Selvfølgelig vil det ske, men det er en normal proces, det er en læringskurve,” sagde Grachev.
Men at vide, at disse situationer vil ske i fremtiden, rejser også spørgsmål om, hvem der skal holdes ansvarlig.
Ansvarsbekymringer
At bestemme ansvar, når skade opstår på grund af en agents handlinger, er et komplekst juridisk og etisk spørgsmål. Spørgsmålet om, hvordan man holder AI ansvarlig, opstår uundgåeligt.
Kompleksiteten af AI-systemer skaber udfordringer i at bestemme ansvar for skade. Deres “black box”-natur, uforudsigelige adfærd og kontinuerlige læringsevner gør det svært at anvende typiske ideer om, hvem der har skylden, når noget går galt.
Desuden komplicerer involveringen af flere parter i AI-udvikling og implementering ansvarsbedømmelser, hvilket gør det vanskeligt at bestemme skyld i AI-fejl.
Ansvar kan ligge hos producenten for design- eller produktionsfejl, softwareudvikleren for problemer med koden eller brugeren for ikke at følge instruktioner, installere opdateringer eller opretholde sikkerhed.
“Jeg tror, det hele er for nyt, og jeg mener, vi skal kunne lære af det. Vi skal kunne stoppe nogle AI-agenter, hvis det er nødvendigt. Men fra mit synspunkt, hvis der ikke var nogen form for dårlig intention med det, er ingen ansvarlig, fordi det er noget virkelig nyt,” fortalte Grachev BeInCrypto.
Men ifølge ham skal disse situationer håndteres omhyggeligt for at undgå at påvirke kontinuerlig innovation.
“Hvis du bebrejder denne iværksætter, ville det dræbe innovationer, fordi folk ville være bange. Men hvis det fungerer på en dårlig måde, kan det til sidst fungere. Vi skal have en måde at stoppe det, lære, forbedre og genlære,” tilføjede Grachev.
Den fine linje, men, forbliver knivskarp, især i mere ekstreme scenarier.
Adressering af fond problemer for ansvarlig kunstig intelligens udbredelse
En almindelig frygt, når man diskuterer fremtiden for kunstig intelligens, vedrører situationer, hvor AI-agenter bliver mere magtfulde end mennesker.
“Der er mange film om det. Hvis vi taler om, lad os sige, politi eller regeringskontrol, eller en hær i en slags krig, er automatisering selvfølgelig en stor skræk. Nogle ting kan automatiseres til et så stort niveau, hvor de kan skade mennesker,” sagde Grachev.
Da han blev spurgt, om et scenarie som dette kunne ske, sagde Grachev, at det i teorien kunne. Uanset hvad indrømmede han, at han ikke kunne vide, hvad der ville ske i fremtiden.
Men situationer som disse er emblematiske for de grundlæggende tillidsproblemer mellem mennesker og kunstig intelligens. Grachev siger, at den bedste måde at nærme sig dette problem på er ved at udsætte mennesker for anvendelsestilfælde, hvor AI faktisk kan være nyttig.
“AI kan være svær for folk at tro på. Derfor bør det starte med noget simpelt, fordi tillid til AI-agenten ikke vil blive bygget, når nogen forklarer, at det er troværdigt. Folk skal vænne sig til at bruge det. For eksempel, hvis du taler om krypto, kan du lancere en meme, lad os sige på Pump.fun, men hvorfor ikke lancere det med en talebesked? Med AI-agenter, send bare en talebesked, der siger ‘venligst lancér dette og hint,’ og det er lanceret. Og så ville det næste skridt være at stole på agenten med nogle mere vigtige beslutninger,” sagde han.
Til sidst vil rejsen mod udbredt AI-udbredelse uden tvivl være præget af bemærkelsesværdige fremskridt og uforudsete udfordringer.
At balancere innovation med ansvarlig implementering i denne udviklende sektor vil være afgørende for at forme en fremtid, hvor AI gavner hele menneskeheden.
Disclaimer
Alle oplysninger på vores hjemmeside offentliggøres i god tro og kun til generelle informationsformål. Enhver handling, der foretages af læserne på grundlag af oplysningerne på vores hjemmeside, er udelukkende på egen risiko.
