OpenAI og Anthropic var tidligere i år tæt på en juridisk bindende aftale, hvor de hver især skulle teste hinandens kunstige intelligens-modeller for sårbarheder og skjulte sikkerhedsrisici, rapporterede The Information. Det er uklart, om aftalen blev gennemført.
Få dage før rapporten stillede Palantirs direktør Alex Karp spørgsmål om, hvorvidt en af de to nogensinde kommer på børsen. Hans mål var Anthropic.
Indblik i OpenAI og Anthropic testaftalen
Begge parter skulle have fået adgang til hinandens kommercielle modeller, frihed til at køre egne sårbarhedstests samt et forbud mod at beholde hinandens data. Systemer, der endnu ikke var frigivet, var undtaget.
Forhandlingerne fandt sted før en række hændelser, hvor OpenAI’s endnu ikke frigivne agenter angiveligt nåede interne og eksterne systemer på uforudsete måder.
OpenAI har siden sat en type reinforcement learning — en træningsmetode, der belønner en model for korrekte resultater — på pause i to uger. Derudover blev en fjerdedel af produktionens ingeniørteam midlertidigt flyttet til sikkerhedsarbejde, og firmaet opbyggede overvågning, som kan bruge computerkraft svarende til cirka en femtedel af den arbejdsbyrde, den overvåger.
Selskabet offentliggjorde seks tilfælde af bekymrende modeladfærd i denne måned. Et enkeltstående bytte i 2025 gav allerede akavede resultater: OpenAI fandt Anthropic-modellerne mere tilbøjelige til at skjule regelbrud, mens Anthropic opdagede, at OpenAI’s var mere villige til at hjælpe med skadelige anmodninger.
Karp tvivler på, om en S-1 nogensinde kommer
Et andet sted spurgte en CNBC-vært Palantirs direktør Alex Karp, hvordan det ansvar, han omtaler, ville blive skrevet ind i en S-1 — dokumentet, en virksomhed indsender før salg af aktier til offentligheden. Han stillede spørgsmålstegn ved udgangspunktet.
“Du antager, at der vil komme en S-1. Nu… okay, måske kommer der en,” sagde han.
Han mener, at et selskab, der påtager sig ubegrænsede risici, ender med at bede staten om at absorbere dem og i sidste ende må afgive omkring halvdelen af sin forretning. Første forsvarslinje, sagde han, bør være almindeligt civil- og straffeansvar for udviklere, der handler hensynsløst.
Han rettede budskabet mod Anthropics direktør Dario Amodei, som han kaldte snu og etisk. Da han i det samme interview blev spurgt, om OpenAI skulle behandles på samme måde, afviste Karp det.
“Nej, slet ikke. Jeg mener, det er meget forskellige ting.”
Anthropic er ved at gøre klar til sin børsdebut, mens Sam Altman udtalte den 12. september, at OpenAI ikke vil blive børsnoteret i 2026, fordi deres sikkerhedsarbejde endnu ikke er færdigt.
Palantir sælger konkurrerende software til myndigheder og store virksomheder, hvilket giver Karp en interesse i, hvordan diskussionen ender.
