En matematiker fra NYU, der mener, at en af OpenAI’s modeller nåede frem til hans upublicerede resultater inden for en dag efter at have lært hans navn at kende, holder nu sine originale idéer væk fra virksomhedens AI-værktøjer. OpenAI siger, at hans prompts ikke kan have påvirket deres system.
Tristan Buckmaster kom med advarslen få dage efter, at OpenAI offentliggjorde 722 AI-skrevne matematikartikler. En af hans konti, sagde han, havde stadig som standard aktiveret modellens træning.
Hvad Buckmaster siger, der skete med hans upublicerede arbejde
Buckmaster og Levent Alpöge, matematiker hos OpenAI-konkurrenten Anthropic, brugte det meste af et år på et skridt mod Navier-Stokes, et puslespil inden for væskedynamik med en præmie på $1 million.
Buckmaster kørte arbejdet igennem Codex, OpenAI’s kodeassistent, på sin private betalt konto. Deres udkast lå på OpenAI’s servere.
Han fortalte CNBC, at OpenAI ikke havde gjort fremskridt, før han afslørede sit navn. Derefter, sagde han, nåede deres agenter “præcis derhen, hvor vi var” inden for en dag.
I september sagde Buckmaster, at han ikke anklagede nogen, skrev BeInCrypto. Nu kalder han timingen mistænkelig.
“Før de kendte mit navn, havde de ingen fremskridt. Efter de lærte mit navn, begyndte de pludselig præcis fra hvor vi stoppede … jeg finder det mistænkeligt,” sagde han.
Inden OpenAI annoncerede deres Navier-Stokes-bevis d. 8. september, siger Buckmaster, tilbød de ham eneforfatterskab, hvis han droppede Alpöge. Det afviste han.
OpenAI afviser enhver forbindelse til hans data.
“Vi kan kategorisk sige, at det er umuligt, at Dr. Buckmasters Codex-prompts de seneste to måneder har påvirket systemet på nogen måde, inklusive træning,” skrev ABC med henvisning til en talsperson fra OpenAI.
Buckmaster sagde, at dette tidsvindue konstant ændrede sig. En senere udmelding fra virksomheden fastsatte det til 3. juli.
Hvorfor Buckmaster nu råder forskere til at holde idéer ude af AI
Buckmaster har stadig Codex, men indtaster ikke længere idéer, han ønsker at beholde som sine egne.
Han nævnte, at fondsbedømmere ofte indsætter forskningsforslag i AI-værktøjer for at skrive resuméer, hvilket overgiver upublicerede planer til AI-virksomheder.
OpenAI’s udgivelse i oktober brugte 4.000 uløste problemer som grundlag. Buckmaster sagde, at det slettede forskningsprogrammer for yngre matematikere.
OpenAI’s chef-forsker Sébastien Bubeck fortalte The New York Times, at hans tilbud var ment som hjælp til Buckmaster.
En talsperson sagde, at OpenAI har gjort “betydelige fremskridt” på et andet af de problemer til $1 million.
