Gå til hovedindhold

OpenAI byggede en chip — og det interessante er ikke chippen

Indsendt af Lennart den
OpenAI byggede en chip — og det interessante er ikke chippen

OpenAI har offentliggjort sin første AI-chip, kaldet Jalapeño.

Analysehuset SemiAnalysis har fået lov at måle på den i laboratoriet, og tallene er usædvanlige for en førstegenerationschip: På ydelse per watt slår den Nvidias Blackwell i næsten alle de scenarier, der blev kørt.

Det er den overskrift, alle skriver. Den er også den mindst interessante del.

Det, der faktisk skete

En chip kan ingenting i sig selv. Den skal have kernels — små, håndoptimerede stykker kode, der fortæller den præcis, hvordan den skal regne. God kernel-kode er specialistarbejde, og forskellen på en god og en middelmådig kernel er ikke procenter, men halvdelen af ydelsen.

Det er dét, Nvidias forspring består af. CUDA er ikke et produkt, men tyve års værktøjer, biblioteker og mennesker, der kan skrive i det. Branchen kalder det CUDA-voldgraven, og AMD og Google har brugt år på at grave en tilsvarende uden at nå det.

OpenAI gravede den ikke. De skrev i stedet et snævert, ubehageligt lavniveausprog — Gluon — og satte deres egen kodemodel til at skrive i det.

Da testen krævede kernels til DeepSeeks usædvanlige opmærksomhedsarkitektur, som OpenAI aldrig har haft brug for, skrev modellen dem på stedet.

Antagelsen i tyve år var, at et økosystem skal være venligt, fordi tusindvis af mennesker skal kunne bruge det. Hvis en model kan skrive konkurrencedygtig kernel-kode til hvilken som helst chip, holder antagelsen op med at gælde:

De få tusind mennesker på kloden, der kan det arbejde, er ikke længere flaskehalsen.

Hvad man skal tro på, og hvad man ikke skal

Målingerne er reelle og foretaget af en tredjepart i et laboratorium. SemiAnalysis siger selv, at de ikke har kørt hele deres testsuite. Chippen går i meget små mængder i OpenAI's egne datacentre i år, med opskalering i 2027 — den er ikke noget, nogen kan købe.

Resten af det, der cirkulerer i samme åndedrag, er rygter: en pretræning med ti billioner parametre, kontekstvinduer på millioner af tokens, modeller der lærer videre af sig selv. Det kan være rigtigt. Det er ikke oplyst af nogen, og det hører ikke i samme afsnit som en laboratoriemåling.

Hvorfor det angår en dansk virksomhed

Ikke fordi nogen skal købe en chip. Men fordi den mekanisme, der lige er demonstreret, er den samme, som afgør, hvad jeres AI-leverandør kan tage sig betalt for.

Et forspring, der består af akkumuleret specialistarbejde, har været den sikreste form for forspring, der findes. Det er også præcis den form, en tilstrækkelig god model kan indhente på måneder frem for år.

Det gælder kernel-kode.

Det gælder også integrationer, dataoprydning, rapportskrivning og alt det andet, nogen i dag fakturerer jer for, fordi det tager lang tid at lære.

Den praktiske konsekvens er kedelig og konkret: Skriv ikke lange bindinger på noget, hvis værdi udelukkende er, at det er besværligt. Voldgraven kan være tørlagt inden næste fornyelse.