Anthropic udgav i denne uge et notat om noget, der lyder som science fiction: recursive self-improvement — AI-systemer, der selv bliver i stand til at designe og bygge deres egen efterfølger. Et af tallene i notatet fortjener at blive læst to gange: Claude skriver nu over 80 % af Anthropics egen produktionskode, og deres ingeniører flytter otte gange så meget kode om dagen som i 2024.
Det er nemt at læse den slags som enten hype eller trussel. Begge dele er forkerte. Anthropic siger det selv tørt: "Vi er ikke der endnu, og recursive self-improvement er ikke uundgåelig." Men retningen er dokumenteret — hvor lange opgaver AI kan løse, fordobles nu hver fjerde måned mod hver syvende før.
Det interessante spørgsmål for en virksomhed er ikke, om AI overtager. Det er: hvor sidder den menneskelige værdi, når eksekvering bliver hurtig og billig?
Det Anthropic egentlig beskriver
Læg mærke til mønsteret i notatet. AI er blevet rigtig god til at udføre — skrive kode, fejlfinde, køre veldefinerede eksperimenter. Det, der stadig er menneskeligt, er dømmekraft: at sætte retning, vælge hvilke eksperimenter der overhovedet er værd at køre, og afgøre hvad der er godt nok.
Og så er der den del, Anthropic er mest optaget af: kontrol. Deres egne ord: "Hvis systemer fuldt kan bygge deres egne efterfølgere, bliver måderne, vi sikrer dem på, meget vigtigere." Bemærk hvad der sker her. Jo dygtigere modellen bliver til at bygge, jo vigtigere — ikke mindre vigtig — bliver skallen af regler, sikkerhed og kontrol omkring den.
Det er den samme bevægelse i lille format, som jeg oplevede i sidste uge.
En lille version af det samme
Jeg byggede et CRM og gjorde det bagefter elleve gange hurtigere. Det ærlige billede: størstedelen af koden blev skrevet af en AI. Eksekveringen var hurtig og billig — præcis som Anthropic beskriver.
Men hver beslutning, der betød noget, var menneskelig. At måle før jeg gættede. At vælge hvad der skulle ejes frem for lejes. At afgøre, hvilken afvejning der var acceptabel, og hvornår 93 millisekunder var hurtigt nok. Modellen udførte. Jeg satte retning og holdt hånden på rettet.
Det er ikke et tilfælde. Det er det samme princip som hos Anthropic, bare på et kartotek i stedet for en frontier-model: når det at udføre bliver nemt, flytter flaskehalsen til at vide, hvad der skal udføres — og til at kontrollere, at det, der bliver bygget, er til at stole på.
Hvad det betyder for din virksomhed
To ting, som er værd at tage med ind i bestyrelseslokalet:
Det meste af et velfungerende AI-system er ikke AI. Det er regler, validering, routing og kontrol — den deterministiske skal, der gør modellen pålidelig, billig og til at revidere. Den skal bliver ikke overflødig, efterhånden som modellerne forbedrer sig selv. Anthropics eget argument er, at den bliver mere afgørende. For en SMV er det godt nyt: den del kan I forstå, styre og eje — også uden et forskningslaboratorium.
Den varige kompetence er retning, ikke betjening. Det værdifulde er ikke at kunne bruge værktøjet hurtigst. Det er at vide, hvad der skal bygges, hvad I skal lade være med, og hvordan I beholder kontrollen. I de tre fremtidsscenarier, Anthropic skitserer — fra at trenden flader ud til fuld selvforbedring — konvergerer den menneskelige rolle mod det samme sted: at sætte retning og føre tilsyn. Det er ikke en trøstepræmie. Det er arbejdet.
Pointen
Det er fristende at vente — at tro, at man bør holde igen, til AI bliver "færdig" og fejlfri af sig selv. Men gevinsten ligger der allerede nu, og den varige kompetence flytter ikke. Den, der i dag øver sig i at sætte retning for AI og holde hånden på kontrollen, bygger præcis den evne, der bliver mere værd, jo dygtigere systemerne bliver.
Recursive self-improvement kan flade ud, eller den kan accelerere — ingen ved det. Men i alle scenarier er svaret det samme for en virksomhed: det handler ikke om at have den nyeste model. Det handler om at forstå skellet mellem det, AI udfører, og det, kun et menneske kan beslutte. Det skel forsvinder ikke. Det bliver det eneste, der virkelig tæller.