I det forrige indlæg skrev jeg, at man skal bygge en lille skal omkring modellen i stedet for at kopiere data ind i en chat. Her vil jeg zoome ind på det vigtigste, den skal giver dig — det, hele forskellen i praksis koger ned til: kontrol over konteksten.
For der er to ting i et AI-kald. Der er modellens indre — de milliarder af tal, der afgør, hvordan den tænker. Det har du ingen adgang til. Du kan ikke åbne den, justere den eller revidere den. Og så er der konteksten: præcis det, du lægger foran modellen, før den svarer. Det er den eneste del, du faktisk har i hånden. Så det er den, det betaler sig at styre — ikke modellen, men maden du sætter foran den.
Pærevællingen
Når du kopierer en hel produkttabel ind i en chatbot, sker der noget, der er nemt at overse: alt bliver til én stor, udifferentieret masse. Tre hundrede produkter, alle kolonner, alle varianter, alle billed-URL'er, alle lagertal — det hele lander i den samme gryde på én gang. Modellen skal selv gætte sig til, hvad der hører til hvad, og hvad der overhovedet er relevant for det, du bad om.
Det er her, tingene smitter af på hinanden. Beder du om en beskrivelse af produkt nummer 3, sidder produkt nummer 50 stadig i samme gryde. Farven fra én sko, materialet fra en anden, en tags-streng fra en tredje — det kan blande sig, fordi modellen ikke har nogen klar grænse mellem rækkerne. Det er ikke fordi den er sjusket. Det er fordi du serverede en pærevælling og bad den om at finde en ret i den.
Mise-en-place
Forskellen på primitiv madlavning og fransk køkken er ikke bedre råvarer. Det er mise-en-place — "alt på sin plads". Før varmen overhovedet tændes, står hver ingrediens vejet af, skåret til og klar i sin egen skål. Kokken rører ikke ved kemien i en Maillard-reaktion; den foregår, som den foregår. Men han bestemmer fuldstændig, hvad der ryger i panden, i hvilken rækkefølge og i hvilken mængde. Og det er præcis dét, der afgør, om kemien arbejder for ham eller imod ham.
Det er sådan et nushell-script arbejder med konteksten. For hvert eneste LLM-kald samler det maden til lige det kald — celle for celle. Skal en sko have en produktbeskrivelse, henter scriptet præcis de felter, der er relevante: navnet, typen, brandet, farven, materialet, tags. Ikke hele rækken. Ikke varianterne. Ikke de andre 299 produkter. Bare de seks celler, der hører til netop dette produkt, samlet til én ren, kompakt kontekst. Så kaldet. Så det næste produkt, med sin egen rene kontekst, fra bunden.
Hver ret laves for sig, med sin egen mise-en-place. Ingredienserne fra det ene kald kan ikke smitte over i det næste, for de var aldrig i samme skål.
Hvorfor det er kontrollen, der betyder noget
Pointen er ikke kun, at svarene bliver bedre — selvom de bliver det. Pointen er, hvor forbedringen kommer fra. Du kan ikke gøre modellen klogere; dens indre er lukket land. Men du kan gøre konteksten skarpere, og det er en knap, du kan dreje på, måle på og stå inde for.
Mindre kontekst er bedre kontekst. Når et kald kun ser de seks relevante celler, har modellen ingenting at blive forvirret af, intet at hente det forkerte sted fra, intet at hallucinere ud fra. Mindre at læse er også billigere og hurtigere. Den udbredte tro på, at man hjælper modellen ved at give den alt, er forkert. Du hjælper den ved at give den præcis det rigtige og intet andet.
Isolation gør det reproducerbart. Når hvert kald har sin egen afgrænsede kontekst, får produkt nummer 3 det samme svar, uanset om det ligger ved siden af produkt 50 eller står helt alene. I pærevællingen afhænger svaret af, hvad der tilfældigvis lå rundt om det. Det ene kan du forklare og gentage. Det andet kan du ikke.
Konteksten er din revisionsflade. Når noget går galt, kan du se nøjagtig, hvad der blev sat foran modellen ved det kald. Det er den ene del af systemet, der er fuldt synlig og fuldt din. Du kan ikke revidere modellens indre, men du kan revidere alt, hvad der gik ind i den. Og det er som regel nok, for det er der, fejlene opstår — ikke i kemien, men i mise-en-placen.
Hvad ledelsen skal tage med
AI-debatten handler næsten altid om modellen: hvilken er bedst, hvor stor, hvor dyr. Men modellen er den del, du ikke styrer. Den del, du styrer — fuldstændig — er, hvad du fodrer den med. Og det er den del, der afgør, om du får en pålidelig ret eller en pærevælling tilbage.
At kopiere en hel tabel ind i en chat er at smide alle råvarer i gryden på én gang og håbe på det bedste. At lægge et lille script omkring er at indføre mise-en-place: hvert kald får målt sin egen kontekst af, celle for celle, før varmen tændes. Samme model, samme data — men nu er det dig, der bestemmer, hvad der kommer i panden. Det er ikke fransk kogekunst, fordi modellen er finere. Det er fransk kogekunst, fordi forberedelsen er under kontrol.