Der er en forskel, som afgør, om en AI-agent kan få lov at arbejde alene, og den er næsten aldrig med i samtalen. Det er forskellen på en instruktion og en mekanisme.
En instruktion er noget, modellen læser og for det meste følger. En mekanisme er noget, der returnerer en fejl.
For et år siden var de fleste AI-agenter bygget som en løkke. Spørg modellen, kald et værktøj, læg svaret tilbage i samtalen, spørg igen. Det virkede fint i en demo, der tog tredive sekunder.
Det kan du nu med event sourcing. I hvert fald i dine systemer.
Det lyder som en reklame, og jeg ved det godt. Men prøv at tænke på, hvor tit spørgsmålet egentlig bliver stillet i en virksomhed. En prisregel har været forkert i tre uger. Hvor mange ordrer blev ramt, og hvad skulle de have kostet? Revisoren vil vide, hvad I vidste den 4. marts, og ikke hvad I ved i dag. Eller en AI-agent traf en mærkelig beslutning i går, og nu vil I se den ske igen, langsomt.
Demoer viser altid det lykkelige forløb. Agenten får en opgave, udfører elleve trin og leverer et resultat, og alle i lokalet nikker. Det spørgsmål, der afgør, om systemet nogensinde kommer i drift, bliver ikke stillet: Hvad sker der, når trin syv fejler?
Svaret afhænger næsten udelukkende af én ting, som ingen leverandør nævner af sig selv – hvordan systemet holder styr på, hvor langt det er nået. Der findes tre grundformer. De koster det samme at bygge for en simpel opgave, og de opfører sig vildt forskelligt den dag, noget går galt.
Jeg ville have en enkel redaktionel handling: en videnshistorie skal ligge klar om formiddagen, jeg skal kunne svare ja på telefonen, og så skal den ud på Folkets uden at min Mac eller en terminal behøver stå åben.
Det lyder som en notifikation. Det er det ikke. Det er et lille distribueret system.
Forleden skrev jeg om, hvorfor Folkets Avis producerede slop i et år, og hvad der skulle til for at komme videre. Den korte version: modellen var ikke problemet. Redaktionen fandtes ikke på skrift.
Her er den lange version. Altså den, hvor jeg åbner mappen og viser, hvad der faktisk ligger i den.
For tre år siden satte jeg sprogmodeller til at skrive Folkets Avis. Ikke som et forsøg i et hjørne af sitet, men hele vejen: automatisk indsamling, automatisk skrivning, automatisk udgivelse. Det kørte i mindst et år uden at nogen rørte en tast. På det tidspunkt var det så vidt jeg ved den første automatisering af sprogmodeller i dansk mediebranche.
Der er to måder at give en AI-agent frie tøjler på, og de er begge forkerte.
Den ene er at lade den spørge om alt. Den bliver ignoreret inden for en uge. Når hver eneste handling kræver en godkendelse, holder mennesket op med at læse godkendelserne — man klikker ja, fordi man altid klikker ja. Det er ikke kontrol, det er en vane, der ser ud som kontrol.
Den anden er at lade den lade være med at spørge. Så kører den, indtil den gør noget, ingen ville have sagt ja til, og så er samtalen om AI i den virksomhed slut i to år.
Jeg tegnede min morgenrutine som et workflow-diagram, mest for sjov. Så opdagede jeg, at næsten alt det, jeg plejer at skynde mig med, ligger uden for den kritiske vej.
Kaffemaskinen behandler jeg allerede rigtigt: jeg trykker på knappen og går videre. Den kører selv.
Ungerne behandler jeg derimod som et synkront kald — jeg venter på, at de bliver færdige, før jeg går i gang med det næste. Men vækning er præcis samme slags operation som kaffebrygning: lang ventetid, næsten ingen indsats. Den burde affyres først.
Jeg tegnede min egen morgenrutine som et workflow-diagram, mest for sjov. Så kiggede jeg på det, og opdagede at næsten alt det, jeg plejer at skynde mig med, ligger uden for den kritiske vej.
Tre baner og en undtagelsesbane. Kaffemaskinen sættes i gang først, madpakkerne smøres imens, Aula tjekkes i ventetiden — og ungerne vækkes til sidst, klokken 07:00, en halv time før vi skal ud.