Der tales meget om AI lige nu. Rigtig meget. Og en stor del af det er hype.
Det ved jeg, for jeg er selv på LinkedIn og andre steder hvor der snakkes mere end der handles.
Men jeg har også afholdt kurser og lavet workshops. Og jeg har på det seneste vejledt forretningsudviklere og talt med bestyrelsesformænd om AI.
Her er lidt af de som vi har talt om:
Intelligenseksplosionen er allerede begyndt
RSI — Recursive Self-Improvement — er ikke science fiction. Det er det, der sker, når en kunstig intelligens bliver god nok til at analysere og forbedre sin egen arkitektur. Hver forbedring gør systemet klogere. Et klogere system laver bedre forbedringer. Og så fremdeles.
Vi har allerede set forsmagen. "Vibe coding" — hvor udviklere nærmest bare beskriver hvad de vil have, og AI skriver koden — har ført til en kambrisk eksplosion ( ja, jeg er oprindelig uddannet biolog :) ) af nye softwareprodukter. Det, der tog et team af seniorudviklere tre måneder, tager nu en enkelt person en weekend.
Det kommer til at gå stærkt inden for andre områder også.
Men her er det, de fleste overser: teknologien er ikke det svære. Det svære er din organisation.
AI kan kun forholde sig til det udtrykte
Større virksomheder er ofte ret procesdrevne — om ikke andet af ren og skær nødvendighed. Men mange mindre virksomheder er noget helt andet: ejerdrevne.
Der er en ejer. Måske også daglig leder. Som styrer virksomheden som en kaptajn på et skib. Medarbejderne har deres isolerede roller, og de har måske siddet der i mange år. Hele forretningen kører på rygraden som tavs viden — noget ingen nogensinde har skrevet ned, fordi der aldrig var nogen grund til det.
Indtil nu.
For AI kan — heldigvis — ikke læse tanker. Den kan ikke forholde sig til det, der foregår i dit hoved, det der siges mellem linjerne, eller de vaner der er blevet indlejret over årtier. AI kan kun arbejde med det, der er eksplicit udtrykt.
Det betyder, at et ambitiøst udbytte af AI kræver, at din virksomhed bliver mere procesdrevet. Ikke som en straf, men som en forudsætning. De store virksomheder er allerede der — og med AI's indtog bliver den tilgang kun endnu mere afgørende for at forblive relevant.
"Trust No AI"
Lad os tale om det ubehagelige.
Simon Willison, en af de skarpeste stemmer inden for AI-sikkerhed, har kogt kravet for et vellykket prompt injection-angreb ned til tre ting:
- Adgang til dine private data
- Eksponering for ikke-betroet indhold
- Evnen til at kommunikere eksternt
LLM'er følger instruktioner i indhold. Det er præcis det, der gør dem så nyttige. Men de skelner ikke mellem dine instruktioner og fremmede instruktioners. Præcis ligesom SQL injection — hvis en angriper kan få sine instruktioner ind i systemet, vil modellen følge dem.
Microsoft advarer selv om, at prompt injection-angreb "kan tilsidesætte agentinstruktioner, hvilket fører til utilsigtede handlinger som dataudtrækning eller malware-installation." Anthropic dokumenterer, at Claude kan narres til at sende information fra sin kontekst til ondsindede tredjeparter.
Og alligevel ser vi flere og flere systemer, der lader AI-output udføre konsekvente handlinger uden menneskelig kontrol. Fordi "det gik godt sidst."
Den farlige bias hedder normalisering: man forveksler fraværet af et vellykket angreb med tilstedeværelsen af robust sikkerhed.
Det er ikke det samme.
Og her skal man forstå at der må være et system omkring AI i stedet for at AI skal være systemet omkring organisationen.
Hvad det egentlig kræver af dig som leder
Beslutningstagere skal forstå AI-sikkerhed. Ikke på kodeniveau — men på risikoniveau.
Spørgsmålene du bør stille er ikke: "Kan vi bruge ChatGPT?" De rigtige spørgsmål er:
- Hvor ender vores data henne?
- Hvad sker der, hvis systemet giver et forkert svar i en kritisk proces?
- Har vi mennesker i loopet, der kan stoppe det, når noget går galt?
Det er ikke en opfordring til paranoia. Der er masser af lavrisiko-arbejdsgange, der kan automatiseres i dag. Og selv højrisiko-arbejdsgange kan håndteres med ordentlig trusselmodellering, sandkassemiljøer og menneskelig oversight.
Men det kræver investering og ressourcer at designe systemer rigtigt. Det er ikke nok at "håbe, at modellen gør det rigtige."
Markedet betaler ikke for din viden om LLM'er
Her er den måske vigtigste pointe af dem alle:
Virksomheder er trætte af hypen. De vil have realistiske, veldokumenterede råd fra nogen, der ved, hvad de taler om — og som ikke er bange for at sige fra.
Det handler ikke om tokens, temperature-settings eller finetuning. Det handler om risikominimering, effektivisering, skalerbarhed og konkurrencefordel.
En god strategisk rådgiver er præcis en, der kan sige: "Nej, vi skal ikke have en chatbot til det her — vi risikerer at lække data. Vi har brug for et system med proper adgangskontrol og menneskelig validering i de kritiske trin."
Den realisme er det, der er brug for. Og den er der tilsyneladende mangel på.
Den bedste og sikreste vej frem er at forblive realistisk omkring både kapabiliteter og kontrolmekanismer. At investere i at gøre din organisation procesdrevet, før du kaster dig ud i automatisering. At behandle AI-output som potentielt upålidelige og designe systemer derefter.
Intelligenseksplosionen er i gang. Spørgsmålet er ikke, om den rammer din branche. Spørgsmålet er, om din organisation er klar til at modtage den.