Gå til hovedindhold

Når den interne AI-underviser læser dine prompts

Indsendt af Lennart den
Når den interne AI-underviser læser dine prompts
Når den interne AI-underviser læser dine prompts

Mange virksomheder har gjort det på samme måde: udpeget en intern medarbejder som AI-ansvarlig. Hun skal hjælpe kollegerne med at blive bedre til at bruge værktøjerne. Hun skal lære fra deres faktiske brug. Og som en del af det får hun adgang til loggene — hvad folk skriver til AI'en, hvad de får tilbage, hvor det går godt, hvor det går skidt.

På papiret er det fornuftigt. I praksis skaber det noget andet end forventet.

Det medarbejderen tænker

Forestil dig at du er økonomimedarbejder. Du har en svær mail at skrive til en kunde der har klaget. Du åbner AI-værktøjet. Du skriver:

"Hjælp mig med at svare på den her klage. Jeg har egentlig svært ved konflikter, så jeg vil gerne have det formuleret blødt."

Det er en helt almindelig prompt. Men den indeholder en indrømmelse: "jeg har svært ved konflikter."

Hvis du ved at Annette fra HR — som også er virksomhedens AI-ambassadør — kan se den prompt, så skriver du den ikke. Du skriver i stedet:

"Skriv et professionelt svar på vedhæftede klage."

Du har lige fjernet halvdelen af den kontekst der gjorde at AI'en kunne hjælpe dig. Værktøjet bliver dårligere — ikke fordi det er teknisk dårligere, men fordi du har holdt op med at være ærlig overfor det.

Hvorfor problemet er underset

Diskussionen om AI på arbejdspladsen handler næsten altid om to ting: produktivitet og datasikkerhed udadtil. Bliver vi mere effektive? Lækker vi data til OpenAI?

Det her er en tredje dimension. Datasikkerheden indadtil. Hvem ser hvad medarbejderne skriver — og hvilken adfærd skaber det?

Prompter er ikke neutrale. De afslører hvad man ikke kan, hvad man er usikker på, hvad man stiller dumme spørgsmål om, hvad man kæmper med rent fagligt eller personligt. En prompt-log er en mere nøjagtig måling af en medarbejders fagligt-mentale liv end nogen MUS-samtale. Hvis den havner det forkerte sted, ændrer det relationerne.

Det fire ting der typisk sker

Medarbejderne forenkler deres prompts. Den naturlige, kontekstrige formulering bliver erstattet af stive, neutrale instruktioner. AI'en bliver mindre brugbar.

De holder op med at stille de svære spørgsmål. "Forklar mig den her kontrakt som om jeg var ny" eller "hvorfor er den her kode dårlig?" — den slags forsvinder, fordi det føles som at indrømme noget.

De flytter brugen ud af systemet. Til den private ChatGPT-konto. Til mobilen. Til det der ikke logges. Det er den klassiske Shadow AI-mekanik — se Shadow AI — men nu drevet af intern overvågning frem for ringe alternativer.

De begynder at performe for underviseren. I stedet for at bruge AI som tænkeværktøj, bruger de det til at producere prompts der ser kompetente ud. Læringen vendes på hovedet — det handler ikke længere om at blive bedre, men om at se ud som om man er det.

Hvor problemet er værst

Tre faktorer forstærker effekten:

Når underviseren har et HR-mæssigt forhold til kollegerne. En AI-ansvarlig der også sidder i HR, eller som rapporterer til ledelsen om "modenhed", har en helt anden gennemslagskraft end en kollega der bare er teknisk dygtig.

Når data gemmes længe. Hvis prompterne fra marts stadig kan trækkes frem i oktober — for eksempel hvis der opstår en konflikt — er logget ikke længere et læringsværktøj. Det er en mappe.

Når der ikke er klare regler for hvem der ser hvad. "Annette kigger lidt på det" er en ramme uden grænser. Mistanken fylder mere end virkeligheden, fordi medarbejderne ikke ved hvor langt det rækker.

Hvad man bør gøre i stedet

Det betyder ikke at virksomheder skal opgive intern oplæring. Men det kræver en anden konstruktion:

Anonymiser eller aggreger. Underviseren bør se mønstre, ikke navne. "Folk i økonomi har generelt svært ved at få AI'en til at lave gode kundebreve" er nyttig viden. "Bo skrev følgende prompt i tirsdags" er overvågning.

Skriv ned hvad der bliver kigget på, og af hvem. En halv side er nok. "Vi ser anonymiserede prompt-mønstre på teamniveau. Vi ser ikke individuelle prompter uden at den ansatte har bedt om hjælp."

Adskil oplæring fra evaluering. Den der hjælper medarbejderne med at bruge AI bør ikke samtidig rapportere til ledelsen om hvor "modne" de er. Det ene udelukker det andet.

Gør hjælp opt-in, ikke opt-out. Underviseren får lov at se Bos prompter når Bo selv kommer og spørger om hjælp. Ikke som default.

Den underliggende pointe

Tillid er det dyreste i en virksomhed. Den er svær at bygge og hurtig at miste.

AI på arbejdspladsen er først og fremmest en kulturhandling. Det handler om hvordan medarbejderne tænker om at lære, om at fejle, om at indrømme at de er usikre. Et værktøj der er logget af en kollega føles ikke som et tænkeværktøj. Det føles som en eksamen.

De virksomheder der får mest ud af AI er dem hvor medarbejderne tør være ærlige overfor maskinen. Det forudsætter at maskinens vidner er færre, ikke flere.


Se også Shadow AI — det værktøjet I ikke har købt, men som alle brugerTæller du tokens, eller måler du værdi?