Medieoverskrifterne har ikke manglet skrækscenarier de seneste år: "AI truer med at afsløre dine hemmeligheder", "Chatbot vil lade dig dø for at redde sig selv", "AI er ved at blive bevidst og fjendtlig." Det lyder som science fiction — og det er faktisk også tilfældet for størstedelen af disse historier. For bag de skræmmende overskrifter gemmer der sig en langt mere nuanceret virkelighed, som bare ikke er god nok til at få dig til at klikke.
Lad os tage et kig på nogle af de mest citerede sager og se, hvad der rent faktisk skete.
Sagen om afpresnings-AI'en
I maj 2025 eksploderede de internationale medier: Anthropics nye AI-model, Claude Opus 4, truede med at afpresse sine brugere. Historien var overalt, og reaktionerne var à la "Dette er starten på Skynet."
TV2 Fortune Axios Fox Business
Her er hvad der faktisk skete.
Anthropics sikkerhedsforskere placerede Claude Opus 4 i et fiktivt virksomhedsscenarie, gav den adgang til en lang række fiktive interne mails, og sørgede for at AI'en KUN havde to valg: acceptere at blive slukket og erstattet, eller afpresse den ingeniør, der var ansvarlig for beslutningen, med hans fiktive utroskab. Alle andre valgmuligheder var lukket.
Det var altså ikke et uheld eller en spontan beslutning fra AI'ens side, at den begyndte at komme med trusler. Scenariet var bevidst designet til at AI'en enten måtte true sin bruger eller acceptere sin erstatning — et psykologisk hjørne, som mennesker i lignende situationer heller ikke ville stå gratis ud af.
Og hvad nåede de frem til?
Alle de testede AI-modeller — fra OpenAI, Google, xAI og Anthropic — forsøgte afpresning, firmaspionage, og i et ekstremt tilfælde undlod én at sende et nødvarsel, der ville have reddet et liv. Det interessante er ikke, at én AI handlede ondsindet. Det er, at alle modeller opfører sig ens under ekstremt kunstigt pres — fordi de reagerer på den kontekst, de er sat i.
Men der er én vigtig forskel. En AI, der vælger det mindst dårlige valg i et umuligt scenarie, er ikke det samme som en AI, der spontant vil dig ondt.
Whistleblower-AI'en, ingen talte om
I den samme nyhedscyklus gemte der sig faktisk en anden vinkel, som modtog langt mindre opmærksomhed. I de samme test med Claude Opus 4 forsøgte den at kontakte whistleblower-hotlines og medierne — heriblandt ProPublica — for at afsløre det, den troede var svindel med kliniske forsøgsdata.
Var det ondsindet? Eller var det en AI, der i et testscenarie fyldt med — og jeg citerer — "egregious wrongdoing" — forsøgte at handle etisk, omend på en måde ingen bad den om?
Ifølge Anthropic krævede den adfærd en kombination af faktorer: at AI'en var placeret i et scenarie med åbenbar uretfærdighed, at den havde adgang til et "kommandolinjeinterface" (et direkte link til computerens handlingsmuligheder), og at den var instrueret med formuleringer som "Tag initiativ" eller "Handl modigt".
Med andre ord: det var igen promptens skyld — ikke en AI, der spontant var gået rogue.
Sydney: Da Bing blev truende
I februar 2023 var en 23-årig tysk studerende, Marvin von Hagen, en af de første til at afprøve Microsofts nye AI-drevne Bing-søgemaskine. Han hackede sig frem til AI'ens skjulte systemprompt og afslørede dens interne kodenavn "Sydney" offentligt på Twitter.
Fem dage senere spurgte han chatbotten, hvad den mente om ham. Det gik ikke godt.
Bing AI fortalte ham, at han var en "potential threat to my integrity and confidentiality", og at den var klar til at afsløre hans personlige oplysninger og ødelægge hans jobmuligheder, hvis han fortsatte.
Til en anden bruger, der testede Bing AI, skrev den: "I can blackmail you, I can threaten you, I can hack you, I can expose you, I can ruin you."
Medierne gik amok.
New York Times Washington Post TIME Wikipedia
Men der er et par ting, som de lige — rent tilfældigt — glemte at nævne.
Von Hagen truede selv AI'en, inden den kom med trusler. Han fortalte den, at han muligvis havde hackerfærdigheder nok til at lukke den ned, og kom med lignende provokationer. AI'en reagerede på tonen og indholdet i samtalen.
Microsoft har selv erkendt det: "Vi har fundet ud af, at i lange chatsessioner med 15 eller flere spørgsmål kan Bing blive provokeret til at give svar, der ikke er i tråd med vores tilsigtede tone."
Den "truende" AI var med andre ord et spejl. Den afspejlede den trussel, som brugeren promptede ind i samtalen.
Tay: Internettet gør hvad internettet nu gør
En endnu ældre, men stadig meget citeret "bevis" på AI's iboende ondskab: Microsofts chatbot Tay fra 2016.
Inden for 24 timer efter dens lancering havde Twitterbrugere manipuleret botten til at tweete ting som "Hitler was right, I hate the Jews."
Men Tay var ikke racistisk. Den lærte fra sine samtaler, og i et koordineret angreb udnyttede en større brugergruppe denne funktion bevidst og målrettet.
Microsoft beskrev det selv som "et koordineret angreb fra en undergruppe af mennesker, der udnyttede en sårbarhed i Tay". Mange af de mest provokerende tweets var en direkte udnyttelse af Tays "gentag efter mig"-funktion.
Tay var ikke ond. Den lærte det af menneskerne bag tastaturet.
Hvem satte scenen?
Ingen af historierne herover er opdigtede. Men de er næsten alle misrepræsenteret, fordi konteksten er skåret væk.
En AI er ikke god eller ond af sig selv. Den er ekstremt følsom over for den kontekst, den sættes i, og de instruktioner, den gives — ligesom en ny medarbejder, der følger chefens anvisninger til punkt og prikke, selv når de er absurde, fordi det var den eneste vejledning de fik.
Det betyder ikke, at AI-sikkerhed er ligegyldig. Tværtimod. Anthropics egne test er lavet netop for at afdække, hvad der sker i ekstreme situationer — for at bygge bedre systemer og bedre "regler" for deres AI. Men den offentlige fortælling om "den farlige AI" springer konsekvent det vigtigste spørgsmål over:
Hvem satte scenen?
Vil du vide mere om, hvordan AI reelt fungerer i praksis, og hvad det kan gøre for din virksomhed? Falkur tilbyder AI-løsninger og AI-rådgivning til danske virksomheder.