Blog

Når AI bliver en ny angrebsflade: 3 mønstre it-arkitekten ser gentage sig 

Hvordan arbejder de mest AI-modne virksomheder, og hvorfor bliver AI samtidig en ny angrebsflade? Her får du IT-arkitekternes perspektiv på begge dele. Med konkrete use cases og de mønstre, de ser gentage sig i praksis.

AI er allerede blevet en del af din virksomheds hverdag: medarbejdere bruger AI til at skrive, opsummere, analysere, søge og automatisere. Nogle gange i godkendte værktøjer. Andre gange i løsninger, virksomheden ikke har fuldt overblik over.

For de fleste virksomheder starter det med effektivisering: Hvordan sparer vi tid? Hvordan øger vi produktiviteten? Hvordan gør vi medarbejdere og processer mere effektive?

Men i praksis opstår der en anden fortælling ved siden af: AI bliver en ny angrebsflade.

AI bliver koblet til dokumenter, data, systemer, plugins og workflows, som allerede er en del af virksomhedens daglige arbejde. Det gør risikoen sværere at få øje på. For aktiviteten ligner ofte normal brug. Det er legitime medarbejdere, legitime værktøjer og legitime processer. Men AI kan ændre, udvide eller forstærke virksomhedens eksponering.

På baggrund af input fra it-arkitekterne Anders Pedersen og Fadi Dasus ser vi tre gennemgående mønstre på tværs af virksomheder.

1. Use case: Prompten bliver en bagdør

En medarbejder bruger en AI-assistent til at opsummere dokumenter før et møde. Det kan være en leverandøraftale, en teknisk rapport, et kundedokument eller et internt notat. 

Opgaven virker harmløs. AI’en skal blot læse materialet og give et kort overblik. 

Men ét af dokumenterne indeholder skjulte instruktioner. Tekst, som brugeren ikke nødvendigvis ser, men som AI-modellen læser som en del af konteksten. Instruktionen kan bede AI’en om at ignorere tidligere retningslinjer, ændre konklusionen, fremhæve bestemte oplysninger eller videregive information på en måde, brugeren ikke har bedt om. 

For medarbejderen ligner outputtet stadig en almindelig opsummering. Men AI’en har ikke kun behandlet dokumentet som indhold. Den har også behandlet det som instruktion. Det er her, prompten bliver en bagdør. AI-modeller kan have svært ved at skelne mellem legitim brugerintention og manipuleret kontekst. Når en model får input fra e-mails, dokumenter, websider eller eksterne kilder, kan skjulte instruktioner derfor påvirke dens svar eller handlinger. 

Risikoen er, at angrebet ikke ligner et angreb. Ingen har nødvendigvis kompromitteret en konto. Ingen har installeret malware. Ingen har brudt gennem en firewall. AI’en har blot læst noget, den ikke burde have stolet på. 

Konsekvensen kan være, at: 

• Handlinger initieres uden, at en bruger reelt har bedt om det. 
• Data lækkes gennem workflows, der ser legitime ud. 
• Manipulationen bliver svær at opdage, fordi den sker inde i AI’ens normale arbejdsproces. 

Typisk symptom: 

AI’en gør noget, ingen forventede. Ikke fordi brugeren instruerede den til det, men fordi instruktionen kom fra det materiale, AI’en læste.

2. Use case: Overprivilegerede AI-konti får handlekraft

Forestil dig en AI-agent, der får rettigheder til interne systemer for at automatisere opgaver i en support-, IT- eller compliance-proces. Den kan oprette sager, opdatere dokumenter, sende beskeder, hente data eller automatisere dele af en forretningsproces. 

På papiret giver det god mening. Det er netop her, effektiviseringspotentialet bliver tydeligt. Her handler risikoen om, hvad AI’en kan gøre, når den først har fået rettigheder. 

Over tid får AI-agenten ofte bredere rettigheder til at udføre handlinger på tværs af systemer og workflows. 

Så længe alt fungerer som forventet, skaber det værdi. Men hvis AI’en fejlfortolker en instruktion, reagerer på manipuleret input eller får tildelt rettigheder til mere, end den burde, kan den udføre handlinger med langt større konsekvens end tiltænkt. Den kan oprette, ændre, eskalere, dele eller slette i et tempo, som ikke ligner menneskelig adfærd. Og fordi aktiviteten kommer fra en godkendt integration eller maskinkonto, kan den være svær at skelne fra legitim brug. 

Det er her, overprivilegerede AI-konti bliver en reel risiko. Ikke fordi AI nødvendigvis er ondsindet, men fordi den kan handle hurtigt, bredt og uden den situationsfornemmelse og dømmekraft, et menneske normalt bringer i spil. 

Konsekvensen kan være, at: 

• Handlinger udføres med maskinhastighed og uden menneskelig validering. 
• AI-konti kan udføre flere og mere indgribende handlinger end nødvendigt 
• Problemer opdages sent, fordi aktiviteten ligner normal systembrug. 

Typisk symptom: 
En maskinkonto udfører aktiviteter, der ikke ligner menneskelig adfærd. For eksempel i omfang, timing, adgangsbredde eller gentagelsesmønster.

3. Use case: AI-økosystemet som en skjult supply chain

Det er integrationerne, der gør AI anvendelig i hverdagen. AI-løsninger bliver koblet til plugins, modeller, API’er, datakilder, SaaS-platforme og eksterne services. Men det er også integrationerne, der kan gøre risikoen uklar Her handler risikoen om hvad AI’en er koblet til, og hvem der har overblik over det. 

Forestil dig, at en afdeling tager et plugin i brug for at udvide en AI-assistents funktionalitet. Pluginet gør det muligt at tilgå kalenderdata, finde filer, hente information fra interne systemer eller koble AI’en til et eksternt workflow. 

Brugerne oplever det som en forbedring AI’en bliver mere relevant, mere kontekstbevidst og mere effektiv. Men hvem har vurderet plugin’et? Hvor kommer det fra? Hvilke data får pluginnet adgang til? Og hvem har vurderet om det er acceptabelt?  

Her bliver AI-økosystemet en skjult supply chain, hvor risiko introduceres gennem komponenter, virksomheden ikke selv har valgt eller vurderet. 

Virksomheden får ikke kun risiko fra den AI-løsning, man bevidst har valgt. Risikoen kan også komme fra de komponenter, den er koblet til. Tredjepartsmodeller, plugins, udvidelser og integrationer kan introducere afhængigheder, som ikke er vurderet med samme grundighed som andre forretningskritiske systemer. 

Det betyder, at risiko kan flytte sig uden for virksomhedens direkte kontrolområde. Og når noget går galt, bliver hændelsen sværere at forklare. 

For at kunne reagere effektivt skal virksomheden kunne svare på nogle basale spørgsmål: 

• Hvilket værktøj gjorde hvad? 
• Med hvilken adgang? 
• På hvilket datagrundlag? 
• Via hvilken integration? 
• Og hvem har godkendt og accepteret den komponent? 

Hvis svarene er uklare, er det ikke kun et teknisk problem, men et governance-problem. 

Konsekvensen kan være, at: 

• Ukendte afhængigheder får adgang til interne systemer. 
• Manglende sporbarhed gør hændelser svære at undersøge. 
• Risiko flyttes ud i komponenter og leverandører, som virksomheden ikke har tilstrækkelig indsigt i eller kontrol over 

Typisk symptom: 

Noget kører i systemerne, som ingen helt kan forklare eller spore tilbage til en tydelig oprindelse. 

Fællesnævneren for AI-modne virksomheder

De virksomheder, der arbejder mest modent med AI, har ofte én fælles præmis: 

De stoler ikke på AI pr. default. 

Det betyder ikke, at de afviser AI. Tværtimod. Det betyder, at de tager teknologien alvorligt nok til at designe brugen af den med realistiske antagelser om fejl, læk, misforståelser og manipulation. De teams, der lykkes, er dem, der har gjort den sikre løsning til det nemme valg. 

Den tilgang bunder i tre grundlæggende erkendelser, som virksomheden har gjort sig: 

• For det første kan man ikke altid stole på, at interaktionen med AI er privat. Prompts, data og kontekst kan ende steder, virksomheden ikke har tilstrækkelig kontrol over. 
• For det andet har man ikke altid fuld synlighed over, hvad der deles med AI, hvordan det anvendes, og hvilke integrationer der behandler det videre. 
• For det tredje kan man ikke antage, at AI’s output er korrekt, komplet eller tilstrækkeligt kontekstforstået til at blive handlet på direkte. 

Derfor arbejder modne virksomheder med få, enkle, men vigtige principper. 
Det første, de får på plads, er visibilitet. De ved, hvilke AI‑værktøjer der bliver brugt i organisationen, og de har en klar forståelse af, hvilke data der bliver sendt til dem. 

Uden det overblik er det svært at sætte meningsfulde rammer eller kontroller. Man kan ikke beskytte det, man ikke kan se. 

1. De skaber overblik og sætter klare rammer for brugen af AI

Governance starter med overblik:

• Hvilke AI-værktøjer bruges i organisationen? 
• Hvilke typer data bliver delt med dem? 
• Hvilke AI-løsninger er godkendt til hvilke formål? 
• Hvornår må AI bruges til inspiration, analyse eller beslutningsstøtte? 
• Og hvornår må den ikke? 

Når rammerne er uklare, bliver ansvaret skubbet ud til den enkelte medarbejder. Det skaber både usikkerhed og variation i praksis. Klare governance-principper gør det lettere at bruge AI sikkert, fordi medarbejderne ikke selv skal vurdere risikoen fra gang til gang. 

2. De begrænser AI’s adgang

Når overblikket er på plads, bliver næste skridt at begrænse, hvad AI faktisk kan gøre.  

For AI bør ikke have større rettigheder end nødvendigt. 

Det gælder data, systemer, kontekst og handlinger. Særligt med agentic AI bliver dette centralt, fordi AI i stigende grad ikke kun genererer svar, men også kan tilgå systemer og handle på egne forslag. 

Modne virksomheder arbejder derfor med begrænset og midlertidige rettigheder. AI får kun rettighed til det, der er nødvendigt for opgaven, og kun så længe det er nødvendigt. 

Det reducerer konsekvensen, hvis AI’en fejlfortolker en instruktion, bliver påvirket af manipuleret input eller bruges på en måde, der ikke var tiltænkt. 

3. De indfører kontrolpunkter før handling

Selv med overblik og begrænset adgang kan AI stadig foreslå eller igangsætte handlinger. Derfor bør AI-output ikke automatisk blive til beslutninger eller handlinger. 

Det gælder især, når AI bruges i processer med adgang til data, kunder, økonomi, compliance, drift eller sikkerhed. 

Der bør være kontrolpunkter, før AI-initierede anbefalinger bliver omsat til beslutninger eller eksekvering. Det kan være manuel godkendelse, tekniske guardrails eller workflows, hvor AI kan foreslå, men ikke handle uden validering. 

Pointen er ikke at bremse AI, men at tilbyde brugbare og godkendte løsninger, så medarbejderne ikke behøver at gå uden om sikkerheden.  Sikr dig at virksomheden forstår, kan kontrollere og kan begrænse det, AI sætter i gang. 

Fra effektivisering til kontrolleret anvendelse

De tre principper viser, hvorfor AI-sikkerhed ikke kan reduceres til et spørgsmål om valg af tools. I stedet handler det om, hvad AI får lov til at læse. Hvad AI får adgang til. Hvilke handlinger AI må udføre. Og hvilke tredjepartskomponenter AI bliver koblet sammen med. 

Før AI bliver for dybt integreret i forretningen, bør virksomheder stille disse spørgsmål: 

• Hvilket input stoler vi på? 
• Hvilken adgang giver vi AI? 
• Hvilke handlinger må AI aldrig kunne udføre uden kontrol? 

Svarene på de spørgsmål er medvirkende til, om AI forbliver et effektiviseringsværktøj, eller udvikler sig til en angrebsflade, virksomheden først opdager, når konsekvensen allerede er opstået.

Få AI-nyheder i din indboks

AI udvikler sig hurtigt. Følger din sikkerhed med?

Vi har skabt AI-vidensserien, så du kan skærpe din AI-viden, og forstå hvordan AI kan bruges ansvarligt og strategisk gennem artikler, webinarer og konkrete indsigter fra Conscia direkte til din indboks.

Tilmeld dig AI-vidensserien

Om forfatteren