Blog

AI-sikkerhed i 3 trin – 1. Discover

AI-anvendelse breder sig i organisationer hurtigere, end de fleste når at reagere – drevet af medarbejdernes nysgerrighed og behov for effektivitet. Når brugen sker i det stille, opstår en ny udfordring: Hvordan beskytter man noget, man ikke kan se? For at håndtere risici ved AI kræver det først indsigt i, hvordan teknologien faktisk anvendes.

Beskyttelse af AI begynder med overblik

AI har allerede fundet vej ind i de fleste organisationer. Ikke gennem store strategiske programmer, men gennem pragmatisk anvendelse i hverdagen.

Medarbejdere bruger offentlige AI-tjenester til at skrive, analysere og strukturere information. Udviklere anvender kodeassistenter. Analytikere kalder modeller via cloud-baserede API’er. Meget af dette sker parallelt med etablerede IT- og sikkerhedsprocesser.

Det er her, Shadow AI opstår. Ikke som et bevidst brud på politikker – men som en konsekvens af, at teknologien er let tilgængelig.

I denne artikelserie beskriver vi tre trin, der bygger oven på hinanden: Discover, Detect og Protect.

• Discover handler om at afdække, hvordan AI faktisk anvendes i organisationen – hvilke tjenester der bruges, hvor interaktionerne sker, og hvilken type data der berøres. Uden dette fundament er næste skridt umuligt.
• Detect handler om at identificere og validere risikofyldt anvendelse – og skelne mellem acceptabel brug og afvigelser, der kræver handling.
• Protect handler om at implementere målrettede sikkerhedsforanstaltninger baseret på reel anvendelse og konkrete risici – frem for antagelser. Det kalder vi AI Guardrails.

For at kunne validere AI-anvendelse og indføre effektive beskyttelsestiltag kræves først et klart billede af, hvordan AI faktisk bruges. Denne artikel fokuserer på at skabe netop den indsigt – som danner grundlag for både risikovurdering og fremtidige guardrails.

Indsigt direkte i brugerens webbrowser

En stor del af den daglige AI-anvendelse sker dér, hvor arbejdet udføres – i webbrowseren. Generative AI-tjenester og AI-funktioner i cloudbaserede værktøjer tilgås typisk via webgrænseflader uden installation eller lokal registrering.

At skabe indsigt handler derfor om at forstå AI-anvendelse i realtid – i det øjeblik interaktionen finder sted.

Det gør det muligt at se:

• hvilke brugere der interagerer med hvilke AI-tjenester
• hvilken type aktivitet der udføres
• i hvilken kontekst anvendelsen sker

Når indsigt etableres på dette niveau, behøver trafikken ikke først at blive dekrypteret og rekonstrueret efterfølgende til analyse. Indsigten skabes før kryptering – hvilket giver højere præcision, færre integritetsudfordringer og mindre påvirkning af brugeroplevelsen sammenlignet med traditionel netværksbaseret analyse.

Det er en effektiv metode til at opnå forståelse for menneskestyret AI-anvendelse – særligt i offentlige webtjenester og SaaS-miljøer.

Når webbrowseren ikke giver hele billedet

Indsigt via browseren er ikke altid tilstrækkelig alene.

AI anvendes også i sammenhænge, hvor der ikke er en direkte brugerinteraktion via en kontrolleret browser. Det kan fx være:

• API-kald i udviklingsmiljøer
• Automatiserede fil- og systemintegrationer
• AI-agenter, der kører processer uden menneskelig “frontend”

Her skal indsigt skabes via mere generelle tekniske mekanismer, der kan overvåge trafikken uanset, hvor den opstår.

Her skal indsigt skabes via mere generelle tekniske mekanismer, der kan overvåge trafikken uanset, hvor den opstår.
Det kan omfatte:

• Identifikation af AI-relaterede trafikmønstre via DNS og applikationsklassificering
• Styring og analyse af trafik gennem secure web gateways (SWG)
• Selektiv dekryptering af krypteret trafik, når det er nødvendigt for at forstå indhold, prompts eller API-kald

Dekryptering skal ikke bruges som et generelt overvågningsværktøj, men som et målrettet middel til at forstå specifikke interaktioner, som ellers ikke kan analyseres. Det er en bredere form for indsigt – men afgørende, når AI-anvendelsen ikke kan styres direkte i browseren.

AI-agenter, der handler selvstændigt

Indsigt skal også dække scenarier, hvor det ikke er en medarbejder, der initierer AI-anvendelsen – men systemer, der handler selv. Det kan fx være:

• AI-agenter, der automatiserer beslutningsprocesser
• systemer og tjenester, der kommunikerer med eksterne modeller
• baggrundsprocesser, der trigger AI-baseret behandling

Her skal mekanismerne, der skaber indsigt, kunne følge kommunikationen uanset identitet, placering eller transportlag. Det betyder, at sikkerhedsfunktioner skal være til stede tæt på brugeren – og centralt i netværket dér, hvor systemer kommunikerer.

Fra antagelser til faktabaserede beslutninger

At skabe indsigt i AI-anvendelse er ikke i sig selv en løsning – det er forudsætningen for alt det, der følger. Når organisationen ved, hvordan AI faktisk anvendes, flyttes diskussionen fra antagelser til fakta. Det gør det muligt at:

• identificere reelle risici
• vurdere hvilke use cases der kræver styring
• forstå hvilke typer data der eksponeres
• prioritere de rette sikkerhedsforanstaltninger

For at denne indsigt skal være anvendelig over tid, skal den kunne følges op. Ved at logge AI-relaterede interaktioner skabes synlighed, kontrol og sporbarhed – både til løbende analyse, incident response og efterfølgende revision.

Uden et klart billede af virkeligheden bliver risikohåndtering enten for generel – eller i værste fald ineffektiv. Først når indsigt er på plads, kan organisationen vurdere risici meningsfuldt og implementere målrettede sikkerhedsforanstaltninger.

Når dette fundament er etableret, opstår det næste spørgsmål naturligt:

Hvornår bevæger legitim AI-anvendelse sig fra acceptabel brug til reel risiko?
Det er her næste trin begynder – Detection.

Om forfatteren