Blogg
AI-sikkerhet i tre steg. 1: Discover
AI er allerede en del av hverdagen i de fleste organisasjoner, ofte uten at IT- eller sikkerhetsteamene vet hvor, hvordan eller til hva AI faktisk brukes. Før du kan vurdere risiko eller beskytte data, trenger du innsikt i faktisk AI‑bruk. Det er dette første steget som legger grunnlaget for alle videre beslutninger.
AI har allerede funnet veien inn i de fleste organisasjoner. Ikke gjennom store strategiske beslutninger eller formelle programmer, men gjennom pragmatisk bruk. Medarbeidere bruker åpne AI‑tjenester til å skrive, analysere og strukturere informasjon. Utviklere bruker kodeassistenter. Analytikere kaller modeller via skybaserte API-er. Mye av dette skjer parallelt med etablerte IT‑ og sikkerhetsprosesser.
Det er her Shadow AI oppstår. Ikke som et brudd på policy, men som en konsekvens av at teknologien er blitt tilgjengelig.
I denne artikkelserien beskriver vi tre trinn som bygger på hverandre: Discover, Detect og Protect.
- Discover handler om å avdekke hvordan AI faktisk brukes i organisasjonen. Hvilke tjenester som tas i bruk, hvor interaksjonen skjer, og hvilken type informasjon som berøres. Uten dette fundamentet blir neste steg umulig.
- Detect handler om å identifisere og validere risikofylt bruk. Å skille mellom akseptabel bruk og avvik som krever tiltak.
- Protect handler om å innføre målrettet beskyttelse basert på reell bruk og faktiske risikoer, ikke antagelser. Det vi kaller guardrails.
For å kunne validere AI‑bruk og etablere effektiv beskyttelse, må du først ha et tydelig bilde av hvordan AI faktisk brukes. Denne artikkelen fokuserer på å skape nettopp den innsikten: grunnlaget for både risikovurdering og fremtidige guardrails.
Innsikt direkte i brukerens nettleser
En stor del av dagens AI‑bruk skjer der det daglige arbeidet foregår: i nettleseren. Generative AI‑tjenester og AI‑funksjoner i skybaserte verktøy nås direkte via web, ofte uten installasjon eller lokal sporing.
Å skape innsikt her handler om å forstå AI‑bruk i sanntid, i det øyeblikket interaksjonen skjer. Det gjør det mulig å se:
- hvilken bruker som interagerer med hvilken AI‑tjeneste
- hvilken type aktivitet som utføres
- i hvilken kontekst bruken skjer
Når innsikten finnes på dette nivået, trenger ikke trafikken først krypteres og deretter gjenskapes i ettertid for analyse. Innsikten oppstår før kryptering, noe som gir høyere presisjon, færre personvernutfordringer og mindre påvirkning på brukeropplevelsen enn ren nettverksbasert analyse.
Dette er en svært effektiv måte å forstå menneskelig AI‑bruk på, særlig for offentlige webbtjenester og SaaS‑verktøy.
Nettleseren – et ofte oversett angrepspun(…)
Når nettleseren ikke gir innsikt
Innsikt via nettleseren er imidlertid ikke alltid mulig eller tilstrekkelig. AI brukes også i sammenhenger uten noen form for interaksjon via en kontrollert nettleser. Det kan være:
- AI‑anrop via API‑er i utviklingsmiljøer
- automatisert arbeidsflyt og system‑til‑system‑kommunikasjon
- AI‑agenter som kjører prosesser uten menneskelig “frontend”
Da må innsikt skapes gjennom mer generelle tekniske mekanismer som kan se trafikken uansett hvor den oppstår. Det handler om:
- identifisering av AI‑relaterte trafikkmønstre via DNS og applikasjonsklassifisering
- styring og analyse av trafikk gjennom web‑gateways (SWG)
- selektiv dekryptering av kryptert trafikk når det er nødvendig for å forstå innhold, promter eller API‑anrop
Dekryptering brukes her ikke for å se all trafikk, men for å forstå spesifikke interaksjoner der konteksten ellers mangler. Dette er en bredere, mer generell form for innsikt – men helt nødvendig når bruken ikke kan kontrolleres direkte i nettleseren.
AI‑agenter som handler på egen hånd
Innsikt må også dekke scenarier der det ikke er en menneskelig bruker som initierer AI‑anrop, men der systemene selv agerer. Det kan være:
- AI‑agenter som automatiserer beslutningsprosesser
- maskiner og tjenester som kommuniserer med eksterne modeller
- bakgrunnsprosesser som trigger AI‑behandling
Her må mekanismene for innsikt kunne følge kommunikasjonen uavhengig av identitet, plassering eller transportlag. Det betyr at sikkerhetsfunksjoner må finnes både nær brukeren og sentralt i nettverket der systemene kommuniserer.
Fra innsikt til faktabaserte beslutninger
Å skape innsikt i AI‑bruk er ikke løsningen på én enkelt utfordring. Det er forutsetningen for alt som kommer etter. Når organisasjonen vet hvordan AI brukes, flyttes diskusjonen fra antakelser til fakta. Da kan du:
- identifisere reell risiko
- avgjøre hvilke tilfeller som trenger styring
- forstå hvilke typer data som eksponeres
- prioritere hvilken beskyttelse som skal innføres
For at denne innsikten skal være nyttig over tid, må den også kunne følges opp. Gjennom logging av AI‑relaterte interaksjoner skapes synlighet, kontroll og sporbarhet – både for løpende analyse, ved hendelser og ved revisjon i etterkant.
Uten et tydelig bilde av virkeligheten blir risikohåndtering enten for grovmasket eller i verste fall helt tannløs. Først når innsikten finnes, både i øyeblikket og over tid, kan virksomheten gå videre til å vurdere risiko på en meningsfull måte – og deretter etablere målrettede beskyttelser.
Når dette fundamentet er på plass, blir neste spørsmål uunngåelig: Når går legitim AI‑bruk over til faktisk risiko? Det er der neste steg begynner.
Om forfatteren
Octavio Harén
CISO & Business Area Manager Cybersecurity, Conscia Sverige
Octavio Harén er CISO i Conscia Sverige og leder for forretningsområdet cybersikkerhet. Han har over ti års erfaring innen IT‑infrastruktur og cybersikkerhet, med en unik kombinasjon av dyp teknisk ekspertise og strategisk sikkerhetsforståelse. Som CCIE Security og CISSP har han bistått både offentlige og private organisasjoner med å styrke digital motstandskraft. Han kombinerer teknisk innsikt med forretningsforståelse for å hjelpe kunder å skape trygg innovasjon i en tid preget av AI og nye trusselbilde.
Relatert
