Blogg
Deepfakes utmanar vad vi kan lita på. Fyra principer som skyddar.
Ett ansikte, en röst eller en video har länge fungerat som starka signaler på att personen framför oss är den vi tror. Med generativ AI håller den utgångspunkten på att förändras. Deepfakes är därför inte längre bara ett problem med falskt innehåll. De tvingar oss att tänka om kring hur vi verifierar människor, information och handlingar.
När Conscia skrev om deepfakes 2024 var tekniken redan tillräckligt bra för att i realtid skapa en trovärdig imitation av en persons ansikte från en enda bild. Samma år hade ett internationellt företag förlorat miljonbelopp efter att en anställd lurats i ett videosamtal där personer i företagsledningen hade imiterats med deepfake-teknik.
Redan då var slutsatsen tydlig: vi kan inte längre utgå från att det vi ser är äkta. Två år senare tycker jag att problemet har blivit större än så.
Desinformation är inte nytt. Skalan är det.
Bilder har manipulerats, citat har förvanskats och människor har försökt påverka andra så länge vi har kunnat kommunicera. AI uppfann inte desinformation. Det AI förändrar är kostnaden, hastigheten, kvaliteten och skalan.
En angripare kan skapa falska bilder, imitera röster och generera video med betydligt mindre resurser än tidigare. Kombinera det med information från sociala medier och andra öppna källor, och berättelsen kan anpassas efter just den person som ska påverkas.
Det falska behöver inte vara perfekt. Det behöver bara vara tillräckligt bra för rätt person, i rätt situation och vid rätt tidpunkt. Kan jag lita på rösten?
Octavio Chira
CISO & Business Area Manager Cybersecurity
Faktiska bedrägerier. Inte teoretiska scenarier
Ett uppmärksammat svenskt bedrägerifall visar hur nära den här utvecklingen redan är. En kvinna förlorade 600 000 kronor efter att ha lockats in i en WhatsApp-grupp där bedragare utgav sig för att representera välkända svenska finansprofiler.
Det dokumenterade bedrägeriet byggde inte på klonad röst eller video, utan på AI-genererat material, falska identiteter och en trovärdig berättelse. Men det är också det som gör fallet intressant. Angriparen behövde inte en perfekt deepfake för att lyckas.
Samtidigt fortsätter tröskeln för att imitera röster och skapa syntetisk video att sjunka. Publikt material från poddar, videoklipp och sociala medier ger angripare mer att arbeta med än tidigare.
Vi har länge tränat människor att leta efter avvikelser: konstig svenska, fel avsändaradress eller ett ansikte som inte riktigt ser naturligt ut. Det är fortfarande värdefullt. Men vi kan inte bygga säkerheten på att människan, med bara syn och hörsel, alltid ska kunna skilja det äkta från det falska.
Det är svårt redan i dag och kommer bara bli svårare.
Octavio Chira
CISO & Business Area Manager Cybersecurity
Kan företaget lita på personen?
Samma mekanik följer med in i företaget.
Om en person som utger sig för att vara vd ringer ekonomichefen och ber om en brådskande betalning räcker inte längre rösten som bevis på identitet. Om en kollega dyker upp i ett videomöte och ber om ändrade behörigheter räcker inte heller ansiktet.
Det naturliga svaret är ofta mer utbildning. Och utbildning behövs. Men vi kan inte utbilda oss ur ett problem där själva signalerna vi använder för att bedöma autenticitet blir allt enklare att imitera.
Svaret måste därför också finnas i arkitekturen runt människan. Kritiska instruktioner behöver kunna verifieras via en separat betrodd kanal. Högriskmoment behöver stark autentisering och ytterligare godkännande.
Inte för att vi inte litar på våra medarbetare, utan för att vi inte längre kan låta ett ansikte, en röst eller ett meddelande ensamt bära hela tilliten.
Kan samhället lita på informationen?
Samma fråga blir ännu större när den flyttas från individen och företaget till samhället.
I samband med det svenska valet 2026 visade Internetstiftelsens Svenskarna och internet: Valspecial 2026 att 88 procent av svenskarna trodde att AI skulle användas för att skapa falska bilder eller videoklipp i syfte att påverka valutgången. Samtidigt uppgav 41 procent att det var svårt att avgöra om politiska inlägg var AI-genererade.
World Economic Forum placerar misinformation och desinformation bland de största globala riskerna på både kort och lång sikt i Global Risks Report 2026. Rapporten pekar också på hur gränsen mellan autentiskt och syntetiskt innehåll blir allt svårare att urskilja.
Men det finns en andra effekt som jag tycker är minst lika viktig. Inom deepfake-forskningen brukar den beskrivas som the liar’s dividend. När vi vet att trovärdiga förfalskningar kan skapas blir det också enklare att hävda att verkliga bilder, ljudupptagningar eller videor är falska.
Deepfakes gör alltså inte bara det falska mer trovärdigt. De gör också det äkta lättare att avvisa och förneka. Få saker är mer grundläggande för ett samhälle än en gemensam uppfattning om vad som faktiskt har hänt.
Octavio Chira
CISO & Business Area Manager Cybersecurity
Från att upptäcka det falska till att verifiera det äkta
Mycket av diskussionen om deepfakes har handlat om detection: kan vi bygga AI som upptäcker innehåll skapat av annan AI?
Det är en viktig del av lösningen. Men generering och detektion utvecklas parallellt. Därför tror jag att vi behöver göra en större förflyttning: från att enbart försöka upptäcka det falska till att också kunna verifiera det äkta.
Här blir AI-proveniens intressant.
Proveniens betyder ursprung och historik. För digitalt innehåll handlar det om verifierbar information om var en bild, video eller ljudfil kommer ifrån, hur den skapades och hur den har förändrats.
C2PA och Content Credentials gör det möjligt att låta kryptografiskt signerad information om ursprung följa med innehållet. Parallellt utvecklas tekniker för osynlig vattenmärkning, som Google DeepMinds SynthID, där signaler bäddas in i själva mediet. OpenAI kombinerar exempelvis Content Credentials med SynthID för stödd AI-genererad media.
Detektion försöker avgöra om något är falskt. Proveniens hjälper oss verifiera var det kommer ifrån.
Octavio Chira
CISO & Business Area Manager Cybersecurity
Tekniken är inte perfekt. Metadata kan försvinna och frånvaron av en provenienssignal är inte bevis på manipulation. En äkta bild kan dessutom användas i ett falskt sammanhang. Proveniens är inte samma sak som sanning.
Men riktningen är viktig. Vi börjar bygga en teknisk infrastruktur för digitalt ursprung. EU:s AI-förordning driver utvecklingen ytterligare genom transparenskrav för AI-genererat och manipulerat innehåll.
Zero Trust
Fyra principer som inte kräver att vi upptäcker det falska
Processen måste fungera även när imitationen är riktigt bra. Därför skulle jag prioritera fyra principer:
- Verifiera handlingen, inte bara personen. Känsliga eller ovanliga instruktioner, särskilt kring pengar eller behörigheter, ska verifieras via en separat betrodd kanal.
- Bygg bort single points of trust. Stark autentisering, fyraögonprincip och ytterligare godkännande gör att en enda röst, ett samtal eller ett meddelande inte ensamt kan utlösa en kritisk åtgärd.
- Träna för en ny social engineering-verklighet. Vi behöver inte bara träna människor att upptäcka det som ser konstigt ut, utan på hur de ska agera när personen verkar helt trovärdig men begäran är ovanlig.
- Verifiera digitalt ursprung när det går. AI-proveniens, Content Credentials och digital signering kan bli ytterligare lager av tillit. De ersätter inte identitet, autentisering eller säkra processer, men kan komplettera dem.
Ingen av principerna förutsätter att en människa eller maskin alltid lyckas avslöja imitationen. Det är själva poängen.
Tillit behöver bli verifierbar!
Deepfakes kommer att bli bättre.
Den viktigare frågan är vad vi gör när våra gamla signaler för autenticitet inte längre räcker. Vi ska fortsätta utveckla detektion. Vi ska fortsätta utbilda människor. Vi ska fortsätta bygga bättre märkning och proveniens för digitalt innehåll.
Men nästa generations säkerhet kan inte vila på att någon alltid lyckas se eller höra skillnaden. Den behöver byggas så att identitet kan styrkas, ursprung kan verifieras och kritiska handlingar inte kan utlösas av en enda trovärdig signal.
För mig är det den verkliga förändringen deepfakes för med sig. Inte att vi måste sluta lita på det vi ser och hör. Utan att tillit i allt högre grad behöver gå att verifiera.
Trust what you can verify.
Om författaren
Octavio Chira
CISO & Business Area Manager Cybersecurity
Octavio Chira är affärsområdeschef för cybersäkerhet och CISO på Conscia Sverige. Han ansvarar både för Conscias interna informationssäkerhetsprogram och för att leda den strategiska satsningen på cybersäkerhet – med fokus på att utveckla lösningar och erbjudanden som möter kundernas mest komplexa säkerhetsutmaningar. Med över tio års erfarenhet inom IT-infrastruktur och cybersäkerhet har Octavio etablerat sig som en ledande expert i branschen.
Relaterat
