AI inom cybersäkerhet är hett. Men vad händer när de här lösningarna når marknaden? Varför är explainability – ”förklarbarhet” en nyckelterm och hur kommer artificiell intelligens att användas i cyberförsvaret? Säkerhetsexperten Bruce Schneier * bjöd på framtidsscenarier på årets RSA-konferens.
”Förklarbarhet”, explainability. Ett nytt nyckelbegrepp inom cybersäkerhet? Kanske inte helt nytt, men sannolikt ett koncept vi kommer att stifta närmare relation med i framtiden. Förklarbarhet är inte begränsad till cybersäkerhet, men det är här mycket av diskussionen sker nu.
AI vs. AI inom cybersäkerhet
Alla – inklusive tillverkare av cybersäkerhetslösningar – fokuserar på artificiell intelligens idag. Utan denna är det omöjligt att analysera de stora mängder data som krävs för att kunna stoppa en cyberattack.
Men vad händer när alla de här lösningarna når marknaden? AI kan både används till attack och till försvar…. vilket ger oss AI vs. AI…. och en diskussion om ”Kapacitet vs. ”Förklarbarhet”.
När är ”explainability” ett måste?
Om du använder artificiell intelligens för att hitta nya oljefält är du glad om det lyckas, men behöver nödvändigtvis inte oroa dig om du inte lyckas. Förklaringen till hur AI hittar olja är intressant, men inget krav. Om AI istället exempelvis används för att bestämma vilka fångar som ska benådas eller vilka unga som ska placeras i en viss studie är situationen en annan. Då är plötsligt insikt i beslutsgången ett krav.
Schneier berättade om en stor hälsostudie där en AI-lösning analyserat och ställt diagnos på 600 000 fall. När resultatet jämfördes med de faktiska diagnoserna stod artificiell intelligens för den mest exakta diagnosen. Så den kan absolut rädda liv.
Men vad händer när AI gör misstag? Det kommer också att hända. Här behövs kunskap om hur ett givet beslut har tagits. Här är ”explainability” eller ”förklarbarhet” avgörande. Men dagens lösningar kan (ännu) inte dokumentera beslutsprocessen.
Förklarbarhet och AI inom cybersäkerhet
Just nu investeras summor i AI inom cybersäkerhet. Vi vet att artificiell intelligens kommer att fälla avgöranden när mänskligheten ställs inför nya situationer. Det kan handla om en olycka som sker när en processanläggning drivs på felaktiga grunder eller att samma anläggning läggs ner utan anledning.
Att kunna förklara och förstå varför ett beslut har tagits är avgörande. Någon måste kunna ställas till svars när fel beslut fattas och vi måste lära av våra misstag för att förhindra att de händer igen, och så vidare. Det här är en stor utmaning när det handlar om AI-lösningar – men likväl ett nödvändigt krav.
Först sämre – sedan bättre cyberhygien
Vi kan ändå se ljust på framtiden. Tekniken kommer att lösa många viktiga utmaningar, men vi måste vara medvetna om fallgroparna.
Ett exempel är sårbarhet och programvara. Grundläggande cybersäkerhet, så kallad cyberhygien, är både extremt viktigt och extremt tidskrävande. Alla känner till den ständiga patchningen av tjänster och system där de flesta brukar ligga några versioner efter den senaste uppdateringen.
Det här området kommer först att bli sämre och sedan bättre med artificiell intelligens. Den kommer att användas som ett verktyg för att hitta sårbarheter och nya sätt att utnyttja funktioner som utvecklarna aldrig hade kunnat föreställa sig. De som använder den till attack kommer med andra ord att få nya möjligheter.
MEN så småningom kommer AI också kunna användas till försvar genom att vi kan eliminera sårbarheter i mjukvarulösningar.
AI tänker utanför boxen – men förklarbarhet är ett måste
Förespråkarna säger att det handlar om högre krav och att mata AI-lösningar med mer och bättre data. Men som Bruce betonade: vi kan aldrig specificera ALLT och vi kommer aldrig att kunna ge en en AI-lösning alla våra värden så de reagerar precis som vi. Dessa lösningar är bra på att tänka ”utanför boxen” eftersom de inte ens vet om att boxen existerar och kan leverera många oväntade lösningar, men förklarbarhet är ett måste.
Läs mer om RSA 2022 här och här.
Vill du veta mer om vad som händer inom cybersäkerhet idag?
*Note 1:
Bruce Schneier är en internationellt erkänd cybersäkerhetsexpert som The Economist kallar ”Cyber Guru”. Hans mycket lästa böcker om Cybersäkerhet (totalt 14) och bloggar finns här.
