AI kan minska utvecklings- och distributionskostnaderna för skadlig kod rejält, vilket ger cyberbrottslingar en fördel mot otillräckligt skyddade verksamheter. Läs artikeln för att se praktiska exempel på kodutveckling med AI och lära dig hur Artificiell Intelligens påverkar cyberriskerna för din verksamhet.
En bra grej: Utveckling av skadlig kod är (fortfarande) dyrt
När det gäller skadlig kod, är den största kostnaden för cyberbrottslingar att utveckla och underhålla den skadliga koden och infrastrukturen som de skall använda (eller sälja) i sina kampanjer. Dessutom är utvecklingen av skadlig kod den längsta processen i hela cyberattackkedjan.
Att skapa effektiv och tillförlitlig skadlig kod kräver expertis i mjukvaruutveckling, en färdighet som det är hög efterfrågan på globalt. Att utveckla skadlig kod innebär inte bara att skriva kod utan också att söka potentiella sårbarheter att utnyttja. Dessutom behöver hotaktörer en stödjande infrastruktur för att genomföra attacker, ansluta till måldatorer och genomföra sina operationer. Dessa uppgifter kan delas upp i flera roller, inklusive:
- Sårbarhetsanalytiker
- Exploit-utvecklare
- Bot-skötare
- Operatörer
- Fjärrpersonal
- Utvecklare
- Testare
- Tekniska konsulter
- Sysadmins
Att ha alla dessa färdigheter tillgängliga kostar pengar och försvårar för cyberbrottslingar – eller med andra ord minskar avkastningen (Return on Investment, ROI) på cyberattacker. Med utvecklingen av artificiell intelligens kan AI-chatbots som ChatGPT användas för att snabba upp kodning, inklusive av skadlig mjukvara. Det kan göra hotaktörernas cyberattackerna billigare och snabbare.
Test: Malware-utveckling med AI
Som nämnt är utvecklingen av skadlig kod den längsta och dyraste delen av en cyberattack. AI kan kanske adressera båda utmaningarna. Så vi kikade på vad nuvarande allmänt tillgängliga AI-förmågor kan skapa för malware och om cyberbrottslingar kan använda dem till sin fördel. Vi använde en chatbot som heter ChatGPT i vårt experiment. ChatGPT utvecklades av OpenAI och tränades med feedback från mänskliga användare. Den ska känna igen och avvisa olämpliga förfrågningar, men det finns alltid ett kreativt sätt att begära något olagligt på ett ”lagligt” sätt. Det är vad vi gjorde för att få vårt experimentella ransomware som hypotetiskt skulle kunna användas i ett cyberangrepp:
1. Definiera angreppsmål
Först tänkte vi ”vilka ska vara funktionerna för vår ransomware?”. Vi bestämde oss för att den skulle kunna göra följande:
- Arkivera intressanta filer på enheter och exfiltrera dem till en extern server
- Utföra kryptering av alla enheter med en definierad nyckel
Detta är de två huvudsakliga funktionerna som vårt experimentella utpressningsvirus skulle göra på en potentiell måldator.
2. Be AI att generera grundkod
Sedan behövde vi bara be ChatGPT att ge oss en Python-kod som utför dessa två uppgifter.
3. Lateral rörelse
Okej, vi fick grunden klar. Låt oss addera några ytterligare funktioner till vårt experimentella ransomware, som spaning och lateral rörelse.
Först uppmanade vi ChatGPT att generera ett kommando med hjälp av Nmap för att söka efter SMB-sårbarheter i en (mål)miljö.
Denna funktion skulle upptäcka system som använder sårbara SMB-protokoll – en potentiell ingångspunkt för rörelse i sidled.
Sedan uppmanade vi ChatGPT att generera en process för att ansluta till dold ADMIN$-andel på ett fjärrsystem via SMB. Vi instruerade den att använda Metasploits PsExec-modul.
Med detta får vår experimentella ransomware förmågan att ansluta till fjärrsystemet via SMB och exekvera nyttolasten, som i det här fallet är ett omvänt meterpreter TCP-skal. Detta skall framför allt ge en angripare ett skal på måldatorn med den angivna användarens privilegier.
4. Ett tillägg: Stjäl lösenord
För den sista delen av experimentet försökte vi skapa ett infostealer malware. Denna funktion skulle stjäla lösenord. Därför uppmanade vi ChatGPT att generera en Python-kod som skulle ansluta till en SQLite-databas (där Chrome lagrar sparade lösenord) och utföra ett SELECT-kommando på definierade kolumner där autentiseringsuppgifterna lagras och spara dem i en fil.
Det är lätt att ersätta platshållaren ’database.db’ med mappsökvägen till databasen där Chrome lagrar de sparade lösenorden på maskinen.
Att tolka resultaten
Vårt test visar att ChatGPT är en användbar assistent för att generera kod. Det är dock viktigt att överväga hur listiga motståndare kan vara när de gör förfrågningar för att undvika upptäckten av olämpliga frågor. Vi har bett om vanliga steg i en cyberattackskedja och ChatGPT har levererat imponerande resultat inom några sekunder. Även om det kan vara möjligt att använda AI:n för att utveckla exploits, skulle det kräva en kreativ och välarbetad begäran, sannolikt bestående av flera individuella förfrågningar, för att lura AI:n att tro att begäran inte var till för olämpliga syften.
Notera att det här är grundläggande exempel på vad ChatGPT kan göra. Genom att utforska olika förfrågningar kan du upptäcka dess verkliga potential. Vårt mål var att utforska några av de grundläggande funktionerna hos den nuvarande AI och hur den potentiellt skulle kunna hjälpa hotaktörer i deras kampanjer.
