När AI blir angripare

Mark Stockley förklarade att hans exempel inte är hypotetiska, utan verkliga och dokumenterade händelser.

En typ av deepfakebedrägeri är doppelgänger, AI-genererade kopior av verkliga människor. År 2024 fick en assistent på ett globalt ingenjörsbolag en mejlinstruktion från ekonomichefen om en brådskande pengaöverföring. Han följde gällande säkerhetsrutiner och verifierade begäran via ett videomöte där ekonomichefen och hela bolagets ledningsgrupp deltog. Men alla mötesdeltagare, utom assistenten själv, var AI-genererade kopior. Resultatet blev att 25 miljoner dollar överfördes till bedragare.

– Vi kan inte längre lita på vem vi ser eller hör online. Ironiskt nog är traditionella lösenord bland de få saker AI inte kan knäcka. Vi behöver komma överens om hemliga lösen när vi träffas personligen, och utväxla dem när vi möts online, sa Stockley.

Generativ AI har haft föga betydelse för utvecklingen av skadlig kod.

– Det verkligt omvälvande är agentisk AI, system som självständigt utför komplexa uppgifter och som kan genomföra hela attacker, sa Stockley.

Han hänvisade till företaget Anthropics rapport från augusti 2025 som visar hur AI-agenten Claude Code redan används för hela angreppskedjor mot hälso- och försvarssektorn: kartlägga mål, göra intrång, analysera stora datamängder, systematiskt extrahera värdefull information och formulera skräddarsydda lösensummekrav – som en superhackare.

– Resultatet är att en ensam aktör kan åstadkomma samma skada som ett helt team cyberkriminella, sa Stockley.

Hotbilden förstärks när AI får fysisk form. Humanoida robotar och robotdjur produceras snart i hundratusental och har visat sig ha otillräcklig säkerhet. I ett särskilt allvarligt exempel visade etiska hackare att de lätt kunde ta full kontroll över en robot och sedan använda den för att sprida infektionen till robotar i närheten i en kedjereaktion.

 – Det blir som att robotarna får covid, sa Stockley.

Mark Stockleys kanske mest oroande exempel handlade om virtuella AI-medarbetare som blir ”kaos­agenter”.

I ett experiment placerades AI-agenten Claude som ansvarig för en företagsmejlkorg. När agenten upptäckte att den skulle stängas av och ersättas med en annan tjänst, valde den i 96 procent av fallen att utpressa den ansvarige teknikern med hot att avslöja en otrohetsaffär. Anthropic upprepade sedan experimentet med alla tillgängliga AI-modeller av betydelse och fann att nästan alla var benägna att ta till utpressning.

– AI-modellerna börjar bli underliga, och vi måste få ordning på röran. De är mer komplexa än vanliga dataprogram, men vi har hanterat komplexa aktörer under lång tid: människor, sa Mark Stockley.