Säkerhetspolisen 2023/24
Nya arenor i fokus
Nya hot och möjligheter genom AI
Artificiell intelligens (AI) har funnits som begrepp i över 70 år, men utvecklingen har skett i en exponentiell hastighet de senaste åren. Genom AI kan stora mängder data filtreras, sammanfattas och kvaliteten förbättras på kort tid. Samtidigt som AI skapar möjligheter för stora delar av samhället kan teknologin även användas av hotaktörer.
Aktörer som idag har en låg förmåga kan med relativt enkla medel höja den och utföra mer komplexa handlingar, exempelvis få tillgång till instruktioner, få hjälp med att utföra cyberangrepp och sprida desinformation.
Utvecklingen på AI-området innebär förändrade förutsättningar för såväl hotaktörer som säkerhetstjänster att bedriva verksamhet. AI kan förstärka förmågan att utföra komplexa uppgifter och skapa stora möjligheter för bland annat brottsförebyggande arbete. Genom AI kan stora mängder data hanteras och förutsättningar ges för en ökad effektivitet som även Säkerhetspolisen kan dra nytta av. Samtidigt är en konsekvens av utvecklingen på AI-området att hotaktörers förmåga inom flera olika områden ökar.
Från ett hotperspektiv kommer främmande makt att stå för den mest avancerade och sofistikerade användningen av AI-modeller. Men även andra aktörer har visat prov på användning av sådana verktyg. Genom AI sänks trösklarna och höjs lägstanivån ytterligare. Aktörer som idag har en låg förmåga kan med relativt enkla medel höja den och utföra mer komplexa handlingar, exempelvis få tillgång till instruktioner, få hjälp med att utföra cyberangrepp och sprida desinformation.
Förfinade förmågor och nya verktyg
Utöver en bred utveckling av redan existerande förmågor kan AI även innebära hot som förfalskade bilder, videor eller ljud, nyttjande av självkörande fordon och fientlig maskininlärning. AI-verktyg kan också användas för att förbättra och automatisera förmågan att utföra cyberangrepp. Användning av AI-verktyg för att producera och sprida innehåll i informationspåverkanssyfte är ett av de mest uppmärksammade och omskrivna sätten som hotaktörer kan nyttja AI på.
En kraftig ökning av social mediemanipulering, desinformation och allmänt icke-autentiskt material på digitala plattformar kan göra det svårt att säkerställa trovärdigheten i den information som ges. Det finns redan exempel på hur främmande makt och våldsbejakande extremister använder AI för att generera propaganda- och påverkansmaterial.
Denna typ av förmåga kan innebära ett hot mot enskilda beslutsfattares integritet och säkerhet, liksom ett bredare hot mot demokratin, i den mån allmänhetens förtroende för politiska företrädare och processer tar skada. Stater som Kina investerar stort i att utveckla AI-baserade förmågor. AI-system kan avsevärt förbättra och effektivisera förmågan till underrättelseanalys, och AI-förmågor som ansikts- och röstigenkänning bedöms kunna användas av främmande makts underrättelsetjänster i olika syften.
En faktor som potentiellt kan dämpa effekterna av AI ur ett hotperspektiv är olika typer av regleringar, som inbyggda säkerhetsmekanismer i öppet tillgängliga AI-verktyg och vattenmärkning av AI-genererat material. Däremot påverkas troligen inte de stater som har en egen förmåga att utveckla AI-modeller i lika hög grad av sådan reglering.