Skydd mot AI-manipulation handlar om mänskliga beteenden.

Vi möts dagligen, ibland utan att veta det, av AI-genererat innehåll i texter, bilder videor och kloner av personer. Ofta så välgjorda att det är svårt att skilja på verklighet och AI. Både kreativiteten och produktiviteten flödar. Vilket är bra! Vi vet att AI mer och mer kommer kunna hjälpa oss både på jobbet och privat, och samtidigt hitta nya sätt att använda tekniken på.

Tyvärr finns det även risker med AI när tekniken används till AI-manipulation av kriminella. Idag kan de använda AI bland annat för att analysera information och kartlägga verksamheter och anställda för att lyckas med sina bedrägerier. Genom att låta AI ta del av bland annat mejl, inlägg i sociala medier och intervjuer i poddar kan kriminella imitera någon, vinna förtroende och på så vis lura oss.

Frågan är hur vi ska skydda oss mot något som känns helt trovärdiga, som hyperrealistiska Deepfakes i form av AI-röster och videor?  

Vi tror att det bästa sättet att bygga upp skyddet mot AI-manipulation är genom att höja medvetenheten hos alla som jobbar i en organisation. Cybersäkerhet, AI-driven eller inte, har aldrig varit någon IT-fråga och ingen organisation är starkare än sin svagaste länk. Vi måste helt enkelt börja möta high tech med mer low tech, och stärka våra mänskliga säkerhetsbeteenden.  

I grunden handlar det här om att

• lära oss mer om AI och hur AI-manipulation kan gå till i flera steg  

• använda goda vanor och beteenden för att minska vår sårbarhet.  

Ett första generellt kunskapslyft om AI är enkelt, men AI är ett ämne som kräver ständig uppdatering. Det svåra är att förändra våra inarbetade beteendemönster.  

För oavsett om social manipulation är skapad av AI eller inte tar den fasta på våra kanske mest mänskliga (och positiva) beteenden och egenskaper: att vara en god kollega, att vilja hjälpa till, att lösa saker snabbt och att bli sedd.  

När vi får ett phishing-mejl så är vår första impuls att agera på direkten. Det vi behöver bli bättre på är att reflektera. Att stanna upp, tänka efter, fråga någon och sedan reagera på något som avviker.  

Det här behöver vi träna på. Året runt.  

Junglemap och Walma AI har tagit fram en kurs som riktar sig till både små och stora verksamheter. Syftet är att höja kunskapsgolvet, öka medvetenheten och hålla i vaksamheten.  

AI-utvecklingen går snabbt. En ”föreläsning om AI” hösten 2025 kommer inte täcka ens behov av förståelse under 2026. Därför pågår vår kurs regelbundet och över längre tid. Med små korta påminnelser om att ”alltid ha AI i åtanke” i vardagen.  

Det är så vi både ökar skyddet mot AI manipulation och samtidigt blir bättre och säkrare användare av AI-verktyg – något som svenska företag behöver för att fortsätta utvecklas.  

‍

En kortare version av det här blogginlägget har tidigare publicerats som krönika i Techtidningen tillsammans med William Friman, COO och medgrundare av Walma AI.