Att upptäcka deepfakes är snart omöjligt – men det går att skydda sig ändå

Hur svårt ska det egentligen vara att känna igen en deepfake? Nästan omöjligt verkar det som. En studie från iProov pekar på ett ganska häpnadsväckande resultat: endast 0,1 % av deltagarna i studien lyckades korrekt identifiera vad som var falskt och vad som var äkta i de medier de exponerades för. Detta trots att de visste att de skulle utsättas för manipulerade bilder och klipp. I verkligheten, där vi troligtvis är ännu mindre vaksamma, är sårbarheten förmodligen ännu större.

Samtidigt är självförtroendet högt. Över 60 procent av deltagarna i studien trodde sig kunna identifiera deepfakes. Allra högst var övertron på den egna förmågan hos unga vuxna mellan 18 och 34 år. Det är en övertro som skapar en falsk känsla av trygghet – vilket är en risk i sig.  

Samma studie visar också att deepfake-videor är betydligt svårare att avslöja än fejkade bilder. Deltagarna var 36 % mindre träffsäkra när det kom till att säga vilka videor som var AI-manipulerade. Och med tanke på att allt som behövs för att skapa en trovärdig fejkad video är ett foto och ett kort ljudklipp, står vi därför inför ett reellt växande hot.  

Vad är egentligen deepfakes?

Deepfakes är väldigt realistiska videor, bilder eller ljudinspelningar som har manipulerats med hjälp av AI. Tekniken kan byta ut ansikten, manipulera ansiktsuttryck, skapa fejka hela ansikten och få en person att säga något hen aldrig har sagt. Tekniken går att använda till allt möjligt.

De deepfakes som används i cyberattacker är i grunden ingenting annat än vanlig social manipulation, social engineering, fast i ny skepnad. Målet är att trigga oss till att gå utanför våra vanliga beteenden. Ofta bygger det på rädsla och brådska (som ”Ditt konto kommer stängas av!”) vilket leder till snabba klick eller andra förhastade handlingar. Det här kombineras ofta med auktoritet där avsändare utger sig för att vara en chef eller myndighet – vilket också gör att den spontana reflexen blir att följa anvisningarna för att vara till lags. Här kan deepfakes av autktoritetspersoner vara extra effektivt eftersom det lägger en rejäl tyngd bakom förfrågan. Vi är inte heller lika vana att vara skeptiska mot röst- eller video som vi kanske ändå har blivit mot okända länkar i mejl eller sms.

Hur skyddar vi oss mot deepfakes?

Hur gör vi då för att öka motståndskraften mot social manipulation? Istället för att försöka bli mästare på att ”avslöja” fejkade videos finns tre saker som är betydligt viktigare att tänka på:  

• Hur ser rutinerna ut för intern och extern kommunikation – och hur ser vi till att alla känner till och följer dem?  
  Vilka kanaler används för vilken typ av information? Brukar chefen kommunicera på det här sättet, i den här kanalen? Det är den typen av frågor vi behöver träna våra medarbetare på att ställa.
• ‍Se till att verksamhetens processer följs i vardagen.
  Alla organisationer har riktlinjer och processer som stärker säkerheten, som att minst två personer ska godkänna en faktura. Om de följs. Men säkerhet är ingenting man har på papper, det är någonting man gör i praktiken.  
• ‍Hur skapar vi en kultur baserad på ett STAR-tänkande?
  Alla kurser för att öka medvetenheten kring informationssäkerhet från oss på Junglemap handlar om att påminna slutanvändarna om att alltid ha ett STAR-tänkande där vi stannar upp, tänker efter, frågar någon annan och reagerar på det som verkar konstigt.  

Det är så här vi står emot social manipulation. Oavsett om den är gjord av AI eller inte. Deepfakes är ett växande problem och allt svårare att avslöja. Inom en snar framtid kommer det kanske vara helt omöjligt. Låt oss ta ett steg tillbaka och göra säkerhetstänk till en del av vardagen, upprätthålla våra processer – och aldrig sluta påminna varandra om att stanna upp och tänka efter, särskilt när pulsen ökar och något verkar väldigt akut.  

‍