Att bygga säkra AI-agenter
Generativ AI, som ChatGPT och Copilot, hjälper oss redan med vardagliga uppgifter som att skriva, sammanfatta och hitta information. En AI-agent kan gå ett steg längre och utföra handlingar å någons vägnar – och det förändrar vilka risker utvecklare och produktägare behöver designa för från början.

En generativ AI-applikation ger ett svar eller en rekommendation. Agentisk AI går längre – den kan ta emot en uppgift, avgöra vilka steg som krävs, hämta information, välja och använda verktyg, interagera med andra system och utföra handlingar.
Den här kursen är byggd för dem som designar, bygger och driftsätter agentiska system. Baserad på OWASP Top 10 for Agentic Applications, branschens ramverk för agentisk AI-risk, går kursen igenom vilka frågor utvecklare och produktägare behöver besvara innan en AI-agent får möjlighet att agera, och vilka skyddsåtgärder som måste finnas på plats innan systemet går i produktion.
Vad bygger vi?
Få en gemensam förståelse för vad som gör ett system "agentiskt" – och hur OWASP Top 10 for Agentic Applications kartlägger riskbilden kring det.
Vilken data och kontext kan det behålla?
Förstå memory poisoning och context manipulation, och hur ni designar agenter som inte för vidare korrupta tillstånd.
Hur autonomt ska det vara?
Tillämpa OWASP:s princip om "least agency" – autonomi ska förtjänas medvetet, inte ges som standard.
När måste en människa ta över?
Bygg in de kontrollpunkter som hindrar ett enskilt felaktigt beslut från att sprida sig genom sammankopplade agenter och verktyg.
Vad kan påverka det?
Förstå hur agenter kan manipuleras via prompter, förgiftad data eller komprometterade verktyg – risker som OWASP kategoriserar som prompt injection och tool misuse.
Är det säkert nog för produktion?
Få en praktisk, OWASP-anpassad checklista för att bedöma om ett agentiskt AI-system är redo att driftsättas.
Vad kan det komma åt och göra?
Designa behörigheter och identitetskontroller som förhindrar den typ av privilege abuse som OWASP pekar ut som en av de största riskerna i agentiska system.
Utforska resten av våra kurser

Kurs i skydd mot AI-manipulation
Vår kurs om AI-manipulation består av korta, 2–3 minuterslektioner om hur vi kan komma i kontakt med AI – både när vi själva tar initiativet och i situationer där vi inte ens är medvetna om det. Kursen fokuserar på när AI-tekniken används av cyberkriminella och vikten av att ha AI i åtanke i vardagen.

De dolda riskerna med shadow AI
Vill du förstå hur helt vardaglig användning av AI kan orsaka säkerhets- och integritetsrisker? AI-verktyg har snabbt blivit en del av vår vardag och våra jobb. Medarbetare använder dem för att skriva, sammanfatta, analysera information och lösa problem snabbare än någonsin tidigare.

Säker kodning med OWASP Top 10
Den här kursen från Junglemap hjälper utvecklare att förstå och minska de mest kritiska säkerhetsriskerna i webbapplikationer. Applikationer är komplexa, och många sårbarheter uppstår som en följd av små utvecklingsbeslut i vardagen. Cyberkriminella fokuserar inte på hur en applikation är tänkt att fungera, utan på hur den kan missbrukas. Den här kursen hjälper dig att identifiera dessa risker och förstå hur du i praktiken kan förebygga dem.

Kurs i dataskydd & GDPR för alla anställda
Vår awareness-utbildning i dataskydd går igenom det alla anställda behöver veta om integritet och dataskyddslagstiftning som GDPR. Kursen består av 10 innehållslektioner, samt enkäter och repetitionsquiz, allt utformat för att bygga och förstärka medvetenheten om dataskydd året runt.
























