NY KURS

Att bygga säkra AI-agenter

Generativ AI, som ChatGPT och Copilot, hjälper oss redan med vardagliga uppgifter som att skriva, sammanfatta och hitta information. En AI-agent kan gå ett steg längre och utföra handlingar å någons vägnar – och det förändrar vilka risker utvecklare och produktägare behöver designa för från början.

En generativ AI-applikation ger ett svar eller en rekommendation. Agentisk AI går längre – den kan ta emot en uppgift, avgöra vilka steg som krävs, hämta information, välja och använda verktyg, interagera med andra system och utföra handlingar.

Den här kursen är byggd för dem som designar, bygger och driftsätter agentiska system. Baserad på OWASP Top 10 for Agentic Applications, branschens ramverk för agentisk AI-risk, går kursen igenom vilka frågor utvecklare och produktägare behöver besvara innan en AI-agent får möjlighet att agera, och vilka skyddsåtgärder som måste finnas på plats innan systemet går i produktion.

Exempel på innehåll:

Vad bygger vi?
Få en gemensam förståelse för vad som gör ett system "agentiskt" – och hur OWASP Top 10 for Agentic Applications kartlägger riskbilden kring det.

Vilken data och kontext kan det behålla?
Förstå memory poisoning och context manipulation, och hur ni designar agenter som inte för vidare korrupta tillstånd.

Hur autonomt ska det vara?
Tillämpa OWASP:s princip om "least agency" – autonomi ska förtjänas medvetet, inte ges som standard.

När måste en människa ta över?
Bygg in de kontrollpunkter som hindrar ett enskilt felaktigt beslut från att sprida sig genom sammankopplade agenter och verktyg.

Vad kan påverka det?
Förstå hur agenter kan manipuleras via prompter, förgiftad data eller komprometterade verktyg – risker som OWASP kategoriserar som prompt injection och tool misuse.

Är det säkert nog för produktion?
Få en praktisk, OWASP-anpassad checklista för att bedöma om ett agentiskt AI-system är redo att driftsättas.

Vad kan det komma åt och göra?
Designa behörigheter och identitetskontroller som förhindrar den typ av privilege abuse som OWASP pekar ut som en av de största riskerna i agentiska system.

Utforska resten av våra kurser

Introduktion till policyer

Vill du att dina medarbetare ska förstå de viktigaste aspekterna av din organisations mest centrala policyer – och samtidigt kunna visa att de efterlever dem?

Kurs i arbetsmiljö för chefer

Denna introduktionskurs i arbetmiljö ger chefer en bättre förståelse för grunderna i arbetsmiljö och bygger på svensk lagstiftning.

Kurs om säker generativ AI

Vi lever i en tid där AI förändrar hur både företag och anställda arbetar – från att optimera dagliga processer till att omforma hela affärsmodeller. Men vad är egentligen lämpligt, och hur kan företag använda generativ AI för att skapa verklig affärsnytta?

Kurs i hybrid arbetsplats: Bra prestationer

Den här kursen berör välbekanta utmaningar i en hybrid vardag och hjälper företag att möta dem.

Kurs i informationssäkerhet för chefer

Vår kurs i informationssäkerhet för chefer består av 3-minuterslektioner om hur chefer bäst kan stödja sina anställda när det gäller medvetenhet och agerande kring informationssäkerhet.

Kurs i ledarskap och kommunikation

Den här kursen berör välbekanta utmaningar kopplat till arbetsmiljö som chefer kan möta och hur de ska ta sig an dem.

Kurs i skydd mot AI-manipulation

Vår kurs om AI-manipulation består av korta, 2–3 minuterslektioner om hur vi kan komma i kontakt med AI – både när vi själva tar initiativet och i situationer där vi inte ens är medvetna om det. Kursen fokuserar på när AI-tekniken används av cyberkriminella och vikten av att ha AI i åtanke i vardagen.

De dolda riskerna med shadow AI

Vill du förstå hur helt vardaglig användning av AI kan orsaka säkerhets- och integritetsrisker? AI-verktyg har snabbt blivit en del av vår vardag och våra jobb. Medarbetare använder dem för att skriva, sammanfatta, analysera information och lösa problem snabbare än någonsin tidigare.

Introduktionskurs i anti-penningtvätt, AML

I den här NanoLearning-kursen kommer chefer och medarbetare lära sig vad penningtvätt och finansiering av terrorism är och hur man kan förebygga det. Det minskar avsevärt risken för incidenter med penningtvätt i er organisation.

Introduktionskurs i affärsetik och uppförandekod

Denna grundläggande kurs i uppförandekod och affärsetik är utformad för att ge medarbetare en djupare förståelse för verksamheters uppförandekod och de etiska principer som styr ert arbete och beslut.

Kurs i arbetsrätt för chefer

Denna NanoLearning-kurs i arbetsrätt ger en introduktion och förståelse för grunderna i arbetsrätt och bygger på svensk lagstiftning.

Kurs i att upptäcka våld i nära relationer

En kurs som förser chefer och medarbetare med verktyg för att våga se, fråga och agera vid misstanke om våld i nära relationer.

Säker kodning med OWASP Top 10

Den här kursen från Junglemap hjälper utvecklare att förstå och minska de mest kritiska säkerhetsriskerna i webbapplikationer. Applikationer är komplexa, och många sårbarheter uppstår som en följd av små utvecklingsbeslut i vardagen. Cyberkriminella fokuserar inte på hur en applikation är tänkt att fungera, utan på hur den kan missbrukas. Den här kursen hjälper dig att identifiera dessa risker och förstå hur du i praktiken kan förebygga dem.

Kurs i informationssäkerhet för alla anställda

Vår kurs i informationssäkerhet består av 3-minuterslektioner om säkerhetsrisker och hur man motverkar dem, med ämnen som social engineering, lösenords- och mejlsäkerhet, AI-manipulation och hur man undviker och hanterar en ransomware-attack.

Introduktionskurs till DORA-förordningen

Denna introduktion till DORA ger er ledning en bättre förståelse för vad organisationen behöver ha på plats för att uppfylla DORA-regelverket.

Introduktionskurs i säkerhetskultur

Denna introduktionskurs om säkerhetskultur ökar förståelsen för hur viktigt det är att skapa och upprätthålla en stark säkerhetskultur och att både förstå och tillämpa relevanta säkerhetslagar.

Introduktionskurs i hållbar utveckling

Den här introduktionskursen ger anställda en bättre förståelse för vad hållbar utveckling handlar om och varför det är viktigt.

Kurs i digital säkerhet för styrelse och ledning

En kurs i digital säkerhet som ger styrelse- och ledningsmedlemmar den kunskap som behövs för att uppfylla kraven i NIS2, DORA och den nya Cybersäkerhetslagen.

Kurs i säkerhetsskydd för medarbetare

Denna kurs i Säkerhetsskyddslagen ger en introduktion till de krav som er organisation behöver uppfylla för att öka skyddet mot spioneri, sabotage och terroristbrott.

Kurs i säkerhetsskydd för chefer

Denna kurs i Säkerhetsskyddslagen introducerar chefer till de krav som er organisation behöver uppfylla för att öka skyddet mot spioneri, sabotage och terroristbrott.

Kurs i hybrid arbetsplats: Säkerhet och effektivitet

Den här kursen berör kort utmaningar kopplat till säkerhet och effektivitet i en hybrid vardag och hjälper företag att möta dem.

Introduktionskurs till NIS2-direktivet

Med den här NIS2-introduktionen får företagsledningen en bättre förståelse för vad organisationen behöver ha på plats för att uppfylla kraven från NIS2.

Kurs i hållbarhet och Agenda 2030

Kursen syftar till att ge medarbetare en högre förståelse för Agenda 2030 och FN:s 17 globala mål.

Deepfake-attacker och hur du undviker att bli lurad av AI

Vill du förstå hur deepfakes fungerar – och hur du skyddar dig själv och din organisation? Vår kurs om AI-drivna hot och deepfakes hjälper medarbetare att känna igen moderna attackmetoder och agera säkert.

Kurs i hybrid arbetsplats: Ledarskap på distans

Den här kursen berör de utmaningar som chefer kan möta kopplat till arbetsmiljö i en hybrid vardag och hur de kan tackla dem.

Introduktionskurs i civil beredskap

Introduktionskursen syftar till att ge medarbetare inom kommun en högre förståelse för vad civil beredskap handlar om.

Security and Privacy by Design (SPbD)

Den här kursen från Junglemap hjälper utvecklingsteam, arkitekter och produktägare att förstå hur designbeslut påverkar säkerhet och dataskydd genom hela systemets livscykel.

Kurs i dataskydd & GDPR för alla anställda

Vår awareness-utbildning i dataskydd går igenom det alla anställda behöver veta om integritet och dataskyddslagstiftning som GDPR. Kursen består av 10 innehållslektioner, samt enkäter och repetitionsquiz, allt utformat för att bygga och förstärka medvetenheten om dataskydd året runt.

Introduktionskurs i brandskydd

Kursen ger medarbetare en introduktion till systematiskt brandskyddsarbete, brandteori och vad de ska göra om det börjar brinna.

Introduktionskurs i antikorruption, ABC

Denna introduktionskurs ger via NanoLearning era medarbetare en bättre förståelse för mutor och korruption samt hur det kan förhindras och förebyggas.