Å bygge sikre AI-agenter
Generativ AI, som ChatGPT og Copilot, hjelper oss allerede med daglige oppgaver som å skrive, oppsummere og finne informasjon. En AI-agent kan gå et skritt lenger og utføre handlinger på noens vegne – og det endrer hvilke risikoer utviklere og produkteiere må designe for fra starten.

En generativ AI-applikasjon gir et svar eller en anbefaling. Agentisk AI går lenger – den kan motta en oppgave, avgjøre hvilke steg som er nødvendige, innhente informasjon, velge og bruke verktøy, samhandle med andre systemer og utføre handlinger.
Kurset er bygget for dem som designer, bygger og setter agentiske systemer i drift. Basert på OWASP Top 10 for Agentic Applications, bransjens rammeverk for agentisk AI-risiko går kurset gjennom hvilke spørsmål utviklere og produkteiere må besvare før en AI-agent får mulighet til å handle, og hvilke sikringstiltak som må være på plass før systemet settes i produksjon.
Hva bygger vi?
Få en felles forståelse avhva som gjør et system «agentisk» – og hvordan OWASP Top 10 for Agentic Applications kartlegger risikobildet rundt det.
Hvilke data og kontekst kan det beholde?
Forstå memory poisoning og context manipulation, og hvordan man designer agenter som ikke bærer videre korrupt tilstand.
Hvor autonomt bør det være?
Anvend OWASPs prinsipp om «least agency» – autonomi skal fortjenes bevisst, ikke gis som standard.
Når må et menneske ta over?
Bygg inn kontrollpunktene som stopper en enkelt feilaktig beslutning fra å spre seg gjennom sammenkoblede agenter og verktøy.
Hva kan påvirke det?
Forstå hvordan agenter kan manipuleres via prompter, forgiftet data eller kompromitterte verktøy – risikoer OWASP kategoriserer som prompt injection og tool misuse.
Er det trygt nok for produksjon?
Få en praktisk, OWASP-tilpasset sjekkliste for å vurdere om et agentisk AI-systemer klart for drift.
Hva kan det få tilgang til og gjøre?
Design tillatelser og identitetskontroller som forhindrer den typen privilege abuse OWASP peker på som en av de største risikoene i agentiske systemer.
Utforsk resten av kursene våre

Sikker koding med OWASP Top 10
Dette kurset fra Junglemap hjelper utviklere med å forstå og redusere de mest kritiske sikkerhetsrisikoene i webapplikasjoner. Applikasjoner er komplekse, og mange sårbarheter oppstår som følge av små utviklingsbeslutninger i hverdagen. Cyberkriminelle fokuserer ikke på hvordan en applikasjon er ment å fungere, men på hvordan den kan misbrukes. Dette kurset hjelper deg med å identifisere disse risikoene og forstå hvordan du kan forebygge dem i praksis.

Kurs i personvern & GDPR for alle ansatte
Bevissthetsopplæringen vår om personvern dekker det alle ansatte må vite om personvern og personvernlovgivning som for eksempel GDPR. Kurset består av 10 leksjoner, spørreundersøkelser og repetisjonsquizer, som alle er utformet for å bygge opp og styrke kunnskapen om personvern gjennom hele året.

Kurs i sikker generativ AI
Vi lever i en tid der AI er i ferd med å endre måten bedrifter og ansatte jobber på – både ved å forbedre daglige rutiner og ved å omforme hele forretningsmodeller. Men hva er egentlig hensiktsmessig, og hvordan kan bedrifter bruke generativ AI til å skape reell forretningsverdi?

Kurs i beskyttelse mot AI-manipulasjon
Kurset vårt om AI-manipulasjon består av korte leksjoner på to til tre minutter om hvordan vi håndterer AI – både når vi selv tar initiativet, og i situasjoner der vi kanskje ikke engang tenker over det. Kurset setter søkelys på hvordan AI-teknologi brukes av cyberkriminelle, og viktigheten av at vi er bevisste på AI i hverdagen.



















