Sikker bruk av AI: Risiko, sårbarhet og strategier

Bli med på vårt dagskurs om AI-sikkerhet!

Ønsker du å forstå hvordan du kan balansere risiko og nytte ved bruk av AI? Vårt kurs gir deg innsikt og konkrete verktøy for å håndtere AI-relaterte sikkerhetsaspekter i praksis. Med økende reguleringer og nye krav, som den nye AI-forordningen, er det viktig å forstå hvordan AI skiller seg fra tradisjonelle IT-systemer og hvilke risikoer som følger med.

Hva lærer du?

• Forskjellen mellom “Sikker bruk av AI” og “Sikker AI”
• Ulike typer AI og deres sårbarheter
• Strategier og metoder for risikohåndtering

Kurset kombinerer teori og praktiske øvelser for å gi deg en helhetlig forståelse av trygg implementering og bruk av AI-løsninger. Ikke gå glipp av denne muligheten til å styrke din kompetanse og sikre at din organisasjon er rustet for fremtiden!

Modul 1: Introduksjon til AI og risiko 

• Hva er AI, og hvordan skiller det seg fra tradisjonelle IT-systemer? 
  • Forskjellen mellom AI og tradisjonell programvare. 
  • Hvordan AI «lærer» og tilpasser seg vs. statiske IT-systemer. 
  • Kort om maskinlæring, dyp læring og andre AI-prinsipper. 
• Sikkerhetsutfordringer i AI 
  • Økt kompleksitet i sikkerhetsarbeidet grunnet AI-systemenes dynamiske natur. 
  • Hvordan AI kan utfordre tradisjonelle IT-sikkerhetspraksiser. 
• Regulering og standarder for AI-sikkerhet 
  • Introduksjon til EU’s «The AI Act» og andre relevante reguleringer. 
  • Kort om etiske retningslinjer, standarder og nye krav til utvikling og bruk av AI. 

Modul 2: Typer av AI og tilhørende sårbarheter 

• Ulike typer AI og deres risikoegenskaper 
  • Gjennomgang av forskjellige AI-typer: maskinlæringsmodeller, nevrale nettverk, ekspert-systemer, etc. 
  • Risikoer knyttet til ulike AI-modeller: datalekkasje, modellmanipulering, feil beslutningstaking og «black box»-problematikk. 
• Typer av sårbarheter i AI-systemer 
  • Hvordan AI kan påvirkes av «adversarial attacks» og manipulasjon. 
  • Potensielle problemer ved dataforurensning og bias. 
  • Eksempler på faktiske angrep og sårbarheter i AI-systemer. 
• Forskjellen på sikker AI og sikker bruk av AI 
  • Hva menes med sikker AI, og hvordan skiller dette seg fra sikker anvendelse av AI? 
  • Eksempler på tilfeller hvor AI-systemer kan være usikre i seg selv, men allikevel sikre i bruk. 

Modul 3: Strategier for å håndtere AI-risiko 

• Metoder for kartlegging av AI-risiko 
  • Enkle risikokartleggingsmetoder for å identifisere og evaluere risikoer. 
  • Eksempelmetoder: risikoanalyse, trusselvurderinger,  konsekvensanalyser. 
  • Håndtering av ulike typer risikoer, inkludert sikkerhetsrisiko, juridiske og etiske risikoer. 
• Strategier for sikker implementering og bruk av AI 
  • Risikoreduserende strategier: sikring av datakvalitet, testing av modell-robusthet, overvåking og logging. 
  • Strategier for kontinuerlig vurdering og revisjon av AI-modeller. 
  • Design av prosesser og systemer for sikker bruk av AI 
  • Hvordan balansere nytte og risiko ved AI-bruk: Vurdering av gevinster og risikoer. 

Modul 4: Praktisk øvelse – Risikokartlegging og valg av strategi 

• Kartlegging av risiko 
  • Deltakerne arbeider med et case for å identifisere risikoer knyttet til et AI-system (f.eks. et anbefalingssystem i helsesektoren eller et overvåkingssystem i smart by-kontekst). 
  • Identifisering av spesifikke risikoer og sårbarheter: datasikkerhet, personvern, bias, etc. 
• Utvikling av strategi for risikohåndtering 
  • Deltakerne bruker kartleggingen til å foreslå passende risikohåndteringsstrategier. 
  • Diskusjon og evaluering av ulike strategier basert på risikoanalysen. 
• Oppsummering og refleksjon
  • Hvordan velge en risikostrategi som balanserer nytte og risiko? 

Felles oppsummering av erfaringer og mulige strategivalg. 

Pris

Markedspris: kr. 30 000  ekskl. mva.