- Annex III hoyrisiko utsatt 2026-08-02 -> 2027-12-02 (provisorisk, Omnibus); Annex I -> 2028-08-02. Oppdatert CLAUDE.md frister, session-start-hook, ai-act-assessor output-mal + 5 AI Act-KB-filer. - Art 99-boter: 30M/6% (finnes ikke) -> 35M/7% (Art 5), 15M/3% (ovrig), 7.5M/1% (feilinfo) i 4 filer. - Art 50 transparens presisert (gjelder 2026-08-02; eksist. generative systemer frist 2026-12-02). Fjernet hardkodede dag-nedtellinger i CLAUDE.md. Verifisert mot Consilium/Gibson Dunn/Latham/artificialintelligenceact.eu 2026-06-18. Co-Authored-By: Claude Opus 4.8 (1M context) <noreply@anthropic.com> Claude-Session: https://claude.ai/code/session_01REiKFhP4w6xGXXqWKpPCJJ
29 KiB
ROS-metodikk: NS 5814, ISO 31000 og AI-spesifikke rammeverk
Sist oppdatert: 2026-02 Kategori: Norwegian Public Sector AI Governance Status: Established Practice Formål: Detaljert metodikkguide for ros-analysis-agent — kobler AI-ROS til etablerte standarder og sikrer revisjonssporbarhet
Oversikt
Denne guiden definerer den metodiske grunnmuren for ROS-analyser av AI-systemer i norsk offentlig sektor. Metodikken er konstruert som en syntese av etablerte risikostyringsrammeverk tilpasset AI-spesifikke utfordringer: ikke-deterministisk output, bias-risiko, forklarbarhetskrav og raskt skiftende trussellandskap.
Alle agentgenererte ROS-rapporter i ms-ai-architect skal være sporbare til minst én standard i tabellen under.
Standarder som dekkes
| Standard | Versjon | Relevans for AI-systemer |
|---|---|---|
| NS 5814 | 2021 | Norsk standard for ROS-analyser — prosessmessig ryggrad |
| ISO 31000 | 2018 | Internasjonal risikostyringsstandard — prinsipper og rammeverk |
| ISO/IEC 23894 | 2023 | AI-spesifikk risikostyring — tekniske og organisatoriske tilpasninger |
| ISO/IEC 27005 | 2022 | Informasjonssikkerhetsrisiko — særlig relevant for dataintegritet |
| ISO/IEC 42001 | 2023 | AI management system — styring og kontinuerlig forbedring |
| EU AI Act Art. 9 | 2024 | Obligatorisk risikostyringssystem for høyrisiko AI |
| NIST AI RMF | 1.0 (2023) | GOVERN–MAP–MEASURE–MANAGE funksjonsrammeverk |
| DSB Veileder ROS | 2024 | Helhetlig ROS for kommuner og offentlige virksomheter |
| Datatilsynet AI-veileder | 2023 | Personvernkonsekvenser av AI — DPIA-kobling |
| NSM Grunnprinsipper | 2.0 (2022) | IKT-sikkerhetsgrunnlag — tilgjengelighet, integritet, konfidensialitet |
Del 1: NS 5814:2021 — Prosessmapping
NS 5814 er den primære prosessstandarden. Standarden definerer fire hovedelementer i en ROS: planlegging, risikoidentifisering, risikoanalyse og risikoevaluering. Vår 8-fase metodikk operasjonaliserer disse elementene med AI-spesifikke tilpasninger.
NS 5814:2021 prosessmapping
| NS 5814 hovedelement | NS 5814 aktivitet | Vår fase | AI-spesifikk tilpasning |
|---|---|---|---|
| Planlegging | Definere formål og omfang | Fase 1: Scope og kontekst | Inkluderer AI-risikoklasse (AI Act), grad av autonomi og modelltype |
| Planlegging | Identifisere interessenter | Fase 2: Systembeskrivelse (brukere) | Spesifiserer sårbare grupper som kan påvirkes av AI-output |
| Risikoidentifisering | Identifisere verdier | Fase 3: Verdivurdering | Utvides med AI-spesifikke assets: modellvekter, prompts, treningsdata |
| Risikoidentifisering | Identifisere trusler og farer | Fase 4: Trusselidentifisering | STRIDE + AI-spesifikke angrep: prompt injection, data poisoning, model inversion |
| Risikoanalyse | Analysere årsaker og sannsynlighet | Fase 5: Sårbarhetsanalyse | Inkluderer AI-spesifikke sårbarheter: overfit, distribusjonsskift, hallusinasjon |
| Risikoanalyse | Analysere konsekvenser | Fase 6: Risikoanalyse | 7-dimensjons rammeverk i stedet for enkelt konsekvenstema |
| Risikoevaluering | Evaluere og prioritere risikoer | Fase 6: Risikoregister + matrise | Vektet totalscore på tvers av dimensjoner |
| Risikoevaluering | Beslutte tiltak | Fase 7: Tiltaksplan | 4-strategier (unngå/redusere/overføre/akseptere) med tidslinje |
| Risikoevaluering | Beslutte akseptanse | Fase 8: Restrisiko og akseptanse | Formell akseptanseerklæring med signaturer |
NS 5814 kvalitetskrav vi etterlever
NS 5814:2021 stiller eksplisitte krav til dokumentasjon, sporbarhet og gjennomgang. Følgende krav er innbygd i rapportmalene:
Krav 4.3 — Dokumentasjon: Alle analyser skal dokumenteres slik at de kan reproduseres og etterprøves. Oppfylt ved: strukturert rapportmal med fasevis dokumentasjon, risiko-ID-serie (R-001), trussel-ID-serie (T-001), tiltak-ID-serie (M-001).
Krav 5.2 — Kompetanse: Analysen skal utføres av kompetente personer. Oppfylt ved: agenten er trent på NS 5814, ISO 31000 og AI-spesifikke rammeverk, og angir eksplisitt at rapporten ikke erstatter ekstern revisjon.
Krav 6.1 — Kontekstforståelse: Organisasjonens interne og eksterne kontekst skal kartlegges. Oppfylt ved: Fase 1 inkluderer juridisk kontekst, organisasjonsstrategi og systemeiers mandat.
Krav 7.1 — Behandling av usikkerhet: Usikkerhet i sannsynlighets- og konsekvensestimater skal kommuniseres. Oppfylt ved: konfidensangivelse i Quick ROS, og eksplisitte forutsetninger i Full ROS.
Del 2: ISO 31000:2018 — Prinsipper og rammeverk
ISO 31000 er den overordnede styringsstandarden. Standarden definerer prinsipper, rammeverk og prosess for risikostyring som gjelder alle typer organisasjoner og risiko.
ISO 31000 prinsippmapping
ISO 31000:2018 Klausul 4 definerer åtte prinsipper. Slik etterlever metodikken dem:
| ISO 31000 prinsipp | Operasjonalisering i AI-ROS |
|---|---|
| Integrert | ROS kobles til DPIA, ADR og AI Act conformity — ikke isolert dokument |
| Strukturert og helhetlig | 8-fase prosess med standardiserte skalaer og ID-serier |
| Tilpasset | Scope og kontekst (Fase 1–2) tilpasser analysen til virksomheten |
| Inkluderende | Berørte parter identifiseres (Fase 2.4) — inkludert sårbare grupper |
| Dynamisk | Anbefalt revisjonsintervall (6–12 måneder) eller ved vesentlig endring |
| Basert på beste tilgjengelig informasjon | Agenten bruker Microsoft Learn MCP + offentlig tilgjengelig regulatorisk dokumentasjon |
| Menneskelig og kulturell | Organisatorisk og menneskelig dimensjon (10 % vekt) er eksplisitt i dimensjonsvurderingen |
| Kontinuerlig forbedring | Restrisiko og tiltaksplan gir grunnlag for neste revisjonssyklus |
ISO 31000 prosesskobling
ISO 31000:2018 Klausul 6 definerer risikostyringsprosessen i tre hovedelementer:
6.4 Risikovurdering (risk assessment) — dekkes av Fase 3–6:
- 6.4.2 Risikoidentifisering → Fase 3 (verdivurdering) + Fase 4 (trusler)
- 6.4.3 Risikoanalyse → Fase 5 (sårbarhet) + Fase 6 (risikoanalyse)
- 6.4.4 Risikoevaluering → Fase 6 (risikoregister, matrise, prioritering)
6.5 Risikobehandling (risk treatment) — dekkes av Fase 7:
- Valg av behandlingsalternativ (unngå/redusere/overføre/akseptere)
- Utforming av tiltaksplan med ansvar, frist og estimert kostnad
- Evaluering av restrisiko etter tiltak
6.6 Overvåking og gjennomgang — dekkes av Fase 8 + rapportens gyldighetsdato:
- Restrisiko dokumenteres eksplisitt
- Akseptanseerklæring med navngitte signaturparter
- Anbefalt neste revisjonstidspunkt angis
Del 3: ISO/IEC 23894:2023 — AI-spesifikk risikostyring
ISO/IEC 23894 er den internasjonale standarden spesifikt for AI-risikostyring. Den bygger på ISO 31000 og tilføyer AI-spesifikke retningslinjer som er sentrale for metodikken.
AI-spesifikke risikokilder (ISO/IEC 23894 Klausul 6)
Standarden identifiserer risikokilder som er umodne eller fraværende i tradisjonell IT-risikostyring. Slik adresseres de i vår metodikk:
| ISO/IEC 23894 risikokilde | Vår operasjonalisering | Dimensjon |
|---|---|---|
| Datakvalitet og representativitet | Dataintegritet-dimensjon; spørsmål om treningsdatakilder og skjevheter | Dataintegritet og personvern |
| Modellytelse under distribusjonsskift | Sårbarhet V-xxx knyttet til out-of-distribution input; krav om driftsmonitering | Modellsikkerhet og robusthet |
| Forklarbarhet og transparens | Dedikert dimensjon (10 % vekt); sjekk av XAI-mekanismer og logging | Forklarbarhet og sporbarhet |
| Uintendert bruk og misbruk | Trusselidentifisering T-xxx inkluderer misuse-scenarier; scope inkluderer "reasonably foreseeable misuse" | Modellsikkerhet og robusthet |
| Menneskelig avhengighet og kompetanse | Organisatorisk og menneskelig dimensjon (10 % vekt); HITL-vurdering | Organisatorisk og menneskelig |
| Systemiske og kumulative risikoer | Integrasjonsoversikt (Fase 2.3); identifisering av kritiske avhengigheter | Tilgjengelighet og robusthet |
ISO/IEC 23894 livssyklusperspektiv
Standarden understreker at risikostyring er en kontinuerlig prosess gjennom hele AI-systemets livssyklus — ikke kun ved lansering. Metodikken reflekterer dette gjennom:
- Design-fase: ROS kan gjennomføres som "forward-looking" analyse basert på systemspesifikasjon
- Pre-produksjon: Full ROS med eksisterende kontroller vurdert mot faktisk implementasjon
- Produksjon: Revisjon utløses av (a) vesentlige endringer, (b) hendelser, (c) periodisk intervall (maks 12 måneder)
- Avvikling: ROS-oppdatering for å adressere dataretur, modellsletting og logging-oppbevaring
Del 4: EU AI Act Art. 9 — Obligatorisk risikostyringssystem
For AI-systemer klassifisert som høy risiko under EU AI Act (Vedlegg III) er risikostyringssystem (Art. 9) et juridisk krav — ikke en anbefaling. Metodikken er konstruert slik at en fullstendig Full ROS utgjør grunnlaget for Art. 9-etterlevelse.
Art. 9 kravmapping
| EU AI Act Art. 9 krav | Vår fase | Dokumentasjon |
|---|---|---|
| Art. 9(1): Etabler og vedlikehold et risikostyringssystem gjennom hele livssyklusen | Fase 1 + Fase 8 (gyldighetsdato, revisjonsplan) | Rapportens metadata og akseptanseerklæring |
| Art. 9(2)(a): Identifiser og analyser kjente og rimelig forutsigbare risikoer | Fase 4 (trusler) + Fase 5 (sårbarheter) | Trussel-ID-tabell, sårbarhetstabell |
| Art. 9(2)(b): Estimer og evaluer risikoer fra tilsiktet bruk og rimelig forutsigbart misbruk | Fase 4 + Fase 6 (risikoregister) | Misuse-scenarier i T-xxx, bruttoscore i R-xxx |
| Art. 9(2)(c): Evaluer andre risikoer basert på analyse av data fra post-market monitoring | Fase 8 (restrisiko) + revisjonsplan | Restrisikovurdering og revisjonsintervall |
| Art. 9(3): Risikoreduksjonstiltak | Fase 7 (tiltaksplan) | M-xxx med strategi, ansvar, frist |
| Art. 9(4): Eliminer/reduser risiko so far as possible | Fase 7 (strategi: unngå > redusere > overføre > akseptere) | Tiltaksstrategi dokumentert per M-xxx |
| Art. 9(5): Test-protokoller | Ikke direkte dekket — cross-reference til teknisk dokumentasjon | Kryssreferansetabell i Fase 8 |
| Art. 9(6): Sporingsevne gjennom leverandørkjeden | Fase 2.3 (integrasjoner), Fase 3 (assets) | Integrasjonstabell, T-004 (forsyningskjedeangrep) |
| Art. 9(7): Skriftlig risikostyringssystem | Hele rapportstrukturen | Versjonert dokument med signaturer |
Høyrisikoklassifisering under AI Act Vedlegg III
Følgende AI-brukstilfeller er automatisk høy risiko og krever Full ROS + Art. 9-dokumentasjon:
- Offentlig forvaltning: Systemer som evaluerer enkeltpersoner for offentlige ytelser, tjenester eller sanksjoner
- Biometri: Fjernidentifikasjon i sanntid (med unntak) eller kategorisering
- Kritisk infrastruktur: AI i styring av vann, energi, transport
- Utdanning: Systemer for opptak, vurdering eller karaktersetting
- Arbeidsmarked: Rekruttering, forfremmelse, oppsigelse basert på AI
- Rettshåndhevelse: Risikovurdering, kriminalitetsforutsigelse, bevisanalyse
- Migrasjon: Saksbehandling av asyl, visum, grensekontroll
Del 5: NIST AI RMF 1.0 — Funksjonsrammeverk
NIST AI Risk Management Framework (2023) tilbyr et komplementært perspektiv med fire kjernefunksjoner: GOVERN, MAP, MEASURE og MANAGE. Rammeverket er særlig nyttig for å strukturere organisasjonens løpende AI-governance, ikke bare punktanalyser.
NIST AI RMF mapping til vår metodikk
| NIST funksjon | Underkategori | Vår fase | Aktiviteter |
|---|---|---|---|
| GOVERN | Retningslinjer, prosesser, roller | Fase 1 | Scope definerer hvem som eier risikostyringen; juridisk kontekst etablerer policy-ramme |
| GOVERN | Ansvarlighet og åpenhet | Fase 8 | Akseptanseerklæring med navngitte parter; klassifisering av rapport |
| MAP | Kategoriser AI-risikokontekst | Fase 1–2 | Systemtype, autonomigrad, modellarkitektur, brukerpopulasjon |
| MAP | Identifiser berørte parter | Fase 2.4 | Brukertabell med sårbarhetsvurdering |
| MAP | Identifiser AI-risikoer | Fase 3–4 | Verdivurdering, trusselidentifisering |
| MEASURE | Analyser og prioriter risikoer | Fase 5–6 | Sårbarhetsanalyse, risikoregister, 5×5-matrise |
| MEASURE | Dimensjonsvurdering | Fase 6 + sammendrag | 7-dimensjons vektet score |
| MANAGE | Prioriter og implementer tiltak | Fase 7 | Tiltaksplan med strategi, eier og frist |
| MANAGE | Overvåk og gjennomgå | Fase 8 + revisjonskrav | Restrisiko, akseptanse, gyldighetsdato |
NIST AI RMF profiler
NIST definerer "current profile" (nå-situasjon) og "target profile" (ønsket situasjon). Vår ROS-rapport leverer begge:
- Current profile: Brutto score per dimensjon (før tiltak) + eksisterende kontroller (Fase 5–6)
- Target profile: Netto score per dimensjon (etter tiltak) + implementerte M-xxx (Fase 7–8)
Gap mellom current og target profile synliggjøres i dimensjonsvurderingstabellen (brutto vs. netto score).
Del 6: Sannsynlighetsskala (5 nivåer)
Skalaen er kalibrert for norsk offentlig sektor-kontekst. Frekvensestimater er veiledende — bruk faglig skjønn basert på systemets eksponeringsflate.
| Nivå | Betegnelse | Definisjon | Frekvens (veiledende) | Eksempel (AI-kontekst) |
|---|---|---|---|---|
| 1 | Svært lav | Hendelsen er teoretisk mulig, men det finnes ingen kjente tilfeller og angrepsvektoren er svært vanskelig å utnytte | Sjeldnere enn hvert 10. år | Avansert model inversion-angrep mot intern klassifikasjonsmodell uten nettverkseksponering |
| 2 | Lav | Hendelsen har skjedd i bransjen, men er ikke vanlig. Krever spesialkompetanse eller ressurser å utnytte | 1 gang per 1–10 år | Prompt injection i RAG-system utført av sofistikert angriper; alvorlig hallusinasjon med konsekvenser |
| 3 | Moderat | Hendelsen skjer regelmessig i virksomheter med lignende systemer. Utnyttelse krever moderat kompetanse | Ca. 1 gang per år | Utilsiktet eksponering av persondata i AI-generert rapport; bias-problem oppdaget i produksjon |
| 4 | Høy | Hendelsen forekommer hyppig i lignende systemer. Lav terskel for utnyttelse eller systemisk årsak | Månedlig | Feil output ved edge-case input; saksbehandler følger AI-anbefaling ukritisk; API-timeout |
| 5 | Svært høy | Hendelsen er nær-sikkert å inntreffe uten tiltak. Kjent sårbarhet, ingen kontroller, eller systemisk designfeil | Ukentlig eller oftere | Modell uten content safety på åpent grensesnitt; ingen logging av AI-beslutninger |
Kalibreringsprinsipper
Bruk bruttosannsynlighet (uten eksisterende kontroller) i risikoregisteret. Eksisterende kontroller fanges i "Kontrolleffekt"-kolonnen og reflekteres i netto score.
Vurder eksponeringsflate: Et internt system med 5 saksbehandlere har lavere eksponeringsflate enn en publikumstjeneste med 50 000 månedlige brukere. Juster sannsynlighet deretter.
Dokumenter usikkerhet: Dersom sannsynlighetsestimatet er usikkert, angi dette i kommentarfeltet og vurder å bruke konservativt (høyere) estimat.
Del 7: Konsekvensskala (5 nivåer)
Konsekvenser vurderes langs fire dimensjoner. Samlet konsekvens-score er det høyeste nivået på tvers av dimensjonene (worst-case-prinsippet), ikke et gjennomsnitt.
| Nivå | Betegnelse | Menneske og samfunn | Økonomi | Omdømme | Juridisk og regulatorisk |
|---|---|---|---|---|---|
| 1 | Ubetydelig | Ingen personskade. Ubetydelig ulempe for enkeltpersoner | Under 100 000 NOK | Intern hendelse. Ingen medieomtale | Ingen regelbrudd. Mulig intern avvik |
| 2 | Liten | Begrenset ulempe for et lite antall personer. Ingen varig skade | 100 000 – 1 000 000 NOK | Lokal medieomtale. Kortvarig negativ omtale | Mindre avvik fra regelverk. Pålegg om retting |
| 3 | Moderat | Alvorlig ulempe for et begrenset antall personer, eller mindre ulempe for mange. Mulig midlertidig skade | 1 – 10 millioner NOK | Nasjonal medieomtale. Tillitssvekking | Regelbrudd med administrativt gebyr. Datatilsynet involvert |
| 4 | Alvorlig | Alvorlig skade for et betydelig antall personer. Mulig varig skade for enkeltpersoner | 10 – 100 millioner NOK | Internasjonal medieomtale. Varig tillitssvikt | Alvorlig regelbrudd. GDPR-bot (opp til 4 % av global omsetning). Straffeansvar mulig |
| 5 | Katastrofal | Livstruende eller varig alvorlig skade for mange. Kan ramme sårbare grupper systematisk | Over 100 millioner NOK | Varig skade på virksomhetens eksistensgrunnlag | Systemsvikt i regelverksetterlevelse. Stans av virksomhet. Politisk konsekvens |
Dimensjonsspesifikke presiseringer
Menneske og samfunn: Vurder særlig om AI-systemet kan påvirke tilgang til grunnleggende rettigheter (helse, bolig, utdanning, trygd) eller diskriminere systematisk mot beskyttede grupper. Konsekvens-nivå skaleres med antall berørte og varigheten av skaden.
Økonomi: Inkluder direkte kostnader (hendelseshåndtering, bøter, erstatning), indirekte kostnader (tapte kontrakter, økt forsikringspremie) og opportunitetskostnader (stans i tjenesteutvikling).
Omdømme: For offentlige virksomheter er tillit til det offentlige en selvstendig verdi. Vurder om hendelsen kan svekke innbyggernes tillit til offentlig forvaltning generelt, ikke bare den aktuelle virksomheten.
Juridisk: GDPR-brudd som involverer sensitive personopplysninger kan automatisk eskalere til nivå 4–5. AI Act-brudd kan medføre bøter på inntil €35 mill / 7 % (forbudte praksiser, Art. 5) eller €15 mill / 3 % (øvrige brudd, inkl. høyrisiko-krav) av global omsetning, jf. Art. 99.
Del 8: Risikomatrise (5×5) og klassifisering
Risikomatrise
Risikoscore = Sannsynlighet (S) × Konsekvens (K). Maksimal score = 25.
KONSEKVENS
1 2 3 4 5
Ubetyd Liten Moderat Alvorlig Katastrofal
┌─────────┬────────┬─────────┬─────────┬──────────┐
5 │ 5 │ 10 │ 15 │ 20 │ 25 │
S Svært │ Grønn │ Grønn │ Gul │ Rød │ Rød │
A høy ├─────────┼────────┼─────────┼─────────┼──────────┤
N 4 │ 4 │ 8 │ 12 │ 16 │ 20 │
N Høy │ Grønn │ Grønn │ Gul │ Rød │ Rød │
L ├─────────┼────────┼─────────┼─────────┼──────────┤
I 3 │ 3 │ 6 │ 9 │ 12 │ 15 │
G Moderat│ Grønn │ Grønn │ Gul │ Gul │ Rød │
H ├─────────┼────────┼─────────┼─────────┼──────────┤
E 2 │ 2 │ 4 │ 6 │ 8 │ 10 │
T Lav │ Grønn │ Grønn │ Grønn │ Grønn │ Gul │
├─────────┼────────┼─────────┼─────────┼──────────┤
1 │ 1 │ 2 │ 3 │ 4 │ 5 │
Svært │ Grønn │ Grønn │ Grønn │ Grønn │ Grønn │
lav └─────────┴────────┴─────────┴─────────┴──────────┘
Risikoklassifisering
| Score | Farge | Risikokategori | Akseptansenivå | Handlingskrav |
|---|---|---|---|---|
| 1–7 | Grønn | Lav | Akseptabel | Overvåk. Dokumenter akseptanse. |
| 8–14 | Gul | Moderat | Betinget akseptabel | Tiltak skal planlegges. Akseptanse krever begrunnelse. |
| 15–19 | Rød (lys) | Høy | Ikke akseptabel uten tiltak | Tiltak må implementeres innen 90 dager. |
| 20–25 | Rød (mørk) | Kritisk | Ikke akseptabel | Umiddelbare tiltak eller systempause. Eskaleres til ledelse. |
Del 9: Tiltaksstrategier
De fire strategiene
| Strategi | Definisjon | Når brukes | AI-kontekst eksempel | Dokumentasjonskrav |
|---|---|---|---|---|
| Unngå | Eliminer risikoen ved å ikke gjennomføre aktiviteten som skaper den | Score ≥ 20, eller der risikoen er fundamental for systemet og ikke kan reduseres tilstrekkelig | Ikke bruke AI til automatiserte vedtak om sosiale ytelser der forklarbarhet ikke kan garanteres | Eksplisitt beslutning fra systemeier. Alternativ løsning dokumentert. |
| Redusere | Implementer kontroller som senker sannsynlighet og/eller konsekvens | Score 8–19 (moderat–høy). Risikoen kan kontrolleres teknisk eller organisatorisk | HITL-krav for alle output med score > 3, content safety-filters, PII-scrubbing, strukturert logging | Konkrete kontroller med eier og frist. Forventet score etter tiltak. |
| Overføre | Del risikoen med tredjepart (kontrakt, forsikring, SLA) | Score 8–14 (moderat). Risikoen er ekstern og kan håndteres kontraktuelt | SLA med AI-leverandør for oppetid og feilhåndtering; databehandleravtale med DPA-klausuler; ansvarsforsikring | Kontraktsreferanse. Hvem bærer restkostnaden ved hendelse. |
| Akseptere | Godta risikoen bevisst etter vurdering | Score 1–7 (lav), eller der kostnad ved tiltak overstiger forventet tap | Akseptere at modellen av og til gir uriktige faktapåstander i intern kunnskapsdeling-kontekst | Eksplisitt akseptanse av navngitt systemeier. Revisjonsdato. Dokumentert begrunnelse. |
Tiltaksprinsippet: ALARP
ALARP (As Low As Reasonably Practicable) er det grunnleggende prinsippet fra NS 5814 og britisk HMS-rett: risiko skal reduseres til et nivå som er så lavt som det er rimelig praktisk mulig, veid mot kostnad og nytte av ytterligere tiltak.
For AI-systemer i offentlig sektor gjelder et skjerpet ALARP-krav der:
- Tiltak som koster under 1 % av prosjektets totalbudsjett er presumptivt rimelige
- Tiltak som forebygger brudd på grunnleggende rettigheter er presumptivt rimelige uavhengig av kostnad
- Tiltaksvurderingen skal dokumenteres eksplisitt i tiltaksplanen
Del 10: De 7 risikodimensjonene — detaljert veiledning
Dimensjonsrammeverket erstatter det tradisjonelle KIT-rammeverket (Konfidensialitet, Integritet, Tilgjengelighet) med et AI-tilpasset rammeverk som dekker bias, forklarbarhet og juridisk risiko som selvstendige dimensjoner.
Dimensjon 1: Modellsikkerhet og robusthet (vekt 20 %)
Dekker: Motstandsdyktighet mot angrep, ikke-deterministisk oppførsel, distribusjonsskift, adversarial examples.
Nøkkelspørsmål:
- Er modellen beskyttet mot prompt injection og jailbreaking?
- Er det implementert content safety-filtrering på input og output?
- Er modellen testet på out-of-distribution input?
- Finnes det rate limiting og misbruksdeteksjon?
- Er det etablert prosess for håndtering av sikkerhetssårbarheter i modellen?
Vanlige svakheter: Manglende input-validering, ukritisk videresending av eksternt innhold til modellen (indirect prompt injection), ingen content safety på felter som tillater fri tekst.
Dimensjon 2: Dataintegritet og personvern (vekt 20 %)
Dekker: Kvalitet og representativitet av treningsdata og retrieval-data, personvern by design, datasuverenitet.
Nøkkelspørsmål:
- Er treningsdataene representativefor alle brukergrupper?
- Er persondata behandlet i samsvar med GDPR og datatilsynets AI-veileder?
- Er det implementert PII-deteksjon og -scrubbing i modellens input og output?
- Er lagring, tilgang og sletting av data dokumentert i en ROPA?
- Er databehandleravtale inngått med alle leverandører som behandler persondata?
Vanlige svakheter: Ingen PII-scrubbing av fritekstfelt, manglende databehandleravtale med AI-leverandør, uklar hjemmel for bruk av persondata i RAG-kontekst.
Dimensjon 3: Bias og diskriminering (vekt 15 %)
Dekker: Skjevheter i treningsdata og output, diskriminering av beskyttede grupper, algoritmisk rettferdighet.
Nøkkelspørsmål:
- Er det gjennomført bias-testing på tvers av kjønn, etnisitet, alder og funksjonsnivå?
- Er det etablert mekanismer for å oppdage og korrigere bias i produksjon?
- Er systemet i samsvar med likestillings- og diskrimineringslovens krav?
- Har sårbare grupper samme tilgang og like gode resultater som majoritetsbrukere?
Vanlige svakheter: Ingen formell bias-testing, homogen testpopulasjon, manglende representasjon av minoritetsgrupper i evalueringsdata.
Dimensjon 4: Tilgjengelighet og robusthet (vekt 10 %)
Dekker: Oppetid, degradert drift, katastrofegjenoppretting, avhengighetsrisiko mot skyleverandør.
Nøkkelspørsmål:
- Er SLA fra AI-leverandør tilstrekkelig for kritikalitetsnivået?
- Finnes det fallback-mekanismer dersom AI-komponenten er utilgjengelig?
- Er katastrofegjenopprettingsplan (BCDR) dokumentert og testet?
- Hva er konsekvensen av 1 time / 1 dag / 1 uke nedetid?
Vanlige svakheter: Ingen fallback til manuell saksbehandling, enkel avhengighet mot én leverandør, manglende BCDR-test.
Dimensjon 5: Forklarbarhet og sporbarhet (vekt 10 %)
Dekker: Krav til begrunnelse av AI-beslutninger, auditlogging, innsyn og klagerett.
Nøkkelspørsmål:
- Kan systemet gi forståelig forklaring på sine beslutninger eller anbefalinger?
- Er alle AI-beslutninger logget med tilstrekkelig kontekst for etterforskning?
- Er det etablert prosess for innsyn og klage (jf. forvaltningsloven § 17 og GDPR Art. 22)?
- Oppbevares logger tilstrekkelig lenge for revisjon?
Vanlige svakheter: Svart-boks-modeller uten XAI, utilstrekkelig logging av prompts og output, manglende klagehåndteringsprosess.
Dimensjon 6: Juridisk og regulatorisk (vekt 15 %)
Dekker: AI Act-klassifisering, GDPR, forvaltningsloven, sektorspesifikke krav, innkjøpsregelverk.
Nøkkelspørsmål:
- Er AI Act-risikoklasse vurdert og dokumentert?
- Er det juridisk grunnlag for alle personopplysningsbehandlinger?
- Overholder anskaffelsen regelverket for offentlige innkjøp (anskaffelsesforskriften)?
- Er kontrakt med leverandør gjennomgått av juridisk kompetanse?
Vanlige svakheter: Uklar AI Act-klassifisering, manglende hjemmel for profilering, SaaS-kontrakter uten GDPR-klausuler.
Dimensjon 7: Organisatorisk og menneskelig (vekt 10 %)
Dekker: Kompetanse, HITL-design, endringsledelse, ansvarskultur.
Nøkkelspørsmål:
- Er brukerne trent til å bruke AI-systemet kritisk — ikke blindt?
- Er det tydelig hvem som har ansvar for AI-systemets output?
- Er det etablert eskaleringsrutiner for tvilstilfeller?
- Er organisasjonens kapasitet for å overvåke og korrigere systemet tilstrekkelig?
Vanlige svakheter: Automation bias (ukritisk tillit til AI), uklart ansvarsforhold mellom IT og fag, manglende opplæringsplan.
Del 11: Terminologimapping
| Norsk begrep | Engelsk ekvivalent | Primær standard |
|---|---|---|
| Risiko- og sårbarhetsanalyse (ROS) | Risk and Vulnerability Assessment | NS 5814 |
| Sannsynlighet | Likelihood | ISO 31000 |
| Konsekvens | Impact / Consequence | ISO 31000 |
| Restrisiko | Residual risk | ISO 31000 |
| Trusselaktør | Threat actor | ISO/IEC 27005 |
| Sårbarhet | Vulnerability | ISO/IEC 27005 |
| Kontroll | Control / Safeguard | ISO/IEC 27001 |
| Verdivurdering | Asset valuation | ISO/IEC 27005 |
| Tiltaksplan | Risk treatment plan | ISO 31000 |
| Akseptansenivå | Risk appetite / tolerance | ISO 31000 |
| Forklarbarhet | Explainability / Interpretability | ISO/IEC 23894 |
| Menneskelig tilsyn | Human oversight / HITL | EU AI Act Art. 14 |
| Databehandler | Data processor | GDPR Art. 4(8) |
| Behandlingsansvarlig | Data controller | GDPR Art. 4(7) |
| Personvernkonsekvensvurdering | Data Protection Impact Assessment (DPIA) | GDPR Art. 35 |
| Risikostyringssystem | Risk management system | EU AI Act Art. 9 |
| Høyrisikoklassifisering | High-risk classification | EU AI Act Vedlegg III |
| Distribusjonsskift | Distribution shift / covariate shift | ML-terminologi |
| Prompt injection | Prompt injection | AI-sikkerhet |
| Innebygd personvern | Privacy by design | GDPR Art. 25 |
| ALARP-prinsippet | As Low As Reasonably Practicable | NS 5814 / HMS |
For Cosmo
Bruk denne guiden aktivt under gjennomføring av ROS-analyser:
-
Standardreferanse: Sitér alltid relevant standard når du beskriver metodiske valg. Eksempel: "Sannsynlighetsskalaen følger NS 5814:2021 Klausul 5.3 og er tilpasset AI-kontekst per ISO/IEC 23894:2023."
-
AI Act-klassifisering: Vurder alltid AI Act-risikoklasse i Fase 1. Bruk Vedlegg III-listen i Del 4 som sjekkliste. Dersom bruksfeltet er uklart, be rekvirenten avklare — feilklassifisering kan ha juridiske konsekvenser etter 2026.
-
ALARP-dokumentasjon: For alle risikoer med score ≥ 8 (gul), dokumentér eksplisitt hvorfor valgt tiltaksstrategi er tilstrekkelig i lys av ALARP-prinsippet.
-
Dimensjonsvekter: Vektene er normalverdier. For systemer med særlig høy personvernsensitivitet kan Dataintegritet og personvern vektes opp til 30 % og Tilgjengelighet ned til 5 %. Dokumenter avvik fra standardvektene.
-
Kryssreferanser: En ROS-rapport er ikke et isolert dokument. Alltid sjekk om DPIA, ADR og leverandørens egne sikkerhetsrapporter eksisterer og trekk inn relevante funn.