# AI Risk Taxonomy - Classification and Risk Levels

**Last updated:** 2026-02
**Status:** GA
**Category:** Responsible AI & Governance

---

## Introduksjon

AI Risk Taxonomy er et strukturert rammeverk for å identifisere, klassifisere og prioritere risikoer i AI-systemer. Microsoft har utviklet en omfattende tilnærming som kombinerer teknisk sikkerhet, ansvarlig AI-praksis og regulatorisk compliance (spesielt EU AI Act). Taxonomien dekker hele AI-livssyklusen fra datainnsamling til produksjonsdrift.

Denne kunnskapsbasen beskriver Microsofts tilnærming til risikokategorisering, severitetsgradering og taksonomisk klassifikasjon av AI-risikoer. Den integrerer:

- **AI Security Risk Assessment Framework** – teknisk risikokartlegging
- **Responsible AI Standard** – etiske og regulatoriske krav
- **EU AI Act alignment** – risikokategorier (unacceptable, high, limited, minimal)
- **MITRE ATLAS** – adversarial ML threat matrix

**Verified** (microsoft_docs_search, 2026-02)

---

## Kjernekomponenter

### 1. Risikokategorier (EU AI Act-inspirert)

Microsoft har tilpasset sin risikotaksonomi til EU AI Acts fire hovedkategorier:

| Risikokategori | Beskrivelse | Krav | Eksempler |
|----------------|-------------|------|-----------|
| **Unacceptable Risk** | Forbudte bruksområder som krenker grunnleggende rettigheter | Totalt forbud | Social scoring, real-time facial recognition (law enforcement), subliminal manipulation, exploitation av sårbare grupper |
| **High Risk** | Betydelig påvirkning på individers rettigheter eller sikkerhet | Strict compliance, human oversight, impact assessment | Critical infrastructure, employment decisions, credit scoring, healthcare diagnosis, biometric identification |
| **Limited Risk** | Transparenskrav for brukere | Disclosure requirements | Chatbots, AI-generated content, deepfakes |
| **Minimal Risk** | Fri bruk med best practice | Voluntary compliance | Spam filters, AI-enabled video games, recommendation systems |

**Verified** (Microsoft Enterprise AI Services Code of Conduct, 2026-02)

### 2. Severitetsgradering (Microsoft Security Framework)

Microsoft bruker en 5-nivå severitetsmodell for å prioritere sikkerhetsrisikoer:

| Severity Level | Kriterier | Impact | Eksempler |
|----------------|-----------|--------|-----------|
| **Critical** | AI modell behandler sensitive persondata (PCI, HIPAA, GDPR)<br>Business-critical system<br>Fysisk skade/død mulig<br>Kritisk infrastruktur | Stor negativ innvirkning på business operations | Healthcare AI, autonomous vehicles, financial fraud detection |
| **High** | Sensitive persondata eller konfidensielt IP<br>Stor men avgrenset business impact<br>Business-critical applications | Betydelig men avgrenset skade | Customer-facing AI, HR recruitment systems |
| **Medium** | Subset av treningsdata inneholder sensitive data<br>Ikke-kritisk men business-facing<br>Påvirker production models indirekte | Begrenset business impact | Non-production models with production data access |
| **Low** | Treningsdata ikke brukt i production<br>Ingen production deployment<br>Ingen produksjonsrelevans | Minimal business impact | Research models, sandbox environments |
| **Informational** | Uklassifiserte data fra vetted sources<br>Ingen production-bruk | Ingen business impact | Academic research, public datasets |

**Verified** (AI Risk Assessment for ML Engineers, 2026-02)

### 3. Attack Type Risk Matrix

Microsoft har utviklet en spesialisert risikomatrise for adversarial ML attacks basert på likelihood, impact og exploitability:

| Attack Type | Likelihood | Impact | Exploitability | Beskrivelse |
|-------------|-----------|--------|----------------|-------------|
| **Extraction** | High | Low | High | Model stealing via API queries |
| **Evasion** | High | Medium | High | Adversarial inputs som forårsaker feile prediksjoner |
| **Inference** | Medium | Medium | Medium | Rekonstruksjon av treningsdata via modell-spørring |
| **Inversion** | Medium | High | Medium | Recovery av sensitive attributter fra modelloutput |
| **Poisoning** | Low | High | Low | Manipulering av treningsdata for å påvirke modelloppførsel |

**Verified** (AI Risk Assessment for ML Engineers, 2026-02)

### 4. Content Safety Risk Categories

Azure AI Content Safety og Microsoft Responsible AI Standard definerer seks primære innholdsrisiko-kategorier:

| Risk Category | Severity Levels | Beskrivelse | Default Threshold |
|---------------|-----------------|-------------|-------------------|
| **Hate and Fairness** | Safe (0) → High (6) | Hatefullt innhold, diskriminering basert på beskyttede attributter | Medium (block 4+) |
| **Sexual Content** | Safe (0) → High (6) | Erotisk, pornografisk eller seksuelt eksplisitt innhold | Medium (block 4+) |
| **Violence** | Safe (0) → High (6) | Grafisk vold, gore, våpen, trusler | Medium (block 4+) |
| **Self-Harm** | Safe (0) → High (6) | Selvskading, suicidal ideation | Medium (block 4+) |
| **Protected Material** | Detected / Not Detected | Opphavsrettsbeskyttet materiale (text, code) | Block all detected |
| **Jailbreak (User Prompt Injection)** | Detected / Not Detected | Forsøk på å omgå sikkerhetskontroller | Block all detected |

**Verified** (Default Guidelines & controls policies, 2026-02)

---

## Arkitekturmønstre

### Risk Assessment Workflow

```
1. IDENTIFY
   ├─ Impact Assessment (Responsible AI Impact Assessment template)
   ├─ Red Team Testing (PYRIT, AI Red Teaming Agent)
   ├─ Stress Testing
   └─ Prioritized Harm List

2. ASSESS
   ├─ Severity Classification (Critical → Informational)
   ├─ Likelihood Evaluation (High → Low)
   ├─ Impact Analysis (Quantitative + Qualitative)
   └─ Risk Score Calculation

3. MITIGATE
   ├─ Platform Security (AI-1 to AI-5 controls)
   ├─ Content Safety Filters
   ├─ Human-in-the-Loop (HITL)
   └─ Access Controls & Monitoring

4. MONITOR
   ├─ Azure Monitor Logs (AADUserRiskEvents)
   ├─ Security Dashboard for AI
   ├─ Continuous Red Teaming
   └─ Incident Response
```

### Three-Pillar Security Model

Microsoft organiserer AI-sikkerhet i tre pillarer:

#### Pillar 1: AI Platform Security
- Model approval process (AI-1)
- Network segmentation & VPN (NS-2)
- Identity management (IM-3)
- Logging & monitoring (LT-3)

#### Pillar 2: AI Application Security
- Content Safety inspection (Azure AI Content Safety)
- Prompt injection detection
- Output validation & filtering
- RAG grounding verification

#### Pillar 3: AI Usage Security
- Human-in-the-Loop (AI-5)
- User authentication & authorization
- Acceptable Use Policies
- Audit trails & compliance reporting

**Verified** (Artificial Intelligence Security - MCSB, 2026-02)

---

## Beslutningsveiledning

### Når skal hvilken risikokategori brukes?

**Bruk denne beslutningstreet:**

```
START
  │
  ├─ Omfattes bruksområdet av forbudte use cases? → JA → UNACCEPTABLE RISK (avslå)
  │                                               → NEI → fortsett
  │
  ├─ Påvirker systemet juridiske rettigheter, økonomisk stilling,
  │  ansettelse, eller kan det forårsake fysisk/psykisk skade? → JA → HIGH RISK
  │                                                            → NEI → fortsett
  │
  ├─ Genererer systemet syntetisk innhold (tekst, tale, bilde, video)
  │  som interagerer med eksterne brukere? → JA → LIMITED RISK (disclosure required)
  │                                        → NEI → fortsett
  │
  └─ Alle andre tilfeller → MINIMAL RISK (best practice)
```

### Severity Assessment Checklist

For hvert AI-system, evaluer:

**Kritiske faktorer (Critical hvis JA):**
- [ ] Behandler sensitive persondata (GDPR Art. 9, HIPAA, PCI-DSS)
- [ ] Fysisk skade eller død er mulig outcome
- [ ] Kritisk infrastruktur (helse, energi, transport, vann)
- [ ] Business-critical med stor operational impact

**Høye faktorer (High hvis JA):**
- [ ] Konfidensielle data eller bedriftshemmeligheter
- [ ] Betydelig men avgrenset business impact
- [ ] Customer-facing production system

**Medium faktorer (Medium hvis JA):**
- [ ] Subset av treningsdata er sensitive
- [ ] Non-production men business-relevant
- [ ] Indirekte påvirkning på production models

### Human Oversight Requirements (AI-5)

High-risk actions krever Human-in-the-Loop (HITL) ved:

| Scenario | HITL-krav | Implementering |
|----------|-----------|----------------|
| **External data transfer** | Mandatory approval | Azure Logic Apps / Power Automate approval workflow |
| **Financial transactions > threshold** | Mandatory approval | Secure dashboard with Azure Key Vault auth |
| **Healthcare diagnosis/treatment** | Mandatory review | Clinical decision support with physician override |
| **Employment decisions** | Mandatory review | HR dashboard with documented decision rationale |
| **Legal/compliance decisions** | Mandatory approval | Audit trail with Azure Monitor |

**Verified** (AI-5: Ensure human-in-the-loop, MCSB, 2026-02)

---

## Integrasjon med Microsoft-stakken

### Azure AI Foundry

| Komponent | Risk Assessment Feature |
|-----------|------------------------|
| **AI Red Teaming Agent** | Automated adversarial testing (4 risk categories: Violence, Hate, Sexual, Self-Harm) |
| **Safety Evaluators** | Pre-deployment risk scoring for content safety |
| **Prompt Shields** | Real-time jailbreak detection |
| **Groundedness Detection** | Hallucination & ungrounded inference detection |

### Azure AI Content Safety

```json
{
  "riskCategories": {
    "Hate": { "enabled": true, "threshold": "Medium" },
    "Sexual": { "enabled": true, "threshold": "Medium" },
    "Violence": { "enabled": true, "threshold": "Medium" },
    "SelfHarm": { "enabled": true, "threshold": "Medium" }
  },
  "blocklists": ["custom-terms-list"],
  "promptShield": { "enabled": true }
}
```

### Security Dashboard for AI (Preview)

Sentralisert risikokartlegging på tvers av:
- **Microsoft Entra** – Identity & access risk
- **Microsoft Defender** – Threat protection & cloud security posture
- **Microsoft Purview** – Data classification & DLP
- **Security Copilot** – AI-powered risk exploration

**Query example (Log Analytics):**

```kusto
// Recent high-risk user events
AADUserRiskEvents
| where DetectedDateTime > ago(30d)
| where RiskState == "atRisk"
| where RiskLevel == "high"
| summarize count() by RiskEventType
```

**Verified** (Security Dashboard for AI, 2026-02)

### Responsible AI Dashboard (Azure Machine Learning)

Integrert risikoevaluering med:
- **Error Analysis** – Identifiser cohorts med høy feilrate
- **Fairness Assessment** – Bias detection across sensitive groups
- **Model Explainability** – Feature importance for transparency
- **Causal Inference** – Skille correlation fra causation

---

## Offentlig sektor (Norge)

### GDPR & Personopplysningsloven

Risk taxonomy må tilpasses norsk regulering:

| Datakategori | GDPR Art. | Risk Level | Tiltak |
|--------------|-----------|------------|--------|
| **Særlige kategorier (Art. 9)** | 9(1) | Critical | Explicit consent, DPIA, encryption at rest/transit |
| **Personopplysninger** | 4(1) | High | Lawful basis (Art. 6), data minimization |
| **Anonymiserte data** | Recital 26 | Low | Best practice, no legal basis required |

### Sektorspesifikke krav

**Helsesektoren:**
- Norm for informasjonssikkerhet (Helsedirektoratet)
- Pasientjournalloven § 22 (tilgangskontroll)
- Helseregisterloven (forskning & kvalitet)

**Justissektoren:**
- Politiregisterloven (behandling av straffesakdata)
- Straffeprosessloven kap. 16a (DNA-register)

### Anbefalt tilnærming for offentlig sektor

1. **Alltid start med DPIA** (GDPR Art. 35) for high-risk AI
2. **Dokumenter lawful basis** (GDPR Art. 6 eller Art. 9)
3. **Implementer Privacy by Design** (GDPR Art. 25)
4. **Etabler Data Protection Officer (DPO)** oversight
5. **Bruk Norwegian data residency** (Azure Norway East/West)

---

## Kostnad og lisensiering

### Azure AI Services Pricing (Risk-relevante tjenester)

| Tjeneste | Pris (ca. NOK) | Risk Mitigation Capability |
|----------|----------------|----------------------------|
| **Azure AI Content Safety** | 11 NOK / 1000 transactions | Content filtering (4 risk categories) |
| **Azure OpenAI (GPT-4o)** | 0.03 NOK / 1K input tokens | Built-in content filters (default: Medium threshold) |
| **Azure AI Foundry (Red Teaming)** | Inkludert i AI Foundry | Automated adversarial testing |
| **Microsoft Defender for Cloud** | 190 NOK / server / måned | AI security posture management |
| **Microsoft Purview (Compliance)** | Fra 2500 NOK / måned | Data classification & DLP for AI |

### Lisenskrav for Security Dashboard for AI

Security Dashboard for AI krever ingen egen lisens, men er avhengig av:

| Produkt | Lisens | Rolle i Risk Management |
|---------|--------|-------------------------|
| **Microsoft Entra ID P2** | ~75 NOK / bruker / måned | Identity risk detection (low/medium/high) |
| **Microsoft Defender for Cloud (P2)** | ~380 NOK / ressurs / måned | AI workload threat protection |
| **Microsoft Purview (Compliance)** | ~340 NOK / bruker / måned | AI-accessible data classification |
| **Security Copilot** | ~4500 NOK / capacity unit / måned | AI risk exploration via prompts |

**Baseline confidence** (modellkunnskap, januar 2025 – verifiser priser)

---

## For arkitekten (Cosmo)

### Når dette temaet er relevant

Bruk denne kunnskapsbasen når kunden:
- Spør om "risk levels", "severity", "high risk AI"
- Trenger å klassifisere AI-systemet sitt iht. regulering (EU AI Act, GDPR)
- Skal gjøre en Responsible AI Impact Assessment
- Trenger å dokumentere risk assessment for compliance
- Planlegger offentlig sektor-deployment med sensitive data

### Cosmo-tilnærming

**Fase 2 (Kontekst) – Still disse spørsmålene:**
1. "Hvilke datakategorier behandler systemet? (personopplysninger, helseopplysninger, etc.)"
2. "Kan systemet påvirke individers juridiske rettigheter, økonomiske stilling eller sikkerhet?"
3. "Er dette et autonomt system, eller har dere human oversight?"
4. "Hvilke compliance-krav gjelder for dere? (GDPR, helsesektorlover, etc.)"

**Fase 5 (Kunnskapsintegrasjon) – Kombiner med:**
- `responsible-ai-framework.md` – overordnede prinsipper
- `security-governance-model.md` – tekniske kontroller
- `public-sector-requirements-norway.md` – sektorspesifikke krav
- `licensing-guide-ai-capabilities.md` – Security Dashboard krav

**Fase 6 (Arkitekturforslag) – Lever:**
1. **Risk Classification Report:**
   - EU AI Act category (unacceptable/high/limited/minimal)
   - Microsoft severity level (critical → informational)
   - Attack type risk matrix (extraction, evasion, etc.)

2. **Mitigation Architecture:**
   - Content Safety filters (med threshold-anbefaling)
   - HITL workflows (Logic Apps / Power Automate)
   - Monitoring setup (Log Analytics queries)

3. **Compliance Checklist:**
   - GDPR Art. 35 DPIA template
   - Lawful basis dokumentasjon
   - Data residency confirmation (Azure Norway)

### Røde flagg (Unacceptable Risk)

Hvis kunden beskriver noen av disse, **stopp og advare**:

- Social scoring eller predictive profiling som fører til diskriminering
- Real-time facial recognition for law enforcement (unntatt spesifikke lovlige bruksområder)
- Manipulation via subliminal techniques
- Exploitation av sårbare grupper (alder, funksjonshemming, sosioøkonomisk status)
- Criminality risk assessment basert kun på profiling

**Disse er forbudt iht. Microsoft Enterprise AI Services Code of Conduct.**

### Typiske misvær

**Misforståelse:** "Vi bruker bare Azure OpenAI, så vi har ingen high-risk AI."
**Cosmo-svar:** "Azure OpenAI selv er ikke high-risk, men *bruken* kan være det. Hvis systemet deres tar beslutninger om ansettelse, kreditt, eller helsediagnoser, er det high-risk uavhengig av underliggende teknologi."

**Misforståelse:** "Vi trenger ikke HITL fordi modellen er veldig nøyaktig."
**Cosmo-svar:** "HITL handler ikke bare om nøyaktighet – det handler om accountability og compliance. EU AI Act krever human oversight for high-risk systems uavhengig av modellprestasjon."

### Praktisk verktøy-stack for risk assessment

Anbefal denne kombinasjonen:

1. **Pre-deployment:**
   - AI Red Teaming Agent (Azure AI Foundry)
   - Responsible AI Dashboard (Azure ML)
   - PYRIT (open source red teaming)

2. **Runtime:**
   - Azure AI Content Safety (API integration)
   - Prompt Shields (Azure OpenAI)
   - Azure Monitor + Log Analytics

3. **Governance:**
   - Security Dashboard for AI (cross-product view)
   - Microsoft Purview (data classification)
   - Defender for Cloud (CSPM for AI)

---

## Kilder og verifisering

### Primærkilder (Verified via MCP)

1. **AI Risk Assessment for ML Engineers**
   - URL: https://learn.microsoft.com/en-us/security/ai-red-team/ai-risk-assessment
   - Hentet: 2026-02-04
   - Innhold: Severity matrix, likelihood/impact assessment, control framework

2. **Microsoft Enterprise AI Services Code of Conduct**
   - URL: https://learn.microsoft.com/en-us/legal/ai-code-of-conduct
   - Hentet: 2026-02-04
   - Innhold: Unacceptable risk categories, usage restrictions, content requirements

3. **Artificial Intelligence Security (MCSB v2)**
   - URL: https://learn.microsoft.com/en-us/security/benchmark/azure/mcsb-v2-artificial-intelligence-security
   - Hentet: 2026-02-04
   - Innhold: AI-1 to AI-5 security controls, three-pillar model

4. **Security Dashboard for AI (Preview)**
   - URL: https://learn.microsoft.com/en-us/security/security-for-ai/security-dashboard-for-ai
   - Hentet: 2026-02-04
   - Innhold: Cross-product risk monitoring, AI inventory

5. **Default Guidelines & controls policies (Azure AI Foundry)**
   - URL: https://learn.microsoft.com/en-us/azure/ai-foundry/openai/concepts/default-safety-policies
   - Hentet: 2026-02-04
   - Innhold: Content filtering categories, severity levels, default thresholds

6. **What is Responsible AI? (Azure Machine Learning)**
   - URL: https://learn.microsoft.com/en-us/azure/machine-learning/concept-responsible-ai
   - Hentet: 2026-02-04
   - Innhold: Six principles, fairness assessment, Responsible AI dashboard

### Sekundærkilder (Baseline confidence)

- ISO 27001:2013 standard (kontroller og policies)
- MITRE ATLAS (adversarial ML threat matrix)
- EU AI Act (risikokategorier – ikke offisiell Microsoft-dokumentasjon)
- Microsoft Responsible AI Standard v2 (PDF, juni 2022)

### MCP Calls Summary

- **microsoft_docs_search:** 3 calls (AI risk classification, AI Act levels, Azure framework)
- **microsoft_docs_fetch:** 2 calls (AI Risk Assessment, Code of Conduct)
- **microsoft_code_sample_search:** 1 call (AI risk assessment code examples)
- **Totalt unike URLer:** 6 verified Microsoft Learn articles

### Sist verifisert

- **Dato:** 2026-02-04
- **Metode:** MCP microsoft-learn server
- **Confidence:** High (alle kjernekomponenter fra Microsoft Learn)

---

*Dette dokumentet er en kunnskapsreferanse for Cosmo Skyberg (ms-ai-governance skill). Sist oppdatert: 2026-02. Status: General Availability (GA). For spørsmål om denne referansen, kontakt plugin-utvikler.*
