ms-ai-architect/playground/test-fixtures/dpia.md
Kjell Tore Guttormsen 544934dc57
refactor(examples): replace sector-specific example material with generic, fictitious examples
Reference files, test fixtures, the playground demo project and one design
document now use generic, fictitious examples (buildings, energy, water,
grants, municipal services). The playground demo (17 fixtures plus the
embedded demo state) tells one consistent story: a municipal customer
chatbot that pre-screens housing-benefit applications, classified under
Annex III point 5(a). The embedded demo copies were edited in place rather
than regenerated, because they already carry newer AI Act dates than the
fixture files.

Legal text is unchanged. Test semantics are unchanged. Four dark-theme
onboarding screenshots with outdated placeholder text are removed.

Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
2026-09-23 14:03:53 +02:00

2 KiB
Raw Permalink Blame History

DPIA / PVK — Acme Kunde-chatbot

System: Acme Kunde-chatbot (Acme Kommune) Metodikk: Datatilsynets veileder + ISO/IEC 29134

Risikomatrise (5×5)

Trussel Sannsynlighet Konsekvens Score Nivå
Feilaktig vedleggstolkning fører til urettmessig avslag 3 4 12 medium
Massiv lekkasje av økonomiopplysninger fra fagsystemet 2 5 10 medium
AI-forklaring viser sensitiv kontekst om søker 3 3 9 medium
Stratifisert bias mot henvendelser på andre språk 4 3 12 medium
Manipulerte vedlegg skaper vurderingshull 2 2 4 low
Insider-misbruk for oppslag på enkeltpersoner 2 5 10 medium
Auto-flagging utløser kjedereaksjon ved system-feil 1 5 5 low
Subject Access Request (GDPR Art. 15) ignoreres 3 3 9 medium

Trusler

ID Beskrivelse Severity Tiltak
T-001 Feilaktig OCR av vedlegg high Konfidensgrad-cutoff på 0.95; saksbehandler-review under cutoff
T-002 Lekkasje av økonomiopplysninger critical Pseudonymisering ved lagring; HSM-backed nøkler i Azure Key Vault
T-003 Kontekst-eksponering i AI-forklaring high Filter på sensitive felt; kontekst kun til autorisert saksbehandler
T-004 Bias mot henvendelser på andre språk high Kvartalsvis stratifisert testing; juster modell ved >5% avvik
T-005 Insider-misbruk critical Audit-logging på alle oppslag; SIEM-deteksjon av unormale mønstre

Tiltak

ID Tiltak Status Eier
M-001 Cutoff-konfidensgrad implementert done Tech Lead
M-002 Pseudonymisering pilotert in-progress Sikkerhetsarkitekt
M-003 Bias-test-pipeline etablert planned Data Scientist
M-004 Audit-logging utrullet done Drift
M-005 SIEM-regler kalibrert in-progress SOC

Konklusjon

Restrisiko: 4×3 → 2×2

Restrisiko etter tiltak: medium-lav. DPIA godkjent av Datatilsynet 2026-04-22.