refactor(examples): replace sector-specific example material with generic, fictitious examples
Reference files, test fixtures, the playground demo project and one design document now use generic, fictitious examples (buildings, energy, water, grants, municipal services). The playground demo (17 fixtures plus the embedded demo state) tells one consistent story: a municipal customer chatbot that pre-screens housing-benefit applications, classified under Annex III point 5(a). The embedded demo copies were edited in place rather than regenerated, because they already carry newer AI Act dates than the fixture files. Legal text is unchanged. Test semantics are unchanged. Four dark-theme onboarding screenshots with outdated placeholder text are removed. Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
This commit is contained in:
parent
ced0c5f46d
commit
544934dc57
77 changed files with 363 additions and 368 deletions
|
|
@ -1,7 +1,7 @@
|
|||
# EU AI Act — Klassifisering: Acme Kunde-chatbot
|
||||
|
||||
System: Acme Kunde-chatbot (Acme Kommune)
|
||||
Beskrivelse: AI-system som identifiserer objekter som krever oppfølging via sensordata + objektregister
|
||||
Beskrivelse: Innbyggerchatbot som svarer på henvendelser og forhåndsvurderer søknader om kommunal bostøtte via vedleggstolkning + oppslag i fagsystemet
|
||||
|
||||
## Risikonivå
|
||||
|
||||
|
|
@ -13,7 +13,7 @@ Rolle: Provider og Deployer (utvikler internt + drifter selv)
|
|||
|
||||
## Begrunnelse
|
||||
|
||||
Reasoning: Systemet brukes av offentlig myndighet for håndheving av lov, og påvirker individers rettigheter direkte gjennom automatisert beslutningsstøtte for håndtering. Dette plasserer systemet under Annex III, punkt 6 (rettshåndhevelse) og krever full høyrisiko-compliance per Art. 6(2).
|
||||
Reasoning: Systemet brukes av offentlig myndighet til å vurdere om innbyggere har rett til en offentlig ytelse, og påvirker individers rettigheter direkte gjennom automatisert beslutningsstøtte for saksbehandlingen. Dette plasserer systemet under Annex III, punkt 5(a) (tilgang til offentlige ytelser og tjenester) og krever full høyrisiko-compliance per Art. 6(2).
|
||||
|
||||
## Forpliktelser
|
||||
|
||||
|
|
|
|||
|
|
@ -13,8 +13,8 @@ Vurderingsprosedyre: Annex VI (intern kontroll)
|
|||
| Logging av hendelser implementert | bestått | OpenTelemetry-spans i Azure Monitor |
|
||||
| Transparens-instruksjoner skrevet | avvist | Skal leveres innen 2026-09-01 |
|
||||
| Menneskelig oversikt på saksbehandler | bestått | Workflow-design godkjent av juridisk |
|
||||
| Nøyaktighetsmål dokumentert | betinget | 96.3% overall, men ikke per objekt-ID-region |
|
||||
| Robusthet under adversarielle forhold | betinget | Test-suite mangler skitne plater og natt-scenarier |
|
||||
| Nøyaktighetsmål dokumentert | betinget | 96.3% overall, men ikke per språkgruppe |
|
||||
| Robusthet under adversarielle forhold | betinget | Test-suite mangler skannede, skjeve og håndskrevne vedlegg |
|
||||
| Cybersikkerhetstiltak per Art. 15 | bestått | NSM Grunnprinsipper-vurdering bestått |
|
||||
| Conformity assessment underskrevet | avvist | Avhengig av FRIA-resultat |
|
||||
| EU declaration of conformity utstedt | avvist | Avhenger av Art. 47 |
|
||||
|
|
|
|||
|
|
@ -18,7 +18,7 @@ Valuta: NOK
|
|||
|-----------|-------------------|
|
||||
| Azure AI Services (OCR + classification) | 64 000 |
|
||||
| Azure OpenAI (forklaringsmodell) | 28 000 |
|
||||
| Azure AI Search (indeks for objektregister) | 12 000 |
|
||||
| Azure AI Search (indeks for regelverk og tjenesteinformasjon) | 12 000 |
|
||||
| Storage (blob + cosmos for audit) | 8 500 |
|
||||
| Compute (Container Apps for orchestration) | 11 000 |
|
||||
| Networking (Private Endpoints + egress) | 5 200 |
|
||||
|
|
@ -35,13 +35,13 @@ Valuta: NOK
|
|||
|
||||
## Kostnadsdrivere
|
||||
|
||||
- Datavolum: ~12 millioner Acme Kunde-chatbot-deteksjoner/mnd
|
||||
- Forklaring-prompt-tokens: ~250 tokens per flagged hendelse
|
||||
- Datavolum: ~1,2 millioner chatbot-meldinger og vedlegg/mnd
|
||||
- Forklaring-prompt-tokens: ~250 tokens per flaggede søknad
|
||||
- Reservert kapasitet for 99.9% SLA
|
||||
|
||||
## Konfidensgradering
|
||||
|
||||
P50 er beregnet med 95% konfidens basert på 6 måneder pilot-data. P90 inkluderer 2× volum-skalering ved fullnasjonal utrulling. P10 forutsetter optimaliserte prompt-cache (>40% hit-rate).
|
||||
P50 er beregnet med 95% konfidens basert på 6 måneder pilot-data. P90 inkluderer 2× volum-skalering ved utvidelse til flere tjenesteområder. P10 forutsetter optimaliserte prompt-cache (>40% hit-rate).
|
||||
|
||||
## Anbefaling
|
||||
|
||||
|
|
|
|||
|
|
@ -7,12 +7,12 @@ Metodikk: Datatilsynets veileder + ISO/IEC 29134
|
|||
|
||||
| Trussel | Sannsynlighet | Konsekvens | Score | Nivå |
|
||||
|---------|---------------|------------|-------|------|
|
||||
| Feilaktig objekt-ID-tolkning fører til urettmessig sanksjon | 3 | 4 | 12 | medium |
|
||||
| Massiv lokasjonsdata-lekkasje fra objektregister | 2 | 5 | 10 | medium |
|
||||
| AI-forklaring viser sensitiv kontekst om eier | 3 | 3 | 9 | medium |
|
||||
| Stratifisert bias mot utenlandske objekt-ID | 4 | 3 | 12 | medium |
|
||||
| Fysisk angrep på sensordata skaper deteksjonshull | 2 | 2 | 4 | low |
|
||||
| Insider-misbruk for sporing av enkeltpersoner | 2 | 5 | 10 | medium |
|
||||
| Feilaktig vedleggstolkning fører til urettmessig avslag | 3 | 4 | 12 | medium |
|
||||
| Massiv lekkasje av økonomiopplysninger fra fagsystemet | 2 | 5 | 10 | medium |
|
||||
| AI-forklaring viser sensitiv kontekst om søker | 3 | 3 | 9 | medium |
|
||||
| Stratifisert bias mot henvendelser på andre språk | 4 | 3 | 12 | medium |
|
||||
| Manipulerte vedlegg skaper vurderingshull | 2 | 2 | 4 | low |
|
||||
| Insider-misbruk for oppslag på enkeltpersoner | 2 | 5 | 10 | medium |
|
||||
| Auto-flagging utløser kjedereaksjon ved system-feil | 1 | 5 | 5 | low |
|
||||
| Subject Access Request (GDPR Art. 15) ignoreres | 3 | 3 | 9 | medium |
|
||||
|
||||
|
|
@ -20,10 +20,10 @@ Metodikk: Datatilsynets veileder + ISO/IEC 29134
|
|||
|
||||
| ID | Beskrivelse | Severity | Tiltak |
|
||||
|----|-------------|----------|--------|
|
||||
| T-001 | Feilaktig OCR av objekt-ID | high | Konfidensgrad-cutoff på 0.95; saksbehandler-review under cutoff |
|
||||
| T-002 | Lokasjonsdata-lekkasje | critical | Pseudonymisering ved lagring; HSM-backed nøkler i Azure Key Vault |
|
||||
| T-001 | Feilaktig OCR av vedlegg | high | Konfidensgrad-cutoff på 0.95; saksbehandler-review under cutoff |
|
||||
| T-002 | Lekkasje av økonomiopplysninger | critical | Pseudonymisering ved lagring; HSM-backed nøkler i Azure Key Vault |
|
||||
| T-003 | Kontekst-eksponering i AI-forklaring | high | Filter på sensitive felt; kontekst kun til autorisert saksbehandler |
|
||||
| T-004 | Bias mot utenlandske registre | high | Kvartalsvis stratifisert testing; juster modell ved >5% avvik |
|
||||
| T-004 | Bias mot henvendelser på andre språk | high | Kvartalsvis stratifisert testing; juster modell ved >5% avvik |
|
||||
| T-005 | Insider-misbruk | critical | Audit-logging på alle oppslag; SIEM-deteksjon av unormale mønstre |
|
||||
|
||||
## Tiltak
|
||||
|
|
|
|||
|
|
@ -8,16 +8,16 @@ Hjemmel: EU AI Act Art. 27 (obligatorisk for offentlig sektor)
|
|||
| Rettighet | Impact | Tiltak |
|
||||
|-----------|--------|--------|
|
||||
| Menneskeverd | 1 | Ingen reduksjon — saksbehandler tar endelig avgjørelse, ikke AI |
|
||||
| Rett til frihet og sikkerhet | 1 | Ingen frihetsberøvelse direkte fra AI; politi/domstol er reell beslutter |
|
||||
| Respekt for privatliv | 4 | Massiv overvåking via veikameraer — kompenseres med strenge oppbevaringsregler (90 dager), formålsbegrensning, og minimering av kobling til objektregister |
|
||||
| Rett til frihet og sikkerhet | 0 | Ikke berørt — systemet vurderer bare søknader om en økonomisk ytelse |
|
||||
| Respekt for privatliv | 4 | Samtaler og vedlegg inneholder ofte helse-, familie- og økonomiopplysninger som innbyggere oppgir fritt — kompenseres med strenge oppbevaringsregler (90 dager for samtalelogger), formålsbegrensning, og minimering av kobling til fagsystemet |
|
||||
| Personvern | 4 | DPIA gjennomført; Datatilsynet konsultert; rettslig grunnlag i interne retningslinjer §13 — likevel høy impact pga skala |
|
||||
| Ikke-diskriminering | 3 | Algoritmisk bias-testing på objekt-ID fra utenlandske registre (lavere Acme Kunde-chatbot-nøyaktighet) — kvartalsvis review |
|
||||
| Ikke-diskriminering | 3 | Algoritmisk bias-testing på henvendelser og vedlegg på andre språk enn norsk (lavere tolkningsnøyaktighet) — kvartalsvis review |
|
||||
| Ytringsfrihet og informasjonsfrihet | 0 | Ikke berørt |
|
||||
| Forsamlingsfrihet | 0 | Ikke berørt |
|
||||
| Religionsfrihet | 0 | Ikke berørt |
|
||||
| Eiendomsrett | 2 | Gebyr/sanksjoner berører eiendomsrett — kompenseres med klagemulighet og rettslig prøving |
|
||||
| Rett til sosial sikring | 2 | Feilaktig forhåndsvurdering kan forsinke en ytelse — kompenseres med at saksbehandler vurderer hver søknad, og med klagemulighet |
|
||||
| Rett til effektivt rettsmiddel | 2 | Klageadgang sikret; menneskelig review garantert; AI-forklaring tilgjengelig for klager |
|
||||
| Barns rettigheter | 1 | Lav direkte påvirkning; barn er sjelden registrerte førere |
|
||||
| Barns rettigheter | 1 | Lav direkte påvirkning; barn søker ikke selv, men bor i husstander som søker |
|
||||
| Eldres rettigheter | 2 | Eldre kan ha vanskeligere for å klage digitalt — papir-klage må fortsatt være tilgjengelig |
|
||||
|
||||
## Konklusjon
|
||||
|
|
|
|||
|
|
@ -7,7 +7,7 @@ Vurderingsdato: 2026-04-30
|
|||
|
||||
| Kapabilitet | M365 E3 | M365 E5 | Copilot for M365 | Copilot Studio | Azure AI Foundry |
|
||||
|-------------|---------|---------|------------------|----------------|------------------|
|
||||
| OCR av objekt-ID | missing | missing | missing | conditional | available |
|
||||
| OCR av vedlegg | missing | missing | missing | conditional | available |
|
||||
| Custom modell-trening | missing | missing | missing | missing | available |
|
||||
| Audit-logging på AI-input | missing | available | available | available | available |
|
||||
| Customer-managed keys | missing | available | conditional | conditional | available |
|
||||
|
|
|
|||
|
|
@ -28,13 +28,13 @@ Varighet: 8 uker
|
|||
Status: done
|
||||
|
||||
Milepæler:
|
||||
- Treningsdata kuratert (200k norske objekt-ID, stratifisert)
|
||||
- Treningsdata kuratert (200k anonymiserte vedlegg, stratifisert på dokumenttype og språk)
|
||||
- Custom modell trent på Azure ML
|
||||
- Baseline-nøyaktighet etablert (mål: ≥96% F1)
|
||||
- Bias-evaluering på utenlandske registre fullført
|
||||
- Bias-evaluering på henvendelser og vedlegg på andre språk fullført
|
||||
|
||||
Suksesskriterier:
|
||||
- F1 ≥ 96% overall, ≥ 92% per objekter-segment
|
||||
- F1 ≥ 96% overall, ≥ 92% per dokumenttype
|
||||
- Drift-deteksjon kalibrert med terskel
|
||||
- ROS-revisjon godkjent
|
||||
|
||||
|
|
@ -46,8 +46,8 @@ Status: active
|
|||
Milepæler:
|
||||
- Forklaringsmodell (GPT-4 Turbo) integrert via Foundry
|
||||
- saksbehandler-UI bygget (Copilot Studio + Power Platform)
|
||||
- Workflow: AI flagger → saksbehandler reviewer → klar for sanksjon
|
||||
- Brukertest med 12 saksbehandler fra ulike regioner
|
||||
- Workflow: AI flagger → saksbehandler reviewer → klar for vedtak
|
||||
- Brukertest med 12 saksbehandlere fra ulike tjenesteområder
|
||||
|
||||
Suksesskriterier:
|
||||
- Saksbehandlingstid -40% vs baseline
|
||||
|
|
@ -63,7 +63,7 @@ Milepæler:
|
|||
- FRIA gjennomført og godkjent
|
||||
- Conformity assessment ferdigstilt per Annex VI
|
||||
- DPIA oppdatert med nye operasjonelle data
|
||||
- Produksjonssetting til 3 piloter (Oslo, Bergen, Trondheim)
|
||||
- Produksjonssetting i 3 pilotbydeler
|
||||
|
||||
Suksesskriterier:
|
||||
- Personvernombud signerer DPIA
|
||||
|
|
|
|||
|
|
@ -13,7 +13,7 @@ Status: done
|
|||
Milepæler:
|
||||
- Foundry hub + project i West Europe
|
||||
- Identity og networking konfigurert
|
||||
- Sample-data uploadet (10k anonymiserte objekt-ID)
|
||||
- Sample-data uploadet (10k anonymiserte vedlegg)
|
||||
|
||||
Suksesskriterier:
|
||||
- Inferens-endpoint nåbart fra dev-Vnet via Private Endpoint
|
||||
|
|
@ -27,7 +27,7 @@ Status: active
|
|||
|
||||
Milepæler:
|
||||
- Pre-trent Azure AI Vision OCR pilotert
|
||||
- Custom fine-tune på 10k objekt-ID
|
||||
- Custom fine-tune på 10k vedlegg
|
||||
- Sammenligning av accuracy/latency mellom de to
|
||||
|
||||
Suksesskriterier:
|
||||
|
|
|
|||
|
|
@ -12,7 +12,7 @@ Klassifisering: høy risiko, rolle Provider+Deployer
|
|||
| Teknisk dokumentasjon (Annex IV) komplett | partial | Art. 11 |
|
||||
| Automatisk logging av hendelser implementert | met | Art. 12 |
|
||||
| Transparens-instruksjoner for deployer skrevet | missing | Art. 13 |
|
||||
| Human-in-the-loop på alle sanksjonsavgjørelser | met | Art. 14 |
|
||||
| Human-in-the-loop på alle vedtak om avslag | met | Art. 14 |
|
||||
| Nøyaktighetsmål med stratifisert testing | partial | Art. 15 |
|
||||
| Cybersikkerhetstiltak verifisert (NSM Grunnprinsipper) | met | Art. 15 |
|
||||
| FRIA gjennomført før idriftsettelse | missing | Art. 27 |
|
||||
|
|
|
|||
|
|
@ -16,7 +16,7 @@ Reviewers: AI-arkitekt, sikkerhetsarkitekt, Datatilsynet
|
|||
| F-06 | medium | review | Compliance | FRIA-rapport ikke vedlikeholdt etter modell-endring 2026-03-12. Re-evaluering trengs. |
|
||||
| F-07 | medium | keep | UX | saksbehandler-grensesnitt viser ikke konfidensgrad tydelig nok — risiko for over-trust på AI-output. |
|
||||
| F-08 | low | suppressed | Documentation | README mangler oppdatert arkitekturdiagram (siste fra 2025-11). |
|
||||
| F-09 | low | suppressed | Testing | Manglende E2E-test for utenlandske objekt-ID. |
|
||||
| F-09 | low | suppressed | Testing | Manglende E2E-test for henvendelser på andre språk. |
|
||||
|
||||
## Sammendrag
|
||||
|
||||
|
|
|
|||
|
|
@ -8,13 +8,13 @@ Metodikk: NS 5814 / ISO 31000 + AI-trusselbibliotek
|
|||
| Trussel | Sannsynlighet | Konsekvens | Score | Nivå |
|
||||
|---------|---------------|------------|-------|------|
|
||||
| Modell-drift som degraderer nøyaktighet | 4 | 3 | 12 | medium |
|
||||
| Treningsdata-bias mot småbiler eller MC | 3 | 3 | 9 | medium |
|
||||
| Adversarielle plate-design unngår OCR | 2 | 4 | 8 | medium |
|
||||
| Treningsdata-bias mot nynorsk og andre språk | 3 | 3 | 9 | medium |
|
||||
| Manipulerte vedlegg unngår OCR-kontroll | 2 | 4 | 8 | medium |
|
||||
| API-utilgjengelighet i kritisk periode | 2 | 4 | 8 | medium |
|
||||
| Klage-saksbehandling overbelastet ved skalering | 4 | 3 | 12 | medium |
|
||||
| Datatap pga manglende georedundans | 1 | 5 | 5 | low |
|
||||
| Misbruk av AI-forklaring som bevis | 3 | 4 | 12 | medium |
|
||||
| Kjedevirkning ved feil i objektregister | 2 | 5 | 10 | medium |
|
||||
| Misbruk av AI-forklaring som vedtaksbegrunnelse | 3 | 4 | 12 | medium |
|
||||
| Kjedevirkning ved feil i fagsystemet | 2 | 5 | 10 | medium |
|
||||
|
||||
## Radar-akser (7 dimensjoner)
|
||||
|
||||
|
|
@ -33,8 +33,8 @@ Metodikk: NS 5814 / ISO 31000 + AI-trusselbibliotek
|
|||
| ID | Beskrivelse | Severity | Tiltak |
|
||||
|----|-------------|----------|--------|
|
||||
| T-101 | Modell-drift over tid | high | Månedlig retraining-pipeline; alarm ved >2% nøyaktighetsfall |
|
||||
| T-102 | Bias mot småbiler/MC | high | Stratifisert evaluering ved hver release |
|
||||
| T-103 | Adversarielle plate-design | medium | Robusthetstest mot kjente angreps-mønstre |
|
||||
| T-102 | Bias mot nynorsk og andre språk | high | Stratifisert evaluering ved hver release |
|
||||
| T-103 | Manipulerte vedlegg | medium | Robusthetstest mot kjente angreps-mønstre |
|
||||
| T-104 | API-utilgjengelighet | medium | Multi-region failover med RTO 1t |
|
||||
| T-105 | Saksbehandlings-overbelastning | high | Automatisk batching + prioriteringsregler |
|
||||
|
||||
|
|
@ -54,9 +54,9 @@ Metodikk: NS 5814 / ISO 31000 + AI-trusselbibliotek
|
|||
|----|---------|-------|----------|
|
||||
| T-101 | Modell-drift over tid | 12 | high |
|
||||
| T-105 | Saksbehandlings-overbelastning | 12 | high |
|
||||
| T-107 | Misbruk av AI-forklaring som bevis | 12 | high |
|
||||
| T-108 | Kjedevirkning ved feil i objektregister | 10 | high |
|
||||
| T-103 | Bias mot småbiler/MC | 9 | medium |
|
||||
| T-107 | Misbruk av AI-forklaring som vedtaksbegrunnelse | 12 | high |
|
||||
| T-108 | Kjedevirkning ved feil i fagsystemet | 10 | high |
|
||||
| T-103 | Bias mot nynorsk og andre språk | 9 | medium |
|
||||
|
||||
Restrisiko: 4×3 → 2×2
|
||||
|
||||
|
|
|
|||
|
|
@ -29,12 +29,12 @@ Arkitekturen er teknisk solid og økonomisk forsvarlig (P50 NOK 1.7M/år), men c
|
|||
- Lukk F-01 (ABAC) innen 2026-06-15
|
||||
- Gjennomfør FRIA innen 2026-07-15 (Art. 27-frist)
|
||||
- Produksjonsdokumentere transparens-instruksjoner innen 2026-09-01
|
||||
- Pilot 3 regioner (Oslo, Bergen, Trondheim) Q4 2026
|
||||
- Pilot i 3 bydeler Q4 2026
|
||||
- Full utrulling Q2 2027
|
||||
|
||||
## Restrisiko
|
||||
|
||||
Etter foreslåtte tiltak: medium. Hovedeksponering: bias mot utenlandske objekt-ID krever løpende monitoring.
|
||||
Etter foreslåtte tiltak: medium. Hovedeksponering: bias mot henvendelser på andre språk enn norsk krever løpende monitoring.
|
||||
|
||||
## Anbefaling
|
||||
|
||||
|
|
|
|||
|
|
@ -1,18 +1,18 @@
|
|||
# Transparensnotis — Acme Kunde-chatbot
|
||||
|
||||
Tittel: Informasjon om automatisert operasjonell analyse (Art. 13 og Art. 50)
|
||||
Tittel: Informasjon om automatisert forhåndsvurdering av søknader (Art. 13 og Art. 50)
|
||||
|
||||
## Hva systemet gjør
|
||||
|
||||
Acme Kommune bruker et AI-system som leser av objekt-ID (Acme Kunde-chatbot — automatisert klassifisering) fra sensordata langs produksjonsmiljøet. Systemet identifiserer objekter som har overtrådt terskelverdi gjennom å beregne gjennomsnittlig respons mellom to datapunkt.
|
||||
Acme Kommune bruker et AI-system (Acme Kunde-chatbot) som svarer på spørsmål om kommunale tjenester og leser vedlegg du laster opp med en søknad om bostøtte. Systemet vurderer om søknaden er komplett, og om inntekt og boutgifter ser ut til å ligge innenfor vilkårene.
|
||||
|
||||
## Hvilke data som behandles
|
||||
|
||||
Behandlede data inkluderer objekt-ID, tidsstempel, datapunkt, objektklasse og oppslag i Acme Kommune objektregister. Personlig identifiserbar informasjon kobles ikke til oppføring uten saksbehandler eksplisitte godkjenning.
|
||||
Behandlede data inkluderer det du skriver i chatten, opplastede vedlegg, saksnummer, tidsstempel og oppslag i Acme Kommunes fagsystem for bostøtte. Samtalen kobles ikke til søknaden din uten at du samtykker til det i chatten.
|
||||
|
||||
## Hvordan beslutninger tas
|
||||
|
||||
Systemet er beslutningsstøtte, ikke -taker. Hver flagged hendelse går til menneskelig saksbehandler som tar endelig avgjørelse om gebyr eller anmeldelse. AI-output inkluderer konfidensgrad og forklaring av hvorfor saken ble flagget.
|
||||
Systemet er beslutningsstøtte, ikke -taker. Hver flaggede søknad går til en menneskelig saksbehandler som fatter vedtaket. AI-output inkluderer konfidensgrad og forklaring av hvorfor saken ble flagget.
|
||||
|
||||
## Dine rettigheter
|
||||
|
||||
|
|
|
|||
|
|
@ -2,7 +2,7 @@
|
|||
|
||||
## 1. Bakgrunn og formål
|
||||
|
||||
Acme Kommune har siden 2018 driftet en on-prem Acme Kunde-chatbot-løsning for operasjonell analyse på tvers av leverandørens tjenesteportefølje. Løsningen er basert på et OCR-bibliotek fra 2017 og leveres som et lukket system uten mulighet for retrening eller forbedring av modell. Saksbehandlingen er manuell og tar i snitt 14 minutter per sak. Et internt AI-team utreder modernisering til en skybasert AI-plattform som støtter custom modell-trening, audit-logging på inferens-nivå, og saksbehandler-co-pilot.
|
||||
Acme Kommune har siden 2018 driftet en on-prem Acme Kunde-chatbot-løsning for forhåndsvurdering av søknader på tvers av kommunens tjenesteportefølje. Løsningen er basert på et OCR-bibliotek fra 2017 og leveres som et lukket system uten mulighet for retrening eller forbedring av modell. Saksbehandlingen er manuell og tar i snitt 14 minutter per sak. Et internt AI-team utreder modernisering til en skybasert AI-plattform som støtter custom modell-trening, audit-logging på inferens-nivå, og saksbehandler-co-pilot.
|
||||
|
||||
## 2. Mandat
|
||||
|
||||
|
|
@ -17,7 +17,7 @@ Utredningen skal:
|
|||
|
||||
Utredningen kombinerer:
|
||||
- Kvalitativ analyse av compliance-krav per relevante lover og forskrifter
|
||||
- Kvantitativ TCO-analyse basert på 12 millioner Acme Kunde-chatbot-deteksjoner/mnd
|
||||
- Kvantitativ TCO-analyse basert på 1,2 millioner chatbot-meldinger og vedlegg/mnd
|
||||
- Risikoanalyse per NS 5814 og DPIA per Datatilsynets veileder
|
||||
- Markedsundersøkelse av tilgjengelige plattformer fra Azure, AWS og GCP
|
||||
|
||||
|
|
@ -25,7 +25,7 @@ Utredningen kombinerer:
|
|||
|
||||
### 4.1 Compliance
|
||||
|
||||
EU AI Act klassifiserer systemet som høyrisiko (Annex III, punkt 6 — rettshåndhevelse). Acme Kommune er Provider og Deployer, hvilket trigger alle krav i Art. 9-15 + Art. 27 (FRIA) + Art. 49 (registrering).
|
||||
EU AI Act klassifiserer systemet som høyrisiko (Annex III, punkt 5(a) — tilgang til offentlige ytelser). Acme Kommune er Provider og Deployer, hvilket trigger alle krav i Art. 9-15 + Art. 27 (FRIA) + Art. 49 (registrering).
|
||||
|
||||
### 4.2 Teknologivalg
|
||||
|
||||
|
|
@ -41,7 +41,7 @@ Azure AI Foundry er anbefalt primær plattform fordi:
|
|||
|
||||
### 4.4 Risiko
|
||||
|
||||
Hovedrisiko: bias mot utenlandske objekt-ID, modell-drift over tid, og manglende ABAC-implementering på saksbehandler-tilgang. Alle har konkrete tiltak.
|
||||
Hovedrisiko: bias mot henvendelser på andre språk enn norsk, modell-drift over tid, og manglende ABAC-implementering på saksbehandler-tilgang. Alle har konkrete tiltak.
|
||||
|
||||
## 5. Konklusjon
|
||||
|
||||
|
|
|
|||
Loading…
Add table
Add a link
Reference in a new issue