# AI Governance Structure - Building an Organizational Framework **Dato:** 2026-02-03 **Kategori:** Responsible AI & Governance **Målgruppe:** Tekniske beslutningstakere, AI-arkitekter, governance-team **Oppdateringsfrekvens:** Kvartalsvis (Q1 2026) --- ## Introduksjon En solid AI-governancestruktur er ikke et byråkratisk lag oppå AI-utviklingen — det er fundamentet for skalerbar, trygg og etisk AI-implementering. Organisasjoner som prøver å rulle ut AI uten tydelige roller, policyer og prosesser ender med fragmenterte initiativer, inkonsistent sikkerhet og økt risiko for regulatoriske brudd. Microsoft sitt rammeverk for AI-governance kombinerer **sentralisert standardsetting** med **distribuert implementering**. Dette balanserer behovet for kontroll med behovet for agility. Plattformteamet etablerer guardrails; workload-teamene innoverer innenfor disse barrierene; AI Center of Excellence (AI CoE) sørger for kunnskap, standarder og veiledning på tvers. ### Hvorfor AI-governance er kritisk | Risiko uten governance | Konsekvens | Mitigering gjennom struktur | |------------------------|------------|---------------------------| | **Shadow AI-deployments** | Ukontrollerte kostnader, sikkerhetsrisikoer | Sentralisert AI-inventar og observability | | **Datalekkasje** | Regulatoriske bøter, omdømmetap | Data governance-lag med DLP og sensitivity labels | | **Bias og unfairness** | Diskriminering, juridiske saker | Mandatory Responsible AI assessments før produksjon | | **Manglende accountability** | Ingen vet hvem som er ansvarlig når noe går galt | Tydelig RACI-matrise fra Board til utvikler | **Konfidensgradering:** 🟢 HIGH — Microsoft sitt governance-rammeverk er dokumentert i compliance-rapporter (ISO 42001), Azure Cloud Adoption Framework og Service Trust Portal. --- ## Kjernekomponenter i AI Governance Structure ### 1. Governance-modeller: Sentralisert vs. Distribuert Organisasjoner må velge governance-modell basert på modenhet, risikoprofil og skala: | Modell | Beskrivelse | Best for | Microsoft-eksempel | |--------|-------------|----------|-------------------| | **Sentralisert** | Ett governance-team eier alle AI-policyer, godkjenninger og audits | Høyrisiko-domener (helse, finans), regulerte virksomheter | Microsoft Board → Responsible AI Council → ORA (Office of Responsible AI) | | **Distribuert** | Hvert domene (business unit, prosjekt) har egne governance-prosesser | Store organisasjoner med autonome enheter | Per-catalog ownership i Unity Catalog (Databricks-pattern) | | **Hybrid (anbefalt)** | Sentraliserte standarder + distribuert implementering | De fleste enterprise-organisasjoner | Azure landing zones: Platform team setter policies, workload teams deployer | **Microsoft sitt eget governance-rammeverk** er hybrid: - **Top-down oversight:** CEO Satya Nadella → Board of Directors Environmental, Social, and Public Policy Committee → Responsible AI Council (Brad Smith + Kevin Scott) - **Bottom-up implementering:** Federated teams (research, policy, engineering) implementerer Responsible AI Standard lokalt **For norske organisasjoner:** Start med hybrid. Etabler ett sentralt AI CoE som setter standarder, mens fagenheter implementerer AI innenfor disse rammene. ### 2. Roller og ansvar (RACI for AI) En fungerende governancestruktur krever tydelige roller. Microsoft sitt eget rammeverk (fra compliance-dokumentasjon) illustrerer dette: | Rolle | Ansvar | Eksempel (Microsoft) | Norsk tilsvarende | |-------|---------|---------------------|------------------| | **Board / Styret** | Strategisk oversight, godkjenning av AI-policy | Environmental, Social, and Public Policy Committee | Styrets revisjonsutvalg eller tilsvarende | | **Executive Sponsor** | Driving AI-adopsjon fra C-level, ressursallokering | CEO Satya Nadella, CTO Kevin Scott | CTO/CDO/CIO i norsk org | | **Responsible AI Council** | Cross-functional forum for store AI-beslutninger | Brad Smith (President) + Kevin Scott (CTO) + business leaders | AI-styringsgruppe med representanter fra IT, jus, compliance | | **Office of Responsible AI (ORA)** | Policy-utvikling, governance-strukturer, sensitive use case reviews | Microsofts dedikerte team (5 nøkkelfunksjoner) | AI CoE eller dedikert governance-team | | **AI Center of Excellence (AI CoE)** | Ekspertise-hub, standarder, opplæring | Spredt på tvers av research, engineering, policy | Sentralt kompetanseteam for AI | | **Platform Team** | Infrastruktur, guardrails, policy enforcement | Azure platform team (landing zones, Azure Policy) | IT-drift / Platform-team | | **Workload Teams** | AI-applikasjonsutvikling innenfor guardrails | Business unit-teams som bygger AI-løsninger | Fagenheter / prosjektteam | | **Data Governance Team** | Data classification, sensitivity labels, DLP policies | Microsoft Purview-admins | Data Management / GDPR-team | | **Security / SOC** | AI threat protection, incident response | Microsoft Defender for Cloud team | Sikkerhetsavdeling / SOC | **Kritisk for norsk offentlig sektor:** ORA-rollen (eller tilsvarende) må ha både teknisk ekspertise OG juridisk kompetanse for å navigere GDPR, offentlighetsloven og kommende EU AI Act-krav. ### 3. Responsible AI Standard som fundament Microsoft sitt **Responsible AI Standard** er det operative rammeverket som oversetter prinsippene til konkrete krav. Dette er IKKE bare filosofi — det er checklist, metrics og godkjenningsprosesser. **De 6 Responsible AI-prinsippene:** ``` ┌─────────────────┐ │ FAIRNESS │ → AI skal behandle alle rettferdig ├─────────────────┤ │ RELIABILITY & │ → AI skal opptre som designet, selv under stress │ SAFETY │ ├─────────────────┤ │ PRIVACY & │ → Data og modeller beskyttes, personvern respekteres │ SECURITY │ ├─────────────────┤ │ INCLUSIVENESS │ → AI skal inkludere hele spekteret av brukere ├─────────────────┤ │ TRANSPARENCY │ → AI-beslutninger skal være forståelige ├─────────────────┤ │ ACCOUNTABILITY │ → Mennesker er ansvarlige for AI-output └─────────────────┘ ``` **Implementering i organisasjonen:** 1. **Goals:** Hva betyr hvert prinsipp for oss? (Eks: "Fairness betyr at vår HR-AI ikke diskriminerer på kjønn/etnisitet") 2. **Requirements:** Hvordan oppfyller vi dette? (Eks: "Kjør bias-testing på HR-datasett før produksjon") 3. **Practices:** Konkrete verktøy/prosesser (Eks: "Bruk Azure AI Content Safety + Fairlearn for bias detection") **Pre-deployment review-prosess:** - **Alle AI-systemer** gjennomgår **Responsible AI Impact Assessment** før produksjon - **Sensitive use cases** (biometri, kritisk infrastruktur, offentlige tjenester) får hands-on counseling fra ORA/AI CoE - **High-risk systems** krever godkjenning fra Responsible AI Council eller tilsvarende senior forum ### 4. Policy-dokumentasjon AI governance policies må dokumenteres strukturert. Microsoft sitt Cloud Adoption Framework anbefaler policy-kategorier: | Policy-område | Eksempler | Microsoft-verktøy | |---------------|-----------|------------------| | **Modellutvalg og onboarding** | Godkjente modeller (GPT-4, Llama 3, etc.), vetting-prosess for nye modeller | Azure Policy for model restrictions (Foundry) | | **Tredjepartsdata og -verktøy** | Vetting av eksterne datasett, API-sikkerhet | Microsoft Purview for data classification | | **Vedlikehold og monitoring** | Retraining-frekvens, performance degradation thresholds | Azure Monitor, Application Insights | | **Regulatorisk compliance** | GDPR, EU AI Act, ISO 42001, offentlighetsloven | Microsoft Purview Compliance Manager | | **Brukeratferd** | Acceptable Use Policy, misuse detection | Content Safety filters, abuse monitoring | | **Integrasjon og utfasing** | Hvordan integrere AI i legacy-systemer, sunsetting-prosess | Azure landing zone guidance | **Mal for policy-dokument:** ```markdown # [Policy Name] **Eier:** [Rolle/team] **Godkjent av:** [Executive sponsor] **Sist oppdatert:** [Dato] ## Formål Hvorfor denne policyen eksisterer. ## Scope Hvilke AI-systemer/team dette gjelder for. ## Krav - [ ] Konkret krav 1 (testbart/målbart) - [ ] Konkret krav 2 - [ ] ... ## Enforcement - Automatisert: [Azure Policy, Purview-regel] - Manuell: [Quarterly audit, pre-deployment review] ## Unntak Hvordan søke om unntak, hvem godkjenner. ## Revisjonsfrekvens Kvartalsvis / årlig. ``` ### 5. Enforcement: Automatisering + Manuell oversikt **Automatisert enforcement:** - **Azure Policy:** Enforce model restrictions, region constraints, tagging requirements, content filter configs - **Microsoft Purview:** DLP policies, sensitivity labels, compliance scanning - **Microsoft Defender for Cloud:** AI threat protection, vulnerability scanning **Manuell enforcement:** - **Pre-deployment reviews:** AI CoE eller governance-team gjennomgår Impact Assessments - **Quarterly audits:** Periodiske compliance-sjekker - **Red team assessments:** Simulate adversarial attacks (prompt injection, jailbreaks) **Best practice:** Start med audit mode (monitor and alert) før du enforcer deny-policies. Dette gir teams tid til å tilpasse seg. ### 6. Observability og Accountability AI-systemer må være observerbare for å kunne stilles til ansvar. Microsoft sitt rammeverk krever: | Observability-komponent | Formål | Microsoft-verktøy | |-------------------------|--------|------------------| | **Unique Agent Identities** | Hver AI-agent har ID med eier, versjon, lifecycle | Microsoft Entra Agent ID | | **Centralized Logging** | Alle AI-interaksjoner logges til felles workspace | Azure Log Analytics, Application Insights | | **Cost Tracking** | Token usage, compute costs per prosjekt/team | Azure Cost Management, tagging | | **Incident Response Plan** | Hva gjør vi når AI mislykkes? | Pre-defined runbooks, eskalasjonsprosedyrer | **For Copilot for Microsoft 365:** - Prompt/response-par lagres i brukerens Exchange Online mailbox - Retention policies håndteres via Microsoft Purview - eDiscovery-støtte for audits --- ## Arkitekturmønstre ### Mønster 1: Hybrid Governance med Platform + Workload Teams Dette er det anbefalte mønsteret for de fleste organisasjoner. ``` ┌─────────────────────────────────────────────────────────────┐ │ BOARD / EXECUTIVE SPONSOR │ │ (Strategic oversight, resource allocation) │ └────────────────────┬────────────────────────────────────────┘ │ ┌───────────┴──────────┐ │ │ ┌────────▼────────┐ ┌───────▼────────┐ │ AI COUNCIL │ │ AI CoE │ │ (Cross-func │◄───┤ (Expertise, │ │ decision) │ │ standards) │ └────────┬────────┘ └───────┬────────┘ │ │ │ ┌───────────┴──────────┐ │ │ │ ┌────────▼─────────▼───────┐ ┌─────────▼──────────┐ │ PLATFORM TEAM │ │ WORKLOAD TEAMS │ │ - Landing zones │ │ - Business logic │ │ - Azure Policy │───┤ - AI apps │ │ - Guardrails │ │ - Domain data │ │ - Observability │ │ │ └──────────────────────────┘ └────────────────────┘ ``` **Ansvarsfordeling:** - **Platform Team:** Setter opp Azure landing zones, enforcer Azure Policies (f.eks. model restrictions, content filter = medium+), sørger for logging/monitoring - **Workload Teams:** Bygger AI-agenter innenfor guardrails, ansvarlig for business requirements, data curation, prompt engineering - **AI CoE:** Gir guidance til begge, driver opplæring, utvikler templates og best practices - **AI Council:** Godkjenner high-risk use cases, løser policy-konflikter ### Mønster 2: Staged Rollout med Governance Gates For store AI-initiativer (f.eks. enterprise-wide Copilot deployment), bruk staged rollout med governance checkpoints: ``` ┌──────────┐ ┌──────────┐ ┌──────────┐ ┌──────────┐ │ PHASE 1 │───▶│ PHASE 2 │───▶│ PHASE 3 │───▶│ PHASE 4 │ │ Pilot │ │ Expand │ │ Scale │ │ Optimize│ └────┬─────┘ └────┬─────┘ └────┬─────┘ └────┬─────┘ │ │ │ │ ▼ ▼ ▼ ▼ [Gate 1] [Gate 2] [Gate 3] [Gate 4] - Impact - Security - Compliance - Performance Assessment review audit review - Budget - Red team - Cost - Lessons approval testing analysis learned ``` **Gate-kriterier:** - **Gate 1:** Responsible AI Impact Assessment godkjent, budget allokert - **Gate 2:** Security review ok, red team test utført, ingen critical vulnerabilities - **Gate 3:** Compliance audit passed (GDPR, etc.), cost within budget - **Gate 4:** Performance metrics met, user feedback positive, dokumentasjon komplett ### Mønster 3: Environment-basert Governance (Azure Landing Zones) For Azure AI-workloads, bruk management group-hierarki til å separere governance-kontekster: ``` Root Management Group │ ├── Platform (felleskomponenter) │ ├── Management (logging, monitoring) │ ├── Connectivity (networking) │ └── Identity (Entra ID) │ ├── Landing Zones ├── Corp (internal AI agents) │ ├── Subscription: HR-AI │ ├── Subscription: Finance-AI │ └── [Policies: Strict data isolation, no internet egress] │ └── Online (external-facing AI agents) ├── Subscription: Customer-facing chatbot ├── Subscription: Public knowledge base └── [Policies: DLP, content filtering = high, rate limiting] ``` **Policy enforcement via Azure Policy:** - **Corp management group:** Apply policies som forbyr offentlig dataeksponering, krever private endpoints - **Online management group:** Apply DLP policies, content safety filters på "high", rate limiting --- ## Beslutningsveiledning ### Når bygge dedikert AI governance-struktur? | Scenario | Trenger dedikert struktur? | Aksjon | |----------|---------------------------|--------| | Pilot-prosjekt (1-2 AI use cases) | **Nei** | Bruk eksisterende IT governance + lightweight Responsible AI checklist | | Scale-fase (5-10+ AI use cases) | **Ja** | Etabler AI CoE, dokumenter policies, assign RACI | | Regulated industry (finans, helse, offentlig) | **Ja, fra dag 1** | Full governance-struktur med pre-deployment reviews | | High-risk use cases (biometri, autonome beslutninger) | **Ja** | Krever Responsible AI Council-godkjenning | ### Velge governance-verktøy | Behov | Microsoft-løsning | Alternativ | Anbefaling | |-------|------------------|------------|------------| | **Policy enforcement** | Azure Policy | OPA (Open Policy Agent) | Azure Policy for Azure-workloads (native integration) | | **Data governance** | Microsoft Purview | Collibra, Alation | Purview hvis du allerede er i Microsoft-stакken | | **Compliance tracking** | Microsoft Purview Compliance Manager | Manual spreadsheets | Compliance Manager (mapper regs til controls automatisk) | | **AI observability** | Microsoft Agent 365, Defender for Cloud | Custom dashboards | Agent 365 når tilgjengelig (GA), ellers Defender + Log Analytics | | **Cost management** | Azure Cost Management + Budgets | FinOps-verktøy | Azure Cost Management (gratis, native) | ### Eksempel: Governance-struktur for norske offentlige etater **Kontekst:** Offentlig virksomhet, regulert, flere AI-pilotprosjekter (chatbot, dokument-analyse, prediktive modeller for vegvedlikehold). **Anbefalt struktur:** ``` ┌─────────────────────────────────────────┐ │ DDT Direktør (Executive Sponsor) │ └──────────────┬──────────────────────────┘ │ ┌──────────┴────────┐ │ │ ┌───▼──────────┐ ┌────▼────────────┐ │ AI-styringsgr.│ │ AI CoE (KI-seksjonen)│ │ (kvartalsvis) │◄─┤ - Standards │ │ - CDO │ │ - Opplæring │ │ - IT-sjef │ │ - Consulting │ │ - Jus │ └────┬─────────────┘ │ - Compliance │ │ └───┬───────────┘ │ │ ┌───────┴─────────┐ │ │ │ ┌───▼───────────▼─┐ ┌───────────▼──────┐ │ Platform (IT) │ │ Fagenheter │ │ - Azure policy │───│ - Veg-AI team │ │ - Landing zones│ │ - Admin-AI team │ │ - Monitoring │ │ - HR-AI team │ └─────────────────┘ └──────────────────┘ ``` **Policies:** - **Pre-deployment:** Alle AI-systemer må gjennomgå Responsible AI Impact Assessment (template fra AI CoE) - **Data:** GDPR-vurdering obligatorisk, sensitive data må klassifiseres i Purview før bruk i AI - **Modeller:** Kun godkjente modeller (GPT-4, Mistral, etc. fra pre-approved list) - **Review:** AI-styringsgruppen godkjenner high-risk use cases kvartalsvis --- ## Integrasjon med Microsoft-stakken ### Azure AI Foundry **Governance-kapabiliteter:** - **Azure Policy:** Enforce model deployment policies (hvilke modeller tillates) - **Content Safety:** Påkrevd content filtering (sett til "medium" eller høyere via policy) - **Managed Identities:** Eliminerer hardkodet credentials - **Agent Identity (Entra):** Sentralisert tracking av AI-agenter - **Cost Management:** Token usage tracking per project **Setup-eksempel:** ```bash # Azure Policy: Enforce content filtering az policy assignment create \ --name "AI-content-filter-minimum-medium" \ --policy "Foundry content safety baseline" \ --scope "/subscriptions/{sub-id}/resourceGroups/{rg}" # Azure Policy: Restrict allowed models az policy assignment create \ --name "AI-approved-models-only" \ --policy "Foundry model deployment restrictions" \ --params '{"allowedModels": ["gpt-4", "gpt-4-turbo"]}' ``` ### Copilot Studio **Governance-kapabiliteter:** - **Environment separation:** Dev / Test / Prod environments med separate governance - **DLP policies:** Power Platform DLP policies gjelder for Copilot Studio-agenter - **Data location controls:** Velg region for data residency - **Compliance certifications:** ISO, SOC, HIPAA compliance dokumentert **Best practice:** Opprett separate environments for corp (internal) og online (external) agents. ### Microsoft Purview **Governance-kapabiliteter:** - **Data discovery og classification:** Scan Azure, on-prem, multi-cloud data sources - **Compliance Manager:** Map regulations (EU AI Act, GDPR) til Azure controls - **Purview APIs:** Programmatisk enforcement av compliance policies - **DLP policies:** Prevent AI agents fra å lekke sensitive data **Setup for AI-governance:** 1. **Data classification:** Scan alle data sources som AI-agenter kan aksessere 2. **Sensitivity labels:** Apply labels (Public, Internal, Confidential, Restricted) 3. **DLP policies:** Block AI output som inneholder PII, credit card numbers, etc. 4. **Compliance posture:** Dashboard som viser AI compliance-status ### Microsoft Defender for Cloud **Governance-kapabiliteter:** - **AI workload discovery:** Identifiser alle AI-ressurser (Foundry, OpenAI, etc.) - **Risk assessment:** Evaluate AI-specific risks (model drift, prompt injection) - **AI threat protection:** Detect jailbreak attempts, data exfiltration - **Recommendations:** Auto-suggest mitigations for AI vulnerabilities --- ## Offentlig sektor (Norge) ### Særskilte krav | Krav | Regulering | Implementering i Microsoft-stack | |------|-----------|----------------------------------| | **Data residency** | Schrems II, digital suverenitet | Azure Norway East/West regions | | **Offentlighetsloven** | Innsyn i AI-beslutninger | Logging av alle AI-prompts/responses (Log Analytics) | | **GDPR Article 22** | Automatiserte avgjørelser krever human-in-the-loop | Design pattern: AI foreslår, menneske godkjenner | | **EU AI Act (kommer)** | High-risk systems krever conformity assessment | Pre-deployment review + impact assessment | | **Personvernforordningen** | DPIA for AI som prosesserer persondata | Purview DPIA-template | ### Recommended governance-tilpasninger 1. **Transparency-krav:** Alle AI-agenter må tydelig identifisere seg som AI (ikke late som de er mennesker) 2. **Audit trail:** All AI-interaksjon må logges i minimum 6 måneder (offentlighetsloven) 3. **Human oversight:** High-risk decisions (f.eks. HR, tilskudd, sanksjoner) må ha human approval-step 4. **Data minimization:** AI skal kun ha tilgang til data strengt nødvendig for oppgaven (GDPR) ### Eksempel: AI Governance Policy for offentlig virksomhet ```markdown # AI Governance Policy - [Virksomhetsnavn] **Versjon:** 1.0 **Godkjent av:** Direktør **Gjeldende fra:** [Dato] ## 1. Formål Sikre at AI-systemer i [virksomhet] er trygge, etiske og compliant med norsk lov. ## 2. Scope Gjelder alle AI-systemer som: - Prosesserer persondata - Treffer automatiserte beslutninger - Interagerer med publikum ## 3. Roller - **AI-styringsgruppe:** Kvartalsvis møte, godkjenner high-risk AI - **AI CoE (KI-seksjonen):** Standards, opplæring, consulting - **IT-drift:** Platform, Azure Policy enforcement - **Fagenheter:** AI-applikasjonsutvikling ## 4. Pre-deployment krav - [ ] Responsible AI Impact Assessment gjennomført - [ ] DPIA utført hvis persondata involvert - [ ] Security review utført (red team hvis high-risk) - [ ] Compliance audit (GDPR, offentlighetsloven) - [ ] Godkjenning fra AI-styringsgruppe (hvis high-risk) ## 5. Tekniske krav - [ ] AI-agent har unique identity (Entra Agent ID) - [ ] All interaksjon logges til Azure Log Analytics (6+ mnd retention) - [ ] Content Safety filters enabled (minimum "medium") - [ ] DLP policies enforced (blokkerer PII i output) - [ ] Data residency: Norway East/West regions ## 6. Monitoring og audit - Kvartalsvis compliance audit av AI CoE - Månedlig cost review - Incident response plan oppdateres årlig ## 7. Revisjonsfrekvens Denne policyen revideres kvartalsvis. ``` --- ## Kostnad og lisensiering ### Governance-verktøy: Kostnadsoversikt | Verktøy | Lisens | Kostnad (estimat) | Inkludert i | |---------|--------|------------------|-------------| | **Azure Policy** | Gratis | 0 NOK | Azure subscription | | **Microsoft Purview** | Per-user/per-GB | ~250 NOK/bruker/måned | Microsoft 365 E5 Compliance | | **Purview Data Governance** | Pay-as-you-go | ~1000 NOK/måned (small deployment) | Separat lisens | | **Microsoft Defender for Cloud** | Per-resource | ~500-2000 NOK/måned (avhengig av ressurser) | Separat lisens | | **Microsoft Compliance Manager** | Inkludert | 0 NOK ekstra | Microsoft 365 E3/E5 | | **Azure Monitor / Log Analytics** | Per-GB ingested | ~10 NOK/GB | Pay-as-you-go | | **Microsoft Agent 365** | TBA (2026 GA) | Ukjent (sannsynligvis inkludert i M365) | TBA | **TCO-estimat for SMB (Small-Medium Business):** - **Liten organisasjon (50 brukere, 5 AI use cases):** ~10 000 NOK/måned (Purview + Defender + logging) - **Mellomstor (500 brukere, 20 AI use cases):** ~50 000 NOK/måned - **Enterprise (5000+ brukere, 100+ AI use cases):** ~200 000+ NOK/måned **Konfidensgradering:** 🟡 MEDIUM — Priser er estimater basert på Azure-prislister per feb 2026. Faktiske kostnader avhenger av data volume, antall ressurser, region. ### Lisenskrav for AI governance | Kapabilitet | Minimum lisens | |-------------|---------------| | **Azure Policy** | Azure subscription (alle tiers) | | **Basic data classification** | Microsoft 365 E3 | | **Advanced data governance (Purview)** | Microsoft 365 E5 Compliance eller Purview standalone | | **AI threat protection (Defender)** | Microsoft Defender for Cloud (standard tier) | | **Compliance Manager** | Microsoft 365 E3 (basic), E5 (advanced assessments) | | **Agent Identity (Entra)** | Microsoft Entra ID (inkludert i M365/Azure) | **For offentlig sektor i Norge:** - De fleste har allerede Microsoft 365 E3/E5 via rammeavtaler → Compliance Manager inkludert - Purview Data Governance må kjøpes separat hvis advanced scanning/classification trengs - Defender for Cloud anbefales sterkt (koster ~1-2% av total Azure spend) --- ## For arkitekten (Cosmo) ### Når anbefale dedikert governance-struktur **Røde flagg som krever governance-struktur umiddelbart:** - Kunden planlegger 5+ AI use cases samtidig - Regulated industry (finans, helse, offentlig) - High-risk use cases (automatiserte vedtak, biometri) - Multi-team AI-utvikling uten koordinering - Tidligere AI-prosjekter har feilet pga manglende standarder **Grønne flagg som tillater lightweight governance:** - 1-2 pilot-prosjekter - Low-risk domain (intern productivity-tool) - Erfaren team med AI-kompetanse - Kunden har allerede solid IT-governance ### Spørsmål å stille kunden 1. **Organisatorisk modenhet:** - "Har dere et eksisterende governance-forum (arkitektråd, sikkerhetsforum)?" - "Hvem eier AI-strategien i organisasjonen deres?" - "Hvor mange AI-prosjekter kjører eller planlegges neste 12 måneder?" 2. **Risiko og compliance:** - "Er noen av AI use cases high-risk? (Automatiserte vedtak, persondata, kritisk infrastruktur)" - "Hvilke regulatoriske krav gjelder for dere? (GDPR, EU AI Act, bransje-spesifikke)" - "Har dere gjennomført DPIA for AI-systemene?" 3. **Teknisk setup:** - "Bruker dere Azure landing zones i dag?" - "Har dere Microsoft Purview eller annet data governance-verktøy?" - "Hvordan håndterer dere logging og monitoring av systemer i dag?" 4. **Team og roller:** - "Hvem skal eie AI-governance på daglig basis?" - "Har dere folk med AI-kompetanse in-house, eller trenger dere opplæring?" - "Hvordan er ansvarsfordelingen mellom IT-drift og fagenheter?" ### Anbefalte decision trees **Beslutningstre: Governance-modell** ``` Start │ ├─ Har kunden 1 sentralisert IT-avdeling? │ ├─ Ja → Sentralisert governance (Platform team eier alt) │ └─ Nei → Distribuert eller hybrid │ ├─ Er det høy risiko-use cases? │ ├─ Ja → Hybrid med sterk sentral oversikt (AI Council) │ └─ Nei → Distribuert (autonome teams med loose guidance) │ └─ Er organisasjonen regulert (finans, helse, offentlig)? ├─ Ja → Hybrid med mandatory pre-deployment reviews └─ Nei → Distribuert med voluntary guidance ``` **Beslutningstre: Governance-verktøy** ``` Start │ ├─ Bruker kunden Azure som primær AI-plattform? │ ├─ Ja → Azure Policy + Purview + Defender │ └─ Nei → Vurder tredjeparts-verktøy (OPA, Collibra, etc.) │ ├─ Trenger kunden compliance-rapportering (ISO, GDPR, etc.)? │ ├─ Ja → Microsoft Purview Compliance Manager │ └─ Nei → Basic Azure Policy + logging │ └─ Har kunden budsjett for dedikerte governance-verktøy? ├─ Ja (>50k NOK/måned) → Full stack (Purview + Defender + Agent 365) └─ Nei (<50k NOK/måned) → Gratis-tier (Azure Policy + Log Analytics + manual audits) ``` ### Fallgruver å unngå | Fallgruve | Konsekvens | Hvordan unngå | |-----------|------------|---------------| | **Governance som bottleneck** | Teams frustrerte, shadow AI | Start med audit mode, ikke deny; gradvis skjerping | | **Overdreven sentralisering** | Sakte beslutninger, lav agility | Hybrid model: Sentrale standarder + distribuert utførelse | | **Ingen executive sponsorship** | Governance ignoreres av teams | Sørg for C-level buy-in fra dag 1 | | **Policy-dokument som samler støv** | Policies følges ikke | Automate enforcement via Azure Policy hvor mulig | | **Manglende opplæring** | Teams vet ikke hvordan følge policies | AI CoE må drive workshops, ikke bare skrive docs | | **Ingen metrics** | Umulig å vite om governance fungerer | Track metrics: % AI projects with Impact Assessment, mean time to deployment, compliance audit score | ### Conversation starters **Når kunden sier: "Vi trenger ikke governance, vi bare tester litt AI"** > *"Det høres fornuftig ut å starte smått. Men erfaring viser at AI-prosjekter skalerer raskere enn tradisjonelle IT-prosjekter — plutselig har dere 10 use cases uten standarder. La oss sette opp en lightweight governance-struktur nå (f.eks. en Responsible AI Impact Assessment-template), så slipper dere å rydde opp i kaos senere. Det tar kanskje 2-3 dager å etablere, men sparer dere måneder med refactoring."* **Når kunden sier: "Vi har allerede IT-governance, trenger vi virkelig AI-spesifikk governance?"** > *"Eksisterende IT-governance dekker infrastruktur, sikkerhet, data — men AI introduserer nye risikoer som tradisjonelle IT-policyer ikke fanger: bias, explainability, model drift, prompt injection. Microsoft sitt eget rammeverk skiller mellom generell IT-governance og AI-spesifikk governance av en grunn. La oss mappe eksisterende policies mot Responsible AI-prinsippene og se hvor hullene er."* **Når kunden sier: "Governance høres byråkratisk ut"** > *"Jeg skjønner bekymringen. Men se på det slik: Governance er guardrails som *akselererer* innovasjon ved å fjerne usikkerhet. Når teams vet hvilke modeller de kan bruke, hvilken data de har tilgang til, og hva som krever godkjenning — da slipper de å vente på ad-hoc beslutninger hver gang. Microsoft sitt eget Responsible AI Standard tok måneder å utvikle, men nå kan deres teams shippe AI-features raskere fordi prosessen er klar."* ### Templates og ressurser **Responsible AI Impact Assessment (forenklet template):** ```markdown # Responsible AI Impact Assessment **AI System:** [Navn] **Owner:** [Team/person] **Date:** [Dato] ## 1. System Description - **Purpose:** Hva skal AI-systemet gjøre? - **Data sources:** Hvilken data brukes? - **Model:** Hvilken modell/platform? (GPT-4, custom model, etc.) ## 2. Risk Assessment (score 1-5, der 5 = høy risiko) | Dimension | Score | Rationale | |-----------|-------|-----------| | **Privacy** (PII, sensitive data) | [1-5] | | | **Fairness** (bias, discrimination risk) | [1-5] | | | **Safety** (physical/psychological harm) | [1-5] | | | **Transparency** (explainability requirement) | [1-5] | | | **Accountability** (legal/regulatory exposure) | [1-5] | | **Total Risk Score:** [Sum / 25] ## 3. Mitigations For hver dimension med score ≥3, dokumenter mitigations: - [ ] Privacy: [Anonymization, encryption, DLP policies] - [ ] Fairness: [Bias testing, diverse training data] - [ ] ... ## 4. Approval - [ ] Approved by: [AI CoE / AI Council] - [ ] Date: [Dato] - [ ] Review date: [6-12 måneder] ``` **Azure Policy eksempel (Restrict models):** ```json { "properties": { "displayName": "AI - Restrict model deployments to approved list", "policyType": "Custom", "mode": "All", "description": "Deny deployment of AI models not on approved list", "parameters": { "allowedModels": { "type": "Array", "metadata": { "description": "List of allowed model IDs" }, "defaultValue": ["gpt-4", "gpt-4-turbo", "gpt-35-turbo"] } }, "policyRule": { "if": { "allOf": [ { "field": "type", "equals": "Microsoft.CognitiveServices/accounts/deployments" }, { "field": "Microsoft.CognitiveServices/accounts/deployments/model.name", "notIn": "[parameters('allowedModels')]" } ] }, "then": { "effect": "deny" } } } } ``` --- ## Kilder og verifisering ### Microsoft-dokumentasjon | Kilde | URL | Sist verifisert | |-------|-----|-----------------| | **Microsoft AI Governance Overview** | learn.microsoft.com/en-us/compliance/assurance/assurance-artificial-intelligence | 2026-02-03 | | **Cloud Adoption Framework: Govern AI** | learn.microsoft.com/en-us/azure/cloud-adoption-framework/scenarios/ai/govern | 2026-02-03 | | **Responsible AI policies for AI agents** | learn.microsoft.com/en-us/azure/cloud-adoption-framework/ai-agents/responsible-ai-across-organization | 2026-02-03 | | **Governance and security for AI agents** | learn.microsoft.com/en-us/azure/cloud-adoption-framework/ai-agents/governance-security-across-organization | 2026-02-03 | | **Organizational readiness for AI agents** | learn.microsoft.com/en-us/azure/cloud-adoption-framework/ai-agents/organization-people-readiness-plan | 2026-02-03 | | **Microsoft Responsible AI Standard** | blogs.microsoft.com/wp-content/uploads/prod/sites/5/2022/06/Microsoft-Responsible-AI-Standard-v2-General-Requirements-3.pdf | 2026-02-03 | | **2025 Responsible AI Transparency Report** | cdn-dynmedia-1.microsoft.com/is/content/microsoftcorp/microsoft/msc/documents/presentations/CSR/Responsible-AI-Transparency-Report-2025.pdf | 2026-02-03 | ### Standarder og rammeverk - **NIST AI Risk Management Framework (AI RMF):** nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-1.pdf - **ISO/IEC 42001 (AI Management System):** Microsoft 365 ISO 42001 certificate (servicetrust.microsoft.com) - **EU AI Act (draft):** Kommende regulering for high-risk AI systems - **GDPR Article 22:** Automated decision-making regulations ### Interne ressurser (Microsoft) - **Service Trust Portal:** servicetrust.microsoft.com (compliance docs, audit reports) - **Microsoft Purview Compliance Manager:** Mapper regulations til Azure controls - **Microsoft 365 Copilot Risk Assessment QuickStart Guide:** servicetrust.microsoft.com/DocumentPage/4fe5df86-848b-4097-b3fa-4625e2b8e8f2 --- **Sist oppdatert:** 2026-02-03 **Neste review:** 2026-05-01 (Q2 2026) **Eier:** Cosmo Skyberg (AI Architect Plugin)