refactor(ms-ai-architect): R13 del 1 — nøytraliser Cosmo-personaen i ref-korpusets headinger, etter å ha rettet en gate som var målt usann to ganger

Ordre 20260912T193441Z-7358817909. Steg 1 var ikke transformen, men å rette
roadmapens R13-gate og få den ratifisert. Gaten `grep -rl "Cosmo"
skills/*/references -> 0` var usann på to uavhengige måter:

1. Ordren fanget den første: 451 av forekomstene er Azure Cosmos DB, ekte
   produktinnhold. Diskriminatoren er ikke bokstaven «s» — `Cosmos <norsk
   substantiv>` er genitiv av personaen (`### Cosmos tonalitet`), mens
   `Cosmos DB`/`CosmosClient`/`cosmos_ru` er produkt.
2. Denne økten fant den andre: 132 persona-forekomster ligger i prosa,
   tabeller, dialog-replikker og proveniens-linjer. Heading-nøytralisering
   kan ikke nå dem, så «0 persona» er uoppnåelig også under den ratifiserte
   formen. Operatøren ratifiserte alternativ A: gaten speiler formen, og de
   132 bokføres til R13b/R14.

Tre korreksjoner av premisser som sto i ordren og STATE:
  «ca 320 produkt»   -> 451 (case-sensitivt nett manglet 327 lowercase
                        TOC-ankre + 99 identifikatorer; sann nevner 1 638)
  «169 headinger»    -> 401. 169 var `^## For Cosmo`-prefikset (168) og var
                        internt inkonsistent med sin egen topp-variant (204)
  «417 matcher ingen
   populasjon»       -> 417 er cosmo-headinger utenfor kodefences; briefens
                        nevner var reell hele tiden

Fence-bevissthet er målt skadelig, ikke nødvendig: begge toggle-regler er
gale på dette korpuset (naiv toggle skjuler en ekte heading i
chain-of-thought-prompting.md, CommonMark-regelen ubalanserer
service-level-documentation-dr.md). Fence-agnostisk deteksjon finner 401
heading-linjer i nøyaktig de samme 40 variantene som fence-bevisst finner
400 i — ingen kodeblokk-linje er byte-identisk til en persona-heading. Derfor
nøkles transformen på 40 enumererte heading-tekster og ignorerer fences. En
ukjent variant kaster; en slug-kollisjon kaster. Ingenting auto-fikses.

TOC-en regenereres ikke, den rettes kirurgisk: alle 327 persona-lenker hadde
lenketekst lik én av de 40 heading-tekstene og anker lik slugify av den
(327/327, 0 avvik), så heading og TOC-entry skrives i samme operasjon og
ingen mellomtilstand etterlater en død lenke.

Ratifisert målform: `For Cosmo`, `For Cosmo Skyberg` og `For arkitekten
(Cosmo)` konvergerer på `For arkitekten`. To filer kolliderte og er adjudisert
ved å lese dem, ikke ved regel.

Verifisering (alle 7 kriterier fra ordren):
  G1 persona på heading-linjer   401 -> 0
  G2 døde fragmentlenker         1 -> 1 (pre-eksisterende, unntatt)
  G3 produkt-forekomster         451 -> 451; `Cosmos DB|Azure Cosmos` 308 = 308
  de 3 kun-produkt-filene        byte-identiske
  nettet validert begge veier    injisert persona feller G1; genitiv feller G1;
                                 produkt-heading og de 3 filene passerer
  hele diffen                    802 heading-linjer + 654 TOC-linjer, ANNET = 0
  linjeantall                    728 lagt til = 728 slettet
  suite                          1120/1120 (1097 + 23 nye)
  validate-plugin                250 PASS / 0 FAIL
  stikkprøve                     10 filer, alle 5 skills, inkl. de 3 mest
                                 produkt-tunge (26/20/19) — kun heading+TOC

Utenfor scope, urørt: de 4 SKILL.md, de 23 commands, CLAUDE.md, README.md,
NOTICE.md, docs/ (alt R14).

Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>
This commit is contained in:
Kjell Tore Guttormsen 2026-09-12 22:12:28 +02:00
commit 3a73eeafdc
380 changed files with 1711 additions and 729 deletions

View file

@ -14,7 +14,7 @@
- [Input Perturbation Techniques](#input-perturbation-techniques)
- [Robustness Metrics](#robustness-metrics)
- [Continuous Security Testing](#continuous-security-testing)
- [For Cosmo: Practical Implementation](#for-cosmo-practical-implementation)
- [Practical Implementation](#practical-implementation)
- [References](#references)
## Oversikt
@ -413,7 +413,7 @@ logger.info("ASR_METRIC", extra={
- Validate task adherence for nye workflows
- Ensure sensitive data leakage ikke introduseres
## For Cosmo: Practical Implementation
## Practical Implementation
### When to Recommend Adversarial Testing

View file

@ -17,7 +17,7 @@
- [Integrasjon med Microsoft-stakken](#integrasjon-med-microsoft-stakken)
- [Offentlig sektor (Norge)](#offentlig-sektor-norge)
- [Kostnad og lisensiering](#kostnad-og-lisensiering)
- [For arkitekten (Cosmo)](#for-arkitekten-cosmo)
- [For arkitekten](#for-arkitekten)
- [Kilder og verifisering](#kilder-og-verifisering)
## Introduksjon
@ -496,7 +496,7 @@ Set-AzSecurityContact -Name "default1" `
**Recommendation for offentlig sektor:** Azure-native stack for kritiske systemer (helse, finans), hybrid approach for less-critical workloads.
## For arkitekten (Cosmo)
## For arkitekten
### Spørsmål å stille klienten

View file

@ -18,7 +18,7 @@
- [Forsvarsdybde-arkitektur (Defence in Depth)](#forsvarsdybde-arkitektur-defence-in-depth)
- [Kostnadsestimater](#kostnadsestimater)
- [Kjente begrensninger](#kjente-begrensninger)
- [For Cosmo](#for-cosmo)
- [For arkitekten](#for-arkitekten)
- [Referanser](#referanser)
## Introduksjon
@ -443,7 +443,7 @@ Kostnad = Content Safety API-kostnad + APIM-request-kostnad (minimal).
| **AI Gateway: Preview** | Kan endres vesentlig før GA |
| **Ikke deterministisk** | ML-basert — kan ikke garantere 100% deteksjonsrate |
## For Cosmo
## For arkitekten
### Når anbefale Prompt Shields
@ -508,7 +508,7 @@ Kostnad = Content Safety API-kostnad + APIM-request-kostnad (minimal).
- "Hva er OWASP LLM Top 10 og hvordan addresserer vi #1?"
- "Er det nok å ha et system prompt for å stoppe jailbreak?"
### Cosmo-oppsummering
### Oppsummering
Prompt Shield er **obligatorisk** for alle produksjons-AI-systemer med ekstern brukereksponering. Det finnes tre implementasjonslag — velg basert på arkitektur og sensitivitetsnivå. For norsk offentlig sektor understøtter Prompt Shields NSM Grunnprinsipper, NIST AI RMF og GDPR artikkel 25. Kombiner alltid med Sentinel-logging for sporbarhet.

View file

@ -20,7 +20,7 @@
- [Dokumentasjon og Logging](#dokumentasjon-og-logging)
- [Integrasjon i CI/CD Pipelines](#integrasjon-i-cicd-pipelines)
- [Continuous Red Teaming](#continuous-red-teaming)
- [For Cosmo: Anvendelse i Microsoft AI-arkitektur](#for-cosmo-anvendelse-i-microsoft-ai-arkitektur)
- [Anvendelse i Microsoft AI-arkitektur](#anvendelse-i-microsoft-ai-arkitektur)
- [Ressurser og Training](#ressurser-og-training)
- [Sjekkliste: Red Teaming Readiness](#sjekkliste-red-teaming-readiness)
- [Key Takeaways for Arkitekter](#key-takeaways-for-arkitekter)
@ -602,7 +602,7 @@ jobs:
---
## For Cosmo: Anvendelse i Microsoft AI-arkitektur
## Anvendelse i Microsoft AI-arkitektur
### Microsoft Foundry

View file

@ -17,7 +17,7 @@
- [Integrasjon med Microsoft-stakken](#integrasjon-med-microsoft-stakken)
- [Offentlig sektor (Norge)](#offentlig-sektor-norge)
- [Kostnad og lisensiering](#kostnad-og-lisensiering)
- [For arkitekten (Cosmo)](#for-arkitekten-cosmo)
- [For arkitekten](#for-arkitekten)
- [Kilder og verifisering](#kilder-og-verifisering)
## Introduksjon
@ -386,7 +386,7 @@ For statlige AI-prosjekter som krever beslutningsgrunnlag:
- **Compliance:** Unngå bøter for GDPR/AI Act violations (opp til 4% av global omsetning)
- **Reputation:** Tillit fra kunder/borgere → customer lifetime value
## For arkitekten (Cosmo)
## For arkitekten
### Spørsmål å stille kunder

View file

@ -17,7 +17,7 @@
- [Integrasjon med Microsoft-stakken](#integrasjon-med-microsoft-stakken)
- [Offentlig sektor (Norge)](#offentlig-sektor-norge)
- [Kostnad og lisensiering](#kostnad-og-lisensiering)
- [For arkitekten (Cosmo)](#for-arkitekten-cosmo)
- [For arkitekten](#for-arkitekten)
- [Kilder og verifisering](#kilder-og-verifisering)
## Introduksjon
@ -295,7 +295,7 @@ STRIDE Mapping: Tampering
**Note:** Dette er rådgivningskostnad for gjennomføring. Implementering av mitigations (e.g., Azure security controls) kommer i tillegg.
## For arkitekten (Cosmo)
## For arkitekten
### 8 Spørsmål å Stille i Arkitekturdialog

View file

@ -17,7 +17,7 @@
- [Integrasjon med Microsoft-stakken](#integrasjon-med-microsoft-stakken)
- [Offentlig sektor (Norge)](#offentlig-sektor-norge)
- [Kostnad og lisensiering](#kostnad-og-lisensiering)
- [For arkitekten (Cosmo)](#for-arkitekten-cosmo)
- [For arkitekten](#for-arkitekten)
- [Kilder og verifisering](#kilder-og-verifisering)
## Introduksjon
@ -454,7 +454,7 @@ Content Safety krever:
**Verified** (Microsoft Learn: Content Safety Prerequisites)
## For arkitekten (Cosmo)
## For arkitekten
### Spørsmål å stille kunden

View file

@ -19,8 +19,8 @@
- [7. Compliance & Audit](#7-compliance--audit)
- [8. Tooling & Automation](#8-tooling--automation)
- [9. Monitoring & Detection](#9-monitoring--detection)
- [10. Anbefalinger for Cosmo Skyberg](#10-anbefalinger-for-cosmo-skyberg)
- [For Cosmo Skyberg](#for-cosmo-skyberg)
- [10. Anbefalinger](#10-anbefalinger)
- [For arkitekten](#for-arkitekten)
## Oversikt
@ -703,7 +703,7 @@ az monitor metrics alert create \
5. **Rotate keys** → If API key compromise suspected
6. **Post-incident review** → Update DLP policies
## 10. Anbefalinger for Cosmo Skyberg
## 10. Anbefalinger
### For Azure OpenAI
@ -747,7 +747,7 @@ az monitor metrics alert create \
- [ ] Red teaming plan established (quarterly)?
- [ ] Incident response runbook documented?
## For Cosmo Skyberg
## For arkitekten
**Når bruke dette:**
- Kunde spør om "hvordan forhindre datalekkasje i AI-løsninger"

View file

@ -33,7 +33,7 @@ Microsoft har bredt utvidet Entra Agent ID-porteføljen i forbindelse med Ignite
- [Sikkerhetshensyn og beste praksis](#sikkerhetshensyn-og-beste-praksis)
- [Status og tilgjengelighet](#status-og-tilgjengelighet)
- [Kilder](#kilder)
- [For Cosmo](#for-cosmo)
- [For arkitekten](#for-arkitekten)
## Introduksjon
@ -470,7 +470,7 @@ Når en Foundry-agent publiseres, endres identiteten fra delt prosjektidentitet
---
## For Cosmo
## For arkitekten
**Hvornår anbefale Entra Agent ID:**
- Kunden bygger AI-agenter med Microsoft Foundry eller Copilot Studio → Entra Agent ID er innebygd, aktiver det

View file

@ -15,7 +15,7 @@
- [Forsvarsmønstre](#forsvarsmønstre)
- [Azure-implementering](#azure-implementering)
- [Produksjonsovervåking](#produksjonsovervåking)
- [For arkitekten (Cosmo)](#for-arkitekten-cosmo)
- [For arkitekten](#for-arkitekten)
- [Kilder og verifisering](#kilder-og-verifisering)
## Introduksjon
@ -459,7 +459,7 @@ print(f"Jailbreak resistance score: {results['jailbreak_resistance']}")
**OWASP LLM security guidelines:** [https://genai.owasp.org/llmrisk/llm01-prompt-injection/](https://genai.owasp.org/llmrisk/llm01-prompt-injection/)
## For arkitekten (Cosmo)
## For arkitekten
### Når velge hvilke forsvarsmønstre?

View file

@ -16,7 +16,7 @@
- [Legal og Compliance Implications](#legal-og-compliance-implications)
- [Implementering i Microsoft-stakken](#implementering-i-microsoft-stakken)
- [Anbefalinger for norsk offentlig sektor](#anbefalinger-for-norsk-offentlig-sektor)
- [For Cosmo Skyberg](#for-cosmo-skyberg)
- [For arkitekten](#for-arkitekten)
- [Kilder](#kilder)
## Hva dette handler om
@ -478,7 +478,7 @@ AUROC: 0.94
---
## For Cosmo Skyberg
## For arkitekten
### Når dette temaet er relevant

View file

@ -19,7 +19,7 @@
- [Kostnader og ytelse](#kostnader-og-ytelse)
- [Rate limits](#rate-limits)
- [Anbefalinger for norsk offentlig sektor](#anbefalinger-for-norsk-offentlig-sektor)
- [For Cosmo](#for-cosmo)
- [For arkitekten](#for-arkitekten)
- [Kilder og verifisering](#kilder-og-verifisering)
## Introduksjon
@ -497,7 +497,7 @@ Basert på at norsk ikke er spesialtrent:
8. **Monitor og juster kvartalsvis.** Norsk sprakstutte er et aktivt utviklingsomrade hos Microsoft. Nye sprak kan bli spesialtrente, og Groundedness Detection kan utvides til flere sprak. Verifiser status regelmessig via MCP.
## For Cosmo
## For arkitekten
Nar du radgir om Content Safety for norske losninger:

View file

@ -17,7 +17,7 @@
- [Integrasjon med Microsoft-stakken](#integrasjon-med-microsoft-stakken)
- [Offentlig sektor (Norge)](#offentlig-sektor-norge)
- [Kostnad og lisensiering](#kostnad-og-lisensiering)
- [For arkitekten (Cosmo)](#for-arkitekten-cosmo)
- [For arkitekten](#for-arkitekten)
- [Kilder og verifisering](#kilder-og-verifisering)
## Introduksjon
@ -520,7 +520,7 @@ Groundedness-validering er relevant for DPIA hvis:
- Eget prisnivå (se [Bing Grounding pricing](https://www.microsoft.com/bing/apis/grounding-pricing))
- Ikke dekket av Azure Data Protection Addendum (dataflyt utenfor Azure compliance boundary)
## For arkitekten (Cosmo)
## For arkitekten
### Spørsmål å stille kunden

View file

@ -17,7 +17,7 @@
- [Integrasjon med Microsoft-stakken](#integrasjon-med-microsoft-stakken)
- [Offentlig sektor (Norge)](#offentlig-sektor-norge)
- [Kostnad og lisensiering](#kostnad-og-lisensiering)
- [For arkitekten (Cosmo)](#for-arkitekten-cosmo)
- [For arkitekten](#for-arkitekten)
- [Kilder og verifisering](#kilder-og-verifisering)
## Introduksjon
@ -360,7 +360,7 @@ df_masked = df.withColumn("text_masked", mask_pii_udf(df.text))
**Beste praksis:** Kombiner regex-filtrering (fødselsnummer-pattern) med Azure AI Language for edge cases (navn, adresser).
## For arkitekten (Cosmo)
## For arkitekten
### Spørsmål å stille kunden
@ -409,7 +409,7 @@ df_masked = df.withColumn("text_masked", mask_pii_udf(df.text))
- Problem: Uklar hvorfor 0.8 ble valgt (compliance-revidering)
- Løsning: Dokumenter valg i ADR (Architecture Decision Record)
### Cosmos anbefalinger
### Anbefalinger
**For offentlig sektor (NAV, Skatteetaten, kommuner):**
- ✅ Bruk Pre-Processing Pipeline (mønster 1) for å sikre PII aldri lagres

View file

@ -16,7 +16,7 @@
- [Azure-implementering](#azure-implementering)
- [Arkitekturmønstre](#arkitekturmønstre)
- [Beslutningsveiledning](#beslutningsveiledning)
- [For arkitekten (Cosmo)](#for-arkitekten-cosmo)
- [For arkitekten](#for-arkitekten)
- [Kilder og verifisering](#kilder-og-verifisering)
## Introduksjon
@ -428,7 +428,7 @@ START: Hva er applikasjonens risikonivå?
**Anbefaling:** Alle produksjonssystemer bør ha minimum Prompt Shields + Meta-prompts + Output filters. HITL for kritiske handlinger. Red teaming for kontinuerlig forbedring.
## For arkitekten (Cosmo)
## For arkitekten
Når du diskuterer prompt injection-forsvar med kunder, still disse spørsmålene:

View file

@ -16,7 +16,7 @@
- [Secrets Management i Deployment](#secrets-management-i-deployment)
- [Sikkerhetsjekkliste for Deployment](#sikkerhetsjekkliste-for-deployment)
- [Best Practices: Deployment Hardening Workflow](#best-practices-deployment-hardening-workflow)
- [For Cosmo](#for-cosmo)
- [For arkitekten](#for-arkitekten)
## Introduksjon
@ -941,7 +941,7 @@ graph TD
R --> S[Continuous Drift Detection]
```
## For Cosmo
## For arkitekten
Når du diskuterer secure model deployment med kunder:

View file

@ -21,7 +21,7 @@
- [Sammenligning: Standalone vs M365 E5 Embedded](#sammenligning-standalone-vs-m365-e5-embedded)
- [Referansearkitektur: Security Copilot i norsk SOC](#referansearkitektur-security-copilot-i-norsk-soc)
- [Beslutningsveiledning](#beslutningsveiledning)
- [Spørsmål Cosmo bør stille kunden](#spørsmål-cosmo-bør-stille-kunden)
- [Spørsmål å stille kunden](#spørsmål-å-stille-kunden)
- [Kilder](#kilder)
## Introduksjon
@ -437,7 +437,7 @@ Per 2026-02: Security Copilot er kun tilgjengelig på kommersielt skynivå — i
4. **Evaluer Sentinel-integrasjon:** Spesielt KQL-generering for analytikere uten KQL-kompetanse
5. **Plan for tilpassede plugins:** Finnes interne systemer (ITSM, saksbehandling) som kan berikes?
## Spørsmål Cosmo bør stille kunden
## Spørsmål å stille kunden
- Har dere Microsoft 365 E5-lisenser? (Avgjør om Security Copilot er inkludert)
- Bruker dere Microsoft Defender XDR og/eller Microsoft Sentinel i dag?

View file

@ -23,7 +23,7 @@
- [Referansecaser](#referansecaser)
- [Sammenligning av casene](#sammenligning-av-casene)
- [Kilder og forankring](#kilder-og-forankring)
- [For Cosmo Skyberg](#for-cosmo-skyberg)
- [For arkitekten](#for-arkitekten)
## Oversikt
@ -363,7 +363,7 @@ Dimensjonene er mappet til MCSB v2 security domains:
---
## For Cosmo Skyberg
## For arkitekten
### Slik bruker du rubrikkene i en vurdering

View file

@ -18,7 +18,7 @@
- [4. Model Poisoning Prevention](#4-model-poisoning-prevention)
- [5. Software Bill of Materials (SBOM) for AI](#5-software-bill-of-materials-sbom-for-ai)
- [6. Secure ML Supply Chain: Oppsummert Implementasjon](#6-secure-ml-supply-chain-oppsummert-implementasjon)
- [For Cosmo: Veiledning i Arkitekturdialog](#for-cosmo-veiledning-i-arkitekturdialog)
- [Veiledning i Arkitekturdialog](#veiledning-i-arkitekturdialog)
- [Referanser og Videre Lesning](#referanser-og-videre-lesning)
## Oversikt
@ -484,7 +484,7 @@ Integrer SBOM-generering i deployment workflow:
---
## For Cosmo: Veiledning i Arkitekturdialog
## Veiledning i Arkitekturdialog
### Når klienten spør om AI supply chain security:

View file

@ -17,7 +17,7 @@
- [Integrasjon med Microsoft-stakken](#integrasjon-med-microsoft-stakken)
- [Offentlig sektor (Norge)](#offentlig-sektor-norge)
- [Kostnad og lisensiering](#kostnad-og-lisensiering)
- [For arkitekten (Cosmo)](#for-arkitekten-cosmo)
- [For arkitekten](#for-arkitekten)
- [Kilder og verifisering](#kilder-og-verifisering)
## Introduksjon
@ -543,7 +543,7 @@ Azure-fakturering
- Under 5 000 pages/måned: AI Builder (low-code-fordeler veier opp overhead)
- Over 10 000 pages/måned: Azure AI (lavere enhetspris veier opp overhead)
## For arkitekten (Cosmo)
## For arkitekten
### Spørsmål å stille kunden

View file

@ -17,7 +17,7 @@
- [Integrasjon med Microsoft-stakken](#integrasjon-med-microsoft-stakken)
- [Offentlig sektor (Norge)](#offentlig-sektor-norge)
- [Kostnad og lisensiering](#kostnad-og-lisensiering)
- [For arkitekten (Cosmo)](#for-arkitekten-cosmo)
- [For arkitekten](#for-arkitekten)
- [Kilder og verifisering](#kilder-og-verifisering)
## Introduksjon
@ -650,7 +650,7 @@ Savings with PTU: 3 000 NOK/month (17% reduction)
**Tommelfingerregel:** PTU lønner seg når forbruk er >80% av quota capacity, konsistent over tid.
## For arkitekten (Cosmo)
## For arkitekten
### Spørsmål å stille klienten

View file

@ -17,7 +17,7 @@
- [Integrasjon med Microsoft-stakken](#integrasjon-med-microsoft-stakken)
- [Offentlig sektor (Norge)](#offentlig-sektor-norge)
- [Kostnad og lisensiering](#kostnad-og-lisensiering)
- [For arkitekten (Cosmo)](#for-arkitekten-cosmo)
- [For arkitekten](#for-arkitekten)
- [Kilder og verifisering](#kilder-og-verifisering)
## Introduksjon
@ -231,7 +231,7 @@ Azure Cost Management aggregerer kostnader per dag, men fakturering skjer måned
---
## For arkitekten (Cosmo)
## For arkitekten
### Spørsmål å stille kunden

View file

@ -17,7 +17,7 @@
- [Integrasjon med Microsoft-stakken](#integrasjon-med-microsoft-stakken)
- [Offentlig sektor (Norge)](#offentlig-sektor-norge)
- [Kostnad og lisensiering](#kostnad-og-lisensiering)
- [For arkitekten (Cosmo)](#for-arkitekten-cosmo)
- [For arkitekten](#for-arkitekten)
- [Kilder og verifisering](#kilder-og-verifisering)
## Introduksjon
@ -281,7 +281,7 @@ Batch API gir **forutsigbar kostnad** for planlagte AI-operasjoner:
**Note:** Estimater basert på illustrative priser. Faktiske kostnader avhenger av modell, region, og token-distribusjon.
## For arkitekten (Cosmo)
## For arkitekten
### Spørsmål å stille kunden

View file

@ -17,7 +17,7 @@
- [Integrasjon med Microsoft-stakken](#integrasjon-med-microsoft-stakken)
- [Offentlig sektor (Norge)](#offentlig-sektor-norge)
- [Kostnad og lisensiering](#kostnad-og-lisensiering)
- [For arkitekten (Cosmo)](#for-arkitekten-cosmo)
- [For arkitekten](#for-arkitekten)
- [Kilder og verifisering](#kilder-og-verifisering)
## Introduksjon
@ -437,7 +437,7 @@ Korrekt forecasting driver kostnadsoptimalisering:
---
## For arkitekten (Cosmo)
## For arkitekten
### Spørsmål å stille kunden

View file

@ -17,7 +17,7 @@
- [Integrasjon med Microsoft-stakken](#integrasjon-med-microsoft-stakken)
- [Offentlig sektor (Norge)](#offentlig-sektor-norge)
- [Kostnad og lisensiering](#kostnad-og-lisensiering)
- [For arkitekten (Cosmo)](#for-arkitekten-cosmo)
- [For arkitekten](#for-arkitekten)
- [Kilder og verifisering](#kilder-og-verifisering)
## Introduksjon
@ -329,7 +329,7 @@ Microsoft FinOps Toolkit er **open source** og gratis:
---
## For arkitekten (Cosmo)
## For arkitekten
### Spørsmål å stille kunden

View file

@ -20,7 +20,7 @@
- [Seksjon 6: Typiske referansearkitekturer — kostnadsprofiler](#seksjon-6-typiske-referansearkitekturer--kostnadsprofiler)
- [Seksjon 7: Oppdatering og vedlikehold](#seksjon-7-oppdatering-og-vedlikehold)
- [Kilder og verifisering](#kilder-og-verifisering)
- [For Cosmo Skyberg](#for-cosmo-skyberg)
- [For arkitekten](#for-arkitekten)
## Introduksjon
@ -638,7 +638,7 @@ Inkluder alltid dette blokken i kostnadsestimater:
---
## For Cosmo Skyberg
## For arkitekten
### Når du bruker denne filen

View file

@ -17,7 +17,7 @@
- [Offentlig sektor (Norge)](#offentlig-sektor-norge)
- [Integrasjon med Microsoft-stakken](#integrasjon-med-microsoft-stakken)
- [Kostnad og lisensiering](#kostnad-og-lisensiering)
- [For arkitekten (Cosmo)](#for-arkitekten-cosmo)
- [For arkitekten](#for-arkitekten)
- [Kilder og verifisering](#kilder-og-verifisering)
## Introduksjon
@ -474,7 +474,7 @@ GPT-4o mini og GPT-4o brukes fortsatt i US Government regions (offer comparable
---
## For arkitekten (Cosmo)
## For arkitekten
### Når bruke denne referansen

View file

@ -17,7 +17,7 @@
- [Integrasjon med Microsoft-stakken](#integrasjon-med-microsoft-stakken)
- [Offentlig sektor (Norge)](#offentlig-sektor-norge)
- [Kostnad og lisensiering](#kostnad-og-lisensiering)
- [For arkitekten (Cosmo)](#for-arkitekten-cosmo)
- [For arkitekten](#for-arkitekten)
- [Kilder og verifisering](#kilder-og-verifisering)
## Introduksjon
@ -492,7 +492,7 @@ Total kostnad = (Instance hours × Instance price)
4. Right-size: Hvis avg utilization <40%, downgrade; hvis >80%, upgrade
5. Iterer til optimal balance (70-80% avg utilization under normal load)
## For arkitekten (Cosmo)
## For arkitekten
### Spørsmål å stille kunden

View file

@ -17,7 +17,7 @@
- [Integrasjon med Microsoft-stakken](#integrasjon-med-microsoft-stakken)
- [Offentlig sektor (Norge)](#offentlig-sektor-norge)
- [Kostnad og lisensiering](#kostnad-og-lisensiering)
- [For arkitekten (Cosmo)](#for-arkitekten-cosmo)
- [For arkitekten](#for-arkitekten)
- [Kilder og verifisering](#kilder-og-verifisering)
## Introduksjon
@ -391,7 +391,7 @@ $zeroUsageUsers | Select DisplayName, UserPrincipalName, Mail | Export-Csv "copi
- Feil: 500 users × 3200/år = 1 600 000 NOK, men 200 users har zero usage = 640 000 NOK waste
- Riktig: Start med 100 high-impact users (pilot), expand basert på ROI → save 1 280 000 NOK første år
## For arkitekten (Cosmo)
## For arkitekten
### Spørsmål å stille i licensing compliance-samtale

View file

@ -17,7 +17,7 @@
- [Integrasjon med Microsoft-stakken](#integrasjon-med-microsoft-stakken)
- [Offentlig sektor (Norge)](#offentlig-sektor-norge)
- [Kostnad og lisensiering](#kostnad-og-lisensiering)
- [For arkitekten (Cosmo)](#for-arkitekten-cosmo)
- [For arkitekten](#for-arkitekten)
- [Kilder og verifisering](#kilder-og-verifisering)
## Introduksjon
@ -426,7 +426,7 @@ Månedlig besparelse (NOK) = (Kostnad_current - Kostnad_new) × USD_to_NOK
---
## For arkitekten (Cosmo)
## For arkitekten
### Når bruke denne referansen

View file

@ -17,7 +17,7 @@
- [Integrasjon med Microsoft-stakken](#integrasjon-med-microsoft-stakken)
- [Offentlig sektor (Norge)](#offentlig-sektor-norge)
- [Kostnad og lisensiering](#kostnad-og-lisensiering)
- [For arkitekten (Cosmo)](#for-arkitekten-cosmo)
- [For arkitekten](#for-arkitekten)
- [Kilder og verifisering](#kilder-og-verifisering)
## Introduksjon
@ -573,7 +573,7 @@ az consumption usage list --start-date 2026-02-01 --end-date 2026-02-28 \
- Gateway analytics: Track cost per client, per model, per task type
- Monthly review: Adjust Model Router subset or gateway rules based on cost/quality metrics
## For arkitekten (Cosmo)
## For arkitekten
### Spørsmål å stille kunden

View file

@ -17,7 +17,7 @@
- [Integrasjon med Microsoft-stakken](#integrasjon-med-microsoft-stakken)
- [Offentlig sektor (Norge)](#offentlig-sektor-norge)
- [Kostnad og lisensiering](#kostnad-og-lisensiering)
- [For arkitekten (Cosmo)](#for-arkitekten-cosmo)
- [For arkitekten](#for-arkitekten)
- [Kilder og verifisering](#kilder-og-verifisering)
## Introduksjon
@ -337,7 +337,7 @@ For volumer >1 TB/dag, vurder dedicated cluster for ytterligere besparelser (clu
- `AppTraces`, `AppDependencies` (hvis kun queries ved incidents)
- `ContainerLog`, `AzureDiagnostics` (hvis verbose logging)
## For arkitekten (Cosmo)
## For arkitekten
### Nøkkelspørsmål

View file

@ -17,7 +17,7 @@
- [Integrasjon med Microsoft-stakken](#integrasjon-med-microsoft-stakken)
- [Offentlig sektor (Norge)](#offentlig-sektor-norge)
- [Kostnad og lisensiering](#kostnad-og-lisensiering)
- [For arkitekten (Cosmo)](#for-arkitekten-cosmo)
- [For arkitekten](#for-arkitekten)
- [Kilder og verifisering](#kilder-og-verifisering)
## Introduksjon
@ -332,7 +332,7 @@ Copilot Studio bruker underliggende Azure OpenAI, men:
---
## For arkitekten (Cosmo)
## For arkitekten
### Spørsmål å stille

View file

@ -17,7 +17,7 @@
- [Integrasjon med Microsoft-stakken](#integrasjon-med-microsoft-stakken)
- [Offentlig sektor (Norge)](#offentlig-sektor-norge)
- [Kostnad og lisensiering](#kostnad-og-lisensiering)
- [For arkitekten (Cosmo)](#for-arkitekten-cosmo)
- [For arkitekten](#for-arkitekten)
- [Kilder og verifisering](#kilder-og-verifisering)
## Introduksjon
@ -366,7 +366,7 @@ En hybrid tilnærming, der man kombinerer PTU for stabil baseline-traffic og Pay
**Konklusjon:** Hybrid er dyrere i dette tilfellet. Pure PayGo eller større PTU (200 PTU) ville vært bedre.
## For arkitekten (Cosmo)
## For arkitekten
### 5-8 spørsmål å stille kunden

View file

@ -17,7 +17,7 @@
- [Integrasjon med Microsoft-stakken](#integrasjon-med-microsoft-stakken)
- [Offentlig sektor (Norge)](#offentlig-sektor-norge)
- [Kostnad og lisensiering](#kostnad-og-lisensiering)
- [For arkitekten (Cosmo)](#for-arkitekten-cosmo)
- [For arkitekten](#for-arkitekten)
- [Kilder og verifisering](#kilder-og-verifisering)
## Introduksjon
@ -365,7 +365,7 @@ User → Container App LB → [Azure OpenAI Region 1]
| **Ny total** | **2 228 NOK/måned** |
| **Besparelse** | **72%** |
## For arkitekten (Cosmo)
## For arkitekten
### Spørsmål å Stille Kunden

View file

@ -17,7 +17,7 @@
- [Integrasjon med Microsoft-Stakken](#integrasjon-med-microsoft-stakken)
- [Offentlig Sektor (Norge)](#offentlig-sektor-norge)
- [Kostnad og Lisensiering](#kostnad-og-lisensiering)
- [For Arkitekten (Cosmo)](#for-arkitekten-cosmo)
- [For Arkitekten](#for-arkitekten)
- [Kilder og Verifisering](#kilder-og-verifisering)
## Introduksjon
@ -414,7 +414,7 @@ def batch_processor(msgs: List[func.ServiceBusMessage]):
---
## For Arkitekten (Cosmo)
## For Arkitekten
### Spørsmål å Stille Klienten

View file

@ -17,7 +17,7 @@
- [Integrasjon med Microsoft-stakken](#integrasjon-med-microsoft-stakken)
- [Offentlig sektor (Norge)](#offentlig-sektor-norge)
- [Kostnad og lisensiering](#kostnad-og-lisensiering)
- [For arkitekten (Cosmo)](#for-arkitekten-cosmo)
- [For arkitekten](#for-arkitekten)
- [Kilder og verifisering](#kilder-og-verifisering)
## Introduksjon
@ -453,7 +453,7 @@ Tilgjengelig i deployment workflow:
---
## For arkitekten (Cosmo)
## For arkitekten
### Når anbefale reservations/commitments

View file

@ -17,7 +17,7 @@
- [Integrasjon med Microsoft-stakken](#integrasjon-med-microsoft-stakken)
- [Offentlig sektor (Norge)](#offentlig-sektor-norge)
- [Kostnad og lisensiering](#kostnad-og-lisensiering)
- [For arkitekten (Cosmo)](#for-arkitekten-cosmo)
- [For arkitekten](#for-arkitekten)
- [Kilder og verifisering](#kilder-og-verifisering)
## Introduksjon
@ -507,7 +507,7 @@ Eksempel:
---
## For arkitekten (Cosmo)
## For arkitekten
### Når anbefale semantic caching

View file

@ -17,7 +17,7 @@
- [Integrasjon med Microsoft-stakken](#integrasjon-med-microsoft-stakken)
- [Offentlig sektor (Norge)](#offentlig-sektor-norge)
- [Kostnad og lisensiering](#kostnad-og-lisensiering)
- [For arkitekten (Cosmo)](#for-arkitekten-cosmo)
- [For arkitekten](#for-arkitekten)
- [Kilder og verifisering](#kilder-og-verifisering)
## Introduksjon
@ -500,7 +500,7 @@ az webapp create --name webapp-slm-phi4 --resource-group rg-slm-norway --plan pl
**Viktig:** Microsofts Phi-serie er **MIT-lisensiert**, som gir full frihet for kommersiell bruk, fine-tuning og redistribusjon uten royalties.
## For arkitekten (Cosmo)
## For arkitekten
### Spørsmål å stille kunden
@ -575,7 +575,7 @@ az webapp create --name webapp-slm-phi4 --resource-group rg-slm-norway --plan pl
---
### Cosmo's Quick Decision Matrix
### Quick Decision Matrix
| Kriterium | Serverless (Foundry) | App Service Sidecar | AKS + KAITO | On-premises |
|-----------|----------------------|---------------------|-------------|-------------|

View file

@ -17,7 +17,7 @@
- [Integrasjon med Microsoft-stakken](#integrasjon-med-microsoft-stakken)
- [Offentlig sektor (Norge)](#offentlig-sektor-norge)
- [Kostnad og lisensiering](#kostnad-og-lisensiering)
- [For arkitekten (Cosmo)](#for-arkitekten-cosmo)
- [For arkitekten](#for-arkitekten)
- [Kilder og verifisering](#kilder-og-verifisering)
## Introduksjon
@ -517,7 +517,7 @@ Image tokens (high-res) = (# tiles × 170) + 85
---
## For arkitekten (Cosmo)
## For arkitekten
### Når anbefale token optimization?

View file

@ -17,7 +17,7 @@
- [Integrasjon med Microsoft-stakken](#integrasjon-med-microsoft-stakken)
- [Offentlig sektor (Norge)](#offentlig-sektor-norge)
- [Kostnad og lisensiering](#kostnad-og-lisensiering)
- [For arkitekten (Cosmo)](#for-arkitekten-cosmo)
- [For arkitekten](#for-arkitekten)
- [Kilder og verifisering](#kilder-og-verifisering)
## Introduksjon
@ -453,7 +453,7 @@ Hvis vector search brukes som grunnlag for Copilot for Microsoft 365:
- Azure AI Search koster ekstra (ikke inkludert i Copilot-lisens)
- Vurder Microsoft Foundry for unified billing (preview, februar 2026)
## For arkitekten (Cosmo)
## For arkitekten
### Spørsmål å stille klienten

View file

@ -22,7 +22,7 @@
- [Norsk offentlig sektor](#norsk-offentlig-sektor)
- [Beslutningsrammeverk](#beslutningsrammeverk)
- [Referanser](#referanser)
- [For Cosmo](#for-cosmo)
- [For arkitekten](#for-arkitekten)
## Introduksjon
@ -551,7 +551,7 @@ def publish_ordered_event(
- [Event-driven architecture style](https://learn.microsoft.com/azure/architecture/guide/architecture-styles/event-driven) — Architecture patterns
- [Azure Functions on Container Apps](https://learn.microsoft.com/azure/container-apps/functions-unified-platform) — Event-driven compute
## For Cosmo
## For arkitekten
- **Bruk denne referansen** når kunden har AI-workloads som ikke krever umiddelbart svar, eller når de opplever timeout-problemer med langvarige AI-forespørsler.
- Azure OpenAI Background Tasks er den enkleste løsningen for reasoning-modeller (o3, o1) som kan ta minutter — sett `background: true`.

View file

@ -19,7 +19,7 @@
- [Azure OpenAI-spesifikk skalering](#azure-openai-spesifikk-skalering)
- [Overvaking av skalering](#overvaking-av-skalering)
- [Sjekkliste for auto-scaling](#sjekkliste-for-auto-scaling)
- [For Cosmo](#for-cosmo)
- [For arkitekten](#for-arkitekten)
## Introduksjon
@ -589,7 +589,7 @@ ContainerAppSystemLogs
| 9 | Implementer graceful shutdown for lange AI-operasjoner | Medium |
| 10 | Dokumenter skaleringslogikk i ADR | Anbefalt |
## For Cosmo
## For arkitekten
- **Horisontal skalering er standard** for AI-arbeidslaster. Azure Container Apps med KEDA er forstevalgdet for mikrotjenester og API-lag. VM Scale Sets for GPU-tunge arbeidslaster.
- **Kombinert schedule + reaktiv skalering** gir best resultat for offentlig sektor: forutsigbar baseline i arbeidstid, lav kapasitet pa kveld/helg, med reaktiv oppskalering for uforutsette topper.

View file

@ -19,7 +19,7 @@
- [Retry og feilhhandtering](#retry-og-feilhhandtering)
- [Bruksomrader for norsk offentlig sektor](#bruksomrader-for-norsk-offentlig-sektor)
- [Sjekkliste for batch-optimalisering](#sjekkliste-for-batch-optimalisering)
- [For Cosmo](#for-cosmo)
- [For arkitekten](#for-arkitekten)
## Introduksjon
@ -566,7 +566,7 @@ system_prompt = "Oversett teksten fra bokmaal til nynorsk. Bevar fagterminologi.
| 9 | Bruk Blob Storage for filer over 200 MB | Ved behov |
| 10 | Sett opp alerting for batch completion | Anbefalt |
## For Cosmo
## For arkitekten
- **50% kostnadsreduksjon** gjor Batch API til forstevalgdet for all ikke-sanntids AI-prosessering i offentlig sektor. Masseklassifisering, dokumentanalyse og oversettelse bor alltid bruke batch.
- **Datasuverenitet:** Batch API prosesserer data i enhver Azure OpenAI-region for Global Batch. Bruk DataZoneBatch for a begrense til EU-regioner, eller Regional Batch for strengeste krav.

View file

@ -17,7 +17,7 @@
- [Geografisk routing og optimalisering](#geografisk-routing-og-optimalisering)
- [DDoS-beskyttelse for AI-endepunkter](#ddos-beskyttelse-for-ai-endepunkter)
- [Ytelsesgevinster: Oppsummering](#ytelsesgevinster-oppsummering)
- [For Cosmo](#for-cosmo)
- [For arkitekten](#for-arkitekten)
## Introduksjon
@ -570,7 +570,7 @@ resource wafPolicy 'Microsoft.Network/FrontDoorWebApplicationFirewallPolicies@20
| Geographic routing | 10-40 ms | Ingen direkte | Lav |
| DDoS/rate limiting | Indirekte (beskyttelse) | Hindrer misbrukskostnader | Medium |
## For Cosmo
## For arkitekten
- **Azure Front Door er obligatorisk** for alle publiserte AI-endepunkter. Det gir TLS-terminering, DDoS-beskyttelse, geographic routing og traffic acceleration med minimal konfigurasjon.
- **Cache ALDRI chat completion-responser.** Feilkonfigurert caching kan lekke personopplysninger mellom brukere. Kun statisk innhold, modellmetadata og embeddings kan caches trygt.

View file

@ -19,7 +19,7 @@
- [Norsk offentlig sektor](#norsk-offentlig-sektor)
- [Beslutningsrammeverk](#beslutningsrammeverk)
- [Referanser](#referanser)
- [For Cosmo](#for-cosmo)
- [For arkitekten](#for-arkitekten)
## Introduksjon
@ -437,7 +437,7 @@ class FairScheduler:
- [Performance and latency](https://learn.microsoft.com/azure/foundry/openai/how-to/latency) — Concurrent requests og throughput
- [Provisioned throughput](https://learn.microsoft.com/azure/foundry/openai/how-to/provisioned-get-started) — PTU utilization
## For Cosmo
## For arkitekten
- **Bruk denne referansen** når kunden opplever timeout, starvation eller ujevn ytelse i AI-applikasjoner med mange samtidige brukere.
- Start konservativt (10-20 concurrent) og øk gradvis mens du monitorerer throttle rate — aldri gå rett til 100 concurrent.

View file

@ -20,7 +20,7 @@
- [Norsk offentlig sektor](#norsk-offentlig-sektor)
- [Beslutningsrammeverk](#beslutningsrammeverk)
- [Referanser](#referanser)
- [For Cosmo](#for-cosmo)
- [For arkitekten](#for-arkitekten)
## Introduksjon
@ -407,7 +407,7 @@ Connection pooling har spesielle hensyn for norsk offentlig sektor:
- [Manage connections in Azure Functions](https://learn.microsoft.com/azure/azure-functions/manage-connections) — Serverless connection management
- [Use a gateway in front of multiple Azure OpenAI deployments or instances](https://learn.microsoft.com/azure/architecture/ai-ml/guide/azure-openai-gateway-multi-backend) — Multi-backend gateway patterns (Azure OpenAI i Foundry Models) — Verified (MCP 2026-06-19)
## For Cosmo
## For arkitekten
- **Bruk denne referansen** når kunden rapporterer høy latens, port-utmattelse, eller timeout-feil mot Azure OpenAI — connection pooling er ofte root cause.
- Anbefal `IHttpClientFactory` for .NET og `httpx.AsyncClient` med `Limits` for Python — aldri instansier `HttpClient` per forespørsel.

View file

@ -20,7 +20,7 @@
- [Norsk offentlig sektor](#norsk-offentlig-sektor)
- [Beslutningsrammeverk](#beslutningsrammeverk)
- [Referanser](#referanser)
- [For Cosmo](#for-cosmo)
- [For arkitekten](#for-arkitekten)
## Introduksjon
@ -441,7 +441,7 @@ ml_client.online_deployments.begin_create_or_update(deployment).result()
- [GPU optimized VM sizes](https://learn.microsoft.com/azure/virtual-machines/sizes-gpu) — Azure GPU VM-oversikt
- [Deploy models in Azure ML](https://learn.microsoft.com/azure/machine-learning/how-to-deploy-online-endpoints) — ML endpoint deployment
## For Cosmo
## For arkitekten
- **Bruk denne referansen** når kunden trenger å velge mellom PTU og Standard for Azure OpenAI, eller når de vurderer self-hosted modeller.
- For de fleste norske offentlige organisasjoner er Azure OpenAI PTU det riktige valget — unngå overhead med GPU-management med mindre datakontroll er et absolutt krav.

View file

@ -18,7 +18,7 @@
- [Provisioned Throughput Units (PTU) for forutsigbar latens](#provisioned-throughput-units-ptu-for-forutsigbar-latens)
- [Overvaking og malinger](#overvaking-og-malinger)
- [Sjekkliste for latensoptimalisering](#sjekkliste-for-latensoptimalisering)
- [For Cosmo](#for-cosmo)
- [For arkitekten](#for-arkitekten)
## Introduksjon
@ -476,7 +476,7 @@ AzureDiagnostics
| 7 | Separer arbeidslaster pa egne deployments | 10-20% reduksjon |
| 8 | Vurder PTU for stabile produksjonslaster | Forutsigbar latens |
## For Cosmo
## For arkitekten
- **Latens er sammensatt:** Optimaliser hele pipelinen, ikke bare modellvalget. Max tokens, connection reuse, regionvalg og prompt caching bidrar alle.
- **Sweden Central er forstevalg** for norske deployments med lavest latens (~10-20 ms) og EU-datasuverenitet. North Europe som failover.

View file

@ -19,7 +19,7 @@
- [Norsk offentlig sektor](#norsk-offentlig-sektor)
- [Beslutningsrammeverk](#beslutningsrammeverk)
- [Referanser](#referanser)
- [For Cosmo](#for-cosmo)
- [For arkitekten](#for-arkitekten)
## Introduksjon
@ -440,7 +440,7 @@ azure-openai-benchmark \
- [Performance and latency](https://learn.microsoft.com/azure/foundry/openai/how-to/latency) — Throughput vs latency forklaring
- [Capacity planning](https://learn.microsoft.com/azure/well-architected/performance-efficiency/capacity-planning) — WAF kapasitetsplanlegging
## For Cosmo
## For arkitekten
- **Bruk denne referansen** når kunden skal dimensjonere Azure OpenAI-deployment, validere ytelse før lansering, eller feilsøke ytelsesprobler i produksjon.
- Alltid bruk azure-openai-benchmark for PTU-dimensjonering — kapasitetskalkulatoren gir estimater, benchmarking gir reelle tall.

View file

@ -20,7 +20,7 @@
- [Beslutningsrammeverk](#beslutningsrammeverk)
- [Modellvalg og routing-strategi (oppdatert 2026-04)](#modellvalg-og-routing-strategi-oppdatert-2026-04)
- [Referanser](#referanser)
- [For Cosmo](#for-cosmo)
- [For arkitekten](#for-arkitekten)
## Introduksjon
@ -449,7 +449,7 @@ def route_to_model(user_input: str) -> str:
- [Customize a model with fine-tuning](https://learn.microsoft.com/azure/foundry/openai/how-to/fine-tuning) — Fine-tuning guide
- [Choose the right AI model](https://learn.microsoft.com/azure/architecture/ai-ml/guide/choose-ai-model) — Modellvalg-guide
## For Cosmo
## For arkitekten
- **Bruk denne referansen** når kunden har høyt volum av repetitive AI-oppgaver og ønsker å redusere kostnader uten å miste kvalitet.
- Stored Completions → Distill-flyten i Microsoft Foundry er den enkleste veien — ingen manuell datakuratering nødvendig.

View file

@ -19,7 +19,7 @@
- [Norsk offentlig sektor](#norsk-offentlig-sektor)
- [Beslutningsrammeverk](#beslutningsrammeverk)
- [Referanser](#referanser)
- [For Cosmo](#for-cosmo)
- [For arkitekten](#for-arkitekten)
## Introduksjon
@ -555,7 +555,7 @@ async def ci_benchmark_gate(
- [Evaluate generative AI models](https://learn.microsoft.com/azure/foundry/how-to/evaluate-generative-ai-app) — Kvalitetsevaluering
- [Azure Monitor metrics](https://learn.microsoft.com/azure/foundry-classic/openai/how-to/monitor-openai) — Azure OpenAI monitoring
## For Cosmo
## For arkitekten
- **Bruk denne referansen** når kunden trenger å etablere ytelsesbaselines, sette opp regelmessig ytelsestesting, eller integrere benchmarks i CI/CD.
- Et benchmark framework er IKKE valgfritt for produksjons-AI — uten baseline kan du ikke oppdage regresjoner eller validere forbedringer.

View file

@ -19,7 +19,7 @@
- [Norsk offentlig sektor](#norsk-offentlig-sektor)
- [Beslutningsrammeverk](#beslutningsrammeverk)
- [Referanser](#referanser)
- [For Cosmo](#for-cosmo)
- [For arkitekten](#for-arkitekten)
## Introduksjon
@ -380,7 +380,7 @@ class CacheAwarePromptManager:
- [Semantic cache with Cosmos DB](https://learn.microsoft.com/azure/cosmos-db/gen-ai/semantic-cache) — Ekstern caching
- [Application design for AI workloads](https://learn.microsoft.com/azure/well-architected/ai/application-design) — Multi-layer caching
## For Cosmo
## For arkitekten
- **Bruk denne referansen** når kunden vil redusere kostnader eller latens for Azure OpenAI-workloads med repetitive prompt-strukturer.
- Hovedregelen: Statisk innhold FØRST i prompten, dynamisk innhold SIST — alt statisk prefix caches automatisk.

View file

@ -20,7 +20,7 @@
- [Norsk offentlig sektor](#norsk-offentlig-sektor)
- [Beslutningsrammeverk](#beslutningsrammeverk)
- [Referanser](#referanser)
- [For Cosmo](#for-cosmo)
- [For arkitekten](#for-arkitekten)
## Introduksjon
@ -495,7 +495,7 @@ Microsoft dokumenterer multi-backend gateway som den anbefalte arkitekturmønste
- [Azure OpenAI SDK retry handling](https://learn.microsoft.com/azure/foundry/openai/supported-languages) — SDK retry-konfigurasjon
- [Use a gateway in front of multiple Azure OpenAI deployments or instances](https://learn.microsoft.com/azure/architecture/ai-ml/guide/azure-openai-gateway-multi-backend) — Multi-region gateway (Azure OpenAI i Foundry Models) — Verified (MCP 2026-06-19)
## For Cosmo
## For arkitekten
- **Bruk denne referansen** når kunden opplever 429-feil, planlegger kvotestrategi, eller designer multi-region failover for Azure OpenAI.
- Alltid sjekk og respekter `Retry-After` headeren — SDK-ene gjør dette automatisk, men custom-klienter må implementere det.

View file

@ -21,7 +21,7 @@
- [Norsk offentlig sektor](#norsk-offentlig-sektor)
- [Beslutningsrammeverk](#beslutningsrammeverk)
- [Referanser](#referanser)
- [For Cosmo](#for-cosmo)
- [For arkitekten](#for-arkitekten)
## Introduksjon
@ -419,7 +419,7 @@ Microsoft dokumenterer nå fire formelle topologier for Azure OpenAI gateway:
- [Azure OpenAI deployment types](https://learn.microsoft.com/azure/foundry/foundry-models/concepts/deployment-types) — Global vs Regional
- [AI Ready — Establish AI reliability](https://learn.microsoft.com/azure/cloud-adoption-framework/scenarios/ai/ready) — Multi-region best practices
## For Cosmo
## For arkitekten
- **Bruk denne referansen** når kunden trenger å velge Azure-region for Azure OpenAI, designer multi-region arkitektur, eller har krav til data residency.
- For norsk offentlig sektor: start med Regional Norway East + Data Zone EU failover — dette dekker de fleste krav.

View file

@ -19,7 +19,7 @@
- [Norsk offentlig sektor](#norsk-offentlig-sektor)
- [Beslutningsrammeverk](#beslutningsrammeverk)
- [Referanser](#referanser)
- [For Cosmo](#for-cosmo)
- [For arkitekten](#for-arkitekten)
## Introduksjon
@ -484,7 +484,7 @@ class ResilientStreamProcessor:
- [API Management SSE configuration](https://learn.microsoft.com/azure/api-management/how-to-server-sent-events) — APIM SSE
- [Server-Sent Events with App Gateway for Containers](https://learn.microsoft.com/azure/application-gateway/for-containers/server-sent-events) — Container SSE
## For Cosmo
## For arkitekten
- **Bruk denne referansen** når kunden implementerer streaming i AI-applikasjoner, trenger å chunke store responser, eller har feilhåndteringsproblemer med SSE.
- Streaming er alltid anbefalt for brukervendte applikasjoner — time-to-first-token reduseres fra sekunder til millisekunder.

View file

@ -18,7 +18,7 @@
- [Nar bruke streaming vs. non-streaming](#nar-bruke-streaming-vs-non-streaming)
- [Avanserte monstre](#avanserte-monstre)
- [Ytelsesmal for streaming](#ytelsesmal-for-streaming)
- [For Cosmo](#for-cosmo)
- [For arkitekten](#for-arkitekten)
## Introduksjon
@ -639,7 +639,7 @@ async def stream_with_token_counting(messages: list, model: str = "gpt-4o"):
| Reconnect-tid | < 2 s | > 10 s |
| Stream completion rate | > 99% | < 95% |
## For Cosmo
## For arkitekten
- **Streaming er obligatorisk** for alle brukerrettede AI-grensesnitt. Forskjellen i opplevd latens er dramatisk: 200 ms TTFT vs. 3-5 sekunders ventetid for komplett respons.
- **Infrastruktur-konfigurasjon er kritisk:** Hele kjeden (APIM, App Gateway, Front Door) ma ha response buffering deaktivert. En enkelt feilkonfigurert komponent blokkerer all streaming.

View file

@ -20,7 +20,7 @@
- [Norsk offentlig sektor](#norsk-offentlig-sektor)
- [Beslutningsrammeverk](#beslutningsrammeverk)
- [Referanser](#referanser)
- [For Cosmo](#for-cosmo)
- [For arkitekten](#for-arkitekten)
## Introduksjon
@ -454,7 +454,7 @@ def submit_batch(client: AzureOpenAI, filename: str):
- [Provisioned throughput onboarding](https://learn.microsoft.com/azure/foundry/openai/concepts/provisioned-throughput-billing) — PTU sizing og kostnader
- [Azure OpenAI Benchmark Tool](https://github.com/Azure/azure-openai-benchmark) — Offisielt benchmarking-verktøy
## For Cosmo
## For arkitekten
- **Bruk denne referansen** når kunden trenger å maksimere throughput for AI-workloads, eller når de opplever at de ikke utnytter sin tildelte kvote effektivt.
- Batch API gir 50% kostnadsreduksjon og bør anbefales for alle ikke-sanntids workloads — mange kunder er ikke klar over denne muligheten.

View file

@ -19,7 +19,7 @@
- [Norsk offentlig sektor](#norsk-offentlig-sektor)
- [Beslutningsrammeverk](#beslutningsrammeverk)
- [Referanser](#referanser)
- [For Cosmo](#for-cosmo)
- [For arkitekten](#for-arkitekten)
## Introduksjon
@ -349,7 +349,7 @@ print(f"Rejected predictions: {usage.rejected_prediction_tokens}")
- [Predicted outputs](https://learn.microsoft.com/azure/foundry/openai/how-to/predicted-outputs) — Spekulativ generering
- [Foundry PTU calculator](https://ai.azure.com/resource/calculator) — Kapasitetskalkulator
## For Cosmo
## For arkitekten
- **Bruk denne referansen** når kunden ønsker å optimalisere responstid for AI-tjenester, eller når de skal dimensjonere PTU-deployments.
- TPS-mål varierer dramatisk mellom modeller: gpt-4.1-nano gir 100 TPS vs. gpt-4o med 25 TPS — velg modell basert på oppgavens kompleksitet.