ms-ai-architect/skills/ms-ai-engineering/references/azure-ai-services/ai-services-cost-optimization.md
Kjell Tore Guttormsen 3a73eeafdc refactor(ms-ai-architect): R13 del 1 — nøytraliser Cosmo-personaen i ref-korpusets headinger, etter å ha rettet en gate som var målt usann to ganger
Ordre 20260912T193441Z-7358817909. Steg 1 var ikke transformen, men å rette
roadmapens R13-gate og få den ratifisert. Gaten `grep -rl "Cosmo"
skills/*/references -> 0` var usann på to uavhengige måter:

1. Ordren fanget den første: 451 av forekomstene er Azure Cosmos DB, ekte
   produktinnhold. Diskriminatoren er ikke bokstaven «s» — `Cosmos <norsk
   substantiv>` er genitiv av personaen (`### Cosmos tonalitet`), mens
   `Cosmos DB`/`CosmosClient`/`cosmos_ru` er produkt.
2. Denne økten fant den andre: 132 persona-forekomster ligger i prosa,
   tabeller, dialog-replikker og proveniens-linjer. Heading-nøytralisering
   kan ikke nå dem, så «0 persona» er uoppnåelig også under den ratifiserte
   formen. Operatøren ratifiserte alternativ A: gaten speiler formen, og de
   132 bokføres til R13b/R14.

Tre korreksjoner av premisser som sto i ordren og STATE:
  «ca 320 produkt»   -> 451 (case-sensitivt nett manglet 327 lowercase
                        TOC-ankre + 99 identifikatorer; sann nevner 1 638)
  «169 headinger»    -> 401. 169 var `^## For Cosmo`-prefikset (168) og var
                        internt inkonsistent med sin egen topp-variant (204)
  «417 matcher ingen
   populasjon»       -> 417 er cosmo-headinger utenfor kodefences; briefens
                        nevner var reell hele tiden

Fence-bevissthet er målt skadelig, ikke nødvendig: begge toggle-regler er
gale på dette korpuset (naiv toggle skjuler en ekte heading i
chain-of-thought-prompting.md, CommonMark-regelen ubalanserer
service-level-documentation-dr.md). Fence-agnostisk deteksjon finner 401
heading-linjer i nøyaktig de samme 40 variantene som fence-bevisst finner
400 i — ingen kodeblokk-linje er byte-identisk til en persona-heading. Derfor
nøkles transformen på 40 enumererte heading-tekster og ignorerer fences. En
ukjent variant kaster; en slug-kollisjon kaster. Ingenting auto-fikses.

TOC-en regenereres ikke, den rettes kirurgisk: alle 327 persona-lenker hadde
lenketekst lik én av de 40 heading-tekstene og anker lik slugify av den
(327/327, 0 avvik), så heading og TOC-entry skrives i samme operasjon og
ingen mellomtilstand etterlater en død lenke.

Ratifisert målform: `For Cosmo`, `For Cosmo Skyberg` og `For arkitekten
(Cosmo)` konvergerer på `For arkitekten`. To filer kolliderte og er adjudisert
ved å lese dem, ikke ved regel.

Verifisering (alle 7 kriterier fra ordren):
  G1 persona på heading-linjer   401 -> 0
  G2 døde fragmentlenker         1 -> 1 (pre-eksisterende, unntatt)
  G3 produkt-forekomster         451 -> 451; `Cosmos DB|Azure Cosmos` 308 = 308
  de 3 kun-produkt-filene        byte-identiske
  nettet validert begge veier    injisert persona feller G1; genitiv feller G1;
                                 produkt-heading og de 3 filene passerer
  hele diffen                    802 heading-linjer + 654 TOC-linjer, ANNET = 0
  linjeantall                    728 lagt til = 728 slettet
  suite                          1120/1120 (1097 + 23 nye)
  validate-plugin                250 PASS / 0 FAIL
  stikkprøve                     10 filer, alle 5 skills, inkl. de 3 mest
                                 produkt-tunge (26/20/19) — kun heading+TOC

Utenfor scope, urørt: de 4 SKILL.md, de 23 commands, CLAUDE.md, README.md,
NOTICE.md, docs/ (alt R14).

Co-Authored-By: Claude Opus 5 <noreply@anthropic.com>
2026-09-12 22:12:28 +02:00

15 KiB
Raw Blame History

Azure AI Services - Pricing Models and Cost Optimization

Last updated: 2026-06-19 Status: GA Category: Azure AI Services (Foundry Tools) Type: reference Source: https://learn.microsoft.com/azure/foundry/concepts/manage-costs


Innhold

Introduksjon

Azure AI Services (tidligere Cognitive Services) tilbyr flere prismodeller for å balansere fleksibilitet, forutsigbarhet og kostnadskontroll. Valg av riktig prismodell er kritisk for både teknisk ytelse og økonomisk bærekraft. Denne referansen dekker de tre hovedprismodellene Pay-as-you-go, Commitment Tier og Provisioned Throughput (PTU) samt beste praksiser for kostnadsovervåking, budsjettering og optimalisering.

Verified Informasjon fra Microsoft Learn (januar 2026), Azure Pricing Calculator og Azure Cost Management-dokumentasjon.


Kjernekomponenter / Nøkkelegenskaper

Prismodeller

Modell Bruksområde Fakturering Forutsigbarhet Kostnadskontroll
Pay-as-you-go (Standard) Varierende eller uforutsigbar trafikk Per transaksjon/token Lav Reaktiv (budsjettalarmer)
Commitment Tier Jevn, forutsigbar last Fast månedlig kostnad + overage Høy Proaktiv (forhåndsbetalt kvote)
Provisioned Throughput (PTU) Azure OpenAI med garantert throughput Timepris per PTU + reservasjonsrabatt Høy Proaktiv (dedikert kapasitet)

Verified Fra Microsoft Learn: Azure AI Services Commitment Tier og PTU-dokumentasjon.

Commitment Tier Detaljer

Støttede tjenester:

  • Speech to Text (Standard)
  • Text to Speech (Neural)
  • Text Translation (Standard)
  • Language Understanding (Text Requests)
  • Azure Language (Sentiment Analysis, Key Phrase Extraction, Language Detection, NER)
  • Vision OCR
  • Document Intelligence (Custom/Invoice)

Viktige egenskaper:

  • Forpliktelsesperiode: Kalendermåned (web/connected containers) eller kalenderår (disconnected containers)
  • Pro-rata fakturering: Første måned beregnes basert på gjenværende dager i måneden
  • Overage: Forbruk over kvoten faktureres til samme sats som commitment tier
  • Auto-renewal: Valgfritt; kan endres frem til midnatt UTC siste dag i måneden
  • Ikke-refunderbar: Når kjøpt, er commitment tier ikke refunderbar

Begrensninger:

  • Kan IKKE brukes med multi-service Cognitive Services-ressurs
  • Krever dedikert single-service ressurs (f.eks. Speech eller Translator)

Verified Microsoft Learn: Purchase Commitment Tier Pricing.

Provisioned Throughput Units (PTU)

PTU er en kapasitetsbasert prismodell for Azure OpenAI, primært for produksjonsscenarier med høy, forutsigbar trafikk.

Deployment-typer:

  • Regional Provisioned: Data forblir i én region
  • Data Zone Provisioned: Data forblir innenfor data zone (f.eks. EU, US)
  • Global Provisioned: Global lastbalansering

Fakturering:

  • Timepris: Beregnes per PTU per time ($/PTU/hr)
  • Pro-rata: Delvis time faktureres proporsjonalt (15 min = 1/4 timepris)
  • Reservasjonsrabatt: 1-måneds eller 1-års Azure Reservations gir betydelige rabatter (ingen 3-årstermin for Foundry PTU; faktisk rabatt varierer per modellfamilie og term)

Kapasitetsplanlegging:

  • Bruk Foundry PTU Calculator (tilgjengelig i Microsoft Foundry portal)
  • Input: Tokens per minute (TPM), requests per minute (RPM), prompt tokens, completion tokens
  • Output: Anbefalt PTU-størrelse
  • Benchmark anbefales for mest nøyaktig estimat

Viktig:

  • Generations (output tokens) krever mer kapasitet enn prompts (input tokens)
  • For GPT-4o og nyere modeller: TPM per PTU er satt separat for input og output tokens
  • Ikke anbefalt å skalere produksjonsdeployments basert på trafikk bruk reservasjon for stabil last

Verified Microsoft Learn: Provisioned Throughput Concepts og PTU Cost Management.


Arkitekturmønstre

Mønster 1: Hybrid PTU + Pay-as-you-go (Overflow)

Bruksområde: Håndtere trafikk-spicer kostnadseffektivt.

Design:

  • Primært endepunkt: PTU-deployment (dekker baseline trafikk)
  • Overflow endepunkt: Pay-as-you-go-deployment (håndterer trafikk-spicer)
  • Gateway: API Management eller generativ AI gateway for intelligent ruting

Fordeler:

  • Forutsigbare kostnader for baseline
  • Fleksibilitet for uforutsette lasttopper
  • Maksimerer ROI på PTU-reservasjon

Verified Microsoft Learn: Govern AI Costs (Combine PTU with consumption endpoints).

Mønster 2: Progressive Cost Optimization

Fase 1 (Pilot): Pay-as-you-go

  • Etabler bruksmønstre
  • Ingen forpliktelse
  • Høyere per-transaksjonskostnad

Fase 2 (Produksjon Forutsigbar trafikk): Commitment Tier eller PTU

  • Bytt til commitment tier når månedlig volum er forutsigbart
  • Vurder PTU for Azure OpenAI med SLA-krav

Fase 3 (Optimalisering): Reservasjoner + Tagging

  • Kjøp 1-måneds eller 1-års PTU-reservasjon
  • Bruk tags for kostnadsallokering per prosjekt/team

Verified Microsoft Learn: Plan and Manage Costs for Azure OpenAI.

Mønster 3: Cost Governance med Azure Policy

Kontroller:

  • Modell-whitelist: Azure Policy for å kun tillate kostnadseffektive modeller
  • Quota limits: Sett maksimal quota per modell for å unngå overskridelser
  • Automatisk shutdown: Automatisk slå av ikke-produksjonsressurser utenfor arbeidstid

Verified Microsoft Learn: Govern AI Costs.


Beslutningsveiledning

Når bruke Pay-as-you-go

Bruk når:

  • Proof-of-concept eller pilot
  • Uforutsigbar trafikk
  • Lav volum (< 10 % av commitment tier-terskel)
  • Kortsiktig prosjekt

Ikke bruk når:

  • Produksjon med høy, jevn trafikk
  • Budsjettforutsigbarhet er kritisk

Når bruke Commitment Tier

Bruk når:

  • Månedlig volum er forutsigbart (> 70 % kapasitetsutnyttelse)
  • Trenger 30-50 % kostnadsbesparelse vs. pay-as-you-go
  • Speech, Translation, Language, Vision eller Document Intelligence

Ikke bruk når:

  • Trafikk varierer sterkt måned til måned
  • Trenger multi-service ressurs (ikke støttet)

Når bruke Provisioned Throughput (PTU)

Bruk når:

  • Azure OpenAI i produksjon
  • SLA-krav (latency, throughput)
  • Høy, forutsigbar trafikk (> 100K tokens/dag)
  • Langsiktig forpliktelse (1-års reservasjon gir best ROI; 3-årstermin finnes ikke for Foundry PTU)

Ikke bruk når:

  • Lav trafikk eller pilot-fase
  • Ikke-Azure OpenAI-tjenester (PTU er kun for Azure OpenAI)

Verified Microsoft Learn: When to Use Provisioned Throughput.


Integrasjon med Microsoft-stakken

Azure Cost Management

Kostnadsovervåking:

  • Cost Analysis: Scope til resource group eller subscription
  • Service tier filter: Bruk "Azure OpenAI" for å filtrere ut andre AI Services
  • Meter-visning: Separer input tokens, output tokens og fine-tuning-kostnader
  • Tag-basert allokering: Bruk deployment tags for team-/prosjektrapportering

Verified Microsoft Learn: Monitor Costs in Azure Portal.

Budsjetter og Alarmer

Type Terskel Varsel Formål
Budget alert 90 %, 100 %, 110 % E-post + webhook Faktisk forbruk vs. budsjett
Forecast alert 110 % E-post Predikert overskridelse
Anomaly alert Automatisk (ML-basert) E-post Uventede kostnadstopper

Viktig:

  • Azure OpenAI har INGEN hard limit-funksjonalitet (i motsetning til OpenAI)
  • Automatisering via Action Groups krever custom utvikling

Verified Microsoft Learn: Create Budgets and Alerts.

API Management (Generative AI Gateway)

Kostnadsoptimalisering via gateway:

  • Token tracking: Overvåk forbruk per klient/team
  • Rate limiting: Forhindre overskridelser
  • Circuit breaker: Automatisk failover til billigere endepunkt
  • Load balancing: Distribuer trafikk mellom PTU og pay-as-you-go
  • Multi-provider + Foundry (MCP 2026-06): AI gateway styrer nå også Anthropic Messages API (v2-tiers) og Google Vertex AI, tilbyr unified model API (preview), og kan integreres direkte i Microsoft Foundry (preview) for sentral token-/kostnadsgovernance på tvers av modeller, agenter og verktøy

Verified Microsoft Learn: Generative AI Gateway Capabilities.


Offentlig sektor (Norge)

Compliance og Budsjettstyring

Årlig budsjett-tilnærming:

  • Offentlig sektor har ofte årlige budsjetter → Commitment Tier med årlig forpliktelse (disconnected containers) kan matche budsjettåret
  • Anbefaling: Start med månedlig commitment tier, evaluer årlig reservasjon etter 6-12 måneder

Kostnadstransparens:

  • Bruk tags for å allokere kostnader per virksomhetsområde
  • Eksporter kostnadsdata til Excel/Power BI for rapportering

Verified Microsoft Learn: Tag-based Cost Allocation.

Dataplassering

Regional Provisioned vs. Data Zone Provisioned:

  • Regional: Data forblir i én region (f.eks. Norway East)
  • Data Zone: Data forblir i EU (men kan replikeres på tvers av regioner)
  • Global Provisioned: Data kan replikeres globalt

Anbefaling for Norge: Bruk Regional Provisioned for strengeste dataplasseringskrav.

Verified Microsoft Learn: Provisioned Deployment Types.


Kostnad og lisensiering

Prissammenligning (Eksempel: Azure OpenAI GPT-4o)

Modell Pay-as-you-go PTU (Hourly) PTU (1-year reservation) Besparelse (Reservation)
GPT-4o (input) ~0.005 USD/1K tokens 0.02 USD/PTU/time ~0.014 USD/PTU/time ~30 %
GPT-4o (output) ~0.015 USD/1K tokens 0.02 USD/PTU/time ~0.014 USD/PTU/time ~30 %

Merk: Priser varierer per region. Bruk Azure Pricing Calculator for nøyaktige tall.

Verified Azure Pricing Calculator (januar 2026).

Commitment Tier Eksempel (Speech to Text)

Volum (transaksjoner/måned) Pay-as-you-go (USD) Commitment Tier (USD) Besparelse
100 000 100 75 25 %
500 000 500 350 30 %

Verified Microsoft Learn: Commitment Tier Pricing Examples.

TCO (Total Cost of Ownership)

Skjulte kostnader:

  • Azure Storage: Knowledge store, enrichment cache (Azure AI Search)
  • Azure Key Vault: Customer-managed keys for encryption
  • Networking: Bandwidth charges (minimeres ved same-region deployment)
  • Fine-tuning hosting: Azure OpenAI fine-tuned models faktureres per time (selv uten trafikk)

Anbefaling: Bruk Cost Management eksportfunksjon for å analysere alle relaterte kostnader.

Verified Microsoft Learn: Understand Billing Model for Azure AI Services.


For arkitekten

Kostnadsoptimalisering Sjekkliste

Før deployment:

  • Estimert månedlig volum (tokens/transaksjoner)?
  • Trafikkmønster forutsigbart (> 70 % kapasitetsutnyttelse)?
  • SLA-krav (latency, throughput)?
  • Langsiktig forpliktelse (> 12 måneder)?

Valg av prismodell:

  • Pay-as-you-go: Pilot, uforutsigbar trafikk
  • Commitment Tier: Forutsigbar trafikk, Speech/Translation/Language
  • PTU: Azure OpenAI, produksjon, SLA-krav

Etter deployment:

  • Sett opp budsjettalarmer (90 %, 100 %, 110 %)
  • Konfigurer anomali-deteksjon
  • Bruk tags for kostnadsallokering
  • Overvåk kapasitetsutnyttelse (commitment tier/PTU)
  • Vurder reservasjon etter 3-6 måneder (PTU)

Når anbefale Commitment Tier

Spørsmål til kunden:

  1. "Hvor mange transaksjoner per måned forventer dere?"
  2. "Varierer trafikken sterkt måned til måned?"
  3. "Har dere budsjettforutsigbarhet som krav?"

Anbefaling:

  • Hvis volum > commitment tier-terskel OG variasjon < 30 % → Anbefal commitment tier
  • Hvis overage > 20 % → Oppgrader til høyere tier neste måned

Når anbefale PTU

Spørsmål til kunden:

  1. "Er dette Azure OpenAI i produksjon?"
  2. "Har dere latency/throughput-krav i SLA?"
  3. "Er trafikken forutsigbar (> 100K tokens/dag)?"
  4. "Kan dere forplikte deg til 1 år?"

Anbefaling:

  • Hvis JA på alle → Anbefal PTU med 1-års reservasjon
  • Hvis NEI på (4) → Start med PTU hourly, kjøp reservasjon etter 3-6 måneder

Red Flags (Kostnadsrisiko)

⚠️ Varseltegn:

  • "Vi kjører Azure OpenAI pay-as-you-go i produksjon med 1M tokens/dag" → Anbefal PTU
  • "Vi har commitment tier, men overage er 50 % hver måned" → Oppgrader tier
  • "Vi vet ikke hvor mye vi bruker" → Sett opp Cost Management FØRST
  • "Vi har PTU uten reservasjon i 2 år" → Kjøp reservasjon NÅ

Kilder og verifisering

Microsoft Learn (Verified)

  1. Commitment Tier Pricing https://learn.microsoft.com/en-us/azure/ai-services/commitment-tier Sist sjekket: 2026-02

  2. Provisioned Throughput Concepts https://learn.microsoft.com/en-us/azure/foundry/openai/concepts/provisioned-throughput Sist sjekket: 2026-02

  3. Provisioned Throughput Onboarding (PTU Cost Management) https://learn.microsoft.com/en-us/azure/foundry/openai/concepts/provisioned-throughput-billing Sist sjekket: 2026-02

  4. Plan and Manage Costs for Azure OpenAI https://learn.microsoft.com/en-us/azure/foundry/concepts/manage-costs Sist sjekket: 2026-02

  5. Govern AI Costs (Cloud Adoption Framework) https://learn.microsoft.com/en-us/azure/cloud-adoption-framework/scenarios/ai/platform/governance Sist sjekket: 2026-02

  6. Azure Cost Management Create Budgets https://learn.microsoft.com/en-us/azure/cost-management-billing/costs/tutorial-acm-create-budgets Sist sjekket: 2026-02

  7. Generative AI Gateway Capabilities (API Management) https://learn.microsoft.com/en-us/azure/api-management/genai-gateway-capabilities Sist sjekket: 2026-02

Azure Pricing Calculator (Verified)

  1. Azure Pricing Calculator https://azure.microsoft.com/pricing/calculator/ Sist sjekket: 2026-02

  2. Azure OpenAI Pricing https://azure.microsoft.com/pricing/details/cognitive-services/openai-service/ Sist sjekket: 2026-02

  3. Cognitive Services Pricing https://azure.microsoft.com/pricing/details/cognitive-services/ Sist sjekket: 2026-02

Unique URLs: 10