diff --git a/skills/ms-ai-governance/references/monitoring-observability/cost-monitoring-cost-attribution.md b/skills/ms-ai-governance/references/monitoring-observability/cost-monitoring-cost-attribution.md index 10e30d3..8bf5178 100644 --- a/skills/ms-ai-governance/references/monitoring-observability/cost-monitoring-cost-attribution.md +++ b/skills/ms-ai-governance/references/monitoring-observability/cost-monitoring-cost-attribution.md @@ -1,6 +1,6 @@ # Cost Monitoring and Expense Reporting for AI Deployments -**Last updated:** 2026-04 +**Last updated:** 2026-06 **Status:** GA **Category:** Monitoring & Observability @@ -115,7 +115,7 @@ az feature register --namespace Microsoft.CostManagement --name EnableTagInherit **Arkitektur:** ``` Client A → APIM Gateway → Azure OpenAI (gpt-4o) -Client B ↗ → Azure OpenAI (gpt-35-turbo) +Client B ↗ → Azure OpenAI (gpt-4o-mini) ↓ Azure Monitor Logs (IP, model, tokens, timestamp) @@ -162,14 +162,16 @@ ApiManagementGatewayLogs **Bruksområde:** Azure Foundry-prosjekter som bruker både Microsoft-modeller (OpenAI) og 3rd-party modeller (Cohere, Meta). **Utfordringer:** -- Microsoft-modeller vises som meters under Cognitive Services-ressursen -- 3rd-party modeller vises som SaaS-meters under Resource Group (ikke under Foundry-ressursen) -- Må scope Cost Analysis til Resource Group-nivå for å se alle kostnader +- Azure OpenAI- og Microsoft-modeller vises som meters under selve Foundry-ressursen +- Partner-/community-modeller (Marketplace) vises under **ressursgruppen** — ikke under Foundry-ressursen — når du grupperer på Meter på ressursgruppe-scope +- I **Cost by resource**-visningen vises enkelte leverandørers modeller under **Global resources**, med meternavn på formatet `model-name-GUID` (GUID = identifikator for den aktuelle Foundry-ressursen). «Global» viser her til plasseringen i kostnadstreet, ikke modellens SKU (f.eks. *Global standard*) +- Må scope Cost Analysis til Resource Group-nivå (eller subscription hvis ressursene er spredt over flere ressursgrupper) for å se alle kostnader **Implementering:** 1. Naviger til Cost Analysis → Scope til Resource Group -2. Gruppér på **Meter** → filtrer på `Service Name: SaaS` +2. Gruppér på **Meter** for å se kostnad per modell-serie 3. Expand meter details for å se input/output tokens per modell +4. For per-ressurs-fordeling: bytt til **Cost by resource**-visningen (Group by → Meter, linjediagram) — partner-modeller fremkommer under **Global resources** som `model-name-GUID` **Marketplace-meters:** | Meter Name | Beskrivelse | @@ -195,6 +197,34 @@ ApiManagementGatewayLogs --- +## Foundry-portal-native kostnadssporing + +Microsoft Foundry-portalen (Foundry «new») gir innebygd, nær-sanntids kostnadssporing for agenter, modell-deployments og prosjekter — uten å gå via Azure Cost Management. Estimatene er ment for løpende oppfølging; bruk Azure Cost Management og fakturerte beløp til finansiell avstemming. + +> **Viktig:** Foundry-portalens estimater reflekterer **ikke** rabatter eller avtalt prising, og dekker kun standard deployment-kostnader — ikke provisioned throughput (PTU). + +### Agent-kostnader + +- **Aggregert (alle agenter):** Operate → Overview → velg subscription, ett eller flere prosjekter og datointervall. **Estimated cost**-flisen viser estimat for alle agenter i valgt(e) prosjekt(er) for perioden. Estimatet inkluderer **ikke** prompt-agenter eller ikke-Foundry-agenter. +- **Per agent:** Assets → Agents-fanen → kolonnen **Estimated costs** viser månedsestimat per agent basert på konfigurasjon og bruksmønster. +- **Detaljert (token-kostnad per agent):** Build → Agents → velg agent → Monitor-fanen → sett datointervall → se token-kostnad og bruksmetrikker. + +### Modell-deployment-kostnader + +Build → Models → velg modell → Monitor-fanen → sett datointervall. Viser total kostnad og et estimert-kostnad-diagram for perioden. Token-/request-diagrammer kan midlertidig avvike fra **Estimated cost** pga. ingestion-timing — bruk Estimated cost for nær-sanntids oppfølging og Cost Management for avstemming. + +### Prosjektnivå kostnadsfordeling (Preview) + +Foundry støtter chargeback på **prosjektnivå**, slik at FinOps-team kan allokere delt Foundry-forbruk tilbake til riktig forretningsenhet/team/workload — nyttig når flere prosjekter deler samme Foundry-ressurs. + +- Hvert Foundry-prosjekt tagges **automatisk** med en `project`-tag på underliggende forbruk. **Ingen manuell tagging** kreves. +- **Slik ser du det:** Åpne Foundry-ressursen i Azure-portalen → Cost analysis (under Resource Management) → Add filter → Tag → `project` → velg prosjekt(er). +- **Begrensning (Preview):** Støttes foreløpig kun for **Models sold by Azure** (Azure Direct, inkl. Azure OpenAI). **Ikke** ennå for modeller levert via Azure Marketplace. + +**Konfidensgrad:** Verified (Microsoft Learn, manage-costs) + +--- + ## Beslutningsveiledning ### Når bruke hvilken strategi? @@ -353,9 +383,9 @@ if ($metrics.Data.Total -eq 0) { | Teknikk | Besparelse | Implementering | |---------|-----------|----------------| -| **Prompt caching** | 50-90% på repeterte prompts | Bruk Azure OpenAI cache-støtte (beta) | +| **Prompt caching** | 50-90% på repeterte prompts | Bruk Azure OpenAI prompt caching | | **Token-optimalisering** | 20-40% | Fjern unødvendig whitespace, bruk kortere system messages | -| **Model selection** | 50-70% | Bruk GPT-3.5 Turbo for enkle oppgaver i stedet for GPT-4 | +| **Model selection** | 50-70% | Bruk en mindre/billigere modell (f.eks. gpt-4o-mini) for enkle oppgaver i stedet for en flaggskip-modell | | **PTU for stable workloads** | 30-50% | Kjøp PTU hvis >80% utilization | | **Fine-tuning cleanup** | 100% på inaktive | Automatisk sletting av deployments med 0 requests/7d | | **Batch processing** | 20-30% | Gruppér requests for å redusere overhead | @@ -438,9 +468,9 @@ if ($metrics.Data.Total -eq 0) { ### Kilder (Microsoft Learn) -1. **Plan to manage costs for Azure OpenAI** +1. **Plan and manage costs for Microsoft Foundry** *(Verified MCP 2026-06)* https://learn.microsoft.com/en-us/azure/foundry/concepts/manage-costs - *Konfidensgrad: Verified* – Komplett guide for cost management (budgets, alerts, export) + *Konfidensgrad: Verified* – Komplett guide for cost management (budgets, alerts, export, Foundry-portal-native agent-/modell-/prosjektsporing) 2. **Azure OpenAI in Foundry Models gateway monitoring** *(Verified MCP 2026-04)* https://learn.microsoft.com/en-us/azure/architecture/ai-ml/guide/azure-openai-gateway-monitoring @@ -470,6 +500,7 @@ if ($metrics.Data.Total -eq 0) { | Tag-Based Allocation | Verified | Microsoft Learn (governance) | | Gateway-Based Attribution | Verified | Azure Architecture Center | | Multi-Model Tracking | Verified | Microsoft Learn (AI Foundry manage-costs) | +| Foundry-portal-native sporing (Agent/Modell/Prosjekt Preview) | Verified | Microsoft Learn (manage-costs) | | Azure OpenAI meters | Verified | Microsoft Learn (pricing page) | | APIM pricing | Verified | Azure Pricing Calculator | | GDPR/IP-masking | Baseline | Generell GDPR-kunnskap + APIM policy best practices |