From 41b390b38d876ae8336c13560f51894f9513bc9e Mon Sep 17 00:00:00 2001 From: Kjell Tore Guttormsen Date: Fri, 19 Jun 2026 06:22:48 +0200 Subject: [PATCH] =?UTF-8?q?chore(ms-ai-architect):=20refresh=20KB=20critic?= =?UTF-8?q?al-bucket=20=E2=80=94=2015=20files=20[skip-docs]?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit KB-currency refresh (critical priority, 2026-06-19) via /architect:kb-update. 15 critical cost/arkitektur-filer re-verifisert mot Microsoft Learn (MCP). Hovedendringer: - Azure AI Search Serverless (Preview) prismodell (rag-cost, rag-query, vector-storage, rag-enterprise-scale) - Agentic retrieval GA-split (2026-04-01 REST GA, portal preview) + Foundry IQ - AI gateway multi-provider (Anthropic v2 / Google Vertex), unified model API (preview), Foundry-integrasjon (enterprise-arch, ai-services-cost, multi-model, cost-tracking) - FOCUS-skjema + Cost Mgmt -> ADLS Gen2 -> Fabric -> Power BI pipeline (cost-management, cost-allocation) - FinOps hub AI-agent via Azure MCP / Copilot Studio (budget-forecasting) - OTel trace-based sampling for logs (observability) - Korreksjoner: semantic-cache score-threshold = AVSTAND (0.15, ikke 0.85 cosine-likhet); llm-emit-token-metric maks 5 custom dimensions; Foundry RBAC-renames (Owner/Contributor = kun mgmt); Researcher/Analyst er ikke agenter - Alle 15 Last updated -> 2026-06-19 High-bucket (49 filer) UTSATT til egen sesjon (operatoer-valg). Co-Authored-By: Claude Opus 4.8 (1M context) Claude-Session: https://claude.ai/code/session_01REiKFhP4w6xGXXqWKpPCJJ --- .../enterprise-governance-copilot-deployment.md | 7 +++++-- .../api-management/cost-tracking-apim-policies.md | 9 ++++----- .../ai-services-cost-optimization.md | 3 ++- .../ai-services-enterprise-architecture.md | 9 ++++++++- .../rag-architecture/rag-cost-optimization.md | 6 ++++-- .../rag-architecture/rag-enterprise-scale.md | 6 ++++-- .../azure-ai-foundry-cost-governance.md | 10 +++++++++- .../cost-optimization/azure-cost-management-ai.md | 4 +++- .../budget-forecasting-ai-projects.md | 4 +++- .../cost-allocation-chargeback.md | 4 +++- .../multi-model-strategy-costs.md | 4 +++- .../observability-cost-reduction.md | 4 +++- .../cost-optimization/rag-query-cost-reduction.md | 15 +++++++++------ .../semantic-caching-patterns.md | 10 ++++++---- .../vector-storage-cost-optimization.md | 4 +++- 15 files changed, 69 insertions(+), 30 deletions(-) diff --git a/skills/ms-ai-advisor/references/copilot-extensibility/enterprise-governance-copilot-deployment.md b/skills/ms-ai-advisor/references/copilot-extensibility/enterprise-governance-copilot-deployment.md index 83f4f7b..0658127 100644 --- a/skills/ms-ai-advisor/references/copilot-extensibility/enterprise-governance-copilot-deployment.md +++ b/skills/ms-ai-advisor/references/copilot-extensibility/enterprise-governance-copilot-deployment.md @@ -1,6 +1,6 @@ # Enterprise Governance and Deployment Controls -**Last updated:** 2026-05 +**Last updated:** 2026-06-19 **Status:** GA **Category:** Copilot Extensibility & Integration @@ -38,11 +38,14 @@ Sentralisert administrasjonspanel i Microsoft 365 admin center (`admin.microsoft - **Deployment policies** — Konfigurer hvem som kan installere og bruke agents - **Pinning controls** — Pin agents til Copilot rail for synlighet og adoption - **Orphaned agent detection** — Identifiser agents uten owner for cleanup +- **Agent Store-godkjenning (MCP 2026-06)** — Agenter fra Agent Store må gjennom innsending + admin-godkjenning via **Agent Registry** i M365 admin center; admins vurderer **agent-forespørsler** og publiserer/avviser. Publisering til organisasjonen støttes nå også i Government Community Cloud High (GCCH) og Moderate (GCCM) **Begrensninger:** - Microsoft-installed agents (Researcher, Analyst) kan kun blokkeres tenant-wide — granulære kontroller er grayed-out - Admins kan kun slette shared agents og custom LOB agents (ikke Microsoft-built agents) +**Presisering (MCP 2026-06):** Researcher og Analyst er strengt tatt **ikke agenter**, men førsteparts Copilot-opplevelser i Microsoft 365 Copilot Chat (under **Tools**), bygget på samme fundament som M365 Copilot og innenfor M365 commercial data processing boundary. De sameksisterer med agenter og følger agent-relaterte governance-kapabiliteter, men styres **ikke** av agent-spesifikke innstillinger. + ### 2. Zoned Governance Strategy Microsoft anbefaler en tredelt governance-modell basert på risiko og teknisk kompleksitet: @@ -432,7 +435,7 @@ Start - **DSPM for AI som "front door"** — Data Security Posture Management for AI er nå anbefalt startpunkt for å oppdage, sikre og anvende compliance-kontroller på tvers av AI-bruk i tenantet (Verified 2026-05) - **Tre AI-app-kategorier i Purview:** 1. **Copilot experiences and agents** — M365 Copilot, Security Copilot, Copilot in Fabric, Copilot Studio, Microsoft Facilitator, Channel Agent in Teams - 2. **Enterprise AI apps** — Entra-registered AI apps, Microsoft Foundry, ChatGPT Enterprise + 2. **Enterprise AI apps** — Entra-registered AI apps, Microsoft Foundry, ChatGPT Enterprise, **Anthropic Claude (Enterprise)** (lagt til MCP 2026-06) 3. **Other AI apps** — Tredjepart-LLMs (ChatGPT consumer, Google Gemini, DeepSeek) detektert via Defender for Cloud Apps - **Microsoft Agent 365** har dedikert Purview-side (`ai-agent-365`) for security & compliance - **Risky AI usage policy template** i Insider Risk Management — detekterer prompt injection-angrep og tilgang til beskyttet materiale, integrert med Microsoft Defender XDR (Verified 2026-05) diff --git a/skills/ms-ai-engineering/references/api-management/cost-tracking-apim-policies.md b/skills/ms-ai-engineering/references/api-management/cost-tracking-apim-policies.md index 73cc003..c4c6940 100644 --- a/skills/ms-ai-engineering/references/api-management/cost-tracking-apim-policies.md +++ b/skills/ms-ai-engineering/references/api-management/cost-tracking-apim-policies.md @@ -1,6 +1,6 @@ # Cost Tracking & Chargeback via APIM Policies -**Last updated:** 2026-02 +**Last updated:** 2026-06-19 **Status:** GA **Category:** API Management & AI Gateway @@ -42,12 +42,9 @@ Den primære policyen for å emittere token-metriker til Azure Monitor: - + - - - ``` +**Viktig (MCP 2026-06):** `llm-emit-token-metric` tillater **maks 5 custom dimensions per policy** (Azure Monitor-grense — 5 default-dimensjoner brukes allerede av tjenesten; eksempelet over er derfor trimmet fra 8 til 5). Flere dimensjoner gir policy-feil. Policyen konfigureres i **inbound**-seksjonen og virker for OpenAI Chat Completions/Responses, **Anthropic Messages API** (API Management v2-tiers) og **Google Vertex AI**. Token-kategoriene inkluderer nå (preview) også cached-, reasoning- og thinking-tokens i tillegg til prompt/completion/total. Sett `include_usage=true` ved streaming, ellers blir token-tellingen unøyaktig. + ### Token-typer og Kostnader | Token-type | Beskrivelse | Kostnadsandel | diff --git a/skills/ms-ai-engineering/references/azure-ai-services/ai-services-cost-optimization.md b/skills/ms-ai-engineering/references/azure-ai-services/ai-services-cost-optimization.md index 26e359b..77506ff 100644 --- a/skills/ms-ai-engineering/references/azure-ai-services/ai-services-cost-optimization.md +++ b/skills/ms-ai-engineering/references/azure-ai-services/ai-services-cost-optimization.md @@ -1,6 +1,6 @@ # Azure AI Services - Pricing Models and Cost Optimization -**Last updated:** 2026-02 +**Last updated:** 2026-06-19 **Status:** GA **Category:** Azure AI Services (Foundry Tools) @@ -199,6 +199,7 @@ PTU er en kapasitetsbasert prismodell for Azure OpenAI, primært for produksjons - **Rate limiting:** Forhindre overskridelser - **Circuit breaker:** Automatisk failover til billigere endepunkt - **Load balancing:** Distribuer trafikk mellom PTU og pay-as-you-go +- **Multi-provider + Foundry (MCP 2026-06):** AI gateway styrer nå også Anthropic Messages API (v2-tiers) og Google Vertex AI, tilbyr unified model API (preview), og kan integreres direkte i Microsoft Foundry (preview) for sentral token-/kostnadsgovernance på tvers av modeller, agenter og verktøy **Verified** – Microsoft Learn: Generative AI Gateway Capabilities. diff --git a/skills/ms-ai-engineering/references/azure-ai-services/ai-services-enterprise-architecture.md b/skills/ms-ai-engineering/references/azure-ai-services/ai-services-enterprise-architecture.md index fad1eff..c4f2e43 100644 --- a/skills/ms-ai-engineering/references/azure-ai-services/ai-services-enterprise-architecture.md +++ b/skills/ms-ai-engineering/references/azure-ai-services/ai-services-enterprise-architecture.md @@ -1,5 +1,5 @@ # Azure AI Services - Enterprise Architecture Patterns -**Last updated:** 2026-05 | Verified: MCP 2026-05 +**Last updated:** 2026-06-19 | Verified: MCP 2026-06 **Status:** GA **Category:** Azure AI Services (Foundry Tools) @@ -52,6 +52,13 @@ Azure AI Services (tidligere Cognitive Services) krever robuste enterprise-arkit - Session affinity for conversational agents - Health probes og automatic retry uten client-side delay +**Multi-provider og governance (MCP 2026-06):** +- AI gateway medierer nå flere LLM-skjemaer: OpenAI Chat Completions/Responses, **Anthropic Messages API** (API Management v2-tiers) og **Google Vertex AI** — i tillegg til modeller i Microsoft Foundry og ikke-Microsoft-leverandører (f.eks. Amazon Bedrock) +- **Unified model API (preview):** eksponerer flere backends gjennom ett OpenAI-kompatibelt endepunkt med automatisk format-oversettelse og felles policy-governance på tvers av modeller +- Styrer også **MCP-servere** og **A2A-agent-APIer** som backends, ikke bare språkmodeller +- **AI gateway i Microsoft Foundry (preview):** governance av modeller, agenter og verktøy direkte fra Foundry-miljøet (token-kvoter, throttling, content safety, telemetri i Foundry/Application Insights) +- Semantisk caching via **Azure Managed Redis** (RediSearch-kompatibel) med `llm-semantic-cache-store`/`-lookup`-policyer + **VIKTIG:** APIM circuit breaker for Azure OpenAI må håndtere `429 Too Many Requests` og respektere `Retry-After`-headeren (kan være opptil 24 timer). ### 3. Azure AI Search diff --git a/skills/ms-ai-engineering/references/rag-architecture/rag-cost-optimization.md b/skills/ms-ai-engineering/references/rag-architecture/rag-cost-optimization.md index 2c9eb83..9aa2ab6 100644 --- a/skills/ms-ai-engineering/references/rag-architecture/rag-cost-optimization.md +++ b/skills/ms-ai-engineering/references/rag-architecture/rag-cost-optimization.md @@ -1,6 +1,6 @@ # RAG Cost Optimization and Efficiency -**Last updated:** 2026-05 +**Last updated:** 2026-06-19 **Status:** GA **Category:** RAG Architecture & Semantic Search @@ -29,7 +29,9 @@ Valg av Azure AI Search pricing tier er avgjørende for total kostnad: | **S3 HD** | Multitenant, mange små indekser | 200 GB | Høy | ~NOK 20,000 | | **L1/L2** | Storage-optimized, sjeldne queries | 1 TB+ | Lavere | ~NOK 15,000+ | -**Viktig:** Services opprettet etter april 2024 får større partitions til samme pris. Basic-tier: 15 GB per partisjon (eldre services: 2 GB). S1: 25 GB per partisjon. Tier switching er nå støttet — du kan bytte mellom Basic og Standard S1 direkte uten å recreate servicen. Verified (MCP 2026-04). +**Viktig:** Services opprettet etter april 2024 får større partitions til samme pris. Basic-tier: 15 GB per partisjon (eldre services: 2 GB). S1: 25 GB per partisjon. Tier switching er nå støttet — du kan bytte mellom Basic og Standard (S1/S2/S3) direkte (config må ikke overstige target-tier; regionen må ha kapasitet). Verified (MCP 2026-04). + +**NY prismodell — Serverless (Preview, MCP 2026-06):** Azure AI Search har nå to prismodeller — **Dedicated** (tabellen over, fast pris per Search Unit) og **Serverless (Preview)**, forbruksbasert (Compute Units/time + per-GB/mnd lagring), ingen compute-kost ved idle. Serverless passer sporadiske/bursty workloads og multitenant; Dedicated passer jevn, forutsigbar last. Per juni 2026 er Serverless Developer i preview (kun West Central US, Switzerland North, Japan East), uten SLA, og støtter ikke migrering til/fra Dedicated. **SU og CU er ikke utvekslbare** — ikke bruk SU-baserte kalkulatorer for Serverless. ### 2. Token Cost Reduction Strategies diff --git a/skills/ms-ai-engineering/references/rag-architecture/rag-enterprise-scale.md b/skills/ms-ai-engineering/references/rag-architecture/rag-enterprise-scale.md index 49405e3..a59e5e2 100644 --- a/skills/ms-ai-engineering/references/rag-architecture/rag-enterprise-scale.md +++ b/skills/ms-ai-engineering/references/rag-architecture/rag-enterprise-scale.md @@ -1,6 +1,6 @@ # RAG at Enterprise Scale - Indexing and Serving -**Last updated:** 2026-04 +**Last updated:** 2026-06-19 **Status:** GA **Category:** RAG Architecture & Semantic Search @@ -150,7 +150,9 @@ For global enterprise-løsninger med latency-krav: | **Standard S3** | 200 GB | Svært god | 20M+ dokumenter, continuous updates | | **Storage Optimized L1** | 1 TB | Moderat | Arkiv-scenarier, sjeldne oppdateringer | -**Viktig**: Services opprettet etter 3. april 2024 har [høyere storage per partition](https://learn.microsoft.com/en-us/azure/search/search-limits-quotas-capacity#service-limits). Eldre services kan oppgraderes. +**Viktig**: Services opprettet etter 3. april 2024 har [høyere storage per partition](https://learn.microsoft.com/en-us/azure/search/search-limits-quotas-capacity#service-limits). Eldre services kan oppgraderes. Basic-services opprettet etter 3. april 2024 støtter nå opptil 3 partitions × 3 replicas (maks 9 SU); eldre Basic var begrenset til 1 partition × 3 replicas. Verified (MCP 2026-06). + +**NY prismodell — Serverless (Preview, MCP 2026-06):** Ved siden av **Dedicated** (replicas × partitions = Search Units — hele dette dokumentets skaleringsmodell) tilbyr Azure AI Search nå **Serverless (Preview)**: forbruksbasert kapasitet som skalerer automatisk og **ned til null ved idle** (Compute Units/time + per-GB/mnd lagring). Microsoft peker eksplisitt på Serverless for «variable, bursty, or multitenant workloads, including agent-driven scenarios». For enterprise med jevn, forutsigbar last forblir Dedicated riktig; for sporadiske/agent-drevne workloads fjerner Serverless idle-kost. Per juni 2026 i preview (kun West Central US, Switzerland North, Japan East), uten SLA, ingen migrering til/fra Dedicated. ### Vanlige Feil diff --git a/skills/ms-ai-security/references/cost-optimization/azure-ai-foundry-cost-governance.md b/skills/ms-ai-security/references/cost-optimization/azure-ai-foundry-cost-governance.md index 585bf52..0ed71fe 100644 --- a/skills/ms-ai-security/references/cost-optimization/azure-ai-foundry-cost-governance.md +++ b/skills/ms-ai-security/references/cost-optimization/azure-ai-foundry-cost-governance.md @@ -1,6 +1,6 @@ # Azure AI Foundry Cost Governance and Controls -**Last updated:** 2026-02 +**Last updated:** 2026-06-19 **Status:** GA **Category:** Cost Optimization & FinOps for AI @@ -102,6 +102,14 @@ Dynamic quota lar deployments opportunistisk bruke ubrukt kapasitet utover sin b - ❌ Produksjonsapplikasjoner som krever forutsigbar ytelse - ❌ Når du må enforce hard spending cap (dynamic quota har ingen takgrense) +### 6. Resource-modell og RBAC (MCP 2026-06) + +**«Foundry Tools» → «Foundry resource»:** Den underliggende Azure-ressursen (API-kind `AIServices`) er omdøpt til **Microsoft Foundry resource** — neste versjon og renaming av tidligere «Foundry Tools». Projects fungerer som mapper for å gruppere arbeid under én ressurs (relevant for kostnadsallokering per prosjekt). + +**Foundry RBAC-roller (omdøpt — rolle-IDer og kjernepermisjoner uendret):** Azure AI User → **Foundry User**, Azure AI Owner → **Foundry Owner**, Azure AI Account Owner → **Foundry Account Owner**, Azure AI Project Manager → **Foundry Project Manager**. De gamle navnene kan fortsatt vises mens utrullingen pågår. + +**Viktig for rolleseparering / least-privilege:** Azure **Owner** og **Contributor** gir KUN management-tilgang (opprette/konfigurere ressurser, styre kvote/kostnad) — **ikke** utviklingstilgang. For å faktisk bygge (data actions) kreves **Foundry User** (minste privilegium for utviklere) eller **Foundry Owner**. Dette gir et rent skille mellom hvem som styrer kostnad/kvote og hvem som utvikler — direkte nyttig for IKS-rolleseparering omtalt lenger ned. + ## Arkitekturmønstre ### Mønster 1: Strict Quota Governance (High Control) diff --git a/skills/ms-ai-security/references/cost-optimization/azure-cost-management-ai.md b/skills/ms-ai-security/references/cost-optimization/azure-cost-management-ai.md index d4baf16..35d7c13 100644 --- a/skills/ms-ai-security/references/cost-optimization/azure-cost-management-ai.md +++ b/skills/ms-ai-security/references/cost-optimization/azure-cost-management-ai.md @@ -1,6 +1,6 @@ # Azure Cost Management and Budget Monitoring for AI -**Last updated:** 2026-02 +**Last updated:** 2026-06-19 **Status:** GA **Category:** Cost Optimization & FinOps for AI @@ -131,6 +131,8 @@ Plattformen er gratis for alle Azure-kunder og integreres sømløst med Azure Po - **FinOps Hub**: Open-source accelerator fra Microsoft (Data Factory + Fabric) for advanced analytics - **Azure Data Explorer (ADX)**: Query cost data med KQL for AI-powered insights (Copilot integration) +**FOCUS + moderne eksport-pipeline (MCP 2026-06):** Microsoft anbefaler nå **FOCUS** (FinOps Open Cost and Usage Specification) — et leverandør-agnostisk skjema — som eksport-template i Cost Management. Den skalerbare analyse-pipelinen er **Cost Management exports → ADLS Gen2 → Fabric Lakehouse → Power BI** (FOCUS-formatert, daglig schedule). For høyvolum-loggkostnader: bruk ingestion-time transformation i Azure Monitor for å filtrere før lagring. Cost Management beholder data i 13 måneder; eksporter til storage (cool/archive) for lengre historikk. + ### Azure Monitor & Log Analytics - **Activity Log**: Spor budsjett-opprettelse, endringer, alert-triggering diff --git a/skills/ms-ai-security/references/cost-optimization/budget-forecasting-ai-projects.md b/skills/ms-ai-security/references/cost-optimization/budget-forecasting-ai-projects.md index 16ab400..11e42bf 100644 --- a/skills/ms-ai-security/references/cost-optimization/budget-forecasting-ai-projects.md +++ b/skills/ms-ai-security/references/cost-optimization/budget-forecasting-ai-projects.md @@ -1,6 +1,6 @@ # Budget Forecasting and Financial Planning for AI -**Last updated:** 2026-02 +**Last updated:** 2026-06-19 **Status:** GA **Category:** Cost Optimization & FinOps for AI @@ -334,6 +334,8 @@ CostDetails | where Anomaly > 1.5 ``` +**AI-agent over FinOps hubs (MCP 2026-06):** Du kan nå koble en AI-agent direkte til FinOps hub-databasen via **Azure MCP server** og stille naturlig-språk-spørsmål om allokering, forecasting, anomalier og rate-optimering — enten i **GitHub Copilot (Agent mode i VS Code)** med ferdige FinOps-instruksjoner, eller som en **Copilot Studio-agent** publisert til Teams/M365 Copilot. Agenten forstår FinOps + **FOCUS**-skjemaet (andre MCP-klienter som Claude kan også brukes). Eksempel: «Show me the cost for last month, this month, and the forecasted cost by end of month for the top subscriptions.» + **Verified** — FinOps Hubs Documentation --- diff --git a/skills/ms-ai-security/references/cost-optimization/cost-allocation-chargeback.md b/skills/ms-ai-security/references/cost-optimization/cost-allocation-chargeback.md index b1b2102..00c4147 100644 --- a/skills/ms-ai-security/references/cost-optimization/cost-allocation-chargeback.md +++ b/skills/ms-ai-security/references/cost-optimization/cost-allocation-chargeback.md @@ -1,6 +1,6 @@ # Cost Allocation and Chargeback Models -**Last updated:** 2026-04 +**Last updated:** 2026-06-19 **Status:** GA **Category:** Cost Optimization & FinOps for AI @@ -168,6 +168,8 @@ Tags er key-value pairs som kan brukes til å kategorisere ressurser og kostnade - Usage Details API støtter **ikke** cost allocation (bruk Cost Details API i stedet) - Reservasjoner og Savings Plans støttes **ikke** for allocation +**FOCUS-skjema (MCP 2026-06):** For standardiserte, leverandør-agnostiske eksporter anbefaler Microsoft nå **FOCUS** (FinOps Open Cost and Usage Specification) som eksport-template i Cost Management — nyttig for konsistent chargeback-/showback-rapportering på tvers av verktøy og skyer. Pipeline: Cost Management exports → ADLS Gen2 → Fabric Lakehouse → Power BI. + ### Management Groups og Subscriptions **Strategi:** diff --git a/skills/ms-ai-security/references/cost-optimization/multi-model-strategy-costs.md b/skills/ms-ai-security/references/cost-optimization/multi-model-strategy-costs.md index 5ee6203..4b4e0ea 100644 --- a/skills/ms-ai-security/references/cost-optimization/multi-model-strategy-costs.md +++ b/skills/ms-ai-security/references/cost-optimization/multi-model-strategy-costs.md @@ -1,6 +1,6 @@ # Multi-Model Strategy: Cost-Performance Trade-offs -**Last updated:** 2026-05 | Verified: MCP 2026-05 +**Last updated:** 2026-06-19 | Verified: MCP 2026-06 **Status:** GA **Category:** Cost Optimization & FinOps for AI @@ -51,6 +51,8 @@ For organisasjoner som ønsker mer kontroll, tilbyr custom gateway-løsninger (v - **Azure API Management:** PaaS-løsning med backend pools, circuit breaker, policy-basert routing - **Custom Code:** Full kontroll, typisk Azure Container Apps eller AKS, frontet av Azure Front Door/Traffic Manager +**Multi-provider gateway (MCP 2026-06):** Azure API Managements AI gateway medierer nå også ikke-OpenAI-skjemaer — **Anthropic Messages API** (v2-tiers) og **Google Vertex AI** — i tillegg til Foundry-modeller, og tilbyr **unified model API (preview)**: ett OpenAI-kompatibelt endepunkt på tvers av leverandører med felles policy-governance. Relevant for multi-model-strategier som spenner over flere modell-leverandører, ikke bare flere Azure OpenAI-deployments. + ## Arkitekturmønstre ### 1. Model Router: Managed Multi-Model Routing diff --git a/skills/ms-ai-security/references/cost-optimization/observability-cost-reduction.md b/skills/ms-ai-security/references/cost-optimization/observability-cost-reduction.md index d1985e2..32e8e88 100644 --- a/skills/ms-ai-security/references/cost-optimization/observability-cost-reduction.md +++ b/skills/ms-ai-security/references/cost-optimization/observability-cost-reduction.md @@ -1,6 +1,6 @@ # Observability and Monitoring Cost Optimization -**Last updated:** 2026-05 | Verified: MCP 2026-05 +**Last updated:** 2026-06-19 | Verified: MCP 2026-06 **Status:** GA **Category:** Cost Optimization & FinOps for AI @@ -47,6 +47,8 @@ Moderne Azure Monitor tilbyr flere kostnadseffektive alternativer som Basic Logs **Viktig:** Metrics samples aldri. Sampling påvirker kun traces (spans) og optionally logs. Alerts basert på metrics forblir nøyaktige. +**OpenTelemetry-distro (MCP 2026-06):** Azure Monitor OTel-distroen har **ikke** sampling på som default og bruker to strategier: **fixed-rate** (ratio 0–1, f.eks. `0.1` = ~10 %) og **rate-limited** (traces/sek, f.eks. `5.0` = fem traces/sek). En egen **trace-based sampling for logs** dropper logger knyttet til ikke-samplede traces og er **på som default når sampling er aktivert** (støttede språk) — gir kostnadsreduksjon utover trace-sampling alene. Distroens custom sampler bevarer hele traces (unngår broken traces) og kreves for Live Metrics. Anbefalt logg-strategi: eksporter kun `ERROR` (legg til `WARN` kun når handlingsrettet). + ## Arkitekturmønstre ### Mønster 1: Full Observability (Production-Grade AI) diff --git a/skills/ms-ai-security/references/cost-optimization/rag-query-cost-reduction.md b/skills/ms-ai-security/references/cost-optimization/rag-query-cost-reduction.md index f3703e6..a5629b9 100644 --- a/skills/ms-ai-security/references/cost-optimization/rag-query-cost-reduction.md +++ b/skills/ms-ai-security/references/cost-optimization/rag-query-cost-reduction.md @@ -1,6 +1,6 @@ # RAG Query Cost Optimization -**Last updated:** 2026-04 +**Last updated:** 2026-06-19 **Status:** GA **Category:** Cost Optimization & FinOps for AI @@ -53,6 +53,8 @@ Basert på Microsoft Learn-data for standard konfigurasjon (5 retrieved document **Baseline (Modellkunnskap):** Prisene er omregnet fra USD til NOK (1 USD ≈ 11 NOK, februar 2026) og er veiledende. +**NY prismodell — Serverless (Preview, MCP 2026-06):** Azure AI Search tilbyr nå to prismodeller: **Dedicated** (provisioned, fast pris per Search Unit — tabellen over) og **Serverless (Preview)** — forbruksbasert (Compute Units/time + per-GB/mnd lagring), ingen compute-kost ved idle. Best for sporadiske/variable workloads; en kontinuerlig provisjonert Basic/S1 kan være dyrere enn Serverless ved bursty trafikk. Per juni 2026 er Serverless i preview (kun West Central US, Switzerland North, Japan East), støtter ikke migrering til/fra dedicated, og er ikke anbefalt for produksjon ennå. + ### Semantic Ranking Costs **Verified (Microsoft Learn):** Semantic ranking er en premium-funksjon som påløper ekstra kostnader per query. Kostnaden er progressiv og varierer basert på volum: @@ -142,13 +144,14 @@ else: # Complex reasoning ### 4. Agentic Retrieval (Cost-Aware) -**Status: Public Preview** — Agentic Retrieval er foreløpig i public preview (ikke GA). *(Verified MCP 2026-04)* +**Status: GA-split (MCP 2026-06)** — Deler av agentic retrieval er **generelt tilgjengelig i `2026-04-01` REST API** (programmatisk tilgang). Azure-portalen og Microsoft Foundry-portalen gir fortsatt **kun preview-tilgang** til alle agentic retrieval-funksjoner. Pipelinen er også kunnskapslaget bak **Foundry IQ** i Foundry-portalen. *(Verified MCP 2026-06)* -**Prinsipp:** Azure AI Search Agentic Retrieval bruker LLM til å generere subqueries som kjøres parallelt. Dette kan være dyrt, men også mer effektivt enn multiple sequential queries. +**Prinsipp:** Azure AI Search Agentic Retrieval bruker LLM til å generere fokuserte subqueries som kjøres parallelt, hver semantisk rerangert. Dette kan være dyrt, men også mer effektivt enn multiple sekvensielle queries. -**Prismodell (public preview):** -- **Free tier:** 50 millioner gratis agentic reasoning tokens/måned inkludert (på Basic tier og høyere) -- **Standard tier:** Pay-as-you-go etter at gratis kvota er brukt +**Prismodell:** +- **Free plan (default):** månedlig gratis token-kvote inkludert (eksakt mengde oppgis ikke lenger i dokumentasjonen — se [Azure AI Search pricing](https://azure.microsoft.com/pricing/details/search)) +- **Standard plan:** pay-as-you-go etter at gratis kvota er brukt +- **Azure OpenAI faktureres separat** (alltid pay-as-you-go) for input/output-tokens i query planning + answer synthesis **Kostnadseksempel (Verified - Microsoft Learn):** - **2000 agentic retrievals** med 3 subqueries per plan: diff --git a/skills/ms-ai-security/references/cost-optimization/semantic-caching-patterns.md b/skills/ms-ai-security/references/cost-optimization/semantic-caching-patterns.md index f3bafd0..ebeb052 100644 --- a/skills/ms-ai-security/references/cost-optimization/semantic-caching-patterns.md +++ b/skills/ms-ai-security/references/cost-optimization/semantic-caching-patterns.md @@ -1,6 +1,6 @@ # Semantic Caching for AI Workloads -**Last updated:** 2026-02 +**Last updated:** 2026-06-19 **Status:** GA **Category:** Cost Optimization & FinOps for AI @@ -65,6 +65,8 @@ Semantic caching består av fire hovedkomponenter: - `0.70-0.84`: Liberal matching, høyere cache hit rate men lavere presisjon - **Start med 0.85 og juster basert på cache hit rate og user feedback** (MEDIUM confidence) +**Viktig — `score-threshold` i APIM-policyen er en AVSTAND, ikke cosine-likhet (MCP 2026-06):** Tabellen over gjelder generell cosine-**likhet** (høyere = strengere), som brukes av application-level vector-stores. Men APIM-policyene `llm-semantic-cache-lookup` / `azure-openai-semantic-cache-lookup` bruker et `score-threshold` som er en semantisk **avstand**: prompts med score *over* terskelen bruker IKKE cachen, så **lavere terskel = strengere matching**. Microsofts eget eksempel bruker `score-threshold="0.15"`. Sett derfor en LAV verdi (~0.1–0.2) i APIM-policyene under — IKKE 0.85. + --- ## Arkitekturmønstre @@ -88,7 +90,7 @@ Client → APIM (semantic cache policies) → Azure Managed Redis (RediSearch) ```xml @(context.Subscription.Id) diff --git a/skills/ms-ai-security/references/cost-optimization/vector-storage-cost-optimization.md b/skills/ms-ai-security/references/cost-optimization/vector-storage-cost-optimization.md index eb27b9b..ef83416 100644 --- a/skills/ms-ai-security/references/cost-optimization/vector-storage-cost-optimization.md +++ b/skills/ms-ai-security/references/cost-optimization/vector-storage-cost-optimization.md @@ -1,6 +1,6 @@ # Vector Storage and Embedding Cost Optimization -**Last updated:** 2026-05 +**Last updated:** 2026-06-19 **Status:** GA **Category:** Cost Optimization & FinOps for AI @@ -403,6 +403,8 @@ Eksempel: 5 millioner dokumenter, gjennomsnittlig 2000 tokens per dokument **Viktig:** Eldre services (pre-April 2024) har lavere quotas. Sjekk oppgraderingsmulighet: `az search service show --name --resource-group `. +**Serverless (Preview, MCP 2026-06):** Azure AI Search tilbyr nå også en **Serverless**-prismodell (forbruksbasert: Compute Units/time + per-GB/mnd lagring) ved siden av Dedicated-tierne over. For store, men sporadisk aksesserte vektor-indekser kan Serverless redusere idle-kost. Per juni 2026 er den i preview (West Central US, Switzerland North, Japan East), uten SLA, mangler enkelte features (index aliases, debug sessions, shared private link), og støtter ikke migrering til/fra Dedicated. + ### Embedding-kostnader (Azure OpenAI) | Modell | Input (per 1M tokens) | Use case |