chore(ms-ai-architect): refresh KB critical-bucket — 15 files [skip-docs]
KB-currency refresh (critical priority, 2026-06-19) via /architect:kb-update. 15 critical cost/arkitektur-filer re-verifisert mot Microsoft Learn (MCP). Hovedendringer: - Azure AI Search Serverless (Preview) prismodell (rag-cost, rag-query, vector-storage, rag-enterprise-scale) - Agentic retrieval GA-split (2026-04-01 REST GA, portal preview) + Foundry IQ - AI gateway multi-provider (Anthropic v2 / Google Vertex), unified model API (preview), Foundry-integrasjon (enterprise-arch, ai-services-cost, multi-model, cost-tracking) - FOCUS-skjema + Cost Mgmt -> ADLS Gen2 -> Fabric -> Power BI pipeline (cost-management, cost-allocation) - FinOps hub AI-agent via Azure MCP / Copilot Studio (budget-forecasting) - OTel trace-based sampling for logs (observability) - Korreksjoner: semantic-cache score-threshold = AVSTAND (0.15, ikke 0.85 cosine-likhet); llm-emit-token-metric maks 5 custom dimensions; Foundry RBAC-renames (Owner/Contributor = kun mgmt); Researcher/Analyst er ikke agenter - Alle 15 Last updated -> 2026-06-19 High-bucket (49 filer) UTSATT til egen sesjon (operatoer-valg). Co-Authored-By: Claude Opus 4.8 (1M context) <noreply@anthropic.com> Claude-Session: https://claude.ai/code/session_01REiKFhP4w6xGXXqWKpPCJJ
This commit is contained in:
parent
1ae5655156
commit
41b390b38d
15 changed files with 69 additions and 30 deletions
|
|
@ -1,6 +1,6 @@
|
|||
# RAG Query Cost Optimization
|
||||
|
||||
**Last updated:** 2026-04
|
||||
**Last updated:** 2026-06-19
|
||||
**Status:** GA
|
||||
**Category:** Cost Optimization & FinOps for AI
|
||||
|
||||
|
|
@ -53,6 +53,8 @@ Basert på Microsoft Learn-data for standard konfigurasjon (5 retrieved document
|
|||
|
||||
**Baseline (Modellkunnskap):** Prisene er omregnet fra USD til NOK (1 USD ≈ 11 NOK, februar 2026) og er veiledende.
|
||||
|
||||
**NY prismodell — Serverless (Preview, MCP 2026-06):** Azure AI Search tilbyr nå to prismodeller: **Dedicated** (provisioned, fast pris per Search Unit — tabellen over) og **Serverless (Preview)** — forbruksbasert (Compute Units/time + per-GB/mnd lagring), ingen compute-kost ved idle. Best for sporadiske/variable workloads; en kontinuerlig provisjonert Basic/S1 kan være dyrere enn Serverless ved bursty trafikk. Per juni 2026 er Serverless i preview (kun West Central US, Switzerland North, Japan East), støtter ikke migrering til/fra dedicated, og er ikke anbefalt for produksjon ennå.
|
||||
|
||||
### Semantic Ranking Costs
|
||||
|
||||
**Verified (Microsoft Learn):** Semantic ranking er en premium-funksjon som påløper ekstra kostnader per query. Kostnaden er progressiv og varierer basert på volum:
|
||||
|
|
@ -142,13 +144,14 @@ else: # Complex reasoning
|
|||
|
||||
### 4. Agentic Retrieval (Cost-Aware)
|
||||
|
||||
**Status: Public Preview** — Agentic Retrieval er foreløpig i public preview (ikke GA). *(Verified MCP 2026-04)*
|
||||
**Status: GA-split (MCP 2026-06)** — Deler av agentic retrieval er **generelt tilgjengelig i `2026-04-01` REST API** (programmatisk tilgang). Azure-portalen og Microsoft Foundry-portalen gir fortsatt **kun preview-tilgang** til alle agentic retrieval-funksjoner. Pipelinen er også kunnskapslaget bak **Foundry IQ** i Foundry-portalen. *(Verified MCP 2026-06)*
|
||||
|
||||
**Prinsipp:** Azure AI Search Agentic Retrieval bruker LLM til å generere subqueries som kjøres parallelt. Dette kan være dyrt, men også mer effektivt enn multiple sequential queries.
|
||||
**Prinsipp:** Azure AI Search Agentic Retrieval bruker LLM til å generere fokuserte subqueries som kjøres parallelt, hver semantisk rerangert. Dette kan være dyrt, men også mer effektivt enn multiple sekvensielle queries.
|
||||
|
||||
**Prismodell (public preview):**
|
||||
- **Free tier:** 50 millioner gratis agentic reasoning tokens/måned inkludert (på Basic tier og høyere)
|
||||
- **Standard tier:** Pay-as-you-go etter at gratis kvota er brukt
|
||||
**Prismodell:**
|
||||
- **Free plan (default):** månedlig gratis token-kvote inkludert (eksakt mengde oppgis ikke lenger i dokumentasjonen — se [Azure AI Search pricing](https://azure.microsoft.com/pricing/details/search))
|
||||
- **Standard plan:** pay-as-you-go etter at gratis kvota er brukt
|
||||
- **Azure OpenAI faktureres separat** (alltid pay-as-you-go) for input/output-tokens i query planning + answer synthesis
|
||||
|
||||
**Kostnadseksempel (Verified - Microsoft Learn):**
|
||||
- **2000 agentic retrievals** med 3 subqueries per plan:
|
||||
|
|
|
|||
Loading…
Add table
Add a link
Reference in a new issue