From 24ea2ef508eab6fce57d4b0371ecefa633f9cc54 Mon Sep 17 00:00:00 2001 From: Kjell Tore Guttormsen Date: Tue, 23 Jun 2026 21:59:11 +0200 Subject: [PATCH] docs(ms-ai-architect): apply-brief critical cost-cluster KB-refresh (7 drift-rapporter) MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit Samler drift-funn fra 7 parallelle research-agenter for de gjenstående critical cost-filene + main-agent direkte-verifiserte ground-truth. Resumerbar apply-plan; NYE påstander merket VERIFY (må bekreftes mot kilde før skriving — verifiseringsplikt). 1/8 (ptu-vs-paygo) allerede ferdig i d36cddd. Co-Authored-By: Claude Opus 4.8 (1M context) --- docs/kb-refresh-cost-cluster-2026-06.md | 54 +++++++++++++++++++++++++ 1 file changed, 54 insertions(+) create mode 100644 docs/kb-refresh-cost-cluster-2026-06.md diff --git a/docs/kb-refresh-cost-cluster-2026-06.md b/docs/kb-refresh-cost-cluster-2026-06.md new file mode 100644 index 0000000..4a477fb --- /dev/null +++ b/docs/kb-refresh-cost-cluster-2026-06.md @@ -0,0 +1,54 @@ +# KB-refresh — critical cost-cluster (juni 2026) + +_Apply-brief for de 8 critical cost-filene flagget av detektoren (post-v1.16.1 baseline). Status-of-play i STATE.md. Drift-funn samlet fra 7 parallelle research-agenter (Sonnet, read-only) 2026-06-23 + main-agent direkte-verifisering. **Jeg (main) er verifiseringsgaten: NYE påstander merket `VERIFY` må bekreftes mot kilde FØR de skrives inn — agentene er Sonnet og kan feillese.**_ + +## Fremdrift +- **1/8 ✅ ptu-vs-paygo-economics.md** — FERDIG (`d36cddd`, pushet). Spillover preview→GA; ny Priority processing-kategori; PTU-minimums/4750 TPM/cache-100% verifisert current; priser urørt (disclaimed). +- **7 gjenstår** — funn under. + +## Main-agent allerede direkte-verifisert (ground truth, trygt å skrive) +- **GPT-5.5 er reell** (gpt-5.5, 2026-04-24). Lineup: gpt-5/5.1/5.2/5.3/5.4-serie/5.5 + gpt-chat-latest. +- **Fire deployment-kategorier:** Standard · **Priority processing** (NY, pay-per-token, latency-target) · Provisioned (PTU) · Batch. +- **Spillover er GA** (ikke preview). Alle Azure OpenAI-PTU-modeller; ikke DeepSeek/Llama. +- **Output-to-input ratio** (sizing): gpt-5=8, gpt-4.1=4. **Cached tokens 100% deducted** fra PTU-utilization. +- PTU-minimums (gpt-4o 50 reg/15 global; 4o-mini 25/15; DeepSeek-R1 100/NA). GPT-5 = 4750 input TPM/PTU. + +## Per-fil apply-plan (gjenstående 7) + +### 2. reserved-capacity-planning.md (header 2026-04 → 2026-06) +- ✅ TRYGT: legg til Priority processing som 4. kategori i beslutningstre/intro. `gpt-5`→`gpt-5.1` (2 steder: capacity-calculator-eksempel + Mønster 4-diagram «All models (incl. gpt-5…)»). Source-rad gov-page 2025-05→2026-06. +- `VERIFY` (billing-page): agent sier upstream IKKE har «Azure OpenAI først, deretter Foundry Models»-prioritering for reservation-overage. Anbefalt: fjern påstanden, erstatt med «dekker automatisk alle støttede modeller i scope». Verifiser mot provisioned-throughput-billing før edit. +- Min-PTU-tabell: legg til caveat «varierer per modell; se sizing-tabell». Priser disclaimed (40-60% rabatt) — urørt. + +### 3. cost-monitoring-cost-attribution.md (header 2026-04 → 2026-06) [ms-ai-governance] +- `VERIFY` (manage-costs): (a) **Project-level cost attribution (Preview)** — auto `project`-tag, ingen manuell tagging. (b) **Agent cost monitoring** i Foundry-portal (Operate→Overview estimated-cost-tile; per-agent månedsestimat). (c) 3rd-party meters vises under **Global resources** (ikke bare resource group); format `model-name-GUID`. Alle tre = nye, høy-verdi tillegg — bekreft mot manage-costs før skriving. +- Lavere conf: prompt-caching «(beta)»-merke → fjern/oppdater. `gpt-35-turbo`→`gpt-4o-mini` i gateway-diagram (illustrativt). +- Priser disclaimed (GPT-4o/Turbo/3.5 illustrative) — urørt; men GPT-4 Turbo/3.5 er legacy (ikke fjern). + +### 4. inference-endpoint-cost-optimization.md (header 2026-04, footer 2026-02 inkonsistent → 2026-06) +- ✅ TRYGT: legg til Priority processing i deployment-tabell + Nivå 4-anbefaling. +- `VERIFY` (manage-costs): meter-skille «Models sold by Azure» (under Foundry-ressurs) vs «Marketplace/3rd-party» (SaaS-meters under Global resources) — filen slår dem sammen feilaktig. +- Lavere conf: `Phi-3`→`Phi` (familie) 2 steder. Quota-tall 200k TPM/1k RPM → legg til «verifiser i quota-docs». Fiks footer-dato-inkonsistens (561, 601). + +### 5. prompt-engineering-cost-reduction.md (header 2026-02 → 2026-06) +- `VERIFY` (prompt-caching): **Extended cache retention 24t** (`prompt_cache_retention: "24h"`, model-gated: gpt-5.x + gpt-4.1; default 24h for nyere). Filens «5-10 min, maks 1 time» er kun in-memory-delen. Støttede modeller: «alle GPT-4o+» (in-memory) — filens liste er ufullstendig (mangler GPT-5-serien). +- `VERIFY` (use-your-data): **On Your Data deprecated, pensjoneres 2026-10-14** — kilde #5 peker på denne. Høy impact; bekreft dato. +- Lavere conf: `prompt_cache_key`-nyanse; Prompt Flow «GPT-3.5»-referanse stale. o1-preview/GPT-4(32K) i pristabell er retired modellnavn (ikke bare priser). + +### 6. token-counting-optimization.md (header 2026-02 → 2026-06) +- `VERIFY` (prompt-caching): samme extended-cache-24t-reframing (filens TTL-tabell deler feil på «Foundry Classic vs AI Services» — skal være in-memory vs extended). `prompt_cache_key` rate-limit-caveat (~15 req/min). +- `VERIFY` (fine-tuning-cost-management): **RFT (Reinforcement Fine-Tuning)** ny kostnadsmodell — tidsbasert ($100/t o4-mini) + **$5000 per-job cap**. Filen dekker kun SFT/DPO. +- `VERIFY` (use-your-data): On Your Data-deprecation (samme som #5). `VERIFY` (chatgpt): tiktoken-funksjon mangler `o1-mini`/`o3-mini` i model-set. +- Priser har «kanonisk prissannhet»-peker — urørt. + +### 7. request-batching-aggregation.md (header 2026-05 → 2026-06) +- `VERIFY` (batch): (a) **Data Zone Batch** ny deployment-type (mangler i fil). (b) «Exponential backoff» = «fail fast» (klient-retry, ikke server-auto-retry) — filens beskrivelse upresis. +- 50%/24t/region-liste/expiration verifisert current. Priser disclaimed — urørt. + +### 8. small-language-models-economics.md (header 2026-04 → 2026-06) +- ✅ TRYGT: fjern «(175B+)» fra GPT-4o (uverifiserbart param-tall). «GPT-4 utfaset»→«legacy» (GPT-4 turbo fortsatt aktiv). +- `VERIFY` (models-from-partners): Phi-3-small/medium + Phi-2 ikke i aktiv katalog (kun Phi-4-familien) — merk, ikke slett (illustrative). Falcon-7B ikke i Foundry-katalog. +- Lavere conf: reasoning-modell-anbefaling (o4-mini/o3) for kompleks resonnering. Priser disclaimed — urørt. + +## Apply-mønster (per fil) +VERIFY nye påstander mot sitert kilde (fetch) → kirurgiske edits (behold disclaimed priser) → bump header → `git diff`-gate → `validate-plugin.sh` → commit (1 fil/commit, mønster `KB-refresh critical cost N/8`) → push i vindu. Når alle 8 ferdig: re-kjør `report-changes.mjs` (bekreft critical-count faller), så release v1.16.2 via `release-plugin.mjs`.