docs(ms-ai-architect): KB-refresh critical cost 2/8 — reserved-capacity verifisert mot Foundry reservations-docs
Verifisert mot live Microsoft Learn (cost-management-billing/reservations/azure-openai + provisioned-throughput-billing + provisioned-throughput-sizing): - VERIFY BEKREFTET — overage-prioritering: kilden sier «discount is shared automatically across all models in scope ... matching isn't by model or deployment ID». Filens «anvendes først Azure OpenAI, deretter Foundry Models» var feil regel-framing → erstattet med aggregert-per-time-på-tvers-av-scope. Eksempelet (500/300/200/100) matcher docs eksakt, beholdt. - DRIFT (kirurgisk): «~150 PTU»-kalkulatoreksempel var stale (gammel TPM/PTU). Dagens gpt-5.1 = 4750 input-TPM/PTU, ratio 8 → 300K/4750 ≈ 63 rå → 100 regional. Korrigert + reproduserbar. - gpt-5→gpt-5.1 (2 steder): ratio verifisert = 8 (identisk gpt-5; gpt-5.5 ville vært 6 — unngått). - Ny «Priority processing» (pay-per-token, latensmål, ikke reserverbar) i beslutningstre. - Min-PTU-caveat (varierer per modell: gpt-5-mini 25, DeepSeek/Fireworks 100+) + sizing-link. - Header 2026-04→2026-06 + 2 verifiserte kilde-stempler til 2026-06 (gov-rad urørt, ikke re-verifisert). validate 239/0. Co-Authored-By: Claude Opus 4.8 (1M context) <noreply@anthropic.com>
This commit is contained in:
parent
24ea2ef508
commit
6ba97f7dc8
1 changed files with 13 additions and 10 deletions
|
|
@ -1,6 +1,6 @@
|
|||
# Reserved Capacity and Commitment Discounts
|
||||
|
||||
**Last updated:** 2026-04
|
||||
**Last updated:** 2026-06
|
||||
**Status:** GA
|
||||
**Category:** Cost Optimization & FinOps for AI
|
||||
|
||||
|
|
@ -41,6 +41,8 @@ Reserved capacity og commitment tier pricing er Azures to primære mekanismer fo
|
|||
|
||||
**Viktig:** Reservations for Regional, Data Zone og Global er **ikke utskiftbare** — du må kjøpe separate reservasjoner for hver deployment type.
|
||||
|
||||
**Merk (minimum-PTU):** Minimum og scale increment varierer per modell og versjon — tabellen viser GPT-4o/GPT-5-klassen. Eksempler: gpt-5-mini = 25 regional; enkelte Foundry Models (DeepSeek/Fireworks) har 100+ minimum. Se modellspesifikk [PTU-sizing-tabell](https://learn.microsoft.com/azure/foundry/openai/how-to/provisioned-throughput-sizing).
|
||||
|
||||
#### Reservation Scopes
|
||||
|
||||
| Scope | Beskrivelse | Bruksområde |
|
||||
|
|
@ -79,7 +81,7 @@ Deployed PTUs > Reserved PTUs → Excess charged at hourly rate
|
|||
Fra mai 2025 støtter PTU-reservasjoner automatisk **cross-model sharing**:
|
||||
|
||||
- Én reservasjon kan dekke Azure OpenAI **og** Foundry Models (DeepSeek, Llama, etc.)
|
||||
- Reservasjonen anvendes først til Azure OpenAI, deretter Foundry Models
|
||||
- Rabatten deles automatisk på tvers av alle støttede modeller i scope — matching skjer per time på aggregert PTU-forbruk, ikke per modell eller deployment-ID
|
||||
- Excess utover reservasjon faktureres per modellens hourly rate
|
||||
|
||||
**Eksempel:**
|
||||
|
|
@ -230,7 +232,7 @@ Commitment tier pricing gjelder for **single-service resources** (ikke multi-ser
|
|||
┌─────────────────────────────────────────────────┐
|
||||
│ NEW: Hourly + Azure Reservation │
|
||||
│ ├─ Binding: Flexible scope (sub/RG/MG) │
|
||||
│ ├─ Models: All models (incl. gpt-5, o-series) │
|
||||
│ ├─ Models: All models (incl. gpt-5.1, o-series)│
|
||||
│ └─ Overage: Can be covered by reservation │
|
||||
└─────────────────────────────────────────────────┘
|
||||
```
|
||||
|
|
@ -250,11 +252,12 @@ Commitment tier pricing gjelder for **single-service resources** (ikke multi-ser
|
|||
```
|
||||
Er tjenesten Azure OpenAI/Foundry Models?
|
||||
│
|
||||
├─ JA → Bruk Azure Reservations (PTU)
|
||||
├─ JA → Provisioned (PTU), evt. med Azure Reservation for stabil last
|
||||
│ │
|
||||
│ ├─ Stabil trafikk i >3 måneder? → 1-year reservation
|
||||
│ ├─ Stabil trafikk i >1 måned? → 1-month reservation
|
||||
│ └─ Ad-hoc/testing? → Hourly (no reservation)
|
||||
│ ├─ Latenssensitiv, men variabel last? → Priority processing (pay-per-token, latensmål; ikke reserverbar)
|
||||
│ └─ Ad-hoc/testing? → Hourly PTU eller Standard (pay-as-you-go)
|
||||
│
|
||||
└─ NEI → Er det Cognitive Services (Speech/Language/Vision)?
|
||||
│
|
||||
|
|
@ -300,10 +303,10 @@ Tilgjengelig i deployment workflow:
|
|||
- **Recommended PTUs** (avrundet til scale increment)
|
||||
- **Raw PTUs** (eksakt estimat)
|
||||
|
||||
**Eksempel (gpt-5):**
|
||||
**Eksempel (gpt-5.1):**
|
||||
- Input TPM: 100K
|
||||
- Output TPM: 25K (output tokens teller 8x input, jf. pricing ratio)
|
||||
- Resultat: ~150 PTUs regional (avrundet til 150, min 50)
|
||||
- Output TPM: 25K (output teller 8x input — gpt-5.1 sizing-ratio, verifisert)
|
||||
- Resultat: normalisert last 100K + (25K x 8) = 300K TPM; 300K / 4750 input-TPM per PTU = ~63 rå PTU → rundet opp til 100 PTU regional (min/increment 50)
|
||||
|
||||
**💡 Tip:** For workloads med **stor variance** i call shapes, benchmark på faktisk trafikk i 1-2 uker før sizing.
|
||||
|
||||
|
|
@ -542,8 +545,8 @@ Tilgjengelig i deployment workflow:
|
|||
|
||||
| Kilde | Type | Last Verified |
|
||||
|-------|------|---------------|
|
||||
| [Save costs with Microsoft Foundry Provisioned Throughput Reservations](https://learn.microsoft.com/en-us/azure/cost-management-billing/reservations/azure-openai) | Offisiell docs | 2026-01 |
|
||||
| [Understanding costs associated with provisioned throughput units (PTU)](https://learn.microsoft.com/en-us/azure/foundry/openai/concepts/provisioned-throughput-billing) | Offisiell docs | 2026-01 |
|
||||
| [Save costs with Microsoft Foundry Provisioned Throughput Reservations](https://learn.microsoft.com/en-us/azure/cost-management-billing/reservations/azure-openai) | Offisiell docs | 2026-06 |
|
||||
| [Understanding costs associated with provisioned throughput units (PTU)](https://learn.microsoft.com/en-us/azure/foundry/openai/concepts/provisioned-throughput-billing) | Offisiell docs | 2026-06 |
|
||||
| [Azure OpenAI provisioned Managed offering updates](https://learn.microsoft.com/en-us/azure/foundry-classic/openai/concepts/provisioned-migration) | Offisiell docs | 2025-08 |
|
||||
| [Purchase commitment tier pricing](https://learn.microsoft.com/en-us/azure/ai-services/commitment-tier) | Offisiell docs | 2026-01 |
|
||||
| [What is provisioned throughput?](https://learn.microsoft.com/en-us/azure/foundry/openai/concepts/provisioned-throughput) | Offisiell docs | 2026-01 |
|
||||
|
|
|
|||
Loading…
Add table
Add a link
Reference in a new issue