Second round of the source bank, before the parameter freeze: eight tracks for the open points 10-17 in the specification (areas 13-20), the three unconfirmed entries in area 11 and the outdated entries (area 21). One researcher and one independent verifier per track. 286 new entries (157 confirmed, 93 corrected, 36 added by verifiers, 1 not confirmed). 57 verified corrections applied to existing entries, each with the previous wording kept in the control line. 53 entries checked by the project itself against the primary source (Egenkontroll). README and the cross-area review updated. Co-Authored-By: Claude Fable 5.2 <noreply@anthropic.com>
118 KiB
08 — Fra kraft til tokens: maskinvare, effektivitet og markedspris på regnekraft
Området dekker kjeden fra megawatt til tokens til inntekt: effektbehov for akseleratorer og racksystemer, energi per forespørsel og per token ved inferens, hvor fort effektiviteten bedres (maskinvare, programvare, algoritmer), leiepris per GPU-time og kjente langsiktige kapasitetsavtaler, pris på akseleratorer og racksystemer, kostnadsstruktur (hvor stor del strøm utgjør), etterspørselselastisitet og Jevons-effekt, og fordelingen mellom trening og inferens med hva den betyr for plassering.
Søkene ble gjort 11. november 2026 med Tavily (søk og uttrekk), direkte nedlasting av PDF-er (lest med pdftotext) og SEC EDGAR. Alle sitater under er hentet fra kildene slik de ble lest denne dagen. Der en post bygger på en regneoperasjon gjort her (ikke i kilden), står det «beregnet her». Selskaper er gjengitt som datakilder, ikke som anbefalinger.
Kildetyper: Produsentdata (NVIDIA, AMD, Google, AWS, Lenovo, Supermicro) er merket «bransjetall» eller «pressemelding». SemiAnalysis (InferenceX, prisindeks), Silicon Data og Data Gravity er kommersielle analyse-/datatilbydere og er merket «bransjetall». Epoch AI er en uavhengig forskningsorganisasjon; publikasjonene er ikke fagfellevurdert med mindre det står.
Påstander
K08-001 Effekt per rack: GB300 NVL72
- Påstand: Et NVIDIA GB300 NVL72-rack (72 GPU-er, 36 CPU-er) trekker i størrelsesorden 132–142 kW i drift ifølge NVIDIA og to systemleverandører, med topper opp mot 155 kW.
- Tall: NVIDIA: inntil 142 kW per rack; Lenovo: 135 kW TDP, inntil 155 kW topp; Supermicro: 132–140 kW driftseffekt. Strømhyller: 8 × 33 kW. År: 2025–2026.
- Spenn: 132–155 kW per rack. Forskjellen skyldes definisjon (driftseffekt, TDP, topplast) og arbeidslast.
- Kilde: NVIDIA, «System Hardware & Components — NVIDIA NVL72 AI Factory» (Enterprise Reference Architecture), https://docs.nvidia.com/enterprise-reference-architectures/nvl72-ai-factory/latest/components.html, avsnitt om GB300 NVL72-racket. Lenovo Press LP2357, «Lenovo NVIDIA GB300 NVL72 Rack Scale AI», https://lenovopress.lenovo.com/lp2357.pdf, s. 2 og avsnitt om kjøling. Supermicro, «NVIDIA GB300 NVL72 Datasheet», https://www.supermicro.com/datasheet/datasheet_SuperCluster_GB300_NVL72.pdf, spesifikasjonstabell.
- Sitat: «8 power shelves of 33 kW, with each shelf having six 5.5 kW PSUs» / «Full rack requiring up to 142 kW» (NVIDIA). «Each rack consumes 135 kW TDP; up to 155 kW peak depending on workload and EDP behavior.» (Lenovo). «Operating Power 132kW to 140kW» (Supermicro).
- Kvalitet: bransjetall (produsent og systemleverandører)
- Usikkert: Dette er nominelle/maksimale verdier. Gjennomsnittlig effekt i drift er lavere og avhenger av utnyttelse (se K08-013). Rackeffekt sier ikke noe om PUE (kjøling, tap) i bygget.
- Lest: ja
- Kontroll: bekreftet (åpnet NVIDIA-siden components.html: «8 power shelves of 33 kW, with each shelf having six 5.5 kW PSUs» og «Full rack requiring up to 142 kW» i avsnittet om GB300 NVL72; Lenovo LP2357 s. 2 og kjøleavsnittet s. 24: «Each rack consumes 135 kW TDP; up to 155 kW peak depending on workload and EDP behavior»; Supermicro-databladet lest via uttrekk fordi direkte nedlasting ga «Access Denied»: «Operating Power 132kW to 140kW» og «8x 1U 33kW (6x 5.5kW PSUs) … total 132kW»).
K08-002 Effekt per brikke: Blackwell Ultra (B300) – to ulike tall
- Påstand: Lenovo oppgir 1100 W «Total Graphics Power» per B300-GPU i GB300 NVL72, mens SemiAnalysis InferenceX oppgir 1400 W TDP per brikke for samme system. Tallene er ikke direkte sammenlignbare, men viser at «effekt per brikke» ikke er entydig.
- Tall: 1100 W (TGP, Lenovo) mot 1400 W (TDP, InferenceX). 2025–2026.
- Spenn: 1100–1400 W per GPU. Forskjellen kan skyldes definisjon (TGP vs. TDP/modul inkl. andel av CPU-superbrikke) og konfigurasjon.
- Kilde: Lenovo Press LP2357 (se K08-001), Table 10 «GPU specifications». SemiAnalysis InferenceX, «NVIDIA GB300 NVL72 Specs, Price & Power», https://inferencex.semianalysis.com/chips/gb300-nvl72, spesifikasjonstabell og FAQ.
- Sitat: «Total Graphics Power (TGP) 1100W» (Lenovo). «GB300 NVL72 has a 1,400 W TDP per chip, and about 2.12 kW all-in per chip once the host CPU, NICs and cooling share are included.» (InferenceX)
- Kvalitet: bransjetall
- Usikkert: Hvilken definisjon NVIDIA selv bruker for B300 i NVL72 er ikke funnet på en NVIDIA-side (HGX-siden oppgir ytelse, ikke effekt per GPU for B300). For modellen er «all-in»-effekt per brikke (K08-005) mer relevant enn brikkens egen TDP.
- Lest: ja
- Kontroll: bekreftet (Lenovo LP2357 Table 10 «GPU specifications»: «Total Graphics Power (TGP) 1100W», merket «per NVIDIA Blackwell SXM GPU»; InferenceX gb300-nvl72, tabell og FAQ: «TDP per chip 1,400 W», «All-in power per chip 2.12 kW» og sitatet ordrett). Merk: Lenovo oppgir 7,7 TB/s minnebåndbredde per GPU, InferenceX 8 TB/s.
K08-003 Effekt per brikke: H100 SXM
- Påstand: NVIDIA oppgir maks TDP på inntil 700 W for H100 SXM. InferenceX regner 1,37 kW «all-in» per brikke når vertsmaskin, nettverkskort og kjøleandel er tatt med.
- Tall: 700 W TDP (konfigurerbar); 1,37 kW all-in. Ytelse: 989 TFLOPS TF32, 1 979 TFLOPS FP16/BF16 og 3 958 TFLOPS FP8 (alle «with sparsity»). 80 GB minne, 3,35 TB/s.
- Spenn: 0,7–1,37 kW per brikke avhengig av systemgrense; Epoch AI (K08-009) bruker 1,5 kW per H100 inkl. server- og datasenteroverhead.
- Kilde: NVIDIA, «H100 GPU», https://www.nvidia.com/en-us/data-center/h100/, spesifikasjonstabell. SemiAnalysis InferenceX, «NVIDIA H100 SXM Specs, Price & Power», https://inferencex.semianalysis.com/chips/h100.
- Sitat: «Max Thermal Design Power (TDP) | Up to 700W (configurable)» (NVIDIA). «H100 has a 700 W TDP per chip, and about 1.37 kW all-in per chip once the host CPU, NICs and cooling share are included.» (InferenceX)
- Kvalitet: bransjetall
- Usikkert: NVIDIAs tabell oppgir ytelse med «sparsity»; tett (dense) ytelse er halvparten. Overheadfaktoren fra brikke til system (her ca. 2×) varierer mellom kilder.
- Lest: ja
- Kontroll: bekreftet (NVIDIA H100-siden, spesifikasjonstabell: «Max Thermal Design Power (TDP) | Up to 700W (configurable)», TF32 989, BF16/FP16 1 979 og FP8 3 958 teraFLOPS med fotnoten «* With sparsity», 80GB, 3.35TB/s; InferenceX h100 FAQ: «about 1.37 kW all-in per chip»). Epochs 1 500 W står i K08-009-kilden: «H100 clusters can consume up to ~1500 W per GPU due to the overhead costs of servers and data centers».
K08-004 Effekt per brikke: AMD Instinct MI355X
- Påstand: AMD oppgir typisk kortkraft (TBP) på 1400 W for MI355X, med 288 GB HBM3E og 8 TB/s minnebåndbredde. Lansert 12.6.2025.
- Tall: 1400 W TBP; 288 GB; 8 TB/s; BF16 2,5 PFLOPS (tett). InferenceX: 2,09 kW all-in per brikke.
- Spenn: 1,4–2,09 kW per brikke (brikke vs. all-in).
- Kilde: AMD, «AMD Instinct MI355X GPUs», https://www.amd.com/en/products/accelerators/instinct/mi350/mi355x.html, spesifikasjonsliste. SemiAnalysis InferenceX, https://inferencex.semianalysis.com/chips/mi355x.
- Sitat: «Typical Board Power (TBP) : 1400W (TBP)» (AMD). «MI355X has a 1,400 W TDP per chip, and about 2.09 kW all-in per chip» (InferenceX)
- Kvalitet: bransjetall
- Usikkert: AMD-siden sammenligner med B200 på toppytelse (produsentens egen sammenligning); slike toppverdier sier lite om levert ytelse per watt.
- Lest: ja
- Kontroll: bekreftet (AMD-siden: «Typical Board Power (TBP) 1400W (TBP)», «Dedicated Memory Size 288 GB», «Peak Memory Bandwidth 8 TB/s», «Peak bfloat16 (BF16) Matrix Performance 2.5 PFLOPs», «Launch Date 6/12/2025»; InferenceX mi355x FAQ: 1,400 W TDP og 2.09 kW all-in).
K08-005 «All-in» effekt per brikke (system inkl. kjøleandel)
- Påstand: SemiAnalysis InferenceX regner energi per token ut fra en «all-in» effekt per brikke som inkluderer vert-CPU, nettverkskort og kjøleandel: H100 1,37 kW, GB200 NVL72 1,87 kW, GB300 NVL72 2,12 kW, MI355X 2,09 kW.
- Tall: TDP / all-in per brikke: H100 700 W / 1,37 kW; GB200 1 200 W / 1,87 kW; GB300 1 400 W / 2,12 kW; MI355X 1 400 W / 2,09 kW. Hentet 2026-11-11.
- Spenn: Forholdet all-in/TDP er 1,5–2,0.
- Kilde: SemiAnalysis InferenceX, brikkesider for h100, gb200-nvl72, gb300-nvl72, mi355x, https://inferencex.semianalysis.com/chips/…, tabell «All-in power per chip».
- Sitat: «GB200 NVL72 has a 1,200 W TDP per chip, and about 1.87 kW all-in per chip once the host CPU, NICs and cooling share are included. InferenceX uses the all-in figure for energy-per-token math.»
- Kvalitet: bransjetall (kommersiell analysetilbyder)
- Usikkert: Hvilken PUE/kjøleandel som ligger i «all-in» er ikke oppgitt på sidene. For et norsk anlegg med lav PUE kan reell faktor være lavere.
- Lest: ja
- Kontroll: bekreftet (alle fire InferenceX-brikkesider åpnet 11.11.2026; radene «TDP per chip» og «All-in power per chip» og GB200-sitatet funnet ordrett). Rå HTML inneholder en «Unofficial deployment»-banner, men et skript viser den bare når vertsnavnet ikke er inferencex.semianalysis.com; adressen som er brukt er den offisielle.
K08-006 Neste generasjon: mot 1 MW per rack fra 2027
- Påstand: NVIDIA oppgir at overgang til 800 V likestrøm skal støtte IT-rack på 1 MW og mer fra 2027, og at Kyber-racket for Rubin Ultra rommer 576 GPU-er. NVIDIA anslår opptil 30 % lavere totalkostnad (TCO) med arkitekturen.
- Tall: 1 MW per rack (fra 2027); 576 GPU-er per Kyber-rack; opptil 5 % bedre ende-til-ende effektivitet; opptil 30 % lavere TCO (produsentens mål).
- Spenn: Fra dagens ca. 130–155 kW (K08-001) til ≥1 MW per rack.
- Kilde: NVIDIA Technical Blog, «NVIDIA 800 VDC Architecture Will Power the Next Generation of AI Factories», 20.5.2025 (teksten viser til GTC 2025), https://developer.nvidia.com/blog/nvidia-800-v-hvdc-architecture-will-power-the-next-generation-of-ai-factories, innledning og avsnitt om plassbegrensninger.
- Sitat: «NVIDIA is leading the transition to 800 VDC data center power infrastructure to support 1 MW IT racks and beyond, starting in 2027.» / «At GTC 2025, NVIDIA exhibited an 800 V sidecar to power 576 of the Rubin Ultra GPUs in a single Kyber rack.» / «targeting up to 30% total cost of ownership reduction through efficiency, reliability, and architecture gains.»
- Kvalitet: bransjetall (produsentens planer)
- Usikkert: Fremtidige planer; tidspunkt og effekt per rack kan endres. TCO-tallet er et mål, ikke en måling.
- Lest: ja
- Kontroll: bekreftet (NVIDIA-bloggen, publisert 20.5.2025 ifølge sidens metadata, nå lagt inn i Kilde; alle tre sitater ordrett, og «up to 5% improvement in end-to-end power efficiency»). Ikke kontrollert om NVIDIA har publisert en nyere versjon av 800 VDC-planen.
K08-007 Energi per forespørsel målt i produksjon: Google Gemini
- Påstand: Google målte at en median tekstforespørsel i Gemini Apps brukte 0,24 Wh i mai 2025, med hele serveringsstakken tatt med. Med smalere systemgrense (bare aktive akseleratorer, høyt utnyttede maskiner) blir tallet 0,10 Wh.
- Tall: 0,24 Wh/forespørsel (omfattende metode): akseleratorer 0,14 Wh (58 %), CPU og DRAM 0,06 Wh (25 %), ledige maskiner 0,02 Wh (10 %), datasenteroverhead 0,02 Wh (8 %). Smal metode: 0,10 Wh. Flåtesnitt PUE 1,09. Mai 2025.
- Spenn: 0,10–0,24 Wh (faktor 2,4) avhengig av systemgrense; artikkelen sier at aktiv akseleratorenergi må skaleres med 1,72 for å dekke produksjonsmiljøet.
- Kilde: Elsworth m.fl. (Google), «Measuring the environmental impact of delivering AI at Google Scale», arXiv:2508.15734, 2025, https://arxiv.org/abs/2508.15734, Table 1 (s. 6) og avsnitt 4.1.
- Sitat: «we find that the median energy consumption for a Gemini Apps text prompt in May 2025 is 0.24 Wh. As Table 1 and Figure 3 show, the primary energy draw originates from the active AI Accelerator power (0.14 Wh, 58% of total) and the necessary host CPU & DRAM power (0.06 Wh, 25%).» / «the calculated energy consumption is only 0.10 Wh per prompt.»
- Kvalitet: annet (teknisk rapport fra operatøren selv, arXiv-preprint, ikke fagfellevurdert)
- Usikkert: Median, ikke gjennomsnitt; lange forespørsler og resonneringsmodeller ligger høyere. Antall tokens per median forespørsel er ikke oppgitt, så tallet kan ikke direkte omregnes til energi per token. Egenrapportering fra operatøren.
- Lest: ja
- Kontroll: bekreftet (arXiv-PDF 2508.15734, v1 er eneste versjon per 11.11.2026; avsnitt 4.1 og Table 1: 0.24 Wh, «0.14 Wh, 58% of total», «0.06 Wh, 25%», ledige maskiner og overhead «each contribute 0.02 Wh (10% and 8% respectively)», «a scaling of 1.72 would need to be applied», «fleet-wide average PUE of 1.09», «only 0.10 Wh per prompt»).
K08-008 Hvor fort energi per forespørsel faller hos én operatør
- Påstand: Google rapporterer 33 ganger lavere energi per median Gemini-forespørsel over 12 måneder (mai 2024–mai 2025), hovedsakelig fra modellforbedringer (23×) og bedre maskinutnyttelse (1,4×).
- Tall: 33× reduksjon på ett år; 23× fra modell, 1,4× fra utnyttelse.
- Spenn: Ett datapunkt (én operatør, ett år).
- Kilde: Som K08-007, avsnitt om resultater (s. 8).
- Sitat: «A 33x reduction in per-prompt energy consumption driven by software efficiencies—including a 23x reduction from model improvements, and a 1.4x reduction from improved machine utilization.»
- Kvalitet: annet (operatørens tekniske rapport)
- Usikkert: Kan ikke generaliseres til bransjen. Effekten kan være delvis motvirket av at brukere går over til tyngre modeller og lengre svar (se K08-023).
- Lest: ja
- Kontroll: bekreftet (samme PDF, s. 8: «A 33x reduction in per-prompt energy consumption driven by software efficiencies—including a 23x reduction from model improvements, and a 1.4x reduction from improved machine utilization»; perioden mai 2024–mai 2025 står i teksten).
K08-009 Energi per forespørsel, uavhengig anslag: ChatGPT/GPT-4o
- Påstand: Epoch AI anslo at en typisk GPT-4o-forespørsel bruker om lag 0,3 Wh, og at forespørsler med svært lang inndata kan bruke 2,5–40 Wh.
- Tall: ca. 0,3 Wh (typisk); 2,5–40 Wh (svært lang inndata). Forutsetninger: ca. 1 sekund H100-tid per forespørsel, 1500 W per H100 inkl. overhead, 70 % effektutnyttelse, ca. 10 % FLOP-utnyttelse. Februar 2025.
- Spenn: 0,3–40 Wh, styrt av lengden på inndata.
- Kilde: Josh You, Epoch AI, «How much energy does ChatGPT use?», Gradient Updates, 7.2.2025, https://epoch.ai/gradient-updates/how-much-energy-does-chatgpt-use, hovedberegningen og «Discussion».
- Sitat: «Putting this together: one second of H100-time per query, 1500 watts per H100, and a 70% factor for power utilization gets us 1050 watt-seconds of energy, which is around 0.3 watt-hours per query.» / «a GPT-4o query consumes around 0.3 watt-hours for a typical text-based question, though this increases substantially to 2.5 to 40 watt-hours for queries with very long inputs.»
- Kvalitet: annet (uavhengig forskningsinstitutt, ikke fagfellevurdert, beregning ikke måling)
- Usikkert: Bygger på antatte tokenantall, utnyttelse og maskinvare; forfatteren kaller det et pessimistisk anslag.
- Lest: ja
- Kontroll: bekreftet (Epoch-artikkelen datert 7.2.2025; begge sitater ordrett; 10 % FLOP-utnyttelse, 70 % effektfaktor og 1500 W står i hovedberegningen; forfatteren kaller 0,3 Wh «relatively pessimistic»).
K08-010 Energi per forespørsel, operatørens påstand: OpenAI
- Påstand: OpenAIs administrerende direktør oppga i et blogginnlegg at en gjennomsnittlig ChatGPT-forespørsel bruker om lag 0,34 Wh.
- Tall: 0,34 Wh per forespørsel (gjennomsnitt), 2025.
- Spenn: Ingen spenn oppgitt; ingen metode.
- Kilde: Sam Altman, «The Gentle Singularity», blogg, 2025, https://blog.samaltman.com/the-gentle-singularity, avsnitt om kostnad for intelligens.
- Sitat: «the average query uses about 0.34 watt-hours, about what an oven would use in a little over one second»
- Kvalitet: annet (ubegrunnet påstand fra operatør)
- Usikkert: Ingen metode, systemgrense eller modellmiks oppgitt. Samsvarer i størrelsesorden med K08-007 og K08-009.
- Lest: ja
- Kontroll: bekreftet (blog.samaltman.com/the-gentle-singularity; sitatet ordrett i parentesen om energibruk). Publiseringsdatoen er ikke lest av siden ved kontroll.
K08-011 Energi per forespørsel på tvers av 30 modeller (høye anslag)
- Påstand: Jegham m.fl. anslår energi per forespørsel for 30 modeller ut fra API-ytelse og antatt maskinvare. I nyeste versjon (v6) spenner anslagene over mer enn to størrelsesordener: fra 0,05 Wh (LLaMA-3.1-8B, kort) til ca. 29 Wh (DeepSeek-R1 på DeepSeeks egne servere, lang).
- Tall: Kort (100 inn/300 ut tokens): LLaMA-3.1-8B 0,052 Wh; GPT-4.1 nano 0,207 Wh; GPT-4o (mars 2025) 0,423 Wh; GPT-4.1 0,871 Wh; o3 1,177 Wh; DeepSeek-R1 (DeepSeek-vert) 19,251 Wh. Lang (10k inn/1,5k ut): LLaMA-3.1-8B 0,443 Wh; GPT-4.1 nano 0,827 Wh; GPT-4.1 4,833 Wh; o3 12,222 Wh; DeepSeek-R1 7,410 Wh (Azure) / 29,078 Wh (DeepSeek-vert). Middels (1k/1k): GPT-4.1 3,161 Wh; o3 5,153 Wh. 2025.
- Spenn: 0,05–29 Wh per forespørsel; standardavvikene er store (DeepSeek-R1 DS lang: ±9,7 Wh). Samme modell bruker over 70 % mindre energi på Azure enn på DeepSeeks egne servere.
- Kilde: N. Jegham m.fl., «How Hungry is AI? Benchmarking Energy, Water, and Carbon Footprint of LLM Inference», arXiv:2505.09598v6, 24.11.2025, https://arxiv.org/abs/2505.09598 (PDF v6), Table 4 og avsnitt 5.1.
- Sitat: «LLaMA-3.1-8B is the most efficient, requiring only 0.443 Wh for long prompts (approximately 7,000 words of input and 1,000 words of output), followed by LLaMA-3.2 1B and LLaMA-3.2 3B at 0.552 Wh and 0.707 Wh, respectively. GPT-4.1 nano remains among the most efficient proprietary models at 0.827 Wh, but still consumes nearly twice the energy of LLaMA-3.1-8B. In contrast, DeepSeek-R1 (DS) consumes 29.075 Wh, around sixty five times more than the most efficient model» / «DeepSeek-R1 and DeepSeek-V3 hosted on DeepSeek’s own servers consume 29.078 Wh and 13.162 Wh, while the same models on Azure use just 7.410 Wh and 3.696 Wh, over 70% less energy.»
- Kvalitet: annet (arXiv-preprint; modellbasert anslag, ikke direkte måling)
- Usikkert: Maskinvare og utnyttelse er utledet statistisk, ikke kjent. Anslagene endret seg mye mellom v2 og v6 (o3 lang fra 39,2 til 12,2 Wh; GPT-4.5 er ikke med i v6-tabellen), noe som viser hvor følsomme de er for forutsetningene. Ligger fortsatt høyere enn operatørenes egne tall (K08-007, K08-010). Tallene i AI Index 2026 (K08-012) for GPT-5 og DeepSeek V3.2 finnes ikke i v6-PDF-en.
- Lest: ja (v6-PDF ved kontroll; v2 ble lest av den første agenten)
- Kontroll: rettet (opprinnelig bygget på arXiv v2: «Tall: Kort (100 inn/300 ut tokens): GPT-4.1 nano 0,103 Wh; GPT-4.1 0,918 Wh; o3 7,026 Wh; GPT-4.5 6,723 Wh. Lang (10k inn/1,5k ut): GPT-4.1 nano 0,454 Wh; GPT-4.1 4,233 Wh; DeepSeek-R1 33,634 Wh; o3 39,223 Wh. Kort GPT-4o-forespørsel: 0,43 Wh», spenn 0,1–39 Wh og sitat om o3 39.223 Wh. Tallene stemte med v2 (HTML åpnet), men v2 er ikke nyeste utgave: arXiv viser v6 (24.11.2025) med vesentlig endrede tall. Posten er rettet til v6, Table 4 og avsnitt 5.1, lest i PDF; ± er standardavvik, ikke usikkerhetsintervall).
K08-012 Oppdaterte anslag 2025-modeller (via AI Index 2026)
- Påstand: Stanford AI Index 2026 gjengir oppdaterte tall fra Jegham m.fl. for en middels lang forespørsel (ca. 1 000 inn/1 000 ut tokens): blant de 15 mest energikrevende modellene i 2025 ligger DeepSeek V3.2 høyest med 23 Wh og GPT-5 (high) på 21,9 Wh, mens Claude 4 Opus og GPT-5 mini (medium) ligger i nedre ende av dette utvalget med 5–6 Wh.
- Tall: 5–23 Wh per middels forespørsel blant de 15 mest energikrevende 2025-modellene; figur 1.4.5 viser andre modeller ned til ca. 1,5 Wh.
- Spenn: ca. 1,5–23 Wh i figuren; 5–23 Wh blant de 15 mest energikrevende. Høyere enn middels-tallene for eldre modeller i K08-011 (f.eks. GPT-4.1 3,2 Wh i v6).
- Kilde: Stanford HAI, «AI Index Report 2026», kap. 1.4 «Energy and Environmental Impact», avsnitt «Inference», https://hai.stanford.edu/assets/files/ai_index_report_2026.pdf.
- Sitat: «Among the top 15 models by energy consumption in 2025, DeepSeek V3.2 Exp and DeepSeek V3.2 consumed the most per query (23 Wh), followed by GPT-5 (high) at 21.9 Wh (Figure 1.4.5). Models such as Claude 4 Opus and GPT-5 min (medium) sit at the lower end, consuming between 5 and 6 Wh.»
- Kvalitet: annet (sekundærgjengivelse i årsrapport fra universitetsinstitutt; underliggende kilde er modellbasert)
- Usikkert: AI Index gjengir, men etterprøver ikke. Den oppdaterte Jegham-versjonen er ikke lest direkte.
- Lest: ja (AI Index-teksten); nei for den underliggende oppdaterte Jegham-versjonen (Ikke verifisert: ikke åpnet)
- Kontroll: rettet (opprinnelig: «Tall: 5–23 Wh per middels forespørsel, 2025-modeller» og «Spenn: 5–23 Wh». AI Index 2026-PDF-en, kap. 1.4, avsnitt «Inference», sier at tallene gjelder «Among the top 15 models by energy consumption in 2025»; figur 1.4.5 viser modeller ned til ca. 1,5 Wh. Resten av sitatet ordrett, inkl. kildens skrivefeil «GPT-5 min». GPT-5- og DeepSeek V3.2-tallene finnes ikke i Jegham v6-PDF-en og stammer trolig fra forfatternes løpende dashbord, som ikke er åpnet).
K08-013 Målt energi per svar: utnyttelse (batch) og resonnering styrer
- Påstand: ML.ENERGY-benchmarken (NeurIPS 2025) måler energi per generert svar på H100 med vLLM. Samme modell bruker 3–4 ganger mer energi per svar ved liten batch enn ved stor; resonneringsmodeller bruker én til to størrelsesordener flere utdata-tokens; estimater basert på TDP kan overvurdere energien inntil 4,1 ganger.
- Tall: Qwen 3 235B-A22B thinking på 8 × H100, GPQA: 122 523 J per svar (maks batch 4) til 33 096 J (maks batch 64), dvs. ca. 34 Wh til 9,2 Wh (omregnet her). DeepSeek-distillert Qwen 3 8B på 1 × H100: 9 714 J (batch 4) til 2 771 J (batch 64). Tidlig 2025.
- Spenn: Faktor 3,5–3,7 mellom batch 4 og 64 for samme modell; faktor 4,1 overvurdering ved TDP-anslag (verste tilfelle).
- Kilde: J.-W. Chung m.fl., «The ML.ENERGY Benchmark: Toward Automated Inference Energy Measurement and Optimization», NeurIPS 2025 Datasets and Benchmarks, https://proceedings.neurips.cc/paper_files/paper/2025/file/9dc510e3d7b0b3b2a58ffed7a3ad6b0f-Paper-Datasets_and_Benchmarks_Track.pdf, Table 1 og avsnitt 4.1–4.2.
- Sitat: «Reasoning models produce one to two orders of magnitude more output tokens per request compared to standard chat models, significantly increasing energy consumption per generation. Additionally, due to their long output lengths, servers cannot run as large a batch size, preventing them from amortizing energy across more requests.» / «such an estimation can lead to a worst-case overestimation of energy consumption by a factor of 4.1 (CodeGemma 2B on H100 GPUs).»
- Kvalitet: fagfellevurdert
- Usikkert: Bare GPU-energi (ikke CPU, nett, PUE); H100/A100, ikke Blackwell. Måler i stabil fase med full batch.
- Lest: ja
- Kontroll: bekreftet (NeurIPS 2025-PDF åpnet; Table 1 i joule: Qwen 3 235B-A22B thinking, TP 8, 122523.1 J (maks batch 4) og 33096.4 J (64); DeepSeek distilled Qwen 3 8B 9713.7 / 2770.8 J; begge sitater ordrett i avsnitt 4.1–4.2; omregningen 34,0 og 9,19 Wh stemmer). «Tidlig 2025» som måletidspunkt står ikke i kilden.
K08-014 Tokens per sekund per GPU: MLPerf Inference v5.1 (DeepSeek-R1)
- Påstand: I MLPerf Inference v5.1 (2025) oppgir NVIDIA per-GPU-gjennomstrømning for DeepSeek-R1: H200 1 253 (offline) / 556 (server), GB200 NVL72 4 024 / 2 327, GB300 NVL72 5 842 / 2 907 tokens/s per GPU.
- Tall: tokens/s/GPU (offline / server): H200 1 253 / 556; GB200 4 024 / 2 327; GB300 5 842 / 2 907. Per-GPU-rekorder for NVIDIA-plattformen (flere systemer og innsendinger i MLPerf v5.0 og v5.1, bloggens Table 1, ikke bare GB300): Llama 3.1 405B 224/170; Llama 2 70B (99 %) 13 015/12 701; Llama 3.1 8B 18 370/16 099.
- Spenn: Server-scenario (forsinkelseskrav) gir 40–60 % av offline-gjennomstrømning. Generasjonssprang H200→GB300 ca. 4,7× offline.
- Kilde: NVIDIA Technical Blog, «NVIDIA Blackwell Ultra Sets New Inference Records in MLPerf Debut», 2025, https://developer.nvidia.com/blog/nvidia-blackwell-ultra-sets-new-inference-records-in-mlperf-debut, 9.9.2025, Table 2 (DeepSeek-R1) og Table 1 (rekorder for NVIDIA-plattformen).
- Sitat: «Compared to the GB200 NVL72 submission, GB300 NVL72 delivered 45% higher performance per GPU on the new DeepSeek-R1 benchmark in the offline scenario and 25% in the server scenario» / «DeepSeek-R1 | 5,842 tokens/second/GPU | 2,907 tokens/second/GPU».
- Kvalitet: bransjetall (produsentens gjengivelse av MLPerf-innsendinger; H200-tallet er ifølge bloggen «unverified»)
- Usikkert: MLPerf-resultatene er ikke lest i MLCommons' egen database. Benchmark-gjennomstrømning er maksimal under kontrollerte forhold og ikke det samme som gjennomsnitt i produksjon.
- Lest: ja (NVIDIA-bloggen); MLCommons-tabellen ikke åpnet
- Kontroll: rettet (opprinnelig: «Andre GB300-rekorder: Llama 3.1 405B 224/170; Llama 2 70B 13 015/12 701; Llama 3.1 8B 18 370/16 099». Bloggens Table 1 gjelder «submissions powered by the NVIDIA platform» fra MLPerf v5.0 og v5.1 og en rekke innsendinger, ikke bare GB300; tallene er riktig avlest. DeepSeek-R1-tabellen (Table 2), begge sitater og merknaden «Hopper results not verified by MLCommons Association» er bekreftet; bloggen er datert 9.9.2025).
K08-015 Samme maskinvare, dobbelt så mange tokens etter seks måneder (programvare)
- Påstand: CoreWeave rapporterer at GB300 NVL72 i MLPerf 6.0 leverte 2× høyere DeepSeek-R1-gjennomstrømning i server-modus og 1,6× i offline sammenlignet med MLPerf 5.1 seks måneder tidligere.
- Tall: GB300 NVL72, DeepSeek R1 (NVFP4): 5 574 tokens/s/GPU (server), 9 821 (offline). GB200 NVL72: 4 868 / 7 323. 2026.
- Spenn: 1,6–2× forbedring på seks måneder uten ny maskinvare.
- Kilde: CoreWeave, «CoreWeave's Innovation Velocity Drives in MLPerf 6.0 Leadership», blogg, 2026, https://www.coreweave.com/blog/coreweaves-innovation-velocity-drives-mlperf-6-0-leadership, resultattabell.
- Sitat: «Using DeepSeek R1, CoreWeave demonstrated faster inference throughput, improving by 1.6x in offline mode and 2x in server mode from MLPerf 5.1 over the last 6 months.»
- Kvalitet: pressemelding (selskapsblogg om egne benchmarkresultater)
- Usikkert: Ett selskap, én modell. Viser at inntjening per MW for en installert flåte kan øke over tid gjennom programvare.
- Lest: ja
- Kontroll: bekreftet (CoreWeave-bloggen datert 1.4.2026; sitatet ordrett; tabellen: GB300 NVL72 DeepSeek R1 (671B, NVFP4) server 5,574 / offline 9,821 TPS/GPU, GB200 NVL72 4,868 / 7,323; fotnotenumre står klistret til tallene i sideteksten). Merk: GB200-tallene i MLPerf 6.0 er også langt høyere enn NVIDIAs GB200-tall i v5.1 (K08-014: 2 327 / 4 024), så programvaregevinsten gjelder ikke bare GB300.
K08-016 Tokens per sekund per MW og kostnad per million tokens (InferenceX)
- Påstand: SemiAnalysis InferenceX måler levert gjennomstrømning per MW for DeepSeek R1 (8k inn/1k ut, FP8). GB300 NVL72 gir ca. 4–5 ganger flere tokens per MW enn H200 ved samme interaktivitet. Gjennomstrømningen per MW faller kraftig når hver bruker skal få raskere svar.
- Tall: Ved 57 / 94 / 130 tokens/s per bruker: GB300 NVL72 4 033 997 / 2 673 310 / 1 605 781 tokens/s per MW; H200 976 947 / 546 961 / 375 703. Kostnad: GB300 0,075 / 0,11 / 0,19 USD per million tokens; H200 0,25 / 0,45 / 0,66. Hentet 2026-11-11. Omregnet her til energi: GB300 0,069 / 0,104 / 0,173 kWh per million tokens; H200 0,284 / 0,508 / 0,739 kWh per million tokens.
- Spenn: Faktor ca. 2,5 innen samme maskinvare mellom lav og høy interaktivitet; faktor 4,1–4,9 mellom H200 og GB300.
- Kilde: SemiAnalysis InferenceX, «DeepSeek R1 — GB300 NVL72 vs H200», https://inferencex.semianalysis.com/compare/deepseek-r1-gb300-vs-h200, sammenligningstabell.
- Sitat: «Setting 57 tok/s/user as the target on DeepSeek R1, GB300 NVL72 produces 8,552 tok/s/chip ($0.075 per million tokens) and H200 produces 1,338 ($0.25).» / «tok/s/MW GB300 NVL72 4,033,997 H200 976,947».
- Kvalitet: bransjetall (kommersiell aktør, åpen kildekode-benchmark)
- Usikkert: Tallene er «interpolated from real benchmark data» og forutsetter full belastning; kostnaden bygger på SemiAnalysis' egen TCO-modell (K08-032). Per MW gjelder all-in brikkeeffekt (K08-005), ikke nødvendigvis byggets totale effekt. Siden oppdateres løpende.
- Lest: ja
- Kontroll: bekreftet (sammenligningssiden åpnet 11.11.2026; alle tall og sitatet ordrett, standardvalg «8k/1k · fp8»; tallene er «Interpolated from real benchmark data»). Kontrollregning: 8 552 tok/s per brikke ÷ 2,12 kW = 4,03 mill. tok/s per MW, så «per MW» bruker InferenceX' all-in-effekt (K08-005). Omregningen til kWh per million tokens stemmer.
K08-017 Gjennomstrømning og kostnad per million tokens per 8-GPU-server (Lenovo)
- Påstand: Lenovo bruker MLPerf-tall til å beregne kostnad per million utdata-tokens for egne servere. En 8 × B300-server gir 70 000 tokens/s på DeepSeek R1 og 109 141 tokens/s på Llama 70B; med 5 års avskrivning blir kostnaden 0,13 USD per million tokens for DeepSeek R1.
- Tall: Tokens/s per 8-GPU-server (MLPerf Server v5.0/5.1): 8 × H200: Llama 70B 32 955; 8 × B200: Llama 70B 104 500, DeepSeek R1 58 000; 8 × B300: Llama 70B 109 141, DeepSeek R1 70 000. Kostnad: 8 × H200 Llama 70B 0,159 USD/M tokens (18,88 USD/t); 8 × B300 DeepSeek R1 0,13 USD/M tokens (34,37 USD/t). Serverpriser per 15. juni 2026, USD.
- Spenn: 0,13–0,16 USD/M tokens eid; 0,56–0,97 USD/M tokens ved leie av tilsvarende skyinstans på timepris.
- Kilde: Lenovo Press LP2368, «On-Premise vs Cloud: Generative AI Total Cost of Ownership (2026 Edition)», 2026, https://lenovopress.lenovo.com/lp2368.pdf, Table 3 og «Cost Per Million Tokens Analysis».
- Sitat: «Config D (8x B300)* 165,000 109,141 1,950 70,000» / «Cost per 1M Tokens: 1M/70000 * 34.37/3600 = $0.13» / «* These speeds represent raw output token throughput from MLPerf Inference Benchmarking. Actual system pipelines may introduce latency or overhead that affects these speeds».
- Kvalitet: bransjetall (leverandør med salgsinteresse i egen maskinvare)
- Usikkert: Forutsetter 100 % utnyttelse døgnet rundt i 5 år og null restverdi; bygg og nett er bare med som colocation-leie. Lenovo har interesse av å vise lav eid kostnad. 70 000 tokens/s for 8 × B300 på DeepSeek R1 tilsvarer 8 750 tokens/s per GPU (beregnet her), høyere enn NVIDIAs per-GPU-rekorder for GB300 NVL72 i MLPerf v5.1 (5 842 offline / 2 907 server, K08-014); Lenovo oppgir ikke hvilken innsending tallet bygger på.
- Lest: ja
- Kontroll: rettet (mindre; opprinnelig «Priser per juni/juli 2026». Lenovo oppgir serverprisene «as of June 15, 2026»; rettet til det. Table 3, «Cost Per Million Tokens Analysis» scenario A og B og fotnoten om rå MLPerf-gjennomstrømning er bekreftet ordrett i LP2368-PDF-en). Lagt til i Usikkert at 70 000 tokens/s (8 750 per GPU) er høyere enn NVIDIAs egne MLPerf v5.1-rekorder for GB300 NVL72; et menneske bør sjekke hvilken innsending Lenovo bygger på.
K08-018 Produsentens påstander om neste generasjon (Vera Rubin)
- Påstand: NVIDIA oppgir at Vera Rubin NVL72 gir opptil 10 ganger flere tokens per MW og en tidel av kostnaden per million tokens sammenlignet med GB200 NVL72 (Kimi-K2-Thinking, 32K/8K). På kvartalsmøtet i august 2026 sa finansdirektøren 30× høyere gjennomstrømning per MW og 35× lavere tokenkostnad sammenlignet med GB300.
- Tall: 10× tokens/MW mot GB200; 30× gjennomstrømning per MW og 35× lavere tokenkostnad mot GB300 (produsentens tall, 2026). Produksjonsleveranser startet august 2026.
- Spenn: 10–35× avhengig av sammenligningsgrunnlag og arbeidslast.
- Kilde: NVIDIA, «NVIDIA Vera Rubin NVL72», https://www.nvidia.com/en-us/data-center/vera-rubin-nvl72, avsnitt om inferens. NVIDIA Q2 FY2027 Earnings Call, korrigert transkripsjon (FactSet), 26.8.2026, https://s201.q4cdn.com/141608511/files/content_files/TRANSCRIPT_-NVIDIA-Corp-NVDA-US-Q2-2027-Earnings-Call-26-August-2026-5_00-PM-ET.pdf, Colette Kress' innledning.
- Sitat: «NVIDIA Vera Rubin NVL72 delivers up to 10x more tokens per megawatt than NVIDIA GB200 NVL72, scaling intelligence within the same power footprint.» / «Vera Rubin exemplifies this, delivering 30x higher throughput per megawatt and 35x lower token cost relative to Grace Blackwell Ultra.»
- Kvalitet: bransjetall (produsentens egne påstander, ikke uavhengig målt)
- Usikkert: Valgt arbeidslast og driftspunkt gir størst mulig forskjell. Uavhengige målinger for forrige generasjonssprang (K08-016: H200→GB300 ca. 4–5× per MW) er langt lavere enn produsentens tall for samme sprang.
- Lest: ja
- Kontroll: bekreftet (Vera Rubin NVL72-siden: «up to 10x more tokens per megawatt», «one-tenth the cost per million tokens compared to NVIDIA GB200 NVL72», fotnoten om Kimi-K2 Thinking 32K/8K og «Projected performance subject to change»; transkripsjonen Q2 FY2027 (26.8.2026), Colette Kress' innledning: sitatet ordrett og «We commenced production shipments of Vera Rubin earlier this month»).
K08-019 Energieffektivitet for akseleratorer over tid (brikkenivå)
- Påstand: Epoch AI finner at energieffektiviteten (FLOP/s per watt) for ledende GPU-er og TPU-er historisk har doblet seg hvert annet år, om lag 40 % per år.
- Tall: ca. 40 % per år (dobling ca. hvert 2. år). FP16 tensor: P100 7,48e10; V100 4,17e11; A100 7,80e11; H100 SXM 1,41e12; B200 2,25e12 FLOP/s per W.
- Spenn: Fra P100 (2016) til B200 (2024) ca. 30× (beregnet her fra tabellen).
- Kilde: Robi Rahman, Epoch AI, «Leading ML hardware becomes 40% more energy-efficient each year», 23.10.2024 (data oppdatert 24.11.2025), https://epoch.ai/data-insights/ml-hardware-energy-efficiency, tekst og tabell.
- Sitat: «Historically, the energy efficiency of leading GPUs and TPUs has doubled every 2 years.»
- Kvalitet: annet (uavhengig forskningsinstitutt; ikke fagfellevurdert)
- Usikkert: Toppytelse per TDP, ikke levert ytelse. Overgang til lavere presisjon (FP8/FP4) gir ekstra gevinster som ikke fanges av FP16-tallet.
- Lest: ja
- Kontroll: bekreftet (Epoch-siden 23.10.2024, CSV «Updated Nov. 24, 2025»; sitatet og tabellverdiene ordrett; 2,25e12 / 7,48e10 = 30). Merk: i tabellen er B100 (2,50e12) og Metas MTIA mer effektive enn B200, og Epochs egen trendside oppgir 34 %/år siden 2008 (K08-K01).
K08-020 Energieffektivitet på datasenternivå og maskinvarekostnad per MW
- Påstand: For de kraftigste AI-superdatamaskinene 2019–2025 økte FLOP/s per watt (inkl. datasenteroverhead) med 1,34× per år, mens strømbehov og maskinvarekostnad økte ca. 2× per år. xAIs Colossus ble anslått til 7 mrd. USD maskinvare og ca. 300 MW.
- Tall: 1,34× per år energieffektivitet (ca. 25 % mindre energi per år ved konstant ytelse); maskinvarekostnad 1,9× per år; effekt 2,0× per år. Colossus: ca. 7 mrd. USD / 300 MW ≈ 23 mill. USD per MW (beregnet her). Mars 2025.
- Spenn: 1,31–1,34× per år (forfatterne viser til Top500-tall på 1,31×).
- Kilde: K. F. Pilz m.fl. (Georgetown University, Epoch AI og Centre for the Governance of AI), «Trends in AI Supercomputers», arXiv:2504.16026v2, 2025, https://arxiv.org/html/2504.16026v2, avsnitt 3.2.1 og sammendrag.
- Sitat: «We find that between 2019 and 2025, AI supercomputer energy efficiency improved by 1.34× every year» / «the most performant AI supercomputer as of March 2025, xAI’s Colossus, had an estimated hardware cost of $7 billion (Figure 2) and required about 300 MW of power».
- Kvalitet: annet (arXiv-preprint)
- Usikkert: Bruker toppytelse delt på toppeffekt, ikke levert ytelse. Colossus-kostnaden er et anslag.
- Lest: ja
- Kontroll: rettet (opprinnelig: «(forfattere tilknyttet Epoch AI)». Første forfatter er Konstantin F. Pilz; forfatterne er tilknyttet Georgetown University, Epoch AI og Centre for the Governance of AI. Sitatene og tallene (1,34×, 1,9×, 2,0×, 7 mrd. USD, ca. 300 MW, Top500 1,31×) er bekreftet i arXiv v2, som er nyeste versjon, avsnitt 3.2.1 og sammendrag).
K08-021 Maskinvarekostnad, energieffektivitet og inferenspris (AI Index 2025)
- Påstand: Stanford AI Index 2025 oppsummerer at maskinvarekostnaden har falt 30 % per år og energieffektiviteten økt 40 % per år, og at inferenskostnaden på GPT-3.5-nivå falt over 280 ganger fra november 2022 til oktober 2024.
- Tall: −30 %/år maskinvarekostnad; +40 %/år energieffektivitet; >280× lavere inferenskostnad (nov. 2022–okt. 2024) på fast nivå.
- Spenn: Ett sammendragstall per indikator.
- Kilde: Stanford HAI, «The 2025 AI Index Report», hovedfunn 7, https://hai.stanford.edu/ai-index/2025-ai-index-report.
- Sitat: «the inference cost for a system performing at the level of GPT-3.5 dropped over 280-fold between November 2022 and October 2024. At the hardware level, costs have declined by 30% annually, while energy efficiency has improved by 40% each year.»
- Kvalitet: annet (årsrapport fra universitetsinstitutt; bygger på Epoch AI-data)
- Usikkert: Ikke uavhengig av K08-019 (samme datagrunnlag).
- Lest: ja
- Kontroll: bekreftet (AI Index 2025-siden, hovedfunn 7, ordrett). AI Index 2026 gjentar ikke 30 %/40 %-tallene, men skriver at ledende brikker gir «about 10 times more computation per watt than those available a decade ago» (K08-K05).
K08-022 Fall i pris per token for gitt kvalitet: 9–900× per år
- Påstand: Epoch AI finner at prisen for å nå et gitt resultat på seks benchmarker har falt 9–900 ganger per år, median 50× per år; etter januar 2024 steg medianen til 200× per år.
- Tall: 9×–900× per år; median 50×/år; 200×/år for data fra 2024. Eksempel: GPT-4-nivå på PhD-naturfagsspørsmål falt 40×/år. Data oppdatert 20.11.2025.
- Spenn: 9–900× per år; de raskeste trendene har under ett års data.
- Kilde: B. Cottier, B. Snodin, D. Owen, T. Adamczewski, Epoch AI, «LLM inference prices have fallen rapidly but unequally across tasks», 12.3.2025, https://epoch.ai/data-insights/llm-inference-price-trends, hovedtekst.
- Sitat: «Across all of these benchmarks and performance thresholds, we found prices declining between 9x per year and 900x per year, with a median of 50x per year.» / «the median rate increased from 50x per year to 200x per year.»
- Kvalitet: annet (uavhengig forskningsinstitutt)
- Usikkert: Listepriser, ikke kostnad; prisfall kan skyldes konkurranse og marginpress, ikke bare effektivitet. Benchmarkkontaminering kan overdrive.
- Lest: ja
- Kontroll: bekreftet (Epoch-siden datert 12.3.2025, forfattere Cottier, Snodin, Owen og Adamczewski; begge sitater ordrett, «six benchmarks», GPT-4-eksemplet 40x per år, CSV «Updated Nov. 20, 2025»). «Under ett års data» og «benchmarkkontaminering» står ikke ordrett på siden; siden sier at de raskeste trendene starter etter januar 2024.
K08-023 Prisen for å nå et gitt benchmarknivå faller, men frontmodeller blir dyrere å kjøre
- Påstand: Gundlach m.fl. (MIT) finner at prisen for et gitt benchmarknivå faller 5–10× per år for frontmodeller, at algoritmisk effektivisering alene er ca. 3× per år, men at prisen for å kjøre frontmodeller stiger 3–18× per år på grunn av større modeller og mer resonnering.
- Tall: −5× til −10× per år (fast kvalitet); algoritmisk ca. 3×/år; +3× til +18× per år for frontmodellenes kjørepris. 2025–2026.
- Spenn: Se tall. Retningen avhenger av om man holder kvalitet eller modell fast.
- Kilde: H. Gundlach, J. Lynch, M. Mertens, N. Thompson, «The Price of Progress: Price Performance and the Future of AI», arXiv:2511.23455 v2 (23.3.2026), https://arxiv.org/abs/2511.23455, sammendrag.
- Sitat: «We find that the price for a given level of benchmark performance has decreased remarkably fast, around 5× to 10× per year» / «we estimate that algorithmic efficiency progress is around 3× per year. However, at the same time, the price of running frontier models is rising between 3× to 18× per year due to bigger models and larger reasoning demands.»
- Kvalitet: annet (arXiv-preprint fra universitetsmiljø)
- Usikkert: Bruker Artificial Analysis- og Epoch-data. Lavere prisfall enn Epoch (K08-022) fordi metoden er en annen.
- Lest: ja (sammendraget)
- Kontroll: rettet (opprinnelig tittel: «Pris per token for gitt kvalitet faller, men frontmodeller blir dyrere å kjøre». Artikkelen måler pris for å kjøre benchmarker («prices to run benchmarks»), ikke pris per token. Sammendraget i v2 (23.3.2026, nyeste) og MIT-tilknytningen (MIT FutureTech, CSAIL) bekreftet i PDF-en).
K08-024 «LLMflation»: 10× billigere per år for samme kvalitet
- Påstand: a16z fant at kostnaden for en LLM med gitt MMLU-nivå har falt ca. 10× per år, og 1 000× på tre år (fra 60 USD til 0,06 USD per million tokens for MMLU 42).
- Tall: 10×/år; 1 000× på 3 år (nov. 2021–nov. 2024); 62× for MMLU 83 siden mars 2023. USD per million tokens, løpende priser.
- Spenn: 10×/år er en tilpasset trendlinje.
- Kilde: Guido Appenzeller, Andreessen Horowitz, «Welcome to LLMflation – LLM inference cost is going down fast», november 2024, https://a16z.com/llmflation-llm-inference-cost/.
- Sitat: «For an LLM of equivalent performance, the cost is decreasing by 10x every year.» / «The cost of LLM inference has dropped by a factor of 1,000 in 3 years.»
- Kvalitet: annet (risikokapitalfond med investeringer i bransjen)
- Usikkert: Forfatteren påpeker selv metodesvakheter (kontaminering av MMLU). Eldre enn 2025.
- Lest: ja
- Kontroll: bekreftet (a16z-siden publisert 12.11.2024; begge sitater, 60 USD → 0,06 USD for MMLU 42, «a factor of 62» for MMLU 83 og forfatterens eget forbehold om kontaminering).
K08-025 Algoritmisk fremgang i språkmodeller (trening)
- Påstand: Regnekraften som trengs for å nå et gitt nivå i forhåndstrening av språkmodeller har halvert seg om lag hver 8. måned (2012–2023).
- Tall: Halvering ca. hver 8. måned (90 % KI ca. 2–22 måneder i den publiserte versjonen; arXiv-versjonen oppgir 95 % KI ca. 5–14 måneder).
- Spenn: 2–22 måneder (90 % KI, NeurIPS-versjonen).
- Kilde: A. Ho, T. Besiroglu, E. Erdil m.fl., «Algorithmic progress in language models», Advances in Neural Information Processing Systems 37 (NeurIPS 2024), Main Conference Track, https://proceedings.neurips.cc/paper_files/paper/2024/hash/6b066da6a23bc55f9b887e7298102884-Abstract-Conference.html, sammendrag. Preprint: arXiv:2403.05812 (v1).
- Sitat: «we find that the compute required to reach a set performance threshold has halved approximately every 8 months, with a 90% confidence interval of around 2 to 22 months, substantially faster than hardware gains per Moore's Law.» (NeurIPS-sammendraget; arXiv-sammendraget har «a 95% confidence interval of around 5 to 14 months»)
- Kvalitet: fagfellevurdert (NeurIPS 2024)
- Usikkert: Gjelder forhåndstrening på perpleksitet, ikke inferenskostnad direkte; data til 2023.
- Lest: ja (sammendraget)
- Kontroll: rettet (opprinnelig: Kvalitet «annet (arXiv-preprint; om en fagfellevurdert versjon finnes er ikke sjekket)» og «95 % KI ca. 5–14 måneder». Artikkelen er publisert i NeurIPS 2024, Main Conference Track; sammendraget der oppgir «a 90% confidence interval of around 2 to 22 months». arXiv-sammendraget (v1, eneste) har 95 % KI 5–14 måneder. Posten bygger nå på den fagfellevurderte versjonen).
K08-026 Googles TPU-er: ytelse per watt og per dollar (produsentens tall)
- Påstand: Google oppgir at Ironwood (TPU v7) har 2× ytelse per watt sammenlignet med Trillium, og at 8. generasjon (TPU 8t/8i, annonsert april 2026) gir opptil 2× bedre ytelse per watt og (TPU 8i) opptil 80 % bedre ytelse per dollar for inferens enn Ironwood.
- Tall: Ironwood: 2× perf/W mot Trillium. TPU 8i: +80 % perf/USD (inferens); TPU 8t: opptil 2,7× perf/USD (trening); begge opptil 2× perf/W. 2025–2026.
- Spenn: «Opptil»-tall.
- Kilde: Google Cloud Blog, «TPU 8t and TPU 8i technical deep dive», 2026, https://cloud.google.com/blog/products/compute/tpu-8t-and-tpu-8i-technical-deep-dive, avsnitt om gevinster. Google, «Ironwood: The first Google TPU for the age of inference», 2025, https://blog.google/innovation-and-ai/infrastructure-and-cloud/google-cloud/ironwood-tpu-age-of-inference.
- Sitat: «Inference price-performance: TPU 8i delivers up to 80% performance-per-dollar improvement over Ironwood TPU, particularly at low-latency targets for large MoE models.» / «Energy efficiency: Both chips deliver up to 2x better performance-per-watt» / «Ironwood perf/watt is 2x relative to Trillium».
- Kvalitet: pressemelding (produsent)
- Usikkert: Produsentens egne «opptil»-tall; ingen uavhengig måling funnet. Ironwood-bloggen oppgir også at Ironwood er «nearly 30x more power efficient than our first Cloud TPU from 2018», målt som topp FP8 per watt TDP.
- Lest: ja (begge sider åpnet via uttrekk)
- Kontroll: bekreftet (TPU 8-bloggen 22.4.2026: alle tre sitater og «up to 2.7x performance-per-dollar» for 8t; Ironwood-bloggen april 2025: «Ironwood perf/watt is 2x relative to Trillium», «nearly 30x more power efficient than our first Cloud TPU from 2018», og figur 3: «Measured by peak FP8 flops delivered per watt of thermal design power per chip package»).
K08-027 AWS Trainium3: tokens per MW (produsentens tall)
- Påstand: AWS oppgir at Trn3 UltraServer gir over 5× flere utdata-tokens per megawatt enn Trn2 ved tilsvarende forsinkelse per bruker, og 4× bedre ytelse per watt.
- Tall: >5× tokens/MW; 4× perf/W; 2,52 PFLOPS FP8 per brikke; 144 GB HBM3e; opptil 144 brikker per UltraServer. Desember 2025.
- Spenn: Ett tall per indikator.
- Kilde: AWS, «Amazon EC2 Trn3 UltraServers», https://aws.amazon.com/ec2/instance-types/trn3, og «Announcing Amazon EC2 Trn3 UltraServers…», desember 2025, https://aws.amazon.com/about-aws/whats-new/2025/12/amazon-ec2-trn3-ultraservers.
- Sitat: «In real-world serving, Trn3 achieves over 5× higher output tokens per megawatt than Trn2 UltraServer while maintaining similar latency per user».
- Kvalitet: pressemelding
- Usikkert: Produsentens påstand; ikke uavhengig målt. Effekt per brikke ikke oppgitt.
- Lest: ja (produktsiden åpnet; sitatet funnet der. Kunngjøringen fra desember 2025 er bare sett i søketreff)
- Kontroll: bekreftet (produktsiden: sitatet ordrett, «4x better performance/watt», 144 GB HBM3e, opptil 144 brikker; kunngjøringen 2.12.2025 er nå åpnet: «Each AWS Trainium3 chip provides 2.52 petaflops (PFLOPs) of FP8 compute» og «over 5× higher output tokens per megawatt at similar latency per user»).
K08-028 Leiepris H100 over tid: fra 7–10 USD til 2–4 USD per GPU-time
- Påstand: Silicon Data beskriver at H100-leie kostet over 7–10 USD per GPU-time tidlig etter lansering og 2–4 USD hos ikke-hyperskala-tilbydere sent i 2025. I andre halvår 2025 lå medianen rundt 6,3 USD hos hyperskalaaktører, 3,3 USD hos neoskyer og 2,0 USD på markedsplasser.
- Tall: Tidlig etter lansering (fra midten av 2022): over 7–10 USD/GPU-t; H2 2025: hyperskala 6,20–6,64 (median 6,26), neosky 3,01–3,40 (median 3,33), markedsplass 1,92–2,00 (median 1,95) USD/GPU-t. Løpende USD.
- Spenn: Faktor ca. 3 mellom markedsplass og hyperskala samme periode.
- Kilde: Silicon Data, «H100 Rental Price Over Time (2023–2025): A Complete Market Analysis», 21.12.2025, https://www.silicondata.com/blog/h100-rental-price-over-time, sammendrag og tabell.
- Sitat: «Early rental prices routinely exceeded $7–$10 per GPU‑hour, reflecting extreme scarcity and unprecedented demand from AI labs and hyperscalers. By late 2025, however, the same H100 GPUs across non-hyperscale and marketplace providers are widely available for $2–$4 per hour».
- Kvalitet: bransjetall (kommersiell dataleverandør)
- Usikkert: Bloggen sier AWS kuttet «roughly 30%», mens AWS selv oppga 44–45 % for P5 (K08-030). Indeksmetode ikke offentlig i detalj.
- Lest: ja
- Kontroll: rettet (mindre; opprinnelig «2023: 7–10 USD/GPU-t». Kilden sier «Early rental prices» etter lansering «in mid 2022», ikke 2023. Bloggen er datert 21.12.2025; sitatet, tabellraden «2025-07 to 2025-12» og «roughly 30%» om AWS er bekreftet).
K08-029 Leiepriser per GPU-time november 2026 (indekser)
- Påstand: Silicon Datas indekser (neosky/markedsplass) viste H100 3,06 USD per GPU-time både 10. og 11.11.2026 og B200 6,97 (10.11.) / 6,84 (11.11.); 11.11.2026 viste H200 3,47, A100 1,59, B300 7,67 og MI300X 2,77 USD per GPU-time. For Q3 2026 lå regionale medianer for H100 på ca. 2,00–3,30 USD hos neoskyer og 4,80–6,10 USD hos hyperskalaaktører.
- Tall: Se over. USD per GPU-time, november 2026. H100-indeksen steg fra 2,85 (13.10.) til 3,06 (10.–11.11.2026). FAQ-tekstene på sidene oppgir utdaterte tall (H100 2,53; B200 5,45).
- Spenn: H100: 2,0–6,1 USD/GPU-t etter tilbydertype og region (Q3 2026).
- Kilde: Silicon Data, «H100 Rental Price Index», https://www.silicondata.com/products/silicon-index/h100 (lest 11.11.2026, «updated Nov 11, 2026»); «B200 Rental Price Index», https://www.silicondata.com/products/silicon-index/b200; «H100 Rental Prices by Region, Q3 2026», https://www.silicondata.com/blog/h100-rental-prices-by-region-q3-2026.
- Sitat: «H100 Rental Price Index — SDH100RT … As of Nov 11, 2026 3.06 USD / GPU-hour» og dagsserien «Nov 10, 2026 | 3.06 | Nov 11, 2026 | 3.06» (H100-siden). / «As of the partial third quarter of 2026, quarterly median rental prices per hour in the regions we track run roughly $2.00 to $3.30 at non-hyperscaler (neocloud) providers and roughly $4.80 to $6.10 at hyperscalers, depending on region.»
- Kvalitet: bransjetall
- Usikkert: Spotpriser for små volumer; mesteparten av volumet handles på kontrakter (K08-031). Indekssidenes overskriftstall og FAQ-tekst spriker (FAQ-en er ikke oppdatert), så bare overskriftstall og dagsserie bør brukes; avlesningene er øyeblikksbilder. H100-indeksens egen avlesning for hyperskalaaktører var 7,10 USD per GPU-time 11.11.2026, over regionbloggens 4,80–6,10 USD for 3. kvartal (K21-Kf2-04).
- Lest: ja
- Kontroll: rettet (opprinnelig: «H100 2,53, H200 3,48, A100 1,59, B200 6,97, B300 7,68 og MI300X 2,77 USD per GPU-time» per 10.11.2026, med sitatet «The current H100 rental price is $2.53 per GPU-hour …». H100-siden viser «As of Nov 11, 2026 3.06 USD / GPU-hour» og dagsserien 3,06 for både 10. og 11.11.2026; «$2.53» står bare i FAQ-svaret, som er utdatert. B200 6,97 den 10.11. er bekreftet i dagsserien. H200 3,47, B300 7,67, A100 1,59 og MI300X 2,77 er lest 11.11.2026. 10.11.-verdiene er senere sett i dagsseriene: H200 3,48 og B300 7,68, altså de verdiene som sto i den opprinnelige posten (K21-084). Q3-sitatet fra regionbloggen er bekreftet). Oppdatert 2026-11-11 (del 4): Én setning i Kontroll er endret, og Usikkert har fått tillegg om hyperskalaavlesningen. Før sto det: Kontroll «H200 3,47, B300 7,67, A100 1,59 og MI300X 2,77 er lest 11.11.2026; 10.11.-verdiene for H200 og B300 er ikke sett.»; Usikkert slutter med «Indekssidenes overskriftstall og FAQ-tekst spriker (FAQ-en er ikke oppdatert), så bare overskriftstall og dagsserie bør brukes; avlesningene er øyeblikksbilder.». Kilde: Silicon Datas H200-, B300- og H100-sider lastet ned 11.11.2026 («Nov 10, 2026 3.48», «Nov 10, 2026 7.68»; datastrukturen for «H100-hyperscaler») (del 4, spor f2, K21-084, K21-Kf2-04).
K08-030 Prisfall ved hyperskalaaktør: AWS kuttet H100-prisen 44–45 % (juni 2025)
- Påstand: AWS reduserte prisene på GPU-instanser fra 1. juni 2025: P5 (H100) 44 % på forespørsel og inntil 45 % i spareplaner; P5en (H200) 25 %; P4d/P4de (A100) 33 %.
- Tall: P5 (H100): −44 % på forespørsel; −45 % (EC2 Instance Savings Plan, 3 år); −44 % / −25 % (Compute Savings Plan 1 / 3 år). P5en (H200): −25 %. P4 (A100): −33 %. Fra prisnivå 31.5.2025.
- Spenn: 25–45 % etter instans og avtaletype.
- Kilde: AWS News Blog (Channy Yun), «Announcing up to 45% price reduction for Amazon EC2 NVIDIA GPU-accelerated instances», juni 2025, https://aws.amazon.com/blogs/aws/announcing-up-to-45-price-reduction-for-amazon-ec2-nvidia-gpu-accelerated-instances, tabell.
- Sitat: «Here is a table of price reductions percentage (%) from May 31, 2025 baseline prices by instance types and pricing plans» / «| P5 | H100 | 44% | – | 45% | 44% | 25% |»
- Kvalitet: pressemelding
- Usikkert: Absolutte timepriser er ikke i kunngjøringen. Kuttet kom ca. 2,5 år etter H100-lansering og samtidig med at B200 kom.
- Lest: ja
- Kontroll: bekreftet (AWS-bloggen 5.6.2025: tabellen ordrett, P5: 44 % på forespørsel, «–» for EC2 Instance Savings Plan 1 år, 45 % for 3 år, 44 % / 25 % Compute Savings Plan 1 / 3 år; P5en 25 %; P4d/P4de 33 %). «Samtidig med at B200 kom» i Usikkert står ikke i kilden og er ikke kontrollert.
K08-031 Kontraktspriser steg igjen 2025–2026 (H100, 1 år)
- Påstand: SemiAnalysis' indeks for ettårige H100-leiekontrakter steg nesten 40 %, fra 1,70 USD/t/GPU i oktober 2025 til 2,35 USD i mars 2026. SemiAnalysis skriver at mesteparten av leievolumet handles på kontrakter på minst 6 måneder.
- Tall: 1,70 → 2,35 USD per GPU-time (1-årskontrakt), okt. 2025–mars 2026 (+38 %, beregnet her).
- Spenn: Retningen er motsatt av K08-028/K08-030: prisen falt i 2025 og steg i 2026.
- Kilde: SemiAnalysis, «The Great GPU Shortage – Rental Capacity – Launching our H100 1 Year Rental Price Index», 2.4.2026, https://newsletter.semianalysis.com/p/the-great-gpu-shortage-rental-capacity.
- Sitat: «H100 1-year GPU rental contract pricing has shot up almost 40% from a low of $1.70/hr/GPU in October 2025 to $2.35/hr/GPU by March 2026.» / «most of the GPU rental market is transacted on a long-term basis with contracts of at least 6mths and longer.»
- Kvalitet: bransjetall (kommersiell analysetilbyder)
- Usikkert: Bygger på spørreundersøkelser i markedet. En annen kilde (Uvik) oppgir at Nebius hevet H100-prisen fra 3,85 til 4,50 USD 1.10.2026; Ikke verifisert i Nebius' prisliste.
- Lest: ja
- Kontroll: bekreftet (SemiAnalysis-artikkelen 2.4.2026; begge sitater ordrett; indeksen bygger på «survey data polling many Neoclouds and buyers of compute which is also validated by transaction data»). Nebius-opplysningen i Usikkert er ikke kontrollert.
K08-032 Eierkostnad per brikke-time mot detaljpris (TCO-modell)
- Påstand: SemiAnalysis' AI Cloud TCO-modell, brukt i InferenceX, setter eierkostnaden per brikke-time ved stor hyperskalaskala til 1,17 USD (H100), 1,86 (GB200), 2,31 (GB300) og 1,50 (MI355X), mot detaljpriser på 2,00, 4,00, 5,00 og 2,90 USD.
- Tall: USD per brikke-time, eid / detalj: H100 1,17 / 2,00; GB200 1,86 / 4,00; GB300 2,31 / 5,00; MI355X 1,50 / 2,90. Inkluderer serverinvestering, strøm, colocation og kapitalkostnad. Hentet 2026-11-11.
- Spenn: Detaljpris er 1,7–2,2× eierkostnaden.
- Kilde: SemiAnalysis InferenceX, brikkesider (se K08-005), FAQ «How much does … cost per hour in the cloud?».
- Sitat: «The SemiAnalysis AI Cloud TCO model rates GB300 NVL72 at about $2.31/hr when owned at large hyperscaler volume and $5.00/hr at the retail tier.» / «all-in GPU cost of ownership built up from server capex, power, colocation and cost of capital».
- Kvalitet: bransjetall
- Usikkert: Fordelingen mellom komponentene (andel strøm) er ikke offentlig. Avskrivningstid og kapitalkostnad i modellen er ikke oppgitt.
- Lest: ja
- Kontroll: bekreftet (FAQ «How much does … cost per hour in the cloud?» på alle fire brikkesider, tallene ordrett; «colocation»-sitatet står på gb300-siden).
K08-033 Langsiktig kapasitetsavtale med effekt oppgitt: IREN–Microsoft
- Påstand: IREN skal levere Microsoft tilgang til NVIDIA GB300 over fem år for ca. 9,7 mrd. USD, med 20 % forskudd. GPU-ene og tilhørende utstyr kjøpes fra Dell for ca. 5,8 mrd. USD og installeres i datasentre for 200 MW kritisk IT-last.
- Tall: 9,7 mrd. USD / 5 år / 200 MW IT. Avledet (beregnet her): ca. 9,7 mill. USD per MW IT per år i kontraktsinntekt; ca. 29 mill. USD maskinvare per MW IT. November 2025.
- Spenn: Ett datapunkt.
- Kilde: IREN Limited, «IREN Secures $9.7bn AI Cloud Contract with Microsoft», pressemelding (GlobeNewswire), 3.11.2025, https://www.globenewswire.com/news-release/2025/11/03/3178993/0/en/iren-secures-9-7bn-ai-cloud-contract-with-microsoft.html.
- Sitat: «IREN will provide Microsoft with access to NVIDIA GB300 GPUs over a five-year term, with a total contract value of approximately $9.7 billion, including a 20% prepayment. IREN has also entered into an agreement with Dell Technologies to purchase the GPUs and ancillary equipment for approximately $5.8 billion.» / «new liquid-cooled data centers that will collectively support 200MW of critical IT load».
- Kvalitet: pressemelding
- Usikkert: Om all 200 MW brukes til denne kontrakten er ikke eksplisitt sagt. Bygg- og driftskostnad er ikke oppgitt.
- Lest: ja
- Kontroll: bekreftet (GlobeNewswire-meldingen 3.11.2025, lest via uttrekk fordi direkte nedlasting ble blokkert; begge sitater ordrett; GPU-ene skal installeres i faser gjennom 2026 på Childress-campus, «200MW of critical IT load (Horizon 1–4)»).
- Egenkontroll (økta, 2026-11-11): bekreftet. Pressemeldingen lest i uttrekk: ca. 9,7 mrd. USD over fem år, 20 % forskudd, 5,8 mrd. USD til Dell, 200 MW kritisk IT-last. Det er selskapets egen melding; inntekt per MW er avledet og ikke et tall i kilden.
K08-034 Langsiktig kapasitetsavtale i Norge: Aker-Nscale–Microsoft (Narvik)
- Påstand: Aker-Nscale-fellesforetaket har en avtale med Microsoft om AI-regnekraft fra Narvik til en kontraktsverdi på ca. 6,2 mrd. USD, levert i trinn fra 2026.
- Tall: ca. 6,2 mrd. USD; bindende femårig avtale; levering i trinn fra 2026. MW og antall GPU-er er ikke oppgitt i pressemeldingen.
- Spenn: Ett datapunkt.
- Kilde: Aker ASA og Nscale, «Aker-Nscale JV signs Multi-Billion Dollar AI infrastructure agreement with Microsoft», pressemelding (PR Newswire), 17.9.2025, https://www.prnewswire.com/news-releases/aker-nscale-jv-signs-multi-billion-dollar-ai-infrastructure-agreement-with-microsoft-302559403.html.
- Sitat: «Nscale Global Holdings Ltd. ("Nscale"), Aker ASA ("Aker") and Microsoft Corp. today signed a binding five-year customer agreement» / «At a contract value of approximately USD 6.2 billion, the agreement secures Microsoft's access to high-performance AI compute capacity to be delivered in staged deployments beginning in 2026. Located in Narvik, Northern Norway».
- Kvalitet: pressemelding
- Usikkert: Uten MW kan pris per MW ikke beregnes.
- Lest: ja
- Kontroll: rettet (opprinnelig Usikkert: «Løpetid på fem år står i nyhetsomtaler (Yahoo Finance, LinkedIn), ikke i den leste pressemeldingen; Ikke verifisert.» Pressemeldingen (PR Newswire, 17.9.2025) sier selv «signed a binding five-year customer agreement»; løpetiden er dermed bekreftet i primærkilden, og dato er lagt inn. MW og GPU-antall står fortsatt ikke i meldingen).
K08-035 Langsiktig kapasitetsavtale: Nebius–Microsoft
- Påstand: Nebius skal gi Microsoft dedikert GPU-kapasitet i Vineland, New Jersey, over fem år; kontraktsverdien er ca. 17,4 mrd. USD til 2031, og inntil ca. 19,4 mrd. USD med tilleggskapasitet.
- Tall: 17,4 (inntil 19,4) mrd. USD; 5 år; levering i trinn 2025–2026. September 2025.
- Spenn: 17,4–19,4 mrd. USD.
- Kilde: Nebius Group N.V., Form 6-K til SEC, 8.9.2025, https://www.sec.gov/Archives/edgar/data/1513845/000110465925088312/tm2525580d1_6k.htm.
- Sitat: «Subject to the satisfaction of the deployment and availability of the GPU Services, the total contract value is about $17.4 billion through 2031. Microsoft may also acquire additional services and/or capacity under the Agreement, which would increase the total contract value to about $19.4 billion.»
- Kvalitet: myndighetsdokument (børsmelding til SEC)
- Usikkert: MW er ikke oppgitt i 6-K. En sekundærkilde oppgir 315 MW IT; Ikke verifisert.
- Lest: ja
- Kontroll: bekreftet (6-K datert 8.9.2025: sitatet ordrett, «over a five-year term» og «deployed in several tranches during 2025 and 2026»).
K08-036 Kapasitetsavtale på alternative brikker: Anthropic–Google TPU
- Påstand: Anthropic kunngjorde i 2025 utvidet bruk av Google Cloud med inntil én million TPU-er, verdt titalls milliarder dollar og ventet å gi godt over én gigawatt kapasitet i 2026.
- Tall: inntil 1 000 000 TPU-er; «well over a gigawatt»; «tens of billions of dollars». 2025–2026.
- Spenn: Bare grove størrelser.
- Kilde: Anthropic, «Expanding our use of Google Cloud TPUs and Services», 2025 (publiseringsdato ikke med i uttrekket), https://www.anthropic.com/news/expanding-our-use-of-google-cloud-tpus-and-services.
- Sitat: «The expansion is worth tens of billions of dollars and is expected to bring well over a gigawatt of capacity online in 2026.» / «Anthropic’s choice to significantly expand its usage of TPUs reflects the strong price-performance and efficiency its teams have seen with TPUs for several years» (Thomas Kurian, Google Cloud).
- Kvalitet: pressemelding
- Usikkert: For grove tall til pris per MW. Med i kildebanken fordi det viser at egne brikker (TPU) inngår i GW-skala kontrakter. Anthropic oppgir samme sted at selskapet bruker tre brikkeplattformer (Google TPU, Amazon Trainium, NVIDIA GPU).
- Lest: ja (Anthropic-siden åpnet; Kurian-sitatet er bare sett i søketreff fra samme side)
- Kontroll: bekreftet (Anthropic-siden datert 23.10.2025; begge sitater, også Kurian-sitatet, er nå lest på siden; de tre brikkeplattformene står der).
K08-037 Investering per GW og leverandørens andel
- Påstand: NVIDIAs toppsjef anslo i august 2025 at et AI-datasenter på 1 GW koster 50–60 mrd. USD, hvorav ca. 35 mrd. USD er NVIDIA-innhold. I august 2026 oppga selskapet sin inntektsmulighet per GW til ca. 18 mrd. (Hopper), 25 mrd. (Grace Blackwell) og 40 mrd. USD (Vera Rubin), og sa at et GW nå er en investering på ca. 60 mrd. USD (mot ca. 30 mrd. fem år tidligere).
- Tall: Total investering 50–60 mrd. USD per GW (2025), ca. 60 mrd. (2026); NVIDIA-innhold 35 mrd. (2025-utsagn), 18 / 25 / 40 mrd. USD per GW for Hopper / Grace Blackwell / Vera Rubin (2026-utsagn). Avledet: 50–60 mill. USD per MW.
- Spenn: NVIDIA-andel 25–40 mrd. per GW avhengig av generasjon; de to utsagnene (35 mrd. i 2025 og 25 mrd. for Grace Blackwell i 2026) er ikke helt konsistente.
- Kilde: NVIDIA Q2 FY2026 Earnings Call, korrigert transkripsjon (FactSet), 27.8.2025, https://s201.q4cdn.com/141608511/files/doc_financials/2026/q2/NVDA-Q2-2026-Earnings-Call-27-August-2025-5_00-PM-ET.pdf, s. 10 (Jensen Huang). NVIDIA Q2 FY2027 Earnings Call, 26.8.2026 (se K08-018), innledning (Colette Kress) og Q&A (Jensen Huang).
- Sitat: «Out of a gigawatt AI factory, which can go anywhere from $50 billion to, plus or minus 10%, let's say, $50 billion to $60 billion, we represent about $35 billion, plus or minus, of that» (2025). «Since Hopper, our revenue opportunity has grown from roughly $18 billion per gigawatt to $25 billion with Blackwell, to $40 billion with Vera Rubin» / «So, each gigawatt of data center increased from, say, $30 billion about five years ago to now $60 billion today.» (2026)
- Kvalitet: annet (leverandørens utsagn på investormøte; leverandør med interesse i høye tall)
- Usikkert: Grunnlaget for 50–60 mrd. per GW er ikke spesifisert (hva som inngår av bygg, kraft, nett). «Inntektsmulighet» er ikke det samme som faktisk pris betalt.
- Lest: ja
- Kontroll: bekreftet (Q2 FY2026-transkripsjonen: sitatet starter s. 10 og fortsetter s. 11, med tillegget «$35 billion out of $50-or-so-billion per a gigawatt data center»; Q2 FY2027-transkripsjonen: Kress' innledning om 18/25/40 mrd. per GW og Huangs svar «each gigawatt of data center increased from, say, $30 billion about five years ago to now $60 billion today»).
K08-038 Pris på 8-GPU-servere (listepris 2026) og strømandel i timekostnaden
- Påstand: Lenovo oppgir vanlige salgspriser per juni 2026 på 397 802 USD (8 × H200), 550 475 USD (8 × B200) og 785 607 USD (8 × B300). For B300-serveren regner Lenovo strøm og kjøling til 3,60 USD av en amortisert timekostnad på 34,37 USD.
- Tall: Serverpris: H200 397 801,60; B200 550 475,10; B300 785 606,50 USD (juni 2026). Avledet: ca. 98 000 USD per B300-GPU inkl. server. Forutsetninger: strøm 0,12 USD/kWh, kjøling 0,09 USD/kWh (væske) / 0,18 (luft), colocation ca. 1 500 USD/mnd per rack, vedlikehold 12 % av systempris per år, 5 års levetid. Strøm og kjøling som andel av timekostnad: 3,60/34,37 ≈ 10,5 % (beregnet her).
- Spenn: H200-server: 2,27 USD/t strøm og kjøling av 9,80 USD/t drift.
- Kilde: Lenovo Press LP2368 (se K08-017), «Core TCO Metrics», «System Pricing», TCO-scenarioer.
- Sitat: «Provided below are the usual sale price to the customer (as of June 15, 2026, in USD): … Config D (8xB300): $785,606.50» / «OpEx (Hourly) : ~$16.44 ($10.76 maintenance + $3.6 power and cooling + $2.08 colocation)» / «Electricity: $0.12 per kWh (US Commercial Average).»
- Kvalitet: bransjetall (leverandør)
- Usikkert: Listepris uten rabatt; storkunder betaler trolig mindre. Bygg-capex ligger utenfor (colocation-leie). Strømandelen avhenger direkte av forutsatt strømpris.
- Lest: ja
- Kontroll: bekreftet (LP2368: prisliste «as of June 15, 2026», case 1 og 2 med 9,80 og 16,44 USD/t drift, forutsetningene strøm 0,12, kjøling 0,09/0,18 USD/kWh, colocation ca. 1 500 USD/mnd og vedlikehold 12 %). 34,37 USD/t = 785 606,5/43 800 + 16,44 (kontrollregnet).
K08-039 Pris på et komplett GB300 NVL72-rack
- Påstand: Data Gravity anslår ut fra innkjøpsordrer (august 2026) at et GB300 NVL72-rack koster ca. 5,0 mill. USD å kjøpe, ca. 5,7 mill. å installere og 240–410 tusen USD per år i drift, som gir 2,56–2,88 USD per utnyttet GPU-time ved 80–90 % utnyttelse (3,84 USD ved 60 %).
- Tall: 5,0 mill. USD (kjøp), 5,7 mill. (installert), 240–410 tusen USD/år drift; 2,56–2,88 USD per utnyttet GPU-time (80–90 %); 3,84 USD (60 %). Avledet: ca. 69 000 USD per GPU (kjøp). 2026.
- Spenn: Andre anslag nevnt i samme kilde: GB200 NVL72 «$3 million» (eldre, mye sitert); for GB300 rapportert 6–6,5 mill. (Tom's Hardware). Disse er Ikke verifisert i primærkilde.
- Kilde: Chris Zeoli, Data Gravity, «How Much Does an NVIDIA NVL72 Cost?», 2026, https://www.datagravity.dev/p/how-much-does-an-nvidia-nvl72-cost.
- Sitat: «The short answer, from recent purchase orders and analyst teardowns: ~$5.0M to buy a GB300 NVL72, ~$5.7M to deploy, $240–410K a year to run, and $2.6–2.9 per utilized GPU-hour at 80–90% utilization.» / «Utilization, not the amortization debate, is the bigger lever».
- Kvalitet: bransjetall (nyhetsbrev; innkjøpsordrene er justert for anonymitet og ikke offentlige)
- Usikkert: Kilden er ikke etterprøvbar; NVIDIA publiserer ikke listepris. Datasenterbygg og kjernenett er holdt utenfor.
- Lest: ja
- Kontroll: bekreftet (Data Gravity, Chris Zeoli, 31.8.2026; sitatet ordrett; 2,56–2,88 og 3,84 USD og «
$69K per GPU slot» står i teksten). Samme kilde: «even at $0.15/kWh, five years of electricity ($1.1M) is under a fifth of deployed capex» og «at colo rates, the five-year facility bill is 18–26% of total cost».
K08-040 Strømandel av kostnaden: 2–6 % ved trening av frontmodeller
- Påstand: Epoch AI anslår at energi utgjør 2–6 % av utviklingskostnaden for frontmodeller som GPT-4 og Gemini Ultra; maskinvare 47–67 % og FoU-personell 29–49 %.
- Tall: Energi 2–6 %; maskinvare (brikker, server, sammenkobling) 47–67 %; personell 29–49 %. Amortisert kostnad for siste treningskjøring vokser 2,4× per år (95 % KI 2,0–3,1). 2024.
- Spenn: 2–6 % energi.
- Kilde: Epoch AI, «How much does it cost to train frontier AI models?» (sammendragsside for arXiv:2405.21015 «The rising costs of training frontier AI models»), 2024, https://epoch.ai/publications/how-much-does-it-cost-to-train-frontier-ai-models. Selve arXiv-artikkelen er ikke åpnet.
- Sitat: «The combined cost of AI accelerator chips, other server components and interconnect hardware makes up 47–67% of the total, whereas R&D staff costs are 29–49% (including equity). Energy consumption makes up the remaining 2–6% of the cost.»
- Kvalitet: annet (uavhengig forskningsinstitutt; preprint)
- Usikkert: Gjelder trening med personell, ikke en inferenstjeneste. Bygg- og nettkostnader er ikke egne poster.
- Lest: ja
- Kontroll: bekreftet (Epoch-sammendragssiden 3.6.2024; sitatet og 2,4×/år (95 % KI 2,0–3,1) ordrett). arXiv-artikkelen er fortsatt ikke åpnet.
K08-041 Realisert inntekt per MW og kostnadsstruktur hos en GPU-skyleverandør (rapportert kvartalsregnskap, urevidert)
- Påstand: CoreWeave hadde 2 575 mill. USD i inntekt i 2. kvartal 2026 og økte aktiv effekt med nesten 500 MW til 1,5 GW. Avskrivninger var 1 393 mill. og netto rentekostnad 640 mill. USD i kvartalet. I 3. kvartal 2026 (nyeste) var inntekten 3 661 mill. USD og aktiv effekt over 1,7 GW.
- Tall: Q2 2026: inntekt 2 575; kostnad for inntekt 879; teknologi og infrastruktur 1 507; avskrivninger 1 393; netto renter 640; driftsresultat −49 (mill. USD). Aktiv effekt 1,5 GW (slutt Q2), kontraktsfestet ca. 3,7 GW. Avledet (beregnet her): annualisert inntekt ca. 10,3 mrd. USD, dvs. ca. 6,9 mill. USD per MW aktiv effekt per år (sluttnivå) til ca. 10,3 mill. (startnivå ca. 1,0 GW); avskrivninger ≈ 54 % og renter ≈ 25 % av inntekten.
- Tall Q3 2026: inntekt 3 661; kostnad for inntekt 1 183; teknologi og infrastruktur 2 025; avskrivninger og amortisering 1 889; netto renter 846; driftsresultat +207 (mill. USD). Aktiv effekt over 1,7 GW (over 200 MW tilført), kontraktsfestet over 4,6 GW. Avledet (beregnet her): annualisert inntekt ca. 14,6 mrd. USD, dvs. ca. 8,6 (1,7 GW) til 9,8 (1,5 GW) mill. USD per MW aktiv effekt per år; avskrivninger ≈ 52 % og renter ≈ 23 % av inntekten.
- Spenn: 6,9–10,3 mill. USD per MW per år (Q2–Q3 2026) avhengig av kvartal og hvilken effekt man deler på.
- Kilde: CoreWeave, Inc., «CoreWeave Reports Strong Second Quarter 2026 Results», Exhibit 99.1 (SEC EDGAR), 11.8.2026, https://www.sec.gov/Archives/edgar/data/1769628/000176962826000362/coreweave2q26earningspress.htm, «Second Quarter 2026 Highlights» og resultatregnskap. Q3: Exhibit 99.1 til 8-K levert 10.11.2026, https://www.sec.gov/Archives/edgar/data/1769628/000176962826000461/coreweave3q26earningspress.htm, «Third Quarter 2026 Highlights», resultatregnskap og kontantstrømoppstilling.
- Sitat: «Expanded active power by nearly 500 MWs to reach 1.5 GW» / «Grew total contracted power to approximately 3.7 GW» / «Revenue
2,5751,212». Q3: «Added more than 200 MWs of active power to reach over 1.7 GW, doubling our active footprint since the start of the year» / «Grew total contracted power more than 900 MW to over 4.6 GW» / «Revenue3,6611,365». - Kvalitet: myndighetsdokument (kvartalstall til SEC; ikke revidert, kvartalsregnskap er normalt gjennomgått, ikke revidert)
- Usikkert: «Active power» er ikke definert i meldingen (IT-last eller nettilknytning). Kostnad for inntekt er ikke brutt ned på strøm, leie m.m. i meldingen. Kvartalsinntekt fordelt på effekt ved kvartalsslutt undervurderer, på startnivå overvurderer.
- Lest: ja
- Kontroll: rettet (oppdatert til nyeste kvartal; opprinnelig bare Q2 og tittel «(revidert/rapportert regnskap)». Q2-tallene er bekreftet ordrett i Exhibit 99.1 (11.8.2026), men regnskapet er merket «unaudited». CoreWeave leverte Q3 2026 til SEC 10.11.2026; tallene derfra er lagt til, og tittelen er rettet).
K08-042 Økonomisk levetid for servere: Amazon kortet ned fra 6 til 5 år
- Påstand: Amazon endret fra 1.1.2025 forventet levetid for en del av serverne og nettverksutstyret fra seks til fem år, begrunnet med raskere teknologiutvikling innen AI og maskinlæring.
- Tall: 6 → 5 år; anslått reduksjon i driftsresultat 2025 ca. 0,7 mrd. USD (pluss 0,6 mrd. fra tidlig utrangering). Faktisk effekt 2025 ifølge 10-K for 2025: 1,4 mrd. USD høyere avskrivninger og 1,0 mrd. USD lavere nettoresultat.
- Spenn: Andre aktører bruker 5–6 år, bekreftet i 10-K: Meta 5–5,5 (K07-011), Alphabet 6 (K07-006), CoreWeave 6 (K07-013) og Microsoft 2–6 (K07-012). Ingen nye endringer i siste 10-Q (3. kv. 2026 for Amazon, Microsoft, Meta og Alphabet; 2. kv. 2026 for CoreWeave, fordi 10-Q for 3. kv. ikke var levert 11.11.2026).
- Kilde: Amazon.com, Inc., Form 10-K for 2024, https://www.sec.gov/Archives/edgar/data/1018724/000101872425000004/amzn-20241231.htm, avsnittet om endret levetid for servere og nettverksutstyr. Nyeste: Form 10-K for 2025 (levert 6.2.2026), https://www.sec.gov/Archives/edgar/data/1018724/000101872426000004/amzn-20251231.htm, note om bruk av anslag.
- Sitat: «We completed our most recent servers and networking equipment useful life study in Q4 2024, and are changing the useful lives of a subset of our servers and networking equipment, effective January 1, 2025, from six years to five years.» / «These two changes above are due to an increased pace of technology development, particularly in the area of artificial intelligence and machine learning.»
- Kvalitet: revidert regnskap (årsrapport)
- Usikkert: Regnskapsmessig levetid er ikke det samme som økonomisk levetid; leieprisen for eldre GPU-er faller raskere enn regnskapet (se K08-028, K08-039).
- Lest: ja
- Kontroll: bekreftet (10-K for 2024: begge sitater ordrett). Nyeste 10-K (for 2025, levert 6.2.2026) er også åpnet: endringen fra seks til fem år står der, med faktisk effekt «an increase in depreciation and amortization expense of $1.4 billion and a reduction in net income of $1.0 billion»; lagt til i Tall og Kilde. Oppdatert 2026-11-11 (del 4): Spenn er endret; før sto det «Andre aktører bruker angivelig 5–6 år (Meta 5–5,5; Alphabet og CoreWeave 6; Microsoft 2–6) ifølge sekundærkilder; Ikke verifisert i deres årsrapporter.». Kilde: de bekreftede postene K07-006 til K07-013 (10-K) og siste 10-Q fra EDGAR (Amazon, Meta og Alphabet lest av kontrolløren; Microsoft og CoreWeave søkt av forskeren, ikke lest på nytt) (del 4, spor f1).
K08-043 Produsentens påstand om inntjening per rack
- Påstand: NVIDIA hevder at en investering på 5 mill. USD i et GB200 NVL72-system kan gi 75 mill. USD i tokeninntekt (15× avkastning) på DeepSeek-R1, basert på InferenceMAX v1.
- Tall: 5 mill. USD → 75 mill. USD tokeninntekt (15×). 2025. Også: B200 0,02 USD per million tokens på gpt-oss.
- Spenn: Ingen; levetid, utnyttelse og tokenpris er ikke oppgitt i teksten.
- Kilde: NVIDIA Blog, «NVIDIA Blackwell Raises Bar in New InferenceMAX Benchmarks», 2025, https://blogs.nvidia.com/blog/blackwell-inferencemax-benchmark-results.
- Sitat: «A $5 million investment in an NVIDIA GB200 NVL72 system can generate $75 million in token revenue. That’s a 15x return on investment (ROI) — the new economics of inference.»
- Kvalitet: pressemelding (produsent)
- Usikkert: Ytterpunkt i optimistisk retning. Avledet: 75 mill. USD fra et rack på ca. 120–140 kW ville tilsvare langt høyere inntekt per MW enn realiserte tall i K08-033 og K08-041; forutsetningene er ukjente.
- Lest: ja
- Kontroll: bekreftet (NVIDIA-bloggen 9.10.2025; sitatet ordrett; «two cents per million tokens on gpt-oss» for B200).
K08-044 Priselastisitet i API-markedet: kortsiktig nær −1, ikke Jevons på aggregert nivå
- Påstand: Demirer, Fradkin, Tadelis og Peng finner priselastisitet på ca. −1,1 for modell–leverandør-kombinasjoner på OpenRouter, og tolker det som at Jevons-paradokset ikke virker på kort sikt i aggregatet. De finner også at modeller som var ledende i 2023 har falt ca. 1 000× i pris, mens gjennomsnittsprisen betalt per token har vært omtrent konstant.
- Tall: Elastisitet −0,55 (uten modellkontroll), −1,08 (modell-faste effekter), −1,11 (foretrukket spesifikasjon). Ca. 1 000× prisfall for 2023-ledende modeller. Åpne modeller ca. 90 % billigere enn lukkede med samme «intelligens». Desember 2025.
- Spenn: −0,55 til −1,11; aggregert elastisitet oppgis å være «substantially smaller» enn modell-nivå.
- Kilde: M. Demirer, A. Fradkin, N. Tadelis, S. Peng, «The Emerging Market for Intelligence: Pricing, Supply, and Demand for LLMs», arbeidsnotat, 12.12.2025, https://andreyfradkin.com/assets/LLM_Demand_12_12_2025.pdf, sammendrag, innledning og avsnitt 7 / Table 2.
- Sitat: «we estimate preliminary short-run price elasticities just above one, suggesting limited scope for Jevons-Paradox effects.» / «Since aggregate demand elasticities are substantially smaller, we interpret our findings as going against the Jevons paradox in the short-run. This, however, does not preclude from Jevons effects operating on longer-run horizons.» / «The average price paid per token has remained relatively constant, consistent with demand for superior intelligence.»
- Kvalitet: annet (arbeidsnotat fra universitetsforskere, noen ansatt i Microsoft/Amazon; ikke fagfellevurdert)
- Usikkert: Forfatterne påpeker at OpenRouters rutingalgoritme kan forklare noe av priselastisiteten. Kortsiktig; sier ikke noe om langsiktig volumvekst.
- Lest: ja
- Kontroll: bekreftet (PDF datert 12.12.2025: sammendraget, Table 2 (−0,55 / −1,08 / −1,11), sitatene om Jevons og om konstant gjennomsnittspris, «approximately 1000 times» og «approximately 90% cheaper»; tilknytning MIT Sloan, Boston University & Amazon, Microsoft). Ikke kontrollert om det finnes en nyere versjon.
K08-045 Priselastisitet i tverrsnitt: nesten flat (OpenRouter/a16z)
- Påstand: OpenRouter og a16z finner i 100 billioner tokens med bruksdata svak sammenheng mellom pris og bruk på tvers av modeller: 10 % lavere pris henger sammen med bare 0,5–0,7 % mer bruk. I kategorianalysen deler en medianlinje på 0,73 USD per million tokens (blandet pris for inn- og utdata, etter caching) arbeidslastkategoriene i to.
- Tall: Elastisitet ca. −0,05 til −0,07 (tverrsnitt, beregnet her fra 0,5–0,7 % per 10 %); median over arbeidslastkategorier 0,73 USD per million tokens (effektiv blandet pris). 2025.
- Spenn: Stor spredning; markedet er segmentert (dyre proprietære modeller med høyt volum, billige åpne modeller med høyt volum).
- Kilde: OpenRouter og a16z, «State of AI: An Empirical 100 Trillion Token Study with OpenRouter», arXiv:2601.10088v1, 2026, https://arxiv.org/html/2601.10088v1, avsnitt 8.2 / Figure 27 (elastisitet) og avsnitt 8.1 / Figure 26 (median 0,73 USD).
- Sitat: «The trendline is nearly flat, indicating that demand is relatively price-inelastic; a 10% decrease in price corresponds to only about a 0.5–0.7% increase in usage.» / «The chart is bisected by a vertical line at the median cost of $0.73 per 1M tokens, effectively creating a four-quadrant framework to simplify the AI market across categories. Note that these end costs differ from advertised list prices.»
- Kvalitet: bransjetall (plattformselskap og investor)
- Usikkert: Tverrsnittskorrelasjon, ikke kausal elastisitet; kvalitet er ikke kontrollert for. Står i kontrast til K08-044 (−1,1 med modellkontroll). 0,73 USD er en median over kategorier, ikke en volumvektet gjennomsnitts- eller medianpris for alle betalte tokens.
- Lest: ja
- Kontroll: rettet (opprinnelig: «Mediankostnaden var 0,73 USD per million tokens» og kilde «avsnitt 8 / Figure 27». Elastisitetssitatet står ordrett ved Figure 27 (avsnitt 8.2). Men 0,73 USD er medianlinjen i Figure 26 (avsnitt 8.1), en median over arbeidslastkategorier av blandet effektiv pris, ikke medianpris for alle betalte tokens. v1 er eneste arXiv-versjon).
K08-046 Volumvekst i tokens mens prisen faller
- Påstand: Google oppgir at tokens behandlet per måned på tvers av egne flater økte fra 9,7 billioner (mai 2024) til ca. 480 billioner (mai 2025) og over 3,2 billiarder (mai 2026). Selskapets API-er behandlet nesten 32 milliarder tokens per minutt i Q3 2026, over fire ganger mer enn ett år tidligere.
- Tall: 9,7e12 → 4,8e14 → >3,2e15 tokens/måned (mai 2024–mai 2026; ca. 7× siste år). API: ca. 32e9 tokens/min (okt. 2026), >4× år-over-år.
- Spenn: 4–7× per år avhengig av mål (API vs. alle flater).
- Kilde: Sundar Pichai, «I/O 2026: Welcome to the agentic Gemini era», Google, 19.5.2026, https://blog.google/innovation-and-ai/sundar-pichai-io-2026. Alphabet Inc., «Alphabet Announces Third Quarter 2026 Results», Exhibit 99.1, 28.10.2026, https://www.sec.gov/Archives/edgar/data/1652044/000165204426000080/googexhibit991q32026.htm.
- Sitat: «Two years ago, we were processing 9.7 trillion tokens a month across our surfaces — a huge number. Last year at I/O, that grew to roughly 480 trillion tokens. Fast forward to today, that number jumped 7x to over 3.2 quadrillion per month.» / «our first-party model APIs are now processing nearly 32 billion tokens per minute, more than four times what we processed a year ago.»
- Kvalitet: myndighetsdokument (Q3-tall i SEC-melding) og pressemelding (I/O-tale)
- Usikkert: Volum, ikke inntekt. Volumvekst skyldes også nye produkter og lengre resonnering, ikke bare lavere pris; tallene kan derfor ikke tolkes som elastisitet.
- Lest: ja
- Kontroll: bekreftet (I/O 2026-innlegget datert 19.5.2026 og Alphabets Q3 2026-melding datert 28.10.2026; begge sitater ordrett).
K08-047 Fordeling trening/inferens: inferens ca. to tredeler av regnekraften i 2026
- Påstand: Deloitte anslår at inferens står for om lag to tredeler av all AI-regnekraft i 2026, opp fra en tredel i 2023 og halvparten i 2025, og at det meste fortsatt kjøres på dyre, effektkrevende brikker i store datasentre.
- Tall: Inferensandel: ca. 33 % (2023), 50 % (2025), ca. 67 % (2026). Marked for inferensoptimaliserte brikker >50 mrd. USD (2026). AI-datasenter-capex 2026: 400–450 mrd. USD globalt (ved publisering).
- Spenn: Andre kilder oppgir ca. 55 % inferens målt i infrastrukturutgift (Gartner, via sekundærkilde; Ikke verifisert).
- Kilde: Deloitte, «More compute for AI, not less», TMT Predictions 2026, https://www.deloitte.com/us/en/insights/industry/technology/technology-media-and-telecom-predictions/2026/compute-power-ai.html.
- Sitat: «Inference workloads will indeed be the hot new thing in 2026, accounting for roughly two-thirds of all compute (up from a third in 2023 and half in 2025), and the market for inference-optimized chips will grow to over US$50 billion in 2026.»
- Kvalitet: konsulentrapport (egen publikasjon, oppdragsgiver ikke oppgitt)
- Usikkert: Grunnlaget for andelene er ikke fullt dokumentert. «Compute» (regneoperasjoner) er ikke det samme som effekt eller kostnad.
- Lest: ja
- Kontroll: bekreftet (Deloitte-siden, publisert november 2025; sitatet ordrett; «AI data center capital expenditure for 2026 is expected to be US$400 billion to US$450 billion globally» og «expensive, power-hungry AI chips» står i teksten).
K08-048 Fordeling trening/inferens hos én modellutvikler (2024)
- Påstand: Epoch AI anslår at OpenAI i 2024 brukte ca. 5 mrd. USD på FoU-regnekraft (trening og forskning) og ca. 1,8–2 mrd. USD på inferens; bare ca. 0,4 mrd. gikk til siste treningskjøring av GPT-4.5.
- Tall: FoU 5,0 mrd. USD (herav GPT-4.5 siste kjøring 0,4 mrd.; 90 % KI 0,17–0,89); inferens 1,8 mrd. USD. Inferens ≈ 26–29 % av regnekraftutgiften (beregnet her: 1,8/6,8 og 2/7). 2024.
- Spenn: Inferensandel 26–29 % avhengig av avrunding.
- Kilde: Josh You, Epoch AI, «Most of OpenAI’s 2024 compute went to experiments», 10.10.2025, https://epoch.ai/data-insights/openai-compute-spend, tabell og tekst.
- Sitat: «This reportedly included around $5 billion in research and development compute, including all training and research compute, and around $2 billion in inference compute.» / «Inference Compute | Total | $1,800,000,000».
- Kvalitet: annet (forskningsinstitutt basert på nyhetssaker i The Information og New York Times)
- Usikkert: Bygger på rapporterte, ikke reviderte tall. Microsofts egen inferens av OpenAI-modeller er ikke med. I motsatt retning av K08-047 for et laboratorium i vekstfase.
- Lest: ja
- Kontroll: bekreftet (Epoch-siden 10.10.2025; sitatet og tabellen: FoU 5 mrd., GPT-4.5 siste kjøring 400 mill. USD (90 % KI 170–890 mill.), inferens 1,8 mrd.).
K08-049 Krav til plassering: trening og mye inferens tåler forsinkelse
- Påstand: IEA skriver at AI-trening er mindre forsinkelsesfølsom enn tradisjonelle datasenterlaster, og at forespørsler til generative AI-modeller har høyere toleranse for forsinkelse, slik at datasentrene kan ligge mer spredt og nærmere kraft og nett enn brukerne.
- Tall: ingen tall (kvalitativt). IEA viser også til studier som anslår at 30–50 % av arbeidslastene er forsinkelsestolerante (BNEF 2021, via IEA).
- Spenn: Avhenger av bruksområde: nær null toleranse for f.eks. selvkjørende biler; høyere for chat og trening.
- Kilde: IEA, «Energy and AI», 2025, https://iea.blob.core.windows.net/assets/de9dea13-b07d-42c5-a398-d1b3ae17d866/EnergyandAI.pdf, kap. 1, s. 32–33, og kap. 2 (fleksibilitet). Nyere: IEA, Powering Artificial Intelligence, oktober 2026, https://iea.blob.core.windows.net/assets/cd360a30-aaef-43cd-84e6-a125c3a0bc67/PoweringArtificialIntelligence.pdf, s. 21–22 (se K02-005).
- Sitat: «AI training is less latency-sensitive than traditional data centre workloads, leading to the development of data centres outside existing clusters.» / «queries to a generative AI model like ChatGPT have higher latency tolerance, allowing the data centres processing these queries to be more distributed.»
- Kvalitet: offentlig utredning (internasjonal myndighetsorganisasjon)
- Usikkert: Kvalitativt. Interaktive agenter med mange runder mellom modell og verktøy kan være mer forsinkelsesfølsomme enn enkle chat-forespørsler; ingen kvantitativ kilde funnet for akseptabel tur-retur-tid.
- Lest: ja
- Kontroll: bekreftet (IEA-PDF: «AI training is less latency-sensitive than traditional data centre workloads» s. 32–33, brutt av sideskift; «higher latency tolerance» s. 33; «studies suggest that 30-50% of workloads are delay tolerant … (BNEF, 2021)» i kap. 2). Nyere IEA-rapporter er lest 11.11.2026. Powering Artificial Intelligence (oktober 2026, s. 21–22) viderefører poenget og tallfester det: samtalebasert inferens tåler «tens of milliseconds» (ca. 500–5 000 km), mens stor trening og satsvis inferens trenger «no immediate response» (K02-005). Key Questions on Energy and AI (april 2026, s. 32) peker på at innebygde sanntidssystemer krever «low-latency inference». Tallet 30–50 % forsinkelsestolerante laster (BNEF 2021) gjentas ikke i 2026-rapportene. Oppdatert 2026-11-11 (del 4): Siste setning i Kontroll er erstattet, og Kilde har fått den nyere rapporten. Før sto det i Kontroll «Ikke kontrollert om IEA har gitt ut en nyere utgave av Energy and AI.». Kilde: IEA, Powering Artificial Intelligence (oktober 2026), s. 21–22, og Key Questions on Energy and AI (april 2026), s. 32; søk etter «30–50 %» ga 0 treff i begge (del 4, spor f1).
K08-050 GPU-enes andel av effekten i et AI-datasenter
- Påstand: Epoch AI anslår at GPU-ene bruker om lag 41 % av anleggets totale effekt ved toppdrift i et typisk fremtidsrettet AI-datasenter; serverne 63 %, all IT 71 %. Serveroverhead er 1,53× GPU-effekten, IT 1,14× servereffekten og anleggsoverhead (kjøling, lys, omformingstap) 1,4×.
- Tall: GPU 41 %, server 63 %, IT 71 %, anlegg 100 % av effekt. Faktorer 1,53 / 1,14 / 1,4 (samlet ca. 2,4× fra GPU-TDP til anlegg, beregnet her). Desember 2025. I en annen Epoch-analyse brukes en multiplikator på ca. 2,5 fra brikke-TDP til datasenterkapasitet.
- Spenn: Anleggsfaktor 1,4 tilsvarer PUE 1,4; Google oppgir PUE 1,09 for egen flåte (K08-007), så faktoren fra brikke til anlegg kan være ca. 1,9 i et anlegg med lav PUE (beregnet her: 1,53 × 1,14 × 1,09).
- Kilde: Luke Emberson og Ben Cottier, Epoch AI, «GPUs account for about 40% of power usage in AI data centers», 18.12.2025, https://epoch.ai/data-insights/gpus-power-usage-in-ai-data-centers, tabell og metodeavsnitt. Multiplikator 2,5: Epoch AI, «Global AI power capacity is now comparable to peak power usage of New York State», 16.1.2026, https://epoch.ai/data-insights/ai-datacenter-power, tekst under figuren.
- Sitat: «In a typical frontier AI data center, total server power is 1.53x GPU power alone. IT equipment uses 1.14x as much power as the servers, with needs like inter-server networking consuming the excess. At the facility level, cooling, lighting, and power conversion losses add a further 1.4x overhead.»
- Kvalitet: annet (uavhengig forskningsinstitutt; bygger på NVIDIA GB200 NVL72-spesifikasjoner og DGX SuperPOD-referansearkitektur)
- Usikkert: Toppdrift, ikke gjennomsnitt. Anleggsfaktoren 1,4 er ifølge metodeavsnittet en topp-PUE («Peak PUE»); Googles 1,09 er et årssnitt for flåten, så beregningen 1,53 × 1,14 × 1,09 blander topp og snitt. For Norge (kjølig klima) kan faktoren være lavere. Epochs 2,5-multiplikator gjelder fra brikkenes merkeeffekt til datasenterkapasitet (siden «Global AI power capacity…», 16.1.2026).
- Lest: ja (begge sidene, inkl. 2,5-multiplikatoren ved kontroll)
- Kontroll: bekreftet (Epoch-siden 18.12.2025: tabellen 100/71/63/41 og sitatet ordrett; metodeavsnittet: «Our estimates are largely based on reference architectures and specs for NVIDIA GB200 systems», IT-faktoren fra «DGX GB200 SuperPOD reference architecture», samlet «1.53 x 1.14 x 1.4 = 2.44»). 2,5-multiplikatoren er nå lest på siden: «We apply a ~2.5x multiplier to estimate data center capacity». Usikkert er supplert med at 1,4 er topp-PUE.
K08-K01 Energieffektivitet og ytelse per dollar for brikker: Epochs trendtall
- Påstand: Epoch AIs trendoversikt oppgir at GPU-er er blitt 34 % mer energieffektive per år siden 2008 (FLOP/s per watt, dobling hvert 2,4 år), altså lavere enn «40 % per år» for ledende maskinvare i K08-019/K08-021. Ytelse per dollar for AI-brikker har økt 49 % per år siden 2023.
- Tall: FLOP/s per watt 1,34× per år (90 % KI 1,29–1,39; dobling 2,1–2,7 år), 2008–2025. Ytelse per dollar 1,49× per år (90 % KI 1,36–1,66) siden 2023, i faste 2025-dollar. Oppdatert 5.2.2026.
- Spenn: 1,29–1,39× per år (energieffektivitet).
- Kilde: Epoch AI, «Trends in AI», oppdatert 5.2.2026, https://epoch.ai/trends, kortene «FLOP/s per watt» og «Chip performance per dollar».
- Sitat: «GPUs have become 34% more energy efficient per year since 2008.» / «AI chip performance per dollar has grown by 49% per year since 2023.»
- Kvalitet: annet (uavhengig forskningsinstitutt; ikke fagfellevurdert)
- Usikkert: Gjelder alle GPU-er over lengre tid, ikke bare ledende maskinvare. Epochs temaside om brikker (https://epoch.ai/publications/chips-topic-overview, lest via uttrekk) skriver både «roughly 40% more energy-efficient each year» og «doubling in efficiency approximately every 2.7 years», som ikke henger sammen (40 % per år gir dobling på ca. 2,1 år; beregnet her). 1,49× ytelse per dollar tilsvarer ca. 33 % lavere kostnad per FLOP per år (beregnet her), i tråd med K08-021.
- Lest: ja
- Kontroll: ny post lagt til ved kontroll 11.11.2026 (trendsiden lastet ned og lest; begge sitater ordrett).
K08-K02 Energi per chatbotmelding inkludert andel av utviklingsenergi (Epoch 2026)
- Påstand: Epoch AI anslår i en temaoversikt fra juli 2026 at en melding på 100 ord til en gratis chatbot bruker ca. 0,6 Wh når en andel av energien til å utvikle modellen er tatt med. Det er dobbelt så høyt som Epochs eget 0,3 Wh-anslag for inferens alene fra 2025 (K08-009), med videre systemgrense.
- Tall: ca. 0,6 Wh per melding på 100 ord, inkl. andel av utviklingsenergi. Juli 2026.
- Spenn: Ett tall; fordelingen mellom inferens og utvikling er ikke oppgitt i sitatet.
- Kilde: Epoch AI, «What you need to know about AI energy use» (Topic Overview: AI Energy Use), 14.7.2026, https://epoch.ai/publications/ai-energy, innledningen.
- Sitat: «If you prompt a free chatbot with a 100-word message, it takes around 0.6 watt-hours (Wh) of energy to generate your response, including a share of the upfront energy cost of developing the model.»
- Kvalitet: annet (uavhengig forskningsinstitutt; populærfaglig oversikt, ikke fagfellevurdert)
- Usikkert: Systemgrensen tar med utviklingsenergi og er derfor ikke direkte sammenlignbar med K08-007, -009 og -010. Gjelder gratis chatbot med lite resonnering.
- Lest: ja
- Kontroll: ny post lagt til ved kontroll 11.11.2026 (siden lastet ned og lest; sitatet ordrett).
K08-K03 Investering og årlig totalkostnad for et AI-datasenter på 1 GW (Epoch 2026)
- Påstand: Epoch AI anslår at et typisk AI-datasenter med 1 GW IT-effekt krever ca. 38 mrd. USD i investering og 0,9 mrd. USD per år i drift. Annualisert er totalkostnaden 8,5 mrd. USD per år, hvorav servere 5,0 mrd. og energi bare 0,6 mrd. Det er lavere investering per GW enn NVIDIAs 50–60 mrd. (K08-037) og en lav strømandel.
- Tall: Investering per GW IT (mill. USD): servere 21 188; anlegg 11 433; nettverk 4 925; tomt 172; nettilknytning 164; sum 37 883. Annualisert (mill. USD per år): servere 5 021; anlegg 1 387; nettverk 1 167; energi 594; skatt 143; vedlikehold 120; arbeidskraft 40; nettilknytning 20; tomt 13; vann 6; sum ca. 8 514. Forutsetninger: strøm 8,34 cent/kWh, PUE 1,14, utnyttelse 71 %, levetid 5 år for IT og 14 år for anlegg, alle servere GB200 NVL72. Avledet (beregnet her): ca. 38 mill. USD per MW IT; servere og nettverk ca. 26 mill. USD per MW IT; energi ca. 7 % av annualisert totalkostnad. Mai 2026.
- Spenn: Annualisert totalkostnad 7–12 mrd. USD per år ved IT-levetid 7–3 år.
- Kilde: Amelia Michael og Ben Cottier, Epoch AI, «Servers account for 60% of the total cost of ownership of a one-gigawatt AI data center», 14.5.2026, https://epoch.ai/data-insights/ai-datacenter-cost-breakdown, tekst, tabeller og metode.
- Sitat: «A typical one-gigawatt AI data center requires $38 billion in up-front capital expenditure (CapEx) and $0.9 billion in annual operating expenses (OpEx). If CapEx is annualized over each asset's lifespan, the total cost of ownership equates to $8.5 billion per year. Servers dominate this cost at $5 billion per year, or 60% of the total. Operating costs are small by comparison: even energy, the largest OpEx category, costs only $0.6 billion per year.» / «To estimate electricity costs, we weight EIA state-level industrial electrical costs in 2024 by data center project counts from Aterio , which gives 8.34 cents/kWh. IT power capacity is fixed at 1 GW. PUE is 1.14 … The utilization rate is 71%»
- Kvalitet: annet (uavhengig forskningsinstitutt; stilisert kostnadsmodell, ikke målt)
- Usikkert: Stilisert amerikansk hyperskalaanlegg, ikke et bestemt anlegg. Energiandelen skalerer med strømprisen: ved halv strømpris blir den ca. 3,5 % (beregnet her). Kapitalkostnad inngår via diskonteringsrente (bransjens WACC), som ikke er gjengitt her.
- Lest: ja
- Kontroll: ny post lagt til ved kontroll 11.11.2026 (siden lastet ned og lest; tabellverdier og sitater ordrett; 1 GW × 1,14 × 0,71 × 8 760 t × 0,0834 USD/kWh ≈ 0,59 mrd. USD kontrollregnet).
- Egenkontroll (økta, 2026-11-11): bekreftet (samme side som K01-043).
K08-K04 GPU-timeprisene steg ca. 30 % i 2026 (Epoch)
- Påstand: Epoch AI skriver i mai 2026 at bransjen har sett om lag 30 % økning i GPU-timepriser så langt i 2026, og knytter det til at Anthropic og OpenAI kjøper mye kapasitet.
- Tall: ca. +30 % i 2026 (fram til mai). Samme kilde: Anthropic leier xAIs Colossus 1 (ca. 300 000 H100-ekvivalenter) og deler av Colossus 2 for «up to $15 billion per year».
- Spenn: Ett tall; prisindeksen er ikke oppgitt.
- Kilde: Josh You, Epoch AI, «Frontier labs don't use most AI compute (yet)», Gradient Updates, 20.5.2026, https://epoch.ai/gradient-updates/frontier-labs-dont-use-most-ai-compute.
- Sitat: «So these two labs are the most likely culprits behind the tight compute supply and ~30% increase in GPU-hour prices that the industry has seen this year.» / «Anthropic has agreed to rent xAI's entire ~300,000 H100e Colossus 1 data center along with part of Colossus 2, paying up to $15 billion per year for the privilege.»
- Kvalitet: annet (Gradient Updates er merket som forfatterens egne vurderinger; ikke fagfellevurdert)
- Usikkert: Kilden for prisøkningen er ikke spesifisert i sitatet. Peker samme vei som SemiAnalysis' kontraktsindeks (K08-031) og Silicon Datas stigende H100-indeks (K08-029). Colossus-avtalen er en nyhetsopplysning gjengitt av Epoch, ikke kontrollert i primærkilde.
- Lest: ja
- Kontroll: ny post lagt til ved kontroll 11.11.2026 (siden lastet ned og lest; begge sitater ordrett).
K08-K05 AI Index 2026: ca. ti ganger mer beregning per watt på et tiår
- Påstand: Stanford AI Index 2026 skriver at ledende brikker gir ca. ti ganger mer beregning per watt enn for et tiår siden. Det tilsvarer ca. 26 % per år, lavere enn «40 % per år» i AI Index 2025 (K08-021).
- Tall: ca. 10× på 10 år ≈ 1,26× per år (beregnet her: 10^(1/10)). 2016–2025.
- Spenn: Grovt tall («about 10 times»).
- Kilde: Stanford HAI, «AI Index Report 2026», kap. 1.4 «Energy and Environmental Impact», avsnitt «Training», s. 33, https://hai.stanford.edu/assets/files/ai_index_report_2026.pdf.
- Sitat: «Leading chips deliver about 10 times more computation per watt than those available a decade ago, with Nvidia B200 and Google TPU v5e among the most efficient.»
- Kvalitet: annet (årsrapport fra universitetsinstitutt; bygger på Epoch AI-data)
- Usikkert: Vanskelig å forene med Epochs tabell (K08-019), der P100 (2016) til B200 (2024) gir ca. 30× på åtte år; avhenger av hvilke brikker som sammenlignes og hvilken presisjon som brukes.
- Lest: ja
- Kontroll: ny post lagt til ved kontroll 11.11.2026 (PDF-en lastet ned og lest med pdftotext; sitatet ordrett).
Uenighet i kildene
- Energi per forespørsel (K08-007, -009, -010, -011, -012, -013). Operatørenes egne tall (Google 0,24 Wh median; OpenAI 0,34 Wh gjennomsnitt) og Epochs anslag (0,3 Wh) ligger samlet. Jegham m.fl. ligger høyere for de samme modellklassene (GPT-4o kort 0,43 Wh) og høyere for resonneringsmodeller og lange forespørsler (opptil ca. 29 Wh for DeepSeek-R1 på egne servere i Jeghams nyeste versjon v6, mot 39 Wh for o3 i v2; 5–23 Wh blant de 15 mest energikrevende 2025-modellene i AI Index 2026). Epoch anslår 0,6 Wh når en andel av utviklingsenergien tas med (K08-K02). Forskjellene forklares av: (a) systemgrense (bare akselerator eller hele stakken med PUE; Google viser faktor 2,4), (b) utnyttelse/batchstørrelse (ML.ENERGY viser faktor 3,5–3,7 for samme modell), (c) TDP-baserte anslag kontra målinger (inntil 4,1× overvurdering), (d) modell og lengde (resonnering gir 10–100× flere utdata-tokens), (e) median kontra gjennomsnitt. For en modell som skal regne fra MW til tokens er energi per token mer robust enn energi per forespørsel.
1b. Fra brikkeeffekt til anleggseffekt (K08-003, -005, -009, -050). Kildene bruker ulike faktorer: InferenceX 1,5–2,0× fra TDP til «all-in» per brikke (inkl. kjøleandel), Epoch 1500 W per H100 (ca. 2,1× TDP) for ChatGPT-anslaget, og Epoch ca. 2,4× fra GPU til anlegg (med topp-PUE 1,4) og ca. 2,5× fra brikkenes merkeeffekt til datasenterkapasitet. Med Googles PUE 1,09 blir tilsvarende faktor ca. 1,9 (beregnet her; merk at 1,09 er et årssnitt, mens 1,4 er topp-PUE). Valget av faktor endrer tokens per MW anleggseffekt med inntil ca. 25 %.
-
Generasjonsgevinst per MW (K08-014, -016, -018). Uavhengig måling (InferenceX) gir ca. 4–5× flere tokens per MW fra H200 til GB300 på DeepSeek R1. NVIDIA oppgir 10× (Vera Rubin mot GB200) og 30× (Vera Rubin mot GB300). Produsenttallene gjelder utvalgte arbeidslaster og driftspunkter; det finnes ikke uavhengige målinger av Vera Rubin ennå.
-
Effektivitetsforbedring per år. Brikkenivå: ca. 40 %/år for ledende maskinvare (K08-019, K08-021), men 34 %/år for GPU-er siden 2008 (K08-K01) og ca. 26 %/år avledet av AI Index 2026 (K08-K05). Datasenternivå: 1,34×/år (K08-020). Pris per token for fast kvalitet: 5–10×/år (K08-023), 10×/år (K08-024), 9–900×/år med median 50× (K08-022). Forskjellen mellom ca. 1,4×/år (maskinvare) og 10–50×/år (pris) forklares av algoritmisk effektivisering (ca. 3×/år, K08-023; halvering hver 8. måned i trening, K08-025), programvare (2× på seks måneder, K08-015; 33× på ett år hos Google, K08-008), lavere presisjon og marginpress. Samtidig stiger kostnaden for å kjøre frontmodeller 3–18×/år (K08-023), og gjennomsnittlig pris betalt per token har vært omtrent konstant (K08-044). For inntekt per MW er det derfor ikke gitt at fallende pris per token gir fallende inntekt per MW.
-
Leiepris per GPU-time (K08-028–K08-032). Prisen på H100 falt kraftig 2023–2025 (fra 7–10 til 2–4 USD; AWS −44 % i juni 2025), men ettårige kontrakter steg 38 % fra oktober 2025 til mars 2026 (SemiAnalysis). Spotindeksen (Silicon Data) viste 3,06 USD 10.–11. november 2026 og har steget siden oktober (rettet ved kontroll fra 2,53, som var utdatert FAQ-tekst; K08-029), og Epoch omtaler ca. 30 % økning i GPU-timepriser i 2026 (K08-K04). Forskjellen mellom spot, kontrakt og hyperskala (faktor 2–3) er stor; hvilken pris en modell skal bruke avhenger av eierform og kontraktsform. Silicon Data oppgir AWS-kuttet til ca. 30 %, AWS selv 44–45 %.
-
Rackpris og capex per MW (K08-020, -033, -037, -039). Avledede tall (beregnet her): Colossus ca. 23 mill. USD maskinvare per MW (total effekt, 2025); IREN ca. 29 mill. USD maskinvare per MW IT (GB300, 2025); NVIDIA 35 mill. USD NVIDIA-innhold per MW og 50–60 mill. USD totalt per MW (2025), 60 mill. (2026); Data Gravity ca. 5,0 mill. USD per GB300-rack, som ved 135–142 kW per rack (K08-001) gir ca. 35–37 mill. USD per MW IT. Spennet (23–37 mill. USD maskinvare per MW) skyldes generasjon, om nettverk/lagring er med, og om nevneren er IT-last eller total effekt. Rackprisanslag for GB300 spriker fra ca. 5,0 (Data Gravity) til 6–6,5 mill. USD (Tom's Hardware, gjengitt av Data Gravity; ikke verifisert i primærkilde); tallet 3,7 er ikke funnet i noen av kildene som er lest ved kontroll. Epoch anslår ca. 26 mill. USD servere og nettverk per MW IT og 38 mill. USD samlet investering per MW IT (K08-K03), mot NVIDIAs 50–60 mill. per MW.
-
Inntekt per MW (K08-033, -041, -043, -016). Realiserte/kontraktsfestede tall: IREN–Microsoft ca. 9,7 mill. USD per MW IT per år; CoreWeave Q2 2026 ca. 6,9–10,3 og Q3 2026 ca. 8,6–9,8 mill. USD per MW aktiv effekt per år (beregnet her). NVIDIAs påstand om 75 mill. USD tokeninntekt fra et 5 mill. USD-rack ligger langt over. En ren benchmarkberegning illustrerer gapet: GB300 ved 57 tokens/s per bruker gir 4,03 mill. tokens/s per MW (K08-016), som ved 100 % utnyttelse hele året er ca. 1,3·10^14 tokens per MW; ganget med OpenRouters mediankostnad 0,73 USD per million tokens (K08-045) blir det ca. 90 mill. USD per MW per år (beregnet her). Merk (kontroll): 0,73 USD er en median over arbeidslastkategorier, ikke medianpris for alle betalte tokens, så regnestykket viser bare størrelsesorden. Gapet mot 7–10 mill. USD forklares av at leieinntekt er pris for kapasitet, ikke for tokens; av utnyttelse langt under 100 %; av at benchmarken er en kort, ensartet arbeidslast; og av at token-marginen tilfaller modellutvikleren, ikke datasenteret. Hvilket ledd i kjeden et norsk datasenter tar inntekt i, avgjør hvilket tall som er relevant.
-
Strømmens andel av kostnaden (K08-038, -040, -032, -016). Direkte oppgitt: 2–6 % av utviklingskostnad for frontmodeller (trening inkl. personell, K08-040); ca. 10,5 % av Lenovos timekostnad for en B300-server ved 0,12 USD/kWh strøm pluss 0,09 USD/kWh kjøling (K08-038). En illustrasjon fra InferenceX-tallene (beregnet her, ikke i kilden): GB300 bruker 0,069 kWh per million tokens ved 57 tokens/s per bruker og koster 0,075 USD per million tokens; ved en tenkt strømpris p USD/kWh er strømdelen 0,069·p/0,075, dvs. ca. 5 % ved p = 0,05 og ca. 9 % ved p = 0,10. Tilsvarende fra eierkostnad per brikke-time (K08-032 og K08-005): 2,12 kW · p / 2,31 USD gir ca. 5 % ved p = 0,05 og ca. 9 % ved p = 0,10. For H100 (1,37 kW, 1,17 USD/t) blir det ca. 6 % og 12 %. Kildene trekker i samme retning: strøm er en liten andel (anslagsvis 2–12 %) av kostnaden per token, mens maskinvare, avskrivning og kapitalkostnad dominerer (CoreWeave: avskrivninger ca. 54 % og renter ca. 25 % av inntekten, K08-041). Epoch AIs stiliserte 1 GW-modell (K08-K03) gir en tredjeparts dekomponering for et helt anlegg: energi ca. 7 % av annualisert totalkostnad ved 8,34 cent/kWh, servere 60 %. Ingen kilde funnet som dekomponerer en inferenstjeneste spesielt.
-
Elastisitet og Jevons (K08-044, -045, -046). Demirer m.fl. finner −1,1 på modell–leverandør-nivå (med kontroll for kvalitet) og tolker det som mot Jevons på kort sikt i aggregatet; OpenRouter/a16z finner nesten null sammenheng i tverrsnitt (−0,05 til −0,07, uten kvalitetskontroll). Samtidig vokser tokenvolumet 4–7× per år (Google). Kildene er enige om at kortsiktig elastisitet ikke alene forklarer veksten; langsiktige effekter (nye bruksområder, agenter, resonnering) er ikke kvantifisert i noen kilde funnet.
-
Trening mot inferens (K08-047, -048). Deloitte anslår ca. to tredeler inferens i 2026 for bransjen; Epoch anslår ca. 30 % inferens for OpenAI i 2024. Forskjellen skyldes år, nivå (bransje mot ett laboratorium) og mål (regneoperasjoner mot utgift).
Parameterkandidater
Kontroll 11.11.2026: alle rader bygger på bekreftede eller rettede poster; ingen rader hviler på ubekreftede poster. «(rettet)» betyr at verdien er endret ved kontroll.
| parameter | sentral verdi | spenn | enhet | år/prisnivå | poster |
|---|---|---|---|---|---|
| Rackeffekt GB300 NVL72 | 135–142 | 132–155 | kW per rack | 2025–2026 | K08-001 |
| Effekt per brikke, all-in (H100 / GB200 / GB300 / MI355X) | 1,37 / 1,87 / 2,12 / 2,09 | brikke-TDP 0,7–1,4 | kW per brikke | 2026 | K08-002, -003, -004, -005 |
| Faktor fra GPU-effekt til anleggseffekt | 2,4 (topp-PUE 1,4) | ca. 1,9–2,5 (1,9 beregnet her med snitt-PUE 1,09, blander topp og snitt; 2,5 Epochs multiplikator) | – | 2025–2026 | K08-050, K08-007 |
| GPU-andel av anleggets effekt (toppdrift) | 41 | – | % | 2025 | K08-050 |
| Rackeffekt neste generasjon (Kyber) | 1 000 | – | kW per rack | fra 2027 (plan) | K08-006 |
| Energi per median tekstforespørsel (produksjon, full stakk) | 0,24 | 0,10–0,24 | Wh | mai 2025 | K08-007 |
| Energi per forespørsel, uavhengige anslag (rettet) | 0,3 | 0,05–29 (Jegham v6); 0,6 inkl. utviklingsenergi | Wh | 2025–2026 | K08-009, -011 (rettet), -012 (rettet), K08-K02 |
| Energi per svar, resonneringsmodell 235B på 8×H100 | 9,2 | 9,2–34 | Wh (GPU) | 2025 | K08-013 |
| Tokens per MW, GB300 DeepSeek R1 (57 / 130 tok/s/bruker) | 4,03 / 1,61 | 1,6–4,0 | mill. tokens/s per MW (all-in) | 2026 | K08-016 |
| Tokens per MW, H200 DeepSeek R1 (57 / 130 tok/s/bruker) | 0,98 / 0,38 | 0,38–0,98 | mill. tokens/s per MW (all-in) | 2026 | K08-016 |
| Energi per million tokens, GB300 / H200 (DeepSeek R1) | 0,069 / 0,284 | 0,069–0,739 | kWh per mill. tokens (beregnet her) | 2026 | K08-016 |
| Tokens/s per GPU, DeepSeek R1, GB300 (server / offline) | 2 907 / 5 842 | opptil 5 574 / 9 821 (6 mnd senere) | tokens/s per GPU | 2025–2026 | K08-014 (rettet, ikke denne verdien), -015 |
| Eid kostnad per million tokens, B300-server (DeepSeek R1) | 0,13 | 0,075–0,19 (GB300, InferenceX) | USD per mill. tokens | 2026 | K08-016, -017 (rettet; Lenovos gjennomstrømning er høyere enn MLPerf-rekordene) |
| Energieffektivitet maskinvare, vekst (rettet spenn) | 1,34–1,40 | 1,26–1,40 | faktor per år | 2008–2025 | K08-019, -020 (rettet), -021, K08-K01, K08-K05 |
| Ytelse per dollar, AI-brikker, vekst | 1,49 | 1,36–1,66 (90 % KI) | faktor per år | 2023–2025 | K08-K01 |
| Pris for gitt benchmarknivå / per token for fast kvalitet, fall | 10 | 5–900 (median 50) | faktor per år | 2021–2025 | K08-022, -023 (rettet), -024 |
| Algoritmisk effektivisering (inferens) | 3 | – | faktor per år | 2024–2025 | K08-023 (rettet) |
| Algoritmisk fremgang i forhåndstrening, halveringstid for nødvendig regnekraft | 8 | 2–22 (90 % KI) | måneder | 2012–2023 | K08-025 (rettet) |
| Kjørepris for frontmodeller, økning | – | 3–18 | faktor per år | 2025 | K08-023 (rettet) |
| Leiepris H100, spot neosky (rettet) | 3,06 | 2,0–3,3 (neosky regionalt Q3), 4,8–6,1 (hyperskala Q3) | USD per GPU-time | 10.–11.11.2026 / Q3 2026 | K08-029 (rettet) |
| Leiepris H100, 1-årskontrakt | 2,35 | 1,70–2,35; ca. +30 % i 2026 (Epoch) | USD per GPU-time | okt. 2025–mars 2026 | K08-031, K08-K04 |
| Leiepris B200 / B300, spot (rettet) | 6,84–6,97 / 7,67 | – | USD per GPU-time | 10.–11.11.2026 | K08-029 (rettet) |
| Eierkostnad per brikke-time (H100 / GB200 / GB300 / MI355X) | 1,17 / 1,86 / 2,31 / 1,50 | detalj 2,00–5,00 | USD per brikke-time | 2026 | K08-032 |
| Prisfall ved ny generasjon (hyperskala, H100) | 44 | 25–45 | % kutt | juni 2025 | K08-030 |
| Kontraktsinntekt per MW IT (5-årskontrakt GB300) | 9,7 | – | mill. USD per MW per år (beregnet her) | 2025 | K08-033 |
| Realisert inntekt per MW aktiv effekt (GPU-sky) (rettet) | 8,6 | 6,9–10,3 | mill. USD per MW per år (beregnet her) | Q2–Q3 2026 | K08-041 (rettet: Q3 lagt til) |
| Maskinvare-capex per MW | 29 | 23–37 | mill. USD per MW | 2025–2026 | K08-020 (rettet), -033, -039, K08-K03 (26) |
| Total investering per GW | 38 (Epoch) / 55 (NVIDIA) | 38–60 | mrd. USD per GW | 2025–2026 | K08-K03, K08-037 |
| Leverandørinnhold per GW (NVIDIA) | 35 | 18–40 | mrd. USD per GW | 2025–2026 | K08-037 |
| Pris 8-GPU-server (H200 / B200 / B300) | 0,398 / 0,550 / 0,786 | – | mill. USD | 15. juni 2026, listepris | K08-038 |
| Pris GB300 NVL72-rack | 5,0 | 5,0–5,7 (kjøp–installert) | mill. USD | 2026 | K08-039 |
| Strøm som andel av kostnad | 2–6 (trening) / ca. 7 (Epoch, 1 GW-anlegg) / ca. 10,5 (Lenovo-server) | 2–12 | % | 2024–2026 | K08-038, -040, K08-K03 (og beregning i Uenighet pkt. 7) |
| Regnskapsmessig levetid servere | 5 | 5–6 (Amazon, Meta, Alphabet, CoreWeave); 2–6 (Microsoft) | år | 2025–2026 | K08-042, K07-006, K07-010–K07-013 |
| Priselastisitet API-tokens, kortsiktig | −1,1 | −0,05 til −1,11 | – | 2025 | K08-044, -045 (rettet) |
| Vekst i tokenvolum | 4–7 | – | faktor per år | 2025–2026 | K08-046 |
| Inferensandel av AI-regnekraft | 67 | 26–67 | % | 2024–2026 | K08-047, -048 |
| Median effektiv kostnad per million tokens over arbeidslastkategorier (plattform) (rettet) | 0,73 | – | USD per mill. tokens (blandet inn/ut) | 2025 | K08-045 (rettet: ikke median for alle betalte tokens) |
Søkt uten funn
- Tredjeparts dekomponering av kostnad per token for en inferenstjeneste (strøm, maskinvare, bygg, nett, personell). Søkt i Tavily med «share of electricity cost in AI GPU total cost of ownership», «SemiAnalysis AI Neocloud Playbook TCO electricity», «IEA electricity share data centre costs». IEA «Energy and AI» (14 406 linjer tekst) ble gjennomsøkt for «electricity costs», «share of … cost», «operating cost», «total cost of ownership» uten treff på en slik andel. SemiAnalysis' TCO-modell er betalingsbelagt. Funnet bare leverandørers egne TCO-kalkulatorer (Lenovo, K08-038) og blogger fra skyleverandører (ikke brukt). Ved kontroll 11.11.2026 er Epoch AIs stiliserte 1 GW-modell funnet (K08-K03); den dekomponerer et helt anlegg, ikke en inferenstjeneste.
- Uavhengig målt ytelse for Vera Rubin. Bare produsentens tall funnet (K08-018).
- Offisiell listepris fra NVIDIA for GPU-er eller rack. Ikke publisert; søk på «GB200 NVL72 price», «GB300 NVL72 rack price» ga bare analytikeranslag og nyhetsbrev.
- Pris per MW i Aker-Nscale–Microsoft- og Nebius–Microsoft-avtalene. Pressemelding og 6-K oppgir ikke MW (K08-034, K08-035).
- Kausale langsiktige elastisitetsestimater. Funnet en OSF-preprint («The Price Elasticity of Compute: Causal Evidence…», https://osf.io/acjw8) og en Research Square-preprint («Can We Test Jevons Paradox in AI Inference?»); begge ga feil ved uttrekk og er ikke lest. Ikke verifisert.
- MLCommons' egne resultattabeller for MLPerf Inference v5.1/v6.0. Ikke åpnet; tallene er tatt fra NVIDIA og CoreWeave (K08-014, K08-015).
- CoreWeaves definisjon av «active power» og nedbrytning av «cost of revenue». Ikke funnet i kvartalsmeldingen; 10-K ikke lest.
- Kvantitative krav til forsinkelse (millisekunder) for inferens av språkmodeller og agenter, som kan avgjøre om Nord-Norge er akseptabel plassering for sanntidstjenester mot Europa. IEA gir bare kvalitativ vurdering (K08-049).
Hull
- Utnyttelsesgrad i produksjon (andel av året en GPU faktisk produserer tokens med betaling). Avgjørende for omregning fra benchmark (K08-016) til inntekt; bare Googles indirekte tall (ledige maskiner 10 % av energien, K08-007) og Data Gravitys følsomhet (60–90 %, K08-039) er funnet.
- Prisbane for leie av eldre GPU-generasjoner over 5–6 år (restverdi og økonomisk levetid). Kildene viser H100 fra 7–10 til ca. 2–3 USD på tre år, men ingen tidsserie for A100 fra lansering til i dag er lest.
- Tokenpriser fra API-tilbydere over tid (input/output, frontmodeller) som tidsserie med kilde; bare medianer og trender er dokumentert (K08-022–K08-024, K08-045).
- Nettverkskostnad og bygg-capex per MW som egne poster (skilt fra maskinvare); overlapper trolig med andre områder i kildebanken.
- Fordeling av inntekt mellom ledd (datasentereier, GPU-sky, modellutvikler, sluttbruker), som avgjør hvilken inntekt per MW et norsk datasenter med en gitt eierform kan forvente.
- Effekt per brikke og tokens per MW for Google TPU og AWS Trainium målt uavhengig; bare produsentenes relative tall (K08-026, K08-027).
- Personellkostnad per MW i drift av et inferensdatasenter; ingen kilde funnet.
Kontrollrapport
Uavhengig kontroll 11.11.2026. Hver primærkilde er hentet på nytt (direkte nedlasting, lest som tekst eller med pdftotext; Supermicro-databladet og IREN-meldingen via uttrekk fordi direkte nedlasting ble blokkert), og hvert sitat er søkt opp ordrett.
- Poster kontrollert: 50 (K08-001 til K08-050)
- Bekreftet: 38
- Rettet: 12 (K08-011, -012, -014, -017, -020, -023, -025, -028, -029, -034, -041, -045)
- Ikke bekreftet: 0
- Nye poster fra balansesøk: 5 (K08-K01 til K08-K05)
Viktigste rettelser
- K08-029 Leiepris H100: Silicon Datas H100-indeks var 3,06 USD per GPU-time 10. og 11.11.2026, ikke 2,53. Tallet 2,53 står bare i en utdatert FAQ-tekst på siden. Indeksen har steget fra 2,85 i midten av oktober. Parametertabellen og Uenighet pkt. 4 er rettet.
- K08-011 Jegham m.fl.: Posten bygde på arXiv v2; nyeste utgave er v6 (24.11.2025) med vesentlig lavere tall for de tyngste modellene (o3 lang 12,2 Wh i stedet for 39,2; øvre ende nå ca. 29 Wh for DeepSeek-R1 på egne servere). Spennet i parametertabellen er endret fra 0,1–39 til 0,05–29 Wh.
- K08-012 AI Index 2026: 5–23 Wh gjelder bare de 15 mest energikrevende 2025-modellene, ikke 2025-modeller generelt; figuren går ned til ca. 1,5 Wh.
- K08-045 OpenRouter/a16z: 0,73 USD per million tokens er en median over arbeidslastkategorier (Figure 26), ikke medianprisen betalt for alle tokens. Inntektsregnestykket i Uenighet pkt. 6 bygger på dette og viser derfor bare størrelsesorden.
- K08-025 Algoritmisk fremgang: Artikkelen er fagfellevurdert (NeurIPS 2024), og den publiserte versjonen oppgir 90 % KI 2–22 måneder, ikke 95 % KI 5–14 måneder.
- K08-041 CoreWeave: Oppdatert med Q3 2026 (levert til SEC 10.11.2026): inntekt 3 661 mill. USD, aktiv effekt over 1,7 GW, ca. 8,6–9,8 mill. USD per MW per år. Kvartalsregnskapet er urevidert; tittelen sa «revidert».
- K08-014 MLPerf: Rekordtabellen i NVIDIA-bloggen gjelder NVIDIA-plattformen på tvers av systemer, ikke bare GB300.
- K08-034 Aker-Nscale: Femårig løpetid står i selve pressemeldingen; det som var merket «Ikke verifisert», er bekreftet.
- Mindre rettelser: K08-017 (prisdato 15. juni 2026), K08-020 (forfattere: Pilz m.fl., ikke bare Epoch), K08-023 (gjelder pris for å kjøre benchmarker, ikke pris per token), K08-028 (7–10 USD gjelder tiden etter lansering i 2022, ikke 2023).
Balanse (nye poster)
- Energieffektivitet: «40 % per år» er øvre ende. Epochs trendside gir 34 % per år for GPU-er siden 2008 (K08-K01), og AI Index 2026 gir ca. 10× på et tiår, dvs. ca. 26 % per år (K08-K05).
- Investering per GW: Epoch anslår 38 mrd. USD per GW IT (K08-K03), vesentlig lavere enn NVIDIAs 50–60 mrd. (K08-037).
- Strømandel: Epoch gir ca. 7 % av annualisert totalkostnad ved 8,34 cent/kWh (K08-K03), i samme område som fila ellers.
- Energi per forespørsel: Epoch anslår 0,6 Wh med en andel av utviklingsenergien (K08-K02), høyere enn 0,24–0,34 Wh for inferens alene.
- Leiepris: Epoch omtaler ca. 30 % prisøkning i 2026 (K08-K04), i samme retning som K08-029 og K08-031.
Bør sjekkes av et menneske
- Lenovos gjennomstrømning (K08-017): 70 000 tokens/s for 8 × B300 på DeepSeek R1 (8 750 per GPU) er høyere enn NVIDIAs egne MLPerf v5.1-rekorder for GB300 NVL72. Kostnaden 0,13 USD per million tokens kan derfor være for lav. MLCommons' resultattabeller er ikke åpnet.
- Silicon Data-indeksene (K08-029): Sidene viser ulike tall i overskrift og FAQ. Bruk overskrift og dagsserie, og ta en ny avlesning før tallene brukes i modellen.
- Jegham-tallene (K08-011, K08-012): Tallene i AI Index 2026 (GPT-5, DeepSeek V3.2) finnes ikke i v6-PDF-en og kommer trolig fra forfatternes dashbord, som ikke er åpnet. Tallene har endret seg mye mellom versjonene.
- Faktor fra brikke til anlegg (K08-050): 1,9 blander Googles årssnitt-PUE med Epochs topp-PUE. Modellen bør bruke samme slags PUE (snitt eller topp) gjennom hele kjeden.
- Nyere utgaver ikke sjekket: IEA «Energy and AI» (2025), NVIDIAs 800 VDC-plan (mai 2025), Demirer m.fl. (desember 2025) og arXiv-versjonen av Epochs treningskostnadsartikkel (K08-040).
- Skjevhet i kildene: Mange tall kommer fra produsenter og leverandører (NVIDIA, Lenovo, AWS, Google, CoreWeave) med interesse av høy ytelse og lav eierkostnad. Uavhengige tall kommer i stor grad fra én institusjon (Epoch AI). Det mangler fagfellevurderte kilder for leiepris, rackpris og strømandel.