ms-ai-architect/scripts/kb-eval
Kjell Tore Guttormsen 41f769a166 docs(ms-ai-architect): footer-klassen handklassifisert — 58 medlemmer, en fjerde unnslippsform, og «alle avvik samme vei» falt
§9.16. Leveransen er en maaling og en scope-anbefaling for aapent spoersmaal
#17; ingen korpusfil er roert.

«>=48» var riktig som gulv. Handklassifisert: 58 ekte medlemmer i 58 filer.
Bøtter: 30 konsistent / 11 inkonsistent / 1 tvetydig / 16 ikke sjekkbar.
Hvert anker verifisert ordrett og unikt (0 avvik).

FJERDE UNNSLIPPSFORM: tellingen baaret av handlingsordet («3 soek»,
«4 search queries», «2 deep fetch»), ikke av «kall». Mitt eget nett var blindt
for den — domain-specific-prompt-optimization.md:589 ble kun reddet av
nabolinja, og model-versioning-registry-management.md var usynlig i sin helhet
for baade MCP- og verktoeynavn-nettet.

COMPLETENESS: i stedet for flere ordgjetninger ble hele etikettvokabularet i
proveniensblokkene enumerert — 68 distinkte etiketter / 141 linjer, alle
plasserbare i kall-telling, kilde-telling eller annet. Ingen femte form.
Den kjente residualen (alle nett krever et SIFFER) ble testet, ikke antatt:
21 tallord-treff, alle broedtekst, null medlemmer.

RETNINGSARGUMENTET RE-MAALT: 10 av 11 inkonsistente gaar oppgitt < sum, 1 gaar
motsatt (chain-of-thought-prompting.md, oppgitt 4 over enumerert 3). «Alle
avvik gaar samme vei» er falsifisert som absolutt og maa slutte aa siteres
slik; tendensen (91 %) overlever. «Null motsatt» var et artefakt av at
populasjonen var maalt til under halv stoerrelse.

FORMEN DEKKER IKKE KLASSEN: 46 av 58 er linjeform, 12 er blokkform der «slett
linja» er udefinert — og én blokk blander naboklassen (Unique sources) inn i
samme punktliste som kall-linjene.

ANBEFALING #17: én klasse-entry for de 42 uten aapen beslutning, 16 egne
entries for dem som baerer én. Beslutning #14 («én entry per fil») ble tatt da
klassen ble antatt aa vaere 14 filer; 42 nesten-identiske entries er nettopp
mekanismen §9.15 viste at lot en feilmaaling gjemme seg bak sine egne kopier.

Datasett: scripts/kb-eval/data/r11-footer-class-2026-08-11.json
Suite 1047/1047.
2026-08-11 21:52:19 +02:00
..
data docs(ms-ai-architect): footer-klassen handklassifisert — 58 medlemmer, en fjerde unnslippsform, og «alle avvik samme vei» falt 2026-08-11 21:52:19 +02:00
lib feat(ms-ai-architect): G7 lukket som mekanisme — navngitt review-kø (form b), valgt på måling 2026-08-03 21:10:00 +02:00
apply-o2-ratified.mjs fix(ms-ai-architect): R11 — første korpus-edit; 4 ratifiserte O2-subtraksjoner anvendt (idx 17, 19, 33, 14-redusert) 2026-08-03 20:40:08 +02:00
apply-skill-op.mjs feat(ms-ai-architect): Spor D steg 1 — apply regenererer hel-korpus score-cache post-mutasjon (TDD) [skip-docs] 2026-06-23 19:51:04 +02:00
build-gold-set.mjs feat(ms-ai-architect): G3 gull-intern-konsistens-lint + G4 build-instruks-policy — §8 gap-lukk [skip-docs] 2026-06-30 09:55:15 +02:00
build-judge-payloads.mjs feat(ms-ai-architect): R7.1 — build-judge-payloads får --claims <path> (per-batch korpus-manifest, TDD; default = bakeoff-manifestet uendret) [skip-docs] 2026-07-18 11:16:22 +02:00
build-sample-frame.mjs feat(ms-ai-architect): Fase 0 steg 1 — deterministisk sample-frame (45 volatil + 10 kontroll) + TDD [skip-docs] 2026-06-26 14:18:53 +02:00
check-g7-queue.mjs feat(ms-ai-architect): G7 lukket som mekanisme — navngitt review-kø (form b), valgt på måling 2026-08-03 21:10:00 +02:00
check-o2-returns.mjs feat(ms-ai-architect): reproduserbar V1/V2/V2b-sjekk av O2-returene (25 tester) [skip-docs] 2026-08-03 17:40:02 +02:00
classify-fix-ops.mjs feat(ms-ai-architect): R11 §4b implementert — status-synonymtabellen målt, 8 forslag hånd-dømt [skip-docs] 2026-08-03 17:13:05 +02:00
compute-base-rate.mjs feat(ms-ai-architect): Fase 0 steg 3 — base-rate-rapport + GATE: BYGG Fase 3 (scoped/hybrid) [skip-docs] 2026-06-26 17:15:54 +02:00
detect-skill-lifecycle.mjs feat(ms-ai-architect): Sesjon 15 — B2 K10 søsken-scope-ikke-overlapp 2026-06-20 11:59:59 +02:00
eval.mjs feat(ms-ai-architect): Spor 3 Port 3 (CT5) — deterministisk sourcedness erstatter LLM-samplet K8 [skip-docs] 2026-06-29 15:10:14 +02:00
extract-judge-claims.mjs feat(ms-ai-architect): S1 judge bake-off harness + forhåndsregistrert gate (TDD) [skip-docs] 2026-06-26 20:10:58 +02:00
judge-claim-prompt-v2.md feat(ms-ai-architect): S1 v2 targeted iteration — GATE PASS (recall 84.2%, precision 84.2%) [skip-docs] 2026-06-26 21:23:50 +02:00
judge-claim-prompt-v3.1.md feat(ms-ai-architect): G5b gull-friskhets-spot-sjekk LUKKET — 4 v3-FP re-adjudert mot live, ALLE stale gull (v3 flagget korrekt), baseline løftet v3 P89.7/R92.1 → P100/R92.9/0FP; v3.1 forfattet (ren recall-hardning, FP-vakt droppet) [skip-docs] 2026-06-30 13:43:52 +02:00
judge-claim-prompt-v3.md feat(ms-ai-architect): judge-claim-prompt-v3 (R1-R7 mot 8 feilmoduser) — G4 lukket, G1 v3 forfattet [skip-docs] 2026-06-30 10:14:31 +02:00
judge-claim-prompt.md feat(ms-ai-architect): S1 judge bake-off harness + forhåndsregistrert gate (TDD) [skip-docs] 2026-06-26 20:10:58 +02:00
judge-pass-manifest.mjs feat(ms-ai-architect): per-fil judge-pass-manifest (appendJudgedFile + pendingFiles resume-skip, data/ git-tracked, TDD) [skip-docs] 2026-07-04 23:17:01 +02:00
judge-prompt.md feat(ms-ai-architect): Spor 3 Port 3 (CT5) — deterministisk sourcedness erstatter LLM-samplet K8 [skip-docs] 2026-06-29 15:10:14 +02:00
lint-gold-consistency.mjs feat(ms-ai-architect): G3 gull-intern-konsistens-lint + G4 build-instruks-policy — §8 gap-lukk [skip-docs] 2026-06-30 09:55:15 +02:00
plan-skill-op.mjs feat(ms-ai-architect): Sesjon 20 — B3 create_skill (dvelende, konstruktiv op) [skip-docs] 2026-06-20 21:37:19 +02:00
ref-file-audit.py docs(ms-ai-architect): ref-KB audit — verifisert ground truth + reproduserbart audit-skript 2026-06-26 00:25:39 +02:00
run-judge-bakeoff.mjs feat(ms-ai-architect): S1 v2 targeted iteration — GATE PASS (recall 84.2%, precision 84.2%) [skip-docs] 2026-06-26 21:23:50 +02:00
score-skill.mjs feat(ms-ai-architect): Spor D Steg B — skill-quality lifecycle-gate + score-cache (TDD) 2026-06-23 18:26:29 +02:00