ms-ai-architect/scripts/kb-eval
Kjell Tore Guttormsen 878292f467 feat(ms-ai-architect): idx-33 renvasket mot levende CAF, idx-36 var to instanser ikke en companion [skip-docs]
idx-33 RESOLVED SOM CHECKED-AND-CLEAR, ingen KB-edit. Entryen sa selv at et
premiss var umaalt: whether the CAF attribution is itself supported has not
been checked. Maalt 2026-08-13 mot levende Cloud Adoption Framework Secure AI
via microsoft-learn MCP: alle fire elementene i anker-linja staar paa sida
(Azure Resource Graph for asset inventory, managed identities + virtual
networks, APIM for MCP-endepunkter, Purview IRM for prompt-based data
exfiltration). Attribusjonen holder.

Stempel-dekningen maalt FOERST (#29), og den peker motsatt vei av idx-26i:
den fila hadde null stempler, saa klassen kunne ikke overfoeres. Her finnes
5 x (Verified MCP 2026-04) og ett av dem sitter PAA anker-linja, saa klassen
gjelder og testen blir om stempelet er fortjent. Det er det.

Kryss-fil-paastanden adjudisert under #33 - sveip lokaliserer, kilden
adjudiserer. Entryens fire filer er maalt til TRE (incident-response,
data-leakage-prevention, norge-ai-strategy); alle attribuerer til CAF og
alle er dekket. r11-pilot-results 9.5 skrev at least four og enumererte
selv tre. #33 tjente dessuten sin plass paa en fjerde fil:
ai-security-scoring-framework.md:135 parer Azure Resource Graph med Defender
for Cloud - samme produktpar som VAR defekten her - og er KORREKT der, fordi
den fila siterer defender-for-cloud/resource-graph-samples. Samme streng,
annen kilde, motsatt dom. Bokfoert checked-and-clear.

idx-36 ANVENDT, to editer i samme fil, samme commit (#32-formen).
Subtraksjonen verifisert mot kilden fila selv kaller Authoritative guide:
#2a targeted poisoning = Critical, #2b indiscriminate = Important, #10
backdoor = Critical. Raden ga Critical til begge variantene.

ENTRYENS EGET ANKER PEKTE PAA FEIL LINJE. Koea ankret paa Oker severity bar
(spm. 4, physical domain) - som ikke siterer poisoning-raden og ikke er
defekt. Evidensen sier prose at 310; lest ordrett ut av 957ebef^ er
pre-edit 310 = Backdoored models og data poisoning er Critical-severity
trusler (spm. 3, post-edit 309). anchors-feltet staar urort som historisk
record; korreksjonen ligger i resolution.

OG FRAMINGEN SNUDDE: 9.5 holdt idx-36 tilbake fordi tabellen ville bli mer
presis enn prosaen som siterer den - companion-editen som KONSEKVENS av
editen. Maalt mot kilden over-paastaar l.309 allerede i dag. Tabell-editen
skaper ikke feilen, den avdekker den. To instanser av EN defekt, ikke en
out-of-envelope companion.

Enumerasjon lukket foer anvendelse: 8 poisoning-linjer, kun 38 og 309 baerer
severity-paastand. Cond 3 (slipp dekningen vs legg til rad) ratifisert som
slipp - fila blir taus om indiscriminate, ikke usann. Prosa-editen er en
INNSETTING, saa apply-o2-ratified.mjs kunne ikke skrive den: begge editer
haandlagt med hel-linje-unikhet sjekket foerst (1 treff hver) og diff lest i
kontekst etterpaa. Fila uendret paa 368 linjer.

NY ENTRY idx-33a reist, ikke roert: l.213 under Defender-blokka dropper
identity og legger til AI models mot levende AISPM-side, og filas 8 kilder
inneholder ingen Defender AISPM-kilde - stemplet blokka siterer utenfor
filas egen kildeliste. Koea: 59 entries (4 aapne, 55 resolved).

Suite 1052/1052. check-g7-queue exit 0.

[skip-docs]: ren KB-korrektur, ingen endring i kommandoer/agenter/skills/hooks.
2026-08-13 23:06:44 +02:00
..
data feat(ms-ai-architect): idx-33 renvasket mot levende CAF, idx-36 var to instanser ikke en companion [skip-docs] 2026-08-13 23:06:44 +02:00
lib feat(ms-ai-architect): G7-ankere kan baere sin egen fil — klasse-entryen for de 42 er skrevet, og #17 og #14 er begge oppfylt 2026-08-11 22:23:13 +02:00
apply-o2-ratified.mjs fix(ms-ai-architect): R11 — første korpus-edit; 4 ratifiserte O2-subtraksjoner anvendt (idx 17, 19, 33, 14-redusert) 2026-08-03 20:40:08 +02:00
apply-skill-op.mjs feat(ms-ai-architect): Spor D steg 1 — apply regenererer hel-korpus score-cache post-mutasjon (TDD) [skip-docs] 2026-06-23 19:51:04 +02:00
build-gold-set.mjs feat(ms-ai-architect): G3 gull-intern-konsistens-lint + G4 build-instruks-policy — §8 gap-lukk [skip-docs] 2026-06-30 09:55:15 +02:00
build-judge-payloads.mjs feat(ms-ai-architect): R7.1 — build-judge-payloads får --claims <path> (per-batch korpus-manifest, TDD; default = bakeoff-manifestet uendret) [skip-docs] 2026-07-18 11:16:22 +02:00
build-sample-frame.mjs feat(ms-ai-architect): Fase 0 steg 1 — deterministisk sample-frame (45 volatil + 10 kontroll) + TDD [skip-docs] 2026-06-26 14:18:53 +02:00
check-g7-queue.mjs feat(ms-ai-architect): G7 lukket som mekanisme — navngitt review-kø (form b), valgt på måling 2026-08-03 21:10:00 +02:00
check-o2-returns.mjs feat(ms-ai-architect): reproduserbar V1/V2/V2b-sjekk av O2-returene (25 tester) [skip-docs] 2026-08-03 17:40:02 +02:00
classify-fix-ops.mjs feat(ms-ai-architect): R11 §4b implementert — status-synonymtabellen målt, 8 forslag hånd-dømt [skip-docs] 2026-08-03 17:13:05 +02:00
compute-base-rate.mjs feat(ms-ai-architect): Fase 0 steg 3 — base-rate-rapport + GATE: BYGG Fase 3 (scoped/hybrid) [skip-docs] 2026-06-26 17:15:54 +02:00
detect-skill-lifecycle.mjs feat(ms-ai-architect): Sesjon 15 — B2 K10 søsken-scope-ikke-overlapp 2026-06-20 11:59:59 +02:00
eval.mjs feat(ms-ai-architect): Spor 3 Port 3 (CT5) — deterministisk sourcedness erstatter LLM-samplet K8 [skip-docs] 2026-06-29 15:10:14 +02:00
extract-judge-claims.mjs feat(ms-ai-architect): S1 judge bake-off harness + forhåndsregistrert gate (TDD) [skip-docs] 2026-06-26 20:10:58 +02:00
judge-claim-prompt-v2.md feat(ms-ai-architect): S1 v2 targeted iteration — GATE PASS (recall 84.2%, precision 84.2%) [skip-docs] 2026-06-26 21:23:50 +02:00
judge-claim-prompt-v3.1.md feat(ms-ai-architect): G5b gull-friskhets-spot-sjekk LUKKET — 4 v3-FP re-adjudert mot live, ALLE stale gull (v3 flagget korrekt), baseline løftet v3 P89.7/R92.1 → P100/R92.9/0FP; v3.1 forfattet (ren recall-hardning, FP-vakt droppet) [skip-docs] 2026-06-30 13:43:52 +02:00
judge-claim-prompt-v3.md feat(ms-ai-architect): judge-claim-prompt-v3 (R1-R7 mot 8 feilmoduser) — G4 lukket, G1 v3 forfattet [skip-docs] 2026-06-30 10:14:31 +02:00
judge-claim-prompt.md feat(ms-ai-architect): S1 judge bake-off harness + forhåndsregistrert gate (TDD) [skip-docs] 2026-06-26 20:10:58 +02:00
judge-pass-manifest.mjs feat(ms-ai-architect): per-fil judge-pass-manifest (appendJudgedFile + pendingFiles resume-skip, data/ git-tracked, TDD) [skip-docs] 2026-07-04 23:17:01 +02:00
judge-prompt.md feat(ms-ai-architect): Spor 3 Port 3 (CT5) — deterministisk sourcedness erstatter LLM-samplet K8 [skip-docs] 2026-06-29 15:10:14 +02:00
lint-gold-consistency.mjs feat(ms-ai-architect): G3 gull-intern-konsistens-lint + G4 build-instruks-policy — §8 gap-lukk [skip-docs] 2026-06-30 09:55:15 +02:00
plan-skill-op.mjs feat(ms-ai-architect): Sesjon 20 — B3 create_skill (dvelende, konstruktiv op) [skip-docs] 2026-06-20 21:37:19 +02:00
ref-file-audit.py docs(ms-ai-architect): ref-KB audit — verifisert ground truth + reproduserbart audit-skript 2026-06-26 00:25:39 +02:00
run-judge-bakeoff.mjs feat(ms-ai-architect): S1 v2 targeted iteration — GATE PASS (recall 84.2%, precision 84.2%) [skip-docs] 2026-06-26 21:23:50 +02:00
score-skill.mjs feat(ms-ai-architect): Spor D Steg B — skill-quality lifecycle-gate + score-cache (TDD) 2026-06-23 18:26:29 +02:00