docs(prepass): before/after on K2, the mutation battery and the invariant row
Steg 8. Ingen produksjonskode i denne commiten utover de TRE testarmene tre GROENNE mutasjoner tvang fram. MAALING (`docs/2026-09-07-okf-prepass-i-debatten.md`), instrumentet validert mot en kjent-positiv FOER foerste tall (K2 rotlisting = 3 954 tegn / 1 495 o200k-tokens, S7a-3s publiserte tall eksakt; skriptet asserterer paa det og nekter aa rapportere ellers): - KUTTET paa levert K2: 629 = 621 + 8, tre regler navngitt. Payload paa disk 40 425 tok; renderingen debatten ser 5 162 tok -- 87 % av kostnaden er withheld-lista, som aldri naar prompten. - FOER/ETTER, tre armer fordi "FOER" ikke er ett tall. Like-for-like (en debatt som GAAR stigen mot det deklarerte kuttet): 10 prompter / 7 031 tok -> 3 prompter / 10 641 tok. **+51 %, og dokumentet paastaar ikke at dette er en besparelse.** Det som kjoepes er nevnerne, et re-maalbart `ref`, og at stempelet slutter aa overdrive: siteringer 629 -> 8. - SPOERSMAALET BASEN IKKE SVARER PAA: aatte arkitekttegninger, og **5,5x dyrere** enn det gode spoersmaalet (28 312 mot 5 162 tok). En TOM leveranse er bevis for fravaer; en FULL er IKKE bevis for tilstedevaerelse -- og med verktoeyene trukket har debatten ingen vei til aa oppdage det selv. Uttalt som den reelle handelen, ikke oppdaget i drift. LOAD-BEARING: 32 mutasjoner, ALLE ROEDE mot HELE suiten, maks en per Bash-kall, restaurert fra `scratchpad/` med `shasum -c` (aldri `git checkout`). Groenn kontroll **1467 passed / 5 skipped** (fra 1387/5; **+80 node-ider, 0 fjernet**, maalt med `comm` mot en baseline tatt foer foerste commit). Golden `shasum -a 1` av INNHOLDET = ea8c534773acdbe41ae68f2c55724d69aaf8be4f, BYTE-UENDRET. `pyproject.toml` uroert. TRE MUTASJONER VAR GROENNE FOERST, og alle tre var TESTFEIL -- ikke soemfeil. Ingen ble droppet: - M9: injeksjonsarmen satte `text_sha256` fra den INJISERTE teksten, saa `text_sha256`-grenen fyrte i stedet, og armen matchet paa "text" -- en DELSTRENG av `text_sha256`. En angriper kontrollerer begge avledede medlemmer, saa fixturen setter naa `text_sha256` til digesten av den EKTE teksten; da er likhetssjekken det eneste som staar i veien. Ny parallell arm beviser at de to sjekkene ikke er en sjekk. - M18: fixturbasen navigerer til fire ikke-verdict-konsepter og payloadet leverer ALLE fire, saa "siter de leverte" og "siter alt navigerbart" ga SAMME sett. Armen flytter naa ett utdrag til `withheld` og asserterer `delivered < navigable` FOER den maaler. - M32: uten raden falt kjoeringen gjennom til "--explore requires --explore-config", som ogsaa navngir `--explore`. Oekt 57s regel ordrett -- assert aldri paa en delstreng to nekter deler. Armen bruker naa en argv `--explore` ellers ville blitt AKSEPTERT paa. Co-Authored-By: Claude <claude-opus-5>
This commit is contained in:
parent
ca98888358
commit
183191e51c
5 changed files with 385 additions and 15 deletions
|
|
@ -225,13 +225,31 @@ async def test_a_configured_mcp_tool_survives_the_withdrawal(tmp_path: Path) ->
|
|||
|
||||
|
||||
async def test_the_citations_are_the_delivered_concepts(tmp_path: Path) -> None:
|
||||
"""A stamp citing all five for a proposal that saw four re-creates the undeclared claim this
|
||||
seam removes. Each snippet stays exact by construction."""
|
||||
bundle_dir, payload = _base(tmp_path)
|
||||
"""A stamp citing every navigable concept for a proposal that saw a subset of them re-creates
|
||||
the undeclared claim this seam removes. Each snippet stays exact by construction.
|
||||
|
||||
**The payload must deliver a STRICT SUBSET, and that is measured rather than assumed.** The
|
||||
shipped base navigates to four non-verdict concepts and the checked-in payload delivers all
|
||||
four, so on the unmodified fixture "cite the delivered ones" and "cite everything navigable"
|
||||
produce the SAME set — and an arm built on it stays green against a run that kept
|
||||
``bundle_citations``. One excerpt is therefore moved to ``withheld`` first.
|
||||
"""
|
||||
bundle_dir, _ = _base(tmp_path)
|
||||
raw = json.loads(FIXTURE.read_text(encoding="utf-8"))
|
||||
dropped = raw["excerpts"].pop()
|
||||
raw["withheld"].append({"concept_id": dropped["concept_id"], "rule": "below_k"})
|
||||
raw["denominators"]["delivered"] -= 1
|
||||
raw["denominators"]["withheld"] += 1
|
||||
payload = prepass.PrepassPayload.model_validate(raw)
|
||||
|
||||
navigable = {f.name for f in okf.navigate_bundle(bundle_dir).context_files}
|
||||
delivered = {e.concept_id + ".md" for e in payload.excerpts}
|
||||
assert delivered < navigable, "the fixture cannot distinguish the two implementations"
|
||||
|
||||
result, _, _ = await _run(bundle_dir, prepass_payload=payload)
|
||||
assert isinstance(result, RunResult)
|
||||
cited = {c.file for c in result.provenance.citations}
|
||||
assert cited == {e.concept_id + ".md" for e in payload.excerpts}
|
||||
assert {c.file for c in result.provenance.citations} == delivered
|
||||
|
||||
bodies = {f.name: f.body for f in okf.navigate_bundle(bundle_dir).context_files}
|
||||
for citation in result.provenance.citations:
|
||||
body = bodies[citation.file]
|
||||
|
|
|
|||
Loading…
Add table
Add a link
Reference in a new issue