Kjell Tore Guttormsen
645f01625b
Step 4 of plan-v2 (ultra-pipeline-speedup).
lib/util/autonomy-gate.mjs (NEW)
5-state machine {idle, gates_on, auto_running, paused_for_gate, completed}
honoring the --gates flag intent. Re-entry to completed is idempotent.
Includes CLI shim:
node lib/util/autonomy-gate.mjs --state X --event Y [--gates true|false]
→ JSON: { ok, next_state | error }, exit 0 on success / 1 on invalid.
lib/parsers/manifest-yaml.mjs (EXTENDED)
OPTIONAL_KEYS list adds skip_commit_check and memory_write — both boolean,
default false when absent, MANIFEST_OPTIONAL_TYPE when non-boolean.
Existing REQUIRED_KEYS contract untouched; existing 9 manifest tests
still pass.
Tests: 19 (autonomy-gate) + 8 (manifest-schema-extensions) = 27 new.
[skip-docs]
64 lines
2.8 KiB
Markdown
64 lines
2.8 KiB
Markdown
# Sikkerhetsvurdering 6×5 — Demosystem
|
||
|
||
System: Demosystem (Acme AS)
|
||
Rammeverk: NSM Grunnprinsipper + Microsoft Cloud Security + EU AI Act Art. 15
|
||
|
||
## Score per dimensjon
|
||
|
||
| Dimensjon | Score | Vurdering |
|
||
|-----------|-------|-----------|
|
||
| Identitet og tilgang | 4 | Entra ID med MFA, conditional access; mangler PIM på enkelte serviceprinciper |
|
||
| Datasikkerhet og personvern | 3 | Customer-managed keys, pseudonymisering pilotert; full Customer Lockbox ikke aktivert |
|
||
| Modell- og prompt-sikkerhet | 3 | Content filters aktivert; jailbreak-deteksjon via Azure AI Content Safety; ingen red-team-runde gjort |
|
||
| Nettverk og perimeter | 5 | Private Endpoint mot alle Azure AI-tjenester; ingen offentlig eksponering |
|
||
| Logging og hendelseshåndtering | 4 | OpenTelemetry → Sentinel; SOC integrert; mangler automatisk avviksdeteksjon for AI-output |
|
||
| Operasjonell og leverandørsikkerhet | 3 | Hovedleverandører verifisert; mangler third-party penetrasjons-test siste 12 mnd |
|
||
|
||
## Risikomatrise (6×5)
|
||
|
||
| Risiko | Sannsynlighet | Konsekvens | Score |
|
||
|--------|---------------|------------|-------|
|
||
| Lekkasje av treningsdata | 2 | 5 | 10 |
|
||
| Prompt injection i forklaringsmodell | 3 | 3 | 9 |
|
||
| Modell-tyveri (model extraction) | 2 | 3 | 6 |
|
||
| Adversarielt eksempel forgifter output | 2 | 4 | 8 |
|
||
| Cloud-leverandør-utilgjengelighet | 2 | 4 | 8 |
|
||
| Insider-trussel (unauthorized inference) | 2 | 5 | 10 |
|
||
|
||
## Funn
|
||
|
||
| ID | Severity | Lokasjon | Anbefaling |
|
||
|----|----------|----------|------------|
|
||
| S-01 | high | Identity | Aktivér PIM på alle serviceprinciper innen 2026-06-01 |
|
||
| S-02 | medium | Data | Aktivér Customer Lockbox for operasjonelle data |
|
||
| S-03 | high | Model | Gjennomfør formell red-team-runde med Azure AI Red Team-veiledning |
|
||
| S-04 | low | Network | Periodisk verifikasjon av Private Endpoint-konfigurasjon |
|
||
| S-05 | medium | Logging | Implementer ML-basert avviksdeteksjon på AI-output-rate |
|
||
| S-06 | medium | Vendor | Bestilt third-party penetrasjons-test for Q3 2026 |
|
||
|
||
## Top-risikoer
|
||
|
||
| ID | Risiko | Score | Severity |
|
||
|----|--------|-------|----------|
|
||
| R-01 | Lekkasje av treningsdata | 10 | high |
|
||
| R-02 | Insider-trussel (unauthorized inference) | 10 | high |
|
||
| R-03 | Prompt injection i forklaringsmodell | 9 | high |
|
||
| R-04 | Adversarielt eksempel forgifter output | 8 | medium |
|
||
| R-05 | Cloud-leverandør-utilgjengelighet | 8 | medium |
|
||
|
||
## Kategori-snitt
|
||
|
||
| Kategori | Snitt |
|
||
|----------|-------|
|
||
| Identitet og tilgang | 4 |
|
||
| Datasikkerhet og personvern | 3 |
|
||
| Modell- og prompt-sikkerhet | 3 |
|
||
| Nettverk og perimeter | 5 |
|
||
| Logging og hendelseshåndtering | 4 |
|
||
| Operasjonell og leverandørsikkerhet | 3 |
|
||
|
||
Restrisiko: 5×4 → 2×3
|
||
|
||
## Aggregat
|
||
|
||
Totalscore: 22/30 (73%) — modent men ikke best-i-klassen. Modell- og prompt-sikkerhet er svakeste dimensjon.
|