Logg innBestill en gjennomgang
Del 1: For alle
Versjon 1.0.0-alpha.1nyeste

Kapittel 1.5

Tillit og etterlevelse

Delene av Nexus en etterlevelsesansvarlig arbeider i. Dette dekker revisjonsloggen og forseglede oppføringer, godkjenninger som krever en person til, og beslutninger tatt av kunstig intelligens (KI) som venter på gjennomgang. Det avsluttes med forespørsler om personopplysninger og etterlevelsessidene som holder dokumentasjonen klar før en revisor spør.

Denne siden er oversatt med KI fra den engelske originalen. Hvis noe er uklart, er den engelske siden referansen. Les denne siden på engelsk

12 minutter å lese

Ruairí Feltham er personvernombud ved Harrow Port Authority. Mandagen hans starter med en kø av beslutninger som en KI tok i løpet av natten, og som ikke kan tre i kraft før en person har sett på dem. Klokken ti har han besvart en tidligere ansatts forespørsel om innsyn i egne personopplysninger, med elleve dager til gode før fristen. Etter lunsj ber en ekstern revisor om dokumentasjon på at forrige kvartals gjenopprettingstest ble gjennomført. Ruairí bygger dokumentasjonspakken i Nexus, og før han sender den, forteller pakken ham med én setning nøyaktig hva som mangler.

Ingenting av dette er et eget etterlevelsesprodukt som er hektet på i etterkant. Det er de samme oppføringene som Nexus fører over alt annet, lest gjennom sider som er laget for dem som svarer overfor tilsynsmyndighetene. Dette kapittelet går gjennom dem.

Revisjonsloggen

Hver handling i Nexus etterlater en linje i revisjonsloggen. Linjen registrerer hvem som handlet og hva de gjorde. Den registrerer også når det skjedde, og om handlingen ble utført eller avvist. Hver oppføring oppgir om den kom fra et skjermbilde eller et skript. Å se på revisjonsloggen er i seg selv en handling, så det blir også registrert.

Loggen kan avgrenses etter område, utfall eller personen som handlet, og man kan søke i den med fritekst. I Community lagres den i 30 dager og kan når som helst eksporteres til en regnearkfil, og dette gjelder selv om resten av etterlevelsessidene tilhører Enterprise. Enterprise oppbevarer loggen i årevis og kan strømme den til ditt eget sikkerhetsovervåkingssystem etter hvert som den skrives.

Revisjonsloggen
Revisjonsloggen
Revisjonsloggen. Hver oppføring viser hvem som handlet, hva de gjorde, og når. Legg merke til at den også viser om handlingen ble utført eller avvist.

Forseglede oppføringer alle kan kontrollere

En revisjonslogg svarer på «hva som skjedde». For beslutninger av betydning vil en tilsynsmyndighet også spørre om oppføringen kan ha blitt endret i etterkant. Nexus svarer på dette med forseglede oppføringer.

En forseglet oppføring inneholder hvem som tok beslutningen, på hvilket grunnlag og etter hvilke regler, og den er forseglet med et tidsstempel utenfra installasjonen. Endrer man ett enkelt tegn senere, mislykkes kontrollen. Hvem som helst kan kjøre denne kontrollen med den åpne verifikatoren, som følger med hver utgave og ikke krever noen konto. Den sender ingenting noe sted. På et nettverksisolert (air-gapped) anlegg som Harrow blir tidsstempler bevitnet internt på anlegget, og oppføringene lar seg likevel kontrollere senere.

Tillegget Beslutningsrom og forseglede oppføringer tar dette videre for de store avgjørelsene. Et beslutningsrom samler spørsmålet og dokumentasjonen, med plasser for personene som må bli hørt, og KI-plasser som argumenterer for hver sin side. En navngitt person leder rommet, og det er aldri den samme som foreslo endringen. Lederen fatter en avgjørelse med en skriftlig begrunnelse og signerer med en passnøkkel, og avgjørelsen forsegles sammen med resten av oppføringen.

Ekstra kontroller og fire-øyne-godkjenninger

To ulike sikkerhetstiltak deler ideen om «et ekstra ledd», og det er nyttig å holde dem fra hverandre. En ekstra kontroll er det ekstra trinnet ved pålogging, slik som en passnøkkel etter et passord, og kapittel 1.3, Organisasjonen din, menneskene i den, og hva som forblir privat, forklarer hvordan en organisasjon krever dette. Fire-øyne-godkjenning handler om endringer: Noen endringer venter på en person nummer to før de trer i kraft.

I Enterprise avgjør organisasjonens retningslinjer hvilke endringer som krever en person nummer to. Typiske eksempler er å forkorte lagringstiden for oppføringer, senke et budsjett som er i bruk, trekke tilbake en plattform fra en enhet og eksportere en kanal fra en gruppesamtale. En forespørsel venter på siden for fire-øyne-godkjenninger til den har fått alle godkjenningene den trenger. Hvis én person avslår den, avsluttes den med vedkommendes begrunnelse. En forespørsel som ingen tar stilling til i tide, utløper, og endringen blir ikke utført.

Ingen kan godkjenne sin egen forespørsel. Når en nødsituasjon krever full tilgang, gir nødtiltak (break-glass) en administrator et kort tidsvindu mens en annen person følger med, og hvert trinn blir registrert.

KI-beslutninger som venter på gjennomgang

Enkelte bruksområder for KI regnes som høyrisiko under EUs KI-forordning (EU AI Act), og loven krever menneskelig tilsyn med dem. I Nexus blir en beslutning som tas i et høyrisiko-bruksområde, holdt tilbake. Den venter på siden for KI-beslutninger til en person har gjennomgått den. Kontrolløren ser hva KI-en besluttet og hvorfor, sammen med kildene den leste. Vedkommende kan si seg enig i den eller endre den, og kan også omgjøre den. Hvert svar krever en begrunnelse. Alle de tre svarene signeres med kontrollørens passnøkkel. En omgjøring sender arbeidet tilbake til teamet, og hvert svar etterlater en kvittering i registeret over KI-bruk.

KI-beslutninger som venter på gjennomgang
KI-beslutninger som venter på gjennomgang
KI-beslutninger som venter på gjennomgang. Listen viser hvor lenge hver beslutning har ventet; kortet til høyre viser beslutningen med begrunnelser og kilder, over svarene en kontrollør kan gi.

Køen viser hvor lenge hver beslutning har ventet, slik at et etterslep blir synlig før det utvikler seg til et problem.

Seks bokser på rad, forbundet med piler fra venstre mot høyre: «KI-en beslutter, med begrunnelser og kilder», «Holdt tilbake: høyrisikobruk», «En person gjennomgår og signerer med en passnøkkel», «Enig eller endre: trer i kraft», «Kvittering lagret i registeret over KI-bruk» og «Dokumentasjonspakke, forseglet ved utstedelse». En forgrening går ned fra den fjerde boksen til en boks merket «Omgjør: tilbake til teamet», som slutter seg til linjen igjen ved kvitteringen. Under den siste boksen er et lite forstørrelsesglass-ikon merket «Kontrollert senere med den åpne verifikatoren, ingen konto nødvendig».
Hvordan én høyrisiko KI-beslutning blir til dokumentasjon som en revisor kan kontrollere.

Forespørsler om personopplysninger

Etter personvernforordningen (GDPR) kan en person spørre hva en organisasjon har lagret om dem og be om en kopi, eller be om at det blir slettet, og organisasjonen har normalt én måned på seg til å svare. Hvert medlem i Nexus kan eksportere sine egne data og slette det som tilhører dem, i enhver utgave. Forespørsler fra kunder eller tidligere ansatte loggføres i Enterprise med tilhørende tidsfrister.

For hver forespørsel finner Nexus personens oppføringer på tvers av filer og e-post, i samtaler og i assistentens minne, og viser dem på ett sted. Juridiske unntak blir anvendt fremfor ignorert. Lønnsoppføringer som loven krever at skal oppbevares i syv år, blir liggende, og Nexus viser hvorfor. Selve slettingen utføres med Erase, den eneste destruktive handlingen i Nexus. Den krever en skriftlig begrunnelse og en person nummer to, og den etterlater en permanent oppføring om at slettingen fant sted (hva som ble slettet, når det skjedde, og hvem som gjorde det) uten å beholde noe av innholdet.

Etterlevelsessidene

Enterprise har et eget område for etterlevelse (Compliance) med én side for hvert regelverk en organisasjon er underlagt. Oversikten lister opp hver pakke, med antall dokumentasjonsbevis og åpne mangler beskrevet med ord og tidsfrister. Pakkene dekker EUs KI-forordning (EU AI Act), GDPR og ISO 27001, i tillegg til NIS2-direktivet (Network and Information Security Directive 2) og DORA-forordningen (Digital Operational Resilience Act). Det finnes ingen poengsummer eller karakterer. «Avslutningsplan mangler for leverandøren av den driftende modellen, frist 15. november» forteller deg mer enn en prosentandel ville gjort.

Siden for EU AI Act inneholder registeret over all bruk av KI i organisasjonen. Hver oppføring registrerer risikoklassen og personen som fører tilsyn med den. Den angir også hvordan berørte personer blir informert, og inneholder konsekvensutredningen samt eventuelle hendelser. Høyrisikoreglene gjelder fra 2. desember 2027 for bruksområder som kredittvurdering og prising av livs- og helseforsikring, slik det er endret gjennom Digital Omnibus.

Siden for GDPR og personvern inneholder behandlingsprotokollene: formål, behandlingsgrunnlag, hvilke data som inngår, lagringstid og overføringer. Forespørsler ligger ved siden av dem med sine tidsfrister. Samtykkeoppføringer og avvik har sine egne lister.

Siden for NIS2- og DORA-hendelser inneholder hendelsesregisteret der hver rapporteringsfrist er tegnet inn som en tidslinje: tidlig varsel innen 24 timer, melding innen 72 timer og endelig rapport innen en måned. Klokken starter når en hendelse blir klassifisert, slik at en forsinket melding vises som forsinket.

NIS2- og DORA-hendelser
NIS2- og DORA-hendelser
NIS2- og DORA-hendelser. Rapporteringsfristene for hver hendelse vises som datoer på en tidslinje, slik at man med ett blikk ser hvilken frist som er den neste.

Dokumentasjonspakker og kontroller

En revisor vil sjelden ha alt. De vil ha nøyaktig det de har bedt om. En dokumentasjonspakke bygges fra sanntidsoppføringer for en navngitt kontrollør og kobles til hver enkelt kontroll. Den forsegles når den utstedes. Før du sender den, lister pakken opp hva som mangler i klartekst, for eksempel en gjenopprettingstest som ble kjørt, men hvor resultatet aldri ble lagt ved. Måneder senere kan du kontrollere at en eldre pakke fortsatt er gyldig. Rettslig bevaring (legal hold) fungerer side om side med pakkene: En bevaring stanser sletting av det den dekker, en eksport tar med nøyaktig det som er bevart, og når den oppheves, etterlates det en oppføring.

Dokumentasjonspakker
Dokumentasjonspakker
Dokumentasjonspakker. Legg merke til linjen som forklarer hva forseglingen dekker: Alt inni skjedde før den, og tidsstempelet kommer etter.

Én kontroll besvarer ofte flere regler. «Menneskelig tilsyn med høyrisiko-KI» oppfyller en artikkel i GDPR og en i KI-forordningen på samme tid. Kontrollsiden kobler hver kontroll én gang til hvert rammeverk den oppfyller: GDPR, NIS2, DORA, ISO/IEC 27001 og EU AI Act. Hver kontroll har en eier og datoen den sist ble testet. Ett enkelt dokumentasjonsbevis tjener dermed flere rammeverk.

Vurderinger, slik som en kvartalsvis gjennomgang av ISO 27001, gjennomgås kontroll for kontroll med svar og dokumentasjon. Mangler avdekkes underveis, og en person nummer to godkjenner resultatet. Ansvarspersonen som gjennomførte vurderingen, kan ikke selv godkjenne den. For hvert KI-system samler en teknisk fil det KI-forordningen krever (formål, data, testing, tilsyn, risikoer og logger) og viser hvor fullstendig den er. Eksporterer du en fil før den er fullstendig, blir hver side merket som et utkast.

Leverandører og mistenkelige pålogginger

Leverandørregisteret lister opp hvert eksterne selskap som håndterer dataene dine eller drifter en tjeneste for deg. For hvert selskap registreres hva selskapet behandler, når kontrakten utløper, når den sist ble gjennomgått, og hvordan dere kan tre ut av avtalen. En kritisk funksjon uten en utvei lyser gult, noe som er nøyaktig det en DORA-kontrollør ser etter. En leverandør som er trukket tilbake, beholder oppføringene sine i syv år.

Mistenkelige pålogginger flagges i det øyeblikket de skjer. Umulig reise er ett tegn, slik som en pålogging fra Harrow og deretter fra et annet kontinent førti minutter senere. Nye enheter og en rekke mislykkede forsøk er andre eksempler. Hver av dem vises på sin egen side, sammen med hva Nexus allerede har gjort med saken. En ansvarsperson bekrefter eller avskriver hver enkelt. Tillatte og blokkerte adresseområder ligger ved siden av, og Nexus avviser en regel som ville ha låst ute administratoren som skriver den.

Hva Nexus ikke gjør

Nexus fører oppføringene, kobler dem til reglene og bygger dokumentasjonen. Systemet sertifiserer deg ikke, og det gir deg ingen etterlevelsespoengsum. Sertifisering forblir en sak mellom deg og revisoren din. De regulatoriske datoene og koblingene i Nexus er ikke juridisk rådgivning, og deres egne jurister bør lese reglene som gjelder for dere.