InnskráningBóka kynningu
1. hluti: Fyrir alla
Útgáfa 1.0.0-alpha.1nýjast

Kafli 1.5

Traust og regluvörslu

Þeir hlutar Nexus sem regluvörður hrærist í. Fjallað er um aðgerðaskrána og innsiglaðar færslur, samþykki sem krefjast annars aðila og ákvarðanir gervigreindar sem bíða yfirferðar. Að lokum er farið yfir beiðnir um persónuupplýsingar og regluvörslusíðurnar sem halda sönnunargögnum tilbúnum áður en endurskoðandi spyr.

Þessi síða var þýdd með gervigreind úr enska frumtextanum. Ef eitthvað er óljóst gildir enska síðan til viðmiðunar. Lesa þessa síðu á ensku

12 mínútna lestur

Ruairí Feltham er persónuverndarfulltrúi hjá Harrow Port Authority. Mánudagurinn hans byrjar á biðröð ákvarðana sem gervigreind tók um nóttina og geta ekki tekið gildi fyrr en manneskja fer yfir þær. Klukkan tíu er hann búinn að svara beiðni fyrrverandi starfsmanns um persónuupplýsingar hennar, og á enn ellefu daga til stefnu. Eftir hádegi biður ytri endurskoðandi um sönnunargögn fyrir því að endurheimtuprófun síðasta ársfjórðungs hafi farið fram. Ruairí útbýr gagnapakkann í Nexus, og áður en hann sendir hann segir pakkinn honum, í einni setningu, hvaða eina atriði vantar.

Ekkert af þessu er sérstök regluvörslulausn sem hefur verið skeytt við til hliðar. Þetta er sama skráning og Nexus heldur utan um allt annað, lesin í gegnum síður sem eru byggðar fyrir fólkið sem svarar til eftirlitsaðila. Þessi kafli fer yfir þær.

Aðgerðaskráin

Sérhver aðgerð í Nexus skilur eftir línu í aðgerðaskránni. Línan skráir hver framkvæmdi aðgerðina og hvað var gert. Hún skráir einnig hvenær, og hvort aðgerðin var framkvæmd eða henni hafnað. Hver færsla segir til um hvort hún kom frá skjá eða skriftu. Að skoða aðgerðaskrána er í sjálfu sér aðgerð, þannig að það er einnig skráð.

Hægt er að þrengja skrána eftir sviði, niðurstöðu eða eftir þeim sem framkvæmdi aðgerðina, og leita í henni eftir orðum. Í Community geymir hún 30 daga og hægt er að flytja hana út í töflureiknisskrá hvenær sem er, og það gildir áfram þótt restin af regluvörslusíðunum tilheyri Enterprise. Enterprise geymir skrána í mörg ár og getur streymt henni í ykkar eigið öryggisvöktunarkerfi jafnóðum og hún er skrifuð.

Aðgerðaskráin
Aðgerðaskráin
Aðgerðaskráin. Hver færsla segir hver framkvæmdi aðgerð, hvað var gert og hvenær. Takið eftir að hún segir einnig hvort aðgerðin var framkvæmd eða henni hafnað.

Innsiglaðar skrár sem hver sem er getur sannreynt

Aðgerðaskrá svarar því „hvað gerðist“. Fyrir ákvarðanir sem skipta máli mun eftirlitsaðili einnig spyrja hvort hægt hefði verið að breyta færslunni eftir á. Nexus svarar því með innsigluðum færslum.

Innsigluð færsla geymir upplýsingar um hver tók ákvörðun og á hvaða gögnum hún byggði, samkvæmt hvaða reglum, og hún er innsigluð með tímastimpli utan uppsetningarinnar. Ef einum staf er breytt síðar fellur sannprófunin. Hver sem er getur keyrt þá sannprófun með opna sannprófaranum, sem fylgir öllum útgáfum og krefst engra notendaaðganga. Hann sendir ekkert neitt. Á einangruðu svæði án nettengingar eins og Harrow eru tímastimplar vottaðir innan svæðisins, og færslurnar standast samt sannprófun síðar.

Viðbótin Ákvörðunarherbergi og innsiglaðar færslur gengur skrefinu lengra fyrir stóru ákvarðanirnar. Ákvörðunarherbergi safnar saman spurningunni og sönnunargögnunum, með sætum fyrir fólkið sem þarf að heyra í og sætum fyrir gervigreind sem færir rök fyrir hvorri hlið. Tilnefndur einstaklingur stýrir fundinum, sem er aldrei sá sami og lagði til breytinguna. Fundarstjóri kveður upp úrskurð með skriflegum rökstuðningi og undirritar með aðgangslykli, og úrskurðurinn er innsiglaður með restinni af færslunni.

Staðfesting annars aðila og fjögurra augna samþykki

Tvær ólíkar öryggisráðstafanir deila hugmyndinni um „annan aðila eða þátt“, og það hjálpar að halda þeim aðskildum. Tvíþætt auðkenning er aukaskrefið við innskráningu, svo sem aðgangslykill á eftir lykilorði, og kafli 1.3, Skipulagsheildin þín, fólkið í henni og hvað er einkamál, útskýrir hvernig skipulagsheild krefst hennar. Fjóra augna samþykki snýst um breytingar: sumar breytingar bíða eftir annarri manneskju áður en þær verða að veruleika.

Í Enterprise ákveða reglur skipulagsheildarinnar hvaða breytingar þurfa aðra manneskju. Dæmigerðar breytingar eru að stytta varðveislutíma gagna, lækka fjárhagsáætlun sem er í notkun, afturkalla kerfisaðgang frá einingu og flytja út spjallrás teymis. Beiðni bíður á síðunni Fjóra augna samþykki þar til hún hefur fengið öll þau samþykki sem hún þarf. Ef ein manneskja hafnar henni lýkur ferlinu, ásamt rökstuðningi viðkomandi. Beiðni sem enginn tekur afstöðu til í tæka tíð fellur úr gildi og breytingin er ekki gerð.

Enginn samþykkir sína eigin beiðni. Þegar neyðarástand krefst fulls aðgangs veitir neyðaraðgangur kerfisstjóra stuttan tímaramma á meðan önnur manneskja fylgist með, og hvert skref er skráð.

Ákvarðanir gervigreindar sem bíða yfirferðar

Tiltekin notkun gervigreindar telst áhættusöm samkvæmt reglugerð ESB um gervigreind (EU AI Act), og lögin gera ráð fyrir mannlegu eftirliti með henni. Í Nexus er ákvörðun sem tekin er í áhættusamri notkun sett í bið. Hún bíður á síðunni Ákvarðanir gervigreindar þar til manneskja fer yfir hana. Yfirferðaraðilinn sér hvað gervigreindin ákvað og hvers vegna, ásamt heimildunum sem hún las. Viðkomandi getur verið sammála henni eða breytt henni, og getur hnekkt henni. Hvert svar krefst rökstuðnings. Öll þrjú svörin eru undirrituð með aðgangslykli yfirferðaraðilans. Að hnekkja ákvörðun sendir verkefnið aftur til teymisins, og hvert svar skilur eftir kvittun í skránni yfir notkun gervigreindar.

Ákvarðanir gervigreindar sem bíða yfirferðar
Ákvarðanir gervigreindar sem bíða yfirferðar
Ákvarðanir gervigreindar sem bíða yfirferðar. Listinn sýnir hve lengi hver ákvörðun hefur beðið; spjaldið hægra megin sýnir ákvörðunina ásamt rökstuðningi og heimildum, fyrir ofan svörin sem yfirferðaraðili getur gefið.

Biðröðin sýnir hve lengi hver ákvörðun hefur beðið, þannig að uppsafnaður hali er sýnilegur áður en hann verður að vandamáli.

Sex kassar í röð, tengdir með örvum frá vinstri til hægri: „Gervigreindin ákveður, með rökstuðningi og heimildum“, „Sett í bið: áhættusöm notkun“, „Manneskja fer yfir og undirritar með aðgangslykli“, „Sammála eða breyta: tekur gildi“, „Kvittun geymd í skránni yfir notkun gervigreindar“ og „Sönnunargagnapakki, innsiglaður við útgáfu“. Grein liggur niður úr fjórða kassanum í kassa sem merktur er „Hnekkja: aftur til teymisins“, sem tengist línunni aftur við kvittunina. Undir síðasta kassanum er lítið stækkunarglersmerki merkt „Sannprófað síðar með opna sannprófaranum, enginn aðgangur nauðsynlegur“.
Hvernig ein áhættusöm ákvörðun gervigreindar verður að sönnunargagni sem endurskoðandi getur sannprófað.

Beiðnir um persónuupplýsingar

Samkvæmt almennu persónuverndarreglugerðinni (GDPR) getur einstaklingur spurt hvaða gögn skipulagsheild geymir um hann og beðið um afrit, eða beðið um að þeim verði eytt, og skipulagsheildin hefur venjulega mánuð til að svara. Sérhver notandi í Nexus getur flutt út sín eigin gögn og eytt því sem hann á, í hvaða útgáfu sem er. Beiðnir frá viðskiptavinum eða fyrrverandi starfsfólki eru skráðar í Enterprise ásamt eindögum þeirra.

Fyrir hverja beiðni finnur Nexus færslur einstaklingsins í skrám og tölvupósti, í spjalli og í minni aðstoðarmannsins, og sýnir þær á einum stað. Lagalegum undantekningum er beitt í stað þess að hunsa þær. Launaskrár sem lögin segja að verði að geyma í sjö ár verða eftir, og Nexus sýnir hvers vegna. Eyðingin sjálf er framkvæmd með Eyða (Erase), einu óafturkræfu aðgerðinni í Nexus. Hún krefst skriflegs rökstuðnings og annarrar manneskju, og hún skilur eftir varanlega færslu um að eyðingin hafi átt sér stað (hverju var eytt og hvenær, og hver gerði það) án þess að halda eftir neinu af efninu.

Regluvörslusíðurnar

Enterprise er með regluvörslusvæði með einni síðu fyrir hvern regluflokk sem skipulagsheild heyrir undir. Yfirlitið listar upp hvern gagnapakka, með fjölda sönnunargagna og opnum brotalömum skrifuðum í orðum ásamt eindögum. Pakkarnir ná yfir reglugerð ESB um gervigreind (EU AI Act), GDPR og ISO 27001, ásamt tilskipun um net- og upplýsingaöryggi 2 (NIS2) og reglugerð um stafrænt rekstrarþol (DORA). Það eru engin stig eða einkunnir. „Útgönguáætlun vantar fyrir hýstan líkanaveitanda, eindagi 15. nóvember“ segir þér meira en prósentutala myndi gera.

Síðan EU AI Act heldur utan um skrána yfir alla notkun gervigreindar í skipulagsheildinni. Hver færsla skráir áhættuflokk hennar og manneskjuna sem hefur eftirlit með henni. Hún segir einnig hvernig hlutaðeigandi fólki er tilkynnt um hana, og geymir áhrifamatið og öll atvik. Reglurnar um áhættusama notkun gilda frá 2. desember 2027 fyrir notkun eins og lánshæfismat og verðlagningu líf- og sjúkratrygginga, með áorðnum breytingum samkvæmt Digital Omnibus.

Síðan GDPR og persónuvernd geymir skrár yfir vinnslustarfsemi: tilgang, lagagrundvöll, hvaða gögn eiga í hlut, varðveislutíma og flutning gagna. Beiðnir sitja við hlið þeirra ásamt eindögum sínum. Samþykkisskrár og öryggisbrot eru með sína eigin lista.

Síðan NIS2 og DORA atvik heldur utan um atvikaskrána þar sem hver tilkynningarklukka er teiknuð upp sem tímalína: snemmbúna viðvörunin innan 24 klukkustunda, tilkynningin innan 72 klukkustunda og lokaskýrslan innan mánaðar. Klukka fer af stað þegar atvik er flokkað, þannig að síðbúin tilkynning birtist sem síðbúin.

NIS2 og DORA atvik
NIS2 og DORA atvik
NIS2 og DORA atvik. Tilkynningarfrestir hvers atviks birtast sem dagsetningar á tímalínu, þannig að næsti eindagi sést í fljótu bragði.

Sönnunarpakkar og eftirlitsaðgerðir

Endurskoðandi vill sjaldan fá allt. Hann vill nákvæmlega það sem hann bað um. Sönnunargagnapakki er byggður úr rauntímafærslum fyrir tilnefndan prófdómara og kortlagður á hverja eftirlitsaðgerð. Hann er innsiglaður þegar hann er gefinn út. Áður en þið sendið hann listar pakkinn upp það sem vantar á skýru máli, svo sem endurheimtuprófun sem var keyrð en niðurstaðan aldrei hengd við. Mánuðum síðar getið þið sannprófað að eldri pakki haldi enn gildi sínu. Löghelgun gagna (legal hold) virkar samhliða pökkum: löghelgun stöðvar eyðingu á því sem hún nær yfir, útflutningur tekur nákvæmlega það sem er í haldi, og losun hennar skilur eftir færslu.

Sönnunargagnapakkar
Sönnunargagnapakkar
Sönnunargagnapakkar. Takið eftir línunni sem útskýrir hvað innsiglið nær yfir: allt inni í pakkanum átti sér stað á undan því, og tímastimpillinn kemur á eftir.

Ein eftirlitsaðgerð svarar oft nokkrum reglum. „Mannlegt eftirlit með áhættusamri gervigreind“ uppfyllir grein í GDPR og aðra í reglugerðinni um gervigreind á sama tíma. Eftirlitsaðgerðasíðan kortleggur hverja eftirlitsaðgerð einu sinni á hvern þann ramma sem hún uppfyllir: GDPR, NIS2, DORA, ISO/IEC 27001 og EU AI Act. Hver eftirlitsaðgerð hefur eiganda og dagsetningu þegar hún var síðast prófuð. Eitt sönnunargagn þjónar þá nokkrum römmum.

Úttektir, svo sem ársfjórðungsleg ISO 27001 rýni, eru unnar í gegnum hverja eftirlitsaðgerð fyrir sig með svörum og sönnunargögnum. Brotalamir finnast í leiðinni, og önnur manneskja kvittar fyrir niðurstöðuna. Fulltrúinn sem keyrði úttektina getur ekki kvittað fyrir sína eigin. Fyrir hvert gervigreindarkerfi safnar tækniskjal saman því sem reglugerðin um gervigreind biður um (tilgang þess, gögn, prófanir, eftirlit, áhættur og atburðaskrár) og sýnir hversu fullklárað það er. Ef það er flutt út áður en það er fullklárað er hver síða merkt sem drög.

Birgjar og grunsamlegar innskráningar

Birgjaskráin listar upp öll utanaðkomandi fyrirtæki sem meðhöndla gögnin ykkar eða reka þjónustu fyrir ykkur. Fyrir hvert þeirra skráir hún hvað fyrirtækið vinnur með, hvenær samningurinn rennur út, hvenær hann var síðast endurskoðaður og hvernig þið mynduð slíta samstarfinu. Mikilvæg starfsemi án útgönguleiðar verður gul, sem er nákvæmlega það sem DORA prófdómari leitar að. Birgir sem hætt er viðskiptum við heldur færslum sínum í sjö ár.

Grunsamlegar innskráningar eru flaggaðar jafnóðum og þær eiga sér stað. Ómögulegt ferðalag er eitt merki, svo sem innskráning frá Harrow og síðan frá annarri heimsálfu fjörutíu mínútum síðar. Ný tæki og hrina mistaka eru önnur. Hvert tilvik birtist á sinni eigin síðu, ásamt því sem Nexus hefur þegar gert í málinu. Fulltrúi staðfestir eða hreinsar hvert tilvik. Leyfð og lokuð vistfangabil sitja við hlið þess, og Nexus hafnar reglu sem myndi læsa úti kerfisstjórann sem skrifar hana.

Hvað Nexus gerir ekki

Nexus heldur utan um færslurnar, kortleggur þær á reglurnar og byggir upp sönnunargögnin. Kerfið vottar ykkur ekki, og það gefur ykkur ekki regluvörslustig. Vottun er áfram á milli ykkar og endurskoðanda ykkar. Dagsetningar reglugerða og kortlagningar í Nexus eru ekki lögfræðileg ráðgjöf, og lögfræðingur ykkar ætti að lesa reglurnar sem gilda um ykkur.