Přihlásit seDomluvit prezentaci

Kapitola 1.5

Důvěra a soulad s předpisy

Části systému Nexus, ve kterých se pohybuje manažer pro soulad s předpisy (compliance officer). Zahrnuje auditní protokol a zapečetěné záznamy, schválení vyžadující druhou osobu a rozhodnutí umělé inteligence (AI) čekající na revizi. Končí žádostmi týkajícími se osobních údajů a stránkami souladu s předpisy, které udržují důkazy připravené dříve, než o ně požádá auditor.

Tato stránka byla přeložena pomocí AI z anglického originálu. Pokud je cokoliv nejasné, směrodatná je anglická stránka. Přečíst tuto stránku v angličtině

12 min čtení

Ruairí Feltham je pověřencem pro ochranu osobních údajů ve společnosti Harrow Port Authority. Jeho pondělí začíná frontou rozhodnutí, která přes noc učinila AI a která nemohou nabýt účinnosti, dokud se na ně nepodívá člověk. Do deseti hodin odpoví na žádost bývalé zaměstnankyně o její osobní údaje, přičemž mu ze lhůty zbývá ještě jedenáct dní. Po obědě si externí auditor vyžádá důkaz o tom, že v minulém čtvrtletí proběhl test obnovy dat. Ruairí sestaví v systému Nexus balíček důkazů a ještě než jej odešle, balíček mu jednou větou sdělí tu jedinou věc, která v něm chybí.

Nic z toho není samostatný produkt pro soulad s předpisy přilepený bokem. Je to tentýž záznam, který si Nexus vede o všem, čtený prostřednictvím stránek vytvořených pro lidi, kteří se zodpovídají regulačním orgánům. Tato kapitola vás jimi provede.

Auditní protokol

Každý úkon v systému Nexus zanechá řádek v auditním protokolu. Řádek zaznamenává, kdo jednal a co udělal. Zaznamenává také, kdy k tomu došlo a zda byl úkon proveden, nebo zamítnut. Každý záznam uvádí, zda vzešel z obrazovky, nebo ze skriptu. Nahlížení do auditního protokolu je samo o sobě úkonem, takže se zaznamenává rovněž.

Protokol lze zúžit podle oblasti, výsledku nebo osoby, která jednala, a vyhledávat v něm podle slov. V edici Community uchovává záznamy po dobu 30 dnů a umožňuje je kdykoli exportovat do tabulkového souboru, což platí i přesto, že zbytek stránek pro soulad s předpisy patří do edice Enterprise. Edice Enterprise uchovává protokol po celé roky a dokáže jej již při zápisu streamovat do vašeho vlastního systému pro monitorování bezpečnosti.

Auditní protokol
Auditní protokol
Auditní protokol. Každý záznam uvádí, kdo jednal, co udělal a kdy. Všimněte si, že uvádí také to, zda byl úkon proveden, nebo zamítnut.

Zapečetěné záznamy, které může kdokoli zkontrolovat

Auditní protokol odpovídá na otázku „co se stalo“. U závažných rozhodnutí se však regulační orgán zeptá také na to, zda nemohl být záznam dodatečně změněn. Na to Nexus odpovídá zapečetěnými záznamy.

Zapečetěný záznam uchovává informace o tom, kdo rozhodl, na základě jakých důkazů a podle jakých pravidel, a je zapečetěn časovým razítkem zvenčí instalace. Pokud později změníte jediný znak, kontrola selže. Tuto kontrolu může spustit kdokoli pomocí otevřeného ověřovače, který je součástí každé edice a nevyžaduje žádný účet. Nikam nic neodesílá. Na pracovišti zcela izolovaném od sítě (air-gapped), jako je Harrow, jsou časová razítka osvědčována uvnitř pracoviště a záznamy při pozdější kontrole přesto obstojí.

Doplněk Rozhodovací místnosti a zapečetěné záznamy posouvá tento princip u zásadních rozhodnutí ještě dále. Rozhodovací místnost shromažďuje otázku a důkazy, přičemž nabízí křesla pro lidi, kteří musí být vyslyšeni, a křesla pro AI, která předkládá argumenty pro každou ze stran. Místnosti předsedá jmenovaná osoba, kterou nikdy není ten, kdo změnu navrhl. Předsedající vynese rozhodnutí s písemným odůvodněním a podepíše je přístupovým klíčem (passkey), načež je rozhodnutí zapečetěno spolu se zbytkem záznamu.

Druhá ověření a schvalování čtyřma očima

Dva různé ochranné mechanismy sdílejí myšlenku „druhého prvku“ a je užitečné je od sebe odlišovat. Druhá kontrola je dodatečný krok při přihlašování, například přístupový klíč (passkey) po zadání hesla, a kapitola 1.3, Vaše organizace, její lidé a co zůstává soukromé, vysvětluje, jak ji organizace vyžaduje. Schvalování čtyřma očima se týká změn: některé změny čekají před svým provedením na druhou osobu.

V edici Enterprise rozhodují zásady organizace o tom, které změny vyžadují druhou osobu. Typickými příklady jsou zkrácení doby uchovávání záznamů, snížení čerpaného rozpočtu, odebrání platformy organizační jednotce a export kanálu týmového chatu. Žádost čeká na stránce Schvalování čtyřma očima, dokud nezíská všechna potřebná schválení. Pokud ji jedna osoba zamítne a uvede důvod, žádost končí. Žádost, o které nikdo včas nerozhodne, propadá a změna se neprovede.

Nikdo neschvaluje vlastní žádost. Když nouzová situace vyžaduje plný přístup, nouzový režim (break-glass) poskytne správci krátké časové okno za dohledu druhé osoby a každý krok je zaznamenán.

Rozhodnutí AI čekající na revizi

Některá využití AI jsou podle aktu EU o AI vysoce riziková a zákon u nich očekává lidský dohled. V systému Nexus je rozhodnutí učiněné v rámci vysoce rizikového využití pozastaveno. Čeká na stránce Rozhodnutí AI, dokud je nepřezkoumá člověk. Posuzovatel vidí, jak AI rozhodla a proč, spolu se zdroji, ze kterých čerpala. Může s rozhodnutím souhlasit, změnit je, nebo je zvrátit. Každá odpověď vyžaduje odůvodnění. Všechny tři odpovědi se podepisují přístupovým klíčem (passkey) posuzovatele. Zvrácení rozhodnutí vrátí práci zpět týmu a každá odpověď zanechá potvrzení v registru využití AI.

Rozhodnutí AI čekající na přezkum
Rozhodnutí AI čekající na revizi
Rozhodnutí AI čekající na přezkum. Seznam ukazuje, jak dlouho jednotlivá rozhodnutí čekají; karta vpravo zobrazuje rozhodnutí s jeho důvody a zdroji nad odpověďmi, které může posuzovatel zadat.

Fronta ukazuje, jak dlouho jednotlivá rozhodnutí čekají, takže hromadění nevyřízených položek je viditelné dříve, než se stane problémem.

Šest polí v řadě propojených šipkami zleva doprava: „AI rozhodne s uvedením důvodů a zdrojů“, „Pozastaveno: vysoce rizikové použití“, „Člověk provede kontrolu a podepíše pomocí přístupového klíče (passkey)“, „Souhlas nebo změna: nabývá účinnosti“, „Potvrzení uloženo v registru použití AI“ a „Balíček důkazů, zapečetěný při vydání“. Ze čtvrtého pole klesá větev k poli s popiskem „Zamítnutí: zpět týmu“, která se u potvrzení vrací zpět do hlavní linie. Pod posledním polem je malá ikona lupy s popiskem „Později zkontrolováno pomocí otevřeného ověřovače, účet není potřeba“.
Jak se jedno vysoce rizikové rozhodnutí AI stane důkazem, který může zkontrolovat auditor.

Žádosti týkající se osobních údajů

Podle obecného nařízení o ochraně osobních údajů (GDPR) se může fyzická osoba dotázat, jaké údaje o ní organizace uchovává, a požádat o jejich kopii nebo o jejich výmaz, přičemž organizace má na odpověď zpravidla měsíc. Každý člen v systému Nexus si může v jakékoli edici exportovat svá vlastní data a vymazat to, co mu patří. Žádosti zákazníků nebo bývalých zaměstnanců se v edici Enterprise zaznamenávají spolu s termíny jejich vyřízení.

U každé žádosti vyhledá Nexus záznamy dané osoby napříč soubory, poštou, chatem i pamětí asistenta a zobrazí je na jednom místě. Zákonné výjimky jsou uplatněny, nikoli ignorovány. Mzdové záznamy, které je podle zákona nutné uchovávat sedm let, zůstanou zachovány a Nexus ukáže proč. Samotný výmaz se provádí pomocí funkce Erase, což je jediná destruktivní akce v systému Nexus. Vyžaduje písemné odůvodnění a druhou osobu a zanechává trvalý záznam o tom, že k výmazu došlo (co bylo vymazáno, kdy a kdo to provedl), aniž by zachoval jakýkoli obsah.

Stránky souladu s předpisy

Edice Enterprise obsahuje oblast Soulad s předpisy s jednou stránkou pro každý soubor pravidel, kterému se organizace zodpovídá. Přehled uvádí každý balíček spolu s počty důkazů a otevřenými nedostatky vypsanými slovně včetně termínů splnění. Balíčky pokrývají akt EU o AI, GDPR a normu ISO 27001, spolu se směrnicí o bezpečnosti sítí a informací 2 (NIS2) a nařízením o digitální provozní odolnosti (DORA). Nejsou zde žádné bodové hodnoty ani známky. Informace „Chybí plán odchodu pro poskytovatele hostovaného modelu, termín 15. listopadu“ vám řekne více než procentuální údaj.

Stránka Akt EU o AI vede registr každého využití AI v organizaci. Každá položka zaznamenává svou třídu rizika a osobu, která na ni dohlíží. Uvádí také, jak jsou informovány dotčené osoby, a uchovává posouzení vlivu a případné incidenty. Pravidla pro vysoce rizikové systémy platí od 2. prosince 2027 pro využití, jako je úvěrové hodnocení (credit scoring) a stanovování cen životního a zdravotního pojištění, ve znění aktu Digital Omnibus.

Stránka GDPR a ochrana osobních údajů uchovává záznamy o činnostech zpracování: účel, právní základ, dotčené údaje, dobu uchovávání a předávání. Vedle nich jsou uvedeny žádosti s příslušnými lhůtami. Záznamy o souhlasech a případy porušení zabezpečení mají své vlastní seznamy.

Stránka Incidenty NIS2 a DORA vede registr incidentů, kde je každý odpočet pro hlášení vykreslen jako časová osa: včasné varování do 24 hodin, oznámení do 72 hodin a závěrečná zpráva do jednoho měsíce. Odpočet se spouští v okamžiku klasifikace incidentu, takže opožděné oznámení se zobrazí jako opožděné.

Incidenty NIS2 a DORA
Incidenty podle NIS2 a DORA
Incidenty NIS2 a DORA. Lhůty pro hlášení každého incidentu se zobrazují jako data na časové ose, takže na první pohled vidíte nejbližší nadcházející termín.

Balíčky důkazů a kontrolní mechanismy

Auditor zřídkakdy chce všechno. Chce přesně to, o co požádal. Balíček důkazů se sestavuje z živých záznamů pro jmenovaného kontrolora a je namapován na jednotlivá kontrolní opatření. Při vydání se zapečetí. Než jej odešlete, balíček srozumitelně vypíše, co v něm chybí, například test obnovy, který sice proběhl, ale jehož výsledek nebyl nikdy přiložen. O několik měsíců později si můžete ověřit, že starší balíček stále platí. Právní blokace (legal holds) fungují souběžně s balíčky: blokace zastaví mazání toho, na co se vztahuje, export vybere přesně to, co je blokováno, a její uvolnění zanechá záznam.

Balíčky důkazů
Balíčky důkazů
Balíčky důkazů. Všimněte si řádku vysvětlujícího, co pečeť pokrývá: vše uvnitř se stalo před ní a časové razítko přichází až po ní.

Jedno kontrolní opatření často splňuje několik pravidel. „Lidský dohled nad vysoce rizikovou AI“ vyhovuje současně článku GDPR a článku aktu o AI (AI Act). Stránka kontrolních opatření mapuje každé opatření jednou ke každému rámci, který splňuje: GDPR, NIS2, DORA, ISO/IEC 27001 a EU AI Act. Každé kontrolní opatření má svého vlastníka a datum, kdy bylo naposledy testováno. Jeden důkaz pak slouží několika rámcům.

Hodnocení, jako je čtvrtletní přezkum ISO 27001, se procházejí opatření po opatření s odpověďmi a důkazy. Cestou se odhalují nedostatky a výsledek schvaluje svým podpisem druhá osoba. Pracovník, který hodnocení provedl, nemůže podepsat své vlastní. Pro každý systém AI shromažďuje technická dokumentace to, co vyžaduje AI Act (účel systému, data, testování, dohled, rizika a záznamy), a ukazuje, nakolik je kompletní. Pokud ji vyexportujete před dokončením, každá stránka bude označena jako návrh.

Dodavatelé a podezřelá přihlášení

Registr dodavatelů uvádí každou externí firmu, která nakládá s vašimi daty nebo pro vás provozuje službu. U každé zaznamenává, co firma zpracovává, kdy končí smlouva, kdy proběhla poslední kontrola a jak byste spolupráci ukončili. Kritická funkce bez únikové cesty se zbarví oranžově, což je přesně to, co kontrolor DORA hledá. U vyřazeného dodavatele se záznamy uchovávají po dobu sedmi let.

Podezřelá přihlášení jsou označována okamžitě, jakmile k nim dojde. Jedním z příznaků je nemožné cestování, například přihlášení z Harrow a o čtyřicet minut později z jiného kontinentu. Dalšími jsou nová zařízení a série neúspěšných pokusů. Každý případ se zobrazí na vlastní stránce spolu s tím, co už ohledně něj Nexus podnikl. Pověřený pracovník každý případ potvrdí nebo uzavře jako prověřený. Vedle toho se nacházejí povolené a blokované rozsahy adres a Nexus odmítne pravidlo, které by zablokovalo přístup administrátorovi, jenž ho právě vytváří.

Co Nexus nedělá

Nexus uchovává záznamy, mapuje je na pravidla a sestavuje důkazy. Necertifikuje vás a nedává vám skóre souladu s předpisy. Certifikace zůstává záležitostí mezi vámi a vaším auditorem. Regulační termíny a mapování v systému Nexus nejsou právním poradenstvím a pravidla, která se na vás vztahují, by měl posoudit váš právní zástupce.