PrijavaZakažite brifing
Deo 1: Za sve
Verzija 1.0.0-alpha.1najnovije

Poglavlje 1.5

Poverenje i usklađenost

Delovi sistema Nexus u kojima službenik za usklađenost provodi najviše vremena. Obuhvata dnevnik revizije i zapečaćene zapise, odobrenja kojima je potrebna druga osoba i odluke veštačke inteligencije (AI) koje čekaju pregled. Završava se zahtevima u vezi sa ličnim podacima i stranicama za usklađenost koje drže dokaze spremnim pre nego što ih revizor zatraži.

Ovu stranicu je sa engleskog originala prevela AI tehnologija. Ako nešto nije jasno, merodavna je stranica na engleskom. Pročitajte ovu stranicu na engleskom

12 min čitanja

Ruairí Feltham je službenik za zaštitu podataka u Harrow Port Authority. Njegov ponedeljak počinje redom odluka koje je AI doneo tokom noći i koje ne mogu stupiti na snagu dok ih neka osoba ne pregleda. Do deset časova odgovorio je na zahtev bivše zaposlene za njene lične podatke, a ostalo mu je još jedanaest dana. Posle ručka spoljni revizor traži dokaz da je test vraćanja podataka iz prethodnog kvartala sproveden. Ruairí sastavlja paket u Nexus-u, a pre nego što ga pošalje, paket mu u jednoj rečenici kaže šta mu jedino nedostaje.

Ništa od toga nije zaseban proizvod za usklađenost, nakačen sa strane. To je isti zapis koji Nexus vodi o svemu, prikazan kroz stranice napravljene za ljude koji odgovaraju regulatorima. Ovo poglavlje vas vodi kroz njih.

Dnevnik revizije

Svaka radnja u Nexus-u ostavlja red u revizorskom dnevniku. Taj red beleži ko je delovao i šta je uradio. Beleži i kada, kao i da li je radnja izvršena ili odbijena. Svaki zapis navodi da li potiče sa ekrana ili iz skripte. Pregledanje revizorskog dnevnika je i samo radnja, pa se i ono beleži.

Dnevnik se može suziti po oblasti, ishodu ili osobi koja je delovala, i pretraživati po rečima. U izdanju Community čuva se 30 dana i u svakom trenutku može da se izveze u datoteku tabele, i to važi iako ostale stranice za usklađenost pripadaju izdanju Enterprise. Enterprise čuva dnevnik godinama i može da ga prosleđuje u vaš sopstveni sistem za bezbednosni nadzor u trenutku upisa.

Revizorski dnevnik
Dnevnik revizije
Revizorski dnevnik. Svaki zapis navodi ko je delovao, šta je uradio i kada. Primetite da navodi i da li je radnja izvršena ili odbijena.

Zapečaćeni zapisi koje svako može da proveri

Revizorski dnevnik odgovara na pitanje „šta se dogodilo”. Za važne odluke regulator će pitati i da li je zapis mogao naknadno da bude izmenjen. Nexus na to odgovara zapečaćenim zapisima.

Zapečaćeni zapis sadrži ko je odlučio i na osnovu kojih dokaza, prema kojim pravilima, a zapečaćen je vremenskim žigom izvan instalacije. Ako se kasnije promeni jedan znak, provera ne uspeva. Tu proveru može da izvrši bilo ko pomoću otvorenog verifikatora, koji dolazi uz svako izdanje i ne zahteva nalog. On nigde ništa ne šalje. Na lokaciji bez mrežne veze, kao što je Harrow, vremenski žigovi se overavaju unutar lokacije, a zapisi i kasnije prolaze proveru.

Dodatak Sobe za odlučivanje i zapečaćeni zapisi ide korak dalje kod velikih odluka. Soba za odlučivanje okuplja pitanje i dokaze, sa mestima za ljude koji moraju biti saslušani i AI mestima koja zastupaju svaku stranu. Njome predsedava imenovana osoba, koja nikada nije ona koja je predložila izmenu. Predsedavajući donosi odluku uz pisano obrazloženje i potpisuje je pristupnim ključem (passkey), a odluka se pečati zajedno sa ostatkom zapisa.

Dodatne provere i odobrenja po principu četiri oka

Dve različite zaštitne mere dele ideju „drugog”, pa je korisno razlikovati ih. Druga provera je dodatni korak pri prijavi, na primer pristupni ključ posle lozinke, a poglavlje 1.3, Vaša organizacija, njeni ljudi i šta ostaje privatno, objašnjava kako je organizacija zahteva. Odobrenje po principu četiri oka odnosi se na izmene: neke izmene čekaju drugu osobu pre nego što se izvrše.

U izdanju Enterprise, politike organizacije određuju koje izmene zahtevaju drugu osobu. Tipični primeri su skraćivanje roka čuvanja zapisa, smanjenje budžeta koji se koristi, povlačenje platforme iz jedinice i izvoz kanala timskog četa. Zahtev čeka na stranici Odobrenja po principu četiri oka dok ne dobije sva potrebna odobrenja. Ako ga jedna osoba odbije, uz svoje obrazloženje, zahtev se okončava. Zahtev o kojem niko ne odluči na vreme ističe, a izmena se ne izvršava.

Niko ne odobrava sopstveni zahtev. Kada je u hitnom slučaju potreban potpun pristup, postupak hitnog pristupa (break-glass) daje administratoru kratak vremenski prozor uz nadzor druge osobe, a svaki korak se beleži.

AI odluke koje čekaju na pregled

Neke upotrebe AI tehnologije su visokorizične prema Aktu EU o veštačkoj inteligenciji (EU AI Act), a zakon za njih očekuje ljudski nadzor. U Nexus-u se odluka doneta u visokorizičnoj upotrebi zadržava. Ona čeka na stranici AI odluke dok je neka osoba ne pregleda. Pregledač vidi šta je AI odlučio i zašto, zajedno sa izvorima koje je pročitao. Može da se složi sa odlukom ili da je izmeni, a može i da je poništi. Svaki odgovor zahteva obrazloženje. Sva tri odgovora potpisuju se pregledačevim pristupnim ključem. Poništavanje vraća posao timu, a svaki odgovor ostavlja potvrdu u registru upotreba AI tehnologije.

AI odluke koje čekaju pregled
AI odluke koje čekaju na pregled
AI odluke koje čekaju pregled. Lista prikazuje koliko je dugo svaka odluka čekala; kartica desno prikazuje odluku sa obrazloženjem i izvorima, iznad odgovora koje pregledač može da da.

Red prikazuje koliko je dugo svaka odluka čekala, tako da je zaostatak vidljiv pre nego što postane problem.

Šest polja u nizu, povezanih strelicama sleva nadesno: „AI odlučuje, sa obrazloženjem i izvorima”, „Zadržano: visokorizična upotreba”, „Osoba pregleda i potpisuje pristupnim ključem”, „Slaganje ili izmena: stupa na snagu”, „Potvrda se čuva u registru upotreba AI tehnologije” i „Paket dokaza, zapečaćen pri izdavanju”. Od četvrtog polja grana se spušta do polja označenog „Poništavanje: vraćeno timu”, koja se ponovo spaja sa nizom kod potvrde. Ispod poslednjeg polja nalazi se mala ikona lupe sa oznakom „Kasnije provereno otvorenim verifikatorom, nalog nije potreban”.
Kako jedna visokorizična AI odluka postaje dokaz koji revizor može da proveri.

Zahtevi u vezi sa ličnim podacima

Prema Opštoj uredbi o zaštiti podataka (GDPR), osoba može da pita šta organizacija čuva o njoj i da zatraži kopiju, ili da zatraži brisanje, a organizacija obično ima mesec dana da odgovori. Svaki član Nexus-a može da izveze sopstvene podatke i obriše ono što je njegovo, u svakom izdanju. Zahtevi kupaca ili bivših zaposlenih beleže se u izdanju Enterprise sa rokovima.

Za svaki zahtev Nexus pronalazi zapise o osobi u datotekama i pošti, u četu i u memoriji asistenta, i prikazuje ih na jednom mestu. Zakonski izuzeci se primenjuju, a ne zanemaruju. Zapisi o zaradama koje zakon nalaže da se čuvaju sedam godina ostaju, a Nexus pokazuje zašto. Samo brisanje vrši se radnjom Erase, jedinom destruktivnom radnjom u Nexus-u. Ona zahteva pisano obrazloženje i drugu osobu, i ostavlja trajan zapis o tome da je brisanje izvršeno (šta je obrisano, kada i ko je to uradio), bez čuvanja ikakvog sadržaja.

Stranice za usklađenost

Enterprise ima oblast Usklađenost sa po jednom stranicom za svaki skup pravila kojima organizacija podleže. Pregled navodi svaki paket, sa brojem dokaza i otvorenim nedostacima opisanim rečima, sa rokovima. Paketi obuhvataju EU AI Act, GDPR i ISO 27001, kao i Direktivu o bezbednosti mreža i informacionih sistema 2 (NIS2) i Akt o digitalnoj operativnoj otpornosti (DORA). Nema bodova ni ocena. „Nedostaje plan izlaska za dobavljača hostovanog modela, rok 15. novembar” govori vam više nego što bi procenat.

Stranica EU AI Act vodi registar svake upotrebe AI tehnologije u organizaciji. Svaki unos beleži klasu rizika i osobu koja nadzire upotrebu. Navodi i kako se pogođene osobe obaveštavaju, i sadrži procenu uticaja i eventualne incidente. Pravila za visok rizik primenjuju se od 2. decembra 2027. na upotrebe kao što su ocena kreditne sposobnosti i određivanje cena životnog i zdravstvenog osiguranja, u skladu sa izmenama iz Digital Omnibus paketa.

Stranica GDPR i zaštita podataka sadrži evidenciju obrade: svrhu, pravni osnov, podatke na koje se odnosi, čuvanje i prenose. Zahtevi stoje pored nje sa svojim rokovima. Zapisi o saglasnosti i povrede podataka imaju sopstvene liste.

Stranica NIS2 i DORA incidenti vodi registar incidenata, pri čemu je svaki rok za izveštavanje prikazan kao vremenska linija: rano upozorenje u roku od 24 sata, obaveštenje u roku od 72 sata i završni izveštaj u roku od mesec dana. Rok počinje da teče kada se incident klasifikuje, tako da se zakasnelo obaveštenje prikazuje kao zakasnelo.

NIS2 i DORA incidenti
NIS2 i DORA incidenti
NIS2 i DORA incidenti. Rokovi za izveštavanje o svakom incidentu prikazani su kao datumi na vremenskoj liniji, tako da je sledeći rok uočljiv na prvi pogled.

Paketi dokaza i kontrole

Revizor retko želi sve. Želi tačno ono što je tražio. Paket dokaza sastavlja se iz aktuelnih zapisa za imenovanog ispitivača i mapira se na svaku kontrolu. Pečati se u trenutku izdavanja. Pre nego što ga pošaljete, paket jasnim rečima navodi šta nedostaje, na primer test vraćanja podataka koji je sproveden, ali čiji rezultat nikada nije priložen. Mesecima kasnije možete proveriti da li stariji paket i dalje važi. Pravna zadržavanja funkcionišu uz pakete: zadržavanje sprečava brisanje onoga što obuhvata, izvoz preuzima tačno ono što je zadržano, a ukidanje zadržavanja ostavlja zapis.

Paketi dokaza
Paketi dokaza
Paketi dokaza. Primetite red koji objašnjava šta pečat obuhvata: sve što je unutra dogodilo se pre njega, a vremenski žig dolazi posle.

Jedna kontrola često odgovara na više pravila. „Ljudski nadzor visokorizične AI tehnologije” istovremeno ispunjava jedan član GDPR-a i jedan član AI Act-a. Stranica kontrola mapira svaku kontrolu jednom na svaki okvir koji ispunjava: GDPR, NIS2, DORA, ISO/IEC 27001 i EU AI Act. Svaka kontrola ima vlasnika i datum poslednjeg testiranja. Jedan dokaz tako služi za više okvira.

Procene, kao što je kvartalni ISO 27001 pregled, sprovode se kontrolu po kontrolu, sa odgovorima i dokazima. Nedostaci se otkrivaju usput, a druga osoba odobrava rezultat. Službenik koji je sproveo procenu ne može da odobri sopstvenu. Za svaki AI sistem tehnička dokumentacija objedinjuje ono što AI Act zahteva (svrhu, podatke, testiranje, nadzor, rizike i dnevnike) i pokazuje koliko je potpuna. Ako je izvezete pre nego što je potpuna, svaka stranica biće označena kao nacrt.

Dobavljači i sumnjiva prijavljivanja

Registar dobavljača navodi svaku spoljnu firmu koja obrađuje vaše podatke ili za vas pruža uslugu. Za svaku beleži šta firma obrađuje, kada ističe ugovor, kada je poslednji put pregledana i kako biste izašli iz saradnje. Kritična funkcija bez izlaza postaje žuta, a to je upravo ono što DORA ispitivač traži. Povučeni dobavljač zadržava svoje zapise sedam godina.

Sumnjive prijave označavaju se u trenutku kada se dogode. Nemoguće putovanje je jedan znak, na primer prijava iz Harrow-a, a zatim sa drugog kontinenta četrdeset minuta kasnije. Novi uređaji i nizovi neuspelih pokušaja su drugi znaci. Svaki se prikazuje na sopstvenoj stranici, sa onim što je Nexus već preduzeo povodom toga. Službenik potvrđuje ili odbacuje svaki od njih. Dozvoljeni i blokirani opsezi adresa nalaze se pored toga, a Nexus odbija pravilo koje bi zaključalo administratora koji ga piše.

Šta Nexus ne radi

Nexus čuva zapise, mapira ih na pravila i sastavlja dokaze. On vas ne sertifikuje i ne daje vam ocenu usklađenosti. Sertifikacija ostaje stvar između vas i vašeg revizora. Regulatorni datumi i mapiranja u Nexus-u nisu pravni savet, a vaš pravni savetnik treba da pročita pravila koja se na vas primenjuju.