AnmeldenBriefing buchen
Teil 1: Für alle
Version 1.0.0-alpha.1aktuell

Kapitel 1.5

Vertrauen und Compliance

Die Bereiche von Nexus, in denen ein Compliance-Beauftragter zu Hause ist. Behandelt werden das Audit-Protokoll und versiegelte Datensätze, Freigaben, die eine zweite Person erfordern, sowie Entscheidungen der künstlichen Intelligenz (KI), die auf Überprüfung warten. Den Abschluss bilden Auskunftsanfragen zu personenbezogenen Daten und die Compliance-Seiten, die Nachweise bereithalten, noch bevor ein Prüfer danach fragt.

Diese Seite wurde mithilfe von KI aus dem englischen Original übersetzt. Bei Unklarheiten gilt die englische Seite als Referenz. Diese Seite auf Englisch lesen

12 Minuten Lesezeit

Ruairí Feltham ist der Datenschutzbeauftragte bei der Harrow Port Authority. Sein Montag beginnt mit einer Warteschlange von Entscheidungen, die eine KI über Nacht getroffen hat und die erst wirksam werden können, wenn ein Mensch sie geprüft hat. Bis zehn Uhr hat er die Anfrage einer ehemaligen Mitarbeiterin nach ihren personenbezogenen Daten beantwortet – elf Tage vor Ablauf der Frist. Nach dem Mittagessen bittet ein externer Prüfer um den Nachweis, dass der Wiederherstellungstest des letzten Quartals stattgefunden hat. Ruairí stellt das Paket in Nexus zusammen, und bevor er es absendet, teilt ihm das Paket in einem Satz mit, welches eine Detail noch fehlt.

Nichts davon ist ein separates, nachträglich angeflanschtes Compliance-Produkt. Es sind dieselben Aufzeichnungen, die Nexus ohnehin über alles führt, aufbereitet auf Seiten für diejenigen, die gegenüber Aufsichtsbehörden Rechenschaft ablegen. Dieses Kapitel führt durch diese Seiten.

Das Audit-Protokoll

Jeder Vorgang in Nexus hinterlässt eine Zeile im Audit-Protokoll. Die Zeile hält fest, wer gehandelt hat und was getan wurde. Sie erfasst außerdem, wann dies geschah und ob der Vorgang ausgeführt oder abgelehnt wurde. Jeder Eintrag gibt an, ob er über einen Bildschirm oder ein Skript ausgelöst wurde. Auch der Blick in das Audit-Protokoll selbst ist ein Vorgang und wird daher ebenfalls protokolliert.

Das Protokoll lässt sich nach Bereich, Ergebnis oder der handelnden Person eingrenzen und nach Wörtern durchsuchen. In Community wird es 30 Tage lang aufbewahrt und lässt sich jederzeit in eine Tabellenkalkulationsdatei exportieren; das gilt auch, obwohl die übrigen Compliance-Seiten zu Enterprise gehören. Enterprise bewahrt das Protokoll über Jahre hinweg auf und kann es bereits beim Schreiben an Ihr eigenes Sicherheitsüberwachungssystem übertragen.

Das Audit-Protokoll
Das Audit-Protokoll
Das Audit-Protokoll. Jeder Eintrag gibt an, wer wann gehandelt und was getan hat. Beachten Sie, dass dort auch steht, ob der Vorgang ausgeführt oder abgelehnt wurde.

Versiegelte Datensätze, die jeder überprüfen kann

Ein Audit-Protokoll beantwortet die Frage, „was passiert ist“. Bei weitreichenden Entscheidungen wird eine Aufsichtsbehörde auch fragen, ob der Eintrag nachträglich hätte geändert werden können. Nexus beantwortet dies mit versiegelten Einträgen.

Ein versiegelter Eintrag hält fest, wer auf welcher Nachweisgrundlage und nach welchen Regeln entschieden hat, und wird mit einem Zeitstempel von außerhalb der Installation versiegelt. Wird später auch nur ein Zeichen geändert, schlägt die Prüfung fehl. Jeder kann diese Prüfung mit dem offenen Prüfwerkzeug durchführen, das in jeder Edition enthalten ist und kein Konto erfordert. Es sendet keinerlei Daten nach außen. An einem vom Netz getrennten (Air-Gapped) Standort wie Harrow werden Zeitstempel innerhalb des Standorts beglaubigt, und die Einträge bestehen die Prüfung auch später noch.

Das Add-on „Entscheidungsräume und versiegelte Einträge“ führt dies für die großen Weichenstellungen noch weiter. Ein Entscheidungsraum bündelt die Fragestellung und die Nachweise, bietet Plätze für die Personen, die angehört werden müssen, sowie KI-Plätze, die für jede Seite argumentieren. Den Vorsitz führt eine namentlich benannte Person, die niemals diejenige ist, die die Änderung vorgeschlagen hat. Die vorsitzende Person entscheidet mit einer schriftlichen Begründung und unterzeichnet mit einem Passkey; der Beschluss wird zusammen mit dem restlichen Eintrag versiegelt.

Zweitprüfungen und Vier-Augen-Freigaben

Zwei verschiedene Schutzmechanismen teilen den Gedanken einer „zweiten Instanz“, und es ist hilfreich, sie auseinanderzuhalten. Eine zweite Prüfung ist der zusätzliche Schritt bei der Anmeldung, etwa ein Passkey nach einem Passwort, und Kapitel 1.3, Ihre Organisation, ihre Menschen und was privat bleibt, erläutert, wie eine Organisation dies vorschreibt. Bei der Vier-Augen-Freigabe geht es um Änderungen: Bestimmte Änderungen warten auf eine zweite Person, bevor sie wirksam werden.

In Enterprise legen die Richtlinien der Organisation fest, welche Änderungen eine zweite Person erfordern. Typische Beispiele sind das Verkürzen von Aufbewahrungsfristen für Einträge, das Senken eines laufenden Budgets, das Entziehen einer Plattform für eine Einheit und das Exportieren eines Team-Chat-Kanals. Ein Antrag wartet auf der Seite für Vier-Augen-Freigaben, bis alle erforderlichen Genehmigungen vorliegen. Lehnt eine Person ihn mit einer Begründung ab, ist er beendet. Ein Antrag, über den niemand rechtzeitig entscheidet, verfällt, und die Änderung wird nicht vorgenommen.

Niemand genehmigt seinen eigenen Antrag. Wenn ein Notfall vollen Zugriff erfordert, räumt das Break-Glass-Verfahren einem Administrator unter Aufsicht einer zweiten Person ein kurzes Zeitfenster ein, wobei jeder Schritt protokolliert wird.

KI-Entscheidungen, die auf Überprüfung warten

Bestimmte Einsätze von KI gelten nach dem EU AI Act als hochriskant, und das Gesetz verlangt dafür eine menschliche Aufsicht. In Nexus wird eine Entscheidung, die in einem solchen Hochrisiko-Einsatz getroffen wurde, zurückgehalten. Sie wartet auf der Seite für KI-Entscheidungen, bis ein Mensch sie prüft. Die prüfende Person sieht, was die KI entschieden hat und warum, zusammen mit den gelesenen Quellen. Sie kann der Entscheidung zustimmen, sie ändern oder sie aufheben. Jede Antwort erfordert eine Begründung. Alle drei Antworten werden mit dem Passkey der prüfenden Person unterzeichnet. Eine Aufhebung gibt die Arbeit an das Team zurück, und jede Antwort hinterlässt einen Beleg im Verzeichnis der KI-Einsätze.

KI-Entscheidungen, die auf Prüfung warten
KI-Entscheidungen, die auf Überprüfung warten
KI-Entscheidungen, die auf Prüfung warten. Die Liste zeigt, wie lange jede Entscheidung bereits wartet; die Karte rechts zeigt die Entscheidung mit ihren Begründungen und Quellen über den Antwortmöglichkeiten, die eine prüfende Person geben kann.

Die Warteschlange zeigt an, wie lange jede Entscheidung bereits wartet, sodass ein Rückstau sichtbar wird, bevor er zum Problem wird.

Sechs Kästchen in einer Reihe, von links nach rechts durch Pfeile verbunden: „Die KI entscheidet, mit Begründungen und Quellen“, „Zurückgehalten: Hochrisiko-Einsatz“, „Eine Person prüft und unterzeichnet mit einem Passkey“, „Zustimmen oder ändern: wird wirksam“, „Beleg wird im Verzeichnis der KI-Einsätze aufbewahrt“ und „Nachweispaket, bei Ausstellung versiegelt“. Vom vierten Kästchen zweigt ein Pfad nach unten zu einem Kästchen mit der Beschriftung „Aufheben: zurück an das Team“ ab, das beim Beleg wieder in die Hauptlinie mündet. Unter dem letzten Kästchen befindet sich ein kleines Lupensymbol mit der Beschriftung „Später mit dem offenen Prüfwerkzeug kontrolliert, kein Konto erforderlich“.
Wie eine hochriskante KI-Entscheidung zu einem Nachweis wird, den ein Prüfer kontrollieren kann.

Anfragen zu personenbezogenen Daten

Nach der Datenschutz-Grundverordnung (DSGVO) kann eine Person Auskunft darüber verlangen, welche Daten eine Organisation über sie speichert, und eine Kopie oder die Löschung dieser Daten fordern; die Organisation hat für die Antwort normalerweise einen Monat Zeit. Jedes Mitglied von Nexus kann in jeder Edition die eigenen Daten exportieren und löschen. Anfragen von Kunden oder ehemaligen Mitarbeitenden werden in Enterprise mit ihren Fälligkeitsterminen protokolliert.

Für jede Anfrage sucht Nexus die Einträge der Person über Dateien und E-Mails hinweg, im Chat sowie im Gedächtnis des Assistenten und zeigt sie an einem Ort an. Gesetzliche Ausnahmen werden angewendet statt ignoriert. Gehaltsabrechnungen, die laut Gesetz sieben Jahre lang aufbewahrt werden müssen, bleiben erhalten, und Nexus zeigt an, warum. Die Löschung selbst erfolgt über „Löschen“ (Erase), die einzige destruktive Aktion in Nexus. Sie erfordert eine schriftliche Begründung und eine zweite Person und hinterlässt einen dauerhaften Eintrag darüber, dass die Löschung stattgefunden hat (was wann und von wem gelöscht wurde), ohne Inhalte aufzubewahren.

Die Compliance-Seiten

Enterprise verfügt über einen Compliance-Bereich mit einer eigenen Seite für jedes Regelwerk, dem eine Organisation unterliegt. Die Übersicht listet jedes Paket mit der Anzahl der Nachweise sowie den offenen Lücken auf, die ausformuliert und mit Fälligkeitsterminen versehen sind. Die Pakete decken den EU AI Act, die DSGVO und ISO 27001 sowie die Richtlinie über Maßnahmen für ein hohes gemeinsames Cybersicherheitsniveau 2 (NIS2) und die Verordnung über die digitale operationale Resilienz (DORA) ab. Es gibt keine Punktzahlen oder Noten. „Ausstiegsplan für den Anbieter des gehosteten Modells fehlt, fällig am 15. November“ sagt Ihnen mehr als ein Prozentwert.

Die Seite EU AI Act führt das Verzeichnis sämtlicher KI-Einsätze in der Organisation. Jeder Eintrag erfasst die Risikoklasse und die Person, die die Aufsicht führt. Er gibt außerdem an, wie betroffene Personen informiert werden, und enthält die Folgenabschätzung sowie etwaige Vorfälle. Die Regeln für Hochrisiko-Systeme gelten ab dem 2. Dezember 2027 für Einsatzbereiche wie Kreditwürdigkeitsprüfungen sowie die Tarifierung von Lebens- und Krankenversicherungen, in der durch den Digital Omnibus geänderten Fassung.

Die Seite DSGVO und Datenschutz enthält die Verzeichnisse von Verarbeitungstätigkeiten: Zweck, Rechtsgrundlage, betroffene Daten, Aufbewahrung und Übermittlungen. Daneben stehen die Anfragen mit ihren Fristen. Einwilligungsnachweise und Datenschutzverletzungen werden in eigenen Listen geführt.

Die Seite NIS2- und DORA-Vorfälle führt das Vorfallverzeichnis, wobei jede Meldefrist als Zeitstrahl dargestellt wird: die Frühwarnung innerhalb von 24 Stunden, die Meldung innerhalb von 72 Stunden und der Abschlussbericht innerhalb eines Monats. Eine Frist beginnt zu laufen, sobald ein Vorfall eingestuft wird, sodass eine verspätete Meldung auch als verspätet ausgewiesen wird.

NIS2- und DORA-Vorfälle
NIS2- und DORA-Vorfälle
NIS2- und DORA-Vorfälle. Die Meldefristen jedes Vorfalls erscheinen als Daten auf einem Zeitstrahl, sodass auf einen Blick erkennbar ist, welche als Nächstes ansteht.

Nachweispakete und Kontrollen

Ein Prüfer möchte selten alles sehen. Er möchte genau das, wonach er gefragt hat. Ein Nachweispaket wird aus laufenden Einträgen für einen namentlich benannten Prüfer zusammengestellt und jeder Kontrolle zugeordnet. Bei der Ausstellung wird es versiegelt. Vor dem Absenden listet das Paket in klaren Worten auf, was noch fehlt, etwa ein Wiederherstellungstest, der zwar durchgeführt, dessen Ergebnis aber nie angehängt wurde. Monate später können Sie überprüfen, ob ein älteres Paket noch gültig ist. Gesetzliche Aufbewahrungssperren (Legal Holds) greifen Hand in Hand mit den Paketen: Eine Sperre verhindert das Löschen der erfassten Daten, ein Export übernimmt genau die gesperrten Bestände, und die Aufhebung der Sperre hinterlässt einen Eintrag.

Nachweispakete
Nachweispakete
Nachweispakete. Beachten Sie die Zeile, die erläutert, was das Siegel abdeckt: Alles darin Enthaltene geschah davor, und der Zeitstempel folgt danach.

Eine einzige Kontrolle erfüllt oft mehrere Regeln. „Menschliche Aufsicht über Hochrisiko-KI“ genügt gleichzeitig einem Artikel der DSGVO und einem des AI Act. Die Kontrollseite ordnet jede Kontrolle einmalig jedem Rahmenwerk zu, das sie abdeckt: DSGVO, NIS2, DORA, ISO/IEC 27001 und dem EU AI Act. Jede Kontrolle hat einen Verantwortlichen und das Datum des letzten Tests. Ein einziger Nachweis dient somit mehreren Rahmenwerken.

Bewertungen, wie etwa eine vierteljährliche Überprüfung nach ISO 27001, werden Kontrolle für Kontrolle mit Antworten und Nachweisen abgearbeitet. Lücken werden dabei direkt erfasst, und eine zweite Person gibt das Ergebnis frei. Der Beauftragte, der die Bewertung durchgeführt hat, kann sie nicht selbst abzeichnen. Für jedes KI-System bündelt eine technische Dokumentation das, was der AI Act verlangt (Zweck, Daten, Tests, Aufsicht, Risiken und Protokolle), und zeigt den Grad der Vollständigkeit an. Exportieren Sie eine Dokumentation, bevor sie vollständig ist, wird jede Seite als Entwurf gekennzeichnet.

Lieferanten und verdächtige Anmeldungen

Das Lieferantenverzeichnis listet jedes externe Unternehmen auf, das Ihre Daten verarbeitet oder einen Dienst für Sie betreibt. Für jedes Unternehmen wird festgehalten, was es verarbeitet, wann der Vertrag endet, wann es zuletzt überprüft wurde und wie Sie aussteigen könnten. Eine kritische Funktion ohne Ausstiegsmöglichkeit färbt sich gelb – genau das, wonach ein DORA-Prüfer sucht. Für einen ausgeschiedenen Lieferanten werden die Einträge sieben Jahre lang aufbewahrt.

Verdächtige Anmeldungen werden sofort beim Auftreten markiert. Unmögliche Reisen sind ein solches Anzeichen, etwa eine Anmeldung aus Harrow und vierzig Minuten später von einem anderen Kontinent. Neue Geräte und Serien von Fehlversuchen sind weitere. Jeder Fall erscheint auf einer eigenen Seite, zusammen mit den Maßnahmen, die Nexus bereits ergriffen hat. Ein Beauftragter bestätigt jeden Fall oder gibt ihn frei. Daneben befinden sich Listen erlaubter und gesperrter Adressbereiche, und Nexus verweigert eine Regel, mit der sich der Administrator, der sie gerade schreibt, selbst aussperren würde.

Was Nexus nicht tut

Nexus führt die Aufzeichnungen, ordnet sie den Regeln zu und stellt die Nachweise zusammen. Es zertifiziert Sie nicht und vergibt keinen Compliance-Score. Die Zertifizierung bleibt eine Angelegenheit zwischen Ihnen und Ihrem Prüfer. Die regulatorischen Fristen und Zuordnungen in Nexus stellen keine Rechtsberatung dar; Ihre Rechtsabteilung sollte die für Sie geltenden Vorschriften prüfen.