ConnexionPlanifier un briefing
Partie 1: Pour tous
Version 1.0.0-alpha.1dernière version

Chapitre 1.5

Confiance et conformité

Les espaces de Nexus dédiés au responsable de la conformité. Cette section couvre le journal d'audit et les enregistrements scellés, les approbations nécessitant une seconde personne et les décisions d'intelligence artificielle (IA) en attente d'examen. Elle se termine par les demandes relatives aux données personnelles et les pages de conformité qui tiennent les preuves prêtes avant même qu'un auditeur ne les demande.

Cette page a été traduite par l'IA à partir de l'original en anglais. En cas de doute, la page en anglais fait foi. Lire cette page en anglais

12 minutes de lecture

Ruairí Feltham est le délégué à la protection des données de Harrow Port Authority. Son lundi commence par une file de décisions qu'une IA a prises pendant la nuit et qui ne peuvent prendre effet tant qu'une personne ne les a pas examinées. À dix heures, il a répondu à la demande d'accès aux données personnelles d'une ancienne employée, avec encore onze jours d'avance sur le délai. Après le déjeuner, un auditeur externe demande la preuve que le test de restauration du trimestre dernier a bien eu lieu. Ruairí constitue le dossier dans Nexus et, avant qu'il ne l'envoie, le dossier lui indique, en une phrase, le seul élément manquant.

Rien de tout cela n'est un produit de conformité distinct greffé après coup. C'est le même registre que Nexus tient de tout, lu à travers des pages conçues pour les personnes qui rendent des comptes aux régulateurs. Ce chapitre les passe en revue.

Le journal d'audit

Chaque acte dans Nexus laisse une ligne dans le journal d'audit. La ligne enregistre qui a agi et ce qui a été fait. Elle consigne également le moment, et si l'acte a été exécuté ou refusé. Chaque entrée précise si elle provient d'un écran ou d'un script. Consulter le journal d'audit est en soi un acte, qui est donc enregistré lui aussi.

Le journal peut être filtré par domaine, par résultat ou par la personne ayant agi, et faire l'objet d'une recherche par mots. Dans l'édition Community, il conserve 30 jours d'historique et s'exporte vers un fichier tableur à tout moment, et cela reste vrai même si le reste des pages de conformité appartient à l'édition Enterprise. L'édition Enterprise conserve le journal pendant des années et peut le diffuser en continu vers votre propre système de surveillance de la sécurité au fil de son écriture.

Le journal d'audit
Le journal d'audit
Le journal d'audit. Chaque enregistrement indique qui a agi, ce qui a été fait et quand. Notez qu'il précise également si l'acte a été exécuté ou refusé.

Des enregistrements scellés vérifiables par tous

Un journal d'audit répond à la question « que s'est-il passé ». Pour les décisions importantes, un régulateur demandera aussi si l'enregistrement a pu être modifié par la suite. Nexus y répond par des enregistrements scellés.

Un enregistrement scellé contient l'identité de la personne qui a pris la décision, sur la base de quelles preuves et selon quelles règles, et il est scellé par un horodatage provenant de l'extérieur de l'installation. Modifiez un seul caractère par la suite et la vérification échoue. N'importe qui peut effectuer cette vérification avec le vérificateur ouvert, qui est fourni avec chaque édition et ne nécessite aucun compte. Il n'envoie rien nulle part. Sur un site isolé (air-gapped) comme Harrow, les horodatages sont attestés à l'intérieur du site, et les enregistrements restent vérifiables ultérieurement.

Le module complémentaire Salles de décision et enregistrements scellés pousse ce principe plus loin pour les grandes décisions. Une salle de décision rassemble la question et les preuves, avec des sièges pour les personnes qui doivent être entendues et des sièges d'IA qui plaident chaque point de vue. Une personne nommée la préside, qui n'est jamais celle qui a proposé le changement. Le président statue avec un motif écrit et signe avec une clé d'accès (passkey), et la décision est scellée avec le reste de l'enregistrement.

Secondes vérifications et approbations à quatre yeux

Deux garanties différentes partagent l'idée d'« un second », et il est utile de les distinguer. Une seconde vérification est l'étape supplémentaire lors de la connexion, comme une clé d'accès après un mot de passe, et le chapitre 1.3, Votre organisation, ses membres et ce qui reste privé, explique comment une organisation l'exige. L'approbation à quatre yeux concerne les modifications : certaines modifications attendent une seconde personne avant d'avoir lieu.

Dans l'édition Enterprise, les politiques de l'organisation déterminent quelles modifications nécessitent une seconde personne. Les cas typiques sont la réduction de la durée de conservation des enregistrements, la baisse d'un budget en cours d'utilisation, le retrait d'une plateforme à une unité et l'exportation d'un canal de discussion d'équipe. Une demande attend sur la page Approbations à quatre yeux jusqu'à ce qu'elle réunisse toutes les approbations requises. Le refus d'une seule personne y met fin, avec son motif. Une demande sur laquelle personne ne statue à temps expire, et la modification n'est pas effectuée.

Personne n'approuve sa propre demande. Lorsqu'une urgence nécessite un accès complet, la procédure de bris de glace accorde à un administrateur un court créneau sous la surveillance d'une seconde personne, et chaque étape est enregistrée.

Décisions de l'IA en attente d'examen

Certaines utilisations de l'IA sont à haut risque en vertu du règlement européen sur l'IA (EU AI Act), et la loi exige une supervision humaine pour celles-ci. Dans Nexus, une décision prise dans le cadre d'une utilisation à haut risque est mise en attente. Elle reste sur la page Décisions de l'IA jusqu'à ce qu'une personne l'examine. L'examinateur voit ce que l'IA a décidé et pourquoi, avec les sources qu'elle a consultées. Il peut l'accepter ou la modifier, et il peut l'infirmer. Chaque réponse nécessite un motif. Les trois réponses sont signées avec la clé d'accès de l'examinateur. L'infirmation renvoie le travail à l'équipe, et chaque réponse laisse un reçu dans le registre des utilisations de l'IA.

Décisions de l'IA en attente d'examen
Décisions de l'IA en attente d'examen
Décisions de l'IA en attente d'examen. La liste indique depuis combien de temps chaque décision attend ; la fiche à droite affiche la décision avec ses motifs et ses sources, au-dessus des réponses qu'un examinateur peut donner.

La file d'attente indique depuis combien de temps chaque décision attend, de sorte qu'un retard accumulé est visible avant qu'il ne devienne un problème.

Six encadrés alignés, reliés par des flèches de gauche à droite : « L'IA décide, avec motifs et sources », « En attente : cas d'usage à haut risque », « Une personne examine et signe avec une clé d'accès », « Accepter ou modifier : prend effet », « Reçu conservé dans le registre des usages de l'IA » et « Dossier de preuves, scellé à l'émission ». Une branche descend du quatrième encadré vers un encadré intitulé « Rejeter : retour à l'équipe », qui rejoint la ligne au niveau du reçu. Sous le dernier encadré, une petite icône de loupe porte la mention « Vérifié ultérieurement avec le vérificateur ouvert, sans compte requis ».
Comment une décision de l'IA à haut risque devient une preuve qu'un auditeur peut vérifier.

Demandes relatives aux données personnelles

En vertu du Règlement général sur la protection des données (RGPD), une personne peut demander quelles informations une organisation détient à son sujet et en demander une copie, ou demander leur effacement, et l'organisation dispose normalement d'un mois pour répondre. Chaque membre de Nexus peut exporter ses propres données et effacer ce qui lui appartient, dans n'importe quelle édition. Les demandes de clients ou d'anciens membres du personnel sont consignées dans l'édition Enterprise avec leurs dates d'échéance.

Pour chaque demande, Nexus trouve les enregistrements de la personne à travers les fichiers et les courriels, dans le clavardage et dans la mémoire de l'assistant, et les affiche en un seul endroit. Les exceptions légales sont appliquées plutôt qu'ignorées. Les fiches de paie que la loi impose de conserver pendant sept ans restent en place, et Nexus explique pourquoi. L'effacement lui-même est effectué avec Effacer, la seule action destructrice dans Nexus. Elle nécessite un motif écrit et une seconde personne, et elle laisse une trace permanente attestant que l'effacement a eu lieu (ce qui a été effacé et quand, et qui l'a fait) sans conserver aucun contenu.

Les pages de conformité

L'édition Enterprise dispose d'un espace Conformité comprenant une page pour chaque corpus de règles auquel une organisation doit répondre. La vue d'ensemble répertorie chaque dossier, avec le nombre de preuves et les écarts ouverts rédigés en toutes lettres avec leurs dates d'échéance. Les dossiers couvrent le règlement européen sur l'IA (EU AI Act), le RGPD et la norme ISO 27001, ainsi que la directive sur la sécurité des réseaux et des systèmes d'information 2 (NIS2) et le règlement sur la résilience opérationnelle numérique (DORA). Il n'y a ni scores ni notes. « Plan de sortie manquant pour le fournisseur du modèle hébergé, échéance le 15 novembre » vous en dit plus qu'un pourcentage.

La page EU AI Act tient le registre de chaque utilisation de l'IA au sein de l'organisation. Chaque entrée consigne sa classe de risque et la personne qui la supervise. Elle indique également comment les personnes concernées sont informées, et conserve l'analyse d'impact ainsi que les éventuels incidents. Les règles relatives au haut risque s'appliquent à compter du 2 décembre 2027 pour des utilisations telles que l'évaluation du crédit et la tarification de l'assurance vie et maladie, telles que modifiées par le Digital Omnibus.

La page RGPD et protection des données conserve le registre des activités de traitement : finalité, base juridique, données concernées, durée de conservation et transferts. Les demandes figurent à leurs côtés avec leurs échéances. Les registres de consentement et les violations de données disposent de leurs propres listes.

La page Incidents NIS2 et DORA tient le registre des incidents avec chaque délai de notification représenté sous forme de chronologie : l'alerte précoce sous 24 heures, la notification sous 72 heures et le rapport final sous un mois. Le compte à rebours démarre lorsqu'un incident est classé, de sorte qu'une notification tardive apparaît comme étant en retard.

Incidents NIS2 et DORA
Incidents NIS2 et DORA
Incidents NIS2 et DORA. Les échéances de déclaration de chaque incident apparaissent sous forme de dates sur une frise chronologique, de sorte que la prochaine échéance est évidente d'un seul coup d'œil.

Dossiers de preuves et contrôles

Un auditeur veut rarement tout voir. Il veut exactement ce qu'il a demandé. Un dossier de preuves est constitué à partir d'enregistrements actifs pour un examinateur nommé et associé à chaque contrôle. Il est scellé lors de son émission. Avant que vous ne l'envoyiez, le dossier énumère en langage clair ce qui manque, comme un test de restauration qui a été exécuté mais dont le résultat n'a jamais été joint. Des mois plus tard, vous pouvez vérifier qu'un ancien dossier est toujours intègre. Les conservations légales fonctionnent de pair avec les dossiers : une conservation bloque la suppression de ce qu'elle couvre, une exportation extrait exactement ce qui est conservé, et sa levée laisse une trace.

Dossiers de preuves
Dossiers de preuves
Dossiers de preuves. Notez la ligne expliquant ce que couvre le scellé : tout ce qu'il contient s'est produit avant lui, et l'horodatage intervient après.

Un même contrôle répond souvent à plusieurs règles. « Surveillance humaine de l'IA à haut risque » satisfait simultanément à un article du RGPD et à un article de l'AI Act. La page des contrôles associe chaque contrôle une seule fois à tous les référentiels auxquels il répond : le RGPD, NIS2, DORA, l'ISO/IEC 27001 et l'AI Act de l'UE. Chaque contrôle a un responsable et la date de son dernier test. Une seule preuve sert alors à plusieurs référentiels.

Les évaluations, telles qu'une revue trimestrielle ISO 27001, sont traitées contrôle par contrôle avec des réponses et des preuves. Les écarts sont relevés au fur et à mesure, et une deuxième personne valide le résultat. Le responsable qui a mené l'évaluation ne peut pas valider la sienne. Pour chaque système d'IA, un dossier technique rassemble ce qu'exige l'AI Act (sa finalité, ses données, ses tests, sa surveillance, ses risques et ses journaux) et indique son degré d'avancement. Si vous en exportez un avant qu'il ne soit complet, chaque page porte la mention de brouillon.

Fournisseurs et connexions suspectes

Le registre des fournisseurs répertorie chaque entreprise externe qui traite vos données ou assure un service pour vous. Pour chacune, il consigne ce qu'elle traite, la date de fin du contrat, la date de sa dernière révision et votre stratégie de sortie. Une fonction critique sans stratégie de sortie passe à l'orange, ce qui correspond exactement à ce que recherche un inspecteur DORA. Un fournisseur retiré conserve ses enregistrements pendant sept ans.

Les connexions suspectes sont signalées en temps réel. Le déplacement impossible en est un indice, comme une connexion depuis Harrow suivie d'une autre depuis un autre continent quarante minutes plus tard. Les nouveaux appareils et les séries d'échecs en sont d'autres. Chacune apparaît sur sa propre page, avec les mesures déjà prises par Nexus. Un responsable confirme ou lève chaque alerte. Les plages d'adresses autorisées et bloquées figurent juste à côté, et Nexus refuse toute règle qui bloquerait l'accès à l'administrateur qui la rédige.

Ce que Nexus ne fait pas

Nexus conserve les enregistrements, les associe aux règles et constitue les preuves. Il ne vous certifie pas et ne vous attribue pas de score de conformité. La certification reste une affaire entre vous et votre auditeur. Les échéances réglementaires et les correspondances dans Nexus ne constituent pas un avis juridique, et votre conseiller juridique doit prendre connaissance des règles qui vous sont applicables.