« Notre IA est sécurisée » n’est pas une affirmation vérifiable, et ce n’est pas non plus un mensonge. C’est une phrase qui ne dit rien parce qu’elle ne s’engage sur rien.
Les cinq questions ci-dessous la transforment en affirmations qu’on peut confirmer ou infirmer.
1. Où les données sont-elles traitées, et sous quelle juridiction ?
Pas où l’entreprise a son siège social. Où le traitement a lieu, et sous quelle loi il tombe.
Les deux se dissocient plus souvent qu’on ne le pense : un fournisseur peut être établi au Canada, héberger chez un infonuagique américain, et faire tourner l’inférence dans une troisième région selon la charge.
Ce qui compte pour vous. Si des renseignements personnels sont en cause, la responsabilité vous revient devant la Loi 25, y compris pour ce que fait votre fournisseur. L’article 17 encadre spécifiquement les traitements à l’extérieur du Québec, et il exige une évaluation avant, pas après.
Une bonne réponse nomme les régions, distingue le stockage de l’inférence, et indique si la région est contractuellement garantie ou simplement celle utilisée aujourd’hui.
2. Mes données servent-elles à l’entraînement, par défaut ou sur option ?
Toute la question est dans « par défaut ».
Les paliers grand public et affaires d’un même produit diffèrent régulièrement sur ce point, et l’écart n’est pas toujours visible depuis l’interface. Le réglage existe, il est documenté, et il n’est pas activé.
La vérification qui compte ne se fait pas dans la documentation du fournisseur. Elle se fait dans votre propre console d’administration : le réglage est-il appliqué dans votre tenant, aujourd’hui. Disponible en principe et appliqué chez vous sont deux états différents.
Une bonne réponse distingue les données d’entrée, les sorties, les métadonnées d’usage et les données de réglage fin, parce que ces quatre catégories ont souvent des politiques différentes.
3. Quelle identité l’outil utilise-t-il, et avec quels droits ?
C’est la question la plus technique des cinq et celle qui prédit le mieux les problèmes.
Un assistant hérite de l’identité de la personne qui l’exécute : il voit ce qu’elle voit, y compris ce qu’elle a oublié qu’elle pouvait voir. Un agent, lui, s’authentifie séparément, et c’est là que la réponse compte.
La réponse à éviter est un compte de service partagé. Un composant qui partage son identité avec d’autres ne peut être ni révoqué, ni limité en débit, ni audité indépendamment. Ces trois propriétés dépendent toutes d’une identité propre.
Une bonne réponse décrit une identité par intégration, avec une portée déclarée, et précise si les droits sont accordés par tâche ou pour toute la session. Le second cas est le défaut de la plupart des cadres agentiques, et il est plus large que ce que vous imaginez.
4. Quels journaux puis-je récupérer, et pour combien de temps ?
Cette question a une propriété que les quatre autres n’ont pas : elle ne se rattrape pas.
Les autres peuvent être posées à n’importe quel moment, et le réglage peut être changé après coup. Un journal que le fournisseur n’a pas conservé en mars ne vous dira jamais rien sur mars.
Ce qu’il faut demander précisément. Quelles requêtes sont enregistrées, quelles actions d’agent sont enregistrées, pendant combien de temps, dans quel format, et par quel moyen vous les récupérez. « Nous journalisons tout » sans mécanisme d’export ne vous sert pas pendant une investigation.
Le test. Demandez ce qu’un utilisateur donné a demandé à l’outil un jour précis du mois dernier, et ce que l’outil a fait en réponse. Si personne ne peut répondre, la journalisation n’est pas suffisante pour la seule situation où vous en aurez besoin.
5. Que se passe-t-il quand je résilie ?
La question qu’on ne pose pas au moment de l’achat, parce qu’elle est inconfortable et qu’elle semble prématurée.
Trois volets. Ce qui est supprimé et en combien de temps. Ce qui subsiste dans les sauvegardes, et pour quelle durée. Et ce qui reste dans un modèle déjà entraîné ou réglé finement sur vos données, ce qui est le volet auquel presque personne ne pense.
Le troisième n’a pas toujours de réponse propre, et une réponse honnête à ce sujet vaut mieux qu’une réponse rassurante.
Une bonne réponse donne des délais chiffrés et un mécanisme de confirmation, plutôt qu’un engagement de principe.
Ce qui distingue une bonne réponse
Écrite, datée, et vérifiable de votre côté.
Écrite, parce qu’une assurance donnée en appel ne survit pas au changement de responsable de compte. Datée, parce que ces politiques changent, et qu’un fournisseur qui modifie son palier gratuit ne vous préviendra pas nécessairement. Vérifiable dans votre propre tenant, parce que c’est le seul endroit où la réponse est vraie ou fausse plutôt que plausible.
Les deux dernières questions sont celles qu’on oublie le plus souvent, et ce sont celles dont l’absence de réponse coûte le plus cher : l’une pendant une investigation, l’autre au moment de partir.
Besoin d’aide pour mettre cela en œuvre ?
Nous travaillons avec votre équipe pour concevoir, construire et exploiter les contrôles décrits ci-dessus.