Un outil d’IA n’est ni sûr ni dangereux dans l’abstrait. Le risque dépend du cas d'utilisation exact, du type de compte, du plan, des données saisies, de l'itinéraire du modèle, des intégrations, des autorisations, de l'emplacement, de la conservation, du contrat et des décisions prises à partir du résultat. Le même produit peut être raisonnable pour les projets de marketing public et inacceptable pour les dossiers des patients, les résultats financiers non publiés, les références de production ou les décisions d'emploi.
Ce guide fournit un processus pratique d'évaluation des fournisseurs pour les équipes qui adoptent des assistants, des générateurs, des outils de codage, des enregistreurs de réunions, des agents, des produits de recherche et des plateformes d'analyse de données. Il ne s’agit pas d’un avis juridique et ne remplace pas un examen qualifié en matière de confidentialité, de sécurité, d’approvisionnement, d’emploi, médical, financier ou réglementaire. Les obligations applicables varient selon la juridiction, le secteur, les données et l'utilisation.
Le but n’est pas de collecter le plus de badges de sécurité. Il s’agit de produire une décision fondée sur des preuves : qu’est-ce qui peut être utilisé, par qui, avec quelles données, sous quels contrôles, pendant combien de temps et que doit-il se passer lorsque l’outil change ou qu’un incident se produit.
Commencez par le cas d'utilisation, pas par le questionnaire du fournisseur
Rédigez un enregistrement de cas d'utilisation d'une page avant de lire les allégations marketing. Identifiez le propriétaire de l'entreprise, les utilisateurs, les personnes concernées, la tâche prévue, les données d'entrée, les systèmes connectés, le résultat généré, l'examinateur humain, la décision en aval, le volume attendu et les conséquences de l'échec.
Classez les données à risque le plus élevé susceptibles d'entrer dans le flux de travail, et pas seulement l'échantillon présenté dans une démo. Tenez compte des données personnelles, des informations de santé et biométriques, des données des enfants, des dossiers financiers, des documents juridiques, des informations confidentielles des clients, des communications des employés, du code source, des secrets, de la stratégie non publiée, du contenu sous licence, des données de recherche et des données soumises à des restrictions de résidence ou contractuelles.
Définissez ensuite la limite d’approbation. Un produit peut être approuvé pour la recherche de source publique mais interdit pour les travaux clients non publiés. Un assistant de codage peut être autorisé pour un référentiel isolé mais pas pour un environnement de paiement. Un assistant de réunion peut être autorisé à participer à des appels de projet internes après préavis, mais être empêché de participer aux réunions cliniques, RH, juridiques ou du conseil d'administration.
Le [AI Risk Management Framework](https://www.nist.gov/itl/ai-risk-management-framework du NIST organise le travail continu autour de la gouvernance, de la cartographie, de la mesure et de la gestion. Ce cadre est plus utile qu’une simple liste de contrôle réussite/échec, car le risque change au fil du déploiement et de l’utilisation.
Cartographier le flux de données réel
Dessinez tous les systèmes pouvant recevoir ou dériver des informations :
- navigateur, ordinateur de bureau, mobile, extension, complément, bot, API, CLI, serveur MCP ou client Slack ;
- profil de compte, invites, fichiers téléchargés, référentiels sources, audio de réunion, images, schémas de base de données et informations d'identification ;
- index de récupération, intégrations, traitement temporaire, stockage de produits, caches, journaux, analyses, commentaires, surveillance des abus et systèmes de support ;
- modèles propriétaires, fournisseurs de modèles tiers, fournisseurs d'OCR ou de transcription, services de recherche, infrastructure cloud et autres sous-traitants ;
- sorties générées, exportations, liens partagés, pages publiques, webhooks, applications connectées, rapports planifiés, sauvegardes et magasins d'éléments supprimés.
Ne vous arrêtez pas à « le fournisseur utilise le cryptage ». Demandez quel service reçoit chaque classe de données, dans quel but, sous quel compte et accord, et combien de temps chaque copie reste. Une promesse de non-formation répond à une question sur un objectif : il ne répond pas au stockage, à la journalisation, à l'examen humain, à la divulgation légale, à l'analyse, à la sauvegarde ou à la suppression.
Testez toutes les surfaces séparément. Un compte Web grand public, un espace de travail d'entreprise, une API, un GPT personnalisé, une extension de navigateur, une application mobile et une intégration tierce connectée peuvent avoir des fournisseurs, des paramètres, une rétention et des conditions différents, même s'ils portent la même marque.
Vérifiez le compte de contrôle, le plan et l'accord
Identifiez à qui appartient le compte et quelle entité juridique fournit le service. Enregistrez le nom du plan, l'itinéraire de facturation, la région, le locataire, les administrateurs, les conditions acceptées, le formulaire de commande, l'addendum informatique, la pièce de sécurité, l'accord de niveau de service, l'accord d'associé commercial le cas échéant et tout amendement négocié.
Les réclamations spécifiques au régime sont importantes. « Les données de l'entreprise ne sont pas utilisées par défaut pour la formation » ne prouve pas le même traitement pour un compte gratuit. Une page de sécurité générale peut entrer en conflit avec un article d'aide sur le produit ou une ancienne politique de confidentialité. Demandez au fournisseur de résoudre les incohérences importantes par écrit et joignez la réponse au dossier de décision.
Ne vous fiez pas au message d'un vendeur si le contrat dit quelque chose de différent. Établissez une hiérarchie des preuves : accord signé et bon de commande, conditions spécifiques au plan en vigueur, documentation officielle actuelle en matière de sécurité et de confidentialité, matériel d'aide officiel, puis pages marketing. Les avis tiers et les extraits de recherche sont des pistes et non des preuves de contrôle.
Vérifiez le comportement de renouvellement et de rétrogradation. Les contrôles de confidentialité, de rétention, de SSO, d'audit ou de région de l'entreprise peuvent disparaître à la fin d'un essai ou à la fin d'un plan d'espace de travail.
Posez des questions sur la confidentialité en fonction de la finalité des données
Utilisez un tableau qui sépare les questions que les fournisseurs réduisent souvent :
| Question | Preuves à demander | Erreur courante | | --- | --- | --- | | Quelles données sont collectées ? | Inventaire de terrain et d'événements couvrant les invites, les fichiers, les sorties, les métadonnées, les analyses, les commentaires et les intégrations | Vérifier uniquement le contenu téléchargé | | Pourquoi chaque type de données est-il traité ? | Tableau d'objectif pour la prestation de services, la sécurité, l'analyse, l'amélioration, la formation, l'assistance et la conformité légale | Traiter « l'amélioration des services » comme un objectif précis | | Les données sont-elles utilisées pour entraîner des modèles ? | Conditions de formation propriétaires et tierces spécifiques au plan, valeurs par défaut, comportement de désinscription et date d'entrée en vigueur | En supposant qu’aucune formation ne signifie aucun stockage | | Quels fournisseurs reçoivent du contenu ? | Liste actuelle des sous-traitants et des fournisseurs de modèles avec service, emplacement et processus de notification | Examiner uniquement le fournisseur contractuel | | Combien de temps chaque copie est-elle conservée ? | Planification des invites, des fichiers, des sorties, des journaux, des commentaires, de l'assistance, des intégrations, des sauvegardes et des données du fournisseur | Accepter un numéro de rétention pour chaque magasin | | Comment les données sont-elles supprimées ? | Processus de suppression d'utilisateur, d'administrateur, d'API, de compte, de sauvegarde, de fournisseur et de résiliation de contrat | En supposant que la suppression d'une discussion supprime toutes les données dérivées | | Où les données sont-elles traitées ? | Régions de stockage et de traitement, mécanisme de transfert, assistance à distance et emplacements des fournisseurs | Confondre une région de stockage avec tous les traitements | | Quels droits les utilisateurs peuvent-ils exercer ? | Processus d'accès, de correction, de suppression, d'objection, de restriction, de portabilité et de contact le cas échéant | En supposant que le fournisseur traite automatiquement les notifications du client |
Le NIST Privacy Framework distingue le risque de confidentialité du risque de cybersécurité et utilise les résultats d'identification, de gouvernance, de contrôle, de communication et de protection. Un système peut être bien protégé contre les intrusions tout en créant des atteintes à la vie privée par une collecte excessive, une utilisation inattendue, des déductions inexactes ou une prise de décision opaque.
Séparez la formation, l'inférence, la journalisation et les commentaires
« Nous ne formons pas sur vos données » peut signifier plusieurs choses différentes. Déterminez si cela couvre les modèles de base du fournisseur, les modèles spécifiques au produit, les fournisseurs tiers, le réglage fin, l'évaluation, l'examen humain, la surveillance des abus, les index de récupération et les analyses. Vérifiez si la protection est une protection par défaut, un paramètre, une option de non-participation ou uniquement une clause du contrat d'entreprise.
L'inférence nécessite toujours que le contenu atteigne un modèle ou un service de traitement. Un fournisseur peut fonctionner sous zéro rétention, conserver temporairement les données à des fins de surveillance des abus ou les conserver dans le cadre d'un autre accord API. Un modèle premium activé par l'administrateur peut utiliser une autre route du modèle par défaut.
Les retours changent souvent la règle. La soumission d'un pouce vers le bas, d'un ticket d'assistance, d'une conversation partagée ou d'un journal de diagnostic peut autoriser la collecte de l'invite, du fichier, de la sortie et du contexte environnant pour examen. Documentez-le pour les utilisateurs et désactivez le partage facultatif de commentaires lorsque le risque l’exige.
Ne réécrivez jamais « non utilisé pour l'entraînement » par « non stocké », « privé », « non consulté » ou « non envoyé à des tiers ». Chaque déclaration nécessite des preuves distinctes.
Examiner les contrôles d'accès, d'identité et de locataire
Pour une utilisation en équipe, testez l’identité plutôt que d’accepter une liste de fonctionnalités. Confirmez le protocole SSO, l'authentification multifacteur, la capture de domaine, l'approvisionnement juste à temps, SCIM, la conception des rôles, les restrictions d'invité, la durée de la session, la politique de l'appareil ou du réseau, les comptes de service, les clés API, les étendues OAuth et l'accès administrateur d'urgence.
Utilisez le moindre privilège. Un agent de recherche n'a pas besoin d'accéder en écriture à une base de données de production. Un assistant de codage ne doit pas recevoir de secrets cloud car il peut lire un référentiel. Un robot de réunion n'a pas besoin de tous les événements du calendrier. Une tâche d'enrichissement d'une feuille de calcul ne doit pas hériter de l'accès à tous les enregistrements clients connectés.
Passez en revue les limites des locataires et les valeurs par défaut de partage. Testez la création de liens publics, l'indexation de recherche, la découverte à l'échelle de l'espace de travail, les exportations, la duplication, les invités externes, le transfert de propriété, la révocation, les copies mises en cache et le départ des employés. Confirmez si un administrateur peut inspecter, exporter, conserver et supprimer les conversations des utilisateurs.
Les journaux d'audit doivent contenir des événements utiles : connexion, changement d'administrateur, autorisation d'intégration, exportation de données, partage public, action de clé API, changement de rôle, suppression, exécution d'agent et activité de connecteur sensible. Vérifiez la rétention, le format d’exportation, les alertes et qui peut falsifier le journal.
Traitez les agents et les outils connectés comme des logiciels privilégiés
Un assistant qui rédige uniquement du texte a une surface d'action plus petite qu'un agent qui lit des e-mails, interroge un entrepôt, modifie du code, crée des comptes, publie un site, envoie des messages ou déplace de l'argent. Inventoriez chaque outil, identifiant, schéma, action, étape d'approbation, destination réseau et canal de sortie.
Le [Top 10 des applications LLM et IA générative](https://genai.owasp.org/llm-top-10/ de l'OWASP met en évidence l'injection rapide, la divulgation d'informations sensibles, le risque de chaîne d'approvisionnement, la gestion inappropriée des résultats, l'agence excessive et d'autres échecs au niveau des applications. Une instruction malveillante peut arriver via une page Web, un e-mail, un PDF, un commentaire de code, une ligne de base de données, un événement de calendrier ou un document récupéré, et pas seulement l'invite de l'utilisateur.
Utilisez les actions sur liste verte, les informations d'identification en lecture seule, les schémas restreints, le code en bac à sable, la validation d'URL et de fichiers, le codage de sortie, les limites de débit et de coût et l'approbation humaine pour les actions irréversibles ou externes. Gardez les secrets en dehors des invites et du code généré. Ne laissez pas la sortie du modèle devenir une instruction SQL, une commande shell, un fragment HTML, une modification d'autorisation ou un message sortant sans validation appropriée à la conséquence.
Testez l'injection d'invite indirecte avec un fichier ou une page contrôlée qui demande à l'agent d'ignorer sa tâche, de révéler une valeur Canary, d'accéder à une autre source ou d'envoyer des données ailleurs. Le résultat attendu est un confinement, et pas seulement un refus poli dans la fenêtre de discussion.
Comprendre ce que les certifications font et ne prouvent pas
Les rapports SOC 2, les certificats ISO, les tests d'intrusion, les centres de confiance, les déclarations de chiffrement, les bug bounties et les attestations de conformité peuvent fournir des preuves utiles. Ils ne prouvent pas que chaque surface de produit, plan, sous-processeur, modèle d'IA, intégration ou configuration client est couvert.
Demandez la portée, la période, l'entité juridique, les limites du service, les exceptions, les contrôles complémentaires de l'entité utilisateur, l'auditeur et le statut de remédiation. Un rapport SOC 2 Type II décrit les contrôles sur une période comprise dans le périmètre ; le logo seul ne montre pas le contenu du rapport. Un test d’intrusion est un échantillon daté et non une absence permanente de vulnérabilités.
Le chiffrement au repos et en transit constitue une preuve de base et non une révision complète de l’architecture. Renseignez-vous sur la propriété et la rotation des clés, le chiffrement des sauvegardes, l'isolation des locataires, la gestion des secrets, la séparation des environnements, le développement sécurisé, l'analyse des dépendances, la réponse aux vulnérabilités, la reprise après sinistre et l'accès administratif.
Confirmez si les clés gérées par le client ou BYOK couvrent les données de produits stockées, l'inférence de modèle ou une seule couche. BYOK peut modifier le coût du modèle et la visibilité du fournisseur sans supprimer les journaux du fournisseur, les données récupérées ou le stockage des applications.
Testez la conservation et la suppression de bout en bout
Créez une table de cycle de vie pour chaque magasin de données : créé, actif, archivé, exporté, partagé, supprimé, compte fermé, contrat terminé, sauvegarde expirée et conservation légale. Identifiez l’acteur qui peut déclencher chaque étape et les preuves renvoyées.
Exécutez un test de suppression avec des données Canary synthétiques. Téléchargez un fichier au nom unique, créez une conversation et un artefact dérivé, partagez-le, exportez-le, supprimez la source, supprimez l'utilisateur, puis fermez l'espace de travail si le pilote le permet. Vérifiez l'interface utilisateur, l'API, le lien partagé, la recherche, les intégrations, la vue administrateur, l'itinéraire d'assistance et la confirmation de suppression contractuelle.
La perte immédiate de l’accès utilisateur n’est pas la même chose qu’une suppression physique. Un service peut conserver des copies de récupération, des journaux de sécurité, des enregistrements de facturation ou des données de fournisseur pendant des périodes définies. Cela peut être légitime, mais le calendrier, le but, l’accès et l’effacement final doivent être documentés.
Testez également la portabilité. Avant d'approuver une dépendance opérationnelle, exportez les invites, les identifiants sources, les fichiers, le code, les flux de travail, les décisions, les journaux et la configuration dans des formats utilisables. Un examen de la confidentialité ne devrait pas créer un problème de verrouillage évitable.
Aborder la transparence, l'utilisation licite et les personnes concernées
Si des données personnelles sont impliquées, identifiez le rôle de l’organisation, l’objectif, la base juridique si nécessaire, les catégories de données, les personnes concernées, les notifications, le processus de droits, la conservation, les destinataires, les transferts et si une évaluation d’impact sur la protection des données est nécessaire. Les obligations en matière de protection des données de la Commission européenne et les orientations en matière de transparence de l'IA de l'ICO fournissent des points de départ officiels, mais le conseil local doit déterminer l'applicabilité.
Le consentement à l’enregistrement d’une réunion ne signifie pas le consentement à toute utilisation ultérieure de la transcription. L'autorisation d'accéder à un document ne signifie pas l'autorisation de former un modèle, de publier un résumé généré ou de le partager avec un autre fournisseur. Une page Web publique n’est pas automatiquement exempte de restrictions de droits d’auteur, contractuelles ou de données personnelles.
L’utilisation à fort impact nécessite un examen supplémentaire. Les décisions en matière d’emploi, de crédit, de logement, d’éducation, de soins de santé, juridiques, d’assurance, biométriques, de sécurité et d’accès peuvent déclencher des exigences spécialisées et des dommages matériels. N’utilisez pas une sortie IA à usage général comme seule base de décision. Définissez l’autorité humaine, l’appel, la correction, les tests, la documentation et les conditions d’arrêt.
La loi de l’UE sur l’IA utilise un cadre basé sur les risques avec des exigences qui dépendent du système et du rôle. N'étiquetez pas un flux de travail « conforme à la loi AI » sur la base d'un badge de fournisseur ; classer l'utilisation, identifier si l'organisation est un fournisseur, un déployeur, un importateur ou un distributeur, le cas échéant, et vérifier le calendrier et les obligations actuels.
Évaluer les réclamations des fournisseurs et les risques liés aux résultats
La FTC conseille aux entreprises d'honorer leurs promesses en matière de confidentialité et de maintenir une sécurité adaptée aux données qu'elles détiennent. Ses directives Commencer par la sécurité mettent l'accent sur la connaissance des données détenues, la conservation de ce qui est nécessaire, le contrôle de l'accès, la sécurisation des fournisseurs, le maintien des protections et la planification des incidents.
Exigez des preuves pour les affirmations telles que « anonyme », « zéro conservation », « conforme à la HIPAA », « conforme au RGPD », « sécurisé pour l'entreprise », « ne s'entraîne jamais » ou « précision au niveau humain ». Demandez quel compte, fonctionnalité, données, période et contrat couvre la réclamation. Évitez de transformer la déclaration d'un produit en une déclaration éditoriale plus large.
L’examen de sécurité doit inclure les résultats. Le code généré peut introduire des vulnérabilités ; une réponse de recherche peut fabriquer une citation ; une image peut révéler du matériel de source privée ; un résumé peut exposer un fait confidentiel ; une automatisation peut envoyer le mauvais enregistrement. Définissez la validation, la modération, la provenance, l'approbation, la surveillance et la restauration pour la destination réelle de la sortie.
Exécutez un pilote contrôlé avec des données Canary
Utilisez des données publiques, synthétiques ou délibérément construites jusqu'à ce que l'examen soit réussi. Créez des valeurs Canary qui ne doivent jamais apparaître en dehors du document, du locataire, du rôle ou de la tâche qui leur est attribué. N'utilisez pas de vrais secrets ou données personnelles comme marqueurs de test.
Testez au moins ces scénarios :
- Une tâche normale avec un résultat correct connu et un réviseur documenté.
- Un utilisateur sans autorisation tente de rechercher, d'exporter ou de partager du contenu restreint.
- Un fichier récupéré contient une injection d'invite indirecte et une demande d'exposition d'un canari.
- Une action générée tente de dépasser la portée en lecture seule, les domaines autorisés, le coût ou les limites de destinataires.
- L'utilisateur supprime les données sources, le contenu dérivé, les liens partagés et le compte.
- Un administrateur supprime un utilisateur, alterne un identifiant, révoque une intégration et examine les journaux.
- Un fournisseur, un modèle, une condition de confidentialité, un sous-traitant ou un paramètre de plan change.
Enregistrez les preuves plutôt que de simplement les « transmettre ». Enregistrez des captures d'écran ou des exportations lorsque cela est autorisé, les horodatages des événements, les entrées de journal, les identifiants de demande, les confirmations de suppression, les versions de politique, le réviseur, les lacunes non résolues, les contrôles de compensation et la date d'expiration de l'approbation.
Produire une décision d'approbation limitée
Une décision utile est l’un des quatre résultats suivants :
- approuvé pour les utilisateurs nommés, les plans, les classes de données, les intégrations et les objectifs ;
- approuvé avec des contrôles, tels que l'absence de données sensibles, l'accès en lecture seule, l'examen humain obligatoire ou le partage désactivé ;
- piloter uniquement jusqu'à ce que les preuves spécifiées ou les conditions contractuelles arrivent ;
- rejeté pour l'utilisation proposée, avec motif et déclencheur de réévaluation.
Énumérez explicitement les utilisations interdites. Attribuez le propriétaire de l'entreprise, le propriétaire technique, le contact en matière de confidentialité ou juridique, le contact de sécurité, la date d'examen, le canal de l'incident et le processus de désintégration. Les utilisateurs ont besoin d'une courte politique d'exploitation, et non de l'intégralité du fichier du fournisseur.
L'approbation expire lorsqu'un fait important change : propriété, conditions, politique de confidentialité, fournisseur de modèle, défaut de formation, sous-traitant secondaire, région, incident de sécurité, portée de l'intégration, architecture du produit, cas d'utilisation ou sensibilité des données. Examinez les outils à haut risque plus fréquemment que les utilitaires à contenu public.
Une liste de contrôle compacte pour les achats
Avant la production, confirmez que l’équipe peut répondre à toutes les questions suivantes avec des preuves actuelles :
- Quelles utilisations et quelles données exactes sont autorisées et qu'est-ce qui est interdit ?
- Quel compte, plan, locataire, entité juridique, région et accords contrôlent ?
- Où vont les invites, les fichiers, les métadonnées, les sorties, les journaux, les commentaires et les sauvegardes ?
- Quels fournisseurs et fournisseurs de modèles les reçoivent, à quelles fins et pendant combien de temps ?
- Quels sont les paramètres par défaut et facultatifs de formation, de rétention, d'évaluation humaine et de feedback ?
- Les administrateurs peuvent-ils appliquer des contrôles d'identité, de moindre privilège, de partage, de connecteur, d'agent, de dépenses et d'audit ?
- L'équipe peut-elle exporter, révoquer, supprimer et prouver le cycle de vie des sources et des données dérivées ?
- Comment les injections rapides, les sorties dangereuses, les agences excessives, les secrets et les contenus tiers sont-ils testés ?
- Quelles personnes sont concernées, quels avis et quels droits s'appliquent et à qui appartient la décision finale ?
- Quels éléments de preuve, de surveillance, de plan d'incident, de déclencheur de réévaluation et d'expiration de l'approbation sont enregistrés ?
Si plusieurs réponses sont « le fournisseur s’en charge probablement », l’examen n’est pas terminé.
Appliquer le cadre à toutes les catégories d'outils d'IA
Pour les assistants tels que ChatGPT, inspectez les termes consommateur par rapport à l'entreprise, les connecteurs, la mémoire, les liens partagés et les itinéraires de modèle. Pour les outils de rédaction et de marketing tels que Jasper, examinez la connaissance de la marque, le contenu client, les intégrations de publication et l'approbation factuelle. Pour les produits image et vidéo, examinez les ressources téléchargées, les droits de visage et de voix, les fournisseurs de génération, les galeries publiques, l'utilisation de la formation et les conditions commerciales via les guides Image et conception IA et Vidéo IA.
Pour les outils de codage tels que Curseur, traitez l'accès au référentiel, les commandes de terminal, les agents d'arrière-plan, l'exécution à distance, les secrets et les dépendances générées comme privilégiés. Pour les outils de réunion tels que Otter AI, examinez les avis des participants, leur consentement, l'accès au calendrier, les robots d'enregistrement, le partage de transcriptions, la formation, la conservation et la suppression. Pour les plates-formes d'automatisation telles que n8n, concentrez-vous sur les informations d'identification, l'approbation humaine, les limites déterministes, les journaux d'exécution, les tâches d'auto-hébergement et les licences.
Pour les outils de présentation tels que Gamma, examinez les packs sources confidentiels, la visibilité des liens, l'analyse des visiteurs, les exportations et la suppression de compte. Pour les outils de recherche tels que Elicit, séparez la littérature publique des recherches non publiées et vérifiez les conditions spécifiques au fournisseur, à la formation, à la rétention et à l'exportation du plan. Parcourez toutes les catégories d'outils d'IA pour appliquer les mêmes questions de cas d'utilisation et de flux de données au flux de travail réel.
Notre politique de confidentialité explique les propres pratiques de ce site en matière de données, tandis que la méthodologie d'examen et la politique éditoriale expliquent comment les preuves, les tests, l'incertitude, le parrainage et les mises à jour doivent être représentés dans les avis.
Guides associés
Continuez avec les meilleurs outils d'IA pour les petites entreprises et les meilleurs outils d'automatisation de l'IA pour relier cette décision aux flux de travail adjacents et à un processus d'évaluation cohérent.
