Guide
Ce qu'aucun réglage ne garantit avec une IA
Aucun réglage d'assistant d'IA ne garantit tout. Limites à garder, cas où demander conseil au délégué à la protection des données ou à un juriste.
Mis à jour le
Les réglages, les contrats et les classements réduisent les risques. Ils ne les suppriment pas. Cette page liste ce qu'aucun réglage ne garantit, pour que l'équipe garde les bonnes précautions même avec un outil bien configuré. Elle indique aussi quand demander conseil, et à qui.
Ce qu'aucun réglage ne garantit
| Limite | Pourquoi elle subsiste | Mesure humaine |
|---|---|---|
| Une donnée désactivée peut quand même servir | Selon la politique d'Anthropic, une conversation signalée pour revue de sécurité, ou signalée explicitement, peut servir à l'amélioration des modèles | Ne pas saisir les données qu'on ne veut pas voir ressortir |
| Une conservation légale reste possible | La politique citée prévoit des données conservées pour des obligations légales | Noter cette exception dans la fiche de l'outil |
| Les conditions peuvent changer | Les conditions commerciales citées prévoient une modification avec effet 30 jours après publication | Revoir la fiche à chaque changement |
| Une sortie peut être inexacte | La CNIL rappelle que les résultats peuvent paraître plausibles tout en étant faux | Relire et vérifier avant usage |
| Une donnée peut être mémorisée | La CNIL indique que des tests peuvent parfois révéler une mémorisation | Limiter les données personnelles saisies |
| Une erreur humaine arrive | Un salarié peut coller le mauvais document | Procédure de signalement et formation |
Le cas de la mémorisation
La CNIL distingue les données d'apprentissage et le modèle. Elle indique que, dans l'état actuel de l'art, il n'est généralement pas possible d'identifier l'ensemble des données d'une personne mémorisées par un modèle, sauf informations supplémentaires fournies par la personne. Elle ajoute que des tests peuvent parfois révéler une mémorisation, et que cette position vaut selon l'état actuel de la recherche. Pour l'entreprise, cela signifie qu'une donnée saisie n'est pas forcément effaçable du modèle, même si elle peut être supprimée de l'historique.
Quand demander conseil
Demandez l'avis du délégué à la protection des données, s'il existe dans votre organisation, dans les cas suivants :
- une donnée sensible au sens de la CNIL doit être traitée, même à titre exceptionnel ;
- un nouvel outil traitera des données de clients ou de salariés ;
- une demande d'une personne sur ses données pose une question de fond ;
- un transfert de données hors de l'Union européenne est envisagé.
Demandez l'avis d'un juriste pour une clause de confidentialité ambiguë, pour un contrat à négocier ou pour un désaccord avec un fournisseur ou un client. Ce site n'est pas un avis de professionnel, et il ne remplace pas la lecture d'un contrat par un juriste.
Pour faire le point sur les données de votre entreprise, un premier échange permet de repérer les données, les outils et les contrats à revoir.
Méthode de contrôle annuel
- Relire la liste des outils validés, et supprimer ceux que l'entreprise n'utilise plus.
- Revérifier les réglages et les politiques de chaque outil, avec la date de consultation.
- Revoir le classement des données avec les personnes qui produisent les documents.
- Contrôler un échantillon de demandes, de signalements et de saisies.
- Noter les décisions et les points à trancher par le dirigeant.
Liste de vérification
- Les limites du tableau sont connues de l'équipe.
- Les données sensibles restent hors des outils, quel que soit le réglage.
- Les conditions des fournisseurs sont relues chaque année.
- Le délégué ou le juriste est identifié avant le besoin.
- Le contrôle annuel a une date et une personne responsable.
Pour reprendre les réglages, voir la page réglages d'un assistant. Les engagements contractuels, qui complètent les réglages, sont traités dans la page contrat fournisseur. Une demande d'une personne sur ses données suit la procédure de la page droits des personnes.
Questions fréquentes
Un assistant qui n'entraîne pas sur mes données est-il sans risque ?
Non. Selon la politique de confidentialité d'Anthropic, des données peuvent servir à l'amélioration des modèles si une conversation est signalée pour revue de sécurité ou signalée explicitement, et certaines données peuvent être conservées pour des obligations légales.
Peut-on savoir si une donnée saisie se trouve dans le modèle ?
Pas toujours. La CNIL indique que, dans l'état actuel de l'art, il n'est généralement pas possible d'identifier l'ensemble des données d'une personne mémorisées par le modèle. Des tests peuvent parfois révéler une mémorisation.
Quand demander conseil à un juriste ?
Pour une clause ambiguë ou un désaccord avec un client ou un fournisseur. Ce site ne donne pas d'avis juridique, et ses guides ne remplacent pas la lecture d'un contrat par un professionnel.
Sources
Pages consultées pour écrire cet article :