1. La conception et le développement des systèmes d’IA à haut risque sont tels que le fonctionnement de ces systèmes est suffisamment transparent pour permettre aux déployeurs d’interpréter les sorties d’un système et de les utiliser de manière appropriée. Un type et un niveau adéquats de transparence sont garantis afin de veiller au respect des obligations pertinentes incombant au fournisseur et au déployeur énoncées à la section 3.
2. Les systèmes d’IA à haut risque sont accompagnés d’une notice d’utilisation dans un format numérique approprié ou autre, contenant des informations concises, complètes, exactes et claires, qui soient pertinentes, accessibles et compréhensibles pour les déployeurs.
3. La notice d’utilisation contient au moins les informations suivantes:
| a) | l’identité et les coordonnées du fournisseur et, le cas échéant, de son mandataire; |
| b) | les caractéristiques, les capacités et les limites de performance du système d’IA à haut risque, notamment:
|
| c) | les modifications du système d’IA à haut risque et de sa performance qui ont été prédéterminées par le fournisseur au moment de l’évaluation initiale de la conformité, le cas échéant; |
| d) | les mesures de contrôle humain visées à l’article 14, notamment les mesures techniques mises en place pour faciliter l’interprétation des sorties des systèmes d’IA à haut risque par les déployeurs; |
| e) | les ressources informatiques et matérielles nécessaires, la durée de vie attendue du système d’IA à haut risque et toutes les mesures de maintenance et de suivi, y compris leur fréquence, nécessaires pour assurer le bon fonctionnement de ce système d’IA, notamment en ce qui concerne les mises à jour logicielles; |
| f) | le cas échéant, une description des mécanismes compris dans le système d’IA à haut risque qui permet aux déployeurs de collecter, stocker et interpréter correctement les journaux, conformément à l’article 12. |
En droit français, selon son objet et ses effets, elle pourra être analysée comme une manœuvre dolosive au sens de l'article 1137 du Code civil, ou comme un manquement à l'obligation précontractuelle d'information prévue à l'article 1112-1, lorsque l'information dissimulée présente un caractère déterminant et un lien direct et nécessaire avec le contenu du contrat ou la qualité des parties. […] Bilatéralité. […] Son article 13 impose que les systèmes d'IA à haut risque soient conçus de manière suffisamment transparente pour permettre aux déployeurs d'en interpréter les sorties et d'en faire un usage approprié. […]
Lire la suite…