Afin de garantir un degré de traçabilité du fonctionnement d’un système d’IA qui soit adapté à la destination du système, les fonctionnalités de journalisation permettent l’enregistrement des événements pertinents pour:
a)repérer les situations susceptibles d’avoir pour effet que le système d’IA à haut risque présente un risque au sens de l’article 79, paragraphe 1, ou d’entraîner une modification substantielle;
b)faciliter la surveillance après commercialisation visée à l’article 72; et
c)surveiller le fonctionnement du système d’IA à haut risque comme prévu à l’article 26, paragraphe 5.
3.Pour les systèmes d’IA à haut risque visés à l’annexe III, point 1 a), les fonctionnalités de journalisation fournissent, au minimum:
a)l’enregistrement de la période de chaque utilisation du système (date et heure de début et de fin pour chaque utilisation);
b)la base de données de référence utilisée par le système pour vérifier les données d’entrée;
c)les données d’entrée pour lesquelles la recherche a abouti à une correspondance;
d)l’identification des personnes physiques participant à la vérification des résultats, visées à l’article 14, paragraphe 5.
Le règlement (UE) 2026/1744 a modifié le calendrier des sections 1 à 3 du chapitre III : elles s'appliqueront le 2 décembre 2027 aux systèmes à haut risque relevant de l'article 6, paragraphe 2, et de l'Annexe III, puis le 2 août 2028 à ceux relevant de l'article 6, paragraphe 1, et de l'Annexe I. […] L'arrêt éclaire toutefois une difficulté commune : une décision formellement prise par une personne peut rester très fortement déterminée par un traitement automatisé. […] L'article 12 de l'AI Act impose, pour les systèmes à haut risque auxquels il s'appliquera, des capacités permettant l'enregistrement automatique d'événements pendant la durée de vie du système. […]
Lire la suite…