Système d’IA à haut risque

Système d’IA à haut risque : les enjeux pour la PME

L’annexe III de l’AI Act couvre huit domaines : biométrie, infrastructures critiques, éducation, emploi et gestion des travailleurs, accès aux services essentiels, répression, migrations et justice. Pour une PME, le cas le plus courant est l’emploi : les outils de recrutement qui ciblent des offres, analysent et filtrent les candidatures ou évaluent les candidats, et ceux qui servent à décider d’une promotion, d’un licenciement, de la répartition des tâches ou du suivi des performances. L’évaluation de la solvabilité de particuliers est aussi visée.

Tout usage dans ces domaines n’est pas forcément à haut risque. L’article 6 prévoit une exception lorsque le système ne présente pas de risque important : tâche procédurale étroite, amélioration d’un travail humain déjà réalisé, détection d’écarts sans remplacer l’évaluation humaine, ou simple tâche préparatoire. En revanche, un système qui établit le profil de personnes physiques reste toujours à haut risque. Le fournisseur qui invoque l’exception doit documenter son analyse.

L’entreprise utilisatrice, le déployeur, a ses propres obligations selon l’article 26 : utiliser le système conformément à sa notice, confier le contrôle humain à des personnes compétentes, formées et disposant de l’autorité nécessaire, veiller à la pertinence des données d’entrée qu’elle maîtrise, surveiller le fonctionnement, conserver les journaux au moins six mois et, en tant qu’employeur, informer les représentants du personnel et les salariés concernés avant la mise en service. Les personnes visées par une décision doivent aussi être informées. L’articulation avec le CSE et la prévention des biais algorithmiques sont donc à anticiper.

Le règlement omnibus (UE) 2026/1744, entré en vigueur le 27 juillet 2026, a reporté ces règles au 2 décembre 2027 pour les systèmes de l’annexe III et au 2 août 2028 pour ceux intégrés à des produits réglementés. Le délai sert à préparer : recenser les outils RH et financiers qui intègrent de l’intelligence artificielle, demander à chaque éditeur sa classification, puis désigner la personne chargée du contrôle humain. Cette fiche est une information générale, à compléter par l’avis d’un conseil.

Notre vérificateur AI Act aide à repérer si l’un de vos usages relève de l’annexe III.

Exemple

Une entreprise de services de 90 salariés reçoit environ 600 candidatures par an et utilise un logiciel qui les classe automatiquement. Elle le traite comme un système à haut risque. Elle désigne une responsable RH chargée de relire chaque classement, obtient de l’éditeur sa notice d’utilisation, règle la conservation des journaux sur 12 mois, informe le CSE et ajoute une mention dans ses offres d’emploi. Sur un trimestre test, la responsable modifie 14 des 150 classements proposés, soit environ 9 %.