IA Act : ce que la réglementation européenne change vraiment pour les ATS de recrutement

L'IA Act est entré en vigueur en août 2024. Et si vous utilisez un ATS (Applicant Tracking System) avec de l'intelligence artificielle, ça vous concerne directement.

Pas dans 5 ans.

Maintenant.

Pourquoi ? Parce que trier des CV avec un algorithme, c'est légalement considéré comme une IA à haut risque. Et qui dit haut risque, dit obligations strictes.

Voici ce que vous devez savoir sur l'IA Act, ses implications pour les ATS, et comment vous mettre en conformité sans tout casser.

L'IA Act, c'est quoi exactement ?

L'IA Act est le premier règlement européen qui encadre l'utilisation de l'intelligence artificielle.

Adopté par l'Union européenne après plusieurs années de négociations menées par la Commission européenne, ce texte pose des règles communes pour tous les États membres.

Objectif : protéger les droits fondamentaux des citoyens face aux dérives possibles de l'IA.

Le texte classe les systèmes d'IA en 4 niveaux de risque :

1. Risque inacceptable : interdit (ex : systèmes de surveillance de masse ou manipulation comportementale)
2. Haut risque : autorisé, mais très encadré → c'est là que se trouvent les ATS
3. Risque limité : obligations de transparence
4. Risque minimal : aucune contrainte

Les ATS utilisés pour le recrutement sont considérés comme des systèmes d'IA à haut risque dès lors qu'ils :

1. Trient ou filtrent automatiquement des candidatures
2. Recommandent des profils
3. Évaluent ou notent des candidats

Traduction : si votre ATS fait plus que stocker des CV, l'IA Act s'applique.

Pourquoi l'IA Act classe les ATS en haut risque ?

Parce qu'un algorithme peut discriminer.

Même sans mauvaise intention.

Le problème de fond : une IA est entraînée par des humains qui ont des biais.

Et l'IA reproduit fidèlement ces biais, à grande échelle.

Les modèles d'intelligence artificielle apprennent à partir de données historiques.

Si ces données contiennent des discriminations passées, l'algorithme les perpétue automatiquement.

Résultat : un ATS entraîné sur des données historiques peut :

1. Écarter systématiquement les femmes (si l'historique favorise les hommes)
2. Pénaliser certains prénoms, codes postaux, ou parcours atypiques
3. Reproduire les préjugés inconscients des recruteurs passés, en version automatisée

Un développeur qui paramètre un algorithme avec ses propres critères de "bon candidat" injecte, sans le savoir, ses propres biais.

Une base de données de recrutements passés qui représente un profil type devient la norme pour l'IA.

L'Union européenne part d'un constat simple : un mauvais tri automatisé peut ruiner une vie professionnelle

et porter atteinte aux droits fondamentaux (égalité de traitement, non-discrimination, accès à l'emploi).

Résultat : la Commission européenne impose des mesures de contrôle strictes pour garantir la sécurité des processus de recrutement.

Les 6 obligations concrètes de l'IA Act pour les ATS

1. Évaluation des risques obligatoire

Vous devez identifier et documenter les risques de discrimination ou d'erreur liés à votre ATS.

Concrètement :

1. Quel algorithme est utilisé ?
2. Quels modèles d'IA sont déployés ?
3. Quelles données servent à entraîner l'IA ?
4. Quels critères sont pondérés ?

Si vous ne savez pas répondre à ces questions, vous n'êtes pas en conformité avec l'IA Act.

Cette évaluation fait partie des mesures de sécurité imposées par les règles européennes.

2. Données d'entraînement auditées

Votre ATS doit être entraîné sur des données représentatives, complètes et non biaisées.

Problème fréquent : un ATS entraîné uniquement sur des recrutements passés reproduit les biais de ces recrutements.

Antidote : auditer régulièrement les datasets utilisés, et corriger les déséquilibres (genre, origine, âge, parcours).

L'IA Act impose une traçabilité complète des données utilisées.

C'est une mesure essentielle pour garantir le respect des droits fondamentaux.

3. Supervision humaine obligatoire

Un algorithme ne peut pas décider seul.

Chaque décision prise par l'ATS doit pouvoir être revue par un humain.

Concrètement :

1. Interdiction de rejeter automatiquement un CV sans validation humaine
2. Les recruteurs doivent pouvoir comprendre pourquoi un profil est recommandé ou écarté

Si votre ATS blackliste des candidats sans que vous puissiez intervenir, il est hors-la-loi selon l'IA Act.

Cette supervision est au cœur des règles de sécurité définies par l'Union européenne.

4. Transparence envers les candidats

Les candidats ont le droit de savoir qu'une IA traite leur candidature.

L'IA Act impose :

1. Une information claire dès le dépôt de candidature
2. Une explication accessible sur le fonctionnement de l'ATS
3. Le droit de contester une décision automatisée

Exemple : "Votre CV sera analysé par un outil d'intelligence artificielle. Chaque décision est supervisée par un recruteur.

Vous pouvez demander une relecture humaine à tout moment."

Pas besoin de jargon technique.

Juste de la clarté.

Cette transparence protège les droits fondamentaux des candidats, notamment leur droit à l'information.

5. Logs et documentation

Vous devez conserver une trace de chaque décision prise par l'ATS :

1. Quel profil a été écarté, et pourquoi
2. Quels critères ont été appliqués
3. Quelles modifications ont été apportées à l'algorithme

Durée de conservation : au minimum 6 mois après la fin du processus de recrutement.

L'objectif : pouvoir prouver que votre ATS respecte l'IA Act en cas de contrôle par les autorités de l'Union européenne.

Cette documentation est une mesure de sécurité indispensable.

6. Évaluation de conformité et certification

Les fournisseurs d'ATS doivent obtenir une certification de conformité à l'IA Act.

Cette certification atteste que les modèles d'IA utilisés respectent les règles européennes.

Si vous utilisez un ATS externe, demandez cette certification à votre éditeur.

S'il ne peut pas la fournir, vous êtes co-responsable en cas de manquement.

L'application de ces règles est contrôlée par les autorités nationales, sous la supervision de la Commission européenne.

Ce qui change en pratique pour les recruteurs

Vous ne pouvez plus faire confiance aveuglément à l'algorithme

L'IA Act impose une vigilance humaine continue.

Votre ATS peut suggérer. Pas décider.

Les mesures de supervision font désormais partie intégrante du processus de recrutement.

Vous devez auditer votre outil

Posez ces questions à votre éditeur d'ATS :

1. Êtes-vous conforme à l'IA Act ?
2. Vos modèles d'IA ont-ils été certifiés ?
3. Quels critères utilise l'algorithme pour trier les CV ?
4. Comment évitez-vous les biais de genre, d'âge, d'origine ?
5. Quelles mesures de sécurité avez-vous mises en place ?
6. Puis-je obtenir un rapport d'audit ?

Pas de réponse claire = red flag.

Vous devez former vos équipes

Un recruteur qui ne comprend pas comment fonctionne son ATS ne peut pas le superviser correctement.

L'IA Act impose une montée en compétence :

1. Comprendre les bases du machine learning et des modèles d'IA
2. Savoir repérer un biais algorithmique
3. Être capable d'expliquer une décision à un candidat
4. Connaître les règles de l'Union européenne en matière d'IA

Les sanctions en cas de non-conformité

L'IA Act ne rigole pas.

Les amendes peuvent aller jusqu'à :

1. 35 millions d'euros ou 7 % du chiffre d'affaires mondial (selon le plus élevé des deux)

Ces sanctions reflètent l'importance que l'Union européenne accorde au respect des droits fondamentaux.

Mais au-delà des sanctions financières, il y a un risque réputationnel énorme.

Un candidat écarté à tort peut :

1. Saisir la CNIL ou l'autorité nationale compétente
2. Porter plainte pour discrimination
3. Alerter les médias ou les réseaux sociaux

Résultat : bad buzz, perte de confiance, impact sur la marque employeur.