Le 23 septembre 2022, le Département de la protection des consommateurs et des travailleurs de la ville de New York (DCWP) a publié un projet de réglementation concernant la Loi sur les outils automatisés de décision en matière d’emploi (AEDT)qui entre en vigueur le 1er janvier 2023. Comme signalé précédemment sur le blog de Cooley sur la cyber/données/la confidentialité, la loi sur l’AEDT obligera les employeurs et les agences d’emploi de la ville de New York à se conformer à une vaste série d’exigences avant d’utiliser un AEDT dans le processus d’embauche et de promotion. Entre autres, les employeurs seront tenus de :
- Effectuez un audit indépendant des biais de l’outil.
- Fournir un résumé accessible au public concernant l’audit et la date de distribution de l’outil.
- Informez les candidats et les employés qui ont postulé pour un poste et résident dans la ville que l’outil sera utilisé – ainsi que les qualifications et les caractéristiques du poste que l’outil mesurera lors de l’évaluation des candidats – et permettre aux candidats de demander un processus de sélection alternatif ou logement.
- Mettre à disposition des informations sur la source et le type de données collectées par l’outil, ainsi que sur la politique de conservation des données de l’employeur, à moins que la divulgation de ces informations ne viole la loi ou n’interfère avec une enquête des forces de l’ordre.
En promulguant la loi AEDT, la ville de New York a rejoint d’autres juridictions, telles que Illinois et Marylandqui réglementent les outils basés sur l’intelligence artificielle dans le processus d’emploi, en raison de préoccupations de partialité ou d’impact disparate sur certains groupes.
Définitions clés
La Le DCWP recueillera les commentaires sur les règlements proposés avant une audience publique prévue le 24 octobre 2022. Entre autres choses, les règlements proposés visent à définir certains termes clés et à clarifier les exigences relatives à l’audit de partialité, la publication des résultats de l’audit de partialité et les avis que les employeurs et agences doivent fournir aux employés et aux candidats. Nous avons décrit certains de ces éléments ici.
Assister ou remplacer considérablement la prise de décision discrétionnaire
La loi AEDT définit un “outil automatisé de décision d’emploi” comme “tout processus informatique, dérivé de l’apprentissage automatique, de la modélisation statistique, de l’analyse de données ou de l’intelligence artificielle, qui émet une sortie simplifiée, y compris un score, une classification ou une recommandation, qui est utilisé pour aider ou remplacer considérablement la prise de décision discrétionnaire pour prendre des décisions en matière d’emploi qui ont un impact sur les personnes physiques. Le projet de règlement précise que l’expression « aider ou remplacer sensiblement la prise de décision discrétionnaire » signifie :
- Comptez uniquement sur une sortie simplifiée (par exemple, score, étiquette, classification, classement, etc.) sans prendre en compte d’autres facteurs.
- Utilisez une sortie simplifiée comme l’un des critères d’un ensemble où la sortie est pondérée plus que tout autre critère.
- Utilisez une “sortie simplifiée pour annuler ou modifier les conclusions dérivées d’autres facteurs, y compris la prise de décision humaine”. (Un « résultat simplifié » est en outre défini comme une prédiction ou une classification qui peut prendre la forme d’un score, d’une étiquette ou d’une catégorisation, d’une recommandation ou d’un classement.)
Candidat à l’emploi
La loi AEDT s’applique aux décisions d’emploi concernant « les candidats à l’emploi ou les salariés à la promotion ». Le projet de règlement définit le premier comme “une personne qui a postulé à un poste spécifique en soumettant les informations et/ou éléments nécessaires dans le format requis par l’employeur ou l’agence pour l’emploi”. Ainsi, la définition proposée précise que les candidats doivent avoir pris des mesures positives en soumettant des informations ou d’autres éléments devant être couverts par la loi.
Auditeur indépendant
La loi AEDT exige qu’un auditeur indépendant procède à un audit biaisé de tout outil AEDT avant de l’utiliser. Le règlement proposé définit un « auditeur indépendant » comme « une personne ou un groupe qui n’est pas impliqué dans l’utilisation ou le développement d’un AEDT et qui est responsable de la réalisation d’un audit biaisé de cet AEDT ». Bien que cette définition fournisse certaines indications, le niveau d’indépendance requis de l’auditeur n’est pas clair, y compris si l’auditeur peut être autrement employé par le fournisseur de l’AEDT.
Exigences d’audit de partialité
Comme indiqué ci-dessus, un AEDT ne peut être utilisé que s’il a fait l’objet d’un audit indépendant sur les biais au plus tard un an avant l’utilisation de l’outil. Les règlements proposés clarifient les exigences de l’audit de partialité, qui incluent désormais les calculs d’un «taux de sélection» et d’un «rapport d’impact» pour chaque catégorie devant être signalés à la Commission pour l’égalité des chances en matière d’emploi (EEOC) conformément au rapport d’information sur l’employeur de l’EEOC EEO -1 (race, ethnie et sexe).
En vertu des règlements proposés, le « taux de sélection » désigne le « taux auquel les personnes d’une catégorie sont soit sélectionnées pour avancer dans le processus d’embauche, soit affectées à une classification par un AEDT ». Ce taux est calculé en divisant le nombre d’individus dans la catégorie qui progressent ou se voient attribuer une classification par le nombre total d’individus dans la catégorie qui ont postulé pour un poste ou ont été considérés pour une promotion. D’autre part, le «rapport d’impact» est défini comme soit «(1) le taux de sélection d’une catégorie divisé par le taux de sélection de la catégorie la plus sélectionnée, soit (2) le score moyen de tous les individus d’une catégorie divisé par le score moyen des individus dans la catégorie la plus élevée. Ainsi, un auditeur indépendant effectuant un audit de biais doit comparer les taux de sélection pour chaque catégorie EEO-1 et comparer ces taux à la catégorie la plus sélectionnée ou favorisée.
Les types de calculs requis dans un audit de biais dépendent de la manière dont l’AEDT est utilisé dans le processus d’embauche. Lorsqu’un AEDT sélectionne des individus pour avancer dans le processus d’embauche ou les classe dans des groupes, l’audit de biais doit calculer pour chaque catégorie le taux de sélection, le taux d’impact et, lorsqu’un AEDT classe des individus dans des groupes, les calculs du taux de sélection et la ration d’impact doit être effectuée pour chacune de ces classifications. Cependant, lorsqu’un AEDT note des candidats ou des candidats, l’audit doit calculer le score moyen des individus dans chaque catégorie et calculer le ratio d’impact pour chaque catégorie.
Publication des résultats d’un audit de biais
Avant d’utiliser un AEDT, les employeurs doivent publier de manière « claire et visible » dans la section carrières ou emplois de leur site Web, la date du dernier audit de partialité de l’AEDT, un résumé des résultats de l’audit, y compris les taux de sélection et les ratios d’impact pour toutes les catégories, et la date de distribution de l’AEDT, ou la date à laquelle l’employeur a commencé à utiliser un AEDT spécifique. Le règlement proposé prévoit que les employeurs peuvent satisfaire à cette exigence en incluant un hyperlien vers un site Web externe contenant les renseignements requis. De plus, les informations requises doivent rester affichées pendant au moins six mois après la dernière utilisation de l’AEDT pour une décision d’emploi.
Avis aux candidats et aux salariés
Comme indiqué ci-dessus, la loi sur l’AEDT exige que les employeurs fournissent aux candidats et aux employés des informations spécifiques concernant l’utilisation de l’outil et d’autres exigences au moins 10 jours ouvrables avant d’utiliser l’AEDT. Les règlements proposés permettent que les avis requis soient donnés aux candidats qui résident dans la ville en incluant l’avis dans la section Carrières ou Emplois du site Web de l’employeur, dans une offre d’emploi, ou par courriel ou par la poste. Un employeur peut satisfaire aux exigences de préavis pour les employés actuels en l’incluant dans une politique écrite, une procédure ou une offre d’emploi, ou en le fournissant en personne, ou par courrier électronique ou postal. Bien que l’avis doive inclure des « instructions sur la façon de demander un autre processus de sélection ou un accommodement », le projet de règlement stipule de manière ambiguë qu’un employeur n’est pas tenu de fournir un autre processus de sélection.
Les règlements proposés clarifient également l’exigence de la loi selon laquelle les employeurs doivent fournir des informations concernant le type de données collectées et leur politique de conservation des données. Les employeurs peuvent satisfaire à cette exigence en publiant les informations dans la section Carrières ou Emplois de leur site Web ou en les fournissant par écrit par courrier ou par e-mail. Si l’avis n’est pas inclus sur le site Web, un employeur doit afficher des instructions sur la façon de faire une demande écrite pour ces informations sur son site Web.
Prochaines étapes
Bien que les réglementations proposées ne soient pas définitives, les employeurs peuvent devancer la loi sur l’AEDT en examinant tous les outils d’IA utilisés dans le processus d’embauche ou de promotion pour déterminer si ces outils sont couverts par la loi. Les employeurs utilisant de tels outils doivent contacter les fournisseurs d’outils concernant leur conformité à la loi AEDT. Les employeurs devraient également former les superviseurs et le personnel des ressources humaines concernant la myriade d’exigences de la loi, y compris ses dispositions en matière de publication et d’avis.
Nous continuerons à suivre les mises à jour de la loi AEDT après l’audience du 24 octobre. Si vous avez des questions sur la loi AEDT, veuillez contacter un membre de l’équipe d’emploi de Cooley.
