Loi locale 144 de 2021 de la ville de New York sur les outils automatisés de décision en matière d’emploi

La loi locale 144 a ajouté les articles 20-870 à 20-874 au Code administratif de la ville de New York. Elle vise les employeurs et les agences de placement qui utilisent dans la ville un outil automatisé de décision en matière d’emploi afin de sélectionner des candidats à l’embauche ou des salariés en vue d’une promotion. Le DCWP interprète l’utilisation « dans la ville » par référence au lieu du poste ou de l’agence de placement, y compris un emploi entièrement à distance rattaché à un bureau situé à New York. Un AEDT couvert est un processus informatique issu de l’apprentissage automatique, de la modélisation statistique, de l’analyse de données ou de l’intelligence artificielle, qui produit un résultat simplifié servant à assister substantiellement ou à remplacer une décision discrétionnaire en matière d’emploi. Selon l’article 5-300 du titre 6 du RCNY, l’assistance est substantielle lorsque le résultat constitue l’unique facteur, reçoit un poids supérieur à tout autre critère ou l’emporte sur les conclusions tirées d’autres facteurs, y compris le jugement humain. La simple transcription ou traduction d’un texte existant ne constitue pas un résultat simplifié au sens de la règle. Avant l’utilisation, l’employeur ou l’agence de placement doit s’assurer qu’un auditeur indépendant a réalisé un audit des biais au plus un an auparavant. L’audit doit calculer séparément les taux de sélection ou de notation et les ratios d’impact pour le sexe, la race et l’origine ethnique, ainsi que pour les catégories intersectionnelles sexe/race/origine ethnique. Il doit identifier les personnes dont la catégorie est inconnue. Une catégorie représentant moins de deux pour cent des données d’audit ne peut être exclue du calcul des ratios d’impact que si le résumé publié expose la justification de l’auditeur ainsi que le nombre de candidats et le taux de sélection ou de notation de cette catégorie. Les données historiques de l’AEDT sont généralement requises. Des données d’essai ne peuvent être utilisées que si les données historiques ne suffisent pas à réaliser un audit statistiquement significatif. Avant d’utiliser l’outil, l’employeur ou l’agence de placement doit publier la date de l’audit, la source des données et son explication, les effectifs par catégorie, les taux de sélection ou de notation, les ratios d’impact, le nombre de catégories inconnues et la date de diffusion de l’AEDT. Ces informations doivent rester disponibles pendant au moins six mois après la dernière utilisation de l’outil. Les candidats et salariés résidant à New York doivent recevoir un avis au moins dix jours ouvrables avant l’utilisation de l’AEDT. Cet avis doit signaler l’utilisation de l’AEDT et les qualifications ou caractéristiques professionnelles qu’il évaluera, et expliquer comment demander une autre procédure de sélection ou un aménagement raisonnable lorsqu’ils existent. La règle n’oblige pas l’employeur à proposer une autre procédure au seul motif qu’elle a été demandée. Les informations relatives aux données recueillies, à leur source et à la politique de conservation doivent être publiées ou communiquées dans les 30 jours suivant une demande écrite, sous réserve des exceptions légales et relatives à l’application de la loi. Le DCWP applique la loi et reçoit les plaintes. Les procédures de sanction peuvent être portées devant l’OATH ou un autre tribunal municipal désigné, et le conseiller juridique de la ville ou son délégué peut demander en justice la mise en conformité et toute autre mesure appropriée. L’article 20-874 préserve les droits civils disponibles par ailleurs et les compétences de la Commission des droits de l’homme de la ville de New York ; il ne doit pas être présenté comme créant une nouvelle action privée autonome.