algorithm
0 0
Read Time:6 Minute, 25 Second


Photo stylisée d'un homme torse nu rendu en uns et en zéros.

En 1964, le Loi sur les droits civils interdit aux humains qui ont pris des décisions d’embauche de discriminer sur la base du sexe ou de la race. Désormais, les logiciels contribuent souvent à ces décisions d’embauche, aidant les managers à filtrer les CV ou à interpréter interviews vidéo.

Cette des soucis certains experts en technologie et groupes de défense des droits civiques, qui citent des preuves que les algorithmes peuvent reproduire ou amplifier les préjugés montrés par les gens. En 2018, Reuters a rapporté que Amazon a mis au rebut un outil qui filtrait les curriculum vitae en fonction des schémas d’embauche antérieurs parce qu’il discriminait les femmes.

La législation proposée au Conseil municipal de New York vise à mettre à jour les règles de discrimination à l’embauche pour l’âge des algorithmes. Le projet de loi obligerait les entreprises à divulguer aux candidats lorsqu’ils ont été évalués à l’aide d’un logiciel. Les entreprises qui vendent de tels outils devraient effectuer des audits annuels pour vérifier que leur technologie de tri des personnes ne fait pas de discrimination.

wired logo

La proposition fait partie d’un mouvement récent à tous les niveaux de gouvernement pour imposer des contraintes juridiques algorithmes et des logiciels qui façonnent des décisions qui changent la vie – un qui peut passer à une nouvelle vitesse lorsque les démocrates prennent le contrôle de la Maison Blanche et des deux chambres du Congrès.

Plus d’une douzaine de villes américaines ont interdit l’utilisation par le gouvernement reconnaissance de visage, et l’État de New York a récemment adopté un moratoire de deux ans sur l’utilisation de la technologie dans les écoles. Certains législateurs fédéraux ont proposé une législation pour réglementer les algorithmes de visage et les outils de décision automatisés utilisés par les entreprises, y compris pour l’embauche. En décembre, 10 sénateurs ont demandé la Commission pour l’égalité des chances en matière d’emploi pour contrôler les préjugés dans les outils de recrutement de l’IA, affirmant qu’elle craignait que la technologie ne puisse aggraver les disparités raciales dans l’emploi et nuire à la reprise économique COVID-19[feminine dans les communautés marginalisées. L’année dernière également, une nouvelle loi est entrée en vigueur dans l’Illinois exigeant le consentement avant d’utiliser l’analyse vidéo sur les candidats à un emploi; une loi similaire du Maryland limite l’utilisation de la technologie d’analyse du visage lors de l’embauche.

Les législateurs sont plus habitués à parler de réglementation de nouveaux algorithmes et outils d’IA qu’à mettre en œuvre de telles règles. Des mois après que San Francisco a interdit la reconnaissance faciale en 2019, il a dû modifier l’ordonnance parce qu’elle rendu illégal par inadvertance les iPhones appartenant à la ville.

La proposition de la ville de New York lancée par Laurie Cumbo, membre du conseil démocrate, obligerait les entreprises à utiliser ce que l’on appelle des outils automatisés de décision d’emploi pour aider à sélectionner les candidats ou à décider des conditions telles que la rémunération pour divulguer l’utilisation de la technologie. Les fournisseurs de tels logiciels seraient tenus de réaliser chaque année un «audit des biais» de leurs produits et de mettre les résultats à la disposition des clients.

Des compagnons de lit étranges

La proposition se heurte à la résistance de certains alliés inhabituels, ainsi qu’à des questions non résolues sur son fonctionnement. Eric Ellman, vice-président senior des politiques publiques à la Consumer Data Industry Association, qui représente les sociétés de vérification du crédit et des antécédents, affirme que le projet de loi pourrait rendre l’embauche moins équitable en imposant de nouvelles charges aux entreprises qui effectuent des vérifications des antécédents au nom des employeurs. Il fait valoir que de tels contrôles peuvent aider les gestionnaires à surmonter une réticence à embaucher des personnes de certains groupes démographiques.

Certains groupes de défense des droits civiques et experts de l’IA s’opposent également au projet de loi – pour différentes raisons. Albert Fox Cahn, fondateur du Surveillance Technology Oversight Project, a organisé une lettre de 12 groupes, dont le NAACP et AI Now Institute de l’Université de New York, s’opposant au projet de loi. Cahn veut réglementer l’embauche de technologie, mais il dit que la proposition de New York pourrait permettre à un logiciel qui perpétue la discrimination d’être reconnu comme ayant passé un audit d’équité.

Cahn veut que toute loi définisse la technologie couverte plus largement, ne laisse pas les vendeurs décider comment auditer leur propre technologie et autorise les individus à intenter des poursuites pour faire appliquer la loi. «Nous n’avons vu aucune forme d’application significative contre la discrimination qui nous préoccupe», dit-il.

Partisans

D’autres ont des préoccupations mais soutiennent toujours la proposition de New York. «J’espère que le projet de loi ira de l’avant», déclare Julia Stoyanovich, directrice du Center for Responsible AI à l’Université de New York. «J’espère aussi qu’il sera révisé.»

Comme Cahn, Stoyanovich est préoccupé par le fait que l’exigence de vérification du projet de loi n’est pas bien définie. Elle pense toujours que cela vaut la peine de passer, en partie parce que lorsqu’elle a organisé des réunions publiques sur la technologie de recrutement à la bibliothèque publique de Queens, de nombreux citoyens ont été surpris d’apprendre que les outils automatisés étaient largement utilisés. «La raison pour laquelle je suis en faveur, c’est que cela obligera les gens à divulguer qu’ils ont été évalués en partie par une machine et par un humain», déclare Stoyanovich. «Cela aidera les membres du public à participer à la conversation.»

Deux startups basées à New York dont les outils de recrutement seraient réglementés par les nouvelles règles se disent les accueillir. Les fondateurs de HiredScore, qui tente de mettre en évidence des candidats prometteurs sur la base de curriculum vitae et d’autres sources de données, et de Pymetrics, qui propose des évaluations en ligne basées sur la psychologie cognitive à l’aide de l’apprentissage automatique, ont tous deux soutenu le projet de loi lors d’une audition virtuelle du comité du conseil municipal. sur la technologie en novembre.

Frida Polli, PDG et cofondatrice de Pymetrics, commercialise la technologie de l’entreprise comme fournissant un signal plus juste sur les candidats que les mesures traditionnelles comme les CV, qui, selon elle, peuvent désavantager les personnes issues de milieux moins privilégiés. L’entreprise a récemment eu sa technologie audité pour l’équité par des chercheurs de l’Université Northeastern. Elle reconnaît que les exigences en matière de vérification du projet de loi pourraient être plus strictes, mais dit que l’on ne sait pas comment le faire d’une manière pratique et qu’il serait préférable de mettre quelque chose dans les livres. «Le projet de loi est modéré, mais d’une manière puissante», dit-elle.

« Comme le Far West là-bas »

Robert Holden, président du comité sur la technologie du conseil municipal, a ses propres inquiétudes quant à la capacité du gouvernement de la ville, à court d’argent, à définir comment examiner les logiciels de location. Il a également entendu des représentants d’entreprises dont les logiciels tomberaient sous le coup des règles proposées, ce qui a suscité plus d’engagement de l’industrie que d’habitude pour les affaires du conseil municipal. Certains lui ont assuré que l’on pouvait faire confiance à l’industrie pour s’autoréguler. Holden dit que ce qu’il a appris jusqu’à présent montre clairement que plus de transparence est nécessaire. «C’est presque comme le Far West maintenant», dit Holden. «Nous devons vraiment assurer une certaine transparence.»

Holden dit que le projet de loi fait probablement face à des négociations et à des réécritures, ainsi qu’à une éventuelle opposition du bureau du maire, avant qu’il ne puisse être programmé pour un vote final par le conseil. S’il est adopté, il prendrait effet en janvier 2022.

Cette histoire est apparue à l’origine sur wired.com.

Average Rating

5 Star
0%
4 Star
0%
3 Star
0%
2 Star
0%
1 Star
0%

Laisser un commentaire