Presse du jour
Le 4 octobre 2022, le Bureau de la politique chercheur et technologique de la Maison Blanche a publié le Plan pour un communiqué des droits de l’IA : une vision pour protéger nos droits civils à l’ère de l’algorithme. Le plan a lancé une conversation sur la manière dont l’innovation en matière d’intelligence artificielle peut se dérouler d’après plusieurs principes équitables. Ceux-ci incluent des systèmes sûrs et efficaces, des protections contre la stigmatisation algorithmique, la confidentialité et la transparence.
De plus en plus de preuves mettent en lumière les droits civils et des consommateurs que l’IA et la prise de décision automatisée mettent en danger. Les communautés qui ont été historiquement confrontées à la stigmatisation la plus évidente sont maintenant confrontées à des formes complexes et très opaques de stigmatisation dans le cadre des systèmes d’IA. Cette stigmatisation se produit dans les domaines de l’emploi, du logement, du vote, des prêts, de la justice pénale, des médias sociaux, du ciblage des technologies publicitaires, de la surveillance et du profilage. Par exemple, il y a eu des cas où les systèmes d’IA ont participé à la stigmatisation à l’égard des femmes pendant l’emploie et à la stigmatisation raciale dans le système de justice pénale.
Dans les mois qui ont suivi la publication du plan, l’arrivée de systèmes d’IA génératifs comme ChatGPT a également ajouté de l’urgence aux discussions sur la meilleure façon de gouverner les technologies émergentes de manière à atténuer les risques sans étouffer l’innovation.
Un an après le dévoilement du projet, l’administration Biden a publié le 30 octobre 2023 un vaste décret intitulé IA sûre, sécurisée et digne de confiance. Bien qu’une partie importante de l’ordonnance soit axée sur la sécurité, elle incorpore de nombreux principes du plan directeur.
L’ordonnance comprend plusieurs dispositions axées sur les droits civils et l’équité. Par exemple, il exige que l’administration fédéral prépare des directives à l’intention des entrepreneurs fédéraux sur la manière d’dissuader que les algorithmes d’IA ne soient utilisés pour exacerber la stigmatisation. Il appelle aussi à une formation sur la meilleure façon d’aborder les enquêtes et les poursuites a propos les violations des droits civils liées à l’IA et à garantir l’équité de l’IA dans l’assortiment du système de justice pénale.
La vision exposée dans le plan a été incorporée dans le décret à titre d’orientation pour les agences fédérales. Mes recherches sur la technologie et les droits civils soulignent l’importance des droits civils et des principes d’équité dans la réglementation de l’IA.
Droits civiques et IA
Les lois sur les droits civils mettent souvent de nombreuses années, voire des vies, à progresser. La technologie de l’intelligence artificielle et les systèmes algorithmiques introduisent rapidement des préjudices de type boîte noire, tels que la prise de décision automatisée, qui peuvent entraîner des impacts disparates. Il s’agit notamment des préjugés raciaux dans les systèmes de reconnaissance faciale.
Ces préjudices sont souvent difficiles à contester, et les lois et réglementations actuelles en matière de droits civiques risquent de ne pas être en mesure d’y remédier. Cela soulève la question de savoir comment garantir que les droits civils ne soient pas compromis à mesure que les nouvelles technologies d’IA imprègnent la société.
Dans la lutte contre la stigmatisation algorithmique, à quoi ressemble un arc qui avance vers la justice ? À quoi ressemble une « Lettre de la prison de Birmingham » lorsqu’un militant des droits civiques proteste non pas contre la détention physique injuste, mais contre les contraintes numériques telles que les préjudices disparates causés par les formes numérisées de profilage, de ciblage et de surveillance ?
Le plan 2022 a été élaboré sous la direction d’Alondra Nelson, alors directrice par intérim du Bureau de la politique chercheur et technologique, et de ses collaborateurs. Le plan énonce une série de principes équitables qui tentent de limiter une constellation de dommages que l’IA et les systèmes automatisés peuvent causer.
Au-delà de cela, le plan relie les concepts de principes équitables et d’équité de l’IA à la Constitution américaine et à la Communiqué des droits. En associant ces principes équitables aux droits civils et à la Communiqué des droits, le dialogue peut s’éloigner d’une discussion axée uniquement sur une série d’engagements techniques, tels que rendre les systèmes d’IA plus transparents. Le débat peut plutôt porter sur la manière dont l’absence de ces principes pourrait menacer la démocratie.
Arati Prabhakar, directeur du Bureau de la politique chercheur et technologique de la Maison Blanche, et Alondra Nelson, ancienne directrice par intérim, ont discuté du projet de communiqué des droits de l’IA lors d’une conférence organisée à l’occasion de l’anniversaire de sa publication.
Quelques mois après la publication du projet, la Division des droits civils du Département américain, le Bureau de protection financière des consommateurs, la Commission pour l’égalité des chances en matière d’emploi et la Commission fédérale du commerce se sont engagés conjointement à respecter l’engagement des États-Unis envers les principes fondamentaux d’équité, d’égalité et de justice bien que les systèmes automatisés émergents deviennent de plus en plus courants dans la vie quotidienne. Des lois fédérales et étatiques ont été proposées pour lutter contre l’impact discriminatoire de l’IA et de la prise de décision automatisée.
Les organisations de défense des droits civiques s’attaquent à la technologie
Plusieurs organisations de défense des droits civiques, dont la Leadership Conference on Civil and Human Rights, ont effectué de la stigmatisation basée sur l’IA une priorité. Le 7 septembre 2023, la Leadership Conference a lancé un nouveau Centre pour les droits civils et la technologie et a effectué appel à Nelson, auteur du Blueprint for an AI Bill of Rights, comme conseiller.
Avant la publication du nouveau décret, le sénateur Ed Markey, la représentante Pramila Jayapal et d’autres membres du Congrès ont expédié une lettre à la Maison Blanche exhortant l’administration à incorporer les principes du projet dans le décret attendu. Ils ont annoncé que « l’engagement du gouvernement fédéral envers la Communiqué des droits de l’IA montrerait que les droits fondamentaux ne passeront pas au second plan à l’ère de l’IA ».
De nombreuses organisations de défense des droits civiques et de la société civile ont expédié une lettre similaire à la Maison Blanche, exhortant l’administration à prendre des mesures sur les principes du plan dans le décret.
Tandis que le projet de Communiqué des droits de l’IA célébrait son premier anniversaire, son impact de manière durable était inconnu. Mais, fidèle à son titre, il présente une vision de la protection des droits civils à l’ère de l’algorithme. Cette vision a maintenant été intégrée dans le décret sur une IA sûre, sécurisée et digne de confiance. L’ordre ne peut pas être efficacement compris sans ce contexte de droits civiques.
Margaret Hu est membre du conseil consultatif du Future of Privacy Forum. Elle est aussi membre du Center for Democracy & Technology et membre du Scholars Council de Data & Society.
