Cet article fait partie du TPM Café, le site d’analyse d’opinions et d’actualités du TPM. Il a été initialement publié sur The Conversation.
Le 4 octobre 2022, le Bureau de la politique scientifique et technologique de la Maison Blanche a publié le Plan pour une déclaration des droits de l’IA : une vision pour protéger nos droits civils à l’ère de l’algorithme. Le plan a lancé une conversation sur la manière dont l’innovation en matière d’intelligence artificielle peut se dérouler selon plusieurs principes équitables. Ceux-ci incluent des systèmes sûrs et efficaces, des protections contre la discrimination algorithmique, la confidentialité et la transparence.
De plus en plus de preuves mettent en lumière les droits civils et des consommateurs que l’IA et la prise de décision automatisée mettent en péril. Les communautés qui ont été historiquement confrontées à la discrimination la plus flagrante sont désormais confrontées à des formes complexes et très opaques de discrimination dans le cadre des systèmes d’IA. Cette discrimination se produit dans les domaines de l’emploi, du logement, du vote, des prêts, de la justice pénale, des médias sociaux, du ciblage des technologies publicitaires, de la surveillance et du profilage. Par exemple, il y a eu des cas où les systèmes d’IA ont contribué à la discrimination à l’égard des femmes lors de l’embauche et à la discrimination raciale dans le système de justice pénale.
Dans les mois qui ont suivi la publication du plan, l’arrivée de systèmes d’IA génératifs comme ChatGPT a ajouté de l’urgence aux discussions sur la meilleure façon de gouverner les technologies émergentes de manière à atténuer les risques sans étouffer l’innovation.
Un an après le dévoilement du projet, l’administration Biden a publié le 30 octobre 2023 un vaste décret intitulé IA sûre, sécurisée et digne de confiance. Bien qu’une grande partie de l’ordonnance soit axée sur la sécurité, elle intègre de nombreux principes du plan directeur.
L’ordonnance comprend plusieurs dispositions axées sur les droits civils et l’équité. Par exemple, il exige que le gouvernement fédéral élabore des directives à l’intention des entrepreneurs fédéraux sur la manière d’empêcher que les algorithmes d’IA ne soient utilisés pour exacerber la discrimination. Il appelle également à une formation sur la meilleure façon d’aborder les enquêtes et les poursuites concernant les violations des droits civils liées à l’IA et à garantir l’équité de l’IA dans l’ensemble du système de justice pénale.
La vision exposée dans le plan a été incorporée dans le décret à titre d’orientation pour les agences fédérales. Mes recherches sur la technologie et les droits civils soulignent l’importance des droits civils et des principes d’équité dans la réglementation de l’IA.
Droits civiques et IA
Les lois sur les droits civils mettent souvent des décennies, voire des vies, à progresser. La technologie de l’intelligence artificielle et les systèmes algorithmiques introduisent rapidement des préjudices de type boîte noire, tels que la prise de décision automatisée, qui peuvent entraîner des impacts disparates. Il s’agit notamment des préjugés raciaux dans les systèmes de reconnaissance faciale.
Ces préjudices sont souvent difficiles à contester, et les lois et réglementations actuelles en matière de droits civiques risquent de ne pas être en mesure d’y remédier. Cela soulève la question de savoir comment garantir que les droits civils ne soient pas compromis à mesure que les nouvelles technologies d’IA imprègnent la société.
Dans la lutte contre la discrimination algorithmique, à quoi ressemble un arc qui se penche vers la justice ? À quoi ressemble une « Lettre de la prison de Birmingham » lorsqu’un militant des droits civiques proteste non pas contre la détention physique injuste, mais contre les contraintes numériques telles que les préjudices disparates causés par les formes numérisées de profilage, de ciblage et de surveillance ?
Le plan 2022 a été élaboré sous la direction d’Alondra Nelson, alors directrice par intérim du Bureau de la politique scientifique et technologique, et de son équipe. Le plan énonce une série de principes équitables qui tentent de limiter une constellation de dommages que l’IA et les systèmes automatisés peuvent causer.
Au-delà de cela, le plan relie les concepts de principes équitables et d’équité de l’IA à la Constitution américaine et à la Déclaration des droits. En associant ces principes équitables aux droits civils et à la Déclaration des droits, le dialogue peut s’éloigner d’une discussion axée uniquement sur une série d’engagements techniques, tels que rendre les systèmes d’IA plus transparents. Le débat peut plutôt porter sur la manière dont l’absence de ces principes pourrait menacer la démocratie. https://www.youtube.com/embed/34GcXV6bwG8?wmode=transparent&start=0 Arati Prabhakar, directeur du Bureau de la politique scientifique et technologique de la Maison Blanche, et Alondra Nelson, ancienne directrice par intérim, ont discuté du projet de loi sur l’IA. Droits lors d’une conférence à l’occasion de l’anniversaire de sa sortie.
Quelques mois après la publication du projet, la Division des droits civils du Département américain, le Bureau de protection financière des consommateurs, la Commission pour l’égalité des chances en matière d’emploi et la Commission fédérale du commerce se sont engagés conjointement à respecter l’engagement des États-Unis envers les principes fondamentaux d’équité, d’égalité et de justice alors que les systèmes automatisés émergents deviennent de plus en plus courants dans la vie quotidienne. Des lois fédérales et étatiques ont été proposées pour lutter contre l’impact discriminatoire de l’IA et de la prise de décision automatisée.
Les organisations de défense des droits civiques s’attaquent à la technologie
Plusieurs organisations de défense des droits civiques, dont la Leadership Conference on Civil and Human Rights, ont fait de la discrimination basée sur l’IA une priorité. Le 7 septembre 2023, la Leadership Conference a lancé un nouveau Centre pour les droits civils et la technologie et a fait appel à Nelson, auteur du Blueprint for an AI Bill of Rights, comme conseiller.
Avant la publication du nouveau décret, le sénateur Ed Markey, la représentante Pramila Jayapal et d’autres membres du Congrès ont envoyé une lettre à la Maison Blanche exhortant l’administration à incorporer les principes du projet dans le décret attendu. Ils ont déclaré que “l’engagement du gouvernement fédéral envers la Déclaration des droits de l’IA montrerait que les droits fondamentaux ne passeront pas au second plan à l’ère de l’IA”.
De nombreuses organisations de défense des droits civiques et de la société civile ont envoyé une lettre similaire à la Maison Blanche, exhortant l’administration à prendre des mesures sur les principes du plan dans le décret.
Alors que le projet de Déclaration des droits de l’IA célébrait son premier anniversaire, son impact à long terme était inconnu. Mais, fidèle à son titre, il présente une vision de la protection des droits civils à l’ère de l’algorithme. Cette vision a désormais été intégrée dans le décret sur une IA sûre, sécurisée et digne de confiance. L’ordonnance ne peut pas être correctement comprise sans ce contexte de droits civils.
Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lisez l’article original.
Be First to Comment