La Chine largue des bombes sur Taïwan. Les immeubles de Wall Street sont condamnés au milieu d’une chute libre des marchés financiers. Des milliers de migrants traversent la frontière sud sans contrôle. Et des policiers en tenue tactique bordent les rues de San Francisco pour lutter contre une vague de criminalité alimentée au fentanyl.
C’est l’image présentée dans une publicité générée par l’intelligence artificielle que le Comité national républicain (RNC) a publiée avec précipitation peu de temps après que le président Joe Biden a annoncé sa candidature à la réélection de 2024, censée décrire un avenir dystopique dans lequel Biden a remporté un deuxième mandat.
L’annonce a servi la dose habituelle de alarmisme du GOP – mais cette fois, accompagnée d’un montage d’images extrêmement réaliste créé par l’IA de certains des boogeymen préférés des républicains prenant vie dans une vidéo de 32 secondes.
L’annonce RNC – qui comprenait une petite clause de non-responsabilité qui disait: «Construit entièrement par des images d’IA» – offrait un aperçu alarmant de la façon dont la technologie pourrait être utilisée lors du prochain cycle électoral. Les experts préviennent que la publicité n’est qu’un avant-goût des changements radicaux que l’IA peut apporter au fonctionnement de notre système démocratique.
“Pour la première fois, je dirais que les ennemis de la démocratie ont la technologie pour passer au nucléaire”, a déclaré Oren Etzioni, PDG fondateur de l’Allen Institute for AI, au TPM. “Je parle d’influencer l’électorat par la désinformation et la désinformation à des niveaux complètement sans précédent.”
Les inquiétudes suscitées par cette publicité ont été, en partie, ce qui a incité la représentante Yvette Clarke (D-NY) et certains démocrates du Sénat à faire pression pour plus de surveillance de ces technologies émergentes et plus de transparence sur la manière dont elles sont utilisées.
Début mai, Clarke a présenté la REAL Political Ads Act, une loi qui élargirait les exigences de divulgation actuelles, exigeant que le contenu généré par l’IA soit identifié dans les publicités politiques.
Le démocrate de New York est particulièrement préoccupé par la propagation de la désinformation autour des élections, associée au fait qu’un nombre croissant de personnes peuvent déployer la puissante technologie rapidement et à moindre coût.
« Les ramifications politiques de l’IA générative pourraient être extrêmement perturbatrices. Cela pourrait devenir catastrophique, selon ce qui est représenté », a déclaré Clarke au TPM.
Exemple concret : bien qu’elle n’ait pas eu d’impact sur une élection, une vidéo d’IA montrant une explosion près du Pentagone est devenue virale lundi matin, provoquant la panique et provoquant une brève baisse du marché boursier.
“Nous devons être en mesure de discerner ce qui est réel et ce qui ne l’est pas”, a déclaré Clarke, ajoutant que la fausse explosion du Pentagone a été partagée par des comptes vérifiés quelques minutes après sa mise en ligne.
Un projet de loi complémentaire à celui de Clarke a été présenté au Sénat la semaine dernière par les sens. Michael Bennett (D-CO), Cory Booker (D-NJ) et Amy Klobuchar (D-MN).
Selon les experts, une grande partie de l’inquiétude réside dans le fait que l’IA peut être utilisée pour créer une vidéo et un son faux mais extrêmement réalistes afin d’induire en erreur et de confondre les électeurs, tout comme la récente publicité RNC et photos de Trump se faisant arrêter qui est devenu viral au moment de son inculpation à New York. Au fur et à mesure que la technologie progresse, ce type de matériel trompeur pourrait être déployé à une échelle sans cesse croissante.
“Et si Elon Musk vous appelle au téléphone et vous demande de voter dans une certaine direction ?” Etzioni a théorisé, soulignant que sans garde-corps, les électeurs seront de plus en plus soumis à des attaques visant à les persuader de voter d’une certaine manière ou éventuellement de ne pas voter du tout.
L’existence de contenu généré par l’IA en soi a déjà un effet sur la façon dont les gens consomment et croient que les informations qu’ils absorbent sont réelles.
“La vérité est que parce que l’effet de l’IA générative est de faire douter les gens de la réalité ou non de tout ce qu’ils voient, cela n’est dans l’intérêt de personne lorsqu’il s’agit d’une démocratie”, a déclaré Imran Ahmed, PDG du Center for Countering Digital Hate, dit le TPM.
“Le seul endroit qui nous mène est anti-démocratique”, a-t-il déclaré.
Le Congrès a déjà manifesté un certain intérêt pour l’IA, notamment lors d’une audition amicale devant le sous-comité sénatorial pour la confidentialité, la technologie et la loi avec Sam Altman, le PDG d’OpenAI, et d’autres experts de l’industrie. Mais jusqu’à présent, le Congrès s’est largement tenu à l’écart des implications de l’IA pour la démocratie, y compris pour les prochaines élections de 2024.
“Il est important pour notre crédibilité en tant que démocratie que nous ne nous laissions pas ouverts à tout type de stratagèmes qui pourraient finalement causer du tort, perturber une élection, s’appuyer sur la méfiance qui existe déjà compte tenu de la dynamique politique des élections précédentes”, Clarke a déclaré au TPM.
Il n’y a pas eu de soutien public pour le projet de loi du caucus du GOP – du moins pas encore. Certains républicains ont cependant exprimé leur inquiétude à propos du sujet.
“Croyez-moi, il n’y a pas que les républicains qui seront tentés de l’utiliser.”
Le sénateur Josh Hawley (R-MO), par exemple, a récemment exprimé son intérêt pour l’examen de la question, déclarant à NPR que “le pouvoir de l’IA d’influencer les élections est une énorme préoccupation”.
Clarke a déclaré qu’elle espérait que ses collègues républicains verraient qu’il s’agit d’un problème qui transcende tout parti et candidat.
“Cela devrait être bipartite”, a-t-elle déclaré au TPM.
« Il y a de bonnes raisons de penser qu’il s’agit d’une épée à double tranchant. Ce n’est pas quelque chose qui peut être relégué à un seul parti », a-t-elle ajouté. “Nous sommes tous vulnérables à l’utilisation de la publicité générée par l’IA. Cela peut être perturbateur, que vous soyez démocrate ou républicain. »
Les parrains démocrates de la législation d’accompagnement du Sénat ont également exprimé leur optimisme au TPM quant à l’intérêt des républicains. Les progrès rapides de l’IA ont ouvert ce que Booker a décrit au TPM comme une “opportunité rare de coopération bipartite au Sénat”.
“Il était clair lors de la récente audience du Comité judiciaire que mes collègues des deux côtés de l’allée comprennent la menace du contenu généré par l’IA dans la diffusion de fausses informations, et j’espère qu’ils rejoindront ce projet de loi pour moderniser nos lois sur la divulgation et assurer la transparence dans nos publicités politiques », a déclaré Booker au TPM.
Un autre parrain du projet de loi a fait écho à ce sentiment : « Les Américains attendent de la transparence et de la responsabilité dans notre processus électoral – il n’y a aucune raison pour que cette législation ne soit pas bipartite », a déclaré Bennett au TPM.
Ahmed, de Countering Digital Hate, a fait écho à ce sentiment.
“Croyez-moi, il n’y a pas que les républicains qui seront tentés de l’utiliser”, a-t-il déclaré.
Mais comme tout le reste dans le Congrès divisé d’aujourd’hui, les républicains se joignant aux démocrates dans un effort de bonne foi pour résoudre un problème émergent sont de plus en plus rares. C’est devenu particulièrement vrai de toute législation qui touche à la démocratie et au vote. Et Clarke s’inquiète certainement du fait que la droite récemment enhardie à la Chambre bloque la voie de son projet de loi.
“Il y a des gens qui voient le discours politique entre les démocrates et les républicains comme une guerre”, a déclaré Clarke. “Et ils peuvent avoir l’impression d’être désarmés s’ils créent de quelque manière que ce soit une sorte de garde-corps ou de règles de la route – en particulier ceux qui parlent avec tant de véhémence des droits du premier amendement.”
L’objectif du projet de loi de Clarke est – comme elle le dit – d’établir des règles et des règlements “qui sont à la fois une carotte et un bâton” ; Les législateurs doivent créer de la transparence pour le peuple américain afin qu’il ne puisse pas être trompé par l’utilisation de la technologie sans restreindre les droits du premier amendement, a-t-elle déclaré.
“Il y a juste des gens qui poussent les choses à l’extrême ici”, a-t-elle ajouté. “Et je ne sais pas à quel point ils seraient influents auprès de certains collègues qui comprennent vraiment les implications et veulent faire quelque chose à ce sujet.”
Be First to Comment