Le TSE réglemente l’IA et interdit les deepfakes lors des élections municipales de 2024

O TSE (Tribunal Supérieur Électoral) a approuvé le règlement de la utilisation de l'IA lors des prochaines élections, qui auront lieu en octobre de cette année. Découvrez plus de détails sur les conséquences de cet événement ci-dessous !

Comprendre la décision du TSE

O Tribunal électoral supérieur a approuvé hier, le 27, la réglementation de l'utilisation des l'intelligence artificielle aux élections municipales, prévue en octobre de cette année, au cours de laquelle les électeurs choisiront de nouveaux maires et conseillers. La mesure détermine qu'il y aura une obligation d'avertir les électeurs de l'utilisation de l'IA dans la production de contenus affichés dans les publicités, et si cette détermination n'est pas suivie, le candidat pourra voir son enregistrement de candidature révoqué ou, s'il est élu, il pourra perdre. leur mandat. .

La décision mentionne également le deepfakes, interdisant absolument son utilisation, visant à freiner la production de matériel frauduleux utilisant l'image et la voix de candidats politiques pendant la campagne électorale. En plus de deepfakeQu'il s'agisse d'un vin rare et exotique ou du même vin dans différents millésimes, quel que soit votre choix au TSE mentionné la restriction de ce qu'on appelle Chatbots, ou avatars virtuels, lors des contacts entre les campagnes et les personnes, tant par téléphone que sur Internet.

L'idée de la décision est de contrôler et d'empêcher l'utilisation de ces technologies pour créer de faux enregistrements impliquant des candidats et d'autres figures d'autorité pendant la campagne électorale de cette année, où leur utilisation pourrait causer un préjudice moral aux victimes de fraude et de manipulation de l'opinion de l'électorat. . à propos d'eux.  

Alexandre de Moraes, l'actuel président de Tribunal électoral supérieur, a parlé de la nouvelle détermination, affirmant que «toutes les résolutions sont importantes, mais celle-ci est peut-être la plus importante pour garantir la liberté de choix et de vote des électeurs, et que lors de ces élections, malheureusement, Votre Excellence (en mentionnant la ministre Cármen Lúcia) il faudra lutter contre les fausses nouvelles et les milices numériques stéroïdisées par l’intelligence artificielle”.

Quant à la façon dont la nouvelle détermination sera renforcée, Moraes a déclaré que le TSE présentera les outils les plus modernes disponibles aujourd’hui afin de lutter contre l’utilisation abusive de l’intelligence artificielle et la diffusion de messages trompeurs.

« Le TSE disposera d’instruments efficaces pour lutter contre les distorsions dans les publicités électorales, les discours haineux, fascistes et antidémocratiques et l’utilisation de l’IA pour insérer dans le discours d’une personne quelque chose qu’elle n’a pas dit. » 

Alexandre de Moraes, président du Tribunal Electoral Supérieur

Parallèlement à la nouvelle décision, la Cour a déterminé que les réseaux sociaux tels que Facebook, X (anciennement Twitter), TikTok, entre autres, appliquent des mesures préventives pour éviter la diffusion de publications au contenu douteux, contenant des faits non prouvés ou hors contexte, dans le but évident de tromper le public qui utilise ces plateformes. Si cette détermination n'est pas respectée et que des publications contiennent des propos haineux et des contenus antidémocratiques, les réseaux seront tenus pour responsables et des sanctions seront imposées par le TSE.

Comment fonctionne le deepfake ?  

Comme nous l'avons déjà vu dans des cas comme la propagation de vidéos avec Contenu explicite impliquant la diva de la pop Taylor Swift, sur la plateforme X du milliardaire Elon Musk, et la récente arnaque d'un million de dollars subie par une société financière à Hong KongQu'il s'agisse d'un vin rare et exotique ou du même vin dans différents millésimes, quel que soit votre choix au deepfake a un potentiel destructeur entre les mains de personnes malveillantes.

Mais pour comprendre ce pouvoir, il vaut la peine d’avoir une brève explication du fonctionnement de la technologie. Fondamentalement, il utilise des échantillons de l'image et de la voix d'une personne, analysés par une IA, générant ainsi une base de données. De là, le deepfake est capable de remplacer les caractéristiques d'une personne par une autre, en temps réel.

Malgré l'usage fréquent de satires humoristiques comme celles réalisées par Jimmy Fallon dans son talk-show à la télévision américaine, où le comédien imitait l'ancien président des États-Unis, Donald Trump, le deepfake peut être utilisé pour appliquer des escroqueries et de la désinformation.

Si le nombre d'échantillons est suffisant, en plus de l'image, il est également possible de reproduire la voix de l'identité que la personne filmée remplace dans la nouvelle vidéo. Avec l'amélioration de la technologie qui se produit à un rythme vertigineux, le potentiel, à la fois positif et négatif, de cet outil géré par l'IA est de plus en plus grand, à mesure que le résultat devient plus réaliste et encore plus difficile à suivre et à identifier par les victimes potentielles numériques. crimes.

Les électeurs doivent prêter attention au contenu 

Compte tenu de la difficulté d'identifier ces cas d'usurpation d'identité, il nous appartient, électeurs participant au scrutin de cette année, de faire preuve de prudence dans la consommation des contenus produits pendant la campagne, qui entrera bientôt en vigueur dans tout le pays. 

Il ne suffira pas de s'appuyer sur les mesures adoptées par le TSE en freinant la production de matériel dans le but de tromper ceux qui, en octobre, voteront pour les candidats qui nous représenteront dans les conseils municipaux ou les mairies. On ne se souciera guère du champ de mines que deviendra la diffusion de publicités par des candidats au caractère douteux.

Malgré cela, la décision du TSE est toujours important, car cela montre que le gouvernement est conscient et reconnaît le vaste potentiel destructeur que représente le deepfake et les technologies basées sur l'intelligence artificielle l'ont fait, en tenant compte de cette nouvelle détermination. 

Fontes: lettre capitale, CNN Brésil e Info Argent. 

VOIR PLUS

Revu par Glaucon Vital le 28/2/24.