Les trolls inondent X de fausses images de Taylor Swift créées par l'IA

Après une tournée mondiale qui a rempli les stades, le chanteur Taylor Swift fait à nouveau la une de l'actualité, mais pour des raisons moins nobles : de fausses images du chanteur, générées par l'intelligence artificielle, ont été publiées sur X (Twitter) et vues par des millions d'utilisateurs, provoquant même la recherche du nom de l'artiste sur le réseau social. être banni . Apprenez-en davantage sur l’affaire dès maintenant.

Comprendre le cas des fausses images de Taylor Swift

Ces derniers jours, de fausses images de Taylor Swift — générées par l'IA — au contenu explicite ont circulé sur X, un autre exemple de la vague constante de pornographie générée par la technologie, en plus de la difficulté de la contenir par la modération de la plateforme.

L'une des publications les plus consultées, qui a duré 17 heures au total, a reçu 45 millions de vues, 24 XNUMX partages et des centaines de milliers de likes avant d'être supprimée et son utilisateur – qui est vérifié sur la plateforme – a vu son compte suspendu pour violer les règles du X.

Mais cela n'a pas empêché la tempête de fausses images du chanteur, qui ont continué à circuler sur le réseau social à travers des publications sur d'autres comptes, dont beaucoup sont encore disponibles. En conséquence, le sujet « Taylor Swift AI » s’est hissé en tête de liste des termes les plus recherchés, ce qui a encore renforcé ces faux messages sur l’artiste.

Selon le site Web 404 médias, les fausses images de Taylor Swift peut avoir été créé par les utilisateurs d'un groupe Telegram où des images de contenu explicite impliquant des femmes créées par Microsoft Designer sont partagées quotidiennement. Les membres du groupe ont apparemment apprécié le fait que les images se retrouvent sur les réseaux sociaux, faisant la lumière sur ce qui s'est passé. 

Le site Web a déclaré que les failles du système dans le mécanisme de création d'images IA qui servaient de passerelle pour les images frauduleuses ont été corrigées, ce qui a été confirmé par le responsable de l'ingénierie de l'intelligence artificielle à Microsoft, Sarah Bird. Elle affirme que l'enquête sur cette affaire se poursuivra et que les systèmes de sécurité de l'outil seront renforcés pour éviter qu'il ne soit à nouveau utilisé pour générer des images comme celle de Taylor.

Que fait X à ce sujet ?

Déjà X, il existe des règles et politiques concernant les images artificielles et manipulées, en plus de la nudité non consensuelle qui interdisent ce type de contenu de type réseau social. Malgré les contacts via les canaux journalistiques, les représentants de Taylor Swift et NFL, la ligue de football américain dans laquelle son petit ami Swift, l'ailier rapproché des Chiefs de Kansas City, Travis Kelce, qui disputera le Super Bowl dimanche prochain, a refusé de commenter la question. 

En réponse à des incidents avec Swift, X a publié une note affirmant qu'il y a une tolérance zéro dans ces cas d'abus d'image et que les équipes du réseau social travaillent activement pour freiner ce type de comportement chez ses utilisateurs. Pour autant, cela n'a pas servi d'excuse aux millions de fans du chanteur à travers le monde, qui ont vivement critiqué X pour avoir laissé les faux messages en ligne pendant si longtemps.

Pour tenter de supprimer les hashtags problématiques, ces fans ont commencé à publier de vraies vidéos de Taylor se manifestant pour tenter de dissimuler les nombreux contrefaçons qui sont encore accessibles au public. 

La modération en X diminue

Malgré les nombreux obstacles qui tentent d'empêcher la création d'images comme celle de Taylor par des outils d'IA, le défi d'empêcher complètement que cela se produise est difficile à surmonter, d'autant plus avec les réponses lentes et infructueuses des réseaux sociaux comme X, dont l'équipe de modération a été réduit depuis son acquisition par Musk.

En Europe, X fait l'objet d'une enquête concernant son utilisation pour diffuser de la désinformation et des contenus illégaux et a été interrogé sur les efforts déployés pour supprimer de la plateforme les fausses informations concernant le conflit entre Israël et le Hamas qui ont été trouvées ces derniers mois.

Jusqu'à ce qu'il y ait une solution idéale à ce grave problème de vie privée et d'image individuelle, vous ne pouvez pas être trop prudent lorsque vous publiez des photos et des vidéos sur les réseaux sociaux, mes amis !   

VOIR PLUS :

Ce que disent les premiers avis Apple Vision Pro

source: The Verge

Revu par Glaucon Vital le 6/2/24.