Un site porno utilise la méthode deepfakes pour afficher le visage du client sur les acteurs

la société porno Amérique méchante a annoncé cette semaine un nouveau service. La proposition est d'ajouter le visage du client sur un acteur ou une actrice dans des films pornographiques. Ceci n'est possible qu'à travers intelligence artificielle🇧🇷 C'est un moyen de rendre l'expérience du client plus immersive, en se voyant dans la scène. Néanmoins, cette technologie est directement liée au phénomène croissant de deepfakes.

Le marché du porno se concentre sur la personnalisation

"Nous voyons la personnalisation et la personnalisation comme l'avenir", commente le PDG de Naughty America, Andreas Hronopoulos em entretien avec Variété🇧🇷 Pour le processus, vous devez envoyer plusieurs photos et vidéos de vous-même, y compris différentes expressions faciales. Le reste du travail est fait par l'intelligence artificielle. Il est également possible de changer l'arrière-plan des scènes, en mettant, par exemple, une plage à la place d'une chambre de motel. La société a démontré ces effets dans deux vidéos (le lien contient de la pornographie).

Cependant, le processus utilisé par Naughty America est le même pour générer le deepfakes🇧🇷 Cette nouvelle catégorie de mensonges se caractérise par l'utilisation de logiciels pour modifier les vidéos et tromper le public.

La modification des visages ne devrait pas être une marchandise

Des chercheurs de l'Université de Washington ont pu, grâce à IA, identifier les caractéristiques gestuelles et orales Barack Obama🇧🇷 Avec cela, il a été possible de créer des simulations presque parfaites de choses que l'ancien président des États-Unis n'a jamais dites.

Ce qui inquiète, c'est facilité d'accés à des outils comme celui illustré. Ces outils sont open source, ce qui signifie que tout le monde peut les utiliser. Pourtant, Naughty America facturera un peu pour son service. Le montant varie : des centaines de dollars pour des modifications simples et plus de mille dollars pour des modifications compliquées.

Selon Naughty America, les acteurs qui "emprunteront" le corps auront consenti aux modifications. Cependant, d'autres problèmes peuvent survenir. Comment savoir si les photos et vidéos envoyées par les clients sont également autorisées ?

Il existe un risque évident que le visage de quelqu'un d'autre soit enveloppé dans un film porno à diffuser sur Internet. L'année dernière, nous avons eu le cas de une vidéo pornographique dans lequel l'actrice avait le visage de Gal Godot (Wonder Woman au cinéma).

Avec la vulgarisation et l'amélioration de ces technologies, il existe un risque encore plus grand que celui de vengeance porno, ce qui est déjà sérieux. Vidéos de profondake ils peuvent être utilisés à des fins de manipulation politique et entraîner des conséquences irréversibles, telles que des guerres.

Que faire lorsque vos photos intimes fuient sur internet ?

Les deepfakes doivent être combattus et non naturalisés

Pour Naughty America comme "les gros mensonges » sont une chose naturelle ; "c'est juste du montage", raconte Hronopoulos FastCompany🇧🇷 Pour le PDG de Naughty America, "les gens retouchent les visages des autres sur les photos depuis le début d'internet". Il finit: "Les deepfakes ne font pas de mal aux gens, les gens qui utilisent des deepfakes font du mal aux gens".

Il faut comprendre à quel point ce sujet peut être problématique. Vous ne pouvez pas simplement lancer un outil qui produit deepfakes et refuser de blâmer pour les conséquences. Ce n'est pas seulement "les gens qui utilisent des deepfakes blessent les gens", il faut comprendre qu'il y a des problèmes d'influence derrière.

Les influences peuvent être sociales (en répandant des mensonges sur quelqu'un que vous n'aimez pas), économiques (en créant un service pour tirer profit de mensonges) ou politiques (en mettant littéralement des mots dans la bouche des ennemis). Il est pertinent qu'il y ait un plus grand débat médiatique sur ce qui est faux et comment lutter contre ces nouvelles sous-catégories en plein essor.

source: Le bord.