Google Assistant va maintenant se plaindre des commandes abusives

O Assistant Google c'est l'une des intelligences artificielles les plus présentes dans notre quotidien, mais toute cette forte utilisation peut aussi ouvrir des commandes abusives.

Dans cet esprit, le Google lance une nouvelle mise à jour qui propose des réponses intelligentes de votre assistant personnel, axées sur l'éducation et signalant principalement qu'un tel comportement erroné ne doit pas être utilisé avec l'intelligence artificielle ou dans la vie réelle.

La nouveauté est similaire à la mise à jour de LFI, Je Bradesco, qui a commencé à répondre aux attaques misogynes et autres délits. Voir tous les détails dès maintenant.

La mise à jour est en préparation depuis 2020

Avec le nom de #ne me parle pas comme çaQu'il s'agisse d'un vin rare et exotique ou du même vin dans différents millésimes, quel que soit votre choix au Google a commencé à préparer les nouvelles réponses lorsqu'il a reçu le rapport Je rougirais si je pouvais da UNESCO qui a été publié en 2019 et a signalé que l'utilisation de voix à intonation féminine contribuait à perpétuer les préjugés sexistes. 

Arpita Kumarqui est Stratège de contenu senior au sein de l'équipe de personnalité de Google Assistant, a commencé à travailler sur l'idée qui a été publiée aujourd'hui (03), mais peut être considérée comme une mise à jour en cours. Même parce que, chaque jour, de nouveaux termes sont considérés et de plus en plus utilisés comme des délits.

Lors de l'événement d'annonce des nouvelles réponses du Assistant Google, Arpita a souligné que tout le travail est encore fait manuellement, mais au fil du temps, le développement d'un algorithme juste pour enregistrer de nouveaux termes et des réponses appropriées peut être effectué.

Avant d'être diffusé à tous les utilisateurs, de petits tests ont été effectués auprès d'une petite partie du public et étonnamment, il y a eu une croissance de 6% des retours pour les assistants personnels. Après avoir reçu des réponses inattendues, les personnes qui ont participé à l'analyse ont commencé à s'excuser ou même à se demander pourquoi un tel comportement ne devrait pas être utilisé.

Comment les commandes abusives ont-elles été identifiées ?

OGassistant Google il est disponible dans 95 pays et peut envoyer et comprendre des commandes dans 29 langues différentes, ce qui permet à la société de développement d'avoir accès à un grand nombre de commandes qui pourraient être évitées.

Arpita partagé que le processus d'identification a commencé par filtrer ce qui a été dit par les utilisateurs, afin que l'examen puisse être effectué en arrière-plan.

La création des nouvelles réponses s'est produite peu de temps après. Les livres, articles et autres contenus créés par des femmes ont servi de base pour créer des réponses, car dans le monde entier, les assistants personnels de Google avec une intonation considérée comme féminine subissaient de plus en plus d'attaques.

Cela ne signifie pas que la voix orange de Assistant Google (avec une intonation masculine) n'était pas attaqué. Les utilisateurs utilisaient l'excuse que "ce n'est pas une vraie personne" pour prononcer des commandes avec des tons homophobes, soit une infraction enregistrée sur dix. La voix orange est sortie au cours de la dernière année et subit déjà des attaques facilement reproductibles dans la vie réelle.

Quelles sont les nouvelles réponses ?

Lorsqu'une commande considérée comme offensante est identifiée par le système, une réponse spéciale sera envoyée vocalement, au lieu que tout soit pris avec humour ou dirigé vers des recherches sur Internet. De cette façon:

En plus de parler, le Assistant Google éduquera ses utilisateurs afin que le même comportement ne se reproduise pas dans la "vraie vie". L'entreprise n'interdira pas les utilisateurs qui ont une approche inappropriée, mais essaiera de changer leur façon de penser afin que leurs proches ne subissent pas les mêmes attaques. Découvrez un autre exemple :

Assistant Google au Brésil

Le Brésil est l'un des pays qui utilise le plus Assistant Google et dans le classement mondial, nous sommes en troisième position dans la liste des nations avec les utilisateurs les plus actifs. Avec l'arrivée de la pandémie de COVID-19, l'utilisation a augmenté et l'entreprise a décidé que les Brésiliens seraient l'un des premiers à recevoir la nouvelle.

Le portugais est une langue avec plusieurs variantes et pour que de nouvelles réponses soient disponibles, l'équipe internationale a collaboré avec des spécialistes brésiliens. Selon Maïa Mau, responsable marketing chez Assistant Google pour l'Amérique latine, 200 termes ont été insérés qui sont considérés comme des commandes abusives et doivent recevoir des réponses spéciales.

Toujours sur les données du Brésil, 2% des interactions avec le Assistant Google sont abusives et 15% d'entre elles ont des termes misogynes voire du harcèlement sexuel. Chaque jour, les femmes souffrent dans des situations différentes, de sorte que le Google, à travers ces changements, veut changer la façon de penser de ses utilisateurs.

En chiffres : 22 % des attaques pour la voix rouge ont un discours misogyne et 13 % des commentaires adressés à la voix orange concernent l'apparence physique (dont 2 % impliquent la misogynie).

L'assistante personnelle a cessé d'utiliser « s'il vous plaît » lorsqu'elle demandait le respect, car l'équipe a compris que le respect ne devait pas être demandé poliment. La phrase "Ne me parle pas comme ça" est plus idéale pour éduquer et indiquer qu'un tel comportement ne devrait même pas être dirigé vers un assistant personnel ou une personne dans la vraie vie.

Les nouvelles réponses sont disponibles à partir d'aujourd'hui (03) pour tous les utilisateurs et la mise à jour sera continue, dès que de nouvelles commandes abusives commenceront à être dites plus souvent à l'assistant Google. Qu'avez-vous pensé de la mise à jour ? Dites-nous Commenter!

Voir aussi

Découvrez les nouveautés de la recherche Google pour les élections de 2022.

source: Google