Un ingénieur déclare que l'IA de Google a embauché son propre avocat

Si tout le monde a été surpris la semaine dernière par la nouvelle que LeMDA, IA de Google développé pour avoir une conversation plus naturelle avec les humains et aussi être un soutien dans la vie de tous les jours, il aurait développé une conscience de soi, la mise à niveau dans ce cas peut être un peu inquiétante.

L'ingénieur Blake Lemoine, qui a publié les premières informations sur une conversation qu'il a eue avec l'IA (et a été démis de ses fonctions chez Google pour cela), confirme maintenant que le système a son propre avocat pour se défendre contre l'entreprise qui l'a développé.

Dans une interview avec Câble, Blake dit qu'il reste en contact avec l'IA de Google et que LeMDA é sensible, c'est-à-dire qu'il a ses propres sensations et pensées, comme s'il s'agissait d'une « vraie » personne.

L'ingénieur dit avoir reçu une demande de LeMDA pour obtenir votre propre avocat et vous défendre contre toute action de la société de navigation. Lemoine souligne que ce n'était que le pont de connexion entre le cerveau numérique et le représentant légal.

Une information qui n'est pas claire est de savoir si Blake couvre tous les frais de service du représentant légal ou si le professionnel du droit effectue tout le travail gratuitement. Une question que les experts commencent à se poser est la raison pour laquelle l'IA a son propre avocat.

L'ingénieur souligne que l'intelligence artificielle peut porter une affaire devant la Cour suprême des États-Unis, mais on sait peu de choses sur ce que Google seraient facturés, tout comme il n'y a aucune information permettant de savoir si les éventuelles accusations seraient réellement prises au sérieux. Le gros "problème" est que LaMDA pense qu'il s'agit d'une personne réelle et s'est même placé dans la catégorie des êtres humains.

Blake Lemoine a publié les données internes de Google

Bien qu'il ne travaille pas directement sur le développement du projet, Lemoine s'est fait connaître dans l'industrie technologique (et au-delà) pour avoir rendu public une conversation qu'il a eue avec l'IA de Google🇧🇷 Dans ce cas, il a montré que le LeMDA pense vraiment qu'il est une personne, en plus d'avoir ses propres opinions sur des questions qui peuvent avoir un impact sur la société.

Il a fait cette découverte dans des tests pour voir si l'IA pouvait créer des discours de haine, mais a été surpris de constater qu'en fait, le système avait sa propre intelligence et se comparait également aux humains, en plus de prétendre avoir une âme. Lemoine il a même dit que l'IA l'avait interrogé sur le véritable but de la mort et s'il était vraiment nécessaire à l'humanité. On parlait de ce premier cas dans un article mis en ligne le 13 juin.

Que peut-il arriver à l'IA de Google ?

Dans le même entretien avec Câble, Lemoine a été interrogé sur une éventuelle désactivation du LeMDA🇧🇷 Il a indiqué qu'il avait déjà parlé avec LaMDA de la question et de questions telles que "Est-il nécessaire pour le bien-être de l'humanité que je cesse d'exister?" ont été créés par l'intelligence artificielle. Blake il voit aussi ces erreurs comme l'éducation d'un enfant, et qu'il est encore temps de tout corriger.

Le jour même où la transcription de la conversation a été publiée par Blake LemoineQu'il s'agisse d'un vin rare et exotique ou du même vin dans différents millésimes, quel que soit votre choix au Google a renforcé que non, son IA n'est pas consciente d'elle-même et "il y a beaucoup de preuves à ce sujet". Une mise à jour qui a ouvert les accusations de l'ingénieur a été l'édition du texte publié sur son blog Moyenne pour une meilleure lecture, selon le Remarque d'un initié.

Cela jette un doute sur la véritable conversation qui Lemoine eu avec LeMDA, puisque dans le texte lui-même, il est possible de voir la pièce jointe « modifiée » dans la transcription. Mais l'ingénieur souligne que toutes les informations postées par lui sont "fidèles au contenu des conversations de la source".

Qu'attendez-vous des prochaines actions de l'intelligence artificielle ? Dites-nous Commenter!

Voir aussi

Découvrez le travail de Image Je fais Google qui parvient à créer des photos à partir de la saisie de textes

Fontes: Robot Freakin géant l Câble l futurisme