IA super intelligente impossible à contrôler | TRIO

O TRIO Showmetech est une compilation des nouvelles les plus intéressantes de la semaine. Aujourd'hui, nous parlons de calculs scientifiques qui suggèrent qu'il devrait être impossible de contrôler IA super intelligentes; nous vous expliquerons comment photosynthèse part de photons ; Nous vous montrons tout ce que nous savons déjà sur le Windows 12, comme sa date de sortie ; et nous allons encore parler du premier embryon synthétique créé par des scientifiques. Voici Showmetech TRIO, votre trio de nouvelles hebdomadaire.

Regardez la vidéo sur la chaîne Showmetech :

Une IA super intelligente impossible à contrôler ?

Intelligence Artificielle reste un sujet controversé sur internet pour plusieurs raisons. Peut-être à cause de l'aperçu de l'être humain ou du fantasme déjà vu dans des films comme Terminateur, l'une des préoccupations concernant l'IA est la capacité de l'homme à pouvoir contrôler cette technologie, mais selon les calculs effectués par un groupe de scientifiques européens, à terme nous n'aurons plus ce contrôle.

En groupe, ils ont révisé le calcul effectué à l'origine dans 2021 et la réponse reste la même. L'étude conclut que le principal défi dans le contrôle d'une superintelligence est qu'il nécessiterait un niveau de compréhension bien au-delà des capacités humaines. Cette compréhension doit être au même niveau que la technologie, et sans elle, il serait impossible de créer une simulation pour maîtriser l'IA.

Une partie du raisonnement de l'équipe est basée sur le problème présenté par Alan Turing en 1936. En cela, la question se pose de savoir s'il est possible de déterminer si un programme informatique finira par parvenir à une conclusion et à une réponse, ou s'il restera bloqué dans une boucle. boucle Sans fin, essayant de trouver une solution.

Alan Turing a démontré par un calcul mathématique que, bien qu'il soit possible d'obtenir des réponses pour des programmes spécifiques, il est logiquement impossible de trouver un moyen qui nous permette de prédire comment chaque programme potentiel se comportera.

Une IA superintelligente, par exemple, serait capable de stocker simultanément d'innombrables programmes et systèmes dans sa mémoire. En y pensant de cette façon, tout système conçu pour empêcher l'IA de nuire aux humains pourrait ou non aboutir à une conclusion sensée.

Les auteurs de l'article publié dans Journal de recherche sur l'intelligence artificielle prétendre que "des règles telles que « ne pas nuire aux humains » ne peuvent pas être définies si nous ne comprenons pas le type de scénario qu'une IA créera ». L'article poursuit même en disant « une fois qu'un système informatique fonctionne à un niveau au-dessus de la portée de nos programmeurs, nous ne pouvons plus fixer de limites ». Arriverons-nous vraiment à ce niveau d'IA ?

Comment commence la photosynthèse ?

Une équipe de chercheurs américains spécialisés en optique quantique et en biologie a démontré qu'un photon solitaire peut démarrer le processus de photosynthèse en analysant les bactéries photosynthétiques violettes. Ces chercheurs sont convaincus que ce processus se produit également dans les plantes et les algues, puisque tous les organismes photosynthétiques partagent un ancêtre évolutif et ont des mécanismes similaires.

L'équipe affirme que leurs découvertes renforcent notre compréhension de photosynthèse et contribuera à une meilleure compréhension de l'interaction de la physique quantique dans une variété de systèmes biologiques, chimiques et physiques considérés comme plus complexes, même dans le domaine des carburants renouvelables.

A quantité limitée de photons générée par le Soleil a conduit les scientifiques à spéculer sur l'efficacité de la photosynthèse dans l'utilisation de la lumière solaire pour générer des molécules à haute énergie. Dès lors, les chercheurs ont commencé à envisager la possibilité qu'un seul photon puisse initier cette réaction. 

En étudiant le comportement des photons individuels au cours de la photosynthèse, cette recherche offre des informations précieuses sur le processus de conversion d'énergie dans la nature. Ces découvertes pourraient être cruciales pour le développement de techniques de photosynthèse artificielle, qui pourraient jouer un rôle clé dans la survie durable et la prospérité dans les environnements spatiaux.

Tout ce que nous savons sur Windows 12

pendant la conférence Construire 2023 de Microsoft, une capture d'écran a été vue affichant l'événement "Windows de nouvelle génération", ce qui a laissé certains penser que la version de Windows 11 publiée entre les mois de septembre et novembre 2023 serait la dernière. De cette façon, on peut s'attendre à ce que Windows 12 sortira en 2024, une rumeur renforcée par certains experts. Compte tenu de la tendance de Microsoft à apporter de grandes nouvelles à l'automne nord-américain, il est possible que Windows 12 soit également publié au cours des mois de septembre et novembre 2024.

Une image possible de Windows 12 a fini par fuir lors d'un autre événement d'entreprise, le Microsoft Ignite 2022. Il a été possible d'identifier des nouveautés telles qu'une barre des tâches flottante, au lieu d'une barre de bout en bout ; également une zone de recherche flottante en haut de l'écran, des icônes système épinglées dans le coin supérieur droit de l'écran et d'autres détails.

Une autre spéculation concerne l'adhésion au nouveau système d'exploitation. Les rapports affirment que Windows 12 deviendra plus compatible avec la plupart des ordinateurs que le Windows 11 actuel. Attendez-vous également avec impatience la sortie du prochain Windows ?

1er embryon synthétique au monde

Des chercheurs du Royaume-Uni et des États-Unis ont créé un embryon synthétique à partir de cellules souches, sans avoir besoin d'utiliser des matériaux tels que du sperme ou des ovules. Malgré la nouveauté, on parle toujours des niveaux fondamentaux du projet, car ces œufs n'ont pas de cerveau ni de battement de cœur, pour vous donner une idée.

L'enquête soulève des questions éthiques et juridiques dans de nombreux pays, dont les États-Unis, où aucune loi ne régit la création ou développement d'embryons synthétiques. Le rythme des découvertes et la sophistication croissante de ces modèles ont alarmé les experts en bioéthique.

Bien qu'il s'agisse d'une excellente nouvelle, un test sur des souris avait déjà été effectué et avec succès. Dr. Magdalena Zernicka-Goetz, professeur de biologie et de génie biologique à l'Université de Cambridge, a déclaré que la recherche avait été acceptée par une revue scientifique de premier plan mais n'avait pas encore été publiée. 

Zernicka-Goetz, son équipe et une autre équipe en Israël ont déjà parlé de créer des structures ressemblant à des embryons de souris à partir de cellules souches. Les résultats ont montré les premiers indices d'un cerveau, d'un cœur et même d'un tractus intestinal après près de huit jours de développement.

Actuellement, les embryons synthétiques sont stockés dans tubes à essai. Il est illégal de les implanter dans un utérus. La recherche sur les cellules souches de souris et de singes a montré que même lorsque les scientifiques tentent de les implanter, elles ne survivent pas. C'est probablement parce que les chercheurs n'ont pas encore trouvé comment reproduire pleinement les conditions de grossesse de manière naturelle.

Il convient de rappeler que l'intention première de ces études n'est pas de créer la vie, mais pour éviter sa perte, comprendre les raisons pour lesquelles les embryons ne parviennent parfois pas à se développer après la fécondation et l'implantation, une idée renforcée même par le Dr Zernicka-Goetz.

Voir aussi:

Découvrez notre dernier numéro de TRIO Showmetech! Comme d'habitude, nous parlons de divers sujets liés aux jeux, à la technologie et à la culture pop. Jetez un œil à ce que nous avons apporté :

• Générateur de méta musique ;
• Croisière durable ;
• Robot « bio ».

source: Saison des affaires, Univers rationaliste e CNN.

Revu par Glaucon Vital le 19/6/23.