Général

La recommandation du livre d'Elon Musk pour sauver le monde de A.I. apocalypse


Quand Elon Musk parle (ou, plus souvent, tweete) sur l'intelligence artificielle, le monde écoute. Pendant des années, l'entrepreneur technologique a émis des avertissements inquiétants concernant les dangers de l'IA. L'une de ses dernières réflexions sur Twitter a encouragé tout le monde à lire un livre récemment publié sur la façon dont l'IA changera la société.

Il vaut la peine de lire Life 3.0 par @Tegmark. L'IA sera la meilleure ou la pire chose qui soit pour l'humanité, alors faisons les choses correctement.

- Elon Musk (@elonmusk) 29 août 2017

Musk s'intéresserait également au travail de Tegmark alors que Musk a fait don de 10 millions de dollars au groupe Future of Life de Tegmark en 2015. La promotion de la sécurité et de la sûreté de l'IA de Tegmark s'aligne sur le projet OpenAI de Musk et la demande d'un forum ouvert sur la façon dont les programmeurs les plus brillants du monde devraient traiter AI.

Qui est Max Tegmark?

Alors, qui est exactement cet homme à qui Musk a dédié une partie de son flux Twitter très populaire? Max Tegmark travaille comme physicien au Massachusetts Institute of Technology. Tegmark est également président du Future of Life Institute, un groupe de recherche de Boston qui étudie le risque global imposé par l'IA.

Tegmark a écrit un jour: "Tout ce que nous aimons dans la civilisation est un produit de l'intelligence, donc amplifier notre intelligence humaine avec l'intelligence artificielle a le potentiel d'aider la civilisation à s'épanouir comme jamais auparavant - tant que nous parvenons à garder la technologie bénéfique."

Pourtant, le reste de son site Web Future of Life n'offre pas beaucoup de promesses envers A.I. Au lieu de cela, le site Web de Tegmark expose (de manière assez détaillée) tout ce qui pourrait mal tourner avec l'intelligence artificielle et explique pourquoi la sécurité de la recherche est cruciale pour la survie de l'humanité.

Et la description du livre est tout aussi inquiétante avec un pincement au pouvoir:

«Comment pouvons-nous accroître notre prospérité grâce à l'automatisation sans laisser les gens sans revenu ni but lucratif? Quels conseils de carrière devrions-nous donner aux enfants d'aujourd'hui? Comment pouvons-nous rendre les futurs systèmes d'IA plus robustes, afin qu'ils fassent ce que nous voulons sans s'écraser, ne pas fonctionner correctement ou se faire pirater Doit-on craindre une course aux armements dans les armes autonomes mortelles? Les machines finiront-elles par nous déjouer dans toutes les tâches, remplaçant les humains sur le marché du travail et peut-être tout à fait? L'IA aidera-t-elle la vie à s'épanouir comme jamais auparavant ou nous donnera-t-elle plus de pouvoir que nous ne pouvons en gérer?

"Quel avenir voulez-vous? Ce livre vous donne les moyens de participer à ce qui pourrait être la conversation la plus importante de notre époque. Il n’évite pas l’ensemble des points de vue ou les questions les plus controversées - de la superintelligence au sens, conscience et les limites physiques ultimes de la vie dans le cosmos. "

Actuellement, les avis sur Amazon sont de 4,5 étoiles sur 5. Vous pouvez acheter le livre chez un certain nombre de détaillants dans le monde.

Tegmark n'est pas étranger à la liste des meilleurs vendeurs. Son livre Notre univers mathématique: ma quête de la nature ultime de la réalité conduit à une série de discussions brillantes et d'apparitions en panel. Vous pouvez regarder son entretien avec Google sur la façon dont les mathématiques composent notre monde ci-dessous.

Musk devient-il le «garçon qui criait au loup»?

Une critique croissante de Musk est que, parfois, il - malgré son talent et sa base de fans zélés - sonne comme un disque rayé. Ses excentricités ne cachent pas le fait qu'il a dit les mêmes choses à propos de l'IA avec très peu de nuances: les IA sont un «risque fondamental pour l'existence de la civilisation humaine». Le même ton avec chaque série de pensées de 140 caractères fait rouler les yeux d'autres chercheurs.

François Chollet, un chercheur des projets d'apprentissage en profondeur de Google, a déclaré qu'il ne voyait pas l'intelligence artificielle créer de nouveaux problèmes. Au contraire, Chollet a déclaré qu'ils "[aggravent] quelques menaces existantes".

Certains chercheurs soulignent que l'IA résout en fait les problèmes que les humains sont devenus trop paresseux pour remarquer. Shimon Whiteson travaille comme professeur associé à l'Institut d'informatique de l'Université d'Amsterdam. Dans une interview avec Interne du milieu des affaires, dit-il, l'IA a la capacité de résoudre les problèmes plus rapidement que prévu.

VOIR AUSSI: 9 FAITS QUE VOUS NE SAVIEZ PAS SUR ELON MUSK

"... J'ai vieilli, j'étais vraiment frustré par la lenteur avec laquelle l'humanité résolvait les mystères fondamentaux de l'univers. Je pensais que le goulot d'étranglement ici est que nos cerveaux sont trop chétifs", a-t-il déclaré. «Il est trop difficile de penser à ces très gros problèmes avec nos petits cerveaux, donc ce que nous devons faire, c'est que nous devons augmenter nos cerveaux avec quelque chose qui les rendra plus intelligents. Nous devons rendre les ordinateurs si intelligents qu'ils puissent nous aider à les résoudre. gros problèmes. "


Voir la vidéo: Why Elon Musk Sleeps at Teslas Factories (Mai 2021).