L'intelligence artificielle aide la Silicon Valley à inaugurer un moment de "singularité" ? En 2045, l'intelligence humaine peut être multipliée par 1 million
De nombreux experts pensent que les énormes progrès réalisés dans le domaine de l'intelligence artificielle aident la Silicon Valley à entrer dans un moment de singularité, et nous sommes sur le point d'inaugurer des changements drastiques, exponentiels et irréversibles.
Kurzweil, le plus grand partisan de la théorie de la singularité, prédit que d'ici 2030, les systèmes informatiques passeront le test de Turing et seront indiscernables des humains. Dans quinze ans, la véritable singularité viendra, lorsque "l'informatique fera partie de nous et que notre intelligence sera multipliée par un million".
Les critiques de l'opposition affirment que même les progrès étonnants des grands modèles de langage sont loin de l'immortelle et à long terme de la sagesse mondiale promise par la théorie de la singularité.
Crédit image : Généré par les outils Unbounded AI
Depuis des années, la Silicon Valley attend qu'une nouvelle technologie émerge et change tout. Il combinera les humains et les machines dans une intelligence supérieure et tracera une ligne pour l'histoire. Ce moment marquant est connu sous le nom de "singularité".
Cela peut se produire de plusieurs façons. L'un des risques est que les gens puissent ajouter la puissance de traitement d'un PC à leur propre intelligence innée, les transformant en super mutants d'eux-mêmes. Ou bien, les systèmes informatiques peuvent devenir si complexes qu'ils peuvent en fait assumer, créant un esprit mondial.
Dans les deux cas, les changements qui s'ensuivent peuvent être drastiques, exponentiels et irréversibles. Une machine surhumaine avec une conscience de soi pourrait concevoir ses propres améliorations plus rapidement que n'importe quel groupe de scientifiques, déclenchant une explosion d'intelligence. Des siècles de progrès peuvent être accomplis en années ou même en mois.
L'intelligence artificielle fait des vagues sans précédent dans les domaines de la technologie, des affaires et de la politique. Tenez compte des affirmations hyperboliques et des prédictions folles de la Silicon Valley, il semble que le paradis numérique promis depuis longtemps soit enfin à portée de main.
Sundar Pichai, le directeur général de Google, généralement discret, a déclaré que l'impact de l'intelligence artificielle est "beaucoup plus profond que le feu, l'électricité ou tout ce que nous avons fait auparavant".
"La capacité d'apporter des changements constructifs sur cette planète est sur le point de recevoir un coup de pouce majeur comme jamais auparavant", a déclaré l'investisseur milliardaire Reid Hoffman.
Le co-fondateur de Microsoft, Bill Gates (Invoice Gates), a déclaré que l'intelligence artificielle "changera la façon dont les gens travaillent, apprennent, voyagent et expérimentent la meilleure façon d'obtenir des soins de santé et de communiquer entre eux".
Cependant, il y a une tournure sombre ici. C'est comme si les entreprises technologiques lançaient des voitures autonomes et prévenaient qu'elles pourraient exploser sur le chemin de Walmart.
** Le chef de Twitter et de Tesla, Elon Musk, a déclaré dans une interview le mois dernier : "L'émergence de l'intelligence artificielle générale est appelée la singularité car il est difficile de prédire ce qui se passera après cela." Mais il a dit qu'il croyait "à une ère d'abondance" viendrait, mais que l'AGI "a aussi le potentiel de détruire l'humanité". **
Dans le monde de la technologie, le plus grand partisan de l'intelligence artificielle est Sam Altman, directeur général d'OpenAI, la startup dont le chatbot ChatGPT a déclenché l'engouement actuel. Altman a déclaré que l'IA pourrait bien être "la meilleure autonomisation financière et l'enrichissement de nombreuses personnes que nous ayons jamais vus." Cependant, il a également déclaré que Musk avait peut-être raison. Musk critique l'intelligence artificielle et a également créé des organisations dédiées au développement d'interfaces cerveau-ordinateur.
Le mois dernier, Altman a signé une lettre ouverte parrainée par le Center for Artificial Intelligence Safety à but non lucratif, qui déclarait que "l'atténuation du risque d'extinction de l'IA devrait être une priorité mondiale" et qu'elle devrait être liée aux "pandémies et à la guerre nucléaire". Parmi les autres signataires figurent les collègues d'OpenAI d'Altman, ainsi que des scientifiques de Microsoft et de Google.
Le thème de "la fin du monde" est devenu familier dans la Silicon Valley, et c'est même un domaine dont beaucoup de gens ont envie de discuter. Il y a quelques années, il semblait que tous les grands techniciens avaient un bunker apocalyptique bien approvisionné dans un endroit éloigné mais toujours accessible. En 2016, Altman a déclaré qu'il collectait "des armes, de l'or, de l'iodure de potassium, des antibiotiques, des piles, de l'eau, des masques à gaz et une zone de Big Sur accessible en avion". est la bonne chose à faire. Maintenant, ils préparent l'arrivée de la singularité.
Les racines de la singularité
Les racines de l'idée de la singularité remontent à John von Neumann, un informaticien pionnier qui, dans les années 1950, parlait de la façon dont "le progrès toujours plus rapide de la technologie" produirait "Certaines des singularités les plus importantes dans L'histoire humain".
Le mathématicien britannique Irving John Good, qui a aidé à briser le système de code allemand Enigma à Bletchley Park pendant la Seconde Guerre mondiale, était également un partisan de la théorie de la singularité. "La survie de l'humanité dépendra du développement précoce de machines superintelligentes", écrivait-il en 1964. Le réalisateur Stanley Kubrick a consulté sur l'intelligence artificielle HAL dans "2001: A House Odyssey" Goode, c'est un des premiers exemples des lignes floues entre informatique et science-fiction.
Hans Moravec, professeur adjoint à l'Institut de robotique de l'Université Carnegie Mellon, estime que l'intelligence artificielle n'est pas seulement une aubaine pour les humains, mais que les choses inanimées peuvent également être recyclées dans la singularité. Dans Mind Children : The Future of Robot and Human Intelligence, il écrit : "Nous aurons l'opportunité de recréer le passé et d'interagir avec lui de manière réelle et immédiate."
L'entrepreneur et inventeur Ray Kurzweil a toujours été le plus grand partisan de la théorie de la singularité. Il a écrit de nombreux livres sur la singularité, dont "The Age of Intelligent Machines" publié en 1990, "The Singularity Is Near" en 2005, et écrit actuellement "The Singularity Is Closer".
** Kurzweil prédit que d'ici 2030, les systèmes informatiques passeront le test de Turing et seront indiscernables des humains. Dans quinze ans, estime-t-il, la véritable singularité arrivera, lorsque "l'informatique fera partie de nous et que notre intelligence sera multipliée par un million". D'ici là, Kurzweil aura peut-être 97 ans. Avec l'aide de vitamines nutritionnelles et de compléments alimentaires, il espère continuer à voir la suite. **
Pour certains critiques de la théorie de la singularité, reproduire des systèmes perceptuels dans le domaine de la programmation logicielle est une tentative intellectuellement douteuse. Rodney Brooks, ancien directeur du laboratoire d'informatique et d'intelligence artificielle du Massachusetts Institute of Technology, a déclaré : "Ils veulent tous vivre éternellement sans l'inconvénient de croire en un dieu."
L'innovation qui anime actuellement le débat sur la singularité est l'émergence de grands modèles de langage, le type de systèmes d'intelligence artificielle qui alimentent les chatbots. En parlant à ces grands modèles de langage, il peut trouver des solutions rapidement et de manière cohérente.
Jerry Kaplan, entrepreneur vétéran de l'IA et auteur de "AI : Ce que tout le monde doit savoir", déclare : "Lorsque vous posez une question, ces modèles expliquent ce qu'elle est censée donner une réponse, puis la traduisent en mots. Si ce n'est pas naturel l'intelligence qu'est-ce que c'est ?"
Kaplan a déclaré qu'il était sceptique quant aux miracles très médiatisés comme les voitures autonomes et les crypto-monnaies. Il a des doutes similaires sur la dernière croissance de l'intelligence artificielle, mais dit qu'il a été persuadé. "Si ce n'est pas une 'singularité', c'est certainement une explosion technologique révolutionnaire qui accélérera largement toute une série d'arts, de sciences et de connaissances humaines, tout en créant une foule de questions", a-t-il déclaré.
Les critiques rétorquent que même les progrès étonnants des grands modèles de langage sont loin de la sagesse mondiale immortelle et à long terme promise par la théorie de la singularité. L'inconvénient de séparer avec précision le battage médiatique de la réalité est que le moteur qui anime cette technologie est caché. OpenAI, qui a commencé comme une organisation à but non lucratif tirant parti de l'open source et est maintenant une entreprise à but lucratif, a réussi à devenir une boîte noire, selon les critiques. Google et Microsoft offrent également une visibilité limitée.
La plupart des analyses d'IA sont effectuées par des entreprises, et il y a beaucoup à gagner des résultats. Des chercheurs de Microsoft, qui ont investi 13 milliards de dollars dans OpenAI, ont conclu dans un article publié en avril que les derniers modèles d'OpenAI "présentent de nombreuses caractéristiques d'intelligence", notamment "l'abstraction, la compréhension, la vision, l'encodage" et "la compréhension de la motivation et de l'émotion humaines". .
Rylan Schaeffer, titulaire d'un doctorat en informatique à l'Université de Stanford, affirme que certains chercheurs en IA ont mal interprété la manière dont ces grands modèles de langage présentent des "talents émergents", des capacités inexpliquées dans des variantes plus petites.
Schafer, ainsi que deux collègues de Stanford, Brando Miranda et Sanmi Koyejo, ont étudié la question dans un article analytique publié le mois dernier. Ils ont conclu que le boom émergent était un "mirage" causé par des erreurs de mesure. Dans IMPACT, les chercheurs ont vu ce qu'ils voulaient voir.
Vie éternelle et profit éternel
À Washington, Londres et Bruxelles, les législateurs discutent des alternatives et des problèmes d'IA et commencent à parler de réglementation. Altman est maintenant en tournée mondiale, dans l'espoir de détourner les premières critiques et de présenter OpenAI comme le berger de la singularité.
Cela implique d'être ouvert à la réglementation, bien qu'il n'y ait toujours pas de cadre clair pour savoir comment. La Silicon Valley soutient souvent que les gouvernements avancent trop lentement pour superviser le développement technologique rapide. L'ancien PDG de Google, Eric Schmidt, a déclaré dans une récente interview que personne au gouvernement ne peut faire cela correctement et qu'il pense que l'IA devrait s'autoréguler.
L'IA, apparentée à la singularité, a été décrite comme une tendance technologique irréversible. "L'arrêter nécessiterait quelque chose qui s'apparente à un régime de réglementation mondial, et même cela n'est pas garanti pour fonctionner", ont écrit Altman et plusieurs de ses collègues le mois dernier, ajoutant que si la Silicon Valley ne peut pas le faire, peut-être ailleurs.
Encore moins mentionné est l'énorme revenu de cette tendance. Malgré tous les discours sur l'intelligence artificielle comme étant une machine géante à créer de la richesse, les seules personnes qui s'enrichissent sont celles qui sont déjà riches. La valeur marchande de Microsoft a grimpé de 500 milliards de dollars cette année. Nvidia est considérée comme l'une des entreprises publiques les plus populaires aux États-Unis grâce à la demande croissante de puces d'intelligence artificielle.
"L'IA est la technologie que le monde a toujours voulu", a tweeté Altman. En effet, c'est définitivement la technologie que le monde de la technologie a toujours voulue, en arrivant au meilleur des cas. L'année dernière, la Silicon Valley a été frappée par des licenciements et une hausse des taux d'intérêt, l'espace de croissance des crypto-monnaies en proie à la fraude et à la déception.
Charles Stross est co-auteur du roman "Nerd Mania", une comédie traitant de la singularité. "La véritable promesse ici est que les entreprises auront la possibilité d'échanger leurs sous-modèles de traitement manuel de l'information défectueux, coûteux et lents contre certains logiciels qui aident à résoudre les problèmes et à réduire les frais généraux", a-t-il déclaré.
La singularité a toujours été imaginée comme un grand "moment cosmique" passionnant. Cependant, la raison pour laquelle les gens discutent actuellement de la singularité est peut-être principalement parce que les entreprises américaines veulent réduire leurs effectifs et sont obsédées par l'augmentation des profits. Pour le dire en termes hyperboliques, même le paradis (inaccessible) peut attendre éternellement lorsque vous (en référence aux entrepreneurs) courez pour augmenter votre capitalisation boursière de milliards de dollars. (Texte / Jinlu)
les références:
Voir l'original
Le contenu est fourni à titre de référence uniquement, il ne s'agit pas d'une sollicitation ou d'une offre. Aucun conseil en investissement, fiscalité ou juridique n'est fourni. Consultez l'Avertissement pour plus de détails sur les risques.
L'intelligence artificielle aide la Silicon Valley à inaugurer un moment de "singularité" ? En 2045, l'intelligence humaine peut être multipliée par 1 million
Depuis des années, la Silicon Valley attend qu'une nouvelle technologie émerge et change tout. Il combinera les humains et les machines dans une intelligence supérieure et tracera une ligne pour l'histoire. Ce moment marquant est connu sous le nom de "singularité".
Cela peut se produire de plusieurs façons. L'un des risques est que les gens puissent ajouter la puissance de traitement d'un PC à leur propre intelligence innée, les transformant en super mutants d'eux-mêmes. Ou bien, les systèmes informatiques peuvent devenir si complexes qu'ils peuvent en fait assumer, créant un esprit mondial.
Dans les deux cas, les changements qui s'ensuivent peuvent être drastiques, exponentiels et irréversibles. Une machine surhumaine avec une conscience de soi pourrait concevoir ses propres améliorations plus rapidement que n'importe quel groupe de scientifiques, déclenchant une explosion d'intelligence. Des siècles de progrès peuvent être accomplis en années ou même en mois.
L'intelligence artificielle fait des vagues sans précédent dans les domaines de la technologie, des affaires et de la politique. Tenez compte des affirmations hyperboliques et des prédictions folles de la Silicon Valley, il semble que le paradis numérique promis depuis longtemps soit enfin à portée de main.
Sundar Pichai, le directeur général de Google, généralement discret, a déclaré que l'impact de l'intelligence artificielle est "beaucoup plus profond que le feu, l'électricité ou tout ce que nous avons fait auparavant".
"La capacité d'apporter des changements constructifs sur cette planète est sur le point de recevoir un coup de pouce majeur comme jamais auparavant", a déclaré l'investisseur milliardaire Reid Hoffman.
Le co-fondateur de Microsoft, Bill Gates (Invoice Gates), a déclaré que l'intelligence artificielle "changera la façon dont les gens travaillent, apprennent, voyagent et expérimentent la meilleure façon d'obtenir des soins de santé et de communiquer entre eux".
Cependant, il y a une tournure sombre ici. C'est comme si les entreprises technologiques lançaient des voitures autonomes et prévenaient qu'elles pourraient exploser sur le chemin de Walmart.
** Le chef de Twitter et de Tesla, Elon Musk, a déclaré dans une interview le mois dernier : "L'émergence de l'intelligence artificielle générale est appelée la singularité car il est difficile de prédire ce qui se passera après cela." Mais il a dit qu'il croyait "à une ère d'abondance" viendrait, mais que l'AGI "a aussi le potentiel de détruire l'humanité". **
Dans le monde de la technologie, le plus grand partisan de l'intelligence artificielle est Sam Altman, directeur général d'OpenAI, la startup dont le chatbot ChatGPT a déclenché l'engouement actuel. Altman a déclaré que l'IA pourrait bien être "la meilleure autonomisation financière et l'enrichissement de nombreuses personnes que nous ayons jamais vus." Cependant, il a également déclaré que Musk avait peut-être raison. Musk critique l'intelligence artificielle et a également créé des organisations dédiées au développement d'interfaces cerveau-ordinateur.
Le mois dernier, Altman a signé une lettre ouverte parrainée par le Center for Artificial Intelligence Safety à but non lucratif, qui déclarait que "l'atténuation du risque d'extinction de l'IA devrait être une priorité mondiale" et qu'elle devrait être liée aux "pandémies et à la guerre nucléaire". Parmi les autres signataires figurent les collègues d'OpenAI d'Altman, ainsi que des scientifiques de Microsoft et de Google.
Le thème de "la fin du monde" est devenu familier dans la Silicon Valley, et c'est même un domaine dont beaucoup de gens ont envie de discuter. Il y a quelques années, il semblait que tous les grands techniciens avaient un bunker apocalyptique bien approvisionné dans un endroit éloigné mais toujours accessible. En 2016, Altman a déclaré qu'il collectait "des armes, de l'or, de l'iodure de potassium, des antibiotiques, des piles, de l'eau, des masques à gaz et une zone de Big Sur accessible en avion". est la bonne chose à faire. Maintenant, ils préparent l'arrivée de la singularité.
Les racines de la singularité
Les racines de l'idée de la singularité remontent à John von Neumann, un informaticien pionnier qui, dans les années 1950, parlait de la façon dont "le progrès toujours plus rapide de la technologie" produirait "Certaines des singularités les plus importantes dans L'histoire humain".
Le mathématicien britannique Irving John Good, qui a aidé à briser le système de code allemand Enigma à Bletchley Park pendant la Seconde Guerre mondiale, était également un partisan de la théorie de la singularité. "La survie de l'humanité dépendra du développement précoce de machines superintelligentes", écrivait-il en 1964. Le réalisateur Stanley Kubrick a consulté sur l'intelligence artificielle HAL dans "2001: A House Odyssey" Goode, c'est un des premiers exemples des lignes floues entre informatique et science-fiction.
Hans Moravec, professeur adjoint à l'Institut de robotique de l'Université Carnegie Mellon, estime que l'intelligence artificielle n'est pas seulement une aubaine pour les humains, mais que les choses inanimées peuvent également être recyclées dans la singularité. Dans Mind Children : The Future of Robot and Human Intelligence, il écrit : "Nous aurons l'opportunité de recréer le passé et d'interagir avec lui de manière réelle et immédiate."
L'entrepreneur et inventeur Ray Kurzweil a toujours été le plus grand partisan de la théorie de la singularité. Il a écrit de nombreux livres sur la singularité, dont "The Age of Intelligent Machines" publié en 1990, "The Singularity Is Near" en 2005, et écrit actuellement "The Singularity Is Closer".
** Kurzweil prédit que d'ici 2030, les systèmes informatiques passeront le test de Turing et seront indiscernables des humains. Dans quinze ans, estime-t-il, la véritable singularité arrivera, lorsque "l'informatique fera partie de nous et que notre intelligence sera multipliée par un million". D'ici là, Kurzweil aura peut-être 97 ans. Avec l'aide de vitamines nutritionnelles et de compléments alimentaires, il espère continuer à voir la suite. **
Pour certains critiques de la théorie de la singularité, reproduire des systèmes perceptuels dans le domaine de la programmation logicielle est une tentative intellectuellement douteuse. Rodney Brooks, ancien directeur du laboratoire d'informatique et d'intelligence artificielle du Massachusetts Institute of Technology, a déclaré : "Ils veulent tous vivre éternellement sans l'inconvénient de croire en un dieu."
L'innovation qui anime actuellement le débat sur la singularité est l'émergence de grands modèles de langage, le type de systèmes d'intelligence artificielle qui alimentent les chatbots. En parlant à ces grands modèles de langage, il peut trouver des solutions rapidement et de manière cohérente.
Jerry Kaplan, entrepreneur vétéran de l'IA et auteur de "AI : Ce que tout le monde doit savoir", déclare : "Lorsque vous posez une question, ces modèles expliquent ce qu'elle est censée donner une réponse, puis la traduisent en mots. Si ce n'est pas naturel l'intelligence qu'est-ce que c'est ?"
Kaplan a déclaré qu'il était sceptique quant aux miracles très médiatisés comme les voitures autonomes et les crypto-monnaies. Il a des doutes similaires sur la dernière croissance de l'intelligence artificielle, mais dit qu'il a été persuadé. "Si ce n'est pas une 'singularité', c'est certainement une explosion technologique révolutionnaire qui accélérera largement toute une série d'arts, de sciences et de connaissances humaines, tout en créant une foule de questions", a-t-il déclaré.
Les critiques rétorquent que même les progrès étonnants des grands modèles de langage sont loin de la sagesse mondiale immortelle et à long terme promise par la théorie de la singularité. L'inconvénient de séparer avec précision le battage médiatique de la réalité est que le moteur qui anime cette technologie est caché. OpenAI, qui a commencé comme une organisation à but non lucratif tirant parti de l'open source et est maintenant une entreprise à but lucratif, a réussi à devenir une boîte noire, selon les critiques. Google et Microsoft offrent également une visibilité limitée.
La plupart des analyses d'IA sont effectuées par des entreprises, et il y a beaucoup à gagner des résultats. Des chercheurs de Microsoft, qui ont investi 13 milliards de dollars dans OpenAI, ont conclu dans un article publié en avril que les derniers modèles d'OpenAI "présentent de nombreuses caractéristiques d'intelligence", notamment "l'abstraction, la compréhension, la vision, l'encodage" et "la compréhension de la motivation et de l'émotion humaines". .
Rylan Schaeffer, titulaire d'un doctorat en informatique à l'Université de Stanford, affirme que certains chercheurs en IA ont mal interprété la manière dont ces grands modèles de langage présentent des "talents émergents", des capacités inexpliquées dans des variantes plus petites.
Schafer, ainsi que deux collègues de Stanford, Brando Miranda et Sanmi Koyejo, ont étudié la question dans un article analytique publié le mois dernier. Ils ont conclu que le boom émergent était un "mirage" causé par des erreurs de mesure. Dans IMPACT, les chercheurs ont vu ce qu'ils voulaient voir.
Vie éternelle et profit éternel
À Washington, Londres et Bruxelles, les législateurs discutent des alternatives et des problèmes d'IA et commencent à parler de réglementation. Altman est maintenant en tournée mondiale, dans l'espoir de détourner les premières critiques et de présenter OpenAI comme le berger de la singularité.
Cela implique d'être ouvert à la réglementation, bien qu'il n'y ait toujours pas de cadre clair pour savoir comment. La Silicon Valley soutient souvent que les gouvernements avancent trop lentement pour superviser le développement technologique rapide. L'ancien PDG de Google, Eric Schmidt, a déclaré dans une récente interview que personne au gouvernement ne peut faire cela correctement et qu'il pense que l'IA devrait s'autoréguler.
L'IA, apparentée à la singularité, a été décrite comme une tendance technologique irréversible. "L'arrêter nécessiterait quelque chose qui s'apparente à un régime de réglementation mondial, et même cela n'est pas garanti pour fonctionner", ont écrit Altman et plusieurs de ses collègues le mois dernier, ajoutant que si la Silicon Valley ne peut pas le faire, peut-être ailleurs.
Encore moins mentionné est l'énorme revenu de cette tendance. Malgré tous les discours sur l'intelligence artificielle comme étant une machine géante à créer de la richesse, les seules personnes qui s'enrichissent sont celles qui sont déjà riches. La valeur marchande de Microsoft a grimpé de 500 milliards de dollars cette année. Nvidia est considérée comme l'une des entreprises publiques les plus populaires aux États-Unis grâce à la demande croissante de puces d'intelligence artificielle.
"L'IA est la technologie que le monde a toujours voulu", a tweeté Altman. En effet, c'est définitivement la technologie que le monde de la technologie a toujours voulue, en arrivant au meilleur des cas. L'année dernière, la Silicon Valley a été frappée par des licenciements et une hausse des taux d'intérêt, l'espace de croissance des crypto-monnaies en proie à la fraude et à la déception.
Charles Stross est co-auteur du roman "Nerd Mania", une comédie traitant de la singularité. "La véritable promesse ici est que les entreprises auront la possibilité d'échanger leurs sous-modèles de traitement manuel de l'information défectueux, coûteux et lents contre certains logiciels qui aident à résoudre les problèmes et à réduire les frais généraux", a-t-il déclaré.
La singularité a toujours été imaginée comme un grand "moment cosmique" passionnant. Cependant, la raison pour laquelle les gens discutent actuellement de la singularité est peut-être principalement parce que les entreprises américaines veulent réduire leurs effectifs et sont obsédées par l'augmentation des profits. Pour le dire en termes hyperboliques, même le paradis (inaccessible) peut attendre éternellement lorsque vous (en référence aux entrepreneurs) courez pour augmenter votre capitalisation boursière de milliards de dollars. (Texte / Jinlu)
les références: