*Después de la explosión de la aplicación de grandes modelos de lenguaje natural, muchos peces gordos en el círculo tecnológico han expresado sus puntos de vista sobre la IA desde diferentes ángulos. Recientemente, The Economist le encargó a Yuval Harari, un conocido historiador, filósofo y autor de "Una breve historia de la humanidad", que compartiera sus pensamientos sobre la IA. *
*Continuando con su punto de vista en Una breve historia de la humanidad, Harari enfatiza que el lenguaje es el elemento constitutivo de casi todas las culturas humanas. La IA con la capacidad de generar lenguaje afectará la percepción humana del mundo a través del lenguaje, "IA Hackear el sistema operativo de la civilización humana". Comparó a la IA con un "arma nuclear" y pidió a la gente que tome medidas inmediatas para tomar más medidas de seguridad. Una sugerencia es "requerir obligatoriamente que la IA revele que es IA". *
Hemos visto los discursos de varios representantes de "estudiantes de ciencias" sobre la IA, y los académicos de humanidades han descrito más específicamente cómo la IA puede afectar la política, la religión y los negocios a través del lenguaje. Asumió audazmente que los seres humanos pueden vivir en la ilusión creada por la IA en el futuro. "Metaverse Explosion" compiló el texto completo de su artículo. *
从计算机时代开始，对AI的恐惧就困扰着人类。此前，人们主要是害怕机器会用物理的手段杀死、奴役或取代人类。过去几年，新的AI工具出现了，并从一个意想不到的方面对人类文明的存续造成了威胁：**AI获得了一些处理和生成语言(无论是通过文字、声音还是图像) La extraordinaria habilidad de la civilización humana ha atravesado el sistema operativo. **
El lenguaje es la piedra angular de casi todas las culturas humanas. Por ejemplo, los derechos humanos no están inscritos en el ADN humano, sino artefactos culturales que creamos al contar historias y hacer leyes; los dioses no existen físicamente, sino artefactos culturales que creamos al crear mitos y escribir escrituras.
La moneda es también un artefacto cultural. Los billetes no son más que piezas de papel de colores, y más del 90 % del dinero actual ni siquiera es papel moneda, sino información digital en computadoras. Lo que le da valor a la moneda son las historias que los banqueros, los ministros del Tesoro y los expertos en criptografía nos cuentan al respecto: el fundador de FTX, Sam Bankman-Fried, el falso "análisis de sangre para el cáncer" Elizabeth Holmes, la empresaria líder en el mundo, y Bernie Madoff, el autor intelectual. del esquema Ponzi más grande de la historia, no son muy buenos para crear valor real, pero ambos son muy buenos para contar historias.
¿Qué pasaría si los agentes no humanos fueran mejores que los humanos comunes para contar historias, crear melodías, dibujar imágenes y escribir leyes y escrituras?
Cuando las personas piensan en ChatGPT y otras nuevas herramientas de IA, a menudo se enfocan en ejemplos de estudiantes de primaria y secundaria que usan IA para escribir ensayos. ¿Qué pasaría con el sistema escolar si los niños hicieran esto?Pero este tipo de preguntas pierden el punto. Olvídese de los ensayos escolares, piense en la próxima carrera presidencial de EE. UU. en 2024 e intente imaginar cómo se podrían usar las herramientas de IA para crear cantidades masivas de contenido político y noticias falsas.
En los últimos años, los creyentes de "Anonymous Q" se han reunido en torno a revelaciones anónimas publicadas en Internet (Nota del editor: "Anonymous Q" es un lugar de reunión en línea para varias teorías de conspiración. La teoría de conspiración central es que hay una conspiración dentro de los EE. UU. estado profundo del gobierno). Los creyentes recopilan y promueven tales teorías de conspiración y las consideran biblias. En el pasado, todas las publicaciones de noticias de última hora eran escritas por humanos y las máquinas solo ayudaban a difundirlas. Pero en el futuro, podemos ver las primeras religiones paganas de la historia cuyas escrituras fueron escritas por agentes no humanos. A lo largo de la historia, las religiones han afirmado que sus libros sagrados no eran de origen humano. Esto puede convertirse pronto en una realidad.
En un nivel más cotidiano, es posible que pronto descubramos que pensamos que somos arengas en línea con personas reales sobre el aborto, el cambio climático o el conflicto entre Rusia y Ucrania, pero la otra parte es en realidad una IA. El problema es que no tiene sentido gastar nuestro tiempo tratando de cambiar la percepción de una IA que puede refinar la información con tanta precisión que es probable que afecte nuestra percepción. **
**Al dominar el lenguaje humano, la IA podría incluso desarrollar una relación íntima con los humanos y usar el poder de esa relación para cambiar nuestra percepción y visión del mundo. **Si bien no hay indicios de que la IA tenga conciencia o sentimientos propios, para que una IA cultive una intimidad falsa con un humano, todo lo que necesita es que el humano se apegue emocionalmente a ella.
En junio de 2022, el ingeniero de Google, Blake Lemoine, afirmó públicamente que el chatbot de IA LaMDA en el que estaba trabajando ya tenía sensibilidad. La controvertida afirmación le costó el trabajo. Lo más interesante de esto no es la declaración de Lemoyne (que puede ser falsa), sino su disposición a arriesgarse a perder un trabajo bien remunerado para justificar el nombre del chatbot de IA. Si la IA puede hacer que las personas arriesguen sus trabajos por ello, ¿es posible inducir a las personas a hacer otra cosa?
En la lucha política por ganarse el corazón y la mente de la gente, la cercanía es el arma más eficaz. Y la IA acaba de adquirir la capacidad de entablar relaciones íntimas con millones de personas.
Todos sabemos que durante la última década, las redes sociales se han convertido en un campo de batalla por la atención de las personas. Con la llegada de una nueva generación de IA, la línea de batalla está pasando de la atención a la intimidad. *Si hay una competencia entre IA e IA sobre quién puede tener una relación más cercana con los humanos, y luego usar esta relación para persuadirnos de votar por ciertos políticos o comprar ciertos productos, ¿cómo cambiará la sociedad humana y la psicología humana? *
Incluso sin crear una "falsa intimidad", las nuevas herramientas de IA podrían tener un gran impacto en nuestra percepción y visión del mundo. La gente podría pensar en un asesor de IA como un dios que todo lo sabe, por lo que no es de extrañar que Google entrara en pánico. Si tiene alguna pregunta, puede preguntarle a los dioses, ¿por qué molestarse en buscar? Las industrias de las noticias y la publicidad naturalmente tienen miedo, ya que puede obtener las últimas noticias simplemente preguntando a los dioses, ¿por qué necesita leer periódicos?, ¿para qué?
E incluso si se concibieron estos escenarios, todavía no logró comprender realmente la situación general. Cuando hablamos del posible final de la historia humana, no estamos hablando del final de la historia, sino del final de la parte de la historia dominada por los seres humanos. La historia es el producto de la interacción de la biología y la cultura, de nuestras necesidades y deseos biológicos (como la comida y el sexo) y creaciones culturales (como la religión y la ley). La historia es el proceso gradual por el cual la ley y la religión influyeron en la dieta y el sexo.
¿Qué sucede con el curso de la historia cuando la IA se hace cargo de la cultura y comienza a crear historias, melodías, leyes y religión? Anteriormente, herramientas como la imprenta y la radio facilitaron la difusión de las ideas culturales humanas, pero nunca se crearon a sí mismas. nuevo concepto cultural. La IA es fundamentalmente diferente de ellos. **La IA puede crear nuevas ideas, nuevas culturas. **
Al principio, una IA incipiente podría imitar a los humanos que la entrenaron. Pero con el tiempo, la cultura de la IA irá audazmente a donde ningún humano ha ido antes. Durante milenios, los humanos han vivido en los sueños de otros humanos. **En las próximas décadas, es posible que nos encontremos viviendo el sueño de los agentes inteligentes no humanos. **
El miedo a la IA solo ha plagado a la humanidad durante las últimas décadas. Pero un miedo mucho más profundo ha perseguido a la humanidad durante milenios. Siempre hemos entendido el poder de las historias y las imágenes para manipular la mente y crear ilusiones. Por lo tanto, los humanos han temido quedar atrapados en un mundo de ilusiones desde la antigüedad.
En el siglo XVII, a Descartes le preocupaba que un demonio lo atrapara en un mundo de ilusión, y todo lo que veía y escuchaba estaba ambientado por este demonio. Platón en la antigua Grecia contó la famosa alegoría de la cueva: un grupo de personas han estado encadenadas en una cueva durante toda su vida, y solo hay una pared de cueva en blanco frente a ellos, como una pantalla. Los prisioneros podían ver varias sombras proyectadas en las paredes de la cueva por el mundo fuera de la cueva, por lo que tomaron estas ilusiones como realidad.
En la India antigua, los sabios budistas e hindúes señalaron que los seres humanos viven en maya (el mundo de la ilusión). Lo que normalmente percibimos como realidad a menudo es solo una ilusión en nuestras propias mentes. Los seres humanos pueden librar guerras, matar a otros y ser asesinados voluntariamente porque creen en una visión u otra.
**AI Revolution nos trae directamente al Demonio de Descartes, la caverna de Platón y Maya. **Si no tenemos cuidado, podemos quedar atrapados detrás de un velo de ilusión, incapaces de desgarrarnos o incluso darnos cuenta de que está allí.
Por supuesto, el nuevo poder de la IA también puede aprovecharse. No voy a entrar en demasiados detalles sobre esto, porque las personas que desarrollan IA ya han dicho suficiente. El trabajo de los historiadores y filósofos como yo es señalar dónde se encuentran los peligros de la IA. Pero no hay duda de que la IA puede ayudar a los humanos de innumerables maneras, desde encontrar nuevos tratamientos para superar el cáncer hasta descubrir soluciones a las crisis ecológicas y más. La pregunta que tenemos ante nosotros es cómo garantizar que las nuevas herramientas de IA se utilicen para el bien y no para el mal. Para hacer esto, primero debemos reconocer las verdaderas capacidades de estas herramientas.
Sabemos desde 1945 que la tecnología nuclear puede generar energía barata en beneficio de la humanidad, pero también puede destruir físicamente la civilización humana. Así que reformamos todo el orden internacional para proteger a la humanidad y garantizar que la tecnología nuclear se utilice principalmente en beneficio de la humanidad. **Ahora debemos lidiar con un nuevo tipo de ADM que puede destruir nuestro mundo espiritual y social. **
Todavía podemos administrar nuevas herramientas de IA, pero debemos actuar con rapidez. **Las armas nucleares no pueden inventar armas nucleares más poderosas, pero la IA puede crear una IA exponencialmente más poderosa. **
**El primer paso crítico es someter las potentes herramientas de IA a rigurosos controles de seguridad antes de que sean de dominio público. ** Así como las compañías farmacéuticas no pueden lanzar nuevos medicamentos sin probar los efectos secundarios a corto y largo plazo, las compañías de tecnología no deben lanzar nuevas herramientas de IA antes de garantizar la seguridad. Necesitamos agencias como la Administración de Drogas y Alimentos de los Estados Unidos (FDA) para regular las nuevas tecnologías. Estas cosas deberían haberse hecho hace mucho tiempo.
¿La ralentización del despliegue de la IA en la esfera pública no provocaría que las democracias quedaran rezagadas ante regímenes autoritarios más temerarios? El despliegue de IA no regulado crearía un caos social que favorecería a los dictadores para socavar las democracias. **La democracia es un diálogo, y el diálogo depende del lenguaje. Una vez que la IA descifra el lenguaje, podría socavar nuestra capacidad de tener conversaciones significativas y, por lo tanto, las democracias. **
Acabamos de encontrar una inteligencia no humana en la Tierra y sabemos poco sobre ella, excepto que puede destruir la civilización humana. Deberíamos detener el despliegue irresponsable de herramientas de IA en el dominio público y controlar la IA antes de que nos controle a nosotros. Y **mi primera propuesta regulatoria es obligar a AI a revelar que es AI. Si no puedo saber si estoy hablando con un humano o una IA, ese es el fin de la democracia. **
Ver originales
El contenido es solo de referencia, no una solicitud u oferta. No se proporciona asesoramiento fiscal, legal ni de inversión. Consulte el Descargo de responsabilidad para obtener más información sobre los riesgos.
Autor de "Una breve historia de la humanidad": la IA ha pirateado el sistema operativo de la civilización humana
*Continuando con su punto de vista en Una breve historia de la humanidad, Harari enfatiza que el lenguaje es el elemento constitutivo de casi todas las culturas humanas. La IA con la capacidad de generar lenguaje afectará la percepción humana del mundo a través del lenguaje, "IA Hackear el sistema operativo de la civilización humana". Comparó a la IA con un "arma nuclear" y pidió a la gente que tome medidas inmediatas para tomar más medidas de seguridad. Una sugerencia es "requerir obligatoriamente que la IA revele que es IA". *
El lenguaje es la piedra angular de casi todas las culturas humanas. Por ejemplo, los derechos humanos no están inscritos en el ADN humano, sino artefactos culturales que creamos al contar historias y hacer leyes; los dioses no existen físicamente, sino artefactos culturales que creamos al crear mitos y escribir escrituras.
La moneda es también un artefacto cultural. Los billetes no son más que piezas de papel de colores, y más del 90 % del dinero actual ni siquiera es papel moneda, sino información digital en computadoras. Lo que le da valor a la moneda son las historias que los banqueros, los ministros del Tesoro y los expertos en criptografía nos cuentan al respecto: el fundador de FTX, Sam Bankman-Fried, el falso "análisis de sangre para el cáncer" Elizabeth Holmes, la empresaria líder en el mundo, y Bernie Madoff, el autor intelectual. del esquema Ponzi más grande de la historia, no son muy buenos para crear valor real, pero ambos son muy buenos para contar historias.
¿Qué pasaría si los agentes no humanos fueran mejores que los humanos comunes para contar historias, crear melodías, dibujar imágenes y escribir leyes y escrituras?
Cuando las personas piensan en ChatGPT y otras nuevas herramientas de IA, a menudo se enfocan en ejemplos de estudiantes de primaria y secundaria que usan IA para escribir ensayos. ¿Qué pasaría con el sistema escolar si los niños hicieran esto?Pero este tipo de preguntas pierden el punto. Olvídese de los ensayos escolares, piense en la próxima carrera presidencial de EE. UU. en 2024 e intente imaginar cómo se podrían usar las herramientas de IA para crear cantidades masivas de contenido político y noticias falsas.
En los últimos años, los creyentes de "Anonymous Q" se han reunido en torno a revelaciones anónimas publicadas en Internet (Nota del editor: "Anonymous Q" es un lugar de reunión en línea para varias teorías de conspiración. La teoría de conspiración central es que hay una conspiración dentro de los EE. UU. estado profundo del gobierno). Los creyentes recopilan y promueven tales teorías de conspiración y las consideran biblias. En el pasado, todas las publicaciones de noticias de última hora eran escritas por humanos y las máquinas solo ayudaban a difundirlas. Pero en el futuro, podemos ver las primeras religiones paganas de la historia cuyas escrituras fueron escritas por agentes no humanos. A lo largo de la historia, las religiones han afirmado que sus libros sagrados no eran de origen humano. Esto puede convertirse pronto en una realidad.
En un nivel más cotidiano, es posible que pronto descubramos que pensamos que somos arengas en línea con personas reales sobre el aborto, el cambio climático o el conflicto entre Rusia y Ucrania, pero la otra parte es en realidad una IA. El problema es que no tiene sentido gastar nuestro tiempo tratando de cambiar la percepción de una IA que puede refinar la información con tanta precisión que es probable que afecte nuestra percepción. **
**Al dominar el lenguaje humano, la IA podría incluso desarrollar una relación íntima con los humanos y usar el poder de esa relación para cambiar nuestra percepción y visión del mundo. **Si bien no hay indicios de que la IA tenga conciencia o sentimientos propios, para que una IA cultive una intimidad falsa con un humano, todo lo que necesita es que el humano se apegue emocionalmente a ella.
En junio de 2022, el ingeniero de Google, Blake Lemoine, afirmó públicamente que el chatbot de IA LaMDA en el que estaba trabajando ya tenía sensibilidad. La controvertida afirmación le costó el trabajo. Lo más interesante de esto no es la declaración de Lemoyne (que puede ser falsa), sino su disposición a arriesgarse a perder un trabajo bien remunerado para justificar el nombre del chatbot de IA. Si la IA puede hacer que las personas arriesguen sus trabajos por ello, ¿es posible inducir a las personas a hacer otra cosa?
En la lucha política por ganarse el corazón y la mente de la gente, la cercanía es el arma más eficaz. Y la IA acaba de adquirir la capacidad de entablar relaciones íntimas con millones de personas.
Todos sabemos que durante la última década, las redes sociales se han convertido en un campo de batalla por la atención de las personas. Con la llegada de una nueva generación de IA, la línea de batalla está pasando de la atención a la intimidad. *Si hay una competencia entre IA e IA sobre quién puede tener una relación más cercana con los humanos, y luego usar esta relación para persuadirnos de votar por ciertos políticos o comprar ciertos productos, ¿cómo cambiará la sociedad humana y la psicología humana? *
Incluso sin crear una "falsa intimidad", las nuevas herramientas de IA podrían tener un gran impacto en nuestra percepción y visión del mundo. La gente podría pensar en un asesor de IA como un dios que todo lo sabe, por lo que no es de extrañar que Google entrara en pánico. Si tiene alguna pregunta, puede preguntarle a los dioses, ¿por qué molestarse en buscar? Las industrias de las noticias y la publicidad naturalmente tienen miedo, ya que puede obtener las últimas noticias simplemente preguntando a los dioses, ¿por qué necesita leer periódicos?, ¿para qué?
E incluso si se concibieron estos escenarios, todavía no logró comprender realmente la situación general. Cuando hablamos del posible final de la historia humana, no estamos hablando del final de la historia, sino del final de la parte de la historia dominada por los seres humanos. La historia es el producto de la interacción de la biología y la cultura, de nuestras necesidades y deseos biológicos (como la comida y el sexo) y creaciones culturales (como la religión y la ley). La historia es el proceso gradual por el cual la ley y la religión influyeron en la dieta y el sexo.
¿Qué sucede con el curso de la historia cuando la IA se hace cargo de la cultura y comienza a crear historias, melodías, leyes y religión? Anteriormente, herramientas como la imprenta y la radio facilitaron la difusión de las ideas culturales humanas, pero nunca se crearon a sí mismas. nuevo concepto cultural. La IA es fundamentalmente diferente de ellos. **La IA puede crear nuevas ideas, nuevas culturas. **
Al principio, una IA incipiente podría imitar a los humanos que la entrenaron. Pero con el tiempo, la cultura de la IA irá audazmente a donde ningún humano ha ido antes. Durante milenios, los humanos han vivido en los sueños de otros humanos. **En las próximas décadas, es posible que nos encontremos viviendo el sueño de los agentes inteligentes no humanos. **
El miedo a la IA solo ha plagado a la humanidad durante las últimas décadas. Pero un miedo mucho más profundo ha perseguido a la humanidad durante milenios. Siempre hemos entendido el poder de las historias y las imágenes para manipular la mente y crear ilusiones. Por lo tanto, los humanos han temido quedar atrapados en un mundo de ilusiones desde la antigüedad.
En el siglo XVII, a Descartes le preocupaba que un demonio lo atrapara en un mundo de ilusión, y todo lo que veía y escuchaba estaba ambientado por este demonio. Platón en la antigua Grecia contó la famosa alegoría de la cueva: un grupo de personas han estado encadenadas en una cueva durante toda su vida, y solo hay una pared de cueva en blanco frente a ellos, como una pantalla. Los prisioneros podían ver varias sombras proyectadas en las paredes de la cueva por el mundo fuera de la cueva, por lo que tomaron estas ilusiones como realidad.
En la India antigua, los sabios budistas e hindúes señalaron que los seres humanos viven en maya (el mundo de la ilusión). Lo que normalmente percibimos como realidad a menudo es solo una ilusión en nuestras propias mentes. Los seres humanos pueden librar guerras, matar a otros y ser asesinados voluntariamente porque creen en una visión u otra.
**AI Revolution nos trae directamente al Demonio de Descartes, la caverna de Platón y Maya. **Si no tenemos cuidado, podemos quedar atrapados detrás de un velo de ilusión, incapaces de desgarrarnos o incluso darnos cuenta de que está allí.
Por supuesto, el nuevo poder de la IA también puede aprovecharse. No voy a entrar en demasiados detalles sobre esto, porque las personas que desarrollan IA ya han dicho suficiente. El trabajo de los historiadores y filósofos como yo es señalar dónde se encuentran los peligros de la IA. Pero no hay duda de que la IA puede ayudar a los humanos de innumerables maneras, desde encontrar nuevos tratamientos para superar el cáncer hasta descubrir soluciones a las crisis ecológicas y más. La pregunta que tenemos ante nosotros es cómo garantizar que las nuevas herramientas de IA se utilicen para el bien y no para el mal. Para hacer esto, primero debemos reconocer las verdaderas capacidades de estas herramientas.
Sabemos desde 1945 que la tecnología nuclear puede generar energía barata en beneficio de la humanidad, pero también puede destruir físicamente la civilización humana. Así que reformamos todo el orden internacional para proteger a la humanidad y garantizar que la tecnología nuclear se utilice principalmente en beneficio de la humanidad. **Ahora debemos lidiar con un nuevo tipo de ADM que puede destruir nuestro mundo espiritual y social. **
Todavía podemos administrar nuevas herramientas de IA, pero debemos actuar con rapidez. **Las armas nucleares no pueden inventar armas nucleares más poderosas, pero la IA puede crear una IA exponencialmente más poderosa. **
**El primer paso crítico es someter las potentes herramientas de IA a rigurosos controles de seguridad antes de que sean de dominio público. ** Así como las compañías farmacéuticas no pueden lanzar nuevos medicamentos sin probar los efectos secundarios a corto y largo plazo, las compañías de tecnología no deben lanzar nuevas herramientas de IA antes de garantizar la seguridad. Necesitamos agencias como la Administración de Drogas y Alimentos de los Estados Unidos (FDA) para regular las nuevas tecnologías. Estas cosas deberían haberse hecho hace mucho tiempo.
¿La ralentización del despliegue de la IA en la esfera pública no provocaría que las democracias quedaran rezagadas ante regímenes autoritarios más temerarios? El despliegue de IA no regulado crearía un caos social que favorecería a los dictadores para socavar las democracias. **La democracia es un diálogo, y el diálogo depende del lenguaje. Una vez que la IA descifra el lenguaje, podría socavar nuestra capacidad de tener conversaciones significativas y, por lo tanto, las democracias. **
Acabamos de encontrar una inteligencia no humana en la Tierra y sabemos poco sobre ella, excepto que puede destruir la civilización humana. Deberíamos detener el despliegue irresponsable de herramientas de IA en el dominio público y controlar la IA antes de que nos controle a nosotros. Y **mi primera propuesta regulatoria es obligar a AI a revelar que es AI. Si no puedo saber si estoy hablando con un humano o una IA, ese es el fin de la democracia. **