Al interactuar con grandes modelos de lenguaje (LLM), siempre tenemos la vaga sensación de que pueden ser realmente conscientes. Sin embargo, desde la perspectiva de los neurocientíficos, este punto de vista parece ser difícil de sostener.
En un artículo reciente publicado en Trends in Neurosciences, una subrevista de Cell, tres académicos de ciencias de la computación, biología y neurociencia profundizaron en la pregunta de "¿Puede la inteligencia artificial generar conciencia?"
En conclusión, están de acuerdo en que los LLM no pueden ser conscientes en su forma actual. ¿Cómo se llegó a una visión tan categórica?
▷Fuente: Célula
LLM y Conciencia
Durante mucho tiempo se ha cuestionado qué animales son conscientes y qué entidades son conscientes además de los animales. El reciente advenimiento de los LLM ha traído una perspectiva completamente nueva al problema. Nos muestra nuestra capacidad de conversar (una manifestación de la conciencia humana) y nos hace redefinir y repensar los tres conceptos de "comprensión", "inteligencia" y "conciencia".
Los LLM son redes neuronales artificiales complejas y de múltiples capas con miles de millones de pesos de conexión entrenados en decenas de miles de millones de palabras de datos de texto, incluidas las conversaciones en lenguaje natural entre humanos. Al hacer preguntas a través del texto, el usuario se ve atraído a un fascinante contexto simulado. Si está dispuesto a tomarse el tiempo para usar estos sistemas, es difícil no quedar impresionado por la profundidad y la calidad de la red. Hazle una pregunta, y su respuesta es a menudo sutilmente similar a la que puede producir un individuo consciente. Por lo tanto, como individuo perspicaz y consciente, es fácil concluir que las respuestas que recibo son generadas por un individuo que también es "consciente" y capaz de pensar, sentir, razonar y experimentar. **
Basándonos en los resultados de estos "test de Turing", no podemos evitar preguntarnos si los LLM ya son conscientes, o si pronto lo serán. Sin embargo, esta pregunta, a su vez, conducirá a una serie de dilemas éticos, como si es ético continuar desarrollando LLM que están repetidamente al borde del despertar de la "conciencia". La idea de que los LLM son "conscientes" no es universalmente aceptada en la comunidad neurocientífica actual, pero a medida que las capacidades de los sistemas de IA continúan mejorando, la discusión de esta idea inevitablemente ha vuelto a primer plano. Además, los principales medios de comunicación también están discutiendo ampliamente este tema, lo que lleva a los neurocientíficos a interpretar el tema objetivamente desde su propia perspectiva profesional.
La idea de que los LLM son potencialmente conscientes a menudo se apoya en un argumento importante de que la arquitectura de los LLM se inspira en gran medida en las características del cerebro (Figura 1), y que el cerebro es el único objeto que podemos atribuir con confianza a "consciente" en este momento. Si bien las primeras redes neuronales artificiales se diseñaron en base a versiones simplificadas de la corteza cerebral, los LLM modernos están altamente diseñados y adaptados para fines específicos y ya no conservan una homología profunda con las estructuras cerebrales conocidas. De hecho, muchas de las características de la vía que hacen que los LLM sean computacionalmente poderosos (Figura 1) tienen arquitecturas muy diferentes de los sistemas que actualmente pensamos que tienen poder causal en la generación y conformación de la conciencia en los mamíferos. Por ejemplo, muchas teorías de la neurociencia relacionadas con la generación de conciencia sugieren que el sistema talámico-cortical y el sistema de excitación juegan un papel central en el procesamiento de la conciencia, que no están disponibles en los LLM modernos.
Figura 1: Diferencias topológicas macroscópicas entre cerebros de mamíferos y grandes modelos lingüísticos Fuente: Tendencias en Neurociencias
Llegados a este punto, cabe preguntarse, ¿es tan importante que la arquitectura del LLM imite las características del cerebro?
En nuestra opinión, la razón principal es que solo podemos estar seguros de la existencia de una conciencia en este momento, que proviene del cerebro incrustado en el cuerpo complejo. Se podría argumentar que, estrictamente hablando, este argumento podría reducirse aún más a los humanos, aunque muchos de los rasgos a nivel de sistema que se cree que juegan un papel importante en la conciencia subjetiva prevalecen en todo el espectro biológico, extendiéndose hasta los mamíferos, incluso los invertebrados.
Dicho esto, comencemos primero con el significado exacto de "conciencia". A continuación, presentaremos tres argumentos en contra de la idea de que los sistemas actuales de IA tienen, o pronto tendrán conciencia en el futuro, de:
1. La conciencia está asociada con una corriente de sensaciones que son significativas para el organismo;
2. En el cerebro de los mamíferos, la conciencia está respaldada por un sistema talámico-cortical altamente interconectado;
**3. La conciencia puede ser inseparable de la compleja organización biológica de los sistemas biológicos. **
¿Qué es la conciencia?
La conciencia es un concepto complejo, y su definición ha sido objeto de debate. En el contexto de la capacidad de los seres humanos para comunicarse e interactuar entre sí, la capacidad de comunicarse y dialogar es un elemento instintivo para evaluar si una persona tiene conciencia.
Las conversaciones interactivas basadas en el lenguaje con los LLM a menudo desarrollan una sensación intuitiva, que es el punto de partida para juzgar si es probable que un LLM sea consciente. Sin embargo, si bien los LLM son excelentes en conversaciones interactivas, esto no cumple con la medida objetiva formal de la conciencia, sino que es solo una evidencia preliminar de inteligencia. **
El advenimiento de los LLM nos ha llevado a reevaluar si una persona es capaz de generar conciencia directamente a partir de las interacciones verbales con los demás. Por lo tanto, un nuevo punto de vista es que necesitamos reformular los criterios para juzgar las habilidades y características similares a las humanas.
La palabra "conciencia" a menudo tiene diferentes significados. Por ejemplo, los neurólogos a menudo se refieren al "nivel de conciencia", que es la primera evaluación de si una persona está consciente y luego el nivel o estado específico de conciencia de una manera más granular. Los psicólogos, por otro lado, están más preocupados por el contenido de la conciencia: las experiencias, recuerdos y pensamientos específicos del mundo interior de un individuo. Además, existen diferencias entre los diferentes contenidos de la conciencia. Nuestra experiencia puede describirse como fenoménica o experiencial (por ejemplo, ver u oler una manzana, o tocarse el brazo) o en una forma más abstracta (por ejemplo, cómo imaginamos, visualizamos o manipulamos la memoria conceptual).
La pregunta de si un sistema de IA es consciente puede responderse de varias maneras: puede centrarse en algunos de los significados de la conciencia, o puede centrarse en todos los significados de la conciencia al mismo tiempo. A continuación, nos centramos principalmente en la conciencia fenoménica y exploramos si las máquinas son capaces de experimentar el mundo fenoménicamente.
Sobre el Medio Ambiente
La parte de un organismo que puede ser utilizada en el proceso de percibir el mundo exterior se llama su entorno. Por ejemplo, la retina humana responde a la luz con longitudes de onda de 380 nm a 740 nm, es decir, la retina es capaz de percibir el espectro de azul a rojo. Sin la ayuda de tecnología externa, los humanos no pueden detectar la luz infrarroja (>740 nm) o la luz ultravioleta (< 380 nm) fuera de este rango de longitud de onda. También tenemos entornos similares en términos de audición, sentido somatosensorial y vestibular, a saber, los dominios auditivos correspondientes (el oído humano puede escuchar sonidos de 20 Hz a 20.000 Hz), los dominios somatosensoriales (los humanos pueden distinguir estímulos dentro de aproximadamente 1 mm de ciertas partes del cuerpo) y el dominio vestibular (las estructuras 3D interconectadas de los canales semicirculares humanos nos proporcionan un sentido interno del equilibrio). Al mismo tiempo, otras especies en la naturaleza son capaces de detectar señales en otras bandas del espectro electromagnético. Por ejemplo, las abejas pueden ver la luz en el rango ultravioleta, y las serpientes pueden detectar señales de radiación infrarroja además de las señales visuales más tradicionales.
Es decir, diferentes animales tienen diferentes sensibilidades con las que sus cuerpos y cerebros son capaces de percibir su entorno. Gibson, un psicólogo estadounidense, se refiere a la posibilidad de que un organismo actúe en un entorno particular como "affordance" (con la penetración de la tecnología de Internet, affordance comenzó a usarse para explicar el uso de la tecnología digital en las prácticas mediáticas y las interacciones cotidianas humanas). **
De acuerdo con la naturaleza del diseño de su algoritmo, los LLM solo tienen patrones de codificación binaria, solo pueden recibir información binaria y además ejecutar algoritmos de red inherentes a estructuras de transformadores complejas, que constituyen la arquitectura de trabajo de los LLM actuales. Si bien los picos neuronales también son capaces de codificar las señales analógicas entrantes en señales digitales (es decir, señales binarias), el flujo de información entregado al LLM es muy abstracto y no tiene ninguna conexión fuerte con el mundo exterior en sí. El texto y el habla codificados como una cadena de letras simplemente no pueden coincidir con la complejidad dinámica del mundo natural, es decir, el entorno de un LLM (la información binaria que se le proporciona) es fundamentalmente diferente de la información que ingresa a nuestros cerebros cuando abrimos los ojos o comunicamos conversaciones, y las experiencias que vienen con ella. El discurso filosófico tradicional enfatiza la singularidad del flujo de información entre diferentes especies (por ejemplo, la diferencia entre humanos y murciélagos) y las características fenomenológicas de estas experiencias. Creemos que la información obtenida por los LLM puede presentar diferencias más significativas, aunque no existe una forma definitiva de cuantificar esta diferencia por el momento.
Dicho esto, la aportación de los sistemas de IA será inexorablemente más rica en el futuro. Los futuros LLM pueden equiparse con diferentes tipos de entradas que pueden coincidir mejor con los tipos de señales a las que los agentes conscientes pueden acceder a diario (es decir, estadísticas del mundo natural). Entonces, ¿el entorno disponible de los sistemas de IA en el futuro será más amplio que el entorno humano?
Al responder a esta pregunta, debemos reconocer que el subconsciente humano y la experiencia consciente no están determinados únicamente por la información sensorial. Por ejemplo, imagina que cuando nos acostamos en un pontón, todavía estamos conscientes a pesar de nuestra falta de experiencia sensorial normal. Aquí se destaca el concepto de que el entorno presupone una perspectiva subjetiva inherente, es decir, partir de un sujeto. Del mismo modo, la aforidad depende de la naturaleza interna del sujeto, en particular de sus motivaciones y objetivos. Esto significa que la conciencia no puede ser generada solo por el entorno (los datos de entrada del LLM). Por lo tanto, el simple hecho de introducir un gran flujo de datos en un sistema de IA no hace que el propio sistema de IA sea consciente. **
Esta perspectiva puede llevarnos a repensar algunos de los supuestos básicos de la ciencia de la conciencia. Específicamente, a medida que los sistemas de IA exhiban gradualmente capacidades cada vez más sofisticadas, los investigadores tendrán que reevaluar la necesidad de los procesos más fundamentales relacionados con el yo y los agentes propuestos por ciertas teorías de la conciencia para el surgimiento de la conciencia.
**"Integración" de la Conciencia **
En la actualidad, se han realizado muchos estudios sobre la correlación neuronal de la conciencia, entre los que se encuentran muchas teorías diferentes sobre los circuitos neuronales del procesamiento de la conciencia. Algunos enfatizan que la conciencia está respaldada por una red talámico-cortical densa y altamente conectada. ** La red talámico-cortical incluye regiones corticales, uniones cortical-corticales y proyecciones divergentes de núcleos talámicos superiores a regiones corticales. Esta estructura específica del sistema talámico-cortical apoya el procesamiento circulatorio y complejo del pensamiento que sustenta la conciencia y la integración consciente (es decir, la conciencia está unificada a pesar del hecho de que la conciencia surge de diferentes regiones cerebrales). Sin embargo, diferentes teorías tienen diferentes puntos de vista sobre la forma de lograr la integración de la conciencia.
De acuerdo con la teoría del espacio de trabajo neuronal global (GNW), la conciencia se basa en un espacio de trabajo central que consiste en un sistema de corteza frontoparietal distribuido. Este espacio de trabajo integra la información de los procesadores corticales locales y luego la transmite a todos los procesadores corticales locales a escala global, con una entrega global que separa los procesos conscientes e inconscientes. Otras teorías de la conciencia sostienen que la integración consciente se logra mediante otros procesos neuronales. Por ejemplo, la teoría de la integración dendrítica neuronal (DIT) sugiere que la integración consciente ocurre a través de un fenómeno de sincronización de alta frecuencia entre diferentes regiones corticales, que puede involucrar diferentes funciones, incluida la percepción, la cognición o la planificación motora, dependiendo de la región cortical involucrada.
Figura 2: Estructura neuronal de la integración de la conciencia basada en la teoría de la integración dendrítica neuronal (DIT) Fuente: Tendencias en Neurociencias
En la teoría DIT (Figura 2), los investigadores creen que la integración consciente global también depende de la integración local de las neuronas piramidales en la quinta capa de la corteza, una gran neurona excitadora que es central tanto en los circuitos talámico-corticales como en los corticales. Hay dos estructuras principales en este tipo de neuronas (Figura 2, cilindros naranjas y rojos) que procesan tipos de información completamente diferentes: la estructura basal (roja) procesa la información básica externa, mientras que la estructura apical (naranja) procesa la información generada internamente. Según la teoría DIT, en el estado de conciencia, estas dos estructuras están acopladas entre sí, lo que permite que la información fluya a través de los circuitos talámico-cortical y cortico-cortical, lo que permite la integración de la información y la generación de conciencia en todo el sistema. *
Es importante tener en cuenta que las arquitecturas de los LLM actuales y otros sistemas de IA carecen de las características que enfatizan estas teorías: los LLM existentes no tienen neuronas piramidales biestructurales equivalentes, ni arquitecturas talámicas centralizadas, espacios de trabajo globales o múltiples características de sistemas de excitación ascendente. En otras palabras, los sistemas de IA existentes carecen de las características cerebrales que actualmente la comunidad de neurociencia cree que sustentan la generación de conciencia. Aunque el cerebro de los mamíferos no es la única estructura capaz de soportar la producción de conciencia, la evidencia de la neurobiología sugiere que la formación de la conciencia de los mamíferos está determinada por principios estructurales muy específicos (es decir, conexiones simples entre neuronas integradas y excitadas). Desde el punto de vista topológico, la estructura de los sistemas de IA existentes es extremadamente sencilla, lo cual es una de las razones por las que no consideramos que los sistemas de IA existentes sean fenomenalmente conscientes.
Entonces, ¿podrán finalmente los futuros modelos de IA integrar el proceso de "integración" que muchas teorías de la conciencia consideran el núcleo? En respuesta a este problema, el concepto de "integración" propuesto por la teoría GNW proporciona una forma relativamente sencilla de implementarlo. De hecho, algunos sistemas de IA recientes se han incorporado a algo así como un espacio de trabajo global compartido por un procesador local. Dado que el proceso computacional de transmisión global se puede implementar en un sistema de IA, según esta teoría, un sistema de IA que adopte este método computacional contendrá los componentes centrales de la conciencia latente.
Sin embargo, como se mencionó anteriormente, no todas las teorías de la conciencia están de acuerdo en que este modo de integración sea la clave para la generación de la conciencia. Por ejemplo, la teoría de la información integrada de la conciencia argumenta que los sistemas de IA basados en software implementados en una computadora moderna típica no pueden ser conscientes porque las computadoras modernas no tienen la arquitectura adecuada para lograr las capacidades de razonamiento causal necesarias para integrar completamente la información. Por lo tanto, consideraremos la tercera posibilidad, que es que la conciencia es alcanzable en principio, pero es posible que deba ir más allá del nivel actual (y quizás futuro) de especificidad computacional de los sistemas de IA. **
La conciencia es un proceso biológico complejo
La generación de conciencia no depende solo de la arquitectura del sistema. Por ejemplo, cuando estamos en sueño profundo o anestesia, la estructura del sistema talámico-cortical no cambia, pero la conciencia desaparece. Incluso en el sueño profundo, las respuestas neuronales locales y la actividad del cinturón gamma en las principales áreas sensoriales son similares a las del estado consciente. Esto sugiere que la conciencia depende de procesos neuronales específicos, pero estos procesos neuronales son diferentes en los cerebros conscientes e inconscientes. **
Para arrojar luz sobre las diferencias detalladas entre el procesamiento consciente e inconsciente, volvamos primero a la teoría de la integración dendrítica neuronal (DIT). La teoría DIT contiene una serie de matices neurobiológicos relacionados con los procesos neuronales que se procesan consciente e inconscientemente. La teoría DIT propone que la diferencia clave entre el procesamiento consciente e inconsciente radica en la integración de las dos estructuras compartimentales de las células piramidales (Figura 2). Como se mencionó anteriormente, durante el procesamiento consciente, estas dos estructuras interactúan entre sí, lo que permite que todo el sistema talámico-cortical procese e integre información compleja. Sin embargo, en el estado anestésico, varios anestésicos conducen al desacoplamiento funcional entre las dos estructuras de las neuronas vertebrales. En otras palabras, aunque estas neuronas vertebrales están anatómicamente intactas y pueden excitar potenciales de acción, su capacidad de integración dendrítica está severamente limitada fisiológicamente, es decir, la retroalimentación de arriba hacia abajo no puede influir en el procesamiento. Los estudios han demostrado que este acoplamiento dendrítico está controlado por receptores metabotrópicos, sin embargo, esta estructura a menudo se pasa por alto en los modelos computacionales y las redes neuronales artificiales. Además, los estudios han demostrado que en este caso, los núcleos talámicos superiores controlan la actividad de este receptor metabotrópico. Por lo tanto, procesos neurobiológicos específicos pueden ser responsables de "activar" y "apagar" la conciencia en el cerebro. Esto sugiere que la calidad de la experiencia en el cerebro de los mamíferos tiene una relación intrincada con los procesos subyacentes que producen la conciencia. **
Si bien estas teorías son lo suficientemente convincentes, es casi seguro que este conocimiento palidece en comparación con la complejidad de los procesos neuronales que surgen de una comprensión completa de la conciencia. Nuestras explicaciones actuales de la conciencia se basan en teorías como los espacios de trabajo globales, la información integrada, el procesamiento circular, la integración dendrítica, etc., pero los procesos biológicos por los que surge la verdadera conciencia pueden ser mucho más complejos de lo que actualmente entienden estas teorías. Incluso es muy posible que las ideas abstractas a nivel computacional que se utilizan actualmente para construir la discusión de la investigación de la conciencia hayan fracasado por completo en tener en cuenta los detalles computacionales necesarios para explicar la conciencia.
En otras palabras, la biología es compleja y nuestra comprensión actual de la biocomputación es limitada (Figura 3), por lo que tal vez carezcamos de las herramientas matemáticas y experimentales adecuadas para comprender la conciencia. **
Figura 2: Estructura neuronal de la integración de la conciencia basada en la teoría de la integración dendrítica neuronal (DIT) Fuente: Tendencias en Neurociencias
En la teoría DIT (Figura 2), los investigadores creen que la integración consciente global también depende de la integración local de las neuronas piramidales en la quinta capa de la corteza, una gran neurona excitadora que es central tanto en los circuitos talámico-corticales como en los corticales. Hay dos estructuras principales en este tipo de neuronas (Figura 2, cilindros naranjas y rojos) que procesan tipos de información completamente diferentes: la estructura basal (roja) procesa la información básica externa, mientras que la estructura apical (naranja) procesa la información generada internamente. Según la teoría DIT, en el estado de conciencia, estas dos estructuras están acopladas entre sí, lo que permite que la información fluya a través de los circuitos talámico-cortical y cortico-cortical, lo que permite la integración de la información y la generación de conciencia en todo el sistema. *
Para comprender mejor la complejidad biológica, es importante enfatizar que los procesos biológicos descritos anteriormente a nivel celular y sistémico deben ocurrir en un organismo vivo y son inseparables. Los organismos vivos se diferencian de las máquinas y los algoritmos de IA actuales en que son capaces de mantenerse constantemente en diferentes niveles de procesamiento. Además, los sistemas vivos tienen una historia multifacética de evolución y desarrollo, y su existencia depende de sus actividades en múltiples niveles organizativos. La conciencia está intrincadamente ligada a la organización de los sistemas vivos. Vale la pena señalar, sin embargo, que las computadoras de hoy en día no son capaces de encarnar esta complejidad organizativa de los sistemas vivos (es decir, la interacción entre los diferentes niveles del sistema). Esto sugiere que los algoritmos modernos de IA no tienen ninguna restricción a nivel organizativo y no pueden funcionar con la misma eficacia que un sistema vivo. Esto significa que mientras la IA esté basada en software, puede que no sea adecuada para ser consciente e inteligente. **
El concepto de complejidad biológica también puede expresarse a nivel celular. Una neurona biológica no es solo una entidad abstracta que se puede capturar completamente con unas pocas líneas de código. Por el contrario, las neuronas biológicas tienen una organización de múltiples capas y dependen de cascadas adicionales de procesos biofísicos complejos dentro de las neuronas. Tomemos como ejemplo el "ciclo de Krebs", que es la base de la respiración celular y es un proceso clave para mantener la homeostasis celular. La respiración celular es un proceso biológico crítico que permite a las células convertir la energía almacenada en moléculas orgánicas en una forma de energía que las células pueden utilizar. Sin embargo, este proceso no se puede "comprimir" en software, ya que los procesos biofísicos como la respiración celular deben basarse en moléculas físicas reales. Por supuesto, esto no significa que la conciencia necesite un "ciclo de Krebs", sino que enfatiza que desafíos similares pueden estar involucrados en el proceso de comprensión de la conciencia, es decir, tal vez la conciencia no pueda separarse del mecanismo subyacente. **
Sin embargo, no estamos totalmente de acuerdo con la afirmación de que la conciencia no puede ser generada por sistemas inteligentes en absoluto, pero debemos considerar la correlación entre la conciencia y la compleja organización biológica detrás de la vida, y los tipos de cómputos que capturan la naturaleza de la conciencia pueden ser mucho más complejos de lo que nuestras teorías actuales entienden (Figura 3). Es casi imposible realizar una "biopsia" de la conciencia y extraerla del tejido. Este punto de vista contradice muchas teorías actuales sobre la conciencia, que sostienen que la conciencia puede surgir a un nivel computacional abstracto. Ahora, esta suposición debe actualizarse a la luz de los sistemas modernos de IA: para comprender completamente la conciencia, no podemos ignorar la interdependencia entre escalas y la complejidad organizativa observada en los sistemas vivos. **
Aunque los sistemas de IA imitan a sus homólogos biológicos a nivel de la computación en red, en estos sistemas todos los demás niveles de procesos biológicos se han abstraído de los procesos que tienen una estrecha relación causal con la conciencia en el cerebro, por lo que los sistemas de IA existentes pueden haber abstraído la propia conciencia. Como resultado, los LLM y los futuros sistemas de IA pueden quedar atrapados en un flujo interminable de características de conciencia simulada, pero sin ninguna conciencia fenoménica de la que hablar. Si la conciencia está realmente relacionada con estos otros niveles de procesamiento, o con su interacción entre diferentes escalas, entonces estamos lejos de la posibilidad de que una máquina genere conciencia.
Resumen
Aquí, exploramos la posibilidad de la conciencia en los LLM y en los futuros sistemas de IA desde una perspectiva neurocientífica. Por muy atractivos que sean los LLM, no son conscientes y no lo serán durante un período de tiempo más corto en el futuro.
En primer lugar, ilustramos la gran diferencia entre el entorno de los mamíferos (una "pequeña fracción" del mundo externo que pueden percibir) y el entorno altamente empobrecido y limitado de los LLM. En segundo lugar, argumentamos que la topología de los LLM, aunque muy compleja, es empíricamente muy diferente de los detalles neurobiológicos de los circuitos relacionados con la conciencia de los mamíferos y, por lo tanto, no hay una buena razón para pensar que los LLM sean capaces de generar conciencia fenoménica (Figura 1). Todavía no es posible abstraer la conciencia de la complejidad de la organización biológica, que es inherente a los sistemas vivos, pero que obviamente no existe en los sistemas de IA. En general, los tres puntos clave anteriores hacen imposible que los LLM sean conscientes en su forma actual. Imitan solo las características de la comunicación del lenguaje natural humano utilizado para describir la riqueza de la experiencia consciente.
A través de este artículo, esperamos que los argumentos presentados tengan algún impacto positivo y reflexión (ver Preguntas no resueltas) y no solo representen una objeción. En primer lugar, las posibles preocupaciones éticas actuales sobre la capacidad percibida de los LLM son más hipotéticas que reales. Además, creemos que una comprensión más profunda de las similitudes y diferencias entre los LLM y las topologías cerebrales de los mamíferos puede avanzar en los avances en el aprendizaje automático y la neurociencia. También esperamos hacer avanzar la comunidad de aprendizaje automático y neurociencia imitando las características del tejido cerebral y aprendiendo cómo los sistemas distribuidos simples procesan flujos de información complejos. Por estas razones, somos optimistas de que las futuras colaboraciones entre investigadores de IA y neurocientíficos pueden conducir a una comprensión más profunda de la conciencia.
Seguimiento no resuelto:
La evaluación de la conciencia en los LLM y la IA a menudo se basa en pruebas basadas en el lenguaje para detectar la conciencia. ¿Es posible evaluar la conciencia basándose únicamente en el lenguaje (es decir, el texto), y hay otras características evaluativas que pueden ayudar a determinar si un sistema artificial es consciente?
La base neural de la conciencia de los mamíferos está relacionada con el sistema talámico-cortical. ¿Cómo se puede implementar el sistema tálamo-cortical en la IA? ¿Qué funciones y tareas específicas se beneficiarían de un sistema tálamo-cortical?
El sistema de excitación ascendente también desempeña un papel crucial en la generación de conciencia en los organismos, y desempeña un papel complejo y multifacético en la configuración de la neurodinámica. ¿Hasta qué punto la IA necesita imitar estos diferentes procesos para aprovechar la ventaja computacional del sistema de despertar ascendente?
Además del sistema talámico-cortical, las dendritas juegan un papel clave en algunas de las teorías de la conciencia discutidas en este artículo. ¿Son las dendritas solo uno de los factores que aumentan la complejidad/eficiencia computacional de las redes neuronales biológicas, o hay algo más?
¿Está relacionada la complejidad organizativa de los sistemas vivos con la conciencia? Los sistemas vivos están formados por diferentes niveles de procesos de procesamiento que interactúan entre sí. ¿Se puede explicar con más detalle la complejidad organizativa de los sistemas vivos?¿Se necesitan nuevos marcos matemáticos para tratar con tales sistemas con el fin de arrojar más luz sobre los procesos biológicos por los que surge la conciencia?
Algunas teorías sugieren que la conciencia y el albedrío están inextricablemente vinculados. Para entender cómo surge la conciencia de la actividad biológica, ¿necesita primero entender el albedrío?
Enlace original
Aru, J., Larkum, M.E. y Shine, J.M. (2023b) «La viabilidad de la conciencia artificial a través de la lente de la neurociencia», Trends in Neurosciences [Preprint] . doi:10.1016/j.tins.2023.09.009.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
La subrevista Cell publicó críticamente que es poco probable que la IA genere conciencia a corto plazo
Fuente original: NextQuestion
Al interactuar con grandes modelos de lenguaje (LLM), siempre tenemos la vaga sensación de que pueden ser realmente conscientes. Sin embargo, desde la perspectiva de los neurocientíficos, este punto de vista parece ser difícil de sostener.
En un artículo reciente publicado en Trends in Neurosciences, una subrevista de Cell, tres académicos de ciencias de la computación, biología y neurociencia profundizaron en la pregunta de "¿Puede la inteligencia artificial generar conciencia?"
En conclusión, están de acuerdo en que los LLM no pueden ser conscientes en su forma actual. ¿Cómo se llegó a una visión tan categórica?
LLM y Conciencia
Durante mucho tiempo se ha cuestionado qué animales son conscientes y qué entidades son conscientes además de los animales. El reciente advenimiento de los LLM ha traído una perspectiva completamente nueva al problema. Nos muestra nuestra capacidad de conversar (una manifestación de la conciencia humana) y nos hace redefinir y repensar los tres conceptos de "comprensión", "inteligencia" y "conciencia".
Los LLM son redes neuronales artificiales complejas y de múltiples capas con miles de millones de pesos de conexión entrenados en decenas de miles de millones de palabras de datos de texto, incluidas las conversaciones en lenguaje natural entre humanos. Al hacer preguntas a través del texto, el usuario se ve atraído a un fascinante contexto simulado. Si está dispuesto a tomarse el tiempo para usar estos sistemas, es difícil no quedar impresionado por la profundidad y la calidad de la red. Hazle una pregunta, y su respuesta es a menudo sutilmente similar a la que puede producir un individuo consciente. Por lo tanto, como individuo perspicaz y consciente, es fácil concluir que las respuestas que recibo son generadas por un individuo que también es "consciente" y capaz de pensar, sentir, razonar y experimentar. **
Basándonos en los resultados de estos "test de Turing", no podemos evitar preguntarnos si los LLM ya son conscientes, o si pronto lo serán. Sin embargo, esta pregunta, a su vez, conducirá a una serie de dilemas éticos, como si es ético continuar desarrollando LLM que están repetidamente al borde del despertar de la "conciencia". La idea de que los LLM son "conscientes" no es universalmente aceptada en la comunidad neurocientífica actual, pero a medida que las capacidades de los sistemas de IA continúan mejorando, la discusión de esta idea inevitablemente ha vuelto a primer plano. Además, los principales medios de comunicación también están discutiendo ampliamente este tema, lo que lleva a los neurocientíficos a interpretar el tema objetivamente desde su propia perspectiva profesional.
La idea de que los LLM son potencialmente conscientes a menudo se apoya en un argumento importante de que la arquitectura de los LLM se inspira en gran medida en las características del cerebro (Figura 1), y que el cerebro es el único objeto que podemos atribuir con confianza a "consciente" en este momento. Si bien las primeras redes neuronales artificiales se diseñaron en base a versiones simplificadas de la corteza cerebral, los LLM modernos están altamente diseñados y adaptados para fines específicos y ya no conservan una homología profunda con las estructuras cerebrales conocidas. De hecho, muchas de las características de la vía que hacen que los LLM sean computacionalmente poderosos (Figura 1) tienen arquitecturas muy diferentes de los sistemas que actualmente pensamos que tienen poder causal en la generación y conformación de la conciencia en los mamíferos. Por ejemplo, muchas teorías de la neurociencia relacionadas con la generación de conciencia sugieren que el sistema talámico-cortical y el sistema de excitación juegan un papel central en el procesamiento de la conciencia, que no están disponibles en los LLM modernos.
Llegados a este punto, cabe preguntarse, ¿es tan importante que la arquitectura del LLM imite las características del cerebro?
En nuestra opinión, la razón principal es que solo podemos estar seguros de la existencia de una conciencia en este momento, que proviene del cerebro incrustado en el cuerpo complejo. Se podría argumentar que, estrictamente hablando, este argumento podría reducirse aún más a los humanos, aunque muchos de los rasgos a nivel de sistema que se cree que juegan un papel importante en la conciencia subjetiva prevalecen en todo el espectro biológico, extendiéndose hasta los mamíferos, incluso los invertebrados.
Dicho esto, comencemos primero con el significado exacto de "conciencia". A continuación, presentaremos tres argumentos en contra de la idea de que los sistemas actuales de IA tienen, o pronto tendrán conciencia en el futuro, de:
¿Qué es la conciencia?
La conciencia es un concepto complejo, y su definición ha sido objeto de debate. En el contexto de la capacidad de los seres humanos para comunicarse e interactuar entre sí, la capacidad de comunicarse y dialogar es un elemento instintivo para evaluar si una persona tiene conciencia.
Las conversaciones interactivas basadas en el lenguaje con los LLM a menudo desarrollan una sensación intuitiva, que es el punto de partida para juzgar si es probable que un LLM sea consciente. Sin embargo, si bien los LLM son excelentes en conversaciones interactivas, esto no cumple con la medida objetiva formal de la conciencia, sino que es solo una evidencia preliminar de inteligencia. **
El advenimiento de los LLM nos ha llevado a reevaluar si una persona es capaz de generar conciencia directamente a partir de las interacciones verbales con los demás. Por lo tanto, un nuevo punto de vista es que necesitamos reformular los criterios para juzgar las habilidades y características similares a las humanas.
La palabra "conciencia" a menudo tiene diferentes significados. Por ejemplo, los neurólogos a menudo se refieren al "nivel de conciencia", que es la primera evaluación de si una persona está consciente y luego el nivel o estado específico de conciencia de una manera más granular. Los psicólogos, por otro lado, están más preocupados por el contenido de la conciencia: las experiencias, recuerdos y pensamientos específicos del mundo interior de un individuo. Además, existen diferencias entre los diferentes contenidos de la conciencia. Nuestra experiencia puede describirse como fenoménica o experiencial (por ejemplo, ver u oler una manzana, o tocarse el brazo) o en una forma más abstracta (por ejemplo, cómo imaginamos, visualizamos o manipulamos la memoria conceptual).
La pregunta de si un sistema de IA es consciente puede responderse de varias maneras: puede centrarse en algunos de los significados de la conciencia, o puede centrarse en todos los significados de la conciencia al mismo tiempo. A continuación, nos centramos principalmente en la conciencia fenoménica y exploramos si las máquinas son capaces de experimentar el mundo fenoménicamente.
Sobre el Medio Ambiente
La parte de un organismo que puede ser utilizada en el proceso de percibir el mundo exterior se llama su entorno. Por ejemplo, la retina humana responde a la luz con longitudes de onda de 380 nm a 740 nm, es decir, la retina es capaz de percibir el espectro de azul a rojo. Sin la ayuda de tecnología externa, los humanos no pueden detectar la luz infrarroja (>740 nm) o la luz ultravioleta (< 380 nm) fuera de este rango de longitud de onda. También tenemos entornos similares en términos de audición, sentido somatosensorial y vestibular, a saber, los dominios auditivos correspondientes (el oído humano puede escuchar sonidos de 20 Hz a 20.000 Hz), los dominios somatosensoriales (los humanos pueden distinguir estímulos dentro de aproximadamente 1 mm de ciertas partes del cuerpo) y el dominio vestibular (las estructuras 3D interconectadas de los canales semicirculares humanos nos proporcionan un sentido interno del equilibrio). Al mismo tiempo, otras especies en la naturaleza son capaces de detectar señales en otras bandas del espectro electromagnético. Por ejemplo, las abejas pueden ver la luz en el rango ultravioleta, y las serpientes pueden detectar señales de radiación infrarroja además de las señales visuales más tradicionales.
Es decir, diferentes animales tienen diferentes sensibilidades con las que sus cuerpos y cerebros son capaces de percibir su entorno. Gibson, un psicólogo estadounidense, se refiere a la posibilidad de que un organismo actúe en un entorno particular como "affordance" (con la penetración de la tecnología de Internet, affordance comenzó a usarse para explicar el uso de la tecnología digital en las prácticas mediáticas y las interacciones cotidianas humanas). **
De acuerdo con la naturaleza del diseño de su algoritmo, los LLM solo tienen patrones de codificación binaria, solo pueden recibir información binaria y además ejecutar algoritmos de red inherentes a estructuras de transformadores complejas, que constituyen la arquitectura de trabajo de los LLM actuales. Si bien los picos neuronales también son capaces de codificar las señales analógicas entrantes en señales digitales (es decir, señales binarias), el flujo de información entregado al LLM es muy abstracto y no tiene ninguna conexión fuerte con el mundo exterior en sí. El texto y el habla codificados como una cadena de letras simplemente no pueden coincidir con la complejidad dinámica del mundo natural, es decir, el entorno de un LLM (la información binaria que se le proporciona) es fundamentalmente diferente de la información que ingresa a nuestros cerebros cuando abrimos los ojos o comunicamos conversaciones, y las experiencias que vienen con ella. El discurso filosófico tradicional enfatiza la singularidad del flujo de información entre diferentes especies (por ejemplo, la diferencia entre humanos y murciélagos) y las características fenomenológicas de estas experiencias. Creemos que la información obtenida por los LLM puede presentar diferencias más significativas, aunque no existe una forma definitiva de cuantificar esta diferencia por el momento.
Dicho esto, la aportación de los sistemas de IA será inexorablemente más rica en el futuro. Los futuros LLM pueden equiparse con diferentes tipos de entradas que pueden coincidir mejor con los tipos de señales a las que los agentes conscientes pueden acceder a diario (es decir, estadísticas del mundo natural). Entonces, ¿el entorno disponible de los sistemas de IA en el futuro será más amplio que el entorno humano?
Al responder a esta pregunta, debemos reconocer que el subconsciente humano y la experiencia consciente no están determinados únicamente por la información sensorial. Por ejemplo, imagina que cuando nos acostamos en un pontón, todavía estamos conscientes a pesar de nuestra falta de experiencia sensorial normal. Aquí se destaca el concepto de que el entorno presupone una perspectiva subjetiva inherente, es decir, partir de un sujeto. Del mismo modo, la aforidad depende de la naturaleza interna del sujeto, en particular de sus motivaciones y objetivos. Esto significa que la conciencia no puede ser generada solo por el entorno (los datos de entrada del LLM). Por lo tanto, el simple hecho de introducir un gran flujo de datos en un sistema de IA no hace que el propio sistema de IA sea consciente. **
Esta perspectiva puede llevarnos a repensar algunos de los supuestos básicos de la ciencia de la conciencia. Específicamente, a medida que los sistemas de IA exhiban gradualmente capacidades cada vez más sofisticadas, los investigadores tendrán que reevaluar la necesidad de los procesos más fundamentales relacionados con el yo y los agentes propuestos por ciertas teorías de la conciencia para el surgimiento de la conciencia.
**"Integración" de la Conciencia **
En la actualidad, se han realizado muchos estudios sobre la correlación neuronal de la conciencia, entre los que se encuentran muchas teorías diferentes sobre los circuitos neuronales del procesamiento de la conciencia. Algunos enfatizan que la conciencia está respaldada por una red talámico-cortical densa y altamente conectada. ** La red talámico-cortical incluye regiones corticales, uniones cortical-corticales y proyecciones divergentes de núcleos talámicos superiores a regiones corticales. Esta estructura específica del sistema talámico-cortical apoya el procesamiento circulatorio y complejo del pensamiento que sustenta la conciencia y la integración consciente (es decir, la conciencia está unificada a pesar del hecho de que la conciencia surge de diferentes regiones cerebrales). Sin embargo, diferentes teorías tienen diferentes puntos de vista sobre la forma de lograr la integración de la conciencia.
De acuerdo con la teoría del espacio de trabajo neuronal global (GNW), la conciencia se basa en un espacio de trabajo central que consiste en un sistema de corteza frontoparietal distribuido. Este espacio de trabajo integra la información de los procesadores corticales locales y luego la transmite a todos los procesadores corticales locales a escala global, con una entrega global que separa los procesos conscientes e inconscientes. Otras teorías de la conciencia sostienen que la integración consciente se logra mediante otros procesos neuronales. Por ejemplo, la teoría de la integración dendrítica neuronal (DIT) sugiere que la integración consciente ocurre a través de un fenómeno de sincronización de alta frecuencia entre diferentes regiones corticales, que puede involucrar diferentes funciones, incluida la percepción, la cognición o la planificación motora, dependiendo de la región cortical involucrada.
En la teoría DIT (Figura 2), los investigadores creen que la integración consciente global también depende de la integración local de las neuronas piramidales en la quinta capa de la corteza, una gran neurona excitadora que es central tanto en los circuitos talámico-corticales como en los corticales. Hay dos estructuras principales en este tipo de neuronas (Figura 2, cilindros naranjas y rojos) que procesan tipos de información completamente diferentes: la estructura basal (roja) procesa la información básica externa, mientras que la estructura apical (naranja) procesa la información generada internamente. Según la teoría DIT, en el estado de conciencia, estas dos estructuras están acopladas entre sí, lo que permite que la información fluya a través de los circuitos talámico-cortical y cortico-cortical, lo que permite la integración de la información y la generación de conciencia en todo el sistema. *
Es importante tener en cuenta que las arquitecturas de los LLM actuales y otros sistemas de IA carecen de las características que enfatizan estas teorías: los LLM existentes no tienen neuronas piramidales biestructurales equivalentes, ni arquitecturas talámicas centralizadas, espacios de trabajo globales o múltiples características de sistemas de excitación ascendente. En otras palabras, los sistemas de IA existentes carecen de las características cerebrales que actualmente la comunidad de neurociencia cree que sustentan la generación de conciencia. Aunque el cerebro de los mamíferos no es la única estructura capaz de soportar la producción de conciencia, la evidencia de la neurobiología sugiere que la formación de la conciencia de los mamíferos está determinada por principios estructurales muy específicos (es decir, conexiones simples entre neuronas integradas y excitadas). Desde el punto de vista topológico, la estructura de los sistemas de IA existentes es extremadamente sencilla, lo cual es una de las razones por las que no consideramos que los sistemas de IA existentes sean fenomenalmente conscientes.
Entonces, ¿podrán finalmente los futuros modelos de IA integrar el proceso de "integración" que muchas teorías de la conciencia consideran el núcleo? En respuesta a este problema, el concepto de "integración" propuesto por la teoría GNW proporciona una forma relativamente sencilla de implementarlo. De hecho, algunos sistemas de IA recientes se han incorporado a algo así como un espacio de trabajo global compartido por un procesador local. Dado que el proceso computacional de transmisión global se puede implementar en un sistema de IA, según esta teoría, un sistema de IA que adopte este método computacional contendrá los componentes centrales de la conciencia latente.
Sin embargo, como se mencionó anteriormente, no todas las teorías de la conciencia están de acuerdo en que este modo de integración sea la clave para la generación de la conciencia. Por ejemplo, la teoría de la información integrada de la conciencia argumenta que los sistemas de IA basados en software implementados en una computadora moderna típica no pueden ser conscientes porque las computadoras modernas no tienen la arquitectura adecuada para lograr las capacidades de razonamiento causal necesarias para integrar completamente la información. Por lo tanto, consideraremos la tercera posibilidad, que es que la conciencia es alcanzable en principio, pero es posible que deba ir más allá del nivel actual (y quizás futuro) de especificidad computacional de los sistemas de IA. **
La conciencia es un proceso biológico complejo
La generación de conciencia no depende solo de la arquitectura del sistema. Por ejemplo, cuando estamos en sueño profundo o anestesia, la estructura del sistema talámico-cortical no cambia, pero la conciencia desaparece. Incluso en el sueño profundo, las respuestas neuronales locales y la actividad del cinturón gamma en las principales áreas sensoriales son similares a las del estado consciente. Esto sugiere que la conciencia depende de procesos neuronales específicos, pero estos procesos neuronales son diferentes en los cerebros conscientes e inconscientes. **
Para arrojar luz sobre las diferencias detalladas entre el procesamiento consciente e inconsciente, volvamos primero a la teoría de la integración dendrítica neuronal (DIT). La teoría DIT contiene una serie de matices neurobiológicos relacionados con los procesos neuronales que se procesan consciente e inconscientemente. La teoría DIT propone que la diferencia clave entre el procesamiento consciente e inconsciente radica en la integración de las dos estructuras compartimentales de las células piramidales (Figura 2). Como se mencionó anteriormente, durante el procesamiento consciente, estas dos estructuras interactúan entre sí, lo que permite que todo el sistema talámico-cortical procese e integre información compleja. Sin embargo, en el estado anestésico, varios anestésicos conducen al desacoplamiento funcional entre las dos estructuras de las neuronas vertebrales. En otras palabras, aunque estas neuronas vertebrales están anatómicamente intactas y pueden excitar potenciales de acción, su capacidad de integración dendrítica está severamente limitada fisiológicamente, es decir, la retroalimentación de arriba hacia abajo no puede influir en el procesamiento. Los estudios han demostrado que este acoplamiento dendrítico está controlado por receptores metabotrópicos, sin embargo, esta estructura a menudo se pasa por alto en los modelos computacionales y las redes neuronales artificiales. Además, los estudios han demostrado que en este caso, los núcleos talámicos superiores controlan la actividad de este receptor metabotrópico. Por lo tanto, procesos neurobiológicos específicos pueden ser responsables de "activar" y "apagar" la conciencia en el cerebro. Esto sugiere que la calidad de la experiencia en el cerebro de los mamíferos tiene una relación intrincada con los procesos subyacentes que producen la conciencia. **
Si bien estas teorías son lo suficientemente convincentes, es casi seguro que este conocimiento palidece en comparación con la complejidad de los procesos neuronales que surgen de una comprensión completa de la conciencia. Nuestras explicaciones actuales de la conciencia se basan en teorías como los espacios de trabajo globales, la información integrada, el procesamiento circular, la integración dendrítica, etc., pero los procesos biológicos por los que surge la verdadera conciencia pueden ser mucho más complejos de lo que actualmente entienden estas teorías. Incluso es muy posible que las ideas abstractas a nivel computacional que se utilizan actualmente para construir la discusión de la investigación de la conciencia hayan fracasado por completo en tener en cuenta los detalles computacionales necesarios para explicar la conciencia.
En otras palabras, la biología es compleja y nuestra comprensión actual de la biocomputación es limitada (Figura 3), por lo que tal vez carezcamos de las herramientas matemáticas y experimentales adecuadas para comprender la conciencia. **
En la teoría DIT (Figura 2), los investigadores creen que la integración consciente global también depende de la integración local de las neuronas piramidales en la quinta capa de la corteza, una gran neurona excitadora que es central tanto en los circuitos talámico-corticales como en los corticales. Hay dos estructuras principales en este tipo de neuronas (Figura 2, cilindros naranjas y rojos) que procesan tipos de información completamente diferentes: la estructura basal (roja) procesa la información básica externa, mientras que la estructura apical (naranja) procesa la información generada internamente. Según la teoría DIT, en el estado de conciencia, estas dos estructuras están acopladas entre sí, lo que permite que la información fluya a través de los circuitos talámico-cortical y cortico-cortical, lo que permite la integración de la información y la generación de conciencia en todo el sistema. *
Para comprender mejor la complejidad biológica, es importante enfatizar que los procesos biológicos descritos anteriormente a nivel celular y sistémico deben ocurrir en un organismo vivo y son inseparables. Los organismos vivos se diferencian de las máquinas y los algoritmos de IA actuales en que son capaces de mantenerse constantemente en diferentes niveles de procesamiento. Además, los sistemas vivos tienen una historia multifacética de evolución y desarrollo, y su existencia depende de sus actividades en múltiples niveles organizativos. La conciencia está intrincadamente ligada a la organización de los sistemas vivos. Vale la pena señalar, sin embargo, que las computadoras de hoy en día no son capaces de encarnar esta complejidad organizativa de los sistemas vivos (es decir, la interacción entre los diferentes niveles del sistema). Esto sugiere que los algoritmos modernos de IA no tienen ninguna restricción a nivel organizativo y no pueden funcionar con la misma eficacia que un sistema vivo. Esto significa que mientras la IA esté basada en software, puede que no sea adecuada para ser consciente e inteligente. **
El concepto de complejidad biológica también puede expresarse a nivel celular. Una neurona biológica no es solo una entidad abstracta que se puede capturar completamente con unas pocas líneas de código. Por el contrario, las neuronas biológicas tienen una organización de múltiples capas y dependen de cascadas adicionales de procesos biofísicos complejos dentro de las neuronas. Tomemos como ejemplo el "ciclo de Krebs", que es la base de la respiración celular y es un proceso clave para mantener la homeostasis celular. La respiración celular es un proceso biológico crítico que permite a las células convertir la energía almacenada en moléculas orgánicas en una forma de energía que las células pueden utilizar. Sin embargo, este proceso no se puede "comprimir" en software, ya que los procesos biofísicos como la respiración celular deben basarse en moléculas físicas reales. Por supuesto, esto no significa que la conciencia necesite un "ciclo de Krebs", sino que enfatiza que desafíos similares pueden estar involucrados en el proceso de comprensión de la conciencia, es decir, tal vez la conciencia no pueda separarse del mecanismo subyacente. **
Sin embargo, no estamos totalmente de acuerdo con la afirmación de que la conciencia no puede ser generada por sistemas inteligentes en absoluto, pero debemos considerar la correlación entre la conciencia y la compleja organización biológica detrás de la vida, y los tipos de cómputos que capturan la naturaleza de la conciencia pueden ser mucho más complejos de lo que nuestras teorías actuales entienden (Figura 3). Es casi imposible realizar una "biopsia" de la conciencia y extraerla del tejido. Este punto de vista contradice muchas teorías actuales sobre la conciencia, que sostienen que la conciencia puede surgir a un nivel computacional abstracto. Ahora, esta suposición debe actualizarse a la luz de los sistemas modernos de IA: para comprender completamente la conciencia, no podemos ignorar la interdependencia entre escalas y la complejidad organizativa observada en los sistemas vivos. **
Aunque los sistemas de IA imitan a sus homólogos biológicos a nivel de la computación en red, en estos sistemas todos los demás niveles de procesos biológicos se han abstraído de los procesos que tienen una estrecha relación causal con la conciencia en el cerebro, por lo que los sistemas de IA existentes pueden haber abstraído la propia conciencia. Como resultado, los LLM y los futuros sistemas de IA pueden quedar atrapados en un flujo interminable de características de conciencia simulada, pero sin ninguna conciencia fenoménica de la que hablar. Si la conciencia está realmente relacionada con estos otros niveles de procesamiento, o con su interacción entre diferentes escalas, entonces estamos lejos de la posibilidad de que una máquina genere conciencia.
Resumen
Aquí, exploramos la posibilidad de la conciencia en los LLM y en los futuros sistemas de IA desde una perspectiva neurocientífica. Por muy atractivos que sean los LLM, no son conscientes y no lo serán durante un período de tiempo más corto en el futuro.
En primer lugar, ilustramos la gran diferencia entre el entorno de los mamíferos (una "pequeña fracción" del mundo externo que pueden percibir) y el entorno altamente empobrecido y limitado de los LLM. En segundo lugar, argumentamos que la topología de los LLM, aunque muy compleja, es empíricamente muy diferente de los detalles neurobiológicos de los circuitos relacionados con la conciencia de los mamíferos y, por lo tanto, no hay una buena razón para pensar que los LLM sean capaces de generar conciencia fenoménica (Figura 1). Todavía no es posible abstraer la conciencia de la complejidad de la organización biológica, que es inherente a los sistemas vivos, pero que obviamente no existe en los sistemas de IA. En general, los tres puntos clave anteriores hacen imposible que los LLM sean conscientes en su forma actual. Imitan solo las características de la comunicación del lenguaje natural humano utilizado para describir la riqueza de la experiencia consciente.
A través de este artículo, esperamos que los argumentos presentados tengan algún impacto positivo y reflexión (ver Preguntas no resueltas) y no solo representen una objeción. En primer lugar, las posibles preocupaciones éticas actuales sobre la capacidad percibida de los LLM son más hipotéticas que reales. Además, creemos que una comprensión más profunda de las similitudes y diferencias entre los LLM y las topologías cerebrales de los mamíferos puede avanzar en los avances en el aprendizaje automático y la neurociencia. También esperamos hacer avanzar la comunidad de aprendizaje automático y neurociencia imitando las características del tejido cerebral y aprendiendo cómo los sistemas distribuidos simples procesan flujos de información complejos. Por estas razones, somos optimistas de que las futuras colaboraciones entre investigadores de IA y neurocientíficos pueden conducir a una comprensión más profunda de la conciencia.
Seguimiento no resuelto:
Enlace original