Interagindo com grandes modelos de linguagem (LLMs), sempre temos uma vaga sensação de que eles podem realmente ser conscientes. No entanto, do ponto de vista dos neurocientistas, esta visão parece ser difícil de manter.
Em um artigo recente publicado na Trends in Neurosciences, uma sub-revista da Cell, três estudiosos da ciência da computação, biologia e neurociência mergulharam na questão de "A inteligência artificial pode gerar consciência?"
Em conclusão, eles concordam que os LLMs não podem ser conscientes em sua forma atual. Como surgiu uma visão tão categórica?
▷Fonte: Cell
LLM & Consciência
Há muito tempo se questiona quais animais são conscientes e quais entidades são conscientes além dos animais. O recente advento dos LLMs trouxe uma perspetiva totalmente nova para o problema. Mostra-nos a nossa capacidade de conversar (uma manifestação da consciência humana) e faz-nos redefinir e repensar os três conceitos de "compreensão", "inteligência" e "consciência".
LLMs são redes neurais artificiais complexas e multicamadas com bilhões de pesos de conexão treinados em dezenas de bilhões de palavras de dados de texto, incluindo conversas em linguagem natural entre humanos. Ao fazer perguntas através de texto, o usuário é atraído para um fascinante contexto simulado. Se você está disposto a dedicar um tempo para usar esses sistemas, é difícil não se surpreender com a profundidade e a qualidade da rede. Faça uma pergunta, e sua resposta é muitas vezes sutilmente semelhante àquela que um indivíduo consciente pode produzir. Portanto, como um indivíduo perspicaz e consciente, é fácil concluir que as respostas que recebo são geradas por um indivíduo que também é "consciente" e capaz de pensar, sentir, raciocinar e experimentar. **
Com base nos resultados de tais "testes de Turing", não podemos deixar de nos perguntar se os LLMs já estão conscientes, ou em breve estarão conscientes? No entanto, esta questão, por sua vez, levará a uma série de dilemas éticos, tais como se é ético continuar a desenvolver LLMs que estão repetidamente à beira do despertar da "consciência"? A ideia de que os LLMs são "conscientes" não é universalmente aceita na comunidade de neurociência hoje, mas à medida que as capacidades dos sistemas de IA continuam a melhorar, a discussão dessa ideia inevitavelmente voltou à tona. Além disso, os principais meios de comunicação social também estão a discutir amplamente esta questão, levando os neurocientistas a interpretá-la objectivamente a partir da sua própria perspetiva profissional.
A ideia de que os LLMs são potencialmente conscientes é frequentemente apoiada por um argumento importante de que a arquitetura dos LLMs é amplamente inspirada pelas características do cérebro (Figura 1), e que o cérebro é o único objeto que podemos atribuir com confiança ao "consciente" no momento. Enquanto as primeiras redes neurais artificiais foram projetadas com base em versões simplificadas do córtex cerebral, os LLMs modernos são altamente projetados e adaptados para fins específicos e não retêm mais homologia profunda para estruturas cerebrais conhecidas. Na verdade, muitas das características de caminho que tornam os LLMs computacionalmente poderosos (Figura 1) têm arquiteturas muito diferentes dos sistemas que atualmente pensamos ter poder causal na geração e formação da consciência em mamíferos. Por exemplo, muitas teorias da neurociência relacionadas à geração da consciência sugerem que o sistema tálamo-cortical e o sistema de excitação desempenham um papel central no processamento da consciência, que não estão disponíveis nos LLMs modernos.
Figura 1: Diferenças topológicas macroscópicas entre cérebros de mamíferos e grandes modelos linguísticos Fonte: Trends in Neurosciences
Neste ponto, pode-se perguntar, é tão importante que a arquitetura do LLM imite as características do cérebro?
Em nossa opinião, a principal razão é que só podemos ter certeza da existência de uma consciência no momento, que vem do cérebro embutido no corpo complexo. Pode-se argumentar que, a rigor, esse argumento pode ser ainda mais restrito apenas aos seres humanos, embora muitos dos traços do nível do sistema que se pensa desempenharem um papel importante na consciência subjetiva sejam prevalentes em todo o espectro biológico, estendendo-se até mamíferos, até mesmo invertebrados.
Dito isso, vamos começar com o significado exato de "consciência" primeiro. Em seguida, apresentaremos três argumentos contra a ideia de que os sistemas atuais de IA têm, ou terão consciência no futuro, de:
1. A consciência está associada a um fluxo de sensações que são significativas para o organismo;
2. No cérebro dos mamíferos, a consciência é suportada por um sistema tálamo-cortical altamente interligado;
**3. A consciência pode ser inseparável da complexa organização biológica dos sistemas biológicos. **
O que é consciência?
A consciência é um conceito complexo, e sua definição tem sido debatida. No contexto da capacidade dos seres humanos de comunicar e interagir uns com os outros, a capacidade de comunicar e dialogar é um elemento instintivo para avaliar se uma pessoa tem consciência.
Conversas interativas baseadas em linguagem com LLMs geralmente desenvolvem um sentimento intuitivo, que é o ponto de partida para julgar se um LLM é suscetível de ser consciente. No entanto, embora os LLMs sejam excelentes em conversas interativas, isso não atende à medida objetiva formal da consciência, mas é apenas uma evidência preliminar de inteligência. **
O advento dos LLMs nos levou a reavaliar se uma pessoa é capaz de gerar consciência diretamente a partir de interações verbais com os outros. Portanto, uma nova visão é que precisamos reformular os critérios para julgar habilidades semelhantes às humanas e características semelhantes às humanas.
A palavra "consciência" muitas vezes tem significados diferentes. Por exemplo, os neurologistas muitas vezes se referem ao "nível de consciência", que é a primeira avaliação de se uma pessoa está consciente e, em seguida, o nível ou estado específico de consciência de uma forma mais granular. Os psicólogos, por outro lado, estão mais preocupados com o conteúdo da consciência: as experiências, memórias e pensamentos específicos do mundo interior de um indivíduo. Além disso, existem diferenças entre os diferentes conteúdos da consciência. Nossa experiência pode ser descrita como fenomenal ou experiencial (por exemplo, ver ou cheirar uma maçã, ou tocar seu braço) ou de forma mais abstrata (por exemplo, como imaginamos, imaginamos ou manipulamos a memória conceitual).
A questão de saber se um sistema de IA é consciente pode ser respondida de várias maneiras: ele pode se concentrar em alguns dos significados da consciência, ou pode se concentrar em todos os significados da consciência ao mesmo tempo. A seguir, nos concentramos principalmente na consciência fenomenal e exploramos se as máquinas são capazes de experimentar o mundo fenomenalmente.
Sobre o Meio Ambiente
A parte de um organismo que pode ser usada no processo de perceção do mundo exterior é chamada de ambiente. Por exemplo, a retina humana responde à luz com comprimentos de onda de 380 nm – 740 nm, ou seja, a retina é capaz de perceber o espectro do azul ao vermelho. Sem o auxílio de tecnologia externa, os seres humanos não podem detetar luz infravermelha (>740 nm) ou luz ultravioleta (< 380 nm) fora desta faixa de comprimento de onda. Também temos ambientes semelhantes em termos de audição, somatossensorial e sentido vestibular, nomeadamente os domínios auditivos correspondentes (o ouvido humano pode ouvir sons de 20 Hz – 20.000 Hz), os domínios somatossensoriais (os seres humanos podem distinguir estímulos dentro de cerca de 1 mm de certas partes do corpo) e o domínio vestibular (as estruturas 3D interligadas dos canais semicirculares humanos fornecem-nos um sentido interior de equilíbrio). Ao mesmo tempo, outras espécies na natureza são capazes de detetar sinais em outras bandas do espectro eletromagnético. Por exemplo, as abelhas podem ver a luz na faixa ultravioleta, e as cobras podem detetar sinais de radiação infravermelha, além dos sinais visuais mais tradicionais.
Ou seja, diferentes animais têm diferentes sensibilidades com as quais seus corpos e cérebros são capazes de perceber o que os rodeia. Gibson, um psicólogo americano, refere-se à possibilidade de um organismo agir em um determinado ambiente como "affordance" (com a penetração da tecnologia da Internet, o affordance começou a ser usado para explicar o uso da tecnologia digital nas práticas de mídia e interações humanas diárias). **
De acordo com a natureza de seu projeto de algoritmo, os LLMs só têm padrões de codificação binária, só podem receber entrada de informações binárias e executar algoritmos de rede inerentes a estruturas complexas de transformadores, que constituem a arquitetura de trabalho dos LLMs atuais. Enquanto os picos neuronais também são capazes de codificar sinais analógicos de entrada em sinais digitais (ou seja, sinais binários), o fluxo de informações entregues ao LLM é altamente abstrato e não tem nenhuma conexão forte com o mundo exterior em si. Texto e fala codificados como uma sequência de letras simplesmente não podem corresponder à complexidade dinâmica do mundo natural, ou seja, o ambiente de um LLM (a informação binária fornecida a ele) é fundamentalmente diferente da informação que entra em nossos cérebros quando abrimos nossos olhos ou comunicamos conversas, e as experiências que vêm com isso. O discurso filosófico tradicional enfatiza a singularidade do fluxo de informações entre diferentes espécies (por exemplo, a diferença entre humanos e morcegos) e as características fenomenológicas dessas experiências. Acreditamos que as informações obtidas pelos LLMs podem apresentar diferenças mais significativas, embora não haja uma maneira definitiva de quantificar essa diferença por enquanto.
Dito isto, o contributo dos sistemas de IA tornar-se-á inexoravelmente mais rico no futuro. Os futuros LLMs podem ser equipados com diferentes tipos de entradas que podem corresponder melhor aos tipos de sinais que os agentes conscientes podem acessar diariamente (ou seja, estatísticas do mundo natural). Então, o ambiente disponível dos sistemas de IA no futuro será mais amplo do que o ambiente humano?
Ao responder a esta pergunta, devemos reconhecer que a experiência subconsciente e consciente humana não é determinada apenas pela entrada sensorial. Por exemplo, imagine que quando nos deitamos num pontão, ainda estamos conscientes, apesar da nossa falta de experiência sensorial normal. Destaca-se aqui o conceito de que o ambiente pressupõe uma perspetiva subjetiva inerente, isto é, partir de um sujeito. Da mesma forma, a afforidade depende da natureza interna do sujeito, em particular das motivações e objetivos do sujeito. Isto significa que a consciência não pode ser gerada apenas pelo ambiente (os dados de entrada do LLM). Portanto, simplesmente alimentar um grande fluxo de dados em um sistema de IA não torna o próprio sistema de IA consciente. **
Esta perspetiva pode levar-nos a repensar alguns dos pressupostos básicos da ciência da consciência. Especificamente, à medida que os sistemas de IA gradualmente exibem capacidades cada vez mais sofisticadas, os pesquisadores terão que reavaliar a necessidade dos processos mais fundamentais relacionados ao eu e aos agentes propostos por certas teorias da consciência para o surgimento da consciência.
**"Integração" da Consciência **
Atualmente, tem havido muitos estudos sobre a correlação neural da consciência, entre os quais existem muitas teorias diferentes sobre os circuitos neurais do processamento da consciência. Alguns enfatizam que a consciência é sustentada por uma densa e altamente conectada rede tálamo-cortical. **A rede tálamo-cortical inclui regiões corticais, junções corticais-corticais e projeções divergentes de núcleos talâmicos superiores para regiões corticais. Esta estrutura específica do sistema tálamo-cortical suporta o processamento circulatório e complexo do pensamento que sustenta a consciência e a integração consciente (ou seja, a consciência é unificada apesar do fato de que a consciência surge de diferentes regiões cerebrais). No entanto, diferentes teorias têm visões diferentes sobre o caminho para alcançar a integração da consciência.
De acordo com a teoria global do espaço de trabalho neuronal (GNW), a consciência depende de um espaço de trabalho central que consiste em um sistema de córtex frontoparietal distribuído. Este espaço de trabalho integra informações de processadores corticais locais e, em seguida, transmite-as a todos os processadores corticais locais em escala global, com entrega global separando processos conscientes e inconscientes. Outras teorias da consciência sustentam que a integração consciente é alcançada por outros processos neurais. Por exemplo, a teoria da integração dendrítica neuronal (DIT) sugere que a integração consciente ocorre através de um fenômeno de sincronização de alta frequência entre diferentes regiões corticais, que pode envolver diferentes funções, incluindo perceção, cognição ou planejamento motor, dependendo da região cortical envolvida.
Figura 2: Estrutura neural da integração da consciência baseada na teoria da integração dendrítica do neurônio (DIT) Fonte: Tendências em Neurociências
*Legenda: Na teoria DIT (Figura 2), os pesquisadores acreditam que a integração consciente global também depende da integração local de neurônios piramidais na quinta camada do córtex, um grande neurônio excitatório que é central nos circuitos tálamo-cortical e cortical. Existem duas estruturas principais neste tipo de neurónio (Figura 2, cilindros laranja e vermelho) que processam tipos de informação completamente diferentes: a estrutura basal (vermelha) processa a informação básica externa, enquanto a estrutura apical (laranja) processa a informação gerada internamente. De acordo com a teoria DIT, no estado de consciência, essas duas estruturas são acopladas uma à outra, permitindo que a informação flua através dos circuitos tálamo-cortical e cortico-cortical, permitindo assim a integração de todo o sistema de informação e geração de consciência. *
É importante notar que as arquiteturas dos LLMs atuais e outros sistemas de IA carecem das características que essas teorias enfatizam: os LLMs existentes não têm neurônios piramidais biestruturais equivalentes, nem arquiteturas talâmicas centralizadas, espaços de trabalho globais ou múltiplas características de sistemas de excitação ascendente. Em outras palavras, os sistemas de IA existentes não possuem as características cerebrais que atualmente são acreditadas pela comunidade de neurociências para sustentar a geração de consciência. Embora o cérebro dos mamíferos não seja a única estrutura capaz de suportar a produção de consciência, evidências da neurobiologia sugerem que a formação da consciência dos mamíferos é determinada por princípios estruturais muito específicos (ou seja, conexões simples entre neurônios integrados e excitados). Topologicamente, a estrutura dos sistemas de IA existentes é extremamente simples, o que é uma das razões pelas quais não consideramos os sistemas de IA existentes como fenomenais.
Então, será que os futuros modelos de IA finalmente serão capazes de integrar o processo de "integração" que muitas teorias da consciência consideram como o núcleo? Em resposta a este problema, o conceito de "integração" proposto pela teoria GNW fornece uma maneira relativamente simples de implementá-lo. Na verdade, alguns sistemas de IA recentes foram incorporados em algo como um espaço de trabalho global compartilhado por um processador local. Uma vez que o processo computacional de transmissão global pode ser implementado em um sistema de IA, de acordo com essa teoria, um sistema de IA que adote esse método computacional conterá os componentes centrais da consciência latente.
No entanto, como mencionado anteriormente, nem todas as teorias da consciência concordam que este modo de integração é a chave para a geração da consciência. Por exemplo, a teoria da informação integrada da consciência argumenta que os sistemas de IA baseados em software implementados em um computador moderno típico não podem ser conscientes porque os computadores modernos não têm a arquitetura adequada para alcançar as capacidades de raciocínio causal necessárias para integrar totalmente a informação. Portanto, vamos considerar a terceira possibilidade, que é que a consciência é alcançável em princípio, mas pode precisar ir além do nível atual (e talvez futuro) de especificidade computacional dos sistemas de IA. **
A consciência é um processo biológico complexo
A geração da consciência não depende apenas da arquitetura do sistema. Por exemplo, quando estamos em sono profundo ou anestesia, a estrutura do sistema tálamo-cortical não muda, mas a consciência desaparece. Mesmo no sono profundo, as respostas neurais locais e a atividade do cinturão gama nas principais áreas sensoriais são semelhantes às do estado consciente. Isso sugere que a consciência depende de processos neurais específicos, mas esses processos neurais são diferentes em cérebros conscientes e inconscientes. **
Para lançar luz sobre as diferenças detalhadas entre processamento consciente e inconsciente, vamos primeiro voltar à teoria da integração dendrítica do neurônio (DIT). A teoria DIT contém uma série de nuances neurobiológicas relacionadas a processos neurais que são processados consciente e inconscientemente. A teoria DIT propõe que a principal diferença entre processamento consciente e inconsciente reside na integração das duas estruturas compartimentais das células piramidais (Figura 2). Como mencionado anteriormente, durante o processamento consciente, essas duas estruturas interagem entre si, permitindo que todo o sistema tálamo-cortical processe e integre informações complexas. No entanto, no estado anestésico, vários anestésicos levam ao desacoplamento funcional entre as duas estruturas dos neurônios vertebrais. Em outras palavras, embora esses neurônios vertebrais estejam anatomicamente intactos e possam excitar potenciais de ação, sua capacidade de integração dendrítica é severamente limitada fisiologicamente, ou seja, o feedback de cima para baixo não pode influenciar o processamento. Estudos têm demonstrado que este acoplamento dendrítico é controlado por recetores metabotrópicos, no entanto, esta estrutura é frequentemente negligenciada em modelos computacionais e redes neurais artificiais. Além disso, estudos mostraram que, neste caso, os núcleos talâmicos superiores controlam a atividade deste recetor metabotrópico. Assim, processos neurobiológicos específicos podem ser responsáveis por "ligar" e "desligar" a consciência no cérebro. Isto sugere que a qualidade da experiência no cérebro dos mamíferos tem uma relação intrincada com os processos subjacentes que produzem a consciência. **
Embora essas teorias sejam convincentes o suficiente, é quase certo que esse conhecimento empalidece em comparação com a complexidade dos processos neurais que surgem de uma compreensão completa da consciência. Nossas explicações atuais da consciência dependem de teorias como espaços de trabalho globais, informações integradas, processamento circular, integração dendrítica, etc., mas os processos biológicos pelos quais a verdadeira consciência surge podem ser muito mais complexos do que atualmente entendidos por essas teorias. É até bem possível que as ideias abstratas de nível computacional atualmente usadas para construir a discussão da pesquisa da consciência possam ter falhado completamente em levar em conta os detalhes computacionais necessários para explicar a consciência.
Em outras palavras, a biologia é complexa, e nossa compreensão atual da biocomputação é limitada (Figura 3), então talvez não tenhamos as ferramentas matemáticas e experimentais certas para entender a consciência. **
Figura 2: Estrutura neural da integração da consciência baseada na teoria da integração dendrítica do neurônio (DIT) Fonte: Tendências em Neurociências
*Legenda: Na teoria DIT (Figura 2), os pesquisadores acreditam que a integração consciente global também depende da integração local de neurônios piramidais na quinta camada do córtex, um grande neurônio excitatório que é central nos circuitos tálamo-cortical e cortical. Existem duas estruturas principais neste tipo de neurónio (Figura 2, cilindros laranja e vermelho) que processam tipos de informação completamente diferentes: a estrutura basal (vermelha) processa a informação básica externa, enquanto a estrutura apical (laranja) processa a informação gerada internamente. De acordo com a teoria DIT, no estado de consciência, essas duas estruturas são acopladas uma à outra, permitindo que a informação flua através dos circuitos tálamo-cortical e cortico-cortical, permitindo assim a integração de todo o sistema de informação e geração de consciência. *
Para melhor compreender a complexidade biológica, é importante enfatizar que os processos biológicos descritos acima nos níveis celular e sistêmico devem ocorrer em um organismo vivo e são inseparáveis. Os organismos vivos diferem das máquinas e algoritmos de IA atuais na medida em que são capazes de se manter constantemente em diferentes níveis de processamento. Além disso, os sistemas vivos têm uma história multifacetada de evolução e desenvolvimento, e sua existência depende de suas atividades em vários níveis organizacionais. A consciência está intrinsecamente ligada à organização dos sistemas vivos. Vale notar, no entanto, que os computadores de hoje não são capazes de incorporar essa complexidade organizacional dos sistemas vivos (ou seja, a interação entre diferentes níveis do sistema). Isso sugere que os algoritmos modernos de IA não têm nenhuma restrição de nível organizacional e não podem funcionar tão eficazmente quanto um sistema vivo. Isso significa que, enquanto a IA for baseada em software, ela pode não ser adequada para ser consciente e inteligente. **
O conceito de complexidade biológica também pode ser expresso a nível celular. Um neurônio biológico não é apenas uma entidade abstrata que pode ser totalmente capturada com algumas linhas de código. Em contraste, os neurónios biológicos têm uma organização multicamadas e dependem de outras cascatas de processos biofísicos complexos dentro dos neurónios. Tomemos o "ciclo de Krebs", por exemplo, que é a base da respiração celular e é um processo chave na manutenção da homeostase celular. A respiração celular é um processo biológico crítico que permite às células converter a energia armazenada em moléculas orgânicas em uma forma de energia que as células podem utilizar. No entanto, este processo não pode ser "comprimido" em software, pois processos biofísicos como a respiração celular precisam ser baseados em moléculas físicas reais. Claro, isso não significa que a consciência precisa de um "ciclo de Krebs", mas enfatiza que desafios semelhantes podem estar envolvidos no processo de compreensão da consciência, ou seja, talvez a consciência não possa ser separada do mecanismo subjacente. **
No entanto, não concordamos totalmente com a afirmação de que a consciência não pode ser gerada por sistemas inteligentes, mas devemos considerar a correlação entre a consciência e a complexa organização biológica por trás da vida, e os tipos de cálculos que capturam a natureza da consciência podem ser muito mais complexos do que nossas teorias atuais entendem (Figura 3). É quase impossível realizar uma "biópsia" da consciência e removê-la do tecido. Esta visão contradiz muitas teorias atuais sobre a consciência, que sustentam que a consciência pode surgir em um nível computacional abstrato. Agora, essa suposição precisa ser atualizada à luz dos sistemas modernos de IA: para compreender plenamente a consciência, não podemos ignorar a interdependência em escala cruzada e a complexidade organizacional observada nos sistemas vivos. **
Embora os sistemas de IA imitem os seus homólogos biológicos ao nível da computação em rede, nestes sistemas todos os outros níveis de processos biológicos foram abstraídos dos processos que têm uma estreita relação causal com a consciência no cérebro, pelo que os sistemas de IA existentes podem ter abstraído a própria consciência. Como resultado, LLMs e futuros sistemas de IA podem estar presos em um fluxo infinito de recursos de consciência simulados, mas sem qualquer consciência fenomenal para falar. Se a consciência está de fato relacionada a esses outros níveis de processamento, ou à sua interação entre diferentes escalas, então estamos longe da possibilidade de uma máquina gerar consciência.
Resumo
Aqui, exploramos a possibilidade da consciência em LLMs e futuros sistemas de IA a partir de uma perspetiva neurocientífica. Por mais atraentes que os LLMs sejam, eles não são conscientes e não serão conscientes por um período mais curto de tempo no futuro.
Em primeiro lugar, ilustramos a grande diferença entre o ambiente dos mamíferos (uma "pequena fração" do mundo externo que eles podem perceber) e o ambiente altamente empobrecido e limitado dos LLMs. Em segundo lugar, argumentamos que a topologia dos LLMs, embora muito complexa, é empiricamente muito diferente dos detalhes neurobiológicos dos circuitos relacionados à consciência dos mamíferos e, portanto, não há uma boa razão para pensar que os LLMs são capazes de gerar consciência fenomenal (Figura 1). Ainda não é possível abstrair a consciência da complexidade da organização biológica, que é inerente aos sistemas vivos, mas que obviamente não existe nos sistemas de IA. No geral, os três pontos-chave acima tornam impossível para os LLMs serem conscientes em sua forma atual. Eles imitam apenas as características da comunicação em linguagem natural humana usada para descrever a riqueza da experiência consciente.
Através deste artigo, esperamos que os argumentos apresentados tenham algum impacto positivo e reflexão (ver Questões não resolvidas) e não representem apenas uma objeção. Em primeiro lugar, as atuais preocupações éticas potenciais sobre a capacidade percebida dos LLMs são mais hipotéticas do que reais. Além disso, acreditamos que uma compreensão mais profunda das semelhanças e diferenças entre LLMs e topologias cerebrais de mamíferos pode avançar nos avanços em aprendizado de máquina e neurociência. Também esperamos avançar na comunidade de aprendizado de máquina e neurociência, imitando as características do tecido cerebral e aprendendo como sistemas distribuídos simples processam fluxos de informação complexos. Por estas razões, estamos otimistas de que futuras colaborações entre pesquisadores de IA e neurocientistas podem levar a uma compreensão mais profunda da consciência.
Seguimento não resolvido:
A avaliação da consciência em LLMs e IA muitas vezes depende de testes baseados em linguagem para detetar a consciência. É possível avaliar a consciência com base apenas na linguagem (ou seja, texto), e existem outras características avaliativas que podem ajudar a determinar se um sistema artificial é consciente?
A base neural da consciência dos mamíferos está relacionada com o sistema tálamo-cortical. Como o sistema tálamo-cortical pode ser implementado na IA? Que funções e tarefas específicas beneficiariam de um sistema tálamo-cortical?
O sistema de excitação ascendente também desempenha um papel crucial na geração de consciência nos organismos, e desempenha um papel complexo e multifacetado na formação da neurodinâmica. Até que ponto a IA precisa imitar esses diferentes processos para colher a vantagem computacional do sistema de despertar crescente?
Além do sistema tálamo-cortical, os dendritos desempenham um papel fundamental em algumas das teorias da consciência discutidas neste artigo. Os dendritos são apenas um fator que aumenta a complexidade/eficiência computacional das redes neurais biológicas, ou há mais?
A complexidade organizacional dos sistemas vivos está relacionada com a consciência? Os sistemas vivos são constituídos por diferentes níveis de processos de processamento que interagem entre si. A complexidade organizacional dos sistemas vivos pode ser explicada em detalhes mais completos? São necessários novos quadros matemáticos para lidar com tais sistemas, a fim de lançar mais luz sobre os processos biológicos pelos quais a consciência surge?
Algumas teorias sugerem que consciência e agência estão inextricavelmente ligadas. Para entender como a consciência surge da atividade biológica, ela precisa primeiro entender o arbítrio?
Link original
Aru, J., Larkum, M.E. e Shine, J.M. (2023b) 'The feasibility of artificial consciousness through the lens of neuroscience', Trends in Neurosciences [Preprint] . DOI:10.1016/j.tins.2023.09.009.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
Sub-revista Cell publicou criticamente que é improvável que a IA gere consciência no curto prazo
Fonte original: NextQuestion
Interagindo com grandes modelos de linguagem (LLMs), sempre temos uma vaga sensação de que eles podem realmente ser conscientes. No entanto, do ponto de vista dos neurocientistas, esta visão parece ser difícil de manter.
Em um artigo recente publicado na Trends in Neurosciences, uma sub-revista da Cell, três estudiosos da ciência da computação, biologia e neurociência mergulharam na questão de "A inteligência artificial pode gerar consciência?"
Em conclusão, eles concordam que os LLMs não podem ser conscientes em sua forma atual. Como surgiu uma visão tão categórica?
LLM & Consciência
Há muito tempo se questiona quais animais são conscientes e quais entidades são conscientes além dos animais. O recente advento dos LLMs trouxe uma perspetiva totalmente nova para o problema. Mostra-nos a nossa capacidade de conversar (uma manifestação da consciência humana) e faz-nos redefinir e repensar os três conceitos de "compreensão", "inteligência" e "consciência".
LLMs são redes neurais artificiais complexas e multicamadas com bilhões de pesos de conexão treinados em dezenas de bilhões de palavras de dados de texto, incluindo conversas em linguagem natural entre humanos. Ao fazer perguntas através de texto, o usuário é atraído para um fascinante contexto simulado. Se você está disposto a dedicar um tempo para usar esses sistemas, é difícil não se surpreender com a profundidade e a qualidade da rede. Faça uma pergunta, e sua resposta é muitas vezes sutilmente semelhante àquela que um indivíduo consciente pode produzir. Portanto, como um indivíduo perspicaz e consciente, é fácil concluir que as respostas que recebo são geradas por um indivíduo que também é "consciente" e capaz de pensar, sentir, raciocinar e experimentar. **
Com base nos resultados de tais "testes de Turing", não podemos deixar de nos perguntar se os LLMs já estão conscientes, ou em breve estarão conscientes? No entanto, esta questão, por sua vez, levará a uma série de dilemas éticos, tais como se é ético continuar a desenvolver LLMs que estão repetidamente à beira do despertar da "consciência"? A ideia de que os LLMs são "conscientes" não é universalmente aceita na comunidade de neurociência hoje, mas à medida que as capacidades dos sistemas de IA continuam a melhorar, a discussão dessa ideia inevitavelmente voltou à tona. Além disso, os principais meios de comunicação social também estão a discutir amplamente esta questão, levando os neurocientistas a interpretá-la objectivamente a partir da sua própria perspetiva profissional.
A ideia de que os LLMs são potencialmente conscientes é frequentemente apoiada por um argumento importante de que a arquitetura dos LLMs é amplamente inspirada pelas características do cérebro (Figura 1), e que o cérebro é o único objeto que podemos atribuir com confiança ao "consciente" no momento. Enquanto as primeiras redes neurais artificiais foram projetadas com base em versões simplificadas do córtex cerebral, os LLMs modernos são altamente projetados e adaptados para fins específicos e não retêm mais homologia profunda para estruturas cerebrais conhecidas. Na verdade, muitas das características de caminho que tornam os LLMs computacionalmente poderosos (Figura 1) têm arquiteturas muito diferentes dos sistemas que atualmente pensamos ter poder causal na geração e formação da consciência em mamíferos. Por exemplo, muitas teorias da neurociência relacionadas à geração da consciência sugerem que o sistema tálamo-cortical e o sistema de excitação desempenham um papel central no processamento da consciência, que não estão disponíveis nos LLMs modernos.
Neste ponto, pode-se perguntar, é tão importante que a arquitetura do LLM imite as características do cérebro?
Em nossa opinião, a principal razão é que só podemos ter certeza da existência de uma consciência no momento, que vem do cérebro embutido no corpo complexo. Pode-se argumentar que, a rigor, esse argumento pode ser ainda mais restrito apenas aos seres humanos, embora muitos dos traços do nível do sistema que se pensa desempenharem um papel importante na consciência subjetiva sejam prevalentes em todo o espectro biológico, estendendo-se até mamíferos, até mesmo invertebrados.
Dito isso, vamos começar com o significado exato de "consciência" primeiro. Em seguida, apresentaremos três argumentos contra a ideia de que os sistemas atuais de IA têm, ou terão consciência no futuro, de:
O que é consciência?
A consciência é um conceito complexo, e sua definição tem sido debatida. No contexto da capacidade dos seres humanos de comunicar e interagir uns com os outros, a capacidade de comunicar e dialogar é um elemento instintivo para avaliar se uma pessoa tem consciência.
Conversas interativas baseadas em linguagem com LLMs geralmente desenvolvem um sentimento intuitivo, que é o ponto de partida para julgar se um LLM é suscetível de ser consciente. No entanto, embora os LLMs sejam excelentes em conversas interativas, isso não atende à medida objetiva formal da consciência, mas é apenas uma evidência preliminar de inteligência. **
O advento dos LLMs nos levou a reavaliar se uma pessoa é capaz de gerar consciência diretamente a partir de interações verbais com os outros. Portanto, uma nova visão é que precisamos reformular os critérios para julgar habilidades semelhantes às humanas e características semelhantes às humanas.
A palavra "consciência" muitas vezes tem significados diferentes. Por exemplo, os neurologistas muitas vezes se referem ao "nível de consciência", que é a primeira avaliação de se uma pessoa está consciente e, em seguida, o nível ou estado específico de consciência de uma forma mais granular. Os psicólogos, por outro lado, estão mais preocupados com o conteúdo da consciência: as experiências, memórias e pensamentos específicos do mundo interior de um indivíduo. Além disso, existem diferenças entre os diferentes conteúdos da consciência. Nossa experiência pode ser descrita como fenomenal ou experiencial (por exemplo, ver ou cheirar uma maçã, ou tocar seu braço) ou de forma mais abstrata (por exemplo, como imaginamos, imaginamos ou manipulamos a memória conceitual).
A questão de saber se um sistema de IA é consciente pode ser respondida de várias maneiras: ele pode se concentrar em alguns dos significados da consciência, ou pode se concentrar em todos os significados da consciência ao mesmo tempo. A seguir, nos concentramos principalmente na consciência fenomenal e exploramos se as máquinas são capazes de experimentar o mundo fenomenalmente.
Sobre o Meio Ambiente
A parte de um organismo que pode ser usada no processo de perceção do mundo exterior é chamada de ambiente. Por exemplo, a retina humana responde à luz com comprimentos de onda de 380 nm – 740 nm, ou seja, a retina é capaz de perceber o espectro do azul ao vermelho. Sem o auxílio de tecnologia externa, os seres humanos não podem detetar luz infravermelha (>740 nm) ou luz ultravioleta (< 380 nm) fora desta faixa de comprimento de onda. Também temos ambientes semelhantes em termos de audição, somatossensorial e sentido vestibular, nomeadamente os domínios auditivos correspondentes (o ouvido humano pode ouvir sons de 20 Hz – 20.000 Hz), os domínios somatossensoriais (os seres humanos podem distinguir estímulos dentro de cerca de 1 mm de certas partes do corpo) e o domínio vestibular (as estruturas 3D interligadas dos canais semicirculares humanos fornecem-nos um sentido interior de equilíbrio). Ao mesmo tempo, outras espécies na natureza são capazes de detetar sinais em outras bandas do espectro eletromagnético. Por exemplo, as abelhas podem ver a luz na faixa ultravioleta, e as cobras podem detetar sinais de radiação infravermelha, além dos sinais visuais mais tradicionais.
Ou seja, diferentes animais têm diferentes sensibilidades com as quais seus corpos e cérebros são capazes de perceber o que os rodeia. Gibson, um psicólogo americano, refere-se à possibilidade de um organismo agir em um determinado ambiente como "affordance" (com a penetração da tecnologia da Internet, o affordance começou a ser usado para explicar o uso da tecnologia digital nas práticas de mídia e interações humanas diárias). **
De acordo com a natureza de seu projeto de algoritmo, os LLMs só têm padrões de codificação binária, só podem receber entrada de informações binárias e executar algoritmos de rede inerentes a estruturas complexas de transformadores, que constituem a arquitetura de trabalho dos LLMs atuais. Enquanto os picos neuronais também são capazes de codificar sinais analógicos de entrada em sinais digitais (ou seja, sinais binários), o fluxo de informações entregues ao LLM é altamente abstrato e não tem nenhuma conexão forte com o mundo exterior em si. Texto e fala codificados como uma sequência de letras simplesmente não podem corresponder à complexidade dinâmica do mundo natural, ou seja, o ambiente de um LLM (a informação binária fornecida a ele) é fundamentalmente diferente da informação que entra em nossos cérebros quando abrimos nossos olhos ou comunicamos conversas, e as experiências que vêm com isso. O discurso filosófico tradicional enfatiza a singularidade do fluxo de informações entre diferentes espécies (por exemplo, a diferença entre humanos e morcegos) e as características fenomenológicas dessas experiências. Acreditamos que as informações obtidas pelos LLMs podem apresentar diferenças mais significativas, embora não haja uma maneira definitiva de quantificar essa diferença por enquanto.
Dito isto, o contributo dos sistemas de IA tornar-se-á inexoravelmente mais rico no futuro. Os futuros LLMs podem ser equipados com diferentes tipos de entradas que podem corresponder melhor aos tipos de sinais que os agentes conscientes podem acessar diariamente (ou seja, estatísticas do mundo natural). Então, o ambiente disponível dos sistemas de IA no futuro será mais amplo do que o ambiente humano?
Ao responder a esta pergunta, devemos reconhecer que a experiência subconsciente e consciente humana não é determinada apenas pela entrada sensorial. Por exemplo, imagine que quando nos deitamos num pontão, ainda estamos conscientes, apesar da nossa falta de experiência sensorial normal. Destaca-se aqui o conceito de que o ambiente pressupõe uma perspetiva subjetiva inerente, isto é, partir de um sujeito. Da mesma forma, a afforidade depende da natureza interna do sujeito, em particular das motivações e objetivos do sujeito. Isto significa que a consciência não pode ser gerada apenas pelo ambiente (os dados de entrada do LLM). Portanto, simplesmente alimentar um grande fluxo de dados em um sistema de IA não torna o próprio sistema de IA consciente. **
Esta perspetiva pode levar-nos a repensar alguns dos pressupostos básicos da ciência da consciência. Especificamente, à medida que os sistemas de IA gradualmente exibem capacidades cada vez mais sofisticadas, os pesquisadores terão que reavaliar a necessidade dos processos mais fundamentais relacionados ao eu e aos agentes propostos por certas teorias da consciência para o surgimento da consciência.
**"Integração" da Consciência **
Atualmente, tem havido muitos estudos sobre a correlação neural da consciência, entre os quais existem muitas teorias diferentes sobre os circuitos neurais do processamento da consciência. Alguns enfatizam que a consciência é sustentada por uma densa e altamente conectada rede tálamo-cortical. **A rede tálamo-cortical inclui regiões corticais, junções corticais-corticais e projeções divergentes de núcleos talâmicos superiores para regiões corticais. Esta estrutura específica do sistema tálamo-cortical suporta o processamento circulatório e complexo do pensamento que sustenta a consciência e a integração consciente (ou seja, a consciência é unificada apesar do fato de que a consciência surge de diferentes regiões cerebrais). No entanto, diferentes teorias têm visões diferentes sobre o caminho para alcançar a integração da consciência.
De acordo com a teoria global do espaço de trabalho neuronal (GNW), a consciência depende de um espaço de trabalho central que consiste em um sistema de córtex frontoparietal distribuído. Este espaço de trabalho integra informações de processadores corticais locais e, em seguida, transmite-as a todos os processadores corticais locais em escala global, com entrega global separando processos conscientes e inconscientes. Outras teorias da consciência sustentam que a integração consciente é alcançada por outros processos neurais. Por exemplo, a teoria da integração dendrítica neuronal (DIT) sugere que a integração consciente ocorre através de um fenômeno de sincronização de alta frequência entre diferentes regiões corticais, que pode envolver diferentes funções, incluindo perceção, cognição ou planejamento motor, dependendo da região cortical envolvida.
*Legenda: Na teoria DIT (Figura 2), os pesquisadores acreditam que a integração consciente global também depende da integração local de neurônios piramidais na quinta camada do córtex, um grande neurônio excitatório que é central nos circuitos tálamo-cortical e cortical. Existem duas estruturas principais neste tipo de neurónio (Figura 2, cilindros laranja e vermelho) que processam tipos de informação completamente diferentes: a estrutura basal (vermelha) processa a informação básica externa, enquanto a estrutura apical (laranja) processa a informação gerada internamente. De acordo com a teoria DIT, no estado de consciência, essas duas estruturas são acopladas uma à outra, permitindo que a informação flua através dos circuitos tálamo-cortical e cortico-cortical, permitindo assim a integração de todo o sistema de informação e geração de consciência. *
É importante notar que as arquiteturas dos LLMs atuais e outros sistemas de IA carecem das características que essas teorias enfatizam: os LLMs existentes não têm neurônios piramidais biestruturais equivalentes, nem arquiteturas talâmicas centralizadas, espaços de trabalho globais ou múltiplas características de sistemas de excitação ascendente. Em outras palavras, os sistemas de IA existentes não possuem as características cerebrais que atualmente são acreditadas pela comunidade de neurociências para sustentar a geração de consciência. Embora o cérebro dos mamíferos não seja a única estrutura capaz de suportar a produção de consciência, evidências da neurobiologia sugerem que a formação da consciência dos mamíferos é determinada por princípios estruturais muito específicos (ou seja, conexões simples entre neurônios integrados e excitados). Topologicamente, a estrutura dos sistemas de IA existentes é extremamente simples, o que é uma das razões pelas quais não consideramos os sistemas de IA existentes como fenomenais.
Então, será que os futuros modelos de IA finalmente serão capazes de integrar o processo de "integração" que muitas teorias da consciência consideram como o núcleo? Em resposta a este problema, o conceito de "integração" proposto pela teoria GNW fornece uma maneira relativamente simples de implementá-lo. Na verdade, alguns sistemas de IA recentes foram incorporados em algo como um espaço de trabalho global compartilhado por um processador local. Uma vez que o processo computacional de transmissão global pode ser implementado em um sistema de IA, de acordo com essa teoria, um sistema de IA que adote esse método computacional conterá os componentes centrais da consciência latente.
No entanto, como mencionado anteriormente, nem todas as teorias da consciência concordam que este modo de integração é a chave para a geração da consciência. Por exemplo, a teoria da informação integrada da consciência argumenta que os sistemas de IA baseados em software implementados em um computador moderno típico não podem ser conscientes porque os computadores modernos não têm a arquitetura adequada para alcançar as capacidades de raciocínio causal necessárias para integrar totalmente a informação. Portanto, vamos considerar a terceira possibilidade, que é que a consciência é alcançável em princípio, mas pode precisar ir além do nível atual (e talvez futuro) de especificidade computacional dos sistemas de IA. **
A consciência é um processo biológico complexo
A geração da consciência não depende apenas da arquitetura do sistema. Por exemplo, quando estamos em sono profundo ou anestesia, a estrutura do sistema tálamo-cortical não muda, mas a consciência desaparece. Mesmo no sono profundo, as respostas neurais locais e a atividade do cinturão gama nas principais áreas sensoriais são semelhantes às do estado consciente. Isso sugere que a consciência depende de processos neurais específicos, mas esses processos neurais são diferentes em cérebros conscientes e inconscientes. **
Para lançar luz sobre as diferenças detalhadas entre processamento consciente e inconsciente, vamos primeiro voltar à teoria da integração dendrítica do neurônio (DIT). A teoria DIT contém uma série de nuances neurobiológicas relacionadas a processos neurais que são processados consciente e inconscientemente. A teoria DIT propõe que a principal diferença entre processamento consciente e inconsciente reside na integração das duas estruturas compartimentais das células piramidais (Figura 2). Como mencionado anteriormente, durante o processamento consciente, essas duas estruturas interagem entre si, permitindo que todo o sistema tálamo-cortical processe e integre informações complexas. No entanto, no estado anestésico, vários anestésicos levam ao desacoplamento funcional entre as duas estruturas dos neurônios vertebrais. Em outras palavras, embora esses neurônios vertebrais estejam anatomicamente intactos e possam excitar potenciais de ação, sua capacidade de integração dendrítica é severamente limitada fisiologicamente, ou seja, o feedback de cima para baixo não pode influenciar o processamento. Estudos têm demonstrado que este acoplamento dendrítico é controlado por recetores metabotrópicos, no entanto, esta estrutura é frequentemente negligenciada em modelos computacionais e redes neurais artificiais. Além disso, estudos mostraram que, neste caso, os núcleos talâmicos superiores controlam a atividade deste recetor metabotrópico. Assim, processos neurobiológicos específicos podem ser responsáveis por "ligar" e "desligar" a consciência no cérebro. Isto sugere que a qualidade da experiência no cérebro dos mamíferos tem uma relação intrincada com os processos subjacentes que produzem a consciência. **
Embora essas teorias sejam convincentes o suficiente, é quase certo que esse conhecimento empalidece em comparação com a complexidade dos processos neurais que surgem de uma compreensão completa da consciência. Nossas explicações atuais da consciência dependem de teorias como espaços de trabalho globais, informações integradas, processamento circular, integração dendrítica, etc., mas os processos biológicos pelos quais a verdadeira consciência surge podem ser muito mais complexos do que atualmente entendidos por essas teorias. É até bem possível que as ideias abstratas de nível computacional atualmente usadas para construir a discussão da pesquisa da consciência possam ter falhado completamente em levar em conta os detalhes computacionais necessários para explicar a consciência.
Em outras palavras, a biologia é complexa, e nossa compreensão atual da biocomputação é limitada (Figura 3), então talvez não tenhamos as ferramentas matemáticas e experimentais certas para entender a consciência. **
*Legenda: Na teoria DIT (Figura 2), os pesquisadores acreditam que a integração consciente global também depende da integração local de neurônios piramidais na quinta camada do córtex, um grande neurônio excitatório que é central nos circuitos tálamo-cortical e cortical. Existem duas estruturas principais neste tipo de neurónio (Figura 2, cilindros laranja e vermelho) que processam tipos de informação completamente diferentes: a estrutura basal (vermelha) processa a informação básica externa, enquanto a estrutura apical (laranja) processa a informação gerada internamente. De acordo com a teoria DIT, no estado de consciência, essas duas estruturas são acopladas uma à outra, permitindo que a informação flua através dos circuitos tálamo-cortical e cortico-cortical, permitindo assim a integração de todo o sistema de informação e geração de consciência. *
Para melhor compreender a complexidade biológica, é importante enfatizar que os processos biológicos descritos acima nos níveis celular e sistêmico devem ocorrer em um organismo vivo e são inseparáveis. Os organismos vivos diferem das máquinas e algoritmos de IA atuais na medida em que são capazes de se manter constantemente em diferentes níveis de processamento. Além disso, os sistemas vivos têm uma história multifacetada de evolução e desenvolvimento, e sua existência depende de suas atividades em vários níveis organizacionais. A consciência está intrinsecamente ligada à organização dos sistemas vivos. Vale notar, no entanto, que os computadores de hoje não são capazes de incorporar essa complexidade organizacional dos sistemas vivos (ou seja, a interação entre diferentes níveis do sistema). Isso sugere que os algoritmos modernos de IA não têm nenhuma restrição de nível organizacional e não podem funcionar tão eficazmente quanto um sistema vivo. Isso significa que, enquanto a IA for baseada em software, ela pode não ser adequada para ser consciente e inteligente. **
O conceito de complexidade biológica também pode ser expresso a nível celular. Um neurônio biológico não é apenas uma entidade abstrata que pode ser totalmente capturada com algumas linhas de código. Em contraste, os neurónios biológicos têm uma organização multicamadas e dependem de outras cascatas de processos biofísicos complexos dentro dos neurónios. Tomemos o "ciclo de Krebs", por exemplo, que é a base da respiração celular e é um processo chave na manutenção da homeostase celular. A respiração celular é um processo biológico crítico que permite às células converter a energia armazenada em moléculas orgânicas em uma forma de energia que as células podem utilizar. No entanto, este processo não pode ser "comprimido" em software, pois processos biofísicos como a respiração celular precisam ser baseados em moléculas físicas reais. Claro, isso não significa que a consciência precisa de um "ciclo de Krebs", mas enfatiza que desafios semelhantes podem estar envolvidos no processo de compreensão da consciência, ou seja, talvez a consciência não possa ser separada do mecanismo subjacente. **
No entanto, não concordamos totalmente com a afirmação de que a consciência não pode ser gerada por sistemas inteligentes, mas devemos considerar a correlação entre a consciência e a complexa organização biológica por trás da vida, e os tipos de cálculos que capturam a natureza da consciência podem ser muito mais complexos do que nossas teorias atuais entendem (Figura 3). É quase impossível realizar uma "biópsia" da consciência e removê-la do tecido. Esta visão contradiz muitas teorias atuais sobre a consciência, que sustentam que a consciência pode surgir em um nível computacional abstrato. Agora, essa suposição precisa ser atualizada à luz dos sistemas modernos de IA: para compreender plenamente a consciência, não podemos ignorar a interdependência em escala cruzada e a complexidade organizacional observada nos sistemas vivos. **
Embora os sistemas de IA imitem os seus homólogos biológicos ao nível da computação em rede, nestes sistemas todos os outros níveis de processos biológicos foram abstraídos dos processos que têm uma estreita relação causal com a consciência no cérebro, pelo que os sistemas de IA existentes podem ter abstraído a própria consciência. Como resultado, LLMs e futuros sistemas de IA podem estar presos em um fluxo infinito de recursos de consciência simulados, mas sem qualquer consciência fenomenal para falar. Se a consciência está de fato relacionada a esses outros níveis de processamento, ou à sua interação entre diferentes escalas, então estamos longe da possibilidade de uma máquina gerar consciência.
Resumo
Aqui, exploramos a possibilidade da consciência em LLMs e futuros sistemas de IA a partir de uma perspetiva neurocientífica. Por mais atraentes que os LLMs sejam, eles não são conscientes e não serão conscientes por um período mais curto de tempo no futuro.
Em primeiro lugar, ilustramos a grande diferença entre o ambiente dos mamíferos (uma "pequena fração" do mundo externo que eles podem perceber) e o ambiente altamente empobrecido e limitado dos LLMs. Em segundo lugar, argumentamos que a topologia dos LLMs, embora muito complexa, é empiricamente muito diferente dos detalhes neurobiológicos dos circuitos relacionados à consciência dos mamíferos e, portanto, não há uma boa razão para pensar que os LLMs são capazes de gerar consciência fenomenal (Figura 1). Ainda não é possível abstrair a consciência da complexidade da organização biológica, que é inerente aos sistemas vivos, mas que obviamente não existe nos sistemas de IA. No geral, os três pontos-chave acima tornam impossível para os LLMs serem conscientes em sua forma atual. Eles imitam apenas as características da comunicação em linguagem natural humana usada para descrever a riqueza da experiência consciente.
Através deste artigo, esperamos que os argumentos apresentados tenham algum impacto positivo e reflexão (ver Questões não resolvidas) e não representem apenas uma objeção. Em primeiro lugar, as atuais preocupações éticas potenciais sobre a capacidade percebida dos LLMs são mais hipotéticas do que reais. Além disso, acreditamos que uma compreensão mais profunda das semelhanças e diferenças entre LLMs e topologias cerebrais de mamíferos pode avançar nos avanços em aprendizado de máquina e neurociência. Também esperamos avançar na comunidade de aprendizado de máquina e neurociência, imitando as características do tecido cerebral e aprendendo como sistemas distribuídos simples processam fluxos de informação complexos. Por estas razões, estamos otimistas de que futuras colaborações entre pesquisadores de IA e neurocientistas podem levar a uma compreensão mais profunda da consciência.
Seguimento não resolvido:
Link original