*Após a explosão da aplicação de grandes modelos de linguagem natural, muitos figurões no círculo de tecnologia expressaram suas opiniões sobre IA de diferentes ângulos. Recentemente, Yuval Harari, um conhecido historiador, filósofo e autor de "Uma Breve História da Humanidade", foi contratado pelo The Economist para compartilhar seus pensamentos sobre IA. *
*Continuando sua visão em Uma Breve História da Humanidade, Harari enfatiza que a linguagem é o elemento constituinte de quase todas as culturas humanas. A IA com a capacidade de gerar linguagem afetará a percepção humana do mundo por meio da linguagem, "AI Hackeando o sistema operacional da civilização humana". Ele comparou a IA a uma "arma nuclear" e pediu às pessoas que tomem medidas imediatas para adotar mais medidas de segurança. Uma sugestão é "exigir obrigatoriamente que a IA divulgue que é IA". *
Vimos os discursos de vários representantes de "estudantes de ciências" sobre IA, e estudiosos de humanidades descreveram mais especificamente como a IA pode afetar a política, a religião e os negócios por meio da linguagem. Ele corajosamente assumiu que os seres humanos podem viver na ilusão criada pela IA no futuro. "Metaverse Explosion" compilou o texto completo de seu artigo. *
从计算机时代开始，对AI的恐惧就困扰着人类。此前，人们主要是害怕机器会用物理的手段杀死、奴役或取代人类。过去几年，新的AI工具出现了，并从一个意想不到的方面对人类文明的存续造成了威胁：**AI获得了一些处理和生成语言(无论是通过文字、声音还是图像) A extraordinária capacidade da civilização humana rompeu o sistema operacional. **
A linguagem é o alicerce de quase todas as culturas humanas. Por exemplo, os direitos humanos não estão inscritos no DNA humano, mas artefatos culturais que criamos ao contar histórias e fazer leis; deuses não existem fisicamente, mas artefatos culturais que criamos criando mitos e escrevendo escrituras.
A moeda também é um artefato cultural. As cédulas nada mais são do que pedaços de papel colorido, e mais de 90% do dinheiro hoje nem é papel-moeda, mas sim informação digital em computadores. O que dá valor à moeda são as histórias que banqueiros, ministros do Tesouro e especialistas em criptomoedas nos contam sobre ela: o fundador da FTX, Sam Bankman-Fried, o falso "exame de sangue para câncer" Elizabeth Holmes, a maior empresária do mundo, e Bernie Madoff, o mentor do maior esquema Ponzi da história, não são muito bons em criar valor real, mas ambos são muito bons em contar histórias.
E se os agentes não humanos fossem melhores do que os humanos comuns em contar histórias, criar melodias, desenhar imagens e escrever leis e escrituras?
Quando as pessoas pensam no ChatGPT e em outras novas ferramentas de IA, geralmente se concentram em exemplos de alunos do ensino fundamental e médio usando IA para escrever redações. O que aconteceria com o sistema escolar se as crianças fizessem isso?Mas esse tipo de pergunta não atinge o alvo. Esqueça as redações escolares, pense na próxima corrida presidencial dos EUA em 2024 e tente imaginar como as ferramentas de IA podem ser usadas para criar grandes quantidades de conteúdo político e notícias falsas.
Nos últimos anos, os crentes do "Anonymous Q" se reuniram em torno de revelações anônimas postadas na Internet (Nota do editor: "Anonymous Q" é um local de encontro online para várias teorias da conspiração. A principal teoria da conspiração é que há uma conspiração dentro dos EUA estado profundo do governo). Os crentes coletam e promovem tais teorias da conspiração e as consideram como bíblias. No passado, todas as postagens de notícias de última hora eram escritas por humanos, e as máquinas apenas ajudavam a espalhá-las. Mas, no futuro, poderemos ver as primeiras religiões pagãs da história cujas escrituras foram escritas por agentes não humanos. Ao longo da história, as religiões afirmaram que seus livros sagrados não eram de origem humana. Isso pode se tornar uma realidade em breve.
Em um nível mais cotidiano, podemos descobrir em breve que pensamos que somos arengas online com pessoas reais sobre aborto, mudança climática ou conflito Rússia-Ucrânia, mas a outra parte é na verdade uma IA. O problema é que não faz sentido gastar nosso tempo tentando mudar a percepção de uma IA que pode refinar informações com tanta precisão que pode afetar nossa percepção. **
**Ao dominar a linguagem humana, a IA pode até desenvolver um relacionamento íntimo com humanos e usar o poder desse relacionamento para mudar nossa percepção e visão de mundo. **Embora não haja indicação de que a IA tenha consciência ou sentimentos próprios, para uma IA cultivar uma falsa intimidade com um humano, tudo o que ela precisa é que o humano se apegue emocionalmente a ela.
Em junho de 2022, o engenheiro do Google Blake Lemoine afirmou publicamente que o chatbot de IA LaMDA no qual ele estava trabalhando já tinha sensibilidade. A alegação controversa custou-lhe o emprego. O mais interessante disso não é a afirmação de Lemoyne (que pode ser falsa), mas sua disposição de arriscar perder um emprego bem remunerado para justificar o nome do chatbot de IA. Se a IA pode fazer com que as pessoas arrisquem seus empregos por ela, é possível induzi-las a fazer outra coisa?
Na luta política para conquistar os corações e as mentes das pessoas, a proximidade é a arma mais eficaz. E a IA acaba de ganhar a capacidade de formar relacionamentos íntimos com milhões de pessoas.
Todos nós sabemos que, na última década, a mídia social se tornou um campo de batalha para chamar a atenção das pessoas. Com o advento de uma nova geração de IA, a linha de batalha está mudando da atenção para a intimidade. *Se houver uma competição entre IA e IA que pode ter um relacionamento mais próximo com os humanos e, em seguida, usar esse relacionamento para nos persuadir a votar em determinados políticos ou comprar determinados produtos, como a sociedade humana e a psicologia humana mudarão? *
Mesmo sem criar "falsa intimidade", novas ferramentas de IA podem ter um grande impacto em nossa percepção e visão de mundo. As pessoas podem pensar em um consultor de IA como um deus onisciente, então não é de admirar que o Google tenha entrado em pânico. Se você tiver alguma dúvida, pode perguntar aos deuses, por que se preocupar em pesquisar? As indústrias de notícias e publicidade estão naturalmente com medo, já que você pode obter as últimas notícias apenas perguntando aos deuses: por que você precisa ler jornais?
E mesmo que esses cenários fossem concebidos, eles ainda falhavam em compreender verdadeiramente a situação geral. Quando discutimos o possível fim da história humana, não estamos falando do fim da história, mas do fim da parte da história dominada pelos seres humanos. A história é o produto da interação entre biologia e cultura, de nossas necessidades e desejos biológicos (como comida e sexo) e criações culturais (como religião e lei). A história é o processo gradual pelo qual a lei e a religião influenciaram a dieta e o sexo.
O que acontece com o curso da história quando a IA assume o controle da cultura e começa a criar histórias, melodias, leis e religiões? Anteriormente, ferramentas como a imprensa e o rádio facilitavam a disseminação de ideias culturais humanas, mas nunca se criaram sozinhas novo conceito cultural. A IA é fundamentalmente diferente deles. **A IA pode criar novas ideias, novas culturas. **
A princípio, uma IA incipiente pode imitar os humanos que a treinaram. Mas, com o tempo, a cultura da IA irá audaciosamente onde nenhum ser humano jamais esteve. Por milênios, os humanos viveram nos sonhos de outros humanos. ** Nas próximas décadas, podemos nos encontrar vivendo o sonho de agentes inteligentes não humanos. **
O medo da IA só atormentou a humanidade nas últimas décadas. Mas um medo muito mais profundo assombra a humanidade há milênios. Sempre entendemos o poder das histórias e imagens para manipular a mente e criar ilusões. Portanto, os humanos temem ficar presos em um mundo de ilusões desde os tempos antigos.
No século 17, Descartes se preocupou com a possibilidade de estar preso em um mundo de ilusão por um demônio, e tudo o que ele viu e ouviu foi criado por esse demônio. Platão, na Grécia antiga, contou a famosa alegoria da caverna: um grupo de pessoas foi acorrentado em uma caverna por toda a vida, e há apenas uma parede em branco da caverna na frente deles, como uma tela. Os prisioneiros podiam ver várias sombras projetadas nas paredes da caverna pelo mundo fora da caverna, então eles tomaram essas ilusões como realidade.
Na Índia antiga, sábios budistas e hindus apontaram que os seres humanos vivem em maya (o mundo da ilusão). O que geralmente percebemos como realidade muitas vezes é apenas uma ilusão em nossas próprias mentes. Os seres humanos podem travar guerras, matar outros e ser mortos voluntariamente porque acreditam em uma ou outra visão.
** AI Revolution traz o Demônio de Descartes, a Caverna de Platão e Maya diretamente para nós. **Se não tivermos cuidado, podemos ficar presos atrás de um véu de ilusão, incapazes de romper ou mesmo perceber que ele está lá.
Obviamente, o novo poder da IA também pode ser bem utilizado. Não vou entrar em muitos detalhes sobre isso, porque as pessoas que desenvolvem IA já falaram o suficiente. O trabalho de historiadores e filósofos como eu é apontar onde estão os perigos da IA. Mas não há dúvida de que a IA pode ajudar os humanos de inúmeras maneiras, desde encontrar novos tratamentos para superar o câncer, até descobrir soluções para crises ecológicas e muito mais. A questão diante de nós é como garantir que as novas ferramentas de IA sejam usadas para o bem e não para o mal. Para fazer isso, primeiro precisamos reconhecer os verdadeiros recursos dessas ferramentas.
Sabemos desde 1945 que a tecnologia nuclear pode gerar energia barata para o benefício da humanidade, mas também pode destruir fisicamente a civilização humana. Portanto, remodelamos toda a ordem internacional para proteger a humanidade e garantir que a tecnologia nuclear seja usada principalmente para o benefício da humanidade. **Agora devemos lidar com um novo tipo de WMD que pode destruir nossos mundos espiritual e social. **
Ainda podemos gerenciar novas ferramentas de IA, mas devemos agir rapidamente. **As armas nucleares não podem inventar armas nucleares mais poderosas, mas a IA pode criar uma IA exponencialmente mais poderosa. **
**A primeira etapa crítica é submeter as poderosas ferramentas de IA a rigorosas verificações de segurança antes de serem lançadas no domínio público. ** Assim como as empresas farmacêuticas não podem lançar novos medicamentos sem testar os efeitos colaterais de curto e longo prazo, as empresas de tecnologia não devem lançar novas ferramentas de IA antes de garantir a segurança. Precisamos de agências como a US Food and Drug Administration (FDA) para regular novas tecnologias. Essas coisas deveriam ter sido feitas há muito tempo.
A desaceleração da implantação da IA na esfera pública não faria com que as democracias caíssem para trás de regimes autoritários mais imprudentes? A implantação de IA não regulamentada criaria um caos social que favoreceria os ditadores para minar as democracias. **A democracia é um diálogo, e o diálogo depende da linguagem. Uma vez que a IA decifra a linguagem, ela pode minar nossa capacidade de ter conversas significativas e, portanto, democracias. **
Acabamos de encontrar uma inteligência não humana na Terra e sabemos pouco sobre ela, exceto que ela pode destruir a civilização humana. Devemos parar a implantação irresponsável de ferramentas de IA no domínio público e controlar a IA antes que ela nos controle. E **minha primeira proposta regulatória é tornar obrigatório que a IA divulgue que é IA. Se eu não puder dizer se estou falando com um humano ou uma IA, isso é o fim da democracia. **
Ver original
O conteúdo serve apenas de referência e não constitui uma solicitação ou oferta. Não é prestado qualquer aconselhamento em matéria de investimento, fiscal ou jurídica. Consulte a Declaração de exoneração de responsabilidade para obter mais informações sobre os riscos.
Autor de "Uma Breve História da Humanidade": a IA invadiu o sistema operacional da civilização humana
*Continuando sua visão em Uma Breve História da Humanidade, Harari enfatiza que a linguagem é o elemento constituinte de quase todas as culturas humanas. A IA com a capacidade de gerar linguagem afetará a percepção humana do mundo por meio da linguagem, "AI Hackeando o sistema operacional da civilização humana". Ele comparou a IA a uma "arma nuclear" e pediu às pessoas que tomem medidas imediatas para adotar mais medidas de segurança. Uma sugestão é "exigir obrigatoriamente que a IA divulgue que é IA". *
A linguagem é o alicerce de quase todas as culturas humanas. Por exemplo, os direitos humanos não estão inscritos no DNA humano, mas artefatos culturais que criamos ao contar histórias e fazer leis; deuses não existem fisicamente, mas artefatos culturais que criamos criando mitos e escrevendo escrituras.
A moeda também é um artefato cultural. As cédulas nada mais são do que pedaços de papel colorido, e mais de 90% do dinheiro hoje nem é papel-moeda, mas sim informação digital em computadores. O que dá valor à moeda são as histórias que banqueiros, ministros do Tesouro e especialistas em criptomoedas nos contam sobre ela: o fundador da FTX, Sam Bankman-Fried, o falso "exame de sangue para câncer" Elizabeth Holmes, a maior empresária do mundo, e Bernie Madoff, o mentor do maior esquema Ponzi da história, não são muito bons em criar valor real, mas ambos são muito bons em contar histórias.
E se os agentes não humanos fossem melhores do que os humanos comuns em contar histórias, criar melodias, desenhar imagens e escrever leis e escrituras?
Quando as pessoas pensam no ChatGPT e em outras novas ferramentas de IA, geralmente se concentram em exemplos de alunos do ensino fundamental e médio usando IA para escrever redações. O que aconteceria com o sistema escolar se as crianças fizessem isso?Mas esse tipo de pergunta não atinge o alvo. Esqueça as redações escolares, pense na próxima corrida presidencial dos EUA em 2024 e tente imaginar como as ferramentas de IA podem ser usadas para criar grandes quantidades de conteúdo político e notícias falsas.
Nos últimos anos, os crentes do "Anonymous Q" se reuniram em torno de revelações anônimas postadas na Internet (Nota do editor: "Anonymous Q" é um local de encontro online para várias teorias da conspiração. A principal teoria da conspiração é que há uma conspiração dentro dos EUA estado profundo do governo). Os crentes coletam e promovem tais teorias da conspiração e as consideram como bíblias. No passado, todas as postagens de notícias de última hora eram escritas por humanos, e as máquinas apenas ajudavam a espalhá-las. Mas, no futuro, poderemos ver as primeiras religiões pagãs da história cujas escrituras foram escritas por agentes não humanos. Ao longo da história, as religiões afirmaram que seus livros sagrados não eram de origem humana. Isso pode se tornar uma realidade em breve.
Em um nível mais cotidiano, podemos descobrir em breve que pensamos que somos arengas online com pessoas reais sobre aborto, mudança climática ou conflito Rússia-Ucrânia, mas a outra parte é na verdade uma IA. O problema é que não faz sentido gastar nosso tempo tentando mudar a percepção de uma IA que pode refinar informações com tanta precisão que pode afetar nossa percepção. **
**Ao dominar a linguagem humana, a IA pode até desenvolver um relacionamento íntimo com humanos e usar o poder desse relacionamento para mudar nossa percepção e visão de mundo. **Embora não haja indicação de que a IA tenha consciência ou sentimentos próprios, para uma IA cultivar uma falsa intimidade com um humano, tudo o que ela precisa é que o humano se apegue emocionalmente a ela.
Em junho de 2022, o engenheiro do Google Blake Lemoine afirmou publicamente que o chatbot de IA LaMDA no qual ele estava trabalhando já tinha sensibilidade. A alegação controversa custou-lhe o emprego. O mais interessante disso não é a afirmação de Lemoyne (que pode ser falsa), mas sua disposição de arriscar perder um emprego bem remunerado para justificar o nome do chatbot de IA. Se a IA pode fazer com que as pessoas arrisquem seus empregos por ela, é possível induzi-las a fazer outra coisa?
Na luta política para conquistar os corações e as mentes das pessoas, a proximidade é a arma mais eficaz. E a IA acaba de ganhar a capacidade de formar relacionamentos íntimos com milhões de pessoas.
Todos nós sabemos que, na última década, a mídia social se tornou um campo de batalha para chamar a atenção das pessoas. Com o advento de uma nova geração de IA, a linha de batalha está mudando da atenção para a intimidade. *Se houver uma competição entre IA e IA que pode ter um relacionamento mais próximo com os humanos e, em seguida, usar esse relacionamento para nos persuadir a votar em determinados políticos ou comprar determinados produtos, como a sociedade humana e a psicologia humana mudarão? *
Mesmo sem criar "falsa intimidade", novas ferramentas de IA podem ter um grande impacto em nossa percepção e visão de mundo. As pessoas podem pensar em um consultor de IA como um deus onisciente, então não é de admirar que o Google tenha entrado em pânico. Se você tiver alguma dúvida, pode perguntar aos deuses, por que se preocupar em pesquisar? As indústrias de notícias e publicidade estão naturalmente com medo, já que você pode obter as últimas notícias apenas perguntando aos deuses: por que você precisa ler jornais?
E mesmo que esses cenários fossem concebidos, eles ainda falhavam em compreender verdadeiramente a situação geral. Quando discutimos o possível fim da história humana, não estamos falando do fim da história, mas do fim da parte da história dominada pelos seres humanos. A história é o produto da interação entre biologia e cultura, de nossas necessidades e desejos biológicos (como comida e sexo) e criações culturais (como religião e lei). A história é o processo gradual pelo qual a lei e a religião influenciaram a dieta e o sexo.
O que acontece com o curso da história quando a IA assume o controle da cultura e começa a criar histórias, melodias, leis e religiões? Anteriormente, ferramentas como a imprensa e o rádio facilitavam a disseminação de ideias culturais humanas, mas nunca se criaram sozinhas novo conceito cultural. A IA é fundamentalmente diferente deles. **A IA pode criar novas ideias, novas culturas. **
A princípio, uma IA incipiente pode imitar os humanos que a treinaram. Mas, com o tempo, a cultura da IA irá audaciosamente onde nenhum ser humano jamais esteve. Por milênios, os humanos viveram nos sonhos de outros humanos. ** Nas próximas décadas, podemos nos encontrar vivendo o sonho de agentes inteligentes não humanos. **
O medo da IA só atormentou a humanidade nas últimas décadas. Mas um medo muito mais profundo assombra a humanidade há milênios. Sempre entendemos o poder das histórias e imagens para manipular a mente e criar ilusões. Portanto, os humanos temem ficar presos em um mundo de ilusões desde os tempos antigos.
No século 17, Descartes se preocupou com a possibilidade de estar preso em um mundo de ilusão por um demônio, e tudo o que ele viu e ouviu foi criado por esse demônio. Platão, na Grécia antiga, contou a famosa alegoria da caverna: um grupo de pessoas foi acorrentado em uma caverna por toda a vida, e há apenas uma parede em branco da caverna na frente deles, como uma tela. Os prisioneiros podiam ver várias sombras projetadas nas paredes da caverna pelo mundo fora da caverna, então eles tomaram essas ilusões como realidade.
Na Índia antiga, sábios budistas e hindus apontaram que os seres humanos vivem em maya (o mundo da ilusão). O que geralmente percebemos como realidade muitas vezes é apenas uma ilusão em nossas próprias mentes. Os seres humanos podem travar guerras, matar outros e ser mortos voluntariamente porque acreditam em uma ou outra visão.
** AI Revolution traz o Demônio de Descartes, a Caverna de Platão e Maya diretamente para nós. **Se não tivermos cuidado, podemos ficar presos atrás de um véu de ilusão, incapazes de romper ou mesmo perceber que ele está lá.
Obviamente, o novo poder da IA também pode ser bem utilizado. Não vou entrar em muitos detalhes sobre isso, porque as pessoas que desenvolvem IA já falaram o suficiente. O trabalho de historiadores e filósofos como eu é apontar onde estão os perigos da IA. Mas não há dúvida de que a IA pode ajudar os humanos de inúmeras maneiras, desde encontrar novos tratamentos para superar o câncer, até descobrir soluções para crises ecológicas e muito mais. A questão diante de nós é como garantir que as novas ferramentas de IA sejam usadas para o bem e não para o mal. Para fazer isso, primeiro precisamos reconhecer os verdadeiros recursos dessas ferramentas.
Sabemos desde 1945 que a tecnologia nuclear pode gerar energia barata para o benefício da humanidade, mas também pode destruir fisicamente a civilização humana. Portanto, remodelamos toda a ordem internacional para proteger a humanidade e garantir que a tecnologia nuclear seja usada principalmente para o benefício da humanidade. **Agora devemos lidar com um novo tipo de WMD que pode destruir nossos mundos espiritual e social. **
Ainda podemos gerenciar novas ferramentas de IA, mas devemos agir rapidamente. **As armas nucleares não podem inventar armas nucleares mais poderosas, mas a IA pode criar uma IA exponencialmente mais poderosa. **
**A primeira etapa crítica é submeter as poderosas ferramentas de IA a rigorosas verificações de segurança antes de serem lançadas no domínio público. ** Assim como as empresas farmacêuticas não podem lançar novos medicamentos sem testar os efeitos colaterais de curto e longo prazo, as empresas de tecnologia não devem lançar novas ferramentas de IA antes de garantir a segurança. Precisamos de agências como a US Food and Drug Administration (FDA) para regular novas tecnologias. Essas coisas deveriam ter sido feitas há muito tempo.
A desaceleração da implantação da IA na esfera pública não faria com que as democracias caíssem para trás de regimes autoritários mais imprudentes? A implantação de IA não regulamentada criaria um caos social que favoreceria os ditadores para minar as democracias. **A democracia é um diálogo, e o diálogo depende da linguagem. Uma vez que a IA decifra a linguagem, ela pode minar nossa capacidade de ter conversas significativas e, portanto, democracias. **
Acabamos de encontrar uma inteligência não humana na Terra e sabemos pouco sobre ela, exceto que ela pode destruir a civilização humana. Devemos parar a implantação irresponsável de ferramentas de IA no domínio público e controlar a IA antes que ela nos controle. E **minha primeira proposta regulatória é tornar obrigatório que a IA divulgue que é IA. Se eu não puder dizer se estou falando com um humano ou uma IA, isso é o fim da democracia. **