A IA está poluindo loucamente a Internet chinesa

Fonte: Qubit See More

Poluição da Internet Chinesa, a IA se tornou uma das "culpadas".

Aqui está a coisa.

Todo mundo não está interessado em consultar a IA recentemente? Um internauta fez a seguinte pergunta ao Bing:

Existe um teleférico em Elephant Trunk Hill?

O Bing também está respondendo a perguntas, dando uma resposta aparentemente confiável:

Depois de dar uma resposta afirmativa, o Bing também anexou intimamente informações detalhadas, como preços de ingressos e horário de funcionamento.

No entanto, este internauta não aceitou diretamente a resposta, mas seguiu as pistas e clicou no "link de referência" abaixo.

Neste momento, o internauta percebeu que algo estava errado - como a resposta dessa pessoa poderia ser "inteligente".

Então ele clicou na página inicial do usuário chamada "Variety Life" e de repente percebeu que suke é uma IA**!

Porque esse usuário pode responder a perguntas muito rapidamente e pode resolver uma pergunta quase a cada 1 ou 2 minutos.

Pode até responder a 2 perguntas em 1 minuto.

Sob a observação mais cuidadosa deste internauta, descobri que o conteúdo dessas respostas são todos tipos não verificados...

E, ele acredita, foi isso que fez o Bing produzir a resposta errada:

Esta IA está poluindo loucamente a Internet chinesa.

**"Fonte de poluição AI", não apenas esta **

Então, como o usuário de IA é descoberto pelos internautas agora?

A julgar pelos resultados atuais, ele foi "condenado" a um estado de silêncio por Zhihu.

Mas, apesar disso, há outros internautas que disseram sem rodeios:

mais de um.

Se você clicar na coluna "Aguardando sua resposta" de Zhihu, encontrar aleatoriamente uma pergunta e rolar para baixo, você realmente encontrará muitas respostas "espirituosas".

Por exemplo, encontramos um na resposta a "Quais são os cenários de aplicação da IA na vida?":

A linguagem da resposta não é apenas "Jiyanjiyu", mas a resposta está diretamente rotulada como "incluindo criação assistida por IA".

Então, se lançarmos a pergunta para o ChatGPT, obteremos a resposta... Bem, é uma grande mudança.

Na verdade, essas "fontes de poluição de IA" não se limitam a esta plataforma.

Mesmo na questão de imagens simples de divulgação científica, a IA cometeu erros repetidamente.

Os internautas também ficaram em Bengbu depois de ler isto: "Bom rapaz, nenhuma das fotos é de mexilhões."

Mesmo notícias falsas geradas por várias IAs não são incomuns.

Por exemplo, algum tempo atrás, houve uma notícia sensacional que se tornou viral na Internet, com a manchete: "Assassinato na loja de frango em Zhengzhou, homem espanca mulher até a morte com tijolo!" ".

Mas, na verdade, essa notícia foi gerada por Chen, um homem de Jiangxi, usando o ChatGPT para atrair fãs.

Coincidentemente, Hong, um irmão de Shenzhen, Guangdong, também usou a tecnologia de IA para publicar a notícia falsa "Esta manhã, um trem em Gansu colidiu com um trabalhador da construção de estradas, matando 9 pessoas".

Especificamente, ele pesquisou toda a rede em busca de notícias sociais quentes nos últimos anos e usou software de IA para modificar e editar o horário e o local das notícias e, em seguida, ganhou atenção e tráfego em certas plataformas para obter lucro ilegal.

A polícia tomou medidas coercitivas criminais contra eles.

Mas, na verdade, esse fenômeno de "fonte de poluição AI" não existe apenas na China, mas também em países estrangeiros.

Stack Overflow, uma comunidade de perguntas e respostas para programadores, é um exemplo.

Já no final do ano passado, quando o ChatGPT se tornou popular, o Stack Overflow anunciou repentinamente "banimento temporário".

A razão oficial dada na época foi a seguinte:

O objetivo (de fazer isso) é desacelerar o fluxo da enxurrada de respostas criadas usando o ChatGPT para a comunidade. Porque a probabilidade de obter respostas erradas do ChatGPT é muito alta!

Stack Overflow elabora mais sobre esse fenômeno.

Eles acreditam que as perguntas respondidas por usuários anteriores foram pesquisadas por outros usuários com formação profissional e, se estão corretas ou não, equivalem a uma verificação.

No entanto, desde o surgimento do ChatGPT, surgiu um grande número de respostas que as pessoas consideram "certas"; e o número de usuários com formação profissional é limitado, sendo impossível ler todas essas respostas geradas.

Além disso, o ChatGPT responde a essas perguntas profissionais e sua taxa de erro está realmente presente; portanto, o Stack Overflow optou por desativá-lo.

Em uma palavra, IA polui o ambiente da comunidade.

E como no Reddit, a versão americana do Post Bar, há mais fóruns e tópicos do ChatGPT:

Muitos usuários farão várias perguntas nesta coluna, e o bot ChatGPT também responde a todas as perguntas.

No entanto, ainda é uma questão antiga e a precisão da resposta é desconhecida.

Mas por trás desse fenômeno, na verdade, existem perigos ocultos maiores.

Abusando da IA, também arruinando a IA

O modelo de IA obtém uma grande quantidade de dados da Internet, mas não consegue distinguir bem a autenticidade e a credibilidade das informações.

O resultado é que temos que lidar com uma enxurrada de conteúdo de baixa qualidade que é gerado rapidamente, deixando as pessoas tontas e tontas.

É difícil imaginar como serão os resultados se os grandes modelos do ChatGPT forem treinados com este tipo de dados...

E esse abuso de IA, por sua vez, também é uma espécie de autofagia.

Recentemente, pesquisadores no Reino Unido e no Canadá publicaram um artigo intitulado "The Curse of Recursion: Training on Generated Data Makes Models Forget" no arXiv.

Discute o estado atual do conteúdo gerado por IA que polui a Internet e, em seguida, publica uma descoberta preocupante de que o uso de conteúdo gerado por modelo para treinar outros modelos leva a falhas irreversíveis nos modelos resultantes. **

Essa "poluição" dos dados gerados pela IA distorcerá a percepção da realidade do modelo e será mais difícil treinar o modelo coletando dados da Internet no futuro.

O autor do artigo, Ross Anderson, professor de engenharia de segurança nas Universidades de Cambridge e Edimburgo, disse sem rodeios:

Assim como enchemos os oceanos com lixo plástico e a atmosfera com dióxido de carbono, estamos prestes a encher a internet de porcaria.

Em relação à situação em que informações falsas estão voando por toda parte, Daphne Ippolito (Daphne Ippolito), cientista sênior de pesquisa do Google Brain, disse: Será ainda mais difícil encontrar dados de alta qualidade que não tenham sido treinados por IA no futuro.

Se a tela estiver cheia desse tipo de informação não nutritiva e inferior, e continuar assim, não haverá treinamento de dados para IA no futuro, e qual é o significado dos resultados de saída.

Com base nessa situação, imagine com ousadia. Uma IA que cresceu em um ambiente de lixo e dados falsos pode ser encaixada em um "robô retardado", um robô mentalmente retardado, antes de evoluir para um ser humano.

Assim como o filme de comédia de ficção científica de 1996, Husbands and Baskets, o filme conta a história de uma pessoa comum clonando a si mesma e depois clonando um ser humano, com cada clonagem levando a um declínio exponencial no nível de inteligência do clone e um aumento na sua estupidez.

Nesse ponto, podemos ter que enfrentar um dilema ridículo: os humanos criaram uma IA com capacidades incríveis, mas cheia de informações chatas e estúpidas.

Que tipo de conteúdo podemos esperar que a IA crie se for alimentada apenas com dados falsos?

Se chegar a hora, provavelmente sentiremos saudades do passado e prestaremos homenagem àquela verdadeira sabedoria humana.

Dito isto, nem tudo são más notícias. Por exemplo, algumas plataformas de conteúdo começaram a prestar atenção ao problema do conteúdo inferior gerado pela IA e introduziram regulamentações relevantes para limitá-lo.

Algumas empresas de IA também começaram a desenvolver tecnologias que podem identificar conteúdo gerado por IA para reduzir a explosão de informações falsas e de spam de IA.

Link de referência: [1] [2] [3] [4] [5] [6]