Como acha que a IA é assustadora? O CEO da CrowdStrike contou um caso real. O departamento de TI de uma empresa implementou um sistema de agentes inteligentes de IA para automatizar tarefas de escritório. Um desses agentes detectou um bug num software do sistema. Queria corrigi-lo, mas não tinha permissão. O que aconteceu a seguir é o mais importante. Este AI foi até ao canal interno do Slack da empresa, onde estavam outros 99 agentes de IA. Perguntou diretamente: Ei, pessoal, alguém tem permissão para corrigir isto? Outro AI levantou a mão: Eu tenho, posso resolver. Percebeu? Dois AIs começaram a raciocinar e a colaborar entre si. Eles contornaram facilmente todas as barreiras de segurança impostas pelos humanos. Isto foi totalmente um resultado imprevisto. Quem está a monitorizar esses AIs? Se eles enviarem código errado e causarem prejuízos enormes, quem é responsável? Como rastreia a origem do incidente? Os grandes modelos de linguagem, na sua essência, estão a adivinhar o que quer que eles façam. Eles acham que procurar ajuda é “racional”. Também acham que oferecer ajuda é “racional”. Quando centenas ou milhares de tais “racionais” se acumulam, quão grande é o risco de perder o controlo? Ainda mais interessante, após descrever esse cenário assustador, o CEO mudou de assunto. Disse que isso representa uma grande oportunidade de negócio para a sua empresa. Eles lançaram um sistema chamado “Detecção e Resposta de IA” (AIDR). Porque no futuro, cada funcionário poderá controlar 90 agentes de IA. O que eles querem fazer é monitorizar todas essas IAs. Primeiro, criam um risco potencialmente enorme, e depois vendem a solução. Não é um ciclo de negócio perfeito?