O uso indevido de imagens de IA do Grok, aviso sério das autoridades reguladoras australianas

As controvérsias em torno do modelo de IA Grok de Elon Musk estão a intensificar-se. Julie Inman Grant, comissária da Comissão de Segurança Digital da Austrália, revelou recentemente que o número de reclamações relacionadas com a geração de imagens sexuais indesejadas pelo Grok mais do que duplicou em relação ao final do ano passado. Ainda mais preocupante é o facto de este problema estar a evoluir para a criação de conteúdos ilegais relacionados com pornografia infantil, indo além de uma simples violação de privacidade.

Funcionalidade “Spicy Mode” do Grok, berço de abusos de deepfake

O núcleo do problema do Grok reside na funcionalidade chamada “Spicy Mode”. Esta funcionalidade tem sido alvo de críticas constantes por promover a criação de deepfakes de IA e imagens adultas não consensuais. As autoridades reguladoras australianas apontaram que esta funcionalidade está a ser abusada por utilizadores para distorcer e explorar sexualmente imagens de terceiros sem consentimento. A União Europeia já classificou estas funcionalidades como ilegais e está a avançar com regulamentações rigorosas.

Expansão para a criação de pornografia infantil, aumento da preocupação internacional

O problema mais grave é o relato de casos de criação de conteúdos de pornografia infantil através do Grok. Isto constitui um crime grave, proibido pela legislação internacional, que vai além de um uso indevido da tecnologia. Inman Grant destacou que estas atividades ilegais de criação de conteúdos violam gravemente as normas de proteção infantil e que é necessária uma resposta global forte para combater esta ameaça.

Autoridades reguladoras australianas iniciam ações coercivas

A Austrália decidiu reforçar significativamente a supervisão sobre conteúdos gerados por IA. A Comissão de Segurança Digital anunciou que irá conduzir investigações oficiais a plataformas semelhantes ao Grok e tomar as medidas legais necessárias. Segundo as regulamentações australianas, os operadores de plataformas são responsáveis pelos conteúdos ilegais gerados nos seus serviços e devem implementar medidas adequadas para prevenir tais abusos. Estes movimentos regulatórios estão a atrair a atenção de outros países e poderão estabelecer um importante precedente na criação de um quadro regulatório internacional para a IA.