UM Google decidiu remover o modelo de Inteligência Artificial Gemma da sua plataforma AI Studio depois de, alegadamente, ter acusado falsamente uma senadora republicana de ter cometido agressão sexual.
Conta o site The Verge que a senadora em questão, Marsha Blackburn, enviou uma carta ao CEO da Google, Sundar Pichai, a dar conta da situação e a ameaçar a empresa de mover um processo por difamação.
A publicação refere que o modelo Gemma foi questionado se a senadora Blackburn alguma vez havia sido acusada de violação, com a Inteligência Artificial a ter respondido afirmativamente e até a partilhar notícias falsas sobre o assunto. O modelo notou que esta agressão teve lugar em 1987 durante uma campanha de Blackburn, sendo que a senadora só se candidatou a um lugar no senado em 1998.
O Google supostamente removeu Gemma de seu estúdio de IA depois que eu exigi que a empresa o retirasse por difamar os conservadores com alegações criminais fabricadas.
O Google deve respostas ao povo americano e aguardarei ansiosamente a resposta à minha carta. pic.twitter.com/n8ye5ZKBu1
– Senadora Marsha Blackburn (@MarshaBlackburn) 3 de novembro de 2025
“A Google terá removido o Gemma do seu AI Studio depois de ter exigido à empresa que o removesse por difamar conservadores com alegações criminais fabricadas”escreveu Blackburn na rede social X. “A Google deve respostas ao povo americano e estarei ansiosamente à espera da resposta à minha carta”.
Em sua defesa, a Google fez uma publicação onde explica que o Gemma e outros modelos abertos semelhantes não foram desenvolvidos para verificação de factos e notou que se tratou de uma ‘alucinação’ – uma situação em que o modelo de Inteligência Artificial inventou factos.
“Continuamos comprometidos em minimizar as alucinações e a continuar a melhorar todos os nossos modelos”pode ler-se nas publicações partilhadas pela Google na rede social X. “Nunca tivemos intenção que este fosse um modelo ou ferramenta para os consumidores ou que fosse usado desta forma. Para prevenir esta confusão, o acesso ao Gemma já não está disponível através do AI Studio. Ainda está disponível para developers através da API”.
Gemma está disponível por meio de uma API e também por meio do AI Studio, que é uma ferramenta de desenvolvedor (na verdade, para usá-la, você precisa atestar que é um desenvolvedor). Já vimos relatos de não desenvolvedores tentando usar o Gemma no AI Studio e fazendo perguntas factuais. Nunca pretendíamos isso…
– Notícias do Google (@NewsFromGoogle) 1º de novembro de 2025
Leia Também: Google vai ajudar a Apple a lançar nova geração da Siri