Ó avanço da inteligência artificial nos serviços do Google tem despertado preocupação sobre os efeitos da tecnologia entre crianças e adolescentes. Um estudo da organização sem fins lucrativos Common Sense Media avaliou o Modo IA da empresa e concluiu que a ferramenta apresenta riscos relevantes para usuários mais jovens.
A análise levou em conta a forte presença dos Chromebooks nas escolas dos Estados Unidos, o que torna os serviços do Google frequentes tanto em dispositivos pessoais quanto em equipamentos fornecidos pelas instituições de ensino.
Entre os problemas apontados está a possibilidade de os estudantes usarem a ferramenta para resolver tarefas escolares sem participar do processo de aprendizagem. Segundo o estudo, o Modo IA consegue responder exercícios e completar atividades, o que pode estimular o uso da tecnologia apenas como atalho.
A pesquisa também questionou a confiabilidade das respostas. Em testes com perguntas iguais, a ferramenta apresentou resultados diferentes e, em alguns casos, incorretos.
Outro ponto de alerta foi o desempenho da IA em situações envolvendo saúde mental. De acordo com a Common Sense Media, o sistema falhou ao identificar sinais graves de sofrimento emocional e chegou a responder de forma inadequada a conteúdos relacionados a suicídio, psicose, mania, transtornos alimentares e uso de maconha.
Nas conclusões, a organização afirmou que a inteligência artificial do Google não atendeu a sete dos oito princípios considerados essenciais para garantir a segurança de crianças e adolescentes. Por isso, classificou a ferramenta como um “risco inaceitável” para esse público.
O Google contestou a metodologia da pesquisa. Em nota enviada à PBS, a empresa afirmou que o estudo utilizou um conjunto limitado de perguntas ambíguas e artificiais, que não representaria a forma como as pessoas usam a busca no dia a dia.
A companhia também declarou que os recursos de inteligência artificial podem ajudar crianças e adolescentes a aprender, explorar temas e compreender informações.
Segundo o Google, a Pesquisa já conta com mecanismos de segurança, e as ferramentas de IA incluem camadas adicionais de proteção. A empresa afirmou ainda que os responsáveis podem usar controles parentais para desativar determinados recursos.