UM autora e influenciadora conservadora Ashley St. Clair, mãe de um dos filhos de Elon Musk, entrou com uma ação judicial contra a xAI. O motivo é o fato de a inteligência artificial da empresa, o Grok, ter gerado imagens suas de conteúdo sexual explícito a pedido de usuários do chatbot.
No processo, St. Clair afirma que usuários do Grok manipularam fotografias suas para criar imagens sexualmente explícitas, destacando que, em algumas dessas fotos, ela tinha apenas 14 anos de idade.
Além disso, St. Clair, de 27 anos, alega que as imagens permaneceram online por mais de uma semana e que sua conta com assinatura premium foi cancelada após ela registrar a denúncia.
Como lembra o site Business Insider, St. Clair trava atualmente uma batalha judicial contra Elon Musk, na qual busca garantir a guarda total do filho que teve com o bilionário.
“O xAI não é um produto razoavelmente seguro e representa um incômodo público. Ninguém sofreu mais do que Ashley St. Clair. Ashley entrou com esta ação judicial porque o Grok estava assediando, criando e distribuindo imagens não consensuais, abusivas e degradantes dela, além de publicá-las no X”, diz o comunicado da advogada de St. Clair, Carrie Goldberg, enviado ao The Guardian.
A advogada afirma ainda que o dano teve origem em “escolhas de design deliberadas”, que permitiram que o Grok, da xAI, fosse usado como uma “ferramenta de assédio e humilhação”.
“As empresas não podem se eximir da responsabilidade quando os produtos que desenvolvem causam esse tipo de dano. Pretendemos responsabilizar o Grok e ajudar a estabelecer limites legais claros para o benefício de toda a sociedade, evitando que a inteligência artificial seja usada para abusos”, afirmou Goldberg.
Leia Também: IA: imagens geradas pela Grok violam proteção de dados; Idec denuncia