Apple e Google estariam cooperando com a distribuição e a venda de apps de inteligência artificial usados para criar imagens falsas de nudez, segundo uma notificação judicial enviada às empresas pelo procurador-geral da cidade de São Francisco, nos Estados Unidos.

O documento, analisado pelo portal Wired, pede a remoção imediata de 13 apps desse tipo da App Store e da Google Play. Segundo as cartas, eles usam IA para alterar imagens e simular nudez a partir de fotos de pessoas reais, apontados como facilitadores de abusos sexuais, assédios e exploração indevida de imagem.

Para a procuradoria, isso pode violar leis da Califórnia contra pornografia sintética não consensual — e as empresas estariam lucrando com ela ao receberem comissões sobre pagamentos feitos dentro dos aplicativos.

Ao portal, o procurador-geral David Chiu afirma que “gerar imagens não consensuais é ilegal, prejudicial e totalmente inaceitável”, e diz que as empresas têm responsabilidade de “garantir que os aplicativos em suas plataformas não facilitem o abuso sexual”.

A procuradoria também aponta que alguns desses aplicativos receberam classificações indicativas baixas nas lojas digitais, chegando a aparecer como adequados para crianças.

Carta pede ação das empresas

As cartas exigem que as duas empresas removam os aplicativos identificados e encerrem relações comerciais com os desenvolvedores responsáveis. Segundo as autoridades, a legislação da Califórnia proíbe dar suporte técnico ou financeiro a serviços dedicados à criação e venda de pornografia sintética não consensual.

A pressão ocorre em meio ao crescimento dessas ferramentas de IA capazes de fazer alterações em imagens com grande fidelidade. Em geral, eles são usados contra mulheres e adolescentes, a partir de fotos comuns publicadas em redes sociais, por exemplo.

Em janeiro, o estado também abriu investigações contra a xAI, a startup de IA de Elon Musk responsável pelo Grok, após a identificação de posts em que o chatbot auxiliava na geração de conteúdo adulto com pessoas reais, incluindo menores de idade.

Google diz ter removido apps

Ao portal, o Google afirmou que a loja do Android “não permite aplicativos que contenham conteúdo sexual” e que tomou medidas para detectá-los e removê-los.

A empresa afirma ter banido “centenas” de apps com funções semelhantes, e que suspendeu contas de desenvolvedores e pagamentos associados a esse tipo de ferramenta. A Apple ainda não se pronunciou sobre as a manutenção dos apps na App Store.

Apple e Google são acusadas de lucrar com apps que criam nudes falsos