Que as redes sociais expõem muito sobre alguém, todo mundo já sabe. Mas a IA parece estar facilitando o processo: a Meta anunciou mudanças no assistente integrado às suas plataformas depois que uma mulher descobriu que a ferramenta cruzava informações para sugerir perguntas invasivas sobre sua filha.

Segundo Kalie Robins, a Meta AI perguntou “Quem é a criança?” em um vídeo que mostrava ela e a própria filha cantando dentro de um carro. A publicação foi compartilhada no Instagram e no Facebook. Ao clicar na sugestão, Robins afirma ter encontrado um “portfólio completo” de informações não apenas sobre a filha que aparecia no vídeo, mas também sobre sua outra filha, que não estava na cena.

De acordo com o Futurism, isso teria acontecido porque a IA cruzou informações publicadas por outros integrantes da família, incluindo dados que não haviam sido compartilhados pela própria Robins.

A porta-voz da Meta Dina El-Kassaby admitiu que a companhia “errou o alvo” e que a tecnologia “jamais deveria ter sugerido perguntas como essas a um indivíduo”. Segundo ela, a equipe já corrigiu o problema que permitia a geração de sugestões relacionadas a assuntos pessoais.

No entanto, vale notar que a correção é para as sugestões. Isso não significa, necessariamente, que a plataforma impedirá o chatbot de fornecer essas informações caso um usuário faça uma pergunta diretamente.

IA traz dados de publicações antigas

Em outro vídeo publicado no Instagram, Robins relata que, ao selecionar a sugestão, o assistente reuniu informações sobre cada uma das filhas a partir de publicações antigas no perfil e até posts feitos por parentes. “Ele começou a trazer informações […], os nomes, datas de aniversário e vídeos sobre elas”, além de fotos publicadas pela mãe, afirma.

A ferramenta passou, então, a sugerir novas perguntas sobre a idade das crianças e o lugar onde a família vive. Em prints apresentados durante o vídeo, Robins mostra a IA tentando destrinchar a localização com base em informações antigas do perfil, incluindo antigos endereços.

Robins também afirma que a Meta AI exibiu fotos de suas filhas encontradas nas plataformas da empresa, incluindo uma imagem que, segundo ela, havia sido apagada anos antes.

Meta diz que IA usa informações já disponíveis

Segundo El-Kassaby, as sugestões automáticas foram criadas para ajudar o usuário a obter mais informações sobre assuntos em uma publicação. Quando um dos atalhos é selecionado, a resposta usa informações às quais aquele perfil já dá autorização de acesso.

As informações sobre as filhas de Robins, inclusive, teriam sido obtidas a partir de vídeos anteriores, nos quais ela mesma citava os nomes.

A Meta AI é a ferramenta de inteligência artificial da Meta integrada a praticamente todos os seus serviços, incluindo Facebook, Instagram, WhatsApp e Messenger.

Não é o primeiro recuo da Meta com IA

A mudança nas sugestões de comandos é mais um recuo recente da Meta envolvendo recursos de inteligência artificial integrados às suas redes sociais.

Em julho, a empresa desativou uma ferramenta que permitia criar imagens no estilo deepfake usando a aparência de outros usuários do Instagram. A funcionalidade também gerou repercussão negativa e questionamentos relacionados à privacidade.

Meta corrige IA após ferramenta sugerir perguntas invasivas sobre crianças