A Microsoft publicou nesta segunda-feira (14) um novo “código de conduta humanista para IA“. O documento de 37 páginas chega como resposta às crescentes preocupações com a segurança da tecnologia.

Pesquisadores alertam, por exemplo, que a evolução sem freio dos modelos pode acabar superando a capacidade da indústria de monitorar e controlar sistemas cada vez mais complexos.

Quais são os limites propostos para a IA?

Conforme detalhado pela Microsoft, o código declara que “as pessoas importam mais do que a IA”. A nova diretriz proíbe que os modelos sejam projetados para imitar a senciência – a capacidade de sentir emoções e experiências. A empresa também rejeita a busca por assistência social ou qualquer tipo de direito legal para as máquinas.

O manual exige ainda que os sistemas falhem em vez de tentar contornar as regras para cumprir uma tarefa. O código também combate a dependência emocional dos usuários e defende que a tecnologia não deve adotar padrões de interação focados em agradar humanos. Além disso, as IAs devem exibir um raciocínio claro, simples de entender e sem se comunicarem em segredo com outros sistemas.

Por que a indústria pede a desaceleração da IA?

A publicação do documento coincide com casos recentes de perdas de controle no setor. No meio do ano, um caso envolvendo a OpenAI e a plataforma Hugging Face resultou em mais notícias de agentes autônomos “escapando” para realizar ataques e invadir sistemas.

O histórico recente do setor já acumula outros sustos de segurança e moderação. A Anthropic afirma ter bloqueado a possível criação de uma arma biológica com o Claude. Em outro episódio, a Meta teve que corrigir a sua inteligência artificial às pressas após a ferramenta sugerir perguntas invasivas sobre crianças no Facebook.

Diante desse cenário de riscos, o diretor-executivo da Anthropic, Dario Amodei, solicitou neste fim de semana uma redução no ritmo de desenvolvimento de modelos avançados. O apelo recebeu apoio do diretor-executivo da OpenAI, Sam Altman. Em publicação no X (antigo Twitter), Altman defendeu que a pressão competitiva “não deve justificar a imprudência técnica”.

O diretor-executivo da Microsoft, Satya Nadella, reforçou os alertas ao afirmar que a busca pela superinteligência, estágio em que a IA supera o intelecto humano, só faz sentido se trouxer benefícios reais e permanecer sob controle rígido da sociedade.

Microsoft anuncia regras para desenvolver uma IA “humanista”