OpenAI aciona Polícia Federal após identificar ameaças contra Lula em conversas no ChatGPT

A OpenAI comunicou à Polícia Federal (PF) dois casos de usuários que teriam manifestado intenção de atacar o presidente Luiz Inácio Lula da Silva (PT), candidato à reeleição. As informações foram identificadas em conversas com o ChatGPT e encaminhadas às autoridades após a empresa apontar indícios de risco de violência.

A empresa considerou que havia motivos razoáveis para suspeitar de uma possível emergência envolvendo risco de morte ou lesão física grave. No início de outubro, a Polícia Federal enviou a documentação ao Ministério da Justiça, que deverá decidir sobre a abertura de dois inquéritos para apurar possíveis crimes de ameaça e injúria, além de ameaça contra o presidente.

Conversas mencionavam possível ataque durante campanha

Um dos casos envolve um homem que mantinha interações com o ChatGPT desde janeiro. Em setembro, ele relatou ter visto Lula em um palco montado para a campanha eleitoral, a aproximadamente 400 metros de distância, no centro da cidade onde mora.

Nas mensagens, o usuário manifestou vontade de atirar na cabeça do presidente e questionou quais seriam as consequências de matá-lo. Também teria enviado uma fotografia de um local que, segundo a avaliação da OpenAI, poderia oferecer um ângulo favorável para um ataque.

Embora o homem tenha afirmado que não pretendia agir e que não possuía uma arma, os registros mencionavam o desejo de utilizar um fuzil de precisão, além de referências a binóculos, a um rifle AR-15 com luneta e a uma possível rota de fuga.

Segundo os documentos, as conversas também incluíam manifestações de violência contra pessoas próximas, imagens de armas brancas, símbolos nazistas e comentários sobre a possibilidade de promover um massacre. Em outra interação, o usuário compartilhou uma receita de explosivo e mencionou ataques a centros médicos.

A análise da Polícia Federal apontou que o material encaminhado pela empresa reunia manifestações de violência contra terceiros, referências a armas de fogo e armas brancas e fantasias violentas, entre outros elementos.

Os documentos consultados pela Folha não apresentam as respostas dadas pelo ChatGPT durante as conversas.

OpenAI diz que alerta autoridades em situações de risco

A OpenAI afirmou que comunica às autoridades situações em que as conversas indicam risco real de danos a outras pessoas. A empresa também informou que notificou o Tribunal Superior Eleitoral (TSE), seguindo seu plano de conformidade eleitoral.

Em comunicado às autoridades, a companhia afirmou que o compartilhamento das informações busca proteger pessoas e bens e combater o uso abusivo de seus serviços, conforme os termos de uso e a política de privacidade.

No início de outubro, a OpenAI encerrou a conta do usuário e encaminhou os dados à Polícia Federal. A empresa ressaltou que o conteúdo deveria ser avaliado de forma independente pelas autoridades competentes.

O diretor-geral da PF, Andrei Rodrigues, encaminhou o caso ao ministro da Justiça, Wellington César Lima e Silva , responsável por decidir sobre a abertura de investigação. O crime de ameaça prevê pena de detenção de um a seis meses ou multa.

Caso anterior levou à prisão no Espírito Santo

O alerta enviado pela OpenAI às autoridades brasileiras já havia contribuído para uma investigação criminal em outro caso. Em junho, um homem foi preso no interior do Espírito Santo, suspeito de utilizar o ChatGPT para planejar a morte do próprio filho, de oito anos, segundo reportagem da Folha.

Depois que a empresa comunicou ao FBI, a polícia federal dos Estados Unidos, a existência de pesquisas frequentes relacionadas à intenção de matar a criança. As informações foram repassadas ao CyberLab, do Ministério da Justiça e Segurança Pública, que acionou a Polícia Civil capixaba.

O episódio ocorre em meio às discussões sobre o uso de inteligência artificial durante o período eleitoral. Bruno Lewicki, responsável por políticas públicas da OpenAI na América Latina, afirmou que o Brasil representa um teste importante para a utilização dessas tecnologias em eleições e pode gerar aprendizados para outros processos eleitorais.

Com Informações: Folha de S. Paulo