Documento tinha comandos escondidos para tentar direcionar o resultado
Um documento usado em um pedido de Habeas Corpus tinha instruções escondidas para tentar influenciar o resultado de uma ferramenta de Inteligência Artificial (IA). O conteúdo não aparecia na leitura comum do arquivo, mas foi identificado durante uma análise feita no Tribunal de Justiça da Bahia (TJBA).
A técnica é chamada de prompt injection e funciona com a inclusão de comandos dentro de textos ou documentos. O objetivo da prática é fazer com que uma ferramenta de IA siga essas ordens sem que elas sejam percebidas por quem está lendo o material.
Neste caso, a instrução era para que o pedido de liberdade fosse aceito caso passasse pela análise de uma IA. O documento foi apresentado por uma advogada que atua no Mato Grosso do Sul.
Leia Também:
O habeas corpus foi apresentado pela defesa de uma pessoa com as iniciais D.A.B., acusado de crimes como homicídio qualificado, sequestro e cárcere privado, além de adulteração de sinal identificador de veículo e organização criminosa armada.
Caso será apurado
Mesmo com a tentativa de direcionar a ferramenta, a 2ª Turma da Primeira Câmara Criminal negou o habeas corpus. O processo discutia a prisão preventiva determinada pela Vara Criminal de Iguaí, que, segundo a decisão, foi baseada em informações obtidas durante a investigação.
Após a descoberta, uma cópia do documento foi enviada ao Ministério Público da Bahia (MPBA) para verificar se houve algum crime.
O caso também foi encaminhado à Ordem dos Advogados do Brasil (OAB) de Mato Grosso do Sul para uma possível apuração disciplinar. A utilização de IA no Judiciário não elimina a revisão humana, e os magistrados continuam responsáveis pelo conteúdo das decisões.
