O presidente do STJ, Herman Benjamin, foi quem ordenou a instauração de um inquérito policial, juntamente com um procedimento administrativo interno. O foco da investigação será investigar as tentativas de burla ao sistema eletrônico de petições do tribunal, identificadas por técnicos da instituição. A suspeita é de que esses comandos ocultos estivessem sendo inseridos nas petições com a intenção de fazer com que o sistema de inteligência artificial desconsiderasse filtros que normalmente impediriam a aceitação de documentos que não cumprissem os requisitos básicos de admissibilidade.
A prática de “prompt injection” consiste em enganar modelos de inteligência artificial, o que pode gerar consequências sérias para a integridade do processo judicial. Os comandos inseridos visam contornar as regras estabelecidas, alterando a forma como os sistemas processam informações e, consequentemente, rendendo vantagens indevidas a determinadas partes.
Em resposta a essas descobertas, o STJ reforçou que seu sistema já possui mecanismos de segurança projetados para evitar esse tipo de manipulação. Apesar das proteções implementadas, os diretores do tribunal consideram essencial acompanhar de perto essas ocorrências para garantir a justiça e a lisura dos processos.
A iniciativa tem grande relevância, uma vez que o uso de tecnologias no âmbito da justiça é cada vez mais comum. No entanto, a transgressão de normas e a tentativa de fraudes podem comprometer a confiança nas instituições judiciais e a própria legitimidade dos julgamentos. Assim, o STJ mostra determinação em reprimir quaisquer ações que coloquem em risco a integridade de seu sistema.
