Um exemplo notório mencionado na discussão do projeto indica que advogadas teriam utilizado essa técnica para influenciar a Justiça do Trabalho a favorecer uma das partes em um litígio. O uso crescente de IA na judicialização de disputas torna imperativa a criação de um arcabouço legal para coibir ações desonestas, que podem impactar a integridade do sistema judicial.
Fraga argumenta que a pena para quem se valer dessa prática deve ser rigorosa. O projeto estabelece uma pena de reclusão, que varia de um a quatro anos, além de multa. Em casos em que a injeção de prompt resulte em violação de sigilo, adulteração de decisões ou interrupção de serviços públicos, a penalização pode ser aumentada em até 50%. Se o autor tiver credenciais profissionais que lhe permitam acessar sistemas do Judiciário, a punição se torna ainda mais severa, e ações que visem manipular processos penais podem resultar em cinco vezes mais tempo de reclusão.
Ademais, a proposta prevê a realização de auditorias em processos já julgados que utilizaram IA, ampliando a fiscalização para garantir que a técnica não tenha sido indevidamente manipulada. Sugerindo uma revisão de processos nos dois anos seguintes à promulgação da lei, o projeto busca identificar possíveis fraudes por meio da injeção de prompt ou métodos similares.
No que tange à segurança, a proposta recomenda que órgãos públicos implementem medidas efetivas para prevenir tais fraudes. Isso inclui a validação dos dados inseridos, separação entre diferentes tipos de dados e monitoramento de comportamentos anormais dentro dos sistemas. É essencial que tribunais e outras instituições do sistema judiciário desenvolvam normas complementares para assegurar uma resposta adequada a incidentes e a proteção de provas digitais.
Por fim, o PL 2543/26 está em tramitação na Câmara dos Deputados, aguardando análise das comissões de Ciência, Tecnologia e Inovação, além de Constituição e Justiça e Cidadania. Para que a proposta se torne lei, ainda precisa ser aprovada pelo Senado. A crescente integração da tecnologia nos processos judiciais demanda uma legislação robusta que preserve a ética e a equidade nas decisões judiciais.