BRASÍLIA – O Superior Tribunal de Justiça (STJ) determinou, nessa quarta-feira (20), a abertura de uma investigação para apurar o uso de inteligência artificial em tentativas de manipular o sistema eletrônico de petições da Corte.
A decisão foi tomada pelo presidente do STJ, ministro Herman Benjamin, após técnicos do tribunal identificarem petições com comandos ocultos usados para tentar influenciar modelos de IA durante a análise processual.
STJ abriu inquérito e procedimento interno
Segundo o tribunal, foram instaurados um inquérito policial e um procedimento administrativo interno para investigar possíveis fraudes atribuídas a advogados e escritórios de advocacia.
As apurações envolvem o uso de uma técnica conhecida como “prompt injection”, mecanismo utilizado para tentar induzir sistemas de inteligência artificial a ignorarem filtros e critérios automáticos de análise.
De acordo com o STJ, os comandos eram inseridos de forma oculta em petições enviadas eletronicamente ao tribunal.
Comandos tentavam burlar filtros do sistema
Segundo a investigação, os comandos tinham o objetivo de fazer a inteligência artificial desconsiderar exigências básicas para admissão de documentos e recursos processuais.
O tribunal informou que o sistema eletrônico já possui mecanismos de proteção contra esse tipo de tentativa de manipulação e que as ordens ocultas não chegaram a ser executadas pela plataforma responsável pelo recebimento das petições.