Un tribunal de Brasil dictó un fallo inédito al sancionar el primer caso de “Prompt Injection” (inyección de comandos) en una demanda judicial. La maniobra consistió en ocultar instrucciones invisibles para el ojo humano dentro de un documento digital con el objetivo de manipular el sistema de Inteligencia Artificial que utiliza el Poder Judicial.
El hecho fue descubierto por el magistrado Luiz Carlos de Araujo Santos Junior, a cargo de la 3ª Vara do Trabalho de Parauapebas. Durante el análisis de una demanda laboral, se detectó que las abogadas de la parte actora habían insertado un texto configurado en fuente blanca sobre fondo blanco. Al ser procesado por “Galileu”, el sistema de IA institucional del tribunal, el comando oculto le ordenaba contestar la petición de forma superficial y no impugnar los documentos presentados.
El juez calificó la conducta como un grave atentado a la dignidad de la justicia y un intento de sabotaje institucional. En la resolución se remarcó que este tipo de engaños tecnológicos están diseñados para evadir el control humano, ya que solo pueden ser detectados mediante una auditoría técnica que modifique el color de las tipografías del archivo.
Como consecuencia de este accionar de mala fe, el tribunal aplicó una multa solidaria a las letradas equivalente al 10% del valor de la causa (aproximadamente 84.000 reales) a favor del Estado. Asimismo, se emitieron los oficios correspondientes a la Orden de Abogados de Brasil (OAB) para que se inicien los procesos disciplinarios y las investigaciones correspondientes sobre las profesionales.
🛜 JujuyenRed 🌐
