O texto de Jader Esteves e César Wanderley aborda a vulnerabilidade de ataques de prompt injection no cenário das licitações públicas brasileiras, alertando sobre como instruções maliciosas ocultas em documentos de licitantes podem manipular decisões automatizadas por IA. Os autores explicam que, ao utilizarem modelos de linguagem para analisar recursos ou impugnações, pregoeiros e agentes de contratação correm o risco de comprometer a imparcialidade e a validade jurídica do ato administrativo. Diante disso, o artigo detalha os perigos de vício de motivação e quebra de isonomia, destacando que a responsabilidade legal permanece integralmente com o servidor público. Como solução, propõe-se um protocolo de contramedidas, que inclui a estruturação de comandos hierárquicos e a obrigatoriedade da revisão humana para validar qualquer conteúdo gerado pela máquina. Assim, a obra defende que a tecnologia deve servir como uma ferramenta de apoio técnico, sem jamais substituir o juízo crítico e soberano do agente público.




0 comentários