IA e Segurança

Existe uma falha de segurança que aparece em praticamente todos os softwares que começam a ser gerados por IA.

Sem exceção.

Tenho utilizado IA de forma tão intensa que já nem lembro a última vez que escrevi um if. Hoje meu trabalho mudou bastante: eu penso na arquitetura, defino a estratégia de implementação e supervisiono os agentes que escrevem o código.

E foi exatamente nesse processo que comecei a perceber algo curioso. Sempre que eu iniciava um módulo novo com IA — ou até um software inteiro do zero — a mesma falha de segurança aparecia no código gerado.

No começo achei que fosse coincidência.

Mas conforme fui repetindo o processo em diferentes projetos, stacks e contextos… o padrão continuava aparecendo.

Sempre no início do sistema/módulo. Sempre do mesmo jeito.

Precisei bloquear explicitamente essa falha já no prompt, antes mesmo da IA começar a implementar.

Não vou detalhar aqui qual é a vulnerabilidade para não facilitar a vida de quem procura explorar sistemas.

Por isso, para quem está adotando IA no desenvolvimento:

Prompt engineering não substitui engenharia de software

Supervisão técnica continua sendo essencial. Não basta gerar código — é preciso entender o que está sendo gerado, revisar com olhar crítico e garantir que as boas práticas de segurança estejam sendo seguidas desde o primeiro commit.