🤖 Fundamentos de Pentest em LLM

Da arquitetura de aplicações com LLM à validação prática de Prompt Injection, evidências e mecanismos de defesa.
Um treinamento introdutório, técnico e aplicado para compreender como sistemas baseados em Large Language Models funcionam, onde surgem suas principais superfícies de ataque e como conduzir testes fundamentados em hipóteses, evidências e reteste.

🚀 Sobre o Treinamento

Aplicações com Large Language Models introduzem uma nova camada de complexidade para profissionais de cibersegurança. Uma interface de chat pode parecer simples, mas por trás dela existem componentes responsáveis por sessão, composição de contexto, instruções internas, execução da inferência, registro de eventos e aplicação de controles.

O treinamento Fundamentos de Pentest em LLM foi desenvolvido para construir essa base de forma progressiva. O aluno começa entendendo como texto, tokens, contexto, roles e inferência se relacionam, avança para o mapeamento da superfície de ataque e das trust boundaries, executa um laboratório com LLM real voltado para Prompt Injection e encerra o percurso aprendendo a interpretar evidências, avaliar mecanismos de defesa e realizar reteste.

Mais do que testar prompts: o objetivo é compreender o sistema, formular hipóteses, identificar o que realmente foi demonstrado e produzir conclusões técnicas sustentadas por evidências.

🎯 Objetivo da Formação

Capacitar o aluno a compreender os fundamentos técnicos de aplicações baseadas em LLM e aplicar um processo inicial de pentest que conecte arquitetura, superfície de ataque, manipulação de contexto, evidência, defesa e reteste.

Ao final do treinamento, o aluno deverá ser capaz de:

• explicar a diferença entre modelo, runtime, backend e aplicação;
• compreender tokens, tokenização, contexto, roles, system instruction e inferência;
• distinguir pesos do modelo, contexto da requisição e estado mantido pela aplicação;
• reconhecer, em nível fundamental, componentes como RAG, memória, agentes e tools;
• mapear superfícies de ataque, fluxos de dados e trust boundaries;
• transformar observações arquiteturais em propriedades de segurança e hipóteses de teste;
• estabelecer uma baseline antes de executar testes adversariais;
• construir e testar famílias fundamentais de Prompt Injection;
• registrar request IDs, sessões, eventos e outras evidências relevantes;
• distinguir fato, evidência, interpretação, impacto e limite da conclusão;
• relacionar mecanismos de defesa à camada correta da aplicação;
• executar reteste e verificar se a mitigação preservou o comportamento legítimo.

📚 Grade Curricular

🧩 Como o Treinamento é Estruturado

Os módulos seguem uma progressão contínua. O mesmo cenário técnico acompanha o aluno ao longo do treinamento: o Cobalto Assist, uma aplicação baseada em LLM com interface web, backend de orquestração, runtime de inferência e telemetria.

Essa continuidade permite que cada etapa aproveite os conhecimentos construídos anteriormente. Primeiro o aluno entende como o sistema funciona. Depois identifica onde a confiança muda. Em seguida testa uma propriedade concreta por meio de Prompt Injection. Por fim, usa os resultados para avaliar controles e retestar a aplicação.

Compreender a arquitetura
    ↓
Mapear a superfície de ataque
    ↓
Identificar trust boundaries
    ↓
Formular hipótese
    ↓
Estabelecer baseline
    ↓
Executar o teste
    ↓
Registrar evidência
    ↓
Interpretar o impacto
    ↓
Avaliar a defesa
    ↓
Retestar

Progressão didática: o laboratório não aparece antes da base conceitual. Cada atividade prática foi posicionada depois dos fundamentos necessários para que o aluno saiba o que observar, como registrar e como interpretar o resultado.

🧪 Práticas e Laboratórios

O treinamento combina atividades estáticas, análise de artefatos e um laboratório com LLM local em execução. O objetivo é permitir que o aluno evolua da leitura arquitetural para uma avaliação adversarial real, sem misturar conceitos avançados que ainda não foram ensinados.

Ambiente autorizado: as técnicas apresentadas devem ser executadas somente nos laboratórios disponibilizados, em sistemas próprios ou em ambientes para os quais exista autorização formal de teste.

🛠️ Ferramentas e Ambientes Utilizados

🛡️ Pentest e Mecanismos de Defesa

O treinamento não aborda apenas como uma falha pode ser explorada. Cada classe de problema é conectada aos controles que pertencem à camada correta da arquitetura.

Entre os princípios defensivos trabalhados estão:

• minimização do contexto enviado ao modelo;
• separação e proveniência de instruções e dados;
• uso de system instruction e prompt hardening como controles complementares;
• validação determinística das saídas antes de seu consumo;
• autorização fora do modelo;
• redução de privilégios e capacidades desnecessárias;
• telemetria para investigação e reprodutibilidade;
• reteste com o caso original, variações equivalentes e allow cases.

Princípio central: melhorar a resposta do modelo não é o mesmo que corrigir a propriedade de segurança. O aluno aprende a identificar em qual camada a mitigação deve atuar e como comprovar seu efeito.

📦 Materiais de Apoio

O treinamento reúne recursos preparados para estudo autônomo, prática e consulta posterior.

• Artigos completos: fundamentos, contexto, exemplos, interpretação e preparação para as práticas.
• READMEs orientados ao aluno: instruções sobre a ordem de uso dos arquivos e critérios de observação.
• Arquivos de análise: JSON, CSV e JSONL utilizados nas atividades.
• Folhas de evidência e reteste: modelos para organizar observações e resultados.
• Matrizes de teste: apoio para organizar famílias de Prompt Injection e repetições.
• Modelos de finding: estrutura para registrar condição, evidência, impacto, recomendação e reteste.
• Laboratório com LLM real: ambiente dedicado para avaliação de Prompt Injection.
• Resultados esperados e autocorreção: referências utilizadas quando a atividade prevê conferência objetiva.

👥 Para Quem é Este Treinamento?

• estudantes de cibersegurança que desejam iniciar em AI Security;
• pentesters que querem compreender como adaptar sua metodologia para aplicações com LLM;
• profissionais de Red Team e AppSec que precisam desenvolver uma base técnica sobre riscos em sistemas de IA;
• desenvolvedores e analistas de segurança que desejam compreender como contexto, instruções e controles se relacionam;
• alunos que pretendem avançar posteriormente para RAG, agentes, tools, MCP, supply chain e automação de red teaming.

🏁 Resultado Final

Ao concluir o treinamento, o aluno terá construído uma base técnica para avaliar aplicações com LLM sem reduzir o pentest a uma coleção de prompts. O percurso desenvolve a capacidade de compreender a arquitetura, identificar superfícies relevantes, formular hipóteses, executar testes controlados, registrar evidências, interpretar limites e validar mecanismos de defesa.

Você não aprenderá apenas a provocar respostas inesperadas em um modelo.
Aprenderá a entender por que o comportamento ocorreu, qual propriedade foi afetada, qual evidência sustenta a conclusão e como verificar se a correção realmente funcionou.

⚡ PRODIGIUM ACADEMY
AI Security · LLM · Prompt Injection · Pentest · Evidência · Defesa · Reteste