Buscamos um profissional na interseção entre Inteligência Artificial e Cibersegurança. Alguém que entende os riscos de agentes de IA em produção e, a partir desse entendimento, é capaz tanto de auditar e mitigar essas vulnerabilidades quanto de construir defesa em profundidade e governar a operação segura desses sistemas — e de ensinar cada uma dessas frentes. Não buscamos apenas um usuário avançado de ferramentas de IA, mas alguém com visão crítica sobre os riscos específicos que agentes e aplicações baseadas em LLMs introduzem em ambientes corporativos, da configuração de tools até o incidente em produção.

O perfil ideal já trabalhou com segurança de aplicações de IA em alguma capacidade, seja auditando a segurança de agentes de IA e integrações via MCP, implementando guardrails e defesa em profundidade para aplicações de IA, ou atuando em governança/MLSecOps (supply chain de modelos, monitoramento e resposta a incidentes de IA). Tem linguagem técnica precisa e consegue traduzir conceitos complexos de IA para profissionais de segurança e vice-versa.

Experiência esperada:

• 3+ anos de experiência em segurança da informação combinada com atuação prática em sistemas de IA ou LLMs
• Vivência real com ao menos um dos seguintes contextos: segurança de agentes de IA e integrações via tools/MCP, implementação de guardrails e defesa em profundidade para aplicações de IA, ou governança/MLSecOps (supply chain de modelos, monitoramento e resposta a incidentes de IA)
• Experiência com automação de tarefas de segurança usando Python e APIs de LLMs (OpenAI, Anthropic, Mistral ou equivalentes)
• Familiaridade prática com Garak (NVIDIA) e PyRIT (Microsoft) para validar a robustez de defesas implementadas

Conhecimentos técnicos essenciais

Segurança de agentes de IA:

• Excessive agency: identificação de cenários em que o agente pode agir além do escopo pretendido, com métricas como Unsafe Action Rate e Privilege Escalation Distance
• Tool poisoning: como descrições de ferramentas manipuladas enganam o agente na escolha da tool
• Auditoria de segurança de servidores MCP: autorização (OAuth 2.1), exposição de credenciais e PII em servidores mal configurados
• Riscos de sistemas multiagente: contexto/memória envenenados e escalonamento de instrução maliciosa entre agentes
• Mitigação com princípio de menor privilégio e aprovação humana para ações de alto risco

Guardrails e defesa de aplicações de IA:

• Defesa em profundidade: as cinco camadas de guardrail (input, retrieval, dialog, execution, output rails)
• Implementação de guardrails com NeMo Guardrails (orquestração open source) e Llama Guard (classificação de conteúdo inseguro)
• Mitigação de prompt injection e tool abuse com least-privilege e filtragem de input/output
• Validação de defesas implementadas com um novo ciclo de red teaming (Garak/PyRIT)

Governança e MLSecOps:

• Supply chain de modelos: verificação de proveniência e integridade (model signing, model cards) e riscos de model poisoning/backdoors em modelos open source
• Monitoramento de produção de sistemas de IA: anomalias de output, uso indevido de tools, tentativas de bypass de guardrail
• Resposta a incidentes de IA: o que muda em relação ao IR tradicional e como estruturar um playbook específico
• Governança e conformidade regulatória de sistemas de IA (EU AI Act), conectada a GRC tradicional

Diferenciais

• Pesquisa publicada ou apresentação em eventos sobre segurança de IA (DEF CON AI Village, NeurIPS workshops, USENIX Security, Black Hat, Mind the Sec ou equivalentes)
• Experiência com fine-tuning ou implantação de LLMs em ambientes corporativos, com visão sobre os riscos introduzidos em cada etapa
• Conhecimento de regulação e governança de IA além do EU AI Act (ex.: NIST AI RMF) aplicado à segurança
• Criação de conteúdo técnico público: artigos, repositórios, cursos ou palestras sobre segurança em sistemas de IA
• Capacidade de transformar projetos reais e experiências profissionais em aulas práticas e acessíveis;
• Conhecimento básico de ferramentas de gravação (microfone, câmera, iluminação) ou disposição para receber orientação técnica nesse processo;
• Boa comunicação verbal e escrita para apresentar conceitos técnicos de forma clara, estruturada e com linguagem próxima da comunidade de tecnologia.