Pesquisador(a) Sênior - Segurança de IA

Olá, nós somos o CESAR!

Somos um centro de inovação e de educação que há quase 30 anos forma pessoas e impulsiona organizações, potencializando suas estratégias digitais. Resolvemos problemas complexos e desafiadores em um ambiente de trabalho descontraído, descentralizado e repleto de benefícios para nossos colaboradores, que atuam como protagonistas, interagindo diretamente com clientes de escala global.

Como Pesquisador(a), sua missão será projetar, implementar e entregar métodos que tornem os sistemas modernos de ML robustos, privados e resistentes a abusos. Priorizamos profundo conhecimento em ML; você colaborará com engenheiros de segurança conforme necessário.

Esperamos que você tenha experiencia em…

• Liderar agendas de pesquisa em robustez adversarial, privacidade e resistência a abusos para modelos profundos (visão, NLP/LLMs, multimodais).
• Desenvolver algoritmos e "recipes" de treinamento: treinamento adversarial (PGD/TRADES/AA), robustez certificada (randomized smoothing, IBP/α−β-CROWN), detecção de OOD (Out-of-Distribution), calibração, marca d'água/fingerprinting, DP-SGD e auditorias de privacidade.
• Executar experimentos em larga escala (multi-GPU/TPU); produzir estudos de ablação rigorosos (sensibilidade a remoção de componentes), intervalos de confiança e análise de falhas.
• Definir métricas de avaliação além da acurácia em dados limpos ("clean accuracy"): AutoAttack@ε, deltas de acurácia robusta, ECE/Brier, AUROC em OOD, risco de membership-inference, sobrecarga de latência/throughput.
• Fortalecer sistemas em produção em parceria com as equipes de plataforma/segurança: playbooks de jailbreak e injeção de prompt para LLMs, estratégias de extração/throttling, monitoramento de drift/ataques.
• Publicar em conferências de ponta (NeurIPS/ICML/ICLR; S&P/USENIX/CCS) e produzir software de código aberto (OSS) utilizável.
• Mentorar pesquisadores/engenheiros; garantir a reprodutibilidade e a higiene experimental.

Precisamos que você tenha…

• Doutorado em ML/Ciência da Computação/Eng. Elétrica/Estatística
• Publicações em segurança e privacidade de modelos e sistemas de AI/ML
• Domínio de deep learning: otimização (variantes de SGD, regularização, sharpness), mudança de distribuição e generalização, incerteza e calibração, aprendizagem de representação.
• Experiência com PyTorch ou JAX; competência em CUDA/XLA, precisão mista, treinamento vetorizado, checkpointing/sharding.
• Experiência com ferramentas de robustez/privacidade: AutoAttack/RobustBench, TRADES, IBM ART/Foolbox, Opacus/TF-Privacy, randomized smoothing, IBP/α−β-CROWN/ERAN.
• Experimentação em escala: SLURM/K8s/Ray; W&B/MLflow; versionamento de dados (DVC); execuções determinísticas; profiling (nsys/torch.profiler).
• Sólida prática estatística: análise de potência estatística, intervalos de confiança/bootstrapping; design experimental orientado por modelo de ameaça.

Seria legal se você tivesse…

• ML Adversarial: envenenamento (poisoning) de dados (clean-label/backdoor), detecção de backdoor (STRIP/ABL), taxonomias de extração, diagnósticos de ofuscação de gradiente.
• Segurança de LLMs: taxonomia de jailbreak, defesas contra injeção de prompt (sandboxing de ferramentas, roteamento de capacidade), avaliações de segurança (safety evals).
• Engenharia de Privacidade: contabilidade de ε,δ, DP de Rényi, PATE; aprendizagem federada com agregação segura; fundamentos de SMPC/HE.
• ML em Produção: serving (Triton/vLLM/HF TGI), ONNX/TensorRT, canarying, detecção de tráfego adversarial.
• Engenharia de Segurança: red teaming, resposta a incidentes, gerenciamento de segredos/SBOM.

Aqui no CESAR, nós temos algumas práticas que proporcionam uma rotina mais positiva para a pessoa colaboradora:

• Horário flexível;
• Estrutura horizontal;
• Programas de treinamento e desenvolvimento;
• Cultura voltada para a Diversidade & Inclusão, onde você pode ser livre pra ser quem é!
  
  

Gostou? Espera só para conferir nosso pacote variado de benefícios:

• Plano de saúde e odontológico;
• Vale Refeição / Alimentação;
• Auxilio Home Office;
• Auxílio Idiomas;
• Auxílio Creche;
• Auxílio Lentes de Contato;
• Seguro de Vida;
• Descontos em cursos da CESAR School;
• DayOff (no mês do Aniversário);
• Gympass;
• Moodar;
• Cíngulo.
  
  

Quer conhecer melhor o CESAR? Clica aqui e vem com a gente!

#inovacaocesar #vemprocesar #soucesar