Bertrand Cabot

J'aide les équipes IA à maîtriser leurs systèmes : optimisation, benchmark, qualification.

Entraînement LLM, pipelines d'inférence, calcul scientifique, comparaison de stacks ou de hardware : la question centrale est toujours la même — est-ce que le système fait ce qu'il devrait, et comment le prouver chiffres en main ?

Mon approche combine deux expertises rares en France :

→ Optimisation GPU bas niveau : profilage PyTorch / Nsight, identification des régimes (math-bound, memory-bound, overhead-bound, SFU-bound), tuning FSDP / DeepSpeed / vLLM, parallélismes 3D, kernels Triton.

→ Benchmark et qualification système : conception et exécution de campagnes de tests sur infrastructure IA (training, inférence, storage, multi-nœuds), définition des métriques (TTFT, ITL, throughput, scaling efficiency), comparaisons de stacks (PyTorch vs JAX, vLLM vs TensorRT-LLM, FSDP vs DeepSpeed), évaluation LLM (Lighteval, MLPerf-style).

Mon parcours : 5 ans au CNRS/IDRIS sur le supercalculateur Jean Zay (H100/A100/V100, InfiniBand, Lustre, SLURM). Support expert sur des projets nationaux : pretraining BLOOM, OpenLLM France, Scribe, leaderboard INESIA, collaboration Hugging Face. 20 ans d'ingénierie dont 10+ en Deep Learning et HPC.

Ce sur quoi on peut travailler ensemble :

→ Audit performance GPU (5-10 jours) : diagnostic complet, identification des goulots, plan d'optimisation chiffré

→ Optimisation entraînement / inférence LLM (mission longue) : FSDP, DeepSpeed, 3D parallelism, vLLM, TensorRT-LLM

→ Campagne de benchmark / qualification système (mission longue) : conception du test plan, exécution sur cluster, rapports techniques pour audience NVIDIA / clients / décideurs

→ Évaluation LLM et IA de confiance : méthodes d'évaluation, hallucination analysis, benchmarks reproductibles, contribution à des leaderboards

→ Formation / transfert de compétences : Deep Learning distribué, profiling GPU, usage HPC