À propos de Thomas
Fort de 25 ans d’expertise en administration systèmes et réseaux (Linux, bases de données, orchestration Kubernetes), je me consacre aujourd’hui à la mise en œuvre d’infrastructures d’IA générative, avec une spécialisation dans le déploiement et l’optimisation de modèles de LLM en local (on-premise) ou hybrides (cloud).
Je propose une offre clé en main pour les entreprises souhaitant :
✅ Déployer des LLM locaux (Mistral, Llama, etc.) ou cloud (OpenAI, Anthropic, etc.) via une architecture unifiée basée sur un proxy OpenAI-compatible (LiteLLM).
✅ Centraliser l’accès aux modèles via des interfaces utilisateur (LibreChat, Open WebUI ou interfaces custom tel que chainlit) ou directement via API, avec gestion des quotas, logging et monitoring.
✅ Sécuriser et optimiser les coûts en combinant modèles open-source (self-hosted) et services cloud, selon les besoins métiers.
Pourquoi choisir cette approche ?
- Souveraineté des données : Hébergement local des modèles sensibles.
- Flexibilité : Bascule transparente entre modèles locaux et cloud.
- Coût maîtrisé : Optimisation des ressources (GPU, inference servers).
- Compatibilité : Intégration native avec les outils existants (API OpenAI standard).
Environnement technique :
- Infrastructure IA : LiteLLM (proxy), LibreChat, Ollama, vLLM, FastAPI, LangChain, chainlit.
- Modèles : Mistral, Llama, Mixtral, Phi-3, ainsi que les APIs cloud (OpenAI, Anthropic, etc.).
- DevOps/Orchestration : Kubernetes, Ansible, GitLab CI, Terraform.
- Bases de données : PostgreSQL, Vector DB (Weaviate, Qdrant, PGVector).
- Socle historique : Linux (toutes distros), Oracle, MariaDB/Galera, JBoss, Tomcat.
À votre écoute pour :
- Auditer vos besoins en IA générative (use cases, contraintes techniques/reglementaires).
- Concevoir une architecture adaptée (full on-premise, hybride ou cloud).
- Accompagner vos équipes à l’utilisation et à l’administration des LLM.
Français
Bilingue ou natif
Anglais
Bilingue ou natif
Accepte de travailler sur site
Plaisir (jusqu’à 50 km), Plaisir (jusqu’à 40 km), Paris (jusqu’à km)
Recommandations
Soyez le premier à recommander Thomas
Contribuez à la réussite de ce freelance en partageant votre expérience de collaboration avec lui.
Ces profils de freelance correspondent également à vos critères
Agatha Frydrych
Backend Java Software Engineer
4.7
(3)
2
Baptiste Duhen
Fullstack developer
4.6
(4)
5
Amed Hamou
Senior Lead Developer
4
(2)
7
Audrey Champion
Web developer
4.3
(3)
4
Formations
- BTS Informatique de GestionPau1999Spécialisation Systèmes & Réseaux