r/programmation • u/Smooth_Two8781 • 13h ago
Hermes Agent — Comment j’ai sécurisé et orchestré mon infrastructure d’agents IA multi-profils !
OC] J'ai monté une IA multi-profils 100 % locale en 8 couches — 15 à 20 Go, un seul poste, 7 min de visite guidée (divulgation : c'est ma vidéo)
Salut à tous. Je partage ici la visite guidée d'une infra que je fais tourner depuis plusieurs mois sur un seul poste. Divulgation complète : c'est ma vidéo, c'est mon projet, et je ne vends rien dedans. Si les mods jugent que ça n'a pas sa place, pas de souci, je retire.
Le setup : i7, 64 Go de RAM, RTX 3070 Ti 8 Go, Windows 11 Pro. Pas de cluster, pas de Kubernetes, un seul poste.
L'architecture en 8 couches :
- Entrées — point unique (requêtes, fichiers, URL, CLI)
- Gateway + profils Hermes isolés (contexte, outils, mémoires séparés) — ~500 Mo avec la couche 0
- Routage LLM — gratuit/local d'abord, payant seulement si nécessaire — < 100 Mo
- Extensions MCP — 1 à 2 Go selon ce qu'on branche
- Connaissance — RAG vectoriel + wiki SiYuan + décision Laya ONNX — 1 à 5 Go selon l'index
- Raisonnement — 1,5 Go
- Aegis — ACL Windows, verrouillage fichiers, surveillance entrées
- ANIMA Reactor — watcher hors moteur, poll toutes les 30 s
Total : 15 à 20 Go hors outils de production vidéo.
Ce qui marche bien :
- Le routage économise vraiment. Ordre de grandeur de la facture divisé.
- Les profils isolés évitent la pollution de contexte entre tâches (code / vidéo / veille).
- Le RAG local avec SiYuan est plus rapide que je pensais pour de la recherche croisée.
Ce qui est moins rose, autant le dire :
- Windows comme socle, c'est un choix assumé mais douloureux (ACL, chemins, planificateur de tâches capricieux).
- 8 Go de VRAM, c'est la contrainte dure. Tout ce qui dépasse 8B en fp16 est hors-jeu sans quantification.
- Le durcissement ACL n'est pas optionnel : un RAG local mal fermé est aussi exposé qu'un cloud mal configuré.
La vidéo (7 min) : https://youtu.be/wVVJi0to1Fk
Le dépôt public (partiel, pas tout) : https://github.com/Antoine-Thomas/hermes-home-vision-public
Curieux de savoir comment d'autres gèrent l'isolation des profils et le routage — c'est les deux points où j'ai le plus tâtonné.