Hermes Agent et IA locale : transformer ses processus métier sans API cloud

Vous utilisez ChatGPT ou Claude au quotidien, et un jour un client vous demande : « Mes données, elles partent où ? » Pour beaucoup de TPE et PME, l'enjeu n'est pas de choisir entre performance et confort, mais de garder la main sur ce qui sort du système d'information. C'est là qu'une IA locale, pilotée par un agent comme Hermes Agent, devient une option sérieuse.

En bref : une IA locale fait tourner un modèle de langage sur votre propre machine ou votre serveur, sans envoyer vos textes à un service cloud. Hermes Agent, un agent open source de Nous Research, peut s'appuyer sur un modèle local servi par Ollama, et n8n auto-hébergé peut orchestrer vos processus autour. C'est pertinent pour les données confidentielles, au prix d'une installation et d'une maintenance à assumer.

Mise à jour : octobre 2026

Que deviennent vos données quand vous utilisez une IA dans le cloud ?

Elles sont envoyées aux serveurs de l'éditeur, qui les traite selon ses conditions contractuelles. Quand un collaborateur colle un contrat client dans un assistant en ligne pour le résumer, le texte quitte votre réseau. Ce n'est pas un jugement sur la qualité de ces outils. Mais les règles (réutilisation pour l'entraînement, durée de conservation, localisation des serveurs) varient selon l'offre, grand public ou professionnelle, et il vous revient de les lire avant d'y confier des informations sensibles.

Les structures les plus concernées :

• cabinets de conseil, bureaux d'études et cabinets d'avocats soumis au secret professionnel ;
• sous-traitants liés par des clauses de confidentialité strictes ;
• entreprises de secteurs encadrés (santé, défense, agroalimentaire) ;
• toute entreprise qui traite des données personnelles : notre guide déployer l'IA en PME sans risque RGPD fait le point.

Quand choisir une IA locale plutôt qu'une IA cloud ?

Quand la confidentialité des données pèse plus lourd que la puissance brute. Le cloud reste pertinent dans de nombreux cas. Voici une grille de lecture qualitative :

La règle de base : données publiques ou peu sensibles, le cloud est plus simple ; données confidentielles, nominatives ou stratégiques, l'IA locale mérite d'être étudiée. Beaucoup d'entreprises combinent les deux.

Quelle pile logicielle pour automatiser sans cloud ?

Un serveur de modèles, un modèle open source, un agent et un orchestrateur. Voici les briques que nous utilisons pour ce type de projet :

1. Ollama : il télécharge et fait tourner des modèles open source sur votre machine. Sa documentation l'indique : « Ollama runs locally. We don't see your prompts or data when you run locally. » Attention, Ollama propose aussi des modèles hébergés dans son cloud ; la variable OLLAMA_NO_CLOUD=1 désactive ces fonctions pour rester en mode strictement local. Ollama expose en outre une API compatible avec une partie de celle d'OpenAI, ce qui facilite les branchements.
2. Un modèle open source, par exemple la famille Hermes 3 de Nous Research, disponible dans la bibliothèque Ollama en plusieurs tailles (de 3 à 405 milliards de paramètres). Plus le modèle est gros, plus il demande de mémoire et de puissance.
3. Hermes Agent : un agent open source sous licence MIT, développé par Nous Research. Il peut fonctionner avec différents fournisseurs, dont des modèles locaux via un point d'accès personnalisé, et dispose d'une planification intégrée pour les tâches récurrentes.
4. n8n auto-hébergé : il orchestre les flux et fait le lien avec vos outils métier. Son nœud Ollama Chat Model se connecte à un modèle local. Pour l'installer chez un hébergeur français, voyez comment héberger n8n en France.

Pour bien distinguer un agent d'un simple assistant conversationnel, lisez ce que les agents IA changent vraiment par rapport à un simple ChatGPT.

À quoi ressemble un processus métier traité en local ?

Voici un scénario illustratif, et non un cas client : un bureau d'études reçoit régulièrement des cahiers des charges contenant des plans et des données tarifaires confidentielles. Aujourd'hui, un chargé d'affaires lit chaque dossier, relève les critères d'évaluation et rédige une synthèse pour le directeur technique.

Avec une pile locale :

1. le PDF est déposé dans un dossier partagé ;
2. n8n détecte le fichier et l'envoie au modèle via l'API locale d'Ollama ;
3. le modèle produit une synthèse structurée : critères de sélection, risques, questions à poser, points à valoriser ;
4. la synthèse arrive dans l'outil de suivi, et le chargé d'affaires la vérifie avant toute décision.

Aucune donnée ne quitte le réseau. Le gain réel dépend de vos dossiers et du modèle retenu : mesurez-le sur quelques cas avant de généraliser. Pour aller plus loin, lisez comment répondre plus vite aux appels d'offres grâce à une base de réponses IA.

Quelles limites anticiper avant de se lancer ?

Trois limites principales : la puissance, l'installation et le matériel.

• La puissance : un petit modèle local ne rivalise pas avec les grands modèles cloud sur le raisonnement très ouvert. Pour des tâches bien délimitées (résumé, extraction, classement, rédaction guidée), il peut suffire ; testez sur vos propres documents.
• L'installation : Ollama, le modèle, l'agent et n8n ne s'installent pas en un clic. Ce n'est pas réservé aux développeurs, mais il faut du temps et de la rigueur.
• Le matériel : la mémoire nécessaire grandit avec la taille du modèle. C'est un investissement à comparer aux abonnements cloud ; l'article combien coûte vraiment l'IA en entreprise aide à faire ce calcul.

Comment sécuriser une pile locale ?

En la traitant comme n'importe quel serveur exposé. Par défaut, Ollama écoute sur l'adresse 127.0.0.1, port 11434, donc uniquement sur la machine elle-même. Si vous l'ouvrez au réseau avec la variable OLLAMA_HOST, protégez cet accès (pare-feu, proxy avec authentification).

• Isolez la machine qui fait tourner le modèle.
• Sauvegardez régulièrement les workflows n8n et la configuration.
• Documentez les processus automatisés, pour ne pas créer une boîte noire en cas de départ d'un collaborateur.

Si vous hésitez entre plusieurs modèles, la question de la souveraineté et du choix entre Mistral et les modèles américains mérite aussi votre attention.

Faut-il passer au local ?

Ce n'est pas une décision idéologique. Elle dépend de vos données, de votre contexte réglementaire et de votre capacité à maintenir un serveur. Souvent, la bonne réponse combine le cloud pour les usages génériques et le local pour les processus sensibles.

Sources

• Nous Research, dépôt Hermes Agent (GitHub)
• Ollama, fiche du modèle Hermes 3
• Ollama, FAQ (adresse et port par défaut, OLLAMA_HOST, confidentialité)
• Ollama, compatibilité avec l'API OpenAI
• n8n, documentation du nœud Ollama Chat Model