Après plusieurs années à concevoir et déployer des solutions logiciels et après avoir pris le virage de l’IA, une chose est claire :
Les modèles de langage génératifs (LLM, type GPT) ne sont ni magiques, ni autonomes, ni infaillibles !
LLM optimisent la vraisemblance, pas la vérité.
LLM = simulateur de discours, pas moteur de connaissance.
- Oui, ces modèles sont remarquables pour :
- comprendre et structurer de l’information textuelle,
- analyser des données non structurées,
- assister les équipes dans leurs tâches quotidiennes,
- automatiser des tâches fastidieuses.
- Mais l'IA devient fragile voir dangereuse sans supervision humaine dès qu’on lui demande :
- de produire des calculs exacts sans moteur déterministe externe,
- de garantir la fiabilité de prédictions hors de leur domaine d’entraînement,
- ou de garantir l’exactitude factuelle de leurs réponses.
Notre conviction est simple :
- Les LLM ne remplacent pas la compréhension métier, ils la prolongent.
- Ils n’agissent pas de manière fiable sans cadre, règles et contrôle humain.
- Ils créent de la valeur quand leurs limites sont connues et intégrées dans l’architecture.
- Ils n’ont ni intuition, ni jugement, ni conscience du réel.
- Bien utilisés, ils deviennent d’excellents assistants cognitifs.
Des questions très simples comme « Je dois laver ma voiture, la station de lavage est à 150m. J’y vais à pied ou en voiture ? » crée encore la panade en 2026 chez ChatGPT et autres IA
Utilisés comme des décideurs autonomes, ils deviennent un facteur de risque.
Ce que l’expérience nous a appris au travers de nos differentes collaborations avec nos clients tout secteur métier confondu, qu’il soit RH, medical, banque ou autre : Le raisonnement métier, l’arbitrage et la responsabilité doivent rester humains.
- Les LLM doivent être :
- intégrés dans des systèmes hybrides,
- encadrés par des règles explicites,
- supervisés (human-in-the-loop),
- et validés par des experts métiers.
Notre position chez Proxym
Chez Proxym, nous concevons des outils agentics qui augmentent vos équipes, sans prétendre remplacer les fonctions critiques.
Des systèmes pragmatiques, gouvernés, sécurisés et connectés à vos outils réels, pensés pour produire de la valeur dans la durée.
Parce qu’un LLM utile n’est pas celui qui impressionne mais celui qui s’intègre dans des processus maîtrisés et qui reste encore aujourd’hui sous contrôle humain.
