Free imagine un robot « auto-adaptatif » pour mieux encadrer l’IA et limiter les hallucinations et réponses incohérentes

La maison mère de Free semble travailler sur une nouvelle architecture de robot conversationnel mêlant intelligence artificielle générative et mécanismes de contrôle. Un nouveau brevet déposé à l’Organisation mondiale de la propriété intellectuelle (OMPI) dévoile cette approche.

Un brevet d’iliad voit le jour, il ne s’agit pas ici d’une technologie réseau mais d’un « système de robot conversationnel auto-adaptatif ». Mais pour quoi faire ? Le groupe de Xavier Niel explique dans une description visible sur le site de l’OMPI, partir notamment des faiblesses actuelles des chatbots basés sur des LLM, et note un « manque de robustesse dans les scénarios complexes », ou encore des réponses incohérentes mais aussi des hallucinations, lorsque le chatbot génère « des informations incorrectes ou inventées tout en semblant convaincu de leur validité ». Iliad pointe aussi la « suradaptation au style de l’utilisateur »  à force de chercher à être agréable, un chatbot peut aller jusqu’à approuver une hypothèse erronée plutôt que de contredire son interlocuteur.

Un LLM davantage encadré

Pour limiter ces dérives, iliad imagine donc un chatbot hybride. Le modèle de langage resterait chargé de comprendre les demandes et le contexte, mais évoluerait au sein d’un flux de travail associant trois types de machines, à savoir les déterministes pour les étapes strictement contrôlées, mais aussi les non déterministes pour davantage de flexibilité et celles à logique floue pour gérer l’ambiguïté.

Le système pourrait également utiliser le Function Calling, une fonction permettant à l’IA de déclencher automatiquement des actions ou d’appeler des services externes, par exemple un outil de paiement, un CRM (logiciel de gestion de la relation client) ou une base de données. Il pourrait aussi s’appuyer sur une technique (RAG) permettant à l’IA d’aller chercher des informations dans des sources dédiées avant de répondre. L’objectif est de s’appuyer sur « des données vérifiées et contrôlées » et ainsi de réduire le risque d’hallucination. Cette publication ne signifie pas qu’un tel chatbot sera prochainement lancé par Free, mais elle dévoile les travaux d’iliad pour associer la souplesse des LLM à une architecture plus contrôlée et prévisible.