Pourquoi le service Legal Interactive Platform (LIP) donne-t-il parfois de mauvaises réponses avant de se corriger lorsque l'utilisateur ou l'utilisatrice le remet en cause ?

Le service LIP s'appuie sur un grand modèle de langage (LLM). Il peut donc parfois donner des réponses imprévisibles (comme le font de nombreux outils en ligne comme ChatGPT ou Gemini).

Afin d'améliorer l'exactitude de la plateforme, nous l'avons dotée d'un système de génération augmentée de récupération (Retrieval-Augmented Generation ou RAG). Le grand modèle de langage doit ainsi baser ses réponses sur les textes juridiques officiels de l'OEB. Il s'appuie donc moins sur d'autres sources.

Malgré ces mesures de précaution, il reste possible que l'outil donne parfois de mauvaises réponses. Il se peut que le LLM génère de fausses informations, interprète mal des questions ou passe à côté de liens juridiques complexes.

Lorsqu'une personne remet en cause une réponse, le modèle évalue à nouveau sa réponse à l'aide de nouvelles informations, ce qui lui permet parfois de se corriger.