Définition opérationnelle
Le NIST emploie aussi le terme de confabulation. Le phénomène peut concerner un fait, une citation, une référence, un calcul ou une relation inventée.
Ajouter des documents, une recherche ou un RAG peut réduire certains risques, sans garantir la vérité. Les contrôles doivent dépendre de l’usage : sources consultables, contraintes de format, calcul déterministe, abstention et relecture.
Pourquoi cette notion compte
- Dimensionner la vérification selon le dommage potentiel.
- Ne pas confondre fluidité et exactitude.
- Prévoir une réponse « information insuffisante ».
Exemple
Un modèle peut inventer un numéro de décision plausible ; le workflow doit alors exiger une source retrouvée et refuser la réponse si elle manque.
À ne pas confondre
- Toute réponse inattendue
- Une divergence d’opinion
- Un risque supprimé par un simple prompt
Guide principal
Prompt ou workflow : choisir la bonne architecture