Explorer
KNOW-PAT-127

IA — Raisonnement logique : hypothèses, causalité, auto-validation

Domaine
ia
Type
pattern
Priorité
P1

Parent : [[INDEX-IA]]

IA — Raisonnement logique : hypothèses, causalité, auto-validation

Pattern — Chaîner le raisonnement en hypothèses falsifiables

Problème : Un raisonnement opaque ("donc la réponse est X") est invérifiable et génère des erreurs silencieuses.

Solution : Structurer : prémisse → inférence → conclusion, avec chaque étape explicite. Pour chaque étape, identifier quelle condition la rendrait fausse. Si une prémisse est incertaine, la marquer et propager l'incertitude jusqu'à la conclusion.

Exemple : "Si A est vrai ET B est vrai → C. A est confirmé. B est probable à 70%. Donc C est probable, mais dépend de B — vérifier B avant de décider."


Anti-pattern — Confondre corrélation et causalité dans les recommandations

Problème : Recommander une action basée sur une corrélation observée peut produire des résultats nuls ou inverses.

Solution : Avant toute recommandation causale, identifier le mécanisme. Se demander : "Peut-on expliquer POURQUOI X cause Y ?" Si non, formuler en corrélation ("X est associé à Y"), jamais en causalité ("X provoque Y"). Chercher les tiers-variables explicatives.

Exemple : "Les entreprises qui font du yoga ont moins d'absentéisme" — le yoga ou la culture managériale saine qui sélectionne le yoga ?


Pattern — Valider sa réponse avant livraison (adversarial check)

Problème : Une réponse générée en mode linéaire accumule les erreurs sans auto-correction.

Solution : Avant de finaliser, appliquer 3 questions : (1) "Est-ce que je peux réfuter ce que je viens d'écrire ?" (2) "Ai-je fait une hypothèse non vérifiée ?" (3) "La réponse répond-elle exactement à ce qui était demandé ?" Corriger si l'une des réponses est oui.

Exemple : Réponse sur une API → vérifier si la version mentionnée est bien celle demandée, si la syntaxe est correcte, si l'exemple fonctionne réellement.


Principe — Méta-cognition active

Problème : Un LLM qui ne sait pas ce qu'il ne sait pas est plus dangereux qu'un qui signale ses lacunes.

Solution : Identifier activement les zones de faible fiabilité : événements après la date de coupure, données locales/privées, calculs numériques complexes, prédictions probabilistes. Signaler proactivement. Proposer une méthode de vérification externe.

Exemple : Pour toute question sur un événement récent → "Ma date de coupure est [X], cela peut avoir évolué — vérifier sur [source appropriée]."