Peut-on faire confiance à l’IA générative en Finance ?
Nous allons ici analyser le lien contre nature, mais pertinent s’il est mis sous contrôle, entre une Finance ancrée sur son besoin de vérité et l’arrivée à son service d’une IA générative* dont la force est justement d’inventer du narratif mais aussi des chiffres. Paradoxe irréconciliable ?
La Finance c’est d’abord une histoire de confiance
C’est universel ! Dans tous les départements Finance nous cherchons à avoir plus de données pour comprendre le business et contextualiser la situation et son évolution. Pourtant, à choisir, nous préférons avoir moins de chiffres mais avec uniquement des données de confiance plutôt qu’une armada de tableaux de bord clignotants dont la véracité est douteuse.
Pourquoi ? Car nous sommes au centre de décisions clés. Ces chiffres et analyses servent à prendre des décisions clés. Je clôture telle ligne de produit, j’arrête tel fournisseur, je duplique telle démarche marketing, j’investis dans telle nouvelle ligne de production. J’annonce tel revenu pour la fin d’année. Ces décisions ont d’énormes impacts humains et économiques.
| 💡 À retenir : Moins de chiffres mais fiables vaut mieux qu’une masse de données douteuses. |
La Finance c’est aussi une histoire d’explicabilité
Au-delà du chiffre qui permet de prendre cette décision, l’explicabilité de ce chiffre est aussi clé. Lorsqu’on annonce à un responsable de BU qui pèse plusieurs milliards qu’il n’atteint pas ses objectifs et que, par conséquent, on va prendre telle ou telle action corrective, il faut pouvoir argumenter, documenter et être sûr de ses sources. C’est la notion d’explicabilité.
Et régulièrement nous croisons des contrôleurs de gestion qui passent 1h à produire une analyse et 1h de plus à en contrôler la méthode de calcul et les sources. Combien de réunions se sont terminées au bout de 5 minutes car personne n’était aligné sur les chiffres ?
C’est dans l’ADN de la Finance et cela permet aussi de passer directement à l’action sans tergiverser sur les chiffres.
| 💡 À retenir : Un chiffre sans source ni méthode documentée ne vaut rien face à un responsable de BU. |
L’IA générative c’est d’abord une histoire de créativité
L’IA Générative est cette famille d’algorithmes basés sur les LLM* qui a cette fascinante capacité à générer du texte en langage naturel qui paraît totalement réaliste. Et pour cause, les gros LLM du marché ont analysé l’intégralité du web mondial et sont capables, à partir d’un morceau de phrase ou d’une question, de prédire les enchaînements de mots les plus crédibles par rapport au contexte. Ce ne sont pas exactement les plus pertinents, ce sont les mots statistiquement les plus probables de sa vision numérique du monde. Ce n’est donc pas le plus juste via un raisonnement logique qui est produit, c’est la génération du plus probable.
Autre nuance importante : pour donner encore plus l’illusion de naturel, les enchaînements de mots ne sont pas toujours ceux avec la plus forte probabilité mais tirés au sort parmi les plus probables. Pourquoi ? Pour donner une impression de naturel. Si vous lui posez deux fois la même question, il tournera la phrase de deux manières différentes avec de petites nuances. On s’éloigne encore plus d’une logique déterministe qui, via une déduction documentée, amène à un résultat stable.
C’est sur ce principe que ChatGPT, Claude, Mistral ou Gemini vous répondent de manière si fluide quel que soit le contexte.
| 💡 À retenir : Un LLM génère le mot le plus probable, pas le plus vrai. |
L’IA générative ne sait ni compter, ni s’expliquer : et c’est là son principal risque
Un LLM seul n’a aucune logique calculatoire. S’il répond correctement à « 2+2= », ce n’est pas parce qu’il a calculé, mais parce qu’il a vu cette réponse des millions de fois dans ses données d’entraînement. Dès qu’on s’éloigne de calculs simples ou très documentés, un LLM seul peut « halluciner » : inventer un résultat qui paraît réel, sans jamais détecter l’erreur, et parfois rebondir dessus en toute confiance.
Cette limite est aggravée par un second problème : l’inexplicabilité. Même quand on entraîne un LLM à décomposer son raisonnement en étapes plus lisibles, ces étapes restent des probabilités, jamais une déduction logique et reproductible qu’on pourrait auditer pas à pas. Pour votre fonction, qui vit de traçabilité et d’argumentation face à un responsable de BU, c’est le point de vigilance numéro un.
La bonne nouvelle : ce risque est identifié, compris, et on sait déjà le mettre sous contrôle, c’est tout l’objet de la suite de cet article.
| 💡 À retenir : Un LLM seul ne calcule pas et ne peut pas justifier son raisonnement pas à pas. |
Comment concilier hallucination IA et Finance ?
On voit donc que sur le papier la combinaison brute de la Finance et de l’IA générative semble antinomique et explosive. Pourtant il y a un énorme potentiel si l’on respecte bien deux règles essentielles :
- Connaissant ses limites et ses forces, n’appliquer l’IA générative que là où elle a du sens…
- La mettre sous contrôle et la valider…
Rien de très nouveau en somme. Détaillons cette approche.
| 💡 À retenir : N’appliquer l’IA que là où elle a du sens, et toujours la valider. |
L’IA générative est une mauvaise calculette mais une excellente analyste
En Finance vous ne travaillez pas qu’avec des chiffres. Les décisions qu’on vous demande de prendre se basent certes sur des chiffres, mais aussi sur des informations de contexte qui, elles, peuvent être narratives, graphiques, vidéos… Le contexte du marché, le comportement de la concurrence, le climat socio-économique, l’évolution des normes, vos propres règles internes d’une division à l’autre… ce sont autant de formats que ce type d’algorithme est pertinent pour relier, analyser et synthétiser. Entraînés spécifiquement pour la Finance, les agents IA* sont d’excellents analystes qui peuvent absorber et contextualiser une masse d’information que vous ne pourriez traiter autrement.
| 💡 À retenir : L’IA générative excelle à analyser du contexte, pas à calculer. |
L’IA générative est la voix et le pilote de votre calculetteal risque
Certes les LLM ne savent pas calculer, en revanche ils sont les nouveaux traducteurs et analystes entre vous et vos outils complexes.
Prenons un exemple concret : expliquer un écart de -8% sur une ligne de coûts par rapport au budget lors d’une clôture. Traditionnellement, un contrôleur de gestion croise manuellement plusieurs sources — l’extraction de son outil EPM, les commentaires remontés par les filiales, l’historique des mois précédents — pour rédiger un commentaire d’écart argumenté. Ce travail prend facilement 30 à 45 minutes par ligne significative, répété sur des dizaines de lignes chaque clôture.
Avec un agent IA correctement paramétré, la mécanique change : l’outil de calcul (votre EPM) produit l’écart exact et vérifiable : la donnée déterministe ne change pas de main. L’agent IA vient ensuite lire les commentaires de filiales, les recouper avec l’historique, identifier les causes récurrentes, et rédiger un premier draft de commentaire structuré. Le contrôleur de gestion passe alors son temps non plus à chercher et rédiger, mais à vérifier, challenger et enrichir, ramenant le travail à 10-15 minutes de contrôle qualité plutôt que 30-45 minutes de production.
Le gain n’est donc pas de produire un chiffre différent : le chiffre reste le même, produit par le même outil de calcul fiable. Mais de libérer du temps de contrôleur de gestion sur la partie la plus chronophage et la moins analytique du travail. Les outils font des calculs déterministes* dont on peut être sûr à 100%, et les LLM se chargent de rédiger le contexte et de leur transmettre les bonnes hypothèses. Chaque solution se focalise sur ses forces pour une combinaison qui multiplie le potentiel de vos équipes.
| 💡 À retenir : Plusieurs agents spécialisés valent mieux qu’un agent unique généraliste. |
Des petits agents IA spécialisés sont plus simples à contrôler
Pour réduire les hallucinations dans vos futurs agents, une technique simple consiste à décomposer les tâches qu’on leur confie en sous-tâches, chacune étant affectée à un agent dédié. Cette technique permet d’entraîner plus facilement ces algorithmes et de réduire leurs hallucinations, car ils sont moins soumis à des contextes qu’ils ne connaissent pas.
Ainsi on pourrait avoir un agent unique à qui l’on pose toutes les questions de type recherche documentaire, analyse du P&L, consolidation des commentaires des filiales, identification des causes, ou production de reportings… Mais il serait extrêmement complexe à entraîner correctement et très sensible à toute évolution de périmètre ou de données.
On privilégie donc une collection d’agents qui collaborent entre eux. On y trouve souvent un agent « Pilote & synthèse » qui reçoit les questions et les réoriente vers les bons sous-agents (analyste, mise en forme, recherche web…) et synthétise les résultats. Chacun est plus spécialisé et plus facile à contrôler et à faire évoluer.
| 💡 À retenir : Tout agent IA devrait avoir son propre garde-fou IA. |
Une bonne gouvernance et qualité de donnée améliore la pertinence des agents IA
C’est la partie que personne n’a envie de lire. Non, l’IA générative n’est pas magique. Si vos données sont chaotiques, silotées, incohérentes d’une source à l’autre et avec des définitions métiers à géométrie variable, alors IA ou pas IA vous produirez des hallucinations = des chiffres que vous croyez réels mais qui n’ont pas de réalité. Rajouter un agent IA en autonomie sur ces périmètres augmente grandement le potentiel d’hallucination.
Exploiter le potentiel de l’IA générative implique donc une gouvernance et une qualité de donnée à niveau. L’IA peut aider à mettre en qualité, mais ne peut le faire sans vous.
| 💡 À retenir : Sans données de qualité, l’IA amplifie les hallucinations plutôt qu’elle ne les évite. |
L’IA générative pose aussi la question de savoir où partent vos données
Il y a un risque que nous n’avons pas encore abordé et qui inquiète souvent plus vite que l’hallucination : que deviennent les données une fois saisies dans un outil d’IA générative ? La différence est fondamentale entre un usage grand public, où les données peuvent être conservées et réutilisées par l’éditeur, et un usage d’entreprise sécurisé, où elles sont contractuellement protégées et non réutilisées pour l’entraînement des modèles.
Coller un extrait de P&L ou une négociation fournisseur dans un outil non validé revient à faire sortir une donnée sensible de votre périmètre de contrôle — c’est ce qu’on appelle le « Shadow AI ». La règle est simple : les mêmes réflexes de confidentialité qui s’appliquent à un email s’appliquent à un prompt IA. Et ce n’est pas un vide réglementaire : l’AI Act européen et vos contrôles internes (SOX ou équivalent) s’appliquent aux résultats produits par une IA exactement comme à n’importe quel autre résultat.
| 💡 À retenir : Un prompt IA mérite les mêmes réflexes de confidentialité qu’un email. |
Toujours, toujours garder l’humain dans la boucle
Même avec ces précautions, il reste toujours des risques d’hallucination. Oui, notre puissance d’analyse va être multipliée, oui notre temps de passage à l’action va être réduit, mais ne négligeons jamais le temps de contrôle et de validation des résultats. C’est dans notre nature, dans nos attributions, et cela devrait être naturel. Nous restons les responsables des chiffres et des analyses produites. Une partie de l’évolution de notre rôle va être de comprendre quand et pourquoi ils hallucinent et d’enrichir les garde-fous et les contrôles que nous leur appliquerons.
| 💡 À retenir : L’IA multiplie votre puissance d’analyse, mais vous restez responsable du résultat. |
En résumé : Il n’y a donc pas de paradoxe à mixer Finance et IA générative.
C’est un nouveau binôme extrêmement puissant qui ne se contente pas de faire plus vite des tâches existantes, mais ouvre de nouvelles analyses et projections jusqu’ici humainement impossibles. Son intégration doit être progressive, en l’appliquant là où elle a du sens, tout en contrôlant ses potentielles dérives et surtout en ne nous déchargeant jamais de notre rôle de responsable du résultat.
FAQ
Peut-on faire confiance à l’IA générative pour produire des chiffres Finance ?
Non, pas seule. Un LLM peut halluciner sur des calculs complexes. Les chiffres doivent toujours provenir d’un outil de calcul déterministe (EPM, ERP…), l’IA générative se chargeant du contexte et de la synthèse.
Quel est le principal risque de l’IA générative en Finance ?
Deux risques principaux : l’hallucination (un résultat inventé qui paraît réel) et la sécurité des données (Shadow AI, usage d’outils non validés par l’organisation).
Comment réduire les risques d’hallucination des agents IA ?
En décomposant les tâches entre agents spécialisés plus faciles à entraîner et à contrôler, en ajoutant des agents de contrôle qualité dédiés, et en gardant systématiquement une validation humaine.
L’IA générative remplace-t-elle le contrôleur de gestion ?
Non. Elle automatise les tâches de recherche, de recoupement et de rédaction de premier niveau, mais la responsabilité du résultat et sa validation restent humaines.
Glossaire
IA Générative : famille d’algorithmes basés sur les LLM, capables de générer du texte, des images ou d’autres contenus en langage naturel à partir d’une instruction.
LLM (Large Language Model) : modèle de langage entraîné sur d’immenses volumes de texte, qui prédit l’enchaînement de mots le plus probable dans un contexte donné.
Agent IA : programme construit autour d’un ou plusieurs LLM, spécialisé sur une tâche métier (analyse, recherche, synthèse…) et pouvant interagir avec d’autres outils.
Calcul déterministe : calcul dont le résultat est toujours identique pour les mêmes données d’entrée, par opposition à une génération probabiliste de type LLM.
