Philipp Herzig, CTO de SAP
SAP Sapphire 2026 (Madrid) - Pour les processus critiques des entreprises, l'approximation n'est pas une option. Contrairement aux cas d'usage grand public où une IA générative probabiliste (qui devine la suite logique d'un texte) peut suffire, les applications de clôture financière ou de réparation d'éoliennes exigent des résultats déterministes et exacts.
Positionner SAP comme un acteur de l'IA demande donc à Philipp Herzig, le CTO de l'entreprise, d'aller au delà du couple LLM / données, soit l'approche standard de l'IA générative. Dans le monde du progiciel et des ERP, il construit une architecture sur mesure pour pallier ce problème.
Le Knowledge Graph : l'antidote indispensable contre les hallucinations
Philipp Herzig explique que prendre un grand modèle de langage (LLM) comme Gemini ou Claude et le brancher directement sur un système SAP contenant environ 10 000 APIs est voué à l'échec.
« Brancher un LLM seul ne fonctionne pas. Ca hallucine comme pas possible », dit-il. « peut-être que cela va marcher pour un ou deux résultats, mais les résultats ne sont pas viables à grande échelle. »
La parade de SAP repose sur un "Knowledge Graph" (graphe de connaissances) d'une ampleur colossale. Ce graphe agit comme une cartographie structurée qui vient ancrer le raisonnement du LLM dans la réalité et le contexte de l'entreprise.
Et cette couche de "harness", qui lie les LLM et les données clients se retrouve désormais dans les offres de tous les géants du progiciel, qu'il s'agisse de Atlassian, de ServiceNow, ou encore de ZenDesk.
Mais côté SAP, rien que pour les environnements S/4HANA et SuccessFactors, ce graphe rassemble pas moins de 700 millions de relations (ou "triplets"). À ce socle, il faut encore ajouter la complexité liée à chaque client, qui vient y greffer ses propres champs personnalisés et objets métiers spécifiques.
Un volume de données beaucoup trop vaste pour tenir dans la fenêtre de contexte d'un LLM
Bien sûr, cette immensité crée un nouveau défi d'ingénierie majeur. Le CTO souligne que ces 700 millions de relations représentent un volume de données beaucoup trop vaste pour tenir dans la fenêtre de contexte d'un LLM, même celles atteignant des millions de tokens.
L'exploit technologique de SAP consiste donc à être capable de découper, d'isoler et d'extraire dynamiquement la seule portion du graphe pertinente pour répondre à la requête de l'utilisateur.
De plus, les métadonnées des systèmes étant parfois incomplètes, l'éditeur a dû mobiliser ses experts métiers pour créer des pipelines de données complexes visant à enrichir manuellement ce graphe.
Mais au delà des utilisateurs humains des systèmes SAP, la mission du Knowledge Graph est aussi de fournir une cartographie pour permettre aux agents IA d'agir de manière autonome. Reste que ce degré d'autonomie doit aussi être maîtrisé.
La "Company Memory" : l'IA qui apprend des exceptions humaines
C'est ici qu'intervient la Company Memory présentée par SAP. Elle le définit comme un un sas d'apprentissage qui capte au niveau des agents d'IA toutes les exceptions qui nécessitent le jugement ou l'intervention d'un humain.
Ces décisions manuelles sont ensuite analysées par le système pour déterminer si elles traduisent un nouveau besoin métier devant devenir une règle de fonctionnement standard. Une fois validées, ces nouvelles règles sont réinjectées sous forme de données structurées dans le Knowledge Graph, ce qui enrichit continuellement la base de connaissances et améliore la capacité de raisonnement futur des agents.
« Lorsqu'un agent fait face à un cas de figure ambigu, il met son action en pause et sollicite l'humain, par exemple via une simple notification push, lui demandant ses directives ou son approbation sur un compromis » détaille le CTO de SAP.
Cette boucle de rétroaction permet aux agents IA d'améliorer continuellement leur capacité de raisonnement, s'assurant que l'intelligence du système évolue au même rythme que les processus de l'entreprise.
