KI in SAP On-Premises: Architektur, Integration und Alternativen zu SAP Joule

Wie KI im SAP-Kontext gedacht werden sollte

Wer über KI im SAP-Umfeld spricht, kommt an Joule nicht vorbei. Als integrierter KI-Companion unterstützt er User in SAP-Anwendungen, beantwortet Fragen und entwickelt sich zunehmend zu einem proaktiven Agenten.

Doch KI kann auch in SAP abseits von Joule funktionieren. Denn am Ende ist der Copilot auch nur die Kombination aus Benutzeroberfläche, KI-Modell und Zugriff auf SAP-Daten. Dieses Prinzip ist nicht an ein bestimmtes Produkt gebunden. Im Gegenteil, es lässt sich unabhängig von Joule – und unabhängig vom Betriebsmodell – umsetzen.

Dies ist vor allem für ein On-Premises-Umfeld interessant, in dem Unternehmen eigene Architekturen aufbauen und hierfür verstehen müssen, wie sie KI produktunabhängig in ihre Prozesse integrieren können.

Drei zentrale Bausteine von KI in SAP

Unabhängig davon, ob KI in der Cloud, hybrid oder On-Premises eingesetzt wird, basiert sie im SAP-Kontext auf drei Komponenten:

• einem Interface, über das Anwender mit dem System interagieren (z. B. Chat, Fiori App oder Web-Frontend)
• einem KI-Modell, das Eingaben interpretiert und verarbeitet
• einer Anbindung an SAP-Daten und -Prozesse

Da diese Elemente alle voneinander entkoppelt sind, lassen sie sich flexibel kombinieren. Genau darin liegt auch der entscheidende Unterschied zu klassischen, fest integrierten Funktionen:

KI ist kein einzelnes Feature, sondern entsteht aus dem Zusammenspiel mehrerer Komponenten.

Make-or-Buy-Analyse für KI-Projekte

Wir beraten Sie mit einer Make-or-Buy-Analyse für KI-Projekte individuell zu Ihrem konkreten Anwendungsfall und prüfen, ob Ihre KI-Lösung intern entwickelt oder extern eingekauft werden sollte. So erhalten Sie eine fundierte Entscheidungsvorlage, mit der Sie Risiken frühzeitig minimieren, Fehlinvestitionen vermeiden und Ihre KI-Initiative zielgerichtet umsetzen.

zum Angebot

Integration einer individuellen KI-Lösung im SAP-Kontext

Die Integration von KI sollte immer mit den klassischen Fragen beginnen: Wer ist der Anwender? Wo findet die Interaktion statt? Und welche Informationen oder Aktionen werden benötigt?

Aus diesen Anforderungen ergibt sich zunächst die Frage nach dem User Interface. Die Interaktionen können über eine Fiori App, ein bestehendes Web-Portal, Microsoft Teams oder ein separates Chat-Widget erfolgen. Dieses Frontend ist technisch vergleichsweise trivial und weitgehend unabhängig vom SAP-System selbst.

Der eigentliche Mehrwert entsteht erst durch die Anbindung an SAP-Daten und -Prozesse. Diese Integration kann sowohl über direkte API-Zugriffe als auch über vorgelagerte Datenaufbereitung erfolgen:

• Exportierte Daten (Retrieval/Vektorisierung): Relevante Inhalte aus SAP wie Dokumentationen, Stammdaten oder Tabellen werden periodisch extrahiert, vektorisiert und in einer Vektor-Datenbank abgelegt, sodass das KI-Modell diese Daten als Wissensbasis für Anfragen nutzen kann. Der Ansatz ist etabliert und vergleichsweise einfach umzusetzen, eignet sich jedoch vor allem für statische oder selten veränderliche Informationen und ist für Echtzeit-Szenarien wie den aktuellen Auftragsstatus nur eingeschränkt geeignet.
• Live-Integration (API-basiert): Das KI-Modell greift zur Laufzeit direkt über definierte Schnittstellen auf das SAP-System zu, typischerweise über OData– oder REST-APIs. Über eine zwischengelagerte Kontext- und Steuerungsschicht (z. B. Model Context Protocol) wird festgelegt, welche SAP-Schnittstellen verfügbar sind, welche Aktionen erlaubt sind und in welchem Kontext sie genutzt werden dürfen. Dadurch lassen sich Echtzeitabfragen und transaktionale Aktionen direkt aus dem Dialog heraus umsetzen.

Für die strukturierte Verbindung dieser Komponenten braucht es eine zentrale Instanz zur Steuerung von Schnittstellen. Hier kommt die SAP Business Technology Platform als Integrations- und Orchestrierungsebene ins Spiel. Sie führt SAP-Systeme, externe Services und KI-Modelle zusammen oder fungiert als Bindeglied in hybriden Szenarien zwischen On-Premises-Systemen und Cloud-basierten KI-Services.

Die SAP BTP schafft die Voraussetzungen dafür, dass KI kontrolliert, sicher und konsistent in bestehende SAP-Prozesse eingebunden werden kann.

Webinar: Eingehende Dokumente vollständig automatisieren – wie KI Ihr Unternehmen produktiver macht

Eingehende Dokumente, die automatisch erkannt, kategorisiert, an die richtige Person weitergeleitet und beantwortet werden – das alles ist möglich mit einem KI-Dokumentenmanager.

Jetzt anmelden

Large Language Models im SAP-Kontext

Die Aufgabe von LLMs in dieser Architektur ist es, Eingaben zu interpretieren und in strukturierte Aktionen oder Abfragen zu übersetzen. Sie arbeiten dabei ausschließlich innerhalb der Grenzen, die durch freigegebene Schnittstellen, Berechtigungen und Prozesslogik definiert sind. Welche Aktionen möglich sind, welche Daten gelesen oder verändert werden dürfen und in welchem Kontext dies geschieht, ist Ergebnis klassischer Integrations- und Designarbeit.

Gerade im SAP-On-Premises-Umfeld liegt die Verantwortung für Annahmen, Schnittstellen und Abläufe vollständig beim Unternehmen, während SAP im Cloud-Standard entsprechende Use-Case-Logiken bereits vorgibt. On-Premises müssen Use Cases explizit modelliert und technisch umgesetzt werden. Das ist aufwändiger, ermöglicht aber die Abbildung unternehmensspezifischer Prozesse, die über den SAP-Standard und generische Cloud-Szenarien hinausgehen.

Organisation und Architektur gehören zusammen

Für den effektiven KI-Einsatz braucht es nicht nur eine tragfähige technische Architektur, sondern auch eine funktionierende Verankerung in der Organisation. Dies geschieht meist auf einem von zwei Wegen:

• Top-down: Es wird eine zentrale KI- oder Digitalisierungsinitiative auf Unternehmensebene gestartet, bei der eine einheitliche KI-Plattform als zentraler Einstiegspunkt für alle Anwender aufgebaut wird. Dahinter werden unterschiedliche Anwendungsfälle angebunden, zum Beispiel ein SAP-Agent oder weitere Agenten für Wissens- oder Analytics-Quellen.
• Bottom-up: Eine KI-Initiative entsteht aus konkreten Use Cases einzelner Bereiche, häufig direkt aus dem SAP-Team heraus, etwa zur Entlastung von Support oder Fachbereichen. Der Fokus liegt auf Umsetzbarkeit und unmittelbarem Nutzen, oft ohne übergreifende KI-Strategie.

Beide Ansätze sind grundsätzlich valide. Kritisch wird es jedoch, wenn isolierte Lösungen entstehen, die nicht in eine übergreifende Architektur eingebettet sind. Ohne Abstimmung entstehen schnell parallele Strukturen, die langfristig zusätzlichen Aufwand verursachen.

NEU: E-Book: 40 Use Cases von KI in Unternehmen

In diesem kostenlosen E-Book finden Sie konkrete Beispiele, wie KI in den verschiedensten Abteilungen eines Unternehmens Mehrwert schaffen kann.

Jetzt herunterladen

NEU: E-Book: 40 Use Cases von KI in Unternehmen

×

KI im SAP-On-Premises-Umfeld richtig angehen

KI im SAP-Kontext ist keine Standardfunktion. Zwar gibt es mit Joule eine ready-to-use Lösung, doch für On-Premises-Infrastrukturen müssen Unternehmen Alternativen finden. Und diese müssen Joule in nichts nachstehen. Denn der Nutzen von KI hängt nicht an einem spezifischen Tool.

Unabhängig von Cloud- oder On-Premises-Modellen kann KI als Erweiterung gezielt in das System integriert werden. Hierzu braucht es eine zur Systemlandschaft passende Architektur mit klaren Schnittstellen und eine konsequente Einbettung in bestehende Prozesse. Dann kann KI auch ohne Standardtool Abläufe wirksam unterstützen oder automatisieren – schrittweise, kontrolliert und entlang realer betrieblicher Anforderungen.

Philipp Schurr

Ich helfe dabei, Integrationslösungen für Systemlandschaften nach dem aktuellen Stand der Technik einzuführen. Als Management & Technologieberater für Integration & Schnittstellen verbinde ich tiefgehende technische Expertise mit langjährigem Projektleitungs-Knowhow. Diese Kombination liefert mir die Grundlage, meine Kunden-Projekte zum Erfolg zu führen.

Sie haben Fragen? Kontaktieren Sie mich!