KI-Anwendungen in SAP On-Premise mit dem Milliarum AI Construction Kit

Mit dem Milliarum AI Construction Kit nutzen Sie generative KI direkt in Ihrem SAP-System: per Sprache auf ERP-Daten zugreifen, SAP-Funktionen von KI-Agenten ausführen lassen und die Berechtigungen Ihres SAP-Systems dabei weiter anwenden. Das Kit läuft in S/4HANA, in der SAP Private Cloud und auf ECC-Systemen und lässt sich mit lokalen oder Cloud-basierten KI-Modellen betreiben.

1.500+

vordefinierte AI-Funktionen

35+

Personas (Agenten)

14

unterstützte SAP-Module

90–99 %

weniger Eingabetokens bei großen Datenmengen

Vom Chatbot bis zur eigenen KI-Anwendung

Sie können mit einer fertigen Chatbot-App starten oder mit dem Construction Kit eigene KI-Anwendungen in SAP entwickeln. Beide Wege nutzen dieselbe Infrastruktur.

App „Allgemeiner Chatbot“ (No-Code)

Sprachbasierte Interaktion mit SAP und Large Language Models (LLMs).

  • Chat und SAP-UI5-Oberfläche in einer Anwendung
  • Automatisierte Benutzerunterstützung bei der Nutzung von SAP-Funktionen
  • KI-Modell-Anbindung lokal, in der Cloud oder über SAP AI Core (Open Source oder proprietär)
  • Unterstützung der neuesten Modellfamilien, z. B. Anthropic Claude 5 und 5.5 (Sonnet, Opus, Fable) sowie OpenAI GPT 5.6 und GPT 6
  • Customizing-Umgebung, um beliebige SAP-Tabellen, F4-Suchhilfen und CDS-Views als „Datasources“ einzubinden, ganz ohne Programmierung
  • Personas definieren Agenten mit Funktionen, Prompts und dem passenden Modell
  • Lauffähig in S/4HANA (und SAP Private Cloud) sowie SAP ERP EHP7/8

Milliarum AI Construction Kit (Pro-Code)

Alles aus dem Allgemeinen Chatbot, plus Werkzeuge für weitergehende KI-Anforderungen.

  • Entwicklungsumgebung in SAP ABAP, um Chatbots mit SAPUI5 zu erstellen
  • Zugriff auf AI-Funktionen über Ihre vorhandene SAP-Infrastruktur: Berechtigungen und Rollen, BAPIs, Funktionsbausteine, Suchhilfen, Datenelemente, Set-/Get-Parameter
  • Eigene Konnektoren zur Anbindung von LLMs
  • MCP-Server und MCP-Client für den externen Zugriff über das Model Context Protocol
  • OData-Service, z. B. für die Integration in SAP Joule
  • Über 1.500 vordefinierte AI-Funktionen zur Auswertung von ERP-Daten (ab S/4HANA 2023 FPS02 und in der SAP Private Cloud)
Oberfläche des Milliarum Chatbots mit Chat und SAP-UI5-Elementen in einer Anwendung

Der Chatbot kombiniert Chat und SAP-UI5-Oberfläche in einer Anwendung.

ERP-Daten in natürlicher Sprache auswerten

Im Lieferumfang des Kits sind über 35 vordefinierte Personas enthalten, nach SAP-Modulen gegliedert. Sie werten komplexe ERP-Daten auf Basis von CDS-Views aus und beachten dabei die SAP-Berechtigungen. Eine Anfrage wie „Zeige mir Daten zu PSP-Element 90001.1“ genügt: Das System wählt aus über 1.500 AI-Funktionen die passende aus und führt sie aus. Dabei kann es zwischen Modulen springen, zum Beispiel von PS zu Real Estate, und es zeigt Alternativen an, wenn eine Funktion nicht verfügbar ist.

Personas lassen sich mit beliebig vielen Funktionen ausstatten. Eine integrierte tool_search-Funktion verwaltet diese Funktionen modellunabhängig. Auch Auswertungen mit integrierten Grafikfunktionen sind möglich.

Unterstützte SAP-Module

CS

CO

FI

EHS

LE

MM

PLM

PSM

PP

PM

QS

PS

RE-FX

SD

Inhalte: Customizing-Daten, Stammdaten und Abwicklungsobjekte wie Aufträge, Bestellungen, Kundenaufträge und Belege.

Dokumentation und Blogs finden Sie in der Milliarum-Produktdokumentation unter „AI Construction Kit“.

Chat-Antwort mit den Stammdaten zum PSP-Element 90001.1 in tabellarischer Darstellung

Prompt: „Zeige mir Daten zu PSP-Element 90001.1 an“. Das System wählt die passende AI-Funktion selbst aus.

Chat-Antwort mit Tortendiagramm zur Auswertung von Netzplanvorgängen

Auswertung mit integrierten Grafikfunktionen, hier zu Netzplanvorgängen und Rückmeldetexten.

Große Datenmengen ohne Kontext-Überlauf

Die Herausforderung

  • KI-Modelle mit begrenztem Kontextfenster können keine großen Datenmengen verarbeiten.
  • Bei großen Kontextfenstern steigen die Kosten stark, vor allem bei der Ausgabe von Daten.

Der Milliarum-Ansatz

  • Über „Programmatic Tool Calling“ werden Daten beim Modellanbieter (Anthropic/OpenAI) oder im SAP-System* verarbeitet und nicht an das Modell übergeben.
  • Die Kosten bleiben im Rahmen, weil die Eingabetokens um 90 bis 99 % sinken.

* Verarbeitung im SAP-System verfügbar ab 12/2026.

Chat-Auswertung über alle Projektdefinitionen und PSP-Elemente mit Ergebnistabellen

Beispiel: Abgleich aller Projektdefinitionen und PSP-Elemente. Das Ergebnis: 1.159 PSP-Elemente mit abweichendem Verantwortlichen.

Drei Betriebsmodelle, ein Funktionsumfang

Personas, AI-Funktionen und der Zugriff auf ERP-Daten laufen immer im SAP-System. Sie wählen, wo das KI-Modell betrieben wird.

Lokal in SAP On-Premise

Ohne Cloud-Zugriff, auf S/4HANA oder ECC.

  • SAP-Daten und KI-Inferenz bleiben im eigenen Rechenzentrum.
  • Inference-Server über vLLM (Open Source) oder einen anderen OpenAI-kompatiblen Server mit Tool Calling, z. B. SGLang, Triton oder TGI.
  • Empfohlene kleinste Open-Source-Modelle: Gemma 31B oder Qwen 3.8 27B.
  • Ein OpenAI-kompatibler Konnektor für vLLM gehört zum Lieferumfang.
  • Hardware: Server mit NVIDIA-Grafikkarte und mindestens 96 GB VRAM, z. B. RTX 6000 PRO.

Hinweis: Im Vergleich zu OpenAI- oder Anthropic-Konnektoren gibt es keine PDF-Unterstützung (nur Grafikdateien), kein integriertes RAG und kein Code-Generierungs-Tool. Diese Funktionen lassen sich serverseitig ergänzen, z. B. PDF-Support über Kreuzberg (Xberg) oder docling.

Architekturdiagramm: Milliarum AI Construction Kit in einer reinen On-Premise-Landschaft

Architektur in einer reinen On-Premise-Landschaft

Hybrid: On-Premise plus Cloud-Modelle

SAP-nahe Ausführung vor Ort, leistungsfähige Modelle per API.

  • Modelle wie OpenAI werden per API angebunden, ein eigener Inference-Server und lokale GPU-Infrastruktur entfallen.
  • Konnektoren und modellunabhängige Personas unterstützen verschiedene Anbieter. Ein Modellwechsel erfordert keinen Umbau der SAP-Logik.
  • Je nach Anbieter stehen PDF-Verarbeitung, RAG und Code-Tools ohne lokale Servererweiterungen bereit.

Hinweis: Beim hybriden Ansatz werden Modellanfragen und Antworten an den gewählten Cloud-Anbieter übertragen. Datenklassifizierung, Vertragsbedingungen, Region, Protokollierung und Aufbewahrung sollten Sie vor dem produktiven Einsatz festlegen.

Architekturdiagramm: Milliarum AI Construction Kit mit SAP On-Premise und Cloud-Modellen

Architektur des hybriden Ansatzes

S/4HANA Private Cloud

Die vorhandene SAP-Basis beschleunigt den Weg zur produktiven KI-Anwendung.

  • Das Kit läuft ab S/4HANA 2023 FPS02 und nutzt die vorhandene ABAP- und SAPUI5-Infrastruktur.
  • Konnektoren unterstützen Cloud- und lokale Modelle bei beliebigen Providern.
  • Personas und Agenten werden per Customizing dem optimalen Modell zugeordnet, nach Qualität, Geschwindigkeit und Kosten.
  • OData und/oder A2A verbinden Personas mit SAP Joule, MCP stellt SAP-Funktionen für weitere KI-Anwendungen bereit.
Architekturdiagramm: Milliarum AI Construction Kit in der S/4HANA Private Cloud

Architektur in der S/4HANA Private Cloud

In allen Szenarien greifen die AI-Funktionen unter Beachtung der vorhandenen SAP-Rollen und Berechtigungen auf Daten zu. Die ABAP- und SAPUI5-Umgebung bindet BAPIs, Funktionsbausteine, Suchhilfen und CDS-Views direkt ein.

MCP-Server mit SAP BTP

ABAP-basierte AI-Funktionen lassen sich in externen KI-Anwendungen nutzen, sicher und mit den Berechtigungen Ihres SAP-Systems.

  • KI-Personas und SAP-Funktionalität in Anwendungen wie Claude, ChatGPT oder Mistral (Chats und Agenten) oder in eigenen Anwendungen
  • Sicherer Zugriff auf interne Daten über OAuth und Principal Propagation via SAP BTP
  • Absicherung der Destinations über Attribute, Scopes, Rollen und Role Collections in SAP BTP
  • Backend in ABAP mit OData-Schnittstelle, MCP-Server in SAP BTP (Python)

Beispiel: Ein Chat mit SAP-PPM-Portfoliodaten in Claude über aktivierte MCP-Server. In Teams- und Enterprise-Plänen legen Sie die Konnektoren zentral fest und bestimmen die zulässigen Tools.

Übersichtsbild zur MCP-Integration: externe Anwendung, SAP BTP und SAP-System

MCP-Übersicht: externe Anwendung, MCP-Server in SAP BTP und SAP-Backend.

Claude-Chat mit Auswahl der aktivierten SAP-PPM-Konnektoren

Die SAP-PPM-MCP-Server werden in Claude über Konnektoren aktiviert.

Von Claude erzeugtes Dashboard mit Diagrammen zu Portfoliodaten aus SAP PPM

Das Ergebnis einer Abfrage über MCP-Server, per Claude Code live als Dashboard programmiert.

Integration in SAP Joule

Joule lässt sich über SAP Build Process Automation und „Actions“ mit SAP-On-Premise-Systemen verbinden.

  • Milliarum stellt einen zentralen OData-Service bereit, der Personas mit Actions verknüpft.
  • Ein Joule Skill wählt die Persona aus und führt sie über den OData-Service aus.
  • Im Joule Agent legen Sie System-Prompts fest, fügen den Skill als Tool hinzu und wählen Modellanbieter und Modell.
  • Die Unterstützung des A2A-Protokolls (Agent2Agent) für die Joule-Integration ist für Q4/2026 geplant.
Test des Joule Agents mit Persona-Aufruf über den Milliarum OData-Service

Test des Joule Agents, der eine Milliarum-Persona über den OData-Service aufruft.

Beispielhafte Use-Cases

Allgemein

  • Chat mit der Anwendungsdokumentation (Markdown) und Absprung in die SAP-Anwendung

Produktdatenmanagement (PDM)

  • Chat mit intern freigegebenen Dokumenten aus SAP DMS

Vertrieb (SD)

  • Abfrage aktueller Daten zu Kundenaufträgen, Anfragen und Angeboten sowie von Preisinformationen in natürlicher Sprache, z. B. für das Call Center
  • Konsistenzcheck von Kundenstammdaten, z. B. von Adressdaten

PPM: Portfolioelemente

  • Vereinfachte Anlage von Projektideen für Gelegenheitsnutzer
  • Anlage von Portfolioelementen aus Dokumenten und Bildern

PPM: Projekt- und Ressourcenmanagement

  • Ressourcenmanagement-Auswertungen über Organisationseinheiten, mit einfacherem SAP-Zugang für Ressourcenmanager
  • Anlage von PPM-Projektstrukturen aus Excel-Dateien

Projektsystem (PS)

  • Auswertung von Projektstrukturen und Erkennung von Auffälligkeiten
  • Auswertung von Netzplanvorgangsrückmeldungen für das R&D-Controlling

Weitere Beispiele finden Sie in der Milliarum-Produktdokumentation unter „AI Construction Kit“ im Bereich „Blogs“.

Berechnen Sie Ihre Lizenzkosten und fordern Sie ein individuelles Angebot an

    Lizenzkosten berechnen




    Einmalige Lizenzkosten in €:

    Wartung und Support (jährlich) in €:

    Einmalige Lizenzkosten in €:
    Auf Anfrage
    Wartung und Support (jährlich) in €:
    Auf Anfrage

    Bitte schildern Sie uns Ihr individuelles Anliegen und wir melden uns bei Ihnen zurück.

    Kontaktdaten



    SAP-Informationen

    Möchten Sie uns noch etwas mitteilen?

    * Pflichtfelder

    Haben Sie Interesse am Milliarum UI5 Construction Kit?

    Ihr Ansprechpartner Dirk Ott berät Sie gerne.