PRODUKTE & PLATTFORM

Fünf Module, ein Weg
vom Wissen zum Handeln

MiliAgent entscheidet, was zu tun ist. MiliFlow bringt diese Aktionen in Freigaben und Tickets. MiliRAG liefert Belege, die sich zurückverfolgen lassen. MiliGate steuert jeden Modellaufruf. MiliEval beantwortet, ob die letzte Änderung tatsächlich etwas gebracht hat. Jedes Modul fügt sich in den Stack ein, den Sie bereits betreiben, oder die fünf bilden zusammen ein vollständiges Agent-Fundament. Alle Funktionen sind über APIs und Plugin-Erweiterungspunkte zugänglich, es muss also vorab nichts ersetzt werden.

Plattform im Überblick

Jedes Modul räumt eine Hürde aus, zusammen ergeben sie einen Weg

Viele Teams kaufen Modellleistung ein und bekommen sie trotzdem nicht in den Einsatz, und die Hürden liegen an ganz unterschiedlichen Stellen: Niemand weiß, was man dem Modell überhaupt übergibt, das Ergebnis erreicht den Prozess nicht, die Antworten haben keine Quelle, die Aufrufe laufen ungesteuert, und nach einer Änderung kann niemand sagen, ob sie etwas verbessert hat. Diese fünf Module setzen genau an diesen fünf Hürden an.

Auswahlhilfe

Womit anfangen?

Teams, die bereits eine Wissensbasis und Anwendungen haben, beginnen meist mit MiliGate und MiliEval, um zuerst Kosten und Qualität in den Griff zu bekommen. Teams, die bei null starten, kombinieren in der Regel MiliRAG mit MiliAgent, belegen einen echten Use Case und bauen von dort aus weiter.

Architektur-Review buchen

MILIAGENT

Agent-Plattform: aus einer Anfrage werden ausführbare Schritte

Einen Agenten zu bauen ist nicht dasselbe wie einen längeren Prompt zu schreiben. MiliAgent führt einen Plan mit, den es während der Ausführung überarbeiten kann: Zuerst wird die Aufgabe zerlegt, dann werden die verbleibenden Schritte neu geplant, sobald die Ausführung neue Informationen liefert. Ein fehlgeschlagener Tool-Aufruf wird nach Regelwerk wiederholt, weicht auf einen Ersatzpfad aus oder geht zurück an einen Menschen. Komplexe Arbeit lässt sich auf Rollen verteilen – Retrieval, Berechnung, Entwurf und Prüfung übernehmen je einen Abschnitt –, ein führender Agent führt das Ergebnis zusammen.

  • Aufgabenzerlegung und Neuplanung Teilaufgaben werden aus dem Ziel abgeleitet, die verbleibenden Schritte angepasst, sobald sich die Informationslage ändert
  • Tool-Registrierung und Argumentprüfung Tools deklarieren ihre Eingaben im JSON Schema; ein Aufruf, der die Prüfung nicht besteht, wird nie abgeschickt
  • Kurzzeit- und Langzeitgedächtnis Kontext bleibt innerhalb einer Sitzung erhalten; Präferenzen, häufige Entitäten und frühere Ergebnisse gelten sitzungsübergreifend
  • Menschliche Bestätigungsschritte Ein Schreibvorgang in die Datenbank, ein Versand oder eine Freigabe wird zurückgehalten, bis die benannte Rolle bestätigt
Planen - Handeln - Reflektieren Function Calling Multi-Agent-Rollen Schritt- und Budgetgrenzen Timeout-Wiederholung Modell-Fallback

MiliAgent-Demo buchen

Ein Agent im Kreislauf aus Planung, Tool-Aufrufen, Beobachtung und Ausgabe
MILIFLOW

Workflow-Orchestrierung: KI im Ablaufdiagramm, nicht daneben

MiliFlow verbindet auf einer visuellen Arbeitsfläche Agent-Knoten, menschliche Knoten und Fremdsysteme zu einem Prozess, der tatsächlich läuft: Ein neues Ticket startet ihn, Betrag und Risikostufe entscheiden über die Verzweigung, alles oberhalb des Schwellenwerts geht zur Freigabe an einen Menschen, und ein Fehler wird über kompensierende Aktionen zurückgerollt. Ergebnisse werden in das Ticketsystem zurückgeschrieben, und eine Bestätigung, eine Rückfrage oder eine Ablehnung lässt sich direkt im Chat-Tool Ihres Unternehmens erledigen, der Vorgang wird in die Prozessinstanz zurücksynchronisiert.

  • Ereignis- und Zeittrigger Ein neues Ticket, eine eingehende E-Mail oder eine Datenänderung startet einen Lauf; Batch-Jobs laufen nach Zeitplan
  • Bedingte Verzweigung und Freigaben Steuerung nach Betrag, Risikostufe oder Modellkonfidenz, mit mehrstufiger Freigabe dort, wo sie vorgeschrieben ist
  • Idempotenz und Wiederholungen Jeder Lauf trägt einen eindeutigen Schlüssel, sodass ein erneuter Trigger nie ein zweites Ticket oder eine zweite Einreichung erzeugt
  • Rollback im Fehlerfall Bereits in Fremdsysteme geschriebene Aktionen werden durch kompensierende Schritte zurückgenommen, der gesamte Lauf wird protokolliert
Ereignis-Trigger Geplante Batches Bedingte Verzweigungen Mehrstufige Freigabe Idempotenzschlüssel Kompensierendes Rollback

Anbindung Ihres Prozesses besprechen

Orchestrierungs-Arbeitsfläche: Trigger-Knoten, bedingte Verzweigungen, ein Freigabeknoten und ein Rollback-Pfad
MILIRAG

Knowledge Engine: jede Antwort ist bis zum Originaltext nachvollziehbar

Die Obergrenze der Retrieval-Qualität wird meist schon beim Parsing gesetzt. MiliRAG überführt zweispaltige PDF-Layouts, seitenübergreifende Tabellen und Scans zuerst in strukturierten Text mit intakter Überschriftenhierarchie und zerlegt ihn dann gleichzeitig nach Semantik und Struktur, sodass eine Tabelle oder eine Klausel nie mittendrin zerschnitten wird. Ändert sich eine Quelle, werden nur die Änderungen abgeglichen – eine vollständige Neuindizierung entfällt.

  • Parsing komplexer Layouts Zweispaltige PDFs, seitenübergreifende Tabellen und OCR für Scans, mit erhaltenen Überschriftenebenen und Zellstrukturen
  • Hybrides Retrieval und Reranking Vektorsuche kombiniert mit exakter Stichwortsuche, danach grenzt ein Reranking-Modell die Kandidaten ein
  • Berechtigungsdurchgriff Zuerst wird aufgelöst, was der Nutzer im Quellsystem sehen darf; Dokumente, die er nicht öffnen kann, werden nie zu Kandidaten
  • Quellenangaben bis zur Textstelle Jeder Beleg verweist auf eine konkrete Seite und einen konkreten Absatz der Originaldatei, das beschleunigt die Prüfung
Layout-Parsing OCR für Scans Semantisches Chunking Hybrid: Vektor + Stichwort Reranking-Modell Inkrementeller Abgleich

Parsing mit Ihren eigenen Dokumenten testen

Ablauf der Knowledge Engine: Dokumenten-Parsing, Chunking, hybrides Retrieval und eine Antwort mit Quellenangaben
MILIGATE

Model Gateway: jeder Modellaufruf geht durch dieselbe Tür

Was ein einziger Ausgang wert ist, zeigt sich an dem Tag, an dem Sie etwas austauschen und keinen Anwendungscode anfassen müssen. MiliGate stellt nach oben eine stabile API bereit und bindet nach unten kommerzielle Modell-APIs, selbst gehostete offene Modelle und fachliche Fine-Tunes an. Die Route wird nach Use Case, Kostenobergrenze und Latenzbudget gewählt, bei Timeout oder Fehler des Primärmodells wird automatisch umgeschaltet. Ein neues Modell kann zunächst als Canary-Release einen Teil des Verkehrs übernehmen; sehen die Zahlen nicht gut aus, ist die vorherige Routing-Konfiguration sofort wieder da.

  • Eine API Kommerzielle, offene und feinabgestimmte Modelle teilen sich dieselbe Aufrufschnittstelle, ein Anbieterwechsel lässt den Anwendungscode unberührt
  • Regelbasiertes Routing Modellwahl nach Use Case, Kostenobergrenze und Latenzbudget, mit automatischem Ausweichen, wenn etwas schiefgeht
  • Rate Limits und Abrechnung je Abteilung Kontingente nach Abteilung, Anwendung und Use Case; Token- und Aufrufkosten werden Posten für Posten erfasst
  • Maskierung und Audit Sensible Felder werden erkannt und ersetzt, bevor eine Anfrage nach außen geht; Eingaben, Ausgaben und Routing-Entscheidungen bleiben vollständig erhalten
Eine API Use-Case-Routing Kostenobergrenzen Rate Limits und Kontingente Maskierung nach außen Canary und Rollback

Anbindung Ihrer heutigen Aufrufe prüfen

Model Gateway: ein Eingangspunkt, der regelbasiert an mehrere Modell-Backends verteilt und jeden Aufruf protokolliert
MILIEVAL

Evaluation & Observability: hat diese Änderung etwas verbessert oder verschlechtert?

„Sieht gut aus“ ist kein Grund, produktiv zu gehen. MiliEval stellt aus echten Tickets, Fragen und Dokumenten ein Evaluationsset mit Referenzantworten zusammen, führt es bei jeder Prompt-Änderung, jedem Modellwechsel und jedem neuen Tool erneut aus und listet Beispiel für Beispiel auf, was besser und was schlechter geworden ist. Nach dem Start werden laufende Sitzungen stichprobenweise geprüft, und die Probleme, die der Produktivbetrieb zutage fördert, fließen zurück in das Evaluationsset, damit die Baseline mit dem Geschäft Schritt hält.

  • Evaluationssets aus Fachbeispielen Aufgebaut aus echten Tickets und Fragen, mit den gängigen Formulierungen und den bekannten Grenzfällen
  • Automatische Bewertung plus menschliche Prüfung Zuerst bewerten Regeln und Modelle; bei Abweichungen entscheidet ein Prüfer, dessen Antwort zur Referenz wird
  • Regression von Version zu Version Zwei beliebige Versionen lassen sich Beispiel für Beispiel vergleichen, Verschlechterungen werden separat ausgewiesen statt im Mittelwert unterzugehen
  • Live-Tracing und Alarme Stichproben laufender Sitzungen werden geprüft, und ein Alarm wird ausgelöst, sobald Trefferquote, Latenz oder Kosten die Schwelle überschreiten
Evaluationsset-Verwaltung Regelbasierte Bewertung Modellbasierte Bewertung Menschliche Prüfung Regressions-Dashboard Schwellenwert-Alarme

Erste Abnahmekriterien gemeinsam festlegen

Evaluations-Dashboard: Bewertungsbalken je Dimension und eine Regressions-Trendlinie über die Versionen
Deployment

Drei Deployment-Modelle, gewählt danach, wohin die Daten dürfen

Entschieden wird das selten nach technischer Vorliebe, sondern danach, wie weit die Daten reisen dürfen. Die folgenden drei Modelle ziehen die Datengrenze und die Betriebsverantwortung sehr unterschiedlich. Keines davon ist ein reduzierter Funktionsumfang.

Managed Cloud

Für Teams, die den Nutzen belegen wollen, bevor sie in Infrastruktur investieren. Die Daten liegen in einem je Kunde isolierten Mandanten, in einer Availability Zone innerhalb der von Ihnen benannten Rechtsordnung, und Wissensbasen und Protokolle liegen nie neben denen eines anderen Kunden. Milisoft übernimmt Versions-Upgrades, Skalierung und Rufbereitschaft; Ihr Team richtet die Use Cases ein und verfolgt die Ergebnisse.

Private Deployment

Für Aufgaben im Finanzwesen und in der Fertigung, bei denen Daten das interne Netz nicht verlassen dürfen. Jede Komponente wird in Ihrem eigenen Rechenzentrum oder Ihrer Private Cloud installiert; Modellgewichte, Vektorspeicher und Audit-Logs bleiben innerhalb der Grenze, mit Unterstützung für souveräne Hard- und Software-Stacks und für Offline-Upgrade-Pakete. Ihr Team betreibt das System im Alltag, wir liefern Deployment-Skripte, Prüf-Checklisten, das Upgrade-Handbuch und Remote-Support.

Hybrid

Für Organisationen, in denen die meisten Daten sensibel sind, einzelne Use Cases aber ein stärkeres Modell brauchen. Wissensbasen, Protokolle und Fachsysteme bleiben im internen Netz, und nur die wirklich benötigten, maskierten Fragmente gehen über MiliGate hinaus zu einem externen Modell. Die Richtlinie legt genau fest, welche Felder nach außen dürfen, jeder ausgehende Aufruf wird protokolliert, und die Betriebsverantwortung wird für den internen und den ausgehenden Teil getrennt vereinbart.

Spezifikationen

Die wichtigsten Spezifikationen auf einer Seite

Das sind die Punkte, bei denen im Auswahlprozess am hartnäckigsten nachgefragt wird. Die vollständige Schnittstellenliste, die Performance-Baselines und die Deployment-Checkliste stehen im technischen White Paper – fragen Sie an, wir senden es Ihnen zu.

FunktionDetails
Deployment Managed Cloud, Private Deployment oder Hybrid – eines davon. Private Deployment läuft wahlweise auf einem Kubernetes-Cluster oder als Docker Compose auf einem einzelnen Host, ein Offline-Installer liegt bei.
Modellzugang MiliGate bindet gängige kommerzielle Modell-APIs, selbst gehostete offene Modelle und fachliche Fine-Tunes über eine Schnittstelle an, Primär-, Ersatz- und Fallback-Reihenfolge sind je Use Case konfigurierbar.
Identität & Berechtigungen Single Sign-on über SSO, LDAP und OAuth2; Rollen und Datenberechtigungen werden aus dem Quellsystem übernommen, Retrieval-Ergebnisse und Tool-Aufrufe werden erneut gegen die Identität des Aufrufers geprüft.
Audit & Nachvollziehbarkeit Jede Sitzung, jeder Modellaufruf, jede Tool-Aktion und jede zitierte Quelle wird erfasst. Logs lassen sich in Ihr SIEM oder Data Warehouse exportieren, die Aufbewahrungsfrist wird per Richtlinie festgelegt.
Observability Integrierte Dashboards für Aufrufvolumen, Latenz, Token-Kosten, Fehlerquote und Evaluationswerte, dazu Prometheus-Metriken und Webhook-Alarme.
Erweiterbarkeit Tools, Datenquellen, Dokumenten-Parser und Bewertungsfunktionen werden als Plugins angebunden, über HTTP oder das SDK, eine lokale Debugging-Umgebung ist enthalten.
Liefergegenstände Quellcode der Individualentwicklung, Container-Images und Deployment-Skripte, Architektur- und Schnittstellendokumentation, das Evaluationsset, das Runbook für den Betrieb und rollenbezogene Schulungsunterlagen.
Support-Stufe Standard, Professional und Flagship. Reaktionszeiten, Rufbereitschaftszeiten und Regressionsfrequenz unterscheiden sich je Stufe – siehe Service-Stufen & SLAs.

Technisches White Paper und Deployment-Checkliste anfordern

FAQ

Sechs Fragen, die im Auswahlprozess am häufigsten kommen

Können wir auch nur ein einzelnes Modul einsetzen?

Ja. Jedes der fünf Module hat eine eigene API und eine eigene Deployment-Einheit. Am häufigsten wird mit MiliRAG begonnen, um die Wissensschicht aufzubauen, oder mit MiliGate, um die bereits über bestehende Anwendungen verstreuten Modellaufrufe zusammenzuführen. MiliFlow allein kann menschliche Knoten und Aufrufe von Fremdsystemen orchestrieren; für die Agent-Knoten innerhalb eines Prozesses wird MiliAgent benötigt – das ist eine Funktionsgrenze und keine Bündelungspflicht.

Müssen wir unsere bestehenden Systeme ersetzen?

Nein. Wir setzen als Schicht über ERP, CRM, Office-Systeme, Ticketing und Datenplattformen auf, die Sie bereits betreiben, und binden über APIs, Message Queues oder lesende Datenbanksichten an, ohne deren Schemata oder Geschäftslogik anzutasten.

Hat ein System tatsächlich keine brauchbare Schnittstelle, bauen wir dafür einen Adapter, statt Ihnen zu einem Austausch zu raten.

Welche Mindesthardware braucht Private Deployment?

Das hängt davon ab, welche Module Sie betreiben und wo das Modell liegt. Betreiben Sie nur MiliRAG und MiliGate mit Inferenz über eine externe API, reichen drei handelsübliche x86-Server für den Start; läuft die Inferenz offener Modelle im eigenen Netz, kommen GPU-Server hinzu, dimensioniert nach Ihrer Parallelität.

In der Lösungsphase erstellen wir anhand Ihrer Parallelität, Ihres Dokumentenvolumens und Ihrer Latenzziele eine konkrete Konfigurationsliste und begründen die Reserven – so müssen Sie nicht vorab für den Maximalfall einkaufen.

Wie aufwendig ist ein späterer Wechsel des Modellanbieters?

Am Anwendungscode ändert sich in der Regel keine einzige Zeile. Alle Aufrufe laufen über MiliGate, ein Anbieterwechsel ist damit eine Änderung an der Routing-Konfiguration. Die eigentliche Arbeit steckt in der Prompt-Anpassung und der Qualitätsprüfung, und ein Regressionslauf in MiliEval beziffert sie – meist lässt sich der Wechsel innerhalb weniger Arbeitstage bewerten.

Was passiert, wenn die Qualität nach dem Start nicht reicht?

Die Abnahmekriterien wandern zu Projektbeginn in das Evaluationsset. Werden sie nicht erreicht, beginnt die nächste Phase nicht – so begrenzen wir das Risiko, und das ist Ihr Ausstiegspunkt.

Tritt tatsächlich eine Verschlechterung auf, ermittelt MiliEval zuerst, ob die Ursache ein Fehltreffer im Retrieval, eine Prompt-Abweichung oder ein Wechsel der Modellversion ist; wir korrigieren diesen Schritt und nehmen die betroffenen Beispiele in das Regressionsset auf, damit es kein zweites Mal passiert.

Werden unsere Daten zum Training von Modellen verwendet?

Nein. Bei Private Deployment bleiben die Daten vollständig in Ihrer Umgebung, und wir haben keinen Zugang dazu. Wird eine externe Modell-API genutzt, maskiert MiliGate, bevor die Anfrage hinausgeht, und das Training mit Ihren Daten wird über die Option abgeschaltet, die der Anbieter dafür vorsieht.

Datennutzung, Aufbewahrungsfristen und Löschung sind in den Auftragsverarbeitungsklauseln des Vertrags festgehalten; Näheres finden Sie außerdem unter Datenschutz.

Möchten Sie diesen Weg einmal laufen sehen?

Bringen Sie eines Ihrer echten Dokumente mit und eine Aktion, die Sie automatisieren wollen. In einer einzigen Demo gehen wir Parsing, Retrieval, Ausführung und Audit-Trail durchgängig durch und geben Ihnen danach eine Modulempfehlung, ein Deployment-Modell und eine Aufwandsschätzung für die erste Phase.