services/Sovereign AI

On-Prem-KI für Netzwerk und Security.

Cloud-LLMs sehen Ihr Netzwerk nicht, und Sie können ihnen keine OT-Configs schicken. Wir beraten, wo KI Netzwerk- und Security-Arbeit wirklich hilft, und bauen und betreiben sie dann in Ihrem eigenen Perimeter: lokale Modelle, eine offene MCP-Tool-Ebene (Model Context Protocol), verankert in Ihren realen Daten.

On-Prem-KI — was bei Ihnen läuft SOVEREIGN
Assistent + Agent
macht aus einer Frage einen Plan von Tool-Aufrufen
Lokale Modelle · Qwen 3 · GLM-4
laufen auf Ihrer GPU-Hardware, getunt für Tool-Calling
Offene MCP-Tool-Ebene
holt Fakten aus Ihren Systemen, nicht aus Trainingsdaten
Ihre Daten · Topologie · Configs · Logs
verlässt nie den Standort
Cloud-LLM-API · keine Daten verlassen den Standort
die gesamte Inferenz bleibt lokal · Air-Gap-fähig
[ Warum es zählt ]

Die On-Prem-KI, die die meisten Teams wollen, endet als Projekt, das nie fertig wird.

GPU-Nodes kaufen und ein offenes Modell herunterladen bringt Ihnen nichts, das mit Ihren Systemen funktioniert. Der schwierige Teil ist die Integration.

01

Cloud kommt nicht infrage

Topologien, Configs und Host-Inventare sind sicherheitsrelevant. In kritischen oder regulierten Umgebungen ist es keine Option, das an einen externen KI-Dienst zu senden.

02

Ein heruntergeladenes Modell ist mit nichts verbunden

Das Modell herunterzuladen ist der einfache Teil. Es dazu zu bringen, Ihr reales Netzwerk zu lesen und aus Fakten statt Vermutungen zu antworten, ist die eigentliche Arbeit.

03

Generische KI-Beratung kommt nie in Produktion

Die meiste «KI-Strategie» endet beim Workshop. Wir bauen On-Prem-Netzwerk-KI als Produkt, also kommt die Beratung aus funktionierenden Systemen.

04

NIS2 und Datensouveränität

Daten und Inferenz im Haus zu halten senkt das Risiko von Breaches und Datenabfluss und macht die Einhaltung von DSGVO und NIS2 leichter vertretbar.

[ Was dieser Service abdeckt ]

Zwei Hälften: beraten, dann bauen und betreiben.

Beginnen Sie mit der Frage, ob und wo sich KI für Ihre Netzwerk- und Security-Arbeit lohnt. Enden Sie mit einem funktionierenden System in Ihrem Perimeter, oder mit einer klaren Antwort, dass sich der Aufbau noch nicht lohnt.

Hälfte 01 · Beratung

Wo KI wirklich hilft

Herstellerneutral. Wir schauen auf Ihren Betrieb, Ihre Daten und Ihre Rahmenbedingungen und sagen Ihnen, was sich jetzt lohnt, womit Sie warten sollten und was Hype ist.

  • Use-Case-TriageWelche Netzwerk- und Security-Aufgaben KI heute zuverlässig erledigen kann und welche nicht.
  • Modell- und Hardware-BeratungWelche offenen Modelle zur lokalen Netzwerkanalyse passen und welchen GPU-Footprint sie brauchen.
  • Souveränitäts- und Compliance-ReviewOn-Prem-, Air-Gap- und Datenhaltungs-Optionen, abgebildet auf NIS2 und DSGVO.
  • Eine Bauen-oder-Warten-EmpfehlungEine unabhängige Einschätzung, kein vorab feststehender Verkauf.
Hälfte 02 · Umsetzung

Bei Ihnen gebaut und betrieben

Wenn sich der Aufbau lohnt, liefern wir den On-Prem-Stack und verbinden ihn mit den Systemen, die Sie bereits betreiben. Hier wird das Produkt narrowin AI Stack für Sie umgesetzt.

  • Modellauswahl und TuningDas richtige offene Modell, kalibriert auf Ihren On-Prem-GPU-Cluster.
  • MCP-Tool-DesignDie Tools, die die Antwortqualität entscheiden, pro System gebaut, nicht von der Stange.
  • Integration mit Ihren SystemenExplorer und Log Analytics ab Werk; Ihre CMDB, Ihr SIEM, Monitoring und Ticketing über dieselbe offene Ebene.
  • On-Prem-Deployment und ÜbergabeEin GPU-Cluster nach Ihrem Mass, Air-Gap-fähig, von Ihrem Team betrieben.
[ Wie wir arbeiten ]

Von einer offenen Frage zu einer KI, die aus Ihrem eigenen Netzwerk antwortet.

Fünf Schritte. Das Engineering, das die meisten Teams personell nicht stemmen können, sind die mittleren drei, und genau diese Arbeit haben wir bereits erledigt und verpackt.

1

Die Use Cases rahmen

Die Fragen, die Ihr Team wirklich beantwortet haben muss, in Security, Compliance und im Tagesbetrieb.

2

Modelle auswählen & testen

Offene Modelle, getestet auf Tool-Calling und strukturierte Ausgabe, dimensioniert auf Hardware, die Sie vor Ort betreiben können.

3

Die MCP-Tools entwerfen

Die Tool-Ebene, die das Modell Fakten aus jedem System abrufen lässt, statt sie zu erfinden.

4

Mit Ihren Systemen verbinden

Netzwerkdaten, Logs, IPAM und Ihre bestehenden operativen Systeme, verbunden über die offene Ebene.

5

On-prem betreiben

Auf Ihrem GPU-Cluster in Ihrem Perimeter ausgerollt, Air-Gap-fähig, an Ihr Team übergeben.

[ In der Praxis ]

Der ganze Stack auf kompakten Nodes. Kein Rechenzentrum.

Der Inferenz-Stack läuft auf energieeffizienten Mini-PCs mit KI-Beschleunigern, direkt neben der vorhandenen Infrastruktur. Zwei Nodes reichen für Load-Balancing und Modell-Routing, weitere kommen dazu, wenn der Bedarf wächst. Für die strengsten Anforderungen läuft der Stack vollständig air-gapped.

Ein skalierter On-Premises-Inferenz-Cluster: acht NVIDIA DGX Spark Nodes und ein MikroTik 400G Switch Abb. — ausgebauter On-Prem-Cluster: acht Nodes. Der Einstieg beginnt bei zwei.

Vor Ort: der gesamte Inferenz-Stack, ohne Cloud.

[ Referenzen ]

Engineering, das wir bereits präsentiert und ausgeliefert haben.

Konferenz · BSI IT-Sicherheitskongress · 15.–16. April 2026

Die Architektur, präsentiert beim deutschen Bundesamt für Sicherheit in der Informationstechnik

Die Designgründe hinter On-Premises-KI für souveräne Netzwerkanalyse wurden von Dr. Tim Senn als Konferenzbeitrag und Vortrag am BSI IT-Sicherheitskongress präsentiert.

Die Arbeit ist real und läuft: vierzehn MCP-Tools sind heute über narrowin Explorer und Log Analytics aktiv; als Nächstes folgen Monitoring-, Automations- und Ticketing-Konnektoren auf derselben offenen Ebene.

Konferenzprogramm →
[ Häufige Fragen ]

Die Einzelheiten.

Ist das der Service oder das Produkt AI Stack?

Beides hängt zusammen. Dieser Service ist die Beratung und der Bau. Der narrowin AI Stack ist das verpackte Ergebnis, das der Aufbau liefert. Sie können mit der Beratung beginnen und sich später für das Produkt entscheiden.

Müssen wir das Produkt kaufen, um beraten zu werden?

Nein. Die Beratungshälfte ist herstellerneutral. Wenn die ehrliche Antwort «lohnt sich noch nicht zu bauen» ist, ist das die Antwort, die Sie bekommen.

Welche Modelle nutzen Sie?

Offene Modelle, getestet für lokale Netzwerkanalyse. Qwen 3 und GLM-4 sind die aktuellen Empfehlungen für die Produktion; Nemotron ist vielversprechend. Die Tool-Calling-Qualität zählt mehr als die reine Grösse.

Welche Hardware braucht es?

Kompakte Mini-PCs mit integrierten KI-Beschleunigern und einer GPU. Sie starten mit zwei Nodes und ergänzen weitere, sobald der Bedarf wächst. Nur-CPU ist mit quantisierten Modellen möglich, aber langsamer. Die Dimensionierung ist Teil der Beratung.

Wie wird mit Halluzinationen umgegangen?

Das Modell ist über MCP-Tools verankert: es fragt reale Configs, Topologie und Logs ab, und Antworten nennen konkrete Gerätenamen, Ports und Zeitstempel. Weil jede Antwort auf reale Daten zurückgeht, lässt sie sich prüfen statt nur glauben.

Womit lässt es sich integrieren?

Explorer und Log Analytics heute. Als Nächstes alles, was eine API bietet, über dieselbe MCP-Ebene: CMDB, SIEM, Monitoring, Ticketing, Automation.

[ Verwandte Projekte ]

Die Überlegungen hinter dem Service.

Zwei Deep Dives zum Engineering und das Produkt, das die Umsetzung liefert.

Holen Sie die Intelligenz on-prem.

Sagen Sie uns, was Sie Ihr Netzwerk fragen möchten. Wir sagen Ihnen, ob KI das heute beantworten kann und was es braucht, das in Ihrem Perimeter zu betreiben.

Sprechen wir über KI