Lokale KI-Suite: DSGVO-konforme KI auf Ihrer eigenen Hardware
Die lokale KI-Suite ist ein KI-Assistent für Vertrieb und Kundenkommunikation, der vollständig auf Servern in Ihrem Haus läuft. CRM-Datensätze, E-Mail-Verläufe und interne Dokumente verlassen das Gebäude nicht. Betrieben wird sie auf Hardware, die Sie selbst kaufen. Es gibt keinen Anbieter, an den Daten für eine Antwort übertragen werden, und keinen Vertrag, der das regeln müsste.
Die Suite ist in Module geschnitten, die einzeln verkauft und einzeln in Betrieb genommen werden. Frei ist die Reihenfolge trotzdem nicht. Ohne die Basis aus CRM-ETL und Vektorindex haben die übrigen Module keine Daten, mit denen sie arbeiten könnten.
Basis: CRM-ETL und Vektorindex
Bevor irgendetwas antworten kann, müssen die Daten aus dem CRM herüberkommen und durchsuchbar werden. Das Modul liest Datensätze, Notizen und angehängte Dokumente aus, zerlegt sie in Abschnitte, rechnet Embeddings dazu und legt beides in einer Qdrant-Instanz in Ihrem Netz ab. Danach hält ein Delta-Abgleich den Index nach, statt nachts alles neu einzulesen. Im Alltag sieht niemand dieses Modul – auffallen wird es erst, wenn eine Antwort einen Vorgang aus 2019 zitiert, den keiner mehr auf dem Schirm hatte.
Chatbot auf Ihren CRM-Daten
Wer im Vertrieb eine Frage zu einem Kunden hat, sucht die Antwort heute im CRM zusammen, aus Kontakthistorie, Angeboten, offenen Vorgängen und Notizen aus drei Jahren. Der Chatbot beantwortet dieselbe Frage in einem Satz und nennt die Datensätze, aus denen sie stammt. Nachvollziehbar bleibt die Antwort dadurch auch dann, wenn das Modell danebenliegt, und das kommt vor.
E-Mail-Modul
Für eingehende Mails erzeugt das Modul einen Antwortentwurf, bevor jemand die Mail öffnet. Herangezogen werden der CRM-Datensatz zum Absender, der bisherige Mailverlauf, die zum Vorgang abgelegten Dateien und der Schreibstil der Person, die antworten soll. Gelernt wird dieser Stil aus deren eigenen gesendeten Mails, nicht aus einem allgemeinen Firmenton. Man liest also einen Entwurf und korrigiert ihn, statt vor einem leeren Fenster zu sitzen.
Betriebs- und Compliance-Paket
Betriebsrat und Datenschutzbeauftragte wollen Papier sehen, bevor die Suite produktiv geht. Dieses Modul liefert es: eine Muster-Betriebsvereinbarung, eine Vorlage für die Datenschutz-Folgenabschätzung, Bausteine für Ihr Verarbeitungsverzeichnis und die Transparenzhinweise, die Artikel 50 der KI-Verordnung seit dem 2. August 2026 für Systeme verlangt, mit denen Menschen direkt sprechen. Verhandelt und unterschrieben wird das bei Ihnen. Wir liefern die Entwürfe, keine Rechtsberatung.
Was diese Module trägt, steht in keiner der Kacheln. Lokale Inferenz auf Ihren GPUs, die Abnahme gegen vorher festgelegte Testfälle, dazu Zugänge und Dokumentation, das alles gehört zur Einführung. Monitoring von Antwortzeiten und Auslastung kommt mit der höheren Wartungsstufe. Und ob wir den Betrieb übernehmen oder Ihre IT ihn selbst führt, entscheiden Sie.
Warum lokale Hardware die Datenschutzfrage auflöst
Üblicherweise führt der Weg zur DSGVO-Konformität über Papier: Auftragsverarbeitungsverträge, Standardvertragsklauseln, Zusicherungen zum Training. Die lokale Suite geht den anderen Weg und lässt die Daten dort, wo sie ohnehin liegen.
Verlässt ein Kundendatensatz den Serverraum nie, dann gibt es für ihn keinen Auftragsverarbeiter, keinen Drittlandtransfer und keine Frage danach, ob ein Anbieter damit sein Modell trainiert. Nicht, weil wir diese Punkte sauber geregelt hätten, sondern weil sie für diese Daten gar nicht erst entstehen. Das ist eine Entscheidung in der Architektur und kein Zusatz, den man am Ende eines Projekts noch aufsetzt.
Der Preis dafür hat zwei Posten, die Sie kennen sollten, bevor Sie sich darauf einlassen. Offene Modelle, die auf Ihrer eigenen Hardware laufen, sind den großen kommerziellen Modellen in aller Regel unterlegen. Bei eng zugeschnittenen Aufgaben, also Fragen an einen CRM-Datensatz oder Entwürfe im gewohnten Ton, fällt der Abstand kaum ins Gewicht. Beim freien Schlussfolgern über lange Texte merkt man ihn deutlich. Dazu kommt die Hardware, die eine Investition ist und keine monatliche Rechnung. Server und GPUs werden gekauft, abgeschrieben und irgendwann ersetzt. Wer lieber pro Anfrage zahlt und nichts im eigenen Serverraum stehen haben will, fährt mit EU-gehostetem Betrieb besser – auch das bauen wir.
Lokal betrieben heißt nicht automatisch zulässig. Zugriffsrechte, Löschfristen und die Frage, welche Mitarbeitenden welche Datensätze sehen dürfen, bleiben zu klären – die Suite verschiebt diese Arbeit nur aus dem Vertragsrecht in Ihre eigene Konfiguration.
Preise
Verkauft wird die Suite als lizenziertes Produkt, nicht nach Aufwand. Die einmalige Einführung besteht aus zwei Posten, die sich addieren: der Einrichtung, gestaffelt nach Unternehmensgröße, und den Modulen, die Sie tatsächlich nehmen. Danach zahlen Sie jedes Jahr die Lizenz.
KI-Suite: Einführung nach Unternehmensgröße
Segment
Nutzer
Einführung einmalig
Jahreslizenz
S
bis 20
9.000 €–15.000 €
4.000 €–6.000 €
M
20–50
15.000 €–25.000 €
7.000 €–12.000 €
L
50–150
25.000 €–40.000 €
14.000 €–24.000 €
XL
ab 150
ab 40.000 €
ab 30.000 €
Einführung heißt in dieser Tabelle die Einrichtungsarbeit: Installation, Konfiguration, Datenanbindung, Inbetriebnahme, Abnahme. Welchen Funktionsumfang Sie damit betreiben, steht in der Modultabelle weiter unten und kommt hinzu. In der Jahreslizenz enthalten sind:
Updates und neue Versionen
Sicherheitspatches
Fehlerbehebung
Modellpflege inkl. einer Re-Indexierung pro Jahr
E-Mail-Support (Reaktion 2 Arbeitstage)
Ein Modell-Review pro Quartal
Nicht enthalten sind die Wartung eigener Connectoren, neue Funktionen, Rufbereitschaft und der laufende Betrieb. Was Connectoren und die höheren Wartungsstufen kosten, steht in den Tabellen darunter. Neue Funktionen stehen in keiner Tabelle, weil sie als Change Request nach Aufwand laufen.
Segment S nur bei Standard-CRM ohne Custom-Connector.
Diese Preise kommen zur Einrichtung aus der Tabelle oben hinzu und treten nicht an ihre Stelle. Ein Betrieb mit 15 Nutzern, der Basis und RAG nimmt, zahlt den Preis für Segment S und beide Modulpreise. Berechnet wird je Modul, ob Sie eines nehmen oder alle.
Jedes CRM braucht einen Connector. Steht Ihres schon im Katalog, ist das Konfigurationsarbeit. Sonst wird einer gebaut, und wie aufwendig das wird, entscheidet die Schnittstelle. Auf der einen Seite eine dokumentierte REST-API, auf der anderen der Direktzugriff auf die Datenbank eines Altsystems.
Connectoren
Typ
Einführung
Wartung p. a.
Standardkonnektor (bereits im Katalog, nur Konfiguration)
Die Wartung eines Custom-Connectors rechnen wir immer getrennt ab. Sie fängt ab, was der Hersteller an seiner API ändert, und meldet Ihnen, wenn ein täglicher Contract-Test bricht. Gerechnet wird der Prozentsatz auf die Entwicklungskosten des Connectors, nicht auf die Lizenzsumme. Neue Felder, geänderte Geschäftslogik, ein Wechsel des CRM oder ein Major-Release bei Ihnen laufen dagegen als Change Request.
Wartung ist verpflichtend, nicht optional. Ohne laufenden Vertrag gibt es keinen Support, und wer den Vertrag aussetzt und später zurückkommt, zahlt die ausgesetzten Perioden nach.
Die Hardware kaufen Sie selbst. ARSoftware liefert weder Server noch GPUs, die Tabelle nennt deshalb Richtwerte für Ihren Einkauf und kein Angebot. Wie groß die Maschine ausfallen muss, treibt die gleichzeitige Nutzung und nicht die Kopfzahl – zwanzig Nutzer, von denen selten zwei zur selben Zeit fragen, verlangen weniger als fünf, die den ganzen Tag im Chat arbeiten.
Hardware (Kunde beschafft selbst)
Segment
Konfiguration
Richtpreis
bis 20 Nutzer
GPU-Workstation, eine Karte
4.000 €–7.000 €
20–80 Nutzer
Server, eine bis zwei GPUs
8.000 €–15.000 €
ab 80 Nutzer
Server, mehrere GPUs, redundant
ab 18.000 €
Alle Preise verstehen sich netto, zzgl. gesetzlicher Umsatzsteuer.Stand: August 2026
Auf Wunsch gehört eine Konfigurationsempfehlung mit Bezugsquelle zur Einführung.
Entwicklungspartner und Referenzkunden
Die erste Installation läuft bereits. Ein Kunde nimmt die Suite gerade in Betrieb. Solange das Projekt läuft und die Freigabe für eine Referenz aussteht, bleibt er hier ungenannt. Für die Module, die noch vor uns liegen, sucht ARSoftware weitere Unternehmen, die mitentwickeln, statt fertig zu kaufen. Ein Entwicklungspartner bringt eine Komponente aus dem eigenen Bedarf ein, wir bauen sie, und danach wird sie Teil des Produkts.
Was ein solcher Partner beisteuert, können wir uns nicht ausdenken: Anforderungen aus dem Tagesgeschäft und die Sonderfälle, die in keiner Spezifikation stehen. Dafür arbeitet er an einem Produkt, das noch nicht fertig ist, und nimmt dessen Umwege mit. Referenzkunden gehen den kürzeren Weg und geben stattdessen Kennzahlen aus dem Betrieb frei, die wir nennen dürfen. Die Konditionen vereinbaren wir in beiden Fällen individuell.
Häufige Fragen zur lokalen KI-Suite
Welche Hardware wird für die lokale KI-Suite benötigt?
Das entscheidet die gleichzeitige Nutzung, nicht die Kopfzahl im Unternehmen. Der Preisteil der Seite zur lokalen KI-Suite führt drei Referenzkonfigurationen mit Richtpreisen: GPU-Workstation, eine Karte (bis 20 Nutzer); Server, eine bis zwei GPUs (20–80 Nutzer); Server, mehrere GPUs, redundant (ab 80 Nutzer). Gekauft wird die Hardware von Ihnen, ARSoftware liefert sie nicht. Welche Konfiguration konkret passt, ergibt sich aus der Voranalyse, aus der Datenmenge im CRM und der Antwortzeit, die im Alltag noch akzeptabel ist. Stehen bereits Server im Haus, prüfen wir zuerst, ob die genügen.
Wie gut sind lokale Modelle im Vergleich zu ChatGPT oder Claude?
Bei offenen Aufgaben schlechter, und das lässt sich nicht schönreden. Die großen kommerziellen Modelle sind den offenen Modellen, die auf einer einzelnen Maschine laufen, in Umfang und Trainingsaufwand voraus. Wie groß der Abstand praktisch ausfällt, hängt aber an der Aufgabe. Wenn eine Antwort ohnehin aus einem CRM-Datensatz und einem E-Mail-Verlauf kommen soll, entscheidet vor allem, ob die Suche die richtigen Stellen findet, und weniger, wie klug das Modell im Leerlauf ist. Deshalb bauen wir vor der Inbetriebnahme eine Evaluation aus Ihren eigenen Fragen und den Antworten, die Sie erwarten – trägt das Ergebnis nicht, sagen wir Ihnen das.
An welche CRM-Systeme lässt sich die Suite anbinden?
Grundsätzlich an jedes System mit API oder Datenbankzugang. Die Basis der Anbindung deckt Ingestion, Chunking, Embeddings und den Delta-Abgleich ab und ist vom konkreten CRM unabhängig. Dazu kommt je System ein Connector, der dessen Felder und Beziehungen auf dieses Schema abbildet. Die Preistabelle führt dafür vier Connector-Typen und nicht eine Zeile je CRM, denn was ein Connector kostet, entscheidet der Zustand der Schnittstelle. Bei Systemen mit dokumentierter REST-API ist dieser Schritt überschaubar. Bei älteren Installationen ohne API läuft es auf einen Datenbankzugriff oder auf regelmäßige Exporte hinaus, und das wird aufwendiger.
Wie lange dauert die Einführung?
Von der Voranalyse bis zur Abnahme des Grundausbaus rechnen wir mit drei bis sechs Monaten, vorausgesetzt, auf Ihrer Seite gibt es eine feste Ansprechperson und die Hardware steht rechtzeitig bereit. Voranalyse und Architekturkonzept zusammen sind mit drei bis fünf Arbeitstagen angesetzt – im Kalender liegt zwischen ihnen und der Abnahme naturgemäß mehr. Der längste Posten ist erfahrungsgemäß nicht die Entwicklung, sondern die Datenseite: unvollständige CRM-Felder, Dubletten, gewachsene Sonderfälle aus zehn Jahren. Nach dem Chatbot folgt normalerweise das E-Mail-Modul, weil es auf derselben Datenbasis aufsetzt.
Was passiert, wenn wir die Suite später selbst weiterentwickeln wollen?
Dann übernehmen Sie sie. Quellcode, Infrastrukturdefinition und Dokumentation gehen an Sie, und die eingesetzten Bausteine sind offen lizenziert, die Modelle ebenso wie Vektordatenbank und Orchestrierung. Es gibt keinen Lizenzschlüssel, den wir abschalten könnten, und keine Komponente, die nur bei uns läuft. Wir empfehlen trotzdem, die Evaluationsfälle weiterzupflegen. Sie sind der verlässlichste Weg, um zu prüfen, ob eine Änderung am Modell oder am Prompt das Ergebnis tatsächlich verbessert.
Sprechen wir über Ihren Anwendungsfall.
Beschreiben Sie kurz, woran Sie arbeiten. Sie bekommen eine ehrliche Einschätzung, ob sich das mit KI lösen lässt, und was der sinnvollste erste Schritt wäre.
