Eine private KI-Agenten-Flotte für ein Ein-Personen-Unternehmen

Ich betreibe für mein eigenes Kleinunternehmen mehrere spezialisierte KI-Agenten für klar getrennte Aufgaben auf einer NixOS-Maschine, jeweils mit eigenem Zustand, eigener Wissensbasis und begrenzten Rechten. Dieser Artikel ist der Bauplan dahinter, und was ein KMU davon übernehmen kann.

Was ein KI-Agent von einem Chatbot unterscheidet

Ein KI-Agent ist kein Chat-Fenster, sondern ein dauerhaft laufender Dienst mit einer festen Rolle, eigenem Wissen und der Erlaubnis, konkrete Werkzeuge zu benutzen. Ein Chatbot beantwortet, was man ihn fragt. Ein Agent sucht selbst, fasst zusammen, bereitet Daten auf und führt wiederkehrende Schritte aus, innerhalb klar gesetzter Leitplanken.

Der Unterschied ist im Alltag entscheidend: Ein generischer Chatbot vergisst nach jeder Sitzung, was dein Betrieb ausmacht. Ein Agent mit angebundener Wissensbasis kennt deine Dokumente, deine Zahlen und deine Regeln dauerhaft, und antwortet mit Quellen statt aus dem Nichts.

Warum eine Flotte statt einem Alleskönner

Getrennte Agenten sind sinnvoll, sobald Aufgabenbereiche unterschiedliches Wissen und unterschiedliche Rechte brauchen. In meinem Aufbau sind etwa Finanzdaten, rechtliche Recherche und Vertriebswissen getrennten Rollen und Werkzeugen zugeordnet. Diese Bereiche zu vermischen, würde die Rechte- und Datentrennung schwächen.

Jeder Agent der Flotte hat dieselbe Struktur:

• Eine Identität (eine Systemprompt-Datei, die Rolle und Tonfall festlegt)
• Eine eigene Wissensbasis (RAG, durchsuchbare Firmendokumente)
• Eigene Werkzeuge (Terminal, Websuche, Dateizugriff, je nach Rolle freigeschaltet)
• Isolierter Zustand (jeder Agent schreibt in sein eigenes Verzeichnis, kein Zugriff auf die anderen)

So bleibt jeder Agent klein, überprüfbar und austauschbar. Fällt einer aus, laufen die anderen weiter.

Zwei Wege zur Wissensbasis: FTS5 und Vektor-Suche

Für die Wissenssuche (RAG) nutze ich bewusst zwei Verfahren, weil beide ihre Berechtigung haben:

1. Volltextsuche (FTS5/BM25), die Suchmaschine von SQLite, ganz ohne API-Schlüssel oder externes Modell. Schnell, kostenlos, ideal für klar benannte Begriffe, Aktenzeichen oder Produktnamen. Ein Teil meiner Agenten nutzt diesen Weg.
2. Vektor-Suche (Embeddings), Text wird in Zahlenvektoren übersetzt (bei mir mit bge-m3 über OpenRouter), sodass auch sinnverwandte Formulierungen gefunden werden. Andere Rollen nutzen sie, wenn exakte Begriffe nicht genügen.

Die Lehre für KMU: Man braucht nicht immer teure Embeddings. Für einen durchsuchbaren Dokumentenbestand mit klarer Fachsprache reicht oft die eingebaute Volltextsuche, ohne laufende Kosten und ohne dass Daten das Haus verlassen. Mehr dazu im Beitrag über RAG mit Quellen statt Blackbox.

Alles auf einer Maschine, mit NixOS

Die Agenten laufen in getrennten Containern auf einem headless Server. Jeder Agent hat ein eigenes Zustandsverzeichnis und eigene Secrets, deklarativ in NixOS beschrieben. Damit lässt sich der deklarierte Aufbau reproduzierbar neu bauen und aktualisieren; persistente Zustände und Backups bleiben ein eigener Teil der Wiederherstellung.

Dieses Muster habe ich als offenes Projekt herausgelöst: Tentaflake ist eine NixOS-Flake-Vorlage, um beliebig viele isolierte Agenten auf einer Maschine zu betreiben, „ein NixOS-Gehirn, viele Tentakel“. Ein NixOS-Rebuild bringt die ganze Flotte auf Stand. Warum reproduzierbare Infrastruktur gerade für kleine Teams ein Gewinn ist, steht im Beitrag über NixOS für kleine Teams.

Leitplanken: kein Blackbox-Gefühl

Ein Agent soll nur die ausdrücklich benötigten Rechte erhalten, und relevante Aktionen müssen nachvollziehbar sein. Das ist der Teil, den Betriebe zu Recht am meisten interessiert. In meinem Aufbau gilt:

• Werkzeug-Freigaben: Der Agent kann nur bestimmte Tools nutzen. Kein Zugriff heißt kein Zugriff, nicht „bitte nicht“.
• Menschliche Freigabe an den kritischen Stellen: Bevor etwas nach außen geht oder Geld bewegt, entscheidet ein Mensch.
• Logging: Relevante Werkzeugaktionen werden protokolliert. Man sieht hinterher, was passiert ist, statt es nur zu vermuten.
• Datensparsamkeit: Der Agent bekommt nur die Daten, die er für seine Aufgabe braucht.

Diese vier Punkte trennen ein System, dem man vertraut, von einem, das man ständig überwachen muss.

Was ein KMU davon mitnehmen kann

Du brauchst keine Flotte. Du brauchst zunächst einen klar begrenzten Agenten, der einen echten, wiederkehrenden Prozess kontrolliert unterstützt, und den richtigen Zuschnitt drumherum. Der Bauplan bleibt derselbe:

1. Ein klar abgegrenzter Use Case statt eines Rundum-Systems.
2. Eine Wissensbasis aus deinen echten Dokumenten, mit Quellenangabe.
3. Leitplanken, Freigaben, Logging, Datensparsamkeit, von Anfang an, nicht als späterer Aufsatz.
4. Reproduzierbarer Betrieb, damit das System wartbar bleibt.

Genau so baue ich KI & Automatisierung für kleine und mittlere Betriebe: kontrolliert, nachvollziehbar und bereit für den Alltag, nicht nur für die Demo. Wenn du einen Prozess im Kopf hast, der sich wiederholt: schreib mir, und ich sage dir ehrlich, ob sich ein Agent dafür lohnt.