KI-Agenten

Eine private KI-Agenten-Flotte für ein Ein-Personen-Unternehmen

Wie ich sieben spezialisierte KI-Agenten auf einer einzigen NixOS-Maschine betreibe — isoliert, mit eigener Wissensbasis und klaren Leitplanken. Ein Bauplan für KMU.

  • KI-Agenten
  • Automatisierung
  • NixOS
  • KMU
  • Self-Hosting

Ich betreibe für mein eigenes Kleinunternehmen eine Flotte aus sieben spezialisierten KI-Agenten — je einer für Finanzen, Vertrieb, Recht, Marketing, Sicherheit, Mentoring und interne Tool-Entwicklung. Alle laufen isoliert auf einer einzigen NixOS-Maschine, jeder mit eigener Wissensbasis und klaren Grenzen. Dieser Artikel ist der Bauplan dahinter — und was ein KMU davon übernehmen kann.

Fiktives Dashboard einer Agenten-Flotte auf einem NixOS-Host: eine Statistikzeile mit Agenten 7, Aktiv 3, Speicher 1,2 GB und Isoliert 7 von 7, darunter ein Raster aus sieben Agenten-Karten (Finanzen, Vertrieb, Coach, Recht, Marketing, Security, Dev) mit Status Aktiv oder Bereit, Wissensbasis-Größe, RAG-Verfahren und letztem Aktivitätszeitpunkt, plus eine Karte zum Hinzufügen eines Agenten.

Was ein KI-Agent von einem Chatbot unterscheidet

Ein KI-Agent ist kein Chat-Fenster, sondern ein dauerhaft laufender Dienst mit einer festen Rolle, eigenem Wissen und der Erlaubnis, konkrete Werkzeuge zu benutzen. Ein Chatbot beantwortet, was man ihn fragt. Ein Agent sucht selbst, fasst zusammen, bereitet Daten auf und führt wiederkehrende Schritte aus — innerhalb klar gesetzter Leitplanken.

Der Unterschied ist im Alltag entscheidend: Ein generischer Chatbot vergisst nach jeder Sitzung, was dein Betrieb ausmacht. Ein Agent mit angebundener Wissensbasis kennt deine Dokumente, deine Zahlen und deine Regeln dauerhaft — und antwortet mit Quellen statt aus dem Nichts.

Warum eine Flotte statt einem Alleskönner

Getrennte Agenten schlagen einen Universal-Agenten, sobald die Aufgabenbereiche unterschiedliches Wissen und unterschiedliche Rechte brauchen. Mein Finanz-Agent liest Marktdaten und mein reales Portfolio; mein Rechts-Agent kennt österreichisches und EU-Recht; mein Vertriebs-Agent arbeitet mit einem Verkaufs-Playbook. Diese Bereiche zu vermischen, würde jeden davon schwächer machen — und die Datentrennung aufheben.

Jeder Agent der Flotte hat dieselbe Struktur:

  • Eine Identität (eine Systemprompt-Datei, die Rolle und Tonfall festlegt)
  • Eine eigene Wissensbasis (RAG — durchsuchbare Firmendokumente)
  • Eigene Werkzeuge (Terminal, Websuche, Dateizugriff — je nach Rolle freigeschaltet)
  • Isolierter Zustand (jeder Agent schreibt in sein eigenes Verzeichnis, kein Zugriff auf die anderen)

So bleibt jeder Agent klein, überprüfbar und austauschbar. Fällt einer aus, laufen die anderen weiter.

Zwei Wege zur Wissensbasis: FTS5 und Vektor-Suche

Für die Wissenssuche (RAG) nutze ich bewusst zwei Verfahren, weil beide ihre Berechtigung haben:

  1. Volltextsuche (FTS5/BM25) — die Suchmaschine von SQLite, ganz ohne API-Schlüssel oder externes Modell. Schnell, kostenlos, ideal für klar benannte Begriffe, Aktenzeichen oder Produktnamen. Vier meiner Agenten laufen so.
  2. Vektor-Suche (Embeddings) — Text wird in Zahlenvektoren übersetzt (bei mir mit bge-m3 über OpenRouter), sodass auch sinnverwandte Formulierungen gefunden werden. Nötig, wenn Nutzer nicht die exakten Begriffe treffen. Zwei meiner Agenten nutzen das.

Die Lehre für KMU: Man braucht nicht immer teure Embeddings. Für einen durchsuchbaren Dokumentenbestand mit klarer Fachsprache reicht oft die eingebaute Volltextsuche — ohne laufende Kosten und ohne dass Daten das Haus verlassen. Mehr dazu im Beitrag über RAG mit Quellen statt Blackbox.

Alles auf einer Maschine — mit NixOS

Alle sieben Agenten laufen als isolierte Container auf einem einzigen headless Server. Jeder Agent hat sein eigenes Zustandsverzeichnis, seine eigenen Secrets und seine eigene Persönlichkeit — deklarativ in NixOS beschrieben. Das bedeutet: Die komplette Flotte lässt sich aus einer Konfigurationsdatei reproduzieren, aktualisieren und im Ernstfall exakt wiederherstellen.

Dieses Muster habe ich als offenes Projekt herausgelöst: Tentaflake ist eine NixOS-Flake-Vorlage, um beliebig viele isolierte Agenten auf einer Maschine zu betreiben — „ein NixOS-Gehirn, viele Tentakel“. Ein NixOS-Rebuild bringt die ganze Flotte auf Stand. Warum reproduzierbare Infrastruktur gerade für kleine Teams ein Gewinn ist, steht im Beitrag über NixOS für kleine Teams.

Leitplanken: kein Blackbox-Gefühl

Ein Agent darf nur, was man ihm ausdrücklich erlaubt — und jede Aktion wird protokolliert. Das ist der Teil, den Betriebe zu Recht am meisten interessiert. Bei mir gilt für jeden Agenten:

  • Werkzeug-Freigaben: Der Agent kann nur bestimmte Tools nutzen. Kein Zugriff heißt kein Zugriff — nicht „bitte nicht“.
  • Menschliche Freigabe an den kritischen Stellen: Bevor etwas nach außen geht oder Geld bewegt, entscheidet ein Mensch.
  • Logging: Jede Aktion ist nachvollziehbar. Man sieht hinterher, was passiert ist, statt es zu vermuten.
  • Datensparsamkeit: Der Agent bekommt nur die Daten, die er für seine Aufgabe braucht.

Diese vier Punkte trennen ein System, dem man vertraut, von einem, das man ständig überwachen muss.

Was ein KMU davon mitnehmen kann

Du brauchst keine sieben Agenten. Du brauchst einen, der einen echten, wiederkehrenden Prozess zuverlässig übernimmt — und den richtigen Zuschnitt drumherum. Der Bauplan bleibt derselbe:

  1. Ein klar abgegrenzter Use Case statt eines Rundum-Systems.
  2. Eine Wissensbasis aus deinen echten Dokumenten, mit Quellenangabe.
  3. Leitplanken — Freigaben, Logging, Datensparsamkeit — von Anfang an, nicht als späterer Aufsatz.
  4. Reproduzierbarer Betrieb, damit das System wartbar bleibt.

Genau so baue ich KI & Automatisierung für kleine und mittlere Betriebe: kontrolliert, nachvollziehbar und bereit für den Alltag — nicht nur für die Demo. Wenn du einen Prozess im Kopf hast, der sich wiederholt: schreib mir, und ich sage dir ehrlich, ob sich ein Agent dafür lohnt.

Häufige Fragen

Braucht ein kleiner Betrieb wirklich mehrere KI-Agenten?

Nein — die meisten Betriebe starten mit einem einzigen, klar abgegrenzten Agenten für den Prozess, der am meisten Zeit frisst. Eine Flotte lohnt sich erst, wenn mehrere getrennte Aufgabenbereiche jeweils eigenes Fachwissen und eigene Berechtigungen brauchen.

Was kostet der Betrieb einer eigenen KI-Agenten-Flotte?

Die Rechenkosten sind gering: Ein Agent nutzt ein LLM über eine API (z. B. OpenRouter) und läuft auf einem kleinen Server ab etwa 5–20 € im Monat. Der eigentliche Aufwand steckt einmalig im Aufbau — im Zuschnitt des Use Cases, der Wissensbasis und der Leitplanken.

Landen meine Firmendaten dabei bei einem KI-Anbieter?

Nur so weit, wie du es zulässt. Die Wissensbasis liegt lokal auf deiner Maschine. An das LLM geht pro Anfrage nur der Ausschnitt, der für die Antwort nötig ist — und das lässt sich auf datenschutzfreundliche Anbieter oder ein selbst gehostetes Modell begrenzen.

Nächster Schritt

Ein Vorhaben, das dazu passt?

Ein paar Sätze reichen. Du bekommst eine klare technische Einschätzung und den sinnvollsten nächsten Schritt — kostenlos und unverbindlich.

Projektidee senden

Nur datenschutzfreundliche Analyse. Keine nicht notwendigen Cookies und kein Werbetracking.

Datenschutz