Mein AI-Setup im Überblick
Mein AI-Setup – Aktuelle Übersicht
Ich betreibe ein persönliches KI-Ökosystem, das mich im Produkt-, Design- und Innovationsmanagement unterstützt. Hier ist der aktuelle Stand meines Setups – ein vernetztes System aus KI-Agenten, automatisierten Workflows, einer zentralen Wissensdatenbank und selbst-gehosteten Anwendungen, das vollständig auf meinem eigenen Server läuft. Diese Übersicht wird nach jedem neuen Blog-Post automatisch aktualisiert.
---
Architektur
flowchart TB
%% ============ Schicht 1: Inputs ============
subgraph S1["📥 Datenquellen"]
direction LR
src_mail["E-Mail
IMAP"]
src_news["Newsletter
3 h-Takt"]
src_li["LinkedIn
CDP-Scraper"]
src_web["Web-Bookmarks
Raindrop"]
src_docs["Dokumente
PDF · DOCX"]
src_ha["Sensorik
Home Assistant"]
end
%% ============ Schicht 2: Brain (LLM + Agenten) ============
subgraph S2["🧠 KI-Brain"]
direction TB
subgraph S2A["Gateway-Hub"]
direction LR
classifier["LLM-Classifier v2.1
6 Tiers · RL-Loop"]
gateway["LiteLLM-Gateway
10+ Provider · Fallback"]
guard["Content Guardrails
+ Semantic Cache 62 %"]
classifier -->|routet| gateway
gateway --- guard
end
subgraph S2B["Worker (täglich + Event-Trigger)"]
direction LR
ag_brief["Morning Briefing
+ Querverbindung"]
ag_news["Newsletter
Analyse"]
ag_mail["Mail-Agent
Triage + Tasks"]
ag_li["LinkedIn
Monitor"]
ag_enrich["Vault
Enrichment"]
end
subgraph S2D["Steuerung & Ausführung"]
direction LR
cockpit["Cockpit
Tasks · Approvals
Control-Plane"]
hermes["Hermes
Agentischer Execution-Arm
$3/Tag · via Classifier"]
atelier["Atelier
Innovator-Schicht
Hypothesen → Fäden"]
cockpit <-->|"Vorschlag · Freigabe · Ausführung"| hermes
atelier -->|"Provokationen · Fäden"| cockpit
end
subgraph S2C["Meta-Agenten (wöchentlich · monatlich)"]
direction LR
ma_cat["Catalyst-Weekly
Sonntag"]
ma_relev["Briefing-Relevance
Sonntag"]
ma_setup["Setup-Improvement
Chief-of-Staff · Montag"]
ma_tech["Tech-Radar
Monatlich"]
ma_skills["Skills-Discovery
Monatlich"]
end
end
%% ============ Schicht 3: Memory ============
subgraph S3["💾 Wissensspeicher"]
direction LR
vault_db["Obsidian Vault
6.000+ Notizen
Echtzeit-Sync"]
vault_intel["Vault-Intelligence
Hybrid-Suche · Graph
768-dim Embeddings"]
mcp_agg["MCP-Aggregator
Progressive Disclosure"]
end
%% ============ Schicht 4: Apps + Outputs ============
subgraph S4["🛠️ Self-Hosted Apps"]
direction LR
app_mail["Mail-Agent
Webmail · Triage"]
app_lt["LanguageTool
Grammatik"]
app_buch["Buchhaltung
Beleg-OCR"]
app_more["+ Docs-Upload
Passbolt · Listmonk"]
end
subgraph S5["📤 Ausgaben"]
direction LR
out_ntfy["ntfy-Push
Briefing · Alerts"]
out_mail["E-Mail
Briefing · Newsletter"]
out_blog["Blog
Auto-Setup-Update"]
end
subgraph S6["📊 Observability"]
direction LR
obs_grafana["Grafana · Prometheus
Loki · Tempo
22 Alerts"]
end
%% ============ Verbindungen ============
S1 --> S2B
S2B -->|nutzt LLM| S2A
S2C -->|nutzt LLM| S2A
hermes -->|routet alles| S2A
S2B -->|schreibt| vault_db
S2C -->|liest + schreibt| vault_db
S2C -->|legt Tasks an| cockpit
hermes -->|scannt · schlägt vor| cockpit
ag_mail -->|Approval-Gate| cockpit
cockpit -->|führt aus| hermes
vault_db <-->|Index + Suche| vault_intel
hermes -.->|Vault-MCP| vault_intel
src_docs -->|Ingestion| vault_db
S4 -.->|MCP-Tools| mcp_agg
mcp_agg -.->|exposed| S2A
S2B --> S5
hermes -->|ntfy| S5
S6 -.->|überwacht alles| S2A
%% ============ Style-Klassen ============
classDef inputs fill:#dbeafe,stroke:#1e40af,color:#1e3a8a
classDef brain fill:#ede9fe,stroke:#5b21b6,color:#4c1d95
classDef memory fill:#fef3c7,stroke:#b45309,color:#78350f
classDef apps fill:#d1fae5,stroke:#047857,color:#064e3b
classDef outputs fill:#fce7f3,stroke:#9d174d,color:#831843
classDef obs fill:#e0e7ff,stroke:#3730a3,color:#312e81
class src_mail,src_news,src_li,src_web,src_docs,src_ha inputs
class classifier,gateway,guard,ag_brief,ag_news,ag_mail,ag_li,ag_enrich,ma_cat,ma_relev,ma_setup,ma_tech,ma_skills,cockpit,hermes,atelier brain
class vault_db,vault_intel,mcp_agg memory
class app_mail,app_lt,app_buch,app_more apps
class out_ntfy,out_mail,out_blog outputs
class obs_grafana obs
---
Kernkomponenten
💾 Wissensdatenbank
Im Mittelpunkt steht meine Obsidian-basierte Wissensdatenbank mit über 6.000 Notizen, die in Echtzeit über alle Geräte synchronisiert. Der Vault-Intelligence-Layer reichert jede Notiz automatisch an: Kategorisierung, Zusammenfassung und semantische 768-dimensionale Embeddings. So entsteht aus einer einfachen Notizsammlung ein durchsuchbarer, vernetzter Wissensgraph. Die Hybrid-Suche ermöglicht sowohl Stichwort- als auch semantische Abfragen – über Notizen und Dokumente hinweg. Der MCP-Aggregator dient als Brücke zwischen den selbst-gehosteten Anwendungen und den KI-Modellen. Statt jedem Client die vollständigen Tool-Schemas aller Backends im Systemprompt mitzugeben, exponiert er nur drei Meta-Werkzeuge: Werkzeug-Liste, Werkzeug-Detail und Werkzeug-Ausführen. Die eigentlichen Schemas werden erst auf Abruf nachgeladen, was bei zehn angebundenen Backends rund 80 % der Schema-Tokens spart.---
🧠 KI-Agenten
Mein System besteht aus mehreren Schichten von Agenten, die spezifische Aufgaben übernehmen:#### Tägliche Worker (Event-Trigger)
- Morning Briefing-Agent: Erstellt täglich eine personalisierte Zusammenfassung mit optionaler Ops-Lage. Die Sektion „Querverbindung“ wird nur eingeblendet, wenn der Classifier v2.1 eine substantielle Verknüpfung zwischen Briefing-Inhalt, offenen Aufgaben und Vault-Aktivität erkennt.
- Newsletter-Agent: Analysiert eingehende Fach-Newsletter (im 3-Stunden-Takt) und extrahiert relevante Insights.
- Mail-Agent: Triagiert E-Mails mit einem aktionsorientierten Label-Modell (Antwort · Aufgabe · Info · Lesen · Promo) und extrahiert aus „Antwort“- und „Aufgaben“-Mails konkrete To-Dos, die nach optionaler Freigabe im Cockpit landen.
- LinkedIn-Monitor: Nutzt einen schlanken Scraper über das Chrome DevTools Protocol (CDP), um relevante Beiträge zu beobachten und Kommentarvorschläge zu generieren.
- Vault Enrichment-Agent: Reichert neue Notizen automatisch mit Metadaten und Verknüpfungen an.
#### Meta-Agenten (wöchentlich & monatlich) Fünf Agenten beobachten und optimieren das Setup selbst:
- Catalyst-Weekly (sonntags): Identifiziert die drei wichtigsten offenen Fragen aus dem Vault und legt sie als Aufgaben im Cockpit an.
- Briefing-Relevance (sonntags): Misst die Wirksamkeit des täglichen Briefings der vergangenen Woche – basierend auf erledigten vs. liegengebliebenen Aufgaben und Vault-Aktivität.
- Setup-Improvement (montags): Schreibt einen Chief-of-Staff-Wochenreport, der Grafana-Alerts, Hygiene-Audit, Classifier-Review, LLM-Spend und Routing-Statistiken zu drei priorisierten Verbesserungsmaßnahmen verdichtet.
- Tech-Radar (monatlich): Scannt die letzten 30 Tage Newsletter und Sumup-Notizen nach Tools, die zum Stack passen würden.
- Skills-Discovery (monatlich): Vergleicht installierte Skills mit der Community-Liste und schlägt fünf Workflow-Skills vor.
---
🎯 Steuerung & Ausführung: Cockpit + Hermes
Zwei zentrale Komponenten bilden die Achse zwischen „Was soll passieren“ und „Wie wird es ausgeführt“:- Cockpit: Die agentenfirst konzipierte Steuerungs-Oberfläche und gleichzeitig die Mensch-Kontrollebene. Hier laufen Aufgaben, Projekte, Abhängigkeiten, ein Completion-Gate mit LLM-Prüfung und ein Freigabe-Gate für Agenten-Vorschläge zusammen. Es hat alle früheren Insellösungen (klassisches Task-Tool, separates Admin-Dashboard) abgelöst.
- Hermes: Der agentische Ausführungs-Arm – die Reasoning- und Aktionsschicht zwischen Cockpit und Infrastruktur. Hermes löste die frühere monolithische Assistenten-Automatisierung vollständig ab:
---
🏗️ Atelier – Innovator-Schicht
Seit Juni läuft im Cockpit ein Modul, das aus Spannungen in der Infrastruktur-Telemetrie eigenständig Hypothesen züchtet. Ein täglicher Vier-Stufen-Loop (Variation → Kritik → Geschmacks-Selektion → Verdichtung) erzeugt Provokationen, selektiert sie per Quality-Diversity-Ansatz gegen den gelernten Geschmack und verdichtet die besten zu langlebigen Fäden, die über Wochen weiterentwickelt werden. Damit dreht sich die Rollenverteilung: Das System wartet nicht auf Aufträge, sondern macht von sich aus begründete Vorschläge – mit hartem Tagesbudget und menschlicher Letztentscheidung im Cockpit.---
🔄 LLM-Classifier v2.1
Das Herzstück der Kostenoptimierung: Ein intelligenter Request-Classifier analysiert jede LLM-Anfrage und routet sie an das optimale Modell. Statt alle Anfragen an teure Modelle zu schicken, unterscheidet er sechs Leistungsstufen:Eine Rule Engine erkennt Muster wie Code-Blöcke oder Cron-Prefixe. Nur bei unsicheren Fällen werden zusätzlich Embeddings berechnet (Conditional Embedding – spart rund 85 % der Embedding-Aufrufe). Ein Reinforcement-Learning-Loop passt die Zuordnungen täglich automatisch an.
---
🚪 LLM-Gateway
Ein zentrales LiteLLM-Gateway routet KI-Anfragen an den vom Classifier bestimmten Provider:- 10+ Provider mit automatischen Fallback-Ketten für Verfügbarkeit.
- Content Guardrails blockieren oder maskieren sensible Daten (API-Keys, Kreditkarten, IBANs) zentral für alle Clients – inklusive Obfuskations-Erkennung (Base64 & Co.) und Response-Scanning, abgesichert durch einen eigenen Red-Team-Regressions-Test.
- Semantischer Cache auf Qdrant-Basis: Langzeit-Hit-Rate von 62 %, Latenz sinkt bei identischen Folgeaufrufen um 80 %.
- Drei Team-Budgets trennen die Tages-Limits sauber.
- Fünfschichtiger Kostenschutz mit proaktiven Spend-Alerts.
- Seit Juli: Streaming-Antworten werden centgenau erfasst (vorher ein blinder Fleck der Tenant-Budgets).
- Täglicher Abgleich prüft die eigene Kostenrechnung gegen die Gateway-Abrechnung.
🛠️ Selbst-gehostete Anwendungen
Eine Sammlung produktiver Tools läuft auf meinem Server:- Mail-Agent: Webmail mit IMAP-basierter Triage, Newsletter-Distillation, Reply-Vorschlägen und Bridge zum Cockpit (Action Items aus „Antwort“-/„Aufgaben“-Mails).
- LanguageTool: Grammatik- und Stilprüfung für Deutsch und Englisch mit n-gram-Daten – auch als Backend für Browser-Extensions.
- Buchhaltung: Beleg-OCR für ein Familien-Kleinunternehmen (LLM-basiert, wenige Zehntel-Cent pro Beleg).
- Dokument-Upload: PDFs werden direkt in die Wissensdatenbank ingestiert.
- Passbolt: Passwort-Manager.
- Listmonk: Newsletter-System.
⚙️ Automatisierung
- Über 50 spezialisierte Cron-Jobs orchestrieren den täglichen Betrieb: Datensicherung, Log-Rotation, Provider-Guthaben-Monitoring – jeder mit eigenem Heartbeat.
- Die fünf Meta-Agenten laufen als eigene Cron-Stufe (sonntags, montags, monatlich) und legen ihre Ergebnisse als Markdown-Notizen im Vault ab.
📊 Observability Stack
Ein vollständiges Monitoring-System überwacht alle Komponenten:- Grafana visualisiert den Systemzustand über sechs Dashboards:
- 22 Alert Rules benachrichtigen automatisch per ntfy-Push und E-Mail.
- Prometheus sammelt Metriken von fünf Exportern.
- Loki aggregiert Logs aller Container.
- Grafana Tempo zeichnet End-to-End-Traces zwischen Classifier und Gateway auf – mit 30 Tagen Retention.
- Über 50 Cron-Jobs melden aktiv Lebenszeichen (Heartbeat): Ein ausbleibender Lauf ist selbst ein Alarm.
🔄 RL-Feedback-Loop
Die Qualität der KI-Ausgaben wird automatisch bewertet:- Ein separates Bewertungsmodell scored die Ergebnisse der Agenten.
- Bei sinkender Qualität werden Prompts automatisch optimiert – ein selbstverbesserndes System.
📝 Blog-Automatisierung
- Setup-Änderungen werden automatisch in Blog-Posts umgewandelt.
- Ein LLM schreibt technische Details in allgemein verständliche Beiträge.
- Vor der Publikation prüft ein Judge-Gate jeden automatisierten Post:
- Beanstandete Posts gehen nie live, sondern warten als Entwurf auf menschliche Prüfung.
- Ein täglicher Newsletter informiert Abonnenten über neue Posts.