Mein AI-Setup im Überblick
Hier ist die aktuelle Übersicht meines persönlichen AI-Setups. Sie dient als Einstiegspunkt und roter Faden für alle Beiträge auf diesem Blog.
Philosophie
Ich baue ein persönliches AI-System, das mich gezielt im Produkt-, Design- und Innovationsmanagement unterstützt. Es ist keine isolierte Insellösung, sondern ein eng vernetztes Ökosystem aus spezialisierten KI-Agenten, automatisierten Workflows, einer zentralen Wissensdatenbank und einer maßgeschneiderten Sammlung selbst-gehosteter Anwendungen. Alles läuft auf meinem eigenen Server – das bedeutet für mich volle Kontrolle über meine Daten und absoluten Verzicht auf einen Vendor Lock-in.
Architektur
flowchart TB
%% ============ Schicht 1: Inputs ============
subgraph S1["📥 Datenquellen"]
direction LR
src_mail["E-Mail
IMAP"]
src_news["Newsletter
3 h-Takt"]
src_li["LinkedIn
CDP-Scraper"]
src_web["Web-Bookmarks
Raindrop"]
src_docs["Dokumente
PDF · DOCX"]
src_ha["Sensorik
Home Assistant"]
end
%% ============ Schicht 2: Brain (LLM + Agenten) ============
subgraph S2["🧠 KI-Brain"]
direction TB
subgraph S2A["Gateway-Hub"]
direction LR
classifier["LLM-Classifier v2.1
6 Tiers · RL-Loop"]
gateway["LiteLLM-Gateway
10+ Provider · Fallback"]
guard["Content Guardrails
+ Semantic Cache 62 %"]
classifier -->|routet| gateway
gateway --- guard
end
subgraph S2B["Worker (täglich + Event-Trigger)"]
direction LR
ag_brief["Morning Briefing
+ Querverbindung"]
ag_news["Newsletter
Analyse"]
ag_mail["Mail-Agent
Triage + Tasks"]
ag_li["LinkedIn
Monitor"]
ag_enrich["Vault
Enrichment"]
end
subgraph S2D["Steuerung & Ausführung"]
direction LR
cockpit["Cockpit
Tasks · Approvals
Control-Plane"]
hermes["Hermes
Agentischer Execution-Arm
$3/Tag · via Classifier"]
atelier["Atelier
Innovator-Schicht
Hypothesen → Fäden"]
cockpit <-->|"Vorschlag · Freigabe · Ausführung"| hermes
atelier -->|"Provokationen · Fäden"| cockpit
end
subgraph S2C["Meta-Agenten (wöchentlich · monatlich)"]
direction LR
ma_cat["Catalyst-Weekly
Sonntag"]
ma_relev["Briefing-Relevance
Sonntag"]
ma_setup["Setup-Improvement
Chief-of-Staff · Montag"]
ma_tech["Tech-Radar
Monatlich"]
ma_skills["Skills-Discovery
Monatlich"]
end
end
%% ============ Schicht 3: Memory ============
subgraph S3["💾 Wissensspeicher"]
direction LR
vault_db["Obsidian Vault
6.000+ Notizen
Echtzeit-Sync"]
vault_intel["Vault-Intelligence
Hybrid-Suche · Graph
768-dim Embeddings"]
mcp_agg["MCP-Aggregator
Progressive Disclosure"]
end
%% ============ Schicht 4: Apps + Outputs ============
subgraph S4["🛠️ Self-Hosted Apps"]
direction LR
app_mail["Mail-Agent
Webmail · Triage"]
app_lt["LanguageTool
Grammatik"]
app_buch["Buchhaltung
Beleg-OCR"]
app_more["+ Docs-Upload
Passbolt · Listmonk"]
end
subgraph S5["📤 Ausgaben"]
direction LR
out_ntfy["ntfy-Push
Briefing · Alerts"]
out_mail["E-Mail
Briefing · Newsletter"]
out_blog["Blog
Auto-Setup-Update"]
end
subgraph S6["📊 Observability"]
direction LR
obs_grafana["Grafana · Prometheus
Loki · Tempo
22 Alerts"]
end
%% ============ Verbindungen ============
S1 --> S2B
S2B -->|nutzt LLM| S2A
S2C -->|nutzt LLM| S2A
hermes -->|routet alles| S2A
S2B -->|schreibt| vault_db
S2C -->|liest + schreibt| vault_db
S2C -->|legt Tasks an| cockpit
hermes -->|scannt · schlägt vor| cockpit
ag_mail -->|Approval-Gate| cockpit
cockpit -->|führt aus| hermes
vault_db <-->|Index + Suche| vault_intel
hermes -.->|Vault-MCP| vault_intel
src_docs -->|Ingestion| vault_db
S4 -.->|MCP-Tools| mcp_agg
mcp_agg -.->|exposed| S2A
S2B --> S5
hermes -->|ntfy| S5
S6 -.->|überwacht alles| S2A
%% ============ Style-Klassen ============
classDef inputs fill:#dbeafe,stroke:#1e40af,color:#1e3a8a
classDef brain fill:#ede9fe,stroke:#5b21b6,color:#4c1d95
classDef memory fill:#fef3c7,stroke:#b45309,color:#78350f
classDef apps fill:#d1fae5,stroke:#047857,color:#064e3b
classDef outputs fill:#fce7f3,stroke:#9d174d,color:#831843
classDef obs fill:#e0e7ff,stroke:#3730a3,color:#312e81
class src_mail,src_news,src_li,src_web,src_docs,src_ha inputs
class classifier,gateway,guard,ag_brief,ag_news,ag_mail,ag_li,ag_enrich,ma_cat,ma_relev,ma_setup,ma_tech,ma_skills,cockpit,hermes,atelier brain
class vault_db,vault_intel,mcp_agg memory
class app_mail,app_lt,app_buch,app_more apps
class out_ntfy,out_mail,out_blog outputs
class obs_grafana obs
Kernkomponenten
Die zentrale Wissensdatenbank
Sämtliche Informationen fließen in eine zentrale, auf Obsidian basierende Wissensdatenbank, die mehr als 6.000+ Notizen umfasst und in Echtzeit über alle meine Geräte synchronisiert wird. Durch den Analyse-Layer "Vault-Intelligence" wird jede einzelne Notiz vollautomatisch mit einer Kategorie, einer Zusammenfassung und semantischen 768-dim Embeddings angereichert. Das verwandelt die Sammlung in einen hochgradig durchsuchbaren, vernetzten Wissensgraphen.Dokumenten-Pipeline
Fachdokumente, wie PDFs, Word-Dateien oder Normen, lade ich einfach per Drag-and-Drop hoch. Die Pipeline zerlegt diese Dokumente in durchsuchbare Chunks und indexiert sie semantisch. Eine Hybrid-Suche ermöglicht es mir anschließend, Inhalte sowohl über klassische Stichwörter als auch nach ihrer tieferen Bedeutung zu finden – nahtlos über alle Notizen und Dokumente hinweg.KI-Agenten (täglich und per Event-Trigger)
Ein wesentlicher Teil meines Setups sind spezialisierte KI-Agenten, die wiederkehrende Aufgaben automatisch abarbeiten. Der "Newsletter-Agent" analysiert eintreffende Fach-Newsletter und extrahiert die wirklich relevanten Insights. Der "Morning-Briefing-Agent" erstellt mir jeden Tag eine personalisierte Zusammenfassung, inklusive einer optionalen Ops-Lage. Besonders spannend ist die separate Sektion „Querverbindung“: Sie wird nur dann eingeblendet, wenn das System eine substantielle Verknüpfung zwischen dem Briefing-Inhalt, meinen offenen Aufgaben und der aktuellen Aktivität in der Wissensdatenbank erkennt.Mein "LinkedIn-Monitor" nutzt einen extrem schlanken Scraper über das Chrome DevTools Protocol, um für mich relevante Beiträge zu beobachten und sogar passende Kommentar-Vorschläge zu generieren. Der "Mail-Agent" kümmert sich um eingehende E-Mails: Er triagiert sie nach einem aktionsorientierten Modell mit den Labels Antwort, Aufgabe, Info, Lesen und Promo. Aus Mails mit dem Label „Antwort“ oder „Aufgabe“ extrahiert er direkt konkrete To-Dos, die nach meiner optionalen Einzelfreigabe im Cockpit landen. Alle diese Worker schreiben ihre Ergebnisse sauber in die Wissensdatenbank. Seit einer umfassenden Migration laufen sie nicht mehr über einen schwerfälligen, monolithischen Assistenten, sondern als spezialisierte, schlanke Host-Worker, die für die LLM-Synthese über "Hermes" geroutet werden.
Meta-Agenten (wöchentlich und monatlich)
Zusätzlich gibt es eine Meta-Ebene von Agenten. Diese beobachten mein Setup selbst und etablieren OODA-Loops (Beobachten, Orientieren, Entscheiden, Handeln).- Catalyst-Weekly identifiziert jeden Sonntag die drei wichtigsten offenen Fragen aus meinem Vault und legt diese direkt als Aufgaben im Cockpit an.
- Briefing-Relevance misst sonntagabends die Wirksamkeit meines täglichen Briefings der vergangenen Woche, indem es erledigte gegen liegengebliebene Aufgaben und die Vault-Aktivität abgleicht.
- Setup-Improvement fungiert als mein Chief-of-Staff: Er schreibt montags früh einen Wochenreport. Er verdichtet Grafana-Alerts, das Hygiene-Audit, Classifier-Reviews, LLM-Spends und Routing-Statistiken zu genau 3 priorisierten Verbesserungs-Maßnahmen.
- Tech-Radar scannt einmal im Monat die Newsletter und Sumup-Notizen der letzten 30 Tage nach neuen Tools, die in meinen Stack passen könnten.
- Skills-Discovery vergleicht monatlich meine installierten Skills mit einer Community-Liste und schlägt mir 5 Workflow-Skills vor.
Steuerung & Ausführung (Cockpit + Hermes)
Diese beiden Systeme bilden die zentrale Achse zwischen Planung und Ausführung. Das Cockpit ist meine Agent-first konzipierte Steuerungs-Oberfläche und gleichzeitig meine menschliche Kontroll-Ebene. Hier laufen Aufgaben, Projekte, Abhängigkeiten, ein Completion-Gate mit LLM-Prüfung und ein Freigabe-Gate für die Vorschläge der Agenten zusammen.Hermes ist der agentische Execution-Arm, der zwischen dem Cockpit und meiner Infrastruktur vermittelt. Hermes hat die frühere monolithische Automatisierung komplett abgelöst: Wiederkehrende Synthese-Jobs (wie das Morning-Briefing, die Newsletter-Bewertung, LLM-Controlling-Reports oder die Konflikt-Bereinigung in der Wissensdatenbank) laufen nun als schlanke Worker. Ihre LLM-Aufrufe müssen zwingend über den Classifier geroutet werden, operieren mit einem strengen Tagesbudget von $3/Tag und haben keinen eigenen Master-Key.
Der Loop wird proaktiv geschlossen: Ein täglicher Reflect-Lauf scannt die Wissensdatenbank, die Kosten und meine offenen Aufgaben und schlägt dem Cockpit konkrete Maßnahmen vor. Gebe ich diese frei, führt ein Ops-Runner sie autonom aus und hinterlegt ein sauberes Arbeitslog. Eine Event-Brücke reagiert zudem ereignisgetrieben (z. B. bei kritischen System-Warnungen). Alle Push-Benachrichtigungen erfolgen verlässlich über einen selbst-gehosteten ntfy-Dienst.
Atelier — Innovator-Schicht
Seit Juni läuft im Cockpit das "Atelier"-Modul. Es züchtet aus Spannungen in der Infrastruktur-Telemetrie eigenständig neue Hypothesen. Ein täglicher 4-Stufen-Loop (Variation → Kritik → Geschmacks-Selektion → Verdichtung) erzeugt Provokationen. Über einen Quality-Diversity-Ansatz werden diese gegen meinen gelernten Geschmack abgeglichen, um Vielfalt statt Einheitsbrei zu garantieren. Die besten Ideen verdichtet das Atelier zu langlebigen Fäden, die über Wochen weiterentwickelt werden. Das System wartet also nicht passiv auf Aufträge, sondern macht proaktiv, mit hartem Tagesbudget und unter meiner Letztentscheidung, begründete Vorschläge.LLM-Classifier v2.1
Dies ist das Herzstück meiner Kostenoptimierung. Der intelligente "LLM-Classifier v2.1" analysiert jede LLM-Anfrage und routet sie an das jeweils optimale Modell. Er unterscheidet 6 Tiers: simple (Heartbeat-Checks), cheap (Cron-Jobs), coding (Code-Generierung), analysis (Datenanalyse), creative (Textproduktion) und general (Fallback). Eine Rule Engine erkennt Muster (wie Code-Blöcke oder Cron-Prefixe). Nur bei unsicheren Fällen werden per Conditional Embedding zusätzliche Vektoren berechnet – das spart rund 85 % der Embedding-Aufrufe. Ein Reinforcement-Learning-Loop passt diese Zuordnungen zudem täglich vollautomatisch an.LLM-Gateway mit Cache und Budgets
Das LiteLLM-Gateway routet die Anfragen an mehr als 10+ Provider, wobei automatische Fallback-Ketten für hohe Verfügbarkeit sorgen. Zentrale Content Guardrails blockieren oder maskieren sensible Daten (API-Keys, Kreditkarten, IBANs) für alle angebundenen Clients, inklusive Erkennung von Obfuskationen (wie Base64). Dies ist durch einen eigenen Red-Team-Regressions-Test abgesichert.Ein semantischer Cache auf Qdrant-Basis beantwortet wiederkehrende Anfragen ohne neuen Modell-Aufruf. Er erzielt eine Langzeit-Hit-Rate von 62 % und senkt die Latenz bei identischen Folge-Aufrufen um rund 80 %. Das Kostenmanagement ist streng: 3 Team-Budgets trennen die Limits, ein 5-schichtiger Kostenschutz mit proaktiven Spend-Alerts verhindert Überraschungen. Seit Juli werden auch Streaming-Antworten centgenau erfasst, und ein täglicher Abgleich prüft meine interne Kostenrechnung gegen die Abrechnung des Gateways.
MCP-Aggregator
Der "MCP-Aggregator" schlägt die Brücke zwischen meinen selbst-gehosteten Anwendungen und den KI-Modellen. Anstatt jedem KI-Client die riesigen Tool-Schemas aller Systeme in den Systemprompt zu packen, exponiert der Aggregator per Progressive Disclosure nur 3 Meta-Werkzeuge: Werkzeug-Liste, Werkzeug-Detail und Werkzeug-Ausführen. Die echten Schemas werden erst bei Bedarf nachgeladen. Bei zehn angebundenen Backends spart das rund 80 % der Schema-Tokens und verdrei- bis vervierfacht die Anzahl gleichzeitiger Sitzungen pro Station. Die SQLite-Persistenz hält den Tool-Index über Neustarts hinweg, und ein Audit-Log mit Tenant-Salt protokolliert strikt jeden Aufruf.Selbst-gehostete Anwendungen
Auf meinem Server läuft eine Vielzahl produktiver Apps. Der "Mail-Agent" mit Webmail-Oberfläche bietet IMAP-basierte Triage, Newsletter-Distillation und Reply-Vorschläge. Er ist direkt mit dem Cockpit verknüpft, sodass To-Dos aus "Antwort"- oder "Aufgaben"-Mails per Freigabe-Klick direkt in meine Aufgabenliste wandern.Das Cockpit selbst vereint die Mensch- und Agenten-Sicht und hat frühere Insellösungen abgelöst. Es enthält auch ein Finanztool-Modul für meine privaten Finanzen (Bank-Sync, Regel-Engine mit LLM-Fallback, Wochen- und Monatsreports in die Wissensdatenbank). Weiterhin nutze ich "LanguageTool" (Grammatik und Stil in Deutsch und Englisch mit n-gram-Daten, auch als Browser-Extension) sowie eine App für "Buchhaltung", die Belege eines Familien-Kleinunternehmens per LLM-OCR für wenige Zehntel-Cent pro Beleg digitalisiert. Abgerundet wird das Setup durch "Passbolt" als Passwort-Manager, "Listmonk" für Newsletter und einen Docs-Upload, der PDFs direkt in die Wissensdatenbank ingestiert.