Der Einsatz von KI-Coding-Agents im Produktivbetrieb erfordert mehr als einfache Prompt-Response-Muster. Architekten müssen das Modell als eine probabilistische Reasoning-Engine und nicht als deterministischen Code behandeln.
Eine saubere Trennung zwischen Harness, Modell und UI ist entscheidend, um die Kontrolle zu behalten. Diese Architektur verhindert, dass das Modell zu einer Blackbox wird, die unmöglich zu debuggen oder zu skalieren ist.
Kurz gesagt
- •
Implementieren Sie eine Drei-Schichten-Architektur: ein Harness für die Orchestrierung, ein Modell für das Reasoning und ein UI für die Benutzerinteraktion.
- •
Rechnen Sie mit einem 10- bis 50-fachen Kostenmultiplikator beim Übergang von fest kodierten Workflows zu agentenbasierten Systemen aufgrund des Overheads beim Reasoning und des Token-Verbrauchs.
- •
Instrumentieren Sie jeden Gedanken, jede Aktion und jede Beobachtung mit OpenTelemetry, um die Sichtbarkeit der Entscheidungsschleifen des Agents zu gewährleisten.
Die Drei-Schichten-Architektur
Das Harness fungiert als primärer Orchestrator und steuert die Agent-Schleife sowie die Ausführung von Tools. Durch die Isolierung des Harness stellen Entwickler sicher, dass die Aktionen des Agents vorhersagbar bleiben, selbst wenn das Reasoning des zugrunde liegenden Modells probabilistisch ist.
Das Modell dient als Reasoning-Engine. Es sollte nicht mit State Management oder UI-Aufgaben belastet werden. Wenn diese Schicht schlank gehalten wird, erleichtert dies den Austausch von Modellen und die Leistungsoptimierung bei sich ändernden Anforderungen.
Management der Produktionskosten
Teams unterschätzen oft die Kosten von agentenbasierten Systemen. Ein Workflow, der fünf fest kodierte Schritte ausführt, kostet vielleicht nur Cents, aber ein Agent, der zwanzig Entscheidungen für dieselbe Aufgabe durchdenkt, kann die Kosten um eine Größenordnung erhöhen.
Jeder Entscheidungsschritt verbraucht Tokens und sammelt Kontext an. Um Budgetspitzen zu vermeiden, priorisieren Sie zunächst die Härtung der Wahrnehmungs- und Handlungsschichten. Verfeinern Sie die Reasoning-Logik erst, nachdem eine Baseline für Kosten und Leistung etabliert wurde.
Observability ist das letzte Puzzleteil. Ohne granulare Telemetrie ist das Debugging einer fehlgeschlagenen Agent-Schleife nahezu unmöglich. Senden Sie jeden Gedanken, jede Aktion und jede Beobachtung an Ihren Observability-Stack, um zu erkennen, wo das Reasoning fehlschlägt.
Quelle
AI Agents in Production: The Three-Layer Architecture
https://aienhancedengineer.substack.com/p/ai-agents-in-production-the-three
