Zum Inhalt

5 Produktdesign-Fallen beim Bau von KI-Agenten

Aktualisiert:
GenAI in der Praxis

Kurzfassung

KI-Agenten klingen cool, aber der Bau von Agent-Produkten in Unternehmen ist voller Stolperfallen. Hier sind fünf Designfallen, die ich selbst erlebt habe.

5 Produktdesign-Fallen beim Bau von KI-Agenten

2025 rückten KI-Agenten ins Zentrum der Branche. 2026 fragen sich Unternehmen: „Sollten wir auch einen Agenten bauen?“

Ein Agent und ein brauchbares Agentenprodukt erfordern unterschiedliche Entscheidungen. Bei der Entwicklung und Einführung von Agentensystemen in Unternehmen bin ich auf fünf Designfallen gestoßen.

Falle 1: Zu viele Aufgaben für einen Agenten

Ein einzelner Agent soll die Nutzerabsicht verstehen, die Wissensbasis durchsuchen, APIs aufrufen, Antworten schreiben und die Compliance prüfen. Sein Verhalten wird schwer vorhersehbar. Beim Debugging bleibt unklar, welcher Schritt fehlgeschlagen ist.

Hier hilft das Prinzip der einzelnen Verantwortung. Unser AI-Coach-System trennt drei Rollen:

  • Ein Agent erzeugt Kundenprofile.
  • Ein Kundenagent spielt die Kundenrolle.
  • Ein Coach-Agent gibt Feedback.

Ein- und Ausgaben jedes Agenten haben ein definiertes Schema. So lassen sich die Agenten unabhängig testen, bereitstellen und weiterentwickeln.

Falle 2: Fehlermöglichkeiten übersehen

Wer nur den erfolgreichen Ablauf plant, ist auf Grenzfälle im Betrieb nicht vorbereitet. Typische Fehler sind:

  • Schleifen, in denen Tool A Tool B aufruft und Tool B wieder Tool A.
  • Ungültige Werkzeugaufrufe, etwa an einen nicht vorhandenen API-Endpunkt.
  • Verlorener Gesprächskontext, wenn das Kontextfenster überläuft.
  • Eine überzogene Interpretation unklarer Aufträge: Der Nutzer bittet um eine Prüfung, der Agent führt eine Transaktion aus.

Plane Schutzschalter ein. Begrenze die Ausführung auf N Schritte und lasse den Agenten danach stoppen und berichten. Erlaube nur freigegebene Werkzeuge, erkenne Abweichungen vom erwarteten Verhalten und schreibe für bestimmte Situationen menschliche Eingriffe vor.

Falle 3: Dem Schlussfolgern zu viel vertrauen

Ein Agent kann bei einer komplexen Entscheidung überzeugend wirken und dennoch einem unpassenden Muster folgen.

Wir ließen einen Agenten einmal entscheiden, welche Risikoklasse von Finanzprodukten zu einem Kunden passt. Das Wort „Ruhestand“ im Prompt führte zur niedrigsten Risikopräferenz, obwohl der Kunde ausdrücklich höhere Risiken akzeptierte.

Irreversible Entscheidungen gehören in menschliche Hände. Der Agent darf Vorschläge machen. Sichtbare Zwischenprüfungen ermöglichen Eingriffe; ein Entscheidungsbaum oder Bewertungsraster gibt der Beurteilung eine feste Struktur.

Falle 4: Koordinationskosten ignorieren

Auch einzeln leistungsfähige Agenten können gemeinsam enttäuschen. Der Informationsaustausch verbraucht Tokens, erhöht die Latenz und kann die Kohärenz senken.

In meinen eigenen Implementierungen sah der Aufwand so aus. Die Zahlen sind Erfahrungswerte, kein allgemeingültiger Benchmark:

Zusammenarbeitende AgentenLatenzfaktorTokenfaktor
21,8×2,5×
33,2×4,1×
45,5×7,0×

Verwende so wenige Agenten wie nötig. Reicht ein Agent mit Werkzeugen, sollte es dabei bleiben. Definiere knappe Nachrichtenschemata, führe unabhängige Arbeit parallel aus und lege pro Agent ein Tokenbudget fest.

Falle 5: Keine Beobachtbarkeit im Betrieb

Ohne Ausführungsprotokolle lässt sich die Meldung „Der Agent antwortet seltsam“ kaum untersuchen.

Erfasse mindestens den vollständigen Ablauf von der Eingabe über Schlussfolgerungen und Werkzeugaufrufe bis zur Ausgabe. Dazu kommen Argumente und Ergebnisse jedes Werkzeugaufrufs sowie Metadaten der LLM-Aufrufe: Modell, Tokens, Latenz und Temperatur. Sammle außerdem positive und negative Bewertungen und Freitextfeedback.

Wir nutzen ein Tracing-System auf Basis von OpenTelemetry, Langfuse für die Prompt-Evaluation und ein internes Dashboard für die laufende Überwachung.

Meine Faustregel: Wer nicht erklären kann, warum der Agent eine Entscheidung getroffen hat, ist noch nicht bereit für den Produktivbetrieb.


Dies ist der letzte Beitrag der Reihe „GenAI Product Field Notes“.

Weiterlesen: Jahresrückblick 2025 und Ausblick.

Mehr zu diesem Thema

Zufälliger Artikel