KI-Agenten: Vom Antworten zum Handeln

Ein Begriff mit unterschiedlichen Bedeutungen

Ein Chatbot beantwortet eine Frage. Ein agentisches System kann zusätzlich Werkzeuge einsetzen, Zwischenergebnisse auswerten und weitere Schritte auswählen. Anthropic unterscheidet in seinem grundlegenden Beitrag zu Agenten zwischen fest vorgegebenen Arbeitsabläufen und Agenten, bei denen das Modell den Ablauf dynamischer bestimmt. Im Produktmarketing wird der Begriff allerdings unterschiedlich verwendet. Entscheidend ist deshalb, was eine Anwendung konkret selbst erledigen darf.

Werkzeuge erweitern die Möglichkeiten

Ein Agent könnte beispielsweise freigegebene Dokumente durchsuchen, Informationen zusammenstellen und einen Bericht als Datei vorbereiten. Nach einer Suchanfrage wertet er das Ergebnis aus und entscheidet, ob weitere Quellen nötig sind. Die Forschungsarbeit ReAct beschreibt das Zusammenspiel von Überlegungen und Aktionen: Die Interaktion mit einer Umgebung liefert neue Informationen, auf die das System seinen nächsten Schritt stützen kann.

Das bedeutet nicht, dass jeder vorgeschlagene Schritt sinnvoll ist. Ein Werkzeug kann fehlschlagen, ein Suchtreffer unpassend sein oder eine Zwischenannahme falsch bleiben. Ein nachvollziehbarer Ablauf sollte deshalb erkennen lassen, welche Ergebnisse tatsächlich vorliegen und welche Aufgabe noch offen ist.

Autonomie braucht einen klaren Auftrag

Für einen Rechercheauftrag lässt sich etwa festlegen: nur öffentliche Quellen lesen, einen Vergleich erstellen und keine Nachrichten versenden. Für einen Kalenderassistenten wären erlaubte Kalender, Zeitfenster und die Freigabe vor einer Einladung relevant. Solche Grenzen gehören zur Gestaltung der Anwendung. Ein pauschales Versprechen, der Agent werde sich schon richtig entscheiden, ersetzt sie nicht.

Anthropic weist zudem darauf hin, dass komplexere Agenten mehr Zeit und Kosten verursachen können und Fehler sich über mehrere Schritte fortsetzen können. Für eine einfache Aufgabe kann ein klarer, fester Ablauf die passendere Lösung sein.

Erfolg am Ergebnis messen

Ein sinnvoller Einstieg ist ein eng begrenzter Auftrag mit überprüfbarem Ergebnis. Bei einem Bericht zählt etwa, ob alle geforderten Fragen beantwortet sind, die Quellen tragen und die Datei lesbar ist. Die Anzahl ausgeführter Schritte ist dagegen kein Qualitätsmerkmal. Ein guter Agent muss auch erkennen können, wann er fertig ist oder menschliche Hilfe benötigt.