Das Wort „Agent“ wird in Marketingmaterial so lose verwendet, dass es fast bedeutungslos ist. Die Unterscheidung, auf die es ankommt, ist einfach: ein System, das Text für einen Menschen erzeugt, gegenüber einem System, das handelt.
Diese Grenze zu überschreiten verändert das Risikoprofil vollständig und verdient eine bewusste Entscheidung statt eines Funktionsupdates.
Der Unterschied
Eine Assistenz entwirft eine E-Mail. Sie lesen sie, passen sie an, senden sie. War der Entwurf falsch, haben Sie es bemerkt.
Ein Agent bekommt ein Ziel – „diese Supportanfrage lösen“ – und arbeitet in Schritten darauf hin: Anfrage lesen, Kunden nachschlagen, Bestellung prüfen, Antwort festlegen, senden. Er bestimmt seine eigene Reihenfolge, und er handelt.
Die wesentliche Verschiebung ist, dass Fehler nicht mehr von einem Menschen abgefangen werden, bevor sie wirken. Sie wirken zuerst.
Wo Agenten wirklich helfen
Mehrstufige Aufgaben, deren Schritte je Fall variieren, passen schlecht zu klassischer Automatisierung, die den Weg vorab braucht. Wo der Weg davon abhängt, was unterwegs gefunden wird, kann ein Agent eine gute Antwort sein.
Ermitteln und Zusammentragen – alles zu einer Frage aus mehreren Systemen sammeln – ist ein weiterer sinnvoller Einsatz, besonders weil das Ergebnis einem Menschen vorgelegt wird.
Wo sie brechen
Fehler multiplizieren sich. Das ist das Grundproblem. Ist jeder Schritt zu fünfundneunzig Prozent richtig, ist eine zehnstufige Folge zu etwa sechzig Prozent richtig. Die Rechnung ist unbarmherzig und erklärt, warum Demos mit drei Schritten hervorragend aussehen, während echte zehnstufige Prozesse enttäuschen.
Erholung ist schwierig. Scheitert ein Schritt, erkennt der Agent das womöglich nicht und arbeitet auf falscher Grundlage weiter – manchmal mit einer aufwendigen, selbstsicheren Folge von Handlungen, die auf einem frühen Fehler aufbaut.
Handlungen sind nicht immer umkehrbar. Eine gesendete E-Mail lässt sich nicht zurückholen. Eine ausgelöste Erstattung muss zurückgefordert werden. Bevor Sie Handlungsfähigkeit gewähren, fragen Sie, was die schlimmste verfügbare Handlung ist und ob sie rückgängig gemacht werden kann.
Fehlersuche ist wirklich schwer. Scheitert ein deterministischer Prozess, lesen Sie den Code. Scheitert ein Agent, lesen Sie eine Spur von Entscheidungen, die aus nicht vollständig einsehbaren Gründen getroffen wurden und beim nächsten Lauf anders ausfallen können.
Anweisungen können in den Daten stecken. Liest ein Agent externe Inhalte – eine E-Mail, eine Webseite, ein Dokument – kann dieser Inhalt Text enthalten, der wie eine Anweisung wirkt. Ein Agent mit echten Berechtigungen und nicht vertrauenswürdiger Eingabe ist eine Sicherheitsfrage, nicht nur eine Zuverlässigkeitsfrage.
Verantwortungsvoll bauen
Halten Sie Ketten kurz; jeder zusätzliche Schritt vervielfacht die Fehlerquote. Vergeben Sie die engsten Berechtigungen, die die Aufgabe erlauben, und bevorzugen Sie umkehrbare Handlungen. Verlangen Sie Bestätigung vor allem mit Außenwirkung – Senden, Zahlen, Löschen. Protokollieren Sie jeden Schritt, damit Fehler rekonstruierbar sind. Und legen Sie ausdrücklich fest, was der Agent ohne Menschen niemals versuchen darf.
Eine vernünftige Position
Für die meisten Unternehmen ist der richtige erste Einsatz ein Agent, der sammelt, auswertet und vorschlägt – bei dem aber ein Mensch die abschließende Handlung ausführt. So sichern Sie den größten Teil des Nutzens, während Fehler korrigierbar bleiben.
Autonomie gewähren Sie später, eng begrenzt, für einzelne Handlungen, die Sie über längere Zeit korrekt arbeiten gesehen haben. Das ist ein vertretbarer Weg. Mit voller Autonomie zu beginnen, weil eine Demo beeindruckt hat, ist es nicht.
