Ein KI-Agent kann Informationen verarbeiten, Werkzeuge aufrufen und mehrere Schritte auf ein Ziel ausrichten. Wie selbstständig er dabei handelt, hängt von seiner Gestaltung und seinen Berechtigungen ab. Im Unternehmen zählen deshalb neben der Modellqualität auch klare Grenzen, Prüfungen und menschliche Verantwortung.
Was ist der Unterschied zu einem Chatbot?
Ein Chatbot kann eine Antwort auf eine Frage formulieren. Ein Agent kann zusätzlich beispielsweise einen Datensatz suchen, einen Entwurf erstellen und die nächste Handlung auswählen. Die Grenzen zwischen Produktbezeichnungen sind fließend: Nicht jede als „Agent“ beworbene Funktion erledigt Aufgaben tatsächlich selbstständig.
IBM beschreibt KI-Agenten unter anderem über Zielorientierung, Werkzeugnutzung und Handlungsmöglichkeiten. Für deine Einschätzung ist eine konkrete Frage hilfreicher als das Etikett: Was darf dieses System lesen, vorschlagen und verändern?
Beispiel: Eine Anfrage im Kundenservice
Ein fiktives Unternehmen möchte eingehende Fragen zu Lieferterminen schneller bearbeiten. Das System könnte die Frage erkennen, eine Bestellnummer ermitteln und den Lieferstatus abfragen. Anschließend entsteht ein Antwortentwurf. Ein Mensch prüft ihn vor dem Versand.
Für eine spätere Ausbaustufe könnte das Unternehmen einzelne Standardfälle automatisch versenden lassen. Das ist eine neue Verantwortung und sollte nicht beiläufig entstehen. Insbesondere Adressänderungen, Gutschriften und Vertragsentscheidungen brauchen andere Grenzen als das Lesen eines Lieferstatus.
Drei Stufen mit unterschiedlichem Risiko
Weitere Spalten: Tabelle seitlich scrollen →
| Stufe | Beispiel | Wichtige Prüfung |
|---|---|---|
| Lesen | Lieferstatus aus einem freigegebenen System abrufen | Passt die Bestellung wirklich zur Anfrage? |
| Vorschlagen | Antwortentwurf formulieren | Ist jede Aussage belegt und verständlich? |
| Handeln | Eine Nachricht versenden oder Daten ändern | Ist die konkrete Aktion erlaubt und nachvollziehbar? |
Was Fachbereich und Technik gemeinsam klären
Der Fachbereich beschreibt Ziele, Ausnahmen und die Folgen falscher Entscheidungen. Die Entwicklung setzt Datenzugriff, Werkzeuge und Prüfungen um. Security prüft Berechtigungen und Missbrauchsszenarien. Der Betrieb braucht eine Möglichkeit, Fehler zu erkennen und die Automatisierung anzuhalten.
Ein erfolgreiches Vorführbeispiel beantwortet diese Fragen nicht. Testfälle sollten auch unvollständige Angaben, widersprüchliche Daten und Anweisungen in fremden Dokumenten enthalten. Texte, die das System liest, dürfen nicht automatisch seine Befugnisse erweitern.
Eine überschaubare erste Arbeitsprobe
Entwirf einen Helfer für die Terminverwaltung eines Vereins. Liste drei erlaubte Leseaktionen und drei Aktionen auf, die eine Bestätigung brauchen. Ergänze fünf Anfragen, darunter eine doppelte Buchung und eine unklare Absage.
Zeichne für jeden Fall die Schritte bis zu einem Vorschlag. Wo fehlt eine Information? Wann muss der Helfer nachfragen? Wo darf er nichts verändern? Für diese Übung brauchst du weder ein kostenpflichtiges Werkzeug noch echte personenbezogene Daten.
Welche Kompetenzen werden dabei sichtbar?
Wer Systeme bauen möchte, braucht Grundlagen in Software, Schnittstellen, Daten und Tests. Wer ihren Einsatz gestaltet, muss Prozesse, Nutzen und Risiken verbinden. Der Vergleich AI Engineering oder AI Management macht diese Perspektiven greifbar. Der Beitrag KI-Sicherheit erklärt, was beim Absichern solcher Anwendungen zusätzlich zu beachten ist.
