KI-Agent

Was es ist

Ein KI-Agent ist ein Programm, das ein Ziel über mehrere Schritte selbstständig verfolgt. Es nutzt ein Sprachmodell, um zu entscheiden, was als Nächstes zu tun ist, führt diesen Schritt mit einem Werkzeug aus, betrachtet das Ergebnis und fährt fort, bis das Ziel erreicht ist oder es anhalten muss.¹²

Wie es funktioniert

• Ziel. Eine Person oder ein anderes System stellt die Aufgabe, zum Beispiel „finde drei Lieferanten und fordere Angebote an“.
• Plan. Das Modell zerlegt das Ziel in Schritte.
• Handeln. Es ruft ein Werkzeug auf: durchsucht das Web, öffnet eine Datei, füllt ein Formular aus, sendet eine Nachricht. Der Werkzeugzugriff wird zunehmend standardisiert, etwa über das Model Context Protocol.⁴
• Beobachten. Es liest, was zurückkam.
• Prüfen und wiederholen. Es entscheidet, ob der Schritt funktioniert hat und was als Nächstes kommt.

Agent, Chatbot, Automatisierung

Wofür Unternehmen es nutzen

• Recherche und Erstellen von Dokumenten aus vielen Quellen.
• Vertriebsunterstützung: Kontakte finden, erste Nachrichten entwerfen, die eine Person freigibt.
• Backoffice: E-Mails sortieren, Datensätze aktualisieren, Listen abgleichen.
• Softwareentwicklung: Code schreiben, testen und korrigieren.

Risiken

• Fehler summieren sich. Ein kleiner Fehler früh kann zu vielen falschen Schritten führen.
• Prompt-Injection. Text auf einer Webseite oder in einer E-Mail kann versteckte Anweisungen enthalten, die der Agent befolgt.³
• Zu viele Rechte. Ein Agent, der zahlen, löschen oder senden darf, kann echten Schaden anrichten.
• Kosten. Jeder Schritt nutzt das Modell; lange Aufgaben werden teuer.

Agenten sicher einführen

• Geben Sie ihm nur die Rechte, die die Aufgabe benötigt.
• Eine Person genehmigt alles, was nicht rückgängig gemacht werden kann: Zahlungen, Löschungen, Nachrichten an Kunden.
• Setzen Sie Ausgaben- und Zeitlimits.
• Protokollieren Sie jede Aktion, damit sie nachvollziehbar ist.
• Beginnen Sie mit einer eng begrenzten Aufgabe und messen Sie das Ergebnis.

Schlüsselbegriffe

Werkzeugaufruf

Der Moment, in dem der Agent eine externe Funktion nutzt, zum Beispiel eine Suche oder eine E-Mail.

MCP

Model Context Protocol, ein offener Standard, um Modelle mit Werkzeugen und Daten zu verbinden.⁴

Human in the loop

Eine Person genehmigt bestimmte Schritte, bevor sie ausgeführt werden.

Prompt-Injection

Versteckte Anweisungen in Inhalten, die der Agent liest.³

Neueste Forschung

Neue Papers und Berichte, die diesen Begriff erwähnen, gefunden durch unseren täglichen Quellen-Scan. Eine Zeile pro Quelle, zitiert wie veröffentlicht.

• arxiv.orgThe emergence of writable, cross-session persistent memory in LLM agents introduces a qualitatively different threat landscape from conventional input-centric security concerns, characterized by three properties: persistence, statefulness, and propagation.2026-11-03
• arxiv.orgarXiv:2609.12769 (cs) [Submitted on 11 Sep 2026 ( v1 ), last revised 29 Oct 2026 (this version, v3)]2026-11-03
• arxiv.orgarXiv:2607.07379 (cs) [Submitted on 8 Jul 2026 ( v1 ), last revised 30 Oct 2026 (this version, v2)]2026-11-03

Quellen

1. Yao et al.: ReAct — Synergizing Reasoning and Acting in Language Models (2022)
2. Anthropic: Building effective agents (December 2024)
3. OWASP Top 10 for Large Language Model Applications
4. Model Context Protocol