KI-Glossar: Agentic AI von A bis Z.

Die wichtigsten Begriffe rund um KI-Agenten, Sprachmodelle und den produktiven KI-Einsatz — kompakt erklärt und laufend erweitert. Für die Vertiefung verlinken viele unserer Rollenprofile auf die passenden Einsatzszenarien.

Agentic AI

Agentic AI bezeichnet KI-Systeme, die Ziele über mehrere Schritte eigenständig verfolgen: Sie planen Aufgaben, rufen Werkzeuge und Systeme auf, bewerten Zwischenergebnisse und passen ihr Vorgehen an. Der Unterschied zu klassischer generativer KI liegt im Handeln — Agentic AI beantwortet nicht nur, sie erledigt.

KI-Agent

Ein KI-Agent ist ein Softwaresystem mit einem Sprachmodell als Steuerungskern, das mehrstufige Aufgaben ausführt: Es zerlegt ein Ziel in Schritte, nutzt Werkzeuge wie Datenbanken, APIs oder Anwendungen und eskaliert an Menschen, wenn es unsicher ist. Produktive Agenten brauchen Guardrails, Audit-Logging und klar begrenzte Berechtigungen.

LLM (Large Language Model)

Ein Large Language Model ist ein auf riesigen Textmengen trainiertes KI-Modell, das Sprache versteht und erzeugt. LLMs bilden die Grundlage moderner KI-Anwendungen — von Chat-Assistenten über RAG-Systeme bis zu Agenten. Bekannte Modellfamilien stammen u. a. von OpenAI, Anthropic, Google und Mistral.

RAG (Retrieval-Augmented Generation)

RAG ist ein Architekturmuster, bei dem ein Sprachmodell vor dem Antworten relevante Inhalte aus Unternehmensquellen abruft — etwa Dokumenten, Wikis oder Datenbanken — und seine Antwort darauf stützt. Vorteile: aktuelle Informationen, Quellenangaben und keine Modell-Anpassung; die Unternehmensdaten verändern das Modell nicht.

Prompt Engineering

Prompt Engineering ist das systematische Entwerfen und Testen der Anweisungen, mit denen Sprachmodelle gesteuert werden. Professionelles Prompt Engineering arbeitet mit Evaluierungs-Datensätzen und Versionierung — das Ziel ist wiederholbare Qualität, nicht der einmalige gute Treffer.

Fine-Tuning

Fine-Tuning ist das Nachtrainieren eines vortrainierten KI-Modells auf eigenen Beispieldaten, um Verhalten, Stil oder Fachwissen anzupassen. Es lohnt sich erst, wenn Prompting und RAG nicht ausreichen — der Pflegeaufwand ist höher, da jedes Modell-Update ein erneutes Training erfordern kann.

Halluzination

Eine Halluzination ist eine inhaltlich falsche, aber sprachlich überzeugende Aussage eines KI-Modells. Halluzinationen lassen sich nicht vollständig abstellen, aber stark reduzieren — durch RAG mit Quellenbindung, kontrollierte Antwortbereiche und Evaluierung. In Geschäftsprozessen gehören kritische KI-Aussagen grundsätzlich unter menschliche Prüfung.

Vektordatenbank

Eine Vektordatenbank speichert Inhalte als numerische Bedeutungs-Repräsentationen (Embeddings) und findet dadurch semantisch Ähnliches — auch ohne übereinstimmende Wörter. Sie ist die typische Suchinfrastruktur hinter RAG-Systemen; Beispiele sind Qdrant, Weaviate oder pgvector.

Embedding

Ein Embedding ist die Umwandlung von Text (oder Bildern) in einen Zahlenvektor, der die Bedeutung abbildet: Inhaltlich Ähnliches liegt im Vektorraum nah beieinander. Embeddings machen semantische Suche möglich und sind ein Grundbaustein von RAG-Architekturen.

MCP (Model Context Protocol)

Das Model Context Protocol ist ein offener Standard, über den KI-Anwendungen und Agenten einheitlich auf externe Werkzeuge und Datenquellen zugreifen. Statt für jede Anbindung eine Einzelintegration zu bauen, sprechen Systeme eine gemeinsame Schnittstelle — das senkt Integrationskosten erheblich.

Multi-Agent-System

Ein Multi-Agent-System lässt mehrere spezialisierte KI-Agenten an einer Aufgabe zusammenarbeiten — etwa Recherche, Entwurf und Qualitätsprüfung als getrennte Rollen mit definierten Übergaben. Der Mehrwert liegt in Spezialisierung und gegenseitiger Kontrolle; der Preis ist höhere Architektur-Komplexität.

Guardrails

Guardrails sind technische Schutzmechanismen, die das Verhalten von KI-Systemen begrenzen: erlaubte Themen und Aktionen, Berechtigungsgrenzen, Eingabe- und Ausgabe-Filter, Freigabepunkte für kritische Schritte. Für Agenten mit Systemzugriff sind Guardrails keine Option, sondern Voraussetzung.

Human-in-the-Loop

Human-in-the-Loop bezeichnet Prozessdesigns, in denen Menschen KI-Ergebnisse an definierten Punkten prüfen oder freigeben — etwa vor dem Versand einer Kundenantwort oder der Ausführung einer Buchung. Es ist das wichtigste Muster, um KI-Automatisierung mit Verantwortung zu verbinden.

MLOps / LLMOps

MLOps überträgt DevOps-Disziplin auf Machine Learning: Versionierung von Daten und Modellen, automatisierte Pipelines, Monitoring auf Qualitätsverfall (Drift). LLMOps wendet dieselbe Disziplin auf Sprachmodell-Anwendungen an — mit Prompt-Versionierung, Evaluierungs-Pipelines und Kosten-Monitoring.

EU AI Act

Der EU AI Act ist die europäische KI-Verordnung. Sie teilt KI-Systeme in Risikoklassen ein und knüpft daran abgestufte Pflichten — von Transparenz über Dokumentation und menschliche Aufsicht bis zu Anforderungen an die KI-Kompetenz der Mitarbeitenden. Die Pflichten gelten unabhängig von der Unternehmensgröße und greifen stufenweise.

SAP Joule

Joule ist SAPs KI-Copilot über der SAP-Anwendungslandschaft — von S/4HANA über SuccessFactors bis Ariba. Nutzer stellen Fragen und stoßen Vorgänge in natürlicher Sprache an; Joule Agents erweitern das um agentische Automatisierung mehrstufiger Geschäftsprozesse, eigene Erweiterungen entstehen über Joule Studio.

Salesforce Agentforce

Agentforce ist Salesforces Plattform für KI-Agenten in Service, Vertrieb und Marketing: Agenten beantworten Kundenanfragen oder qualifizieren Leads eigenständig, arbeiten auf den CRM-Daten und werden über Themen-Grenzen, Guardrails und Eskalationsregeln gesteuert.

ServiceNow Now Assist

Now Assist ist die generative KI-Schicht der ServiceNow-Plattform: Sie fasst Tickets zusammen, schlägt Antworten vor und generiert Knowledge-Artikel in ITSM, HR und Customer Service. ServiceNow AI Agents erweitern das um die eigenständige Bearbeitung von Standardfällen.

Microsoft 365 Copilot

Microsoft 365 Copilot ist der KI-Assistent in Word, Excel, Outlook, Teams und Co., der auf Unternehmensinhalte des Microsoft-Tenants zugreift. Vor dem Rollout gehören Berechtigungen und Datenklassifizierung geprüft — Copilot macht sichtbar, worauf Nutzer Zugriff haben, auch ungewollt. Eigene Agents entstehen über Copilot Studio.

Prompt Injection

Prompt Injection ist ein Angriff, bei dem manipulierte Eingaben oder präparierte Inhalte (z. B. eine E-Mail, die ein Agent verarbeitet) ein KI-System zu ungewollten Aktionen verleiten. Sie ist das zentrale Sicherheitsrisiko von Agenten mit Systemzugriff und wird durch Berechtigungsgrenzen, Inhalts-Isolation und Freigabepunkte eingedämmt.

Token

Tokens sind die Recheneinheiten von Sprachmodellen — Wortbestandteile, in die Text zerlegt wird. Sie bestimmen Kosten und Kontextgrenzen: Abgerechnet wird pro verarbeitetem Token, und jedes Modell kann nur eine begrenzte Token-Menge gleichzeitig betrachten („Kontextfenster").