Das Zeitalter der KI-Agenten
Wenn künstliche Intelligenz selbstständig handelt.
Verraten Sie sich hinaus aus der Welt der klassischen Chatbots und in die Zukunft der künstlichen Intelligenz: KI-Agenten. Auch mit der Fähigkeit, Aufgaben zu planen, interagieren mit digitalen Werkzeugen, bedienen von Software, verarbeiten von Informationen aus verschiedenen Quellen und an neue Ergebnisse anpassen. Dabei kann unterschiedlich viel menschliche Kontrolle vorgesehen werden, je nach Einsatzgebiet.
Der Schlüssel liegt in der Tatsache, dass KI sich nun nicht mehr nur auf eine Eingabe bezieht. In place, she can make a number of sequential actions in a specified environment that lead to a desired outcome. Damit wird eine neue form von Zusammenarbeit zwischen Mensch und Maschine, verbunden mit Planung, Handlung, Beobachtung und menschlicher Kontrolle, entstehen.
01 / EINFÜHRUNG
Was ist ein KI-Agent?
Ein KI-Agent ist ein Computerprogramm mit Entscheidungen, die er trifft, um ein Ziel zu erreichen. Er kann Models, Tools, Data Sources und digitales Environments verwenden, um die Outputs seiner Aktionen beobachten und basierend auf den Outputs, weitere Aktionen durchführen. Bis eine Aufgabe abgeschlossen ist oder eine menschliche Entscheidung notwendig ist, kann ein Agent weiterhin arbeiten, je nach Gestaltung.
Das unterscheidet ihn von einem klassischen Chatbot. Ein Chatbot generiert in erster Linie Text oder andere Inhalte im Response zu einem Input. Ein KI-Agent kann dagegen ein Ziel in mehrere Handlungsschritte übersetzen und dabei Planung, Gedächtnis, Werkzeuge und Aktionen miteinander verbinden. Die ursprüngliche Idee kann dann also wie folgt formuliert werden: Ziel – Handlung – Ergebnis.
Der Unterschied ist aber nicht, dass KI jetzt plötzlich kommunizieren kann, sondern dass sie nun von Antworten zu Ausführen springt – ja, im Rahmen der Autorisierung.
02 / SO FUNKTIONIERT ES
Die Agentenschleife
Agentische Systeme können oft mit einem Wiederholungszyklus verglichen werden. Zuerst muss es das Ziel, den Kontext, die Rahmenbedingungen einer Aufgabe verstehen. Anschließend formt es eine Strategie für die Aufgabe und teilt die Aufgabe auf, wenn nötig, in kleinere Schritte.
In the next step tools can be used, such as APIs, software, data bases, browser or other digital systems. Die Ergebnisse dieser Aktionen werden dann beobacht und bewertet. Wenn etwas nicht läuft oder sich der Kontext ändert oder weitere Informationen erforderlich sind, dann kann der Agent seine Pläne anpassen und andere Aktionen ausführen.
Dieses kann sich wiederholen, bis es auferstrebte Ziel erreicht wird oder eine gewünschte Grenze überschritten wird. Bei sensiblen oder wichtigen Aktionen kann das System stattdessen eine menschliche Genehmigung einholen.
03 / ANATOMIE
Das Innere eines KI-Agenten
In einem leistungsfähigen Agenten steckt mehr als ein Sprachmodell. Vielmehr handelt es sich um ein Zusammenspiel verschiedener Fähigkeiten. Mit einem Schlussfolgerungsmodell kann man Informationen verstehen und sicherte sich auf Basis der Informationen, Entscheidungen über mögliche nächsten Schritte. Ziele und Rahmenbedingungen festlegen, was der Agent darf und was nicht.
Werkzeuge expandieren seine Möglichkeiten, die sich nicht nur auf die Textgenerierung beschränken. Können Konnektoren, APIs, Browser, Code-Ausführung und Datenbanken sein. Immer dann, wenn sich neue Informationen ergeben, kann eine Planungskomponente komplizierte Ziele in kleinere Aufgaben zerteilen und einen bereits bestehenden Plan verändern.
Gedächtnis kann sich auch für eine wichtige Funktion qualifizieren. Relevante Informationen können in einem Arbeitsablauf oder – falls so vorgesehen – über mehrere Sitzungen hinweg zur Verfügung stehen. Gleichzeitig erzeugen die Aktionen eines Agenten neue Beobachtungen. Diese Erkenntnisse werden in den nächsten Kontext einfließen und die nächste Reihe von Entscheidungen beeinflussen.
04 / ARTEN VON AGENTEN
Es gibt verschiedene Agenten und verschiedene Aufgaben
KI-Agent kann verschiedene Systeme bezeichnen, von einem einzelnen Schritt der Aufgabenautomatisierung bis zu einer Vielzahl von Handlungen in einem Workflow, der über einen längeren Zeitraum läuft. Aufgaben-Agenten sind zum Beispiel gut geeignet, wenn es sich um einen klar definierten Prozess handelt, in den man ein Strukturelement einsteckt, das man zusammenfassen, extrahieren oder transformieren möchte.
Recherche-Agenten können die Suchfunktionen verwenden, Informationen von verschiedenen Quellen zusammenfassen, Inhalte vergleichen und daraus strukturierte Ergebnisse erstellen. In contrast, Geschäftsagenten können mit den Daten des Unternehmens, den internen Arbeitsabläufen, den Kundendaten sowie verschiedenen Soft-Systemen arbeiten.
Eine weitere Kategorie bilden Programmieragenten. Sie können Codebasen analysieren, Vorschläge für Änderungen machen, Änderungen durchführen, Tests durchführen und bei Fehlersuche unterstützen. Computer-Nutzungs-Agenten gehen noch einen Schritt weiter: Sie agieren mit Programmen über visuelle Benutzeroberflächen wie klicken, tippen und nehmen Daten von einer Anwendung.
Lang laufende Agenten sind auch für komplexere Prozesse möglich. Während sie Aufgaben bearbeiten, können Sie sie über längere Zeiträume speichern, Status kontrollieren, Zwischenergebnisse auf die Seite legen und nach einer Unterbrechung an einem bestimmten Punkt weiterarbeiten.
05 / PRAXISNAHE ANWENDUNGSFÄLLE
Wo kann man Agenten arbeiten?
Agentenbasierte Systeme sind überall dort interessant, wo Informationen verarbeitet werden müssen, Entscheidungen vorbereitet werden müssen, Werkzeuge verwendet werden und mehrere aufeinanderfolgende Arbeitsschritte koordiniert werden müssen. Sie können in der Recherche Informationen sammeln, vergleichen und in einer strukturierten Form verarbeiten.
Die Unterstützung der persönlichen Produktivität ist auch möglich mit agentischen Systemen. Ein Agent kann zum Beispiel Informationen strukturieren, Vorschläge für Kommunikation entwickeln, Aufgaben koordinieren und sich wiederholende Arbeitsabläufe begleiten. Agenten können in der Softwareentwicklung Code schreiben oder ändern, Repositories analysieren, Tests testen und Fehler beheben.
Agentische Systeme im Handel können z. B. in der Suche nach Produkt, in Bestandsprozessen und bei Kundeninteraktionen eingesetzt werden. In den Finanzbranchen können sie Dokumente verarbeiten und definierte Arbeitsabläufe unterstützen – dabei müssen sie auch die Kontroll- und Compliance-Anforderungen berücksichtigen.
In der Gesundheitsbranche beispielsweise wird es auch Einsatzmöglichkeiten geben, wie in Verwaltungs- und Informationsprozessen oder beim fachlich verantworteten Entscheidungsfindungsprozess. Agenten im Im Kundenservice haben die Möglichkeit, einfache Anfragen zu bearbeiten, Informationen zu recherchieren, und weiter komplexe Fälle an die entsprechenden Mitarbeiter weiterzuleiten.
Sie können in operativen Bereichen computergestützte Prozesse überwachen und wiederholte Aufgaben koordinieren. Sie können in den Lernbereichen Recherche, Einzelübungen, Nachhilfe und Verwaltung assistieren.
06 / AGENTEN VS CHATBOTS
Antworten vs. Handeln
In der klassischen Variante des Chatbots läuft es oft nach einem sehr linearen Ablauf: Der Benutzer fragt nach, der Chatbot analysiert den Text und generiert eine Antwort. Interaktion kann bereits beendet sein nach Danach. Die Möglichkeiten, direkten Einfluss auf externe Systeme herstellen zu können, differieren dabei von System zu System.
Ein agentenbasiertes System startet hingegen mit einem Ziel. Es kann daraus einen Plan entwickeln, die Werkzeuge, die er benutzt, autorisieren, die Ergebnisse der Aktionen berücksichtigen und seinen weiteren Ablauf anpassen. Das Ergebnis darf dabei aber nicht nur eine Textantwort sein. Es kann beispielsweise auch eine ausgeführte Aktion, ein bearbeitetes Dokument, eine Softwareänderung oder ein strukturierter Workflow sein.
Der entscheidende Unterschied liegt hier dann in der Umwandlung von der Reaktion zur Umsetzung. Mit einem Agent kann man auch über eine Chatoberfläche kommunizieren, aber der Agent hat die Eigenschaft, tatsächlich handeln zu können in einer kontrollierten, autorisierten Umgebung.
07 / AGENTISCHES PROGRAMMIEREN
Software, mit deren Hilfe Software erstellt wird
Agentisches Programmieren, das Verhältnis zwischen Person und Entwicklungsraum. Ein Ziel in natürlicher Sprache kann in mehrere technische Schritte übersetzt werden, die der Coding-Agent dann durchführt. Das beginnt damit, die vorhandene Codebase zu verstehen, bis die Dateien und Änderungen identifiziert werden, die erforderlich sind.
Im Anschluss kann der Agent Code geschrieben oder bestehende Dateien bearbeitet werden. Tests help to assess and reveal any changes. Should there be any issues, der Mitarbeiter wird versuchen, die Ursache des Problems genau zu ermitteln, Änderungen vorzunehmen und die Lösung erneut zu testen.
Dieser iterative Prozess kann Entwicklungsaufgaben beschleunigen, ersetzt aber nicht den Menschen, der die Verantwortung trägt. Der generierte Code kann Fehler, unsichere Muster, falsche Annahmen beinhalten. Deshalb ist es wichtig, Tests, Code-Reviews, Zugriffskontrollen und Grenzen zu setzen.
08 / MULTI-AGENTEN-SYSTEME
Kein einzelne Agent, der alles kann
Es ist auch möglich, komplexe Aufgaben in mehrere spezialisierte Agenten zu teilen. In einem solchen Multi-Agenten-System sucht ein Recherche-Agent nach relevanten Informationen, interpretiert die Informationen ein Analyst und formt die Ergebnisse in eine verständlichen Form ein weiterer Agent.
Anschließend kann ein Prüfer die Qualität, Konsistenz und mögliche Fehler kontrollieren. Mit einem übergeordneten Orchestrierung kann man festlegen, was der Agent tun soll, und wann man den nächsten Schritt macht. Der so entstehende Arbeitsablauf ist ein gemeinsamer Arbeitsablauf, in dem spezialisierte Systeme Ergebnisse, Anweisungen und Statusinformationen austauschen.
Das Konzept ist damit in gewisser Weise ein digitales Team, mit verschiedenen Rollen für verschiedene Aufgaben. Wichtig ist aber, dass die Kommunikation und die Aufgabenverteilung durch klare Regeln und Grenzen geregelt wird.
09 / GEDÄCHTNIS
Agents, die sich erinnern
Gedächtnis kann agentische Systeme verbessern, aber erfordert auch neue Anforderungen, vor allem in Bezug auf Data Governance, Sicherheit und Datenschutz. Kurzfristiger Kontext kann während des laufenden Arbeitsprozesses das laufende Gespräch, jüngste Beobachtungen, den Status der Aufgabe, Ergebnisse von Werkzeugaufrufen etc. beinhalten.
Darüber hinaus können Systeme – sofern dies vorgesehen und zulässig ist – längerfristige Informationen speichern. Das kann die Benutzereinstellungen, Informationen von früheren Aufgaben oder ein bestimmtes gespeichertes Wissen sein. Es ist so, dass ein Agent nicht mehr von vorne anfangen muss, wenn er es irgendwann später braucht.
Immer mehr wird sich aber fragen, was genau gespeichert wird, wofür es gespeichert wird, für wie lange, durch wen, und wie es sichergestellt wird, dass es so lange wie möglich gespeichert bleibt.
10 / AUTONOMIE
Welchen Umfang sollte die Freiheit eines Agenten haben?
Autonomie ist keine Eigenschaft eines KI-Agenten im Weg, sondern eine bewusste Designentscheidung. Ein System kann sehr strickt geführt werden und nur Empfehlungen geben. In diesem Typ entspricht der Mensch dem Agent der Handlung.
Vielmehr, wenn der Agent vor einem wichtigen Akt eine Genehmigung einholt und erst nach der Genehmigung handelt, ist dies eine höhere Stufe. Bei überwachten Systemen kann der Agent bestimmte Routineaufgaben selbstständig ausführen, während definierte Grenzen und Kontrollmechanismen bestehen bleiben.
Der vollständige autonome Agent kann in einer bestimmten Umgebung handeln, ohne sich dabei an vorgegebene Richtlinien und Berechtigungen zu verletzen. Das Prüfen und Gewährleisten des minimalen Rechtevergabeprinzips ist daher besonders wichtig. Der Zugriff auf die Werkzeuge, Systeme und Daten sollte einem Mitarbeiter nur dann gewährt werden, wenn diese für seine Arbeit erforderlich sind.
Auch die Nachvollziehbarkeit ist wichtig. Es ist wichtig, wesentliche Aktionen zu protokollieren, so dass Menschen verstehen können, was passiert ist und warum bestimmte Aktionen ausgeführt wurden.
11 / RISIKEN & SICHERHEIT
Die mehr man kann, desto mehr man muss
Die Möglichkeit der Interaktion mit Außenwerkzeugen und Außen Systemen, schafft neue Anwendungsmöglichkeiten, aber auch neue Fehlerarten. Wenn ein Agent beruft sich auf falsche oder unkontrollierbare Informationen, dann kann er nicht nur die falschen Informationen reproduzieren, sondern auch für weitere Aktionen nutzen.
Eine weitere Schwierigkeit: Prompt-Injection-Angriffe. Nicht vertrauenswürdige Inhalte können versuchen, die Befehle oder Aktionen eines Agenten zu manipulieren. Aber auch übermäßige Berechtigungen können eine Gefahr sein, wenn bei weitreichendem Systemzugriff ein Schiebelestopp entsteht, der weitreichende Folgen für den Betrieb haben kann.
Auch wenn ein Agent Zugriff auf sensible Informationen in verschiedenen Tools und Datenquellen hat, gewinnt Datenschutz an Bedeutung. Es fallen also Kosten an und unkontrollierbare Schleifen, die sich durch langwierige Schlussfolgerungsprozesse oder wiederholte Werkzeugaufrufe ergeben.
Es ist aber nicht immer sinnvoll, eine Entscheidung zu automatisieren. Human judgment, responsibility or specialised expertise are still required for situations that require such.
Um sichere agentische Systeme zu bauen, ist es deshalb notwendig, dass mehrere Schichten von Schutz geschaffen werden. Das sind die Grundsätze der minimalen Berechtigungen, Sandboxing, Bestätigungsschritte, Eingabevalidierung, Überwachung, Protokollierung, Ratenbegrenzungen, ein weitreichender Test und die transparente Escalation zu menschlicher Entscheidung.
12 / KI-AGENTEN IM EINSATZ
Der Arbeitsmarkt ist im Wandel
Agenten haben die Möglichkeit, Inhalte zu produzieren, aber auch komplettes Teile eines Workflows zu begleiten oder zu automatisieren. Dadurch wandert der Blick von einzelnen Aufgaben in Richtung von kausalen Prozessen.
Anstatt sich beispielsweise nur einen Text zu erstellen, kann ein Agent mehrere Schritte eines Arbeitsablaufes koordinieren: Information sammeln, Daten überprüfen, ein Ergebnis erstellen und dann eine weitere autorisierte Aktion durchführen. Dadurch wird der Automatisierungsfokus auf Workflows, nicht auf Aufgaben gelegt.
Auch der Umgang mit Software könnte sich wandeln. Mit Hilfe von natlang-Schnittstellen kann sich ein Benutzer, statt eines einzelnen Entwicklungsschritts, über Ziele und Anweisungen die Ausführung komplexer Softwareprozesse beginnen.
Das ändert sich auch, wenn es darum geht, was Erfolg ist. Bei einem klassischen KI-System kann die Qualität des Outputs im Mittelpunkt stehen. In Bezug auf einen Agenten, der ein Ziel verfolgt, zählt auch dazu, ob das Ziel erreicht wurde.
13 / MENSCHLICH + AGENT
Der Zukunft, könnte es eine kooperative sein
Die Agentenentwicklung ist kein Schritt, der zwingend so viel Menschen aus Arbeitsprozessen eliminiert, dass es keine menschlichen Probanden mehr gäbe. Vielmehr könnte eine Kombination aus maschineller Geschwindigkeit und menschlichem Urteilsvermögen entstehen.
Der Mensch kann Ziele und Grenzen festlegen, während ein Agent Optionen erkundet, Informationen sammelt und autorisierte Aktionen durchführt. If there are any significant or consequential outcomes, the human can verify the outcomes and make decisions as appropriate. Aus den Erfahrungen eines Workflows können anschließend sowohl Mensch als auch System lernen und Prozesse weiter verbessern.
Dieses Modell fügt Ausdauer und Verarbeitungsgeschwindigkeit von Maschinen mit Kontextverständnis, Verantwortung und Urteilskraft des Menschen zusammen!
14 / DER WEG IN DIE ZUKUNFT
Können Sie mir sagen, was als nächstes passiert?
Der agentische Ansatz ist ein Ansatz, der sich noch in einem frühen Stadium seiner Entwicklung befindet. In the future, however, the planning of increasingly complex tasks, coordination of various tools, consideration of information across longer periods, and interaction with different digital environments could become more and more mastered.
Wesentliches zu erwartendes Entwickeln könnte die effiziente Werkzeugnutzung sein. Agenten könnten sich spezialisierte Werkzeuge gezielt aussuchen und koordinieren. Einfache Zeitabläufe könnten dann auch längerfristig möglich werden, mit Systemen, die ihren Status speichern, kompliziertere Aufgaben bearbeiten und sich nach Fehlern oder Unterbrechungen wieder in einen kontrollierten Arbeitsprozess integrieren.
Die Umgebungen, mit denen Agenten interagieren, könnten auch größer werden. Das sind Software, Dokumente, Datenbanken, Geräte oder – in passenden kontrollierten Szenarien – physische Systeme. Agenten-Ökosysteme könnten sich entwickeln in denen spezialisierte Systeme zusammenarbeiten oder einzelne Fähigkeiten als Dienste zur Verfügung stellen.
Governance increasingly becomes a key element in these ways. Die Evaluierung, Überwachung, Berechtigungen, Sicherheit und Rechenschaftspflicht sollten aber von Anfang an in Design und Einführung des Systems beachtet werden, nicht erst nach dem System eingeführt.
