KI-Agenten benötigen keine Führung wie Menschen. Sie brauchen klare Aufträge, zugänglichen Kontext, überprüfbare Qualitätsmaßstäbe und definierte Grenzen. Menschen wiederum brauchen Orientierung darüber, welchen Einfluss die Systeme auf ihre Arbeit haben. Menschen in Führung steuern neben dem Einsatz von KI auch die Zusammenarbeit verantwortlich zwischen Menschen, Technik und Organisation.
KI-Agenten verändern mehr als Arbeitsabläufe
Ein KI-Agent kann Informationen recherchieren, Daten auswerten, Texte erstellen, Prozesse anstoßen oder andere Systeme koordinieren. Anders als ein einfaches Softwarewerkzeug bearbeitet er mehrstufige Aufträge mit einem gewissen operativen Spielraum. In der KI-Forschung wird ein Agent grundlegend als ein System verstanden, das Informationen aus seiner Umgebung aufnimmt und Handlungen in Bezug auf ein Ziel auswählt (Russell & Norvig, 2021). Wie groß sein tatsächlicher Handlungsspielraum ist, hängt jedoch von seiner technischen Ausgestaltung, seinen Zugriffsrechten und dem organisatorischen Einsatzkontext ab.
Das macht den Agenten nicht zu einer Person und nicht zu einem gleichberechtigten Teammitglied. Es entsteht jedoch ein neues soziotechnisches Arbeitssystem: Menschen formulieren Ziele, Agenten erzeugen Ergebnisse oder lösen Aktionen aus, andere Menschen prüfen, ergänzen oder verwenden diese Ergebnisse. Entscheidungen und ihre Folgen verteilen sich damit über mehrere Stationen. Forschung zu KI in Organisationen zeigt, dass Automatisierung und menschliche Ergänzung nicht als einfache Gegensätze behandelt werden können. Beide greifen ineinander und erzeugen neue Abhängigkeiten, Aufgaben und Verantwortungsfragen (Raisch & Krakowski, 2021). Hier wird Führung wichtiger werden. Die entscheidende Frage lautet dann in etwa: „Wie gestalten wir dieses Arbeitssystem so, dass Leistung, Verantwortung und menschliche Handlungsfähigkeit erhalten bleiben?“
Aus einer kokreativen transaktionsanalytischen Perspektive wird dieses Arbeitssystem nicht nur durch formale Prozesse geprägt. Bedeutung entsteht auch in den Beziehungen: darin, wie Führungskräfte den Einsatz erklären, wie Mitarbeitende beteiligt werden, welche Erwartungen ausgesprochen oder verschwiegen werden und wie mit Irritation, Fehlern und Widerspruch umgegangen wird. Persönlichkeit, Beziehung, Bestätigung und Identität werden im gegenwärtigen Kontakt mitgestaltet (Summers & Tudor, 2000). Die Aufgabe der Führung besteht deshalb darin, gemeinsam Bedingungen zu schaffen, unter denen Technik einem vereinbarten Zweck dient.
1. KI-Agenten mit einem tragfähigen Auftrag führen
Ein guter Auftrag beschreibt mehr als ein gewünschtes Ergebnis. Er klärt welches Ziel erreicht werden soll, wer das Ergebnis verwendet und welche Informationen der Agent nutzen darf. Welche Grenzen gelten, wer das Ergebnis prüft und wer anschließend entscheidet und woran wir erkennen, dass der Einsatz beendet, unterbrochen oder neu verhandelt werden kann.
Aus transaktionsanalytischer Sicht ist dies Vertragsarbeit. Berne (1966) beschreibt einen Vertrag als eine wechselseitige Verpflichtung auf einen klar bestimmten Handlungsverlauf. Für die Führung von KI-Agenten bedeutet das für mich, dass der offen ausgesprochene Auftrag, die tatsächlichen Entscheidungsspielräume und die unausgesprochenen Erwartungen zueinander passen.
Soll eine Mitarbeiterin ein KI-Ergebnis „nur prüfen“ und gleichzeitig vollständig dafür einstehen, ohne ausreichend Zeit, Fachwissen oder Widerspruchsmacht zu besitzen, entsteht kein tragfähiger Vertrag. Es entsteht eine Verantwortungsfalle. Die formale Botschaft lautet: „Du entscheidest.“ Die operative Wirklichkeit darunter im Subtext lautet: „Übernimm, was das System vorgeschlagen hat.“ Eine solche Doppelbotschaft schwächt Urteilskraft und begünstigt Anpassung. Ein tragfähiger Auftrag schließt daher die Klärung der menschlichen Rolle ein. Wer prüft, benötigt die Befugnis, Rückfragen zu stellen, Ergebnisse abzulehnen und einen Prozess anzuhalten. Verantwortung ohne reale Einflussmöglichkeit ist keine verantwortliche Delegation.
2. Delegierbare Aufgaben für KI-Agenten erkennen
Nicht alles, was technisch automatisiert werden kann, sollte vollständig automatisiert werden. Die zentrale Führungsleistung besteht darin, Aufgaben nicht nur nach Effizienz, sondern auch nach Risiko, Beziehungswirkung und Reversibilität zu unterscheiden. Gut delegierbar sind häufig strukturierte, reversible und überprüfbare Aufgaben. Dazu gehören beispielsweise:
das Zusammenfassen freigegebener Dokumente, das Erstellen erster Entwürfe, das Ordnen oder Klassifizieren klar definierter Informationen, das Vergleichen von Daten anhand transparenter Kriterien, das Vorbereiten mehrerer Handlungsoptionen.
Je stärker eine Aufgabe Menschen, Rechte, berufliche Chancen oder schwer korrigierbare Entscheidungen betrifft, desto wichtiger wird menschliche Urteilskraft. Die EU-KI-Verordnung folgt ebenfalls einem risikobasierten Ansatz und stellt für Hochrisiko-KI besondere Anforderungen unter anderem an Transparenz, Risikomanagement und menschliche Aufsicht (Verordnung (EU) 2024/1689, 2024, Art. 9, 13–14). Ob ein konkreter Einsatz darunterfällt, kann im jeweiligen rechtlichen und fachlichen Kontext geprüft werden.
Eine KI kann diese Entscheidung vorbereiten und die Verantwortung für Kriterien, Kontext und Folgen bleibt bei Menschen und den zuständigen organisationalen Funktionen. Die entscheidende Frage ist für mich in dieser Situation „Was verliert der Mensch an Wahrnehmung, Lernmöglichkeit oder Beziehungskontakt, wenn er sie nicht mehr selbst ausführt?“
3. Kontext, Datenzugang und Grenzen definieren
KI-Agenten kennen nicht automatisch die Geschichte eines Unternehmens, die Qualität seiner Daten oder die Empfindlichkeiten einer konkreten Beziehung. Sie erkennen auch nicht zuverlässig, wann ihnen entscheidender Kontext fehlt. Ein sprachlich überzeugendes Ergebnis kann daher sachlich unvollständig, unangemessen oder im konkreten Umfeld riskant sein.
Führungskräfte können dafür sorgen, dass ein Agent nicht nur Daten, sondern auch Grenzen erhält: Welche Quellen gelten als verlässlich? Welche Informationen sind vertraulich, welche Systeme und Daten darf der Agent erreichen und welche Annahmen muss er ausweisen?
Wann muss der Prozess an einen Menschen übergeben werden? Welche Entscheidungen darf der Agent ausdrücklich nicht treffen? Welche Handlungen müssen vor ihrer Ausführung bestätigt werden?
Das NIST-Rahmenwerk für KI-Risikomanagement ordnet diese Arbeit den miteinander verbundenen Funktionen Govern, Map, Measure und Manage zu: Verantwortung klären, Nutzungskontext verstehen, Risiken und Leistung bewerten und auf dieser Grundlage handeln (Tabassi, 2023). Kontext ist damit keine einmalige Eingabe; er kann während des gesamten Einsatzes beobachtet und aktualisiert werden. Eine Grenze ist hier keine Behinderung von Autonomie. Sie schafft eher eine Orientierung, schützt Betroffene und macht verantwortliches Handeln erst möglich. Das gilt auch im Team: Mitarbeitende dürfen wissen, welche Nutzung erwünscht ist, wo Zustimmung erforderlich ist und welche Daten keinesfalls eingegeben oder freigegeben werden dürfen.
4. Qualität von KI-Ergebnissen konkret festlegen
„Mach das bitte gut“ ist für Menschen bereits ein schwacher Auftrag. Für einen KI-Agenten ist er nahezu bedeutungslos. Qualität muss für den Menschen beobachtbar werden. Ein Rechercheergebnis kann beispielsweise daran gemessen werden, ob es aktuelle und möglichst primäre Quellen verwendet, Tatsachen, Annahmen und Bewertungen trennt, Gegenpositionen nennt, Unsicherheiten und Wissenslücken kennzeichnet oder auch Schlussfolgerungen nachvollziehbar herleitet.
Ein Textentwurf kann auf fachliche Richtigkeit, Zielgruppenpassung, unbelegte Behauptungen, Datenschutz, diskriminierende Muster und sprachliche Angemessenheit geprüft werden. Bei einem Agenten, der Aktionen auslösen darf, kommen Prozesskriterien hinzu: Wurden Freigaben eingeholt? Sind die Schritte protokolliert? Lassen sie sich rückgängig machen? Dadurch verändert sich Führung. Weniger Aufmerksamkeit fließt in die einzelne Ausführung, mehr in die gemeinsame Definition und Überprüfung guter Arbeit. Diese Qualitätskriterien sollten nicht ausschließlich von oben festgelegt werden. Mitarbeitende, die den Prozess und seine Ausnahmen kennen, verfügen über wesentliches Erfahrungswissen. Ihre Beteiligung erhöht neben der fachlichen Güte auch die Verbindlichkeit des Arbeitsvertrags.
5. Eine angemessene menschliche Kontrolle etablieren
Zwischen blindem Vertrauen und lückenloser Kontrolle liegt der Bereich des informierten Vertrauens. Forschung zur Zusammenarbeit mit automatisierten Systemen spricht hier von appropriate reliance: Ziel ist weder möglichst viel noch möglichst wenig Vertrauen, sondern ein Vertrauen, das den tatsächlichen Fähigkeiten und Grenzen des Systems entspricht (Lee & See, 2004). Das Ausmaß der Kontrolle sollte sich am Risiko orientieren:
Wie wahrscheinlich ist ein Fehler, wie groß wäre seine Wirkung, wie leicht wäre er zu erkennen, wie gut ließe er sich rückgängig machen? Wer wäre von dem Fehler betroffen? Kann die prüfende Person die Entstehung des Ergebnisses ausreichend nachvollziehen?
Ein interner Ideenspeicher benötigt eine andere Prüfung als eine KI-gestützte Personalentscheidung. Gleiche Kontrolle für ungleiche Risiken ist weder effizient noch verantwortlich. Zugleich reicht es nicht, einfach „einen Menschen in der Schleife“ vorzusehen. Wirksame Aufsicht setzt voraus, dass diese Person kompetent, aufmerksam, zeitlich handlungsfähig und tatsächlich befugt ist, das System zu überstimmen. Für Hochrisiko-KI verlangt die EU-KI-Verordnung entsprechend eine dem Risiko, dem Autonomiegrad und dem Nutzungskontext angemessene menschliche Aufsicht (Verordnung (EU) 2024/1689, 2024, Art. 14). Kontrolle sollte außerdem Lernschleifen erzeugen. Wiederkehrende Fehler, unnötige Übergaben und überraschende Ergebnisse sind keine bloßen Störungen. Sie zeigen, wo Auftrag, Daten, Qualitätskriterien oder Zuständigkeiten neu vereinbart werden müssen.
6. Mitarbeitende zur Steuerung von KI-Agenten befähigen
Wenn Mitarbeitende KI-Agenten einsetzen sollen, brauchen sie mehr als eine technische Einführung. Sie können lernen, geeignete und ungeeignete Einsatzfälle zu unterscheiden,
Aufträge und Abbruchbedingungen zu formulieren, Ergebnisse fachlich zu hinterfragen,
Unsicherheit und Scheingenauigkeit zu erkennen, Datenschutz und Vertraulichkeit zu wahren,
Grenzen zu setzen und Vorfälle zu melden.
Dazu gehört auch die Erlaubnis, einen KI-Vorschlag zurückzuweisen. Wer formal prüfen soll und sich praktisch nicht widersprechen darf, übernimmt nur scheinbar Verantwortung. Automatisierungsforschung weist seit Langem darauf hin, dass die Gestaltung der Aufgabenverteilung zwischen Mensch und Technik Aufmerksamkeit, Situationsverständnis und Leistung beeinflusst (Parasuraman et al., 2000).
Führung kann neben der Nutzungskompetenz auch die Urteilskraft und Widerspruchsfähigkeit stärken. Das entspricht auch dem Gedanken kokreativen Lernens: Lernen entsteht in einem gemeinsam gestalteten Raum, in dem Erfahrungen ausgewertet, Bedeutungen geprüft und neue Wahlmöglichkeiten entwickelt werden (Robinson, 2020).
Für Organisationen in der Europäischen Union ist KI-Kompetenz zudem ein Governance-Thema. Die EU-KI-Verordnung verpflichtet Anbieter und Betreiber von KI-Systemen dazu, Maßnahmen zur Förderung der KI-Kompetenz der mit den Systemen befassten Personen zu ergreifen und dabei Vorwissen, Erfahrung sowie Nutzungskontext zu berücksichtigen (Verordnung (EU) 2024/1689, 2024, Art. 4). Welche Maßnahmen angemessen sind, hängt vom konkreten Einsatz und der jeweils geltenden Fassung der rechtlichen Vorgaben ab.
7. Verantwortung für KI sichtbar zuordnen
KI kann Arbeit übernehmen, aber keine moralische oder organisationale Verantwortung tragen. Sätze wie „Die KI hat entschieden“ verschleiern, dass Menschen das System ausgewählt, Daten bereitgestellt, Kriterien definiert, Zugriffsrechte vergeben und Ergebnisse verwendet haben. Für jeden relevanten Prozess sollte deshalb erkennbar sein:
Wer hat den Einsatz freigegeben, wer verantwortet den fachlichen Zweck, wer überwacht Qualität und Risiken, wer trifft die endgültige Entscheidung? An wen können sich Betroffene wenden? Wer kann einen Prozess stoppen? Wer sorgt für Korrektur, Dokumentation und Lernen?
Verantwortung kann einer Person oder einer klar bestimmten Funktion zugeordnet bleiben. Das bedeutet nicht, einzelne Mitarbeitende zu Sündenböcken für systemische Fehler zu machen. Verantwortliche Führung unterscheidet zwischen persönlichem Handeln, technischen Bedingungen und organisationalen Entscheidungen. Sie fragt: „Wer hat den Fehler gemacht?“ und „Welche Beziehung, welcher Auftrag und welche Struktur haben dieses Ergebnis mit hervorgebracht?“
Aus kokreativer Sicht wird Verantwortung damit weder individualisiert noch im System aufgelöst. Sie wird differenziert: Jede beteiligte Person übernimmt den Teil, den sie erkennen und beeinflussen kann; die Organisation übernimmt Verantwortung für die Bedingungen, die sie gesetzt hat.
8. Aus sieben Aufgaben wird ein Führungszyklus
Die sieben Aufgaben sind keine Checkliste, die einmal abgearbeitet wird. Sie bilden einen wiederkehrenden Führungszyklus:
Vereinbaren: Zweck, Rollen, Grenzen und Entscheidungskompetenzen klären.
Ermöglichen: Datenzugänge, Qualitätskriterien, Schutzmaßnahmen und Kompetenzen bereitstellen.
Beobachten: Ergebnisse, Nebenwirkungen, Unsicherheiten und die Auswirkungen auf Zusammenarbeit wahrnehmen.
Auswerten: Fehler, Erfolge und Rückmeldungen gemeinsam untersuchen, ohne vorschnell zu beschuldigen oder zu beschönigen.
Neu entscheiden: Auftrag, Automatisierungsgrad, Kontrollen oder Zuständigkeiten anpassen bis hin zur Entscheidung, den Agenten nicht weiter einzusetzen.
Dieser Zyklus stärkt Autonomie, weil er Entscheidungen überprüfbar und veränderbar hält. Zugleich stärkt er Verbundenheit, weil Erfahrungen der Beteiligten nicht als Widerstand gegen Innovation abgewertet, sondern als relevante Informationen über das gemeinsame Arbeitssystem verstanden werden.
9. Drei typische Führungsfallen beim Einsatz von KI-Agenten
Die Vermenschlichungsfalle
Wenn ein Agent freundlich, sicher oder einsichtig formuliert, entsteht leicht der Eindruck von Verständnis und Absicht. Führungskräfte können eine zugängliche Sprache nutzen, ohne daraus personale Eigenschaften oder Verantwortung abzuleiten. Der Agent bleibt ein technisches System; die Beziehungserfahrung der Menschen mit ihm ist dennoch real und verdient Beachtung.
Die Verantwortungsfalle
Eine Führungskraft überträgt die Prüfung an Mitarbeitende und behält den Zeitdruck, die Kriterien und Freigaben vollständig unter eigener Kontrolle. Die Mitarbeitenden tragen dann das Risiko, ohne den Prozess wirksam gestalten zu können. Die Lösung ist ein neuer Vertrag über Einfluss, Zeit und Entscheidungsmacht.
Die Effizienzfalle
Ein Prozess wird schneller, während Lernfähigkeit, fachlicher Austausch oder Kontakt zu Kundinnen und Kunden abnehmen. Effizienz ist dann ein reales Ergebnis und nicht das einzige. Verantwortliche Führung macht den Zielkonflikt sichtbar und entscheidet bewusst, welche Qualität von Arbeit und Beziehung erhalten bleiben soll.
10. Fünf Fragen vor dem Einsatz eines KI-Agenten
Bevor ein KI-Agent in einen Prozess eingebunden wird, können Führungskräfte mit ihrem Team fünf Fragen klären:
Welches konkrete Problem wollen wir lösen und für wen?
Welche Entscheidungen und Handlungen bleiben ausdrücklich beim Menschen?
Woran erkennen wir ein gutes, ein unsicheres und ein unvertretbares Ergebnis?
Wer besitzt Kompetenz, Zeit und Autorität, um wirksam zu prüfen und zu widersprechen?
Wann und mit wem werten wir die Erfahrungen aus und verhandeln den Auftrag neu?
Wer diese Fragen gemeinsam beantwortet, behandelt Mitarbeitende nicht als nachträgliche Kontrollinstanz einer bereits festgelegten Technik. Er oder sie bestätigt ihre Denkfähigkeit, ihr Erfahrungswissen und ihre Mitverantwortung.
Führung beginnt mit einer bewussten Entscheidung
KI-Agenten können Handlungsmöglichkeiten erweitern. Ob dadurch mehr Autonomie oder mehr Abhängigkeit entsteht, entscheidet sich jedoch in der Gestaltung.
Gute Führung sorgt dafür, dass Technik dem vereinbarten Zweck dient, Mitarbeitende denk- und entscheidungsfähig bleiben und Verantwortung nicht im System verschwindet. Sie verbindet Leistungsfähigkeit mit Kontakt, Klarheit und begründbaren Grenzen. Dabei ist auch der Verzicht auf Automatisierung eine legitime Führungsentscheidung, wenn Risiken, Beziehungskosten oder der Verlust menschlicher Urteilskraft schwerer wiegen als der erwartete Nutzen.
Die Zukunft der Führung entscheidet sich deshalb daran, ob Führungspersonen mit anderen tragfähige Verträge gestalten, Unterschiede wahrnehmen, Verantwortung zumutbar verteilen und Entscheidungen lernfähig halten. Das Ziel ist Autonomie in Verbundenheit im Kontakt mit den Menschen, der Aufgabe und den tatsächlichen Folgen des technischen Handelns.
Literaturverzeichnis
Berne, E. (1966). Principles of group treatment. Grove Press.
Lee, J. D., & See, K. A. (2004). Trust in automation: Designing for appropriate reliance. Human Factors, 46(1), 50–80. https://doi.org/10.1518/hfes.46.1.50_30392
Parasuraman, R., Sheridan, T. B., & Wickens, C. D. (2000). A model for types and levels of human interaction with automation. IEEE Transactions on Systems, Man, and Cybernetics—Part A: Systems and Humans, 30(3), 286–297. https://doi.org/10.1109/3468.844354
Raisch, S., & Krakowski, S. (2021). Artificial intelligence and management: The automation–augmentation paradox. Academy of Management Review, 46(1), 192–210. https://doi.org/10.5465/amr.2018.0072
Robinson, P. (2020). Cocreative transformational learning as a way to break out of script. Transactional Analysis Journal, 50(1), 41–55. https://doi.org/10.1080/03621537.2019.1690237
Russell, S. J., & Norvig, P. (2021). Artificial intelligence: A modern approach (4th ed.). Pearson.
Summers, G., & Tudor, K. (2000). Cocreative transactional analysis. Transactional Analysis Journal, 30(1), 23–40. https://doi.org/10.1177/036215370003000104
Tabassi, E. (2023). Artificial intelligence risk management framework (AI RMF 1.0) (NIST AI 100-1). National Institute of Standards and Technology. https://doi.org/10.6028/NIST.AI.100-1
Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz), ABl. L, 2024/1689, 12.7.2024. http://data.europa.eu/eli/reg/2024/1689/oj
