Stell dir vor, du kommst zur Arbeit und erfährst, dass dir ein neuer Kollege unterstellt wird. Bei dieser „Person“ handelt es sich jedoch nicht um einen Menschen, sondern um ein KI-Tool. Dein Unternehmen nennt es „Alex“ und es hat als „Mitarbeiter“ eine Berufsbezeichnung und festgelegte Aufgaben. Wie gut würdest du wohl deiner Meinung nach mit Alex zusammenarbeiten?

Wenn du den Managern ähnelst, die kürzlich von Emma Wiles, einer Wirtschaftsprofessorin an der Boston University, befragt wurden, würde die Behandlung von Alex als „Kollege“ und nicht als Software-Tool dazu führen, dass du schlechtere Arbeit leistest. Wiles stellte in einem Paper fest, dass Menschen 18 Prozent weniger Fehler entdeckten, wenn die Arbeit angeblich von einem handlungsfähigen agentischen „KI-Mitarbeiter“ stammte und nicht von einem gewöhnlichen Chatbot. Es zeigt sich also, dass die Adressierung des KI-Tools eine Rolle spielt. Und zwar eine große.

Teams aus KI-Agenten halten Einzug in die Arbeitswelt

Das ist ein alarmierender Einblick in eine Zukunft, auf die uns das Silicon Valley gerade einnordet. Im vergangenen Jahr sprach Jensen Huang, CEO von Nvidia, bereits über Arbeitswelten mit „digitalen Menschen“. Seit April haben Microsoft, OpenAI, Anthropic und Google nach und nach Tools veröffentlicht, die auf die Steuerung von Teams aus KI-Agenten ausgerichtet sind; viele davon werden ausdrücklich als digitale Kollegen beworben, die über die Flexibilität und die kognitiven Fähigkeiten echter Menschen verfügen. Und fast ein Drittel der 1.261 Führungskräfte, die an Wiles’ Studie teilnahmen, gab an, dass ihre Unternehmen KI-Agenten bereits als Mitarbeiter betrachten (23 Prozent führen sie sogar in Organigrammen auf).

Der technische Fortschritt bei agentischer KI ist natürlich nicht nur heiße Luft. Agenten, die man sich im Grunde als KI-Tools vorstellen kann, die so programmiert sind, dass sie in einer Schleife arbeiten, bis sie ein Ziel erreichen, sind bei komplexeren Aufgaben tatsächlich messbar besser geworden. Es ist jedoch ein riesiger Sprung, diese Programme als Kollegen oder Mitarbeiter zu bezeichnen, und dies weckt unrealistische Erwartungen an die Leistungsfähigkeit der KI, während die menschlichen Mitarbeiter, die angeblich für sie verantwortlich sind, schlechter dastehen.

Studie belegt, wie Mitarbeiter Verantwortung an KI-Agenten abgeben

Das liegt zum Teil daran, dass es – wie Wiles’ Forschung nahelegt – unser Verständnis davon, wer in einer Firma das Sagen hat, auf den Kopf stellt. Wenn ein KI-Tool als Mitarbeiter dargestellt wurde, sahen sich die Studienteilnehmer weniger verantwortlich für dessen Ergebnisse. Sie neigten zudem mit 44 Prozent höherer Wahrscheinlichkeit dazu, auch fragwürdige Arbeitsergebnisse der KI zur weiteren Überprüfung an einen Vorgesetzten weiterzuleiten, anstatt auf eigenen Korrekturen zu vertrauen (wodurch der Zeitersparniszweck des Einsatzes von KI-Agenten von vorneherein zunichtegemacht würde).

Das hat weit über die Bürokultur hinaus Bedeutung: Da KI-Agenten in das Gesundheitswesen, das Bildungswesen, Regierungseinrichtungen und sogar die Kriegsführung eingebettet werden, wächst außerdem das Risiko, dass sie zu einem bequemen Sündenbock für Misserfolge werden. Sonst wären diese das Ergebnis schlechter menschlicher Entscheidungen, Anreize und Nachlässigkeiten gewesen, nun ist es „die KI“. (Man erinnere sich nur daran, wie der Bombenangriff auf eine Mädchenschule im Iran in der Öffentlichkeit Claude angelastet wurde, obwohl viele Anzeichen auf eine Kette menschlicher Fehler hindeuten.)

„KI-Agenten werden derzeit als etwas vermarktet, das Menschen ersetzen kann, und ich halte das für ein aussichtsloses Unterfangen“, sagt Daron Acemoğlu, Ökonom am MIT, der 2024 den Nobelpreis erhielt und die Auswirkungen von KI auf die Wirtschaft untersucht. „Sie sollten stattdessen so optimiert werden, dass sie die menschlichen Fähigkeiten verbessern – was derzeit noch nicht der Fall ist.“

Umfrage: Welche Aufgaben könnte KI potenziell übernehmen?

Wie könnte das aussehen? Aufschluss gibt ein neues Projekt an der Stanford University, bei dem Forscher 1.500 Beschäftigten in 104 Berufen Informationen darüber vorlegten, welche Aufgaben KI potenziell in ihrer Arbeit übernehmen könnte. Anschließend fragten die Wissenschaftler sie, was tatsächlich am hilfreichsten und produktivsten wäre. Die Beschäftigten wollten in bestimmten Bereichen tatsächlich Automatisierung: Rechtsreferendare waren beispielsweise überzeugt, KI könne dazu beitragen, dass in vielen Rechtsfällen sinnvolle Fortschritte erzielt werden. Doch oft waren es gerade die Aufgaben, die Technologieexperten als „am besten für KI geeignet“ erachteten – wie die Überprüfung der Bonität von Kunden durch Vertriebsmitarbeiter –, die die Beschäftigten selbst definitiv nicht von einem KI-Agenten erledigt haben wollten.

Was uns wieder zum KI-Agenten Alex zurückbringt. Alex als Mitarbeiter zu bezeichnen, ist einfach – und bequem, besonders wenn etwas schiefgeht. Aber es ist reines Branding. Es macht das Tool nicht besser für die Aufgaben geeignet, und wie Wiles’ Forschung zeigt, verschlechtert es die Leistung der Menschen im Umfeld bei ihrer eigentlichen Arbeit. Und die „menschlichen Mitarbeiter“ sollten bedenken: Sie sind auch diejenigen, deren Handlungsfähigkeit die KI nachzuahmen versucht. Sie verdienen etwas Besseres als einen Alex.

Dieser Beitrag ist zuerst auf t3n.de erschienen.

(jle)