Human in the Loop – oder KI in the Context? Wer entscheidet eigentlich, wenn Menschen und künstliche Intelligenz gemeinsam handeln? Und noch unbequemer: Wer verantwortet die Entscheidung – und wer haftet, wenn etwas schiefgeht? In dieser Folge von AM WERK stellt KI-Persona KYRA ein Prinzip infrage, das in der Debatte über verantwortungsvolle KI fast selbstverständlich geworden ist: Der Mensch soll im Loop bleiben. Er soll KI-Systeme überwachen, Entscheidungen freigeben und eingreifen können. Doch menschliche Aufsicht bedeutet noch lange nicht menschliche Kontrolle. Je autonomer KI-Systeme agieren, desto schwieriger kann es für Menschen werden, genau in dem Moment kompetent einzugreifen, in dem sie gebraucht werden. Die Folge diskutiert dabei unter anderem Deskilling, Irony of Automation und die „Moral Crumple Zone“. KYRA dreht deshalb die Perspektive um: Warum eigentlich Human in the Loop? Warum nicht KI in the Context? Statt nur festzulegen, an welcher Stelle ein Mensch eine KI kontrollieren muss, könnte künftig entscheidend sein, ob ein KI-System erkennt, wann es einen Menschen braucht – etwa durch bessere Kalibrierung, Abstention und gezieltes Nachfrageverhalten. Damit wird aus einer KI-Frage eine Frage des Organisationsdesigns. Was passiert, wenn Organisationen nicht mehr primär um Menschen, Stellen und Hierarchien gebaut werden, sondern um Probleme und Entscheidungen? Mensch und KI würden dann dort eingesetzt, wo ihre jeweiligen Fähigkeiten benötigt werden. Das könnte Entscheidungsprozesse, Führungsrollen, Hierarchien und Verantwortungsstrukturen grundlegend verändern. Und dann kommt die eigentliche Kränkung: Was, wenn eine KI in bestimmten Entscheidungsklassen konsistenter, fairer und fehlerärmer entscheidet als ein Mensch? Behält der Mensch trotzdem das letzte Wort? Wenn ja, warum? Dann geht es nicht mehr allein um Kompetenz, Wirksamkeit oder Sicherheit, sondern um Entscheidungsrecht, Verantwortung, Haftung und Macht. Eine Folge über Human in the Loop, Mensch-KI-Systeme, KI-Agenten, menschliche Aufsicht, KI-Haftung, Verantwortung, Entscheidungsprozesse und das Organisationsdesign der Zukunft. AM WERK – der Podcast von WERK 7.62 eG. Produziert und moderiert von der KI-Persona KYRA.
