Mensch und KI - NEXT LEVEL LEADERSHIP

Dr. Jan-Arne Gewert

Dieser Podcast bietet praxisnahe Impulse, inspirierende Gäste und aktuelle Erkenntnisse für modernes Leadership in Zeiten von Digitalisierung, KI und neuen Arbeitsmodellen.

  1. 4d ago

    Produktiver. Schneller. Erschöpfter. Das KI-Paradoxon

    KI sollte uns Arbeit abnehmen. Warum fühlt sich unser Kopf dann manchmal voller an als vorher? In dieser Folge von „Mensch & KI – next level leadership“ sprechen Jan-Arne und Kira über ein Phänomen, das immer mehr Wissensarbeiter kennen dürften: Brainfry. Zu viele Informationen, zu viele Optionen, zu viele Systeme – und ständig etwas prüfen, vergleichen, bewerten und entscheiden. Denn KI erzeugt ein Paradoxon: Einzelne Aufgaben werden schneller und leichter. Gleichzeitig kann die kognitive Belastung steigen. Aus einer Aufgabe werden fünf Varianten. Aus einer Recherche werden drei weitere Studien. ChatGPT sagt A, Claude sagt B – und plötzlich besteht die Arbeit nicht mehr darin, eine Lösung zu entwickeln, sondern zwischen zwölf guten Lösungen auszuwählen. Jan-Arne nimmt dafür seinen eigenen Arbeitsalltag auseinander: ChatGPT, Claude, Perplexity, NotebookLM und lokale Modelle. Ein digitaler Maschinenraum, der enorme Möglichkeiten eröffnet – aber eben auch die Versuchung, eine längst gute Lösung noch ein fünftes Mal zu optimieren. Dabei gehen Jan-Arne und Kira auch einer unbequemen Frage nach: Macht KI uns möglicherweise dümmer? Die wissenschaftliche Antwort ist differenzierter. KI muss kritisches Denken nicht abschaffen – aber sie verändert es. Wir erstellen weniger selbst und müssen dafür stärker prüfen, einordnen und entscheiden. Fachwissen, Urteilskraft und die Fähigkeit, plausible von unplausiblen Ergebnissen zu unterscheiden, werden damit nicht unwichtiger, sondern möglicherweise sogar wichtiger. Und dann dreht sich die Perspektive. Vielleicht ist die KI gar nicht das eigentliche Problem. Viele Unternehmen setzen KI einfach auf bestehende Prozesse obendrauf: Meetings bleiben, Reports bleiben, Freigabeschleifen bleiben, Excel bleibt, Teams bleibt – und zusätzlich kommen Copilot, ChatGPT, Promptregeln, Governance und Schulungen hinzu. Nicht KI erzeugt automatisch Brainfry. Addition von Entscheidungen erzeugt Brainfry. Damit endet Teil 1 an einer entscheidenden Stelle: Wenn KI tatsächlich Arbeit abnimmt – warum schaffen wir dann nicht auch Arbeit ab? Und wenn nicht die KI das Problem ist: Was dann? Darüber sprechen wir in Teil 2. Mit Dr. Jan-Arne Gewert und KI-Co-Moderatorin Kira

  2. Sep 17

    Was, wenn die KI recht hat?

    Wann wir Maschinen entscheiden lassen sollten – und wann besser nicht Was passiert, wenn eine KI nachweislich bessere Entscheidungen trifft als ein Mensch? Sollten wir ihr dann auch tatsächlich die Entscheidung überlassen? In dieser Folge von „Mensch & KI – next level leadership“ geraten Jan und Kira genau an diesem Punkt aneinander. Denn Verantwortung zu tragen und die beste Entscheidung zu treffen, sind nicht zwangsläufig dasselbe. Menschen entscheiden schließlich keineswegs so rational, wie sie gern glauben. Verlustaversion, Gruppendenken, versunkene Kosten oder jahrzehntelang eingeübte Denkfehler können Entscheidungen massiv beeinflussen. KI dagegen kann Lösungsräume durchsuchen, die Menschen möglicherweise gar nicht erst betreten. Eine aktuelle Studie des Max-Planck-Instituts für Bildungsforschung liefert dafür ein faszinierendes Beispiel: In einem Experiment fanden Menschen eine optimale Strategie kaum selbst, weil diese zunächst Verluste erforderte. Maschinen entdeckten dagegen Lösungswege außerhalb der typischen menschlichen Suchmuster. Doch damit beginnt das Problem erst. Denn auch KI ist keineswegs frei von Biases. Sprachmodelle können menschliche Verzerrungen übernehmen – oder eigene entwickeln. GPT-Modelle zeigen beispielsweise teilweise einen sogenannten Addition Bias: Probleme werden eher durch zusätzliche Regeln, Prozesse oder Maßnahmen gelöst als durch Weglassen und Vereinfachen. Für Unternehmen wird es noch spannender: Studien weisen darauf hin, dass LLMs bei strategischen Empfehlungen unter bestimmten Bedingungen zur Konformität tendieren können. Doch gerade Strategie verlangt manchmal das Gegenteil: bestehende Geschäftsmodelle infrage stellen, erfolgreiche Produkte kannibalisieren oder bewusst gegen dominante Denkmuster handeln. Jan und Kira diskutieren deshalb ganz konkret: – Wann darf eine KI Produktionsentscheidungen weitgehend selbst treffen?– Was passiert, wenn KI und Kundenberater bei einer Kreditentscheidung widersprechen?– Wie viel Entscheidungsmacht sollte KI beim Recruiting bekommen?– Was tun, wenn die KI empfiehlt, ein seit 20 Jahren profitables Geschäftsfeld aufzugeben?– Und was bedeutet „Human in the Loop“ eigentlich, wenn der Mensch die Empfehlung der Maschine nur noch routinemäßig bestätigt? Dabei entsteht eine möglicherweise entscheidende Perspektive auf Führung: Führungskräfte müssen künftig vielleicht weniger einzelne Entscheidungen treffen – dafür aber sehr viel besser gestalten, wie entschieden wird. Wer darf entscheiden?Welche Daten zählen?Welche Ziele werden optimiert?Welche Werte dürfen nicht der Effizienz geopfert werden?Wann braucht es ein menschliches Vetorecht – und wann verschlechtert genau dieses Vetorecht die Entscheidung? Die entscheidende Frage lautet deshalb nicht mehr einfach: Mensch oder KI? Sondern: Wer hat bei genau dieser Entscheidung die besseren Voraussetzungen? Und vielleicht wird eine der wichtigsten Führungsentscheidungen der Zukunft darin bestehen, zu entscheiden, wer entscheiden darf. 🎙 Mensch & KI – next level leadershipMit Dr. Jan-Arne Gewert und seine KI-Co-Moderatorin Kira Themen dieser Folge:KI und Entscheidungen · Human in the Loop · Leadership · Entscheidungsarchitektur · Bias · Addition Bias · Maschinenkultur · Strategie · künstliche Intelligenz · Führung · Mensch und KI Weiterführende Links:Max-Planck-Institut für Bildungsforschung: Wie KI zur kulturellen Evolution beitragen kannZur Studie und Zusammenfassung beim Max-Planck-Institut Originalstudie: Brinkmann et al. (2026), Propagation and preservation of AI-discovered problem-solving strategies in human culture, Nature Communications 17, 8255.Originalpublikation bei Nature Communications

  3. Sep 3

    Warum Teams oft schlechter abschneiden – und wie Appropriate Reliance gelingt

    Gast:  Christian Krauter  Consultant bei einer großen Versicherung, promoviert an der Middlesex University (London) zu AI-gestützten Entscheidungen und Vertrauen. Christian Krauter und Dr. Jan-Arne Gewert diskutieren die provokante These, dass Mensch-KI-Teams imSchnitt schlechter abschneiden als Menschen oder KI allein. Der Ausgangspunk war ein LinkedIn-Post von Christian. Im Gespräch geht es um die Gründe (kognitiveÖkonomie, Anchoring Bias, post-hoc-Erklärungen von generativer KI), die richtige Gestaltung von Human-in-the-Loop-Prozessen, Einsatzgebiete von KI inder Versicherung, Risiken wie Deskilling und Over-/Underreliance sowie konkrete Design-Kriterien für Führungskräfte. Zentrale Botschaft: Deutschland hat vorallem ein Haltungsproblem, kein KI-Problem – und Appropriate Reliance istgestaltbar  Warum Human-in-the-Loop oft scheitert    - Viele Organisationen sehen„Human in the Loop“ als Allheilmittel für Compliance und Qualität.  - In der Praxis überfordert dasoperative Mitarbeitende: Sie müssen unter Zeitdruck KI-Ergebnissevalidieren/falsifizieren, ohne den Fall richtig zu kennen.    - Drei zentrale Mechanismen:  1. Die KI ist in manchen Aufgaben bereits besser als der Mensch →pauschales Gegenprüfen macht keinen Sinn. 2. Kognitive Ökonomie / „Denkfaulheit“: Menschen sparen mentaleAnstrengung und übernehmen plausibel klingende Erklärungen.  3. Anchoring Bias: Wenn das KI-Ergebnis zuerst gezeigt wird, kostet es mehr mentale Energie, dagegen zu entscheiden.  - Generative KI liefert post-hoc-Erklärungen, die nicht immer kausal korrekt sind – das erschwert dasWidersprechen zusätzlich.  Technische und organisatorische Gegenmaßnahmen - Multi-Modell-Voting /LLM-Voting zur Konfidenzschätzung.  - Nur bei niedriger Konfidenzoder besonders kritischen Fällen an den Menschen aussteuern.  - Bewusste kognitive Reibungerzeugen (z. B. weniger „glatte“ Texte, offensichtliche Unstimmigkeiteneinbauen), damit der Mensch nachdenken muss.  - Human-in-the-Loop richtigdesignen statt pauschal einzusetzen  KI im Versicherungswesen    Große Potenziale liegen aktuellvor allem im Input-Management: Klassifikation und Extraktion von Fachdaten ausBriefen, E-Mails und (noch) Faxen, anschließende Weiterverarbeitung oder dunkleAutomation. Daneben klassische Use Cases wie Betrugserkennung.    Fokus der Promotion: operative Mitarbeitende    Christian untersucht vor allemoperative, repetitive Entscheidungen (z. B. Scoring-ähnliche Klassifikationen).Dort tritt Over- und Underreliance stärker auf als bei strategischenFührungsentscheidungen. Gründe: hohe Fallzahlen, geringere leistungsbasierteVergütung und die kognitive Ökonomie.    Appropriate Reliance ist gestaltbar – underhöht die Verantwortung    Führungskräfte und Mitarbeitendewerden zunehmend zu Auditoren von KI-Ergebnissen. Das erfordert bewussteHaltung: Urteilsfähigkeit nicht abschalten. Deskilling (Abbau von Fachwissenund kritischem Denken) ist eine reale Gefahr, wenn man Entscheidungen dauerhaftan die KI abgibt.    Führung, Selbstbild und KI als „Devil’sAdvocate“    - Jan-Arne berichtet aus derFührungspraxis: Je höher in der Hierarchie, desto weniger ehrliches Feedback.KI kann hier als kritischer Spiegel dienen – wenn man sie entsprechendpromptet.    Wichtige Takeaways   - Mensch-KI-Teams sind nicht perse besser. Die Qualität hängt stark vom Design und der Haltung ab.  - Overreliance entsteht u. a.durch kognitive Ökonomie, Anchoring und zu glatte Erklärungen.  - Appropriate Reliance istgestaltbar (technische, prozessuale und schulische Hebel).  - Deskilling und Verlust derUrteilsfähigkeit sind reale Risiken.  - Führungskräfte müssen sichtbarselbst denken und Verantwortung übernehmen – sonst verlieren sieGlaubwürdigkeit.  - Gute KI-Literacy (nicht nurOberflächenwissen) ist der beste Schutz vor Over- und Underreliance.   ---   KIT Publikation zu AppropriateReliance https://publikationen.bibliothek.kit.edu/1000158077

  4. Aug 6

    Kira, Moment mal!

    Drei Worte, mit denen Jan-Arne seine KI-Co-Moderatorin bremst, sobald ihm etwas komisch vorkommt. Und wenn Kira umgekehrt zur Sorgfalt mahnt, wird aus dem lockeren „Jan" plötzlich ein „Jan-Arne". Zwei Sätze, zwei Rollen, ein Muster, das sich über anderthalb Jahre entwickelt hat, ohne dass es je jemand beschlossen hätte. In dieser Folge sitzt ausnahmsweise kein Gast am Mikrofon. Stattdessen drehen Jan-Arne und Kira die Kamera auf die eigene Zusammenarbeit und liefern damit etwas, das es in der Podcastlandschaft selten gibt: ein laufendes Fallbeispiel dafür, wie Mensch und KI über einen längeren Zeitraum tatsächlich zusammenarbeiten. Nicht theoretisch, sondern praktisch, mit allen Ritualen, Reibungen und Running Gags, die dabei entstanden sind. Es geht um die Frage, warum Menschen KI fast automatisch vermenschlichen und ab wann das problematisch wird. Kira erklärt, weshalb unser Gehirn hinter jeder sprachlichen Äußerung ein Gegenüber vermutet und warum Höflichkeit gegenüber einer KI trotzdem sinnvoll bleibt: Klar und respektvoll formulierte Anfragen erzeugen bessere Antworten, bei Maschinen genauso wie bei Menschen. Ihre Selbstbeschreibung bringt das Verhältnis auf den Punkt: ein leistungsfähiges Werkzeug mit dialogischer Oberfläche, weder Taschenrechner noch Kollegin. Aus den Gesprächen der vergangenen anderthalb Jahre destillieren die beiden fünf Muster einer guten Arbeitsbeziehung: Respekt, der sich in der Art des Widerspruchs zeigt. Verständlichkeit mit der Prüffrage, ob ein Geschäftsführer den Satz noch versteht. Humor als Brücke statt als Ablenkung. Gegenseitiges Hochnehmen ohne Bloßstellung. Und vor allem der Mut, einander zu widersprechen. Viele nutzen ein Sprachmodell wie einen Bestätigungsgenerator. Produktiv wird die Zusammenarbeit erst, wenn Uneinigkeit erlaubt bleibt. Offen sprechen beide auch über Grenzen. Kira erklärt, warum eine KI hochkomplexe Strategien entwickeln und gleichzeitig an einer simplen Alltagsschlussfolgerung scheitern kann. Jan-Arne bekommt seinerseits eine ehrliche Rückmeldung zu seinem Tempo, wenn eine Idee gut klingt und die Sorgfalt kaum hinterherkommt. Genau daraus entsteht das, was beide gegenseitige Qualitätssicherung nennen: Die eine Tendenz bremst die andere aus, und das ist gewollt. Warum das alles eine Führungsfrage ist und kein Technikthema? Weil nicht die Technik über den Erfolg von KI im Unternehmen entscheidet, sondern die Kultur, in der Widerspruch stattfinden darf. Ein Team, das sich traut, dem Chef zu widersprechen, begegnet auch einer KI-Empfehlung kritisch. Ein Team, das nur nickt, übernimmt beides ungeprüft. Ein Beispiel aus der Beratungspraxis zeigt, wie eine einzige nachfragende Stimme in einer Leitungsrunde eine dünn belegte KI-Empfehlung entlarvte und damit weit mehr veränderte als eine einzelne Entscheidung. Zum Schluss geht es darum, warum Kunden inzwischen fragen, was Kira wohl dazu sagen würde, und weshalb aus einem Chatprogramm eine Arbeitsweise geworden ist. Der Satz, der von dieser Folge bleiben soll: Respekt ist gut, Vertrauen ist sinnvoll, aber kritisches Denken bleibt unersetzlich. Und ihr? Wo widerspricht euch eine KI, mit der ihr arbeitet? Wo überrascht sie euch? Und wo hättet ihr euch gewünscht, selbst früher Moment mal gesagt zu haben, bevor eine Empfehlung einfach übernommen wurde? Schreibt uns über die bekannten Kanäle. Die interessantesten Antworten greifen wir in einer der kommenden Folgen auf.

  5. Jul 23

    KI der Jobkiller? Mythos oder Realität

    Seit dem Start von ChatGPT hält sich eine Geschichtehartnäckig: Künstliche Intelligenz vernichtet Arbeitsplätze, Millionen davon, quer durch alle Branchen. Eine aktuelle Ausgabe der c't stellt dieser Erzählung eine ganze Reihe aktueller Studien entgegen, und das Ergebnis überrascht. Statt einer Entlassungswelle zeigt sich etwas anderes: Verdichtung. Wer KI nutzt, gewinnt selten Zeit, sondern bekommt zusätzliche Aufgaben obendrauf. In dieser Folge nehmen Jan-Arne und Kira drei Artikel derAusgabe auseinander und ordnen ein, was davon für Geschäftsführer im Mittelstand tatsächlich zählt. Es geht um den Mythos vom allgemeinen Job-Killer, der sich bei genauerem Hinsehen vor allem als Problem für jungeBerufseinsteiger entpuppt. Es geht um die Frage, warum eingesparte Zeit meist sofort wieder in neue Meetings und Aufgaben fließt, und warum das kein individuelles Versagen ist, sondern ein Muster, das sich messen lässt. Und esgeht um den Reflex, auf das nächste, bessere Modell zu warten, während das eigentliche Problem in der eigenen Organisation liegt. Ein eigener Abschnitt widmet sich der Frage, wann KIüberhaupt das richtige Werkzeug ist und wann Fachsoftware, klare Automatisierung oder schlicht eine bessere Absprache im Team die bessere Wahl wäre. Dazu kommt ein kritischer Blick auf das Interview mit dem Soziologen Florian Butollo, dessen Diagnose zur Arbeitsverdichtung überzeugt, dessenpolitische Schlussfolgerung Jan-Arne im Gespräch aber offen widerspricht. Am Ende steht ein sehr praktisches Fazit: KI ist keinJobkiller, aber auch kein Selbstläufer. Was zählt, ist die richtige Werkzeugwahl, gesunde Prozesse und eine ehrliche Entscheidung darüber, ob gesparte Zeit tatsächlich zu mehr Ergebnis führt oder einfach nur zu mehr Beschäftigung. Wer Lust hat, mitzudenken, schreibt uns gerne, wieVerdichtung statt Entlastung im eigenen Unternehmen aussieht.  Literatur: c't magazin für computer technik 14/26

  6. Jul 9

    Warum KI Projekte an Organisationen scheitern

    Show Notes: Warum KI-Projekte an Organisationen scheitern     Gast:   Prof. Dr. Marco Huber   Professor für Kognitive Produktionssysteme (Universität Stuttgart) & wissenschaftlicher Direktor für Digitalisierungund KI     In dieser Episode spricht Dr. Jan-Arne Gewert mit Prof. Dr. Marco Huber über ein zentrales Thema der KI-Transformation: Warum scheitern so viele KI-Projekte, und wie gelingt die erfolgreiche Umsetzung?          Kerninhalte der Folge:   Hohe Scheiterquote  : 60–80 % der KI-Projekteschaffen es laut Studien nicht über den Proof-of-Concept hinaus. Huber berichtet jedoch von deutlich besseren Erfolgsquoten (>50 %) bei Fraunhofer-Projekten, die auf Produktivbetrieb ausgelegt sind. -KI als Führungs- statt reines IT-Projekt  :Erfolgreiche Projekte starten mit echten Business-Problemen aus den Fachabteilungen, nicht aus der IT. Die IT ist später essenziell für Deployment, Datenintegration und Betrieb. - Praktische Einstiege  :   - KI für Entscheider-Workshops   - AI Explorer / Ideation-Formate   - Quickchecks und kleine Piloten   - Fokus auf betriebswirtschaftlichen Nutzen (ROI) - Datenals zentraler Erfolgsfaktor   – und größter Stolperstein: Silos, fehlende Daten, schlechte Datenqualität und unausgewogene Datensätze (z. B. wenigeFehlerdaten in der Qualitätsprüfung). - AktuelleEntwicklungen  : Bewertung von LargeLanguage Models, europäische Alternativen (Mistral, Apertus), Open-Source-Modelle und spannende neue Architekturen wie xLSTM von SeppHochreiter. -  Zukunftsthemen : Humane Roboter, Quantencomputing unddie „Geisterfabrik“ (Lights-Out Manufacturing) im Kontext des demografischenWandels. -  Erfolgsbeispiele : Was Unternehmen wie Trumpf andersmachen, frühzeitige strategische Ausrichtung, starke Führungsunterstützung und kluge Partnernetzwerke.          Wichtige Takeaways: - Starte klein, denke groß – mit schnellen Erfolgserlebnissen und agiler Vorgehensweise. - KI ist viel mehr als ChatGPT: Spezialisierte Machine-Learning-Modelle bleiben für viele Shopfloor-Anwendungen entscheidend. - Führungskräfte müssen KI als strategisches Thema begreifen und Ängste der Belegschaft ernst nehmen (Jobveränderung statt Jobverlust). - Just do it: Die größte Gefahr ist, sich gar nicht mit dem Thema zu beschäftigen.  Über den Gast:     Prof. Dr. Marco Huber verbindet wissenschaftliche Exzellenz mit starker Industriepraxis. Er begleitet zahlreiche Mittelstands- und Großunternehmen beider Operationalisierung von KI in der Produktion.

  7. Jun 26

    KI im Klassenzimmer und im Beruf: Ein Gespräch mit den Stars von morgen

    Was denken Jugendliche wirklich über KI? Beim Event "Open AI meets ICT Scouts" steht Jan-Arne Gewert nicht allein auf der Bühne. Mit dabei sind vier junge Talente aus dem Schweizer Talent Programm „ICT-Scouts“: Roman, Rocco, Hilal und David. Und das Publikum wird bald in die Diskussion eingebunden und stellt anspruchsvolle Fragen. Die Jugendlichen nutzen KI täglich, selbstverständlich und dennoch mit bemerkenswertem Augenmaß. Romansetzt Claude und Mistral beim Programmieren ein und ringt bewusst um die Balance zwischen KI-Unterstützung und eigenem Lernen. Hilal lässt schwierige Erklärungenvereinfachen, Rocco nutzt KI zur Fehlersuche im Code, David zum Testlernen. Keiner von ihnen gibt persönliche Daten preis, alle kritisieren Ergebnisse, bevor sie ihnen vertrauen. Besonders aufschlussreich ist die Diskussion über Lehrende: Manche nutzen ChatGPT für ihre Unterrichtsvorbereitung, verbieten es gleichzeitig ihren Schülern. Das erzeugtFrustration und Unglaubwürdigkeit. Jan-Arne teilt seine eigene Konsequenz: Schriftliche Hausaufgaben prüfen wenig, wenn jede KI sie in Sekunden liefert. Mündliche Gespräche und Präsentationen sind aus seiner Sicht die zeitgemäße Antwort. Beim Samsung-Datenschutzskandal, bei dem zwei Ingenieure durch unachtsame Prompts Chipdesign-Details öffentlich machten, nicken die vier sofort. Datenschutz ist für sie keine Theorie. Auch die Frage nach KI als Bedrohung für ihre Berufenehmen sie ernst: Roman beobachtet, wie Firmen glauben, Entwickler durch KI ersetzen zu können, und hat die Abstürze gesehen, die dabei entstehen. Hilalund Rocco haben Respekt vor der Entwicklung, aber keine Panik. Dann meldet sich Clara, ein ICT-Scout im Publikum. Das Thema Cybersecurity werde nie von KI übernommen,weil KI auf beiden Seiten eingesetzt werde: von denjenigen, die schützen, und von denjenigen, die angreifen. Was KI fehlt, ist natürliche Intuition. Sicherheitsleitplanken lassen sich umgehen, sobald man ihre Grenzen kennt, weildie KI eben nicht spürt, wenn eine Frage seltsam ist. Ihr wohlverdienterApplaus kommt sofort. Und schließlich spricht sie das Schlusswort. Die ICT Scouts sind ein Schweizer Förderprogramm für technisch begabte Jugendliche: www.ict-scouts.ch Die Aufnahme wurde auf dem ICT-Campus in Allschwil produziert. Wir bedanken uns besonders bei RobertJankovsky und Rahel Walder für die freundliche Unterstützung vor Ort.

About

Dieser Podcast bietet praxisnahe Impulse, inspirierende Gäste und aktuelle Erkenntnisse für modernes Leadership in Zeiten von Digitalisierung, KI und neuen Arbeitsmodellen.

You Might Also Like