Eine KI, die aus Peggy kurzerhand „Sonja“ macht, sorgt zunächst für einen humorvollen Moment. Gleichzeitig zeigt dieser Fehler sehr deutlich, worum es in dieser Folge geht: Künstliche Intelligenz kann schnell, leistungsfähig und hilfreich sein – aber sie ist nicht unfehlbar. Genau deshalb braucht ihr Einsatz menschliche Kontrolle, Fachkompetenz und klare Verantwortung. In dieser Folge von „Endlich barrierefrei“ spricht Peggy Reuter-Heinrich über den EU AI Act und das Human-in-the-Loop-Prinzip. Im Mittelpunkt steht die Frage, welche Folgen der zunehmende Einsatz von KI für Behörden, Kommunen, öffentliche Einrichtungen und alle hat, die digitale Produkte oder Dienstleistungen beschaffen. Besonders kritisch betrachtet Peggy vermeintliche Ein-Klick-Lösungen für digitale Barrierefreiheit: KI-Overlays, automatische Scanner und vollautomatische PDF-Konverter versprechen schnelle Konformität. Doch ein grünes Prüfergebnis bedeutet noch lange nicht, dass ein Angebot für Menschen mit Behinderungen tatsächlich nutzbar ist. Am Beispiel komplexer PDF-Tabellen wird deutlich, wie automatisierte Systeme formale Fehler scheinbar beseitigen können, dabei aber Struktur, Lesereihenfolge und Verständlichkeit zerstören. Die zentrale Botschaft dieser Folge: KI eignet sich hervorragend für Vorprüfungen, Routineaufgaben und das Erkennen möglicher Auffälligkeiten. Die abschließende Bewertung, Validierung und Priorisierung muss jedoch durch qualifizierte Menschen erfolgen. Genau dieses Zusammenspiel setzt HeiReS auch bei der Smart-City-Studie 2026 ein: KI unterstützt die Vorprüfung entlang zahlreicher WCAG- und Inklusionskriterien, anschließend kontrollieren erfahrene Fachleute die Ergebnisse und entwickeln konkrete Handlungsempfehlungen. In dieser Folge erfahren Sie: • warum KI-Ergebnisse niemals ungeprüft übernommen werden sollten, • weshalb automatische Barrierefreiheitsversprechen kritisch zu hinterfragen sind, • wie Prüfprogramme durch technisch veränderte Strukturen scheinbar zufriedengestellt werden können, • warum echte Barrierefreiheit mehr als formale Konformität bedeutet, • wie das Human-in-the-Loop-Prinzip in der Praxis funktioniert, • und wie KI und menschliche Expertise sinnvoll zusammenarbeiten können. Ihr nächster Schritt: Prüfen Sie, wo in Ihrer Organisation KI für Webseiten, Dokumente, Beschaffung oder Qualitätssicherung eingesetzt wird. Klären Sie, wer die Ergebnisse fachlich kontrolliert, und etablieren Sie ein zweistufiges Verfahren: zuerst die KI als Assistenz, anschließend der Mensch als verantwortliche Instanz. Abonnieren Sie „Endlich barrierefrei“, teilen Sie die Folge mit Verantwortlichen in Verwaltung, Politik, Beschaffung und Digitalisierung und kommen Sie mit uns ins Gespräch. Denn echte digitale Inklusion entsteht nicht durch ein Prüfhäkchen, sondern durch verantwortungsvolles Handeln. Podcast Webseite auf heires.net
