---werbung---🎙️ Du hörst Podcasts – warum nicht bald deinen eigenen haben? Mit KI geht’s einfacher, als du denkst. Jetzt unverbindlich auf die Founderliste! 🚀 👉 https://podcast-mit-ki.systeme.io/home ---werbung--- Wenn medizinische Daten zur Grundlage intelligenter Systeme werden Künstliche Intelligenz verändert die Medizin. Systeme auf Basis von Machine Learning und Deep Learning unterstützen bereits heute Anwendungen in der Bildgebung, bei der Analyse medizinischer Daten und bei bestimmten diagnostischen oder klinischen Entscheidungsprozessen. Gleichzeitig wächst die Bedeutung elektronischer Patientenakten, Laborwerte, medizinischer Bilder, genetischer Informationen, Daten aus Wearables und anderer digitaler Gesundheitsdaten. Damit entsteht eine wichtige Voraussetzung für datengetriebene Medizin: Es stehen immer größere Datenmengen zur Verfügung. Doch Größe allein entscheidet nicht über den Wert dieser Daten. Für ein KI-System ist entscheidend, ob die verwendeten Informationen korrekt, vollständig, konsistent, relevant, aktuell und für den jeweiligen Anwendungsfall geeignet sind. Das US-amerikanische National Institute of Standards and Technology (NIST) beschreibt Datenqualität im Gesundheitsbereich genau in diesem Zusammenhang: Die Qualität der Daten beeinflusst unmittelbar die Qualität der daraus erzeugten KI-Ergebnisse. Damit wird Datenqualität zu einer der zentralen Voraussetzungen für die Zukunft der digitalen Medizin. Sie kann Forschung beschleunigen, Diagnostik unterstützen und neue Formen der personalisierten Medizin ermöglichen. Gleichzeitig können fehlerhafte, unvollständige oder nicht repräsentative Daten Fehler in KI-Systemen verstärken und dadurch medizinische Risiken schaffen. Die entscheidende Frage lautet deshalb nicht nur, wie viel medizinische Information gesammelt wird. Entscheidend ist, ob diese Information tatsächlich geeignet ist, verlässlich für medizinische Entscheidungen genutzt zu werden. Was bedeutet Datenqualität in der Medizin? Datenqualität ist kein einzelner Messwert. Sie umfasst verschiedene Eigenschaften eines Datensatzes. Korrekte Daten müssen beispielsweise sachlich richtig sein. Vollständigkeit bedeutet, dass relevante Informationen nicht systematisch fehlen. Konsistenz beschreibt, dass Daten einheitlich erfasst und interpretiert werden können. Aktualität spielt ebenfalls eine Rolle, weil medizinische Informationen ihren Wert verändern können, wenn sie veraltet sind. Hinzu kommt die Frage der Relevanz: Ein Datensatz kann technisch sehr umfangreich sein und trotzdem für eine konkrete medizinische Fragestellung ungeeignet sein. Diese Unterscheidung ist für KI besonders wichtig. Ein Algorithmus kann statistische Muster in sehr großen Datenmengen erkennen, aber er kann nicht automatisch feststellen, ob ein vorhandenes Muster medizinisch sinnvoll oder lediglich eine Folge von Fehlern in der Datenerfassung ist. NIST nennt deshalb Genauigkeit, Vollständigkeit, Konsistenz, Relevanz und Aktualität als wesentliche Aspekte hochwertiger Gesundheitsdaten. Die Weltgesundheitsorganisation weist ebenfalls darauf hin, dass belastbare Entscheidungen im Gesundheitswesen auf verlässlichen Daten beruhen und dass die Qualität von Routinedaten dauerhaft überprüft und verbessert werden muss. Das Problem beginnt häufig vor der KI Wenn über KI in der Medizin gesprochen wird, richtet sich die Aufmerksamkeit häufig auf das Modell. Welche Architektur wird verwendet? Wie leistungsfähig ist der Algorithmus? Wie groß ist das neuronale Netz? Wie gut schneidet das System bei einem Benchmark ab? In der Praxis beginnt die Qualität eines KI-Systems jedoch bereits wesentlich früher. Daten müssen zunächst erhoben, gespeichert, übertragen, standardisiert, annotiert und aufbereitet werden. Bei medizinischen Bildern muss beispielsweise festgelegt werden, welche Befunde als relevante Merkmale gelten. Bei klinischen Daten muss klar sein, welche Variable tatsächlich gemessen wurde und unter welchen Bedingungen die Messung erfolgte. Auch die Herkunft der Daten ist entscheidend. Daten aus einem spezialisierten Universitätsklinikum können andere Patientengruppen abbilden als Daten aus einer regionalen Versorgungseinrichtung. Unterschiede können unter anderem bei Alter, Erkrankungen, Behandlungsmethoden, medizinischer Infrastruktur oder der Häufigkeit bestimmter Diagnosen auftreten. Ein KI-System, das ausschließlich aus einer bestimmten Population gelernt hat, kann deshalb außerhalb dieser Population schlechter funktionieren. Das bedeutet nicht zwangsläufig, dass das Modell technisch schlecht entwickelt wurde. Vielmehr kann der Datensatz die Realität, in der das System später eingesetzt wird, nicht ausreichend abbilden. Die WHO betont deshalb bei KI im Gesundheitswesen die Bedeutung repräsentativer, ethisch gewonnener und möglichst bias-armer Datensätze. Ziel ist nicht lediglich eine hohe technische Leistungsfähigkeit, sondern ein sicherer und gerechter Einsatz der Technologie. Wenn schlechte Daten zu guten Ergebnissen führen – und trotzdem gefährlich sind Eine besondere Herausforderung besteht darin, dass ein KI-System mit problematischen Daten durchaus überzeugende Testergebnisse erzielen kann. Ein Algorithmus kann beispielsweise statistische Zusammenhänge erkennen, die innerhalb seines Trainingsdatensatzes sehr zuverlässig erscheinen. Wenn diese Zusammenhänge jedoch nicht die eigentliche medizinische Ursache abbilden, sondern lediglich mit bestimmten Aufnahmebedingungen, Untersuchungsgeräten, Kliniken oder Dokumentationsmustern verbunden sind, kann das System außerhalb des Trainingsumfelds versagen. Dieses Problem ist eine Variante dessen, was in der KI-Forschung häufig als Distribution Shift bezeichnet wird. Die Daten, mit denen ein System später konfrontiert wird, unterscheiden sich von den Daten, mit denen es entwickelt oder getestet wurde. Deshalb reicht es nicht aus, ein Modell einmal mit einem großen Datensatz zu trainieren. Entscheidend ist auch die externe Validierung. Ein System sollte unter Bedingungen geprüft werden, die möglichst realistisch für den späteren Einsatz sind. Die WHO hebt die externe Validierung von Daten und die klare Definition des vorgesehenen Anwendungsbereichs ausdrücklich als wichtige Elemente für die Sicherheit medizinischer KI hervor. Der Bias in medizinischen Datensätzen Eine der größten Herausforderungen der Datenqualität ist Verzerrung, häufig als Bias bezeichnet. Bias kann entstehen, wenn bestimmte Bevölkerungsgruppen in einem Datensatz überrepräsentiert sind, während andere nur unzureichend vorkommen. Das Problem ist nicht auf KI beschränkt. Medizinische Forschung und Versorgung müssen grundsätzlich mit unterschiedlichen Patientengruppen umgehen. Bei KI kann eine bestehende Verzerrung jedoch systematisch in ein Modell übertragen werden. Wenn ein Modell bestimmte Krankheitsbilder überwiegend anhand von Daten einer bestimmten Patientengruppe gelernt hat, ist nicht automatisch gewährleistet, dass es bei anderen Gruppen gleich zuverlässig arbeitet. Deshalb ist die Repräsentativität der Daten nicht nur eine statistische Frage, sondern auch eine Frage der Patientensicherheit und der gesundheitlichen Chancengleichheit. Die europäische KI-Regulierung greift diesen Punkt ausdrücklich auf. Artikel 10 des EU AI Act sieht für bestimmte Hochrisiko-KI-Systeme Anforderungen an Training-, Validierungs- und Testdaten sowie an deren Daten-Governance vor. Dazu gehören unter anderem die Prüfung von Herkunft und Aufbereitung der Daten sowie die Untersuchung möglicher Verzerrungen und geeignete Maßnahmen zu deren Vermeidung oder Verringerung. Elektronische Gesundheitsdaten werden zum strategischen Rohstoff Die Bedeutung hochwertiger Daten wächst auch deshalb, weil immer mehr medizinische Informationen digital verfügbar werden. Elektronische Gesundheitsakten, Laborwerte, medizinische Bildgebung, Register, klinische Studien und Daten medizinischer Geräte können unterschiedliche Perspektiven auf den Gesundheitszustand eines Menschen liefern. In der Europäischen Union soll der European Health Data Space, kurz EHDS, dafür einen gemeinsamen Rahmen schaffen. Die entsprechende Verordnung trat am 26. März 2025 in Kraft. Sie verfolgt unter anderem das Ziel, Patientinnen und Patienten einen besseren Zugang zu ihren elektronischen Gesundheitsdaten zu ermöglichen und deren sichere Weiterverwendung für Forschung, Innovation, Gesundheitspolitik und regulatorische Zwecke zu erleichtern. Dabei unterscheidet der EHDS zwischen der primären Nutzung von Gesundheitsdaten für die Versorgung und der sekundären Nutzung beispielsweise für Forschung oder Innovation. Für die sekundäre Nutzung gelten festgelegte Bedingungen und Schutzmechanismen. Die Umsetzung erfolgt schrittweise; wichtige Teile der Regelung zur grenzüberschreitenden Nutzung sollen ab 2029 beziehungsweise 2031 Anwendung finden. Damit entsteht ein Spannungsfeld: Je besser Gesundheitsdaten zugänglich und miteinander nutzbar sind, desto größer kann ihr wissenschaftlicher und technologischer Wert werden. Gleichzeitig steigt die Bedeutung von Datenschutz, Datensicherheit, Zugriffsregeln und einer verantwortungsvollen Daten-Governance. Mehr Daten sind nicht automatisch bessere Daten Die Digitalisierung erzeugt große Mengen an Gesundheitsinformationen. Das bedeutet jedoch nicht automatisch, dass diese Informationen für KI-Systeme geeignet sind. Ein umfangreicher Datensatz kann beispielsweise viele fehlende Werte enthalten. Unterschiedliche Einrichtungen können dieselben medizinischen Sachverhalte unterschiedlich dokumentieren. Laborwerte können mit unterschiedlichen Einheiten oder Referenzbereichen gespeichert werden. Diagnosen können sich im Laufe der Zeit verändern oder unterschiedlich kodiert sein. Auch die zeitliche Dimension ist relevant.
