Digitalgespräch Zentrum verantwortungsbewusste Digitalisierung

Der Medienwandel ist längst vollzogen. Damit hat sich in Sachen „News“ eine komplizierte Gemengelage entwickelt: Das Internet ist zu einem Marktplatz der Aufmerksamkeit geworden, und prinzipiell kann jede und jeder über soziale Medien, Webseiten oder Chatkanäle „Content“ verbreiten. Quellen für Nachrichten und Informationen über das öffentliche Leben sind also längst nicht mehr beschränkt auf Zeitungsredaktionen und Rundfunkanstalten, die seriös journalistisch arbeiten – im Gegenteil werden solche etablierten Medien zunehmend von alternativen Anbietern verdrängt. Diese verfolgen teilweise mehr oder weniger offen wirtschaftliche oder politische Interessen, die mit der Einhaltung journalistischer Standards unvereinbar sind, und in der Vielzahl der Stimmen im Netz verbreiten etliche gezielt falsche oder irreführende Meldungen. Derlei Desinformation ist ein Problem für den demokratischen Diskurs, führt zu Verunsicherung und Spaltung und hat direkte Auswirkungen in der Realität, die mitunter schwer oder gar nicht mehr einzufangen sind. Solche Effekte sind von den Institutionen, die Desinformation verbreiten, beabsichtigt und bereits in der Breite sichtbar, sie werden durch automatisierte Prozesse, Algorithmen und generative KI verstärkt. Wie können wir als Gesellschaft auf diese Entwicklung reagieren, und welche Rolle hat der Journalismus und haben Medienschaffende dabei?

Christian Stöcker ist Journalist, Autor und Professor für Digitale Kommunikation an der Hochschule für Angewandte Wissenschaften Hamburg, wo er den Master-Studiengang „Digitale Kommunikation“ leitet. Zuvor verantwortete er bei SPIEGEL ONLINE das Ressort Netzwelt. Der Experte für digitale Medien und ihre gesellschaftlichen Auswirkungen erklärt im Digitalgespräch die Transformation der Medienlandschaft, die wir in den letzten Jahrzehnten vollzogen haben, gibt Einblicke in Funktionsweisen und Hintergründe zentraler Online-Plattformen und zeigt Verknüpfungen mit aktuellen politischen und sozialen Entwicklungen auf. Er beschreibt, welche Auswirkungen das Vorhandensein von Desinformation auf das Berufsbild des Journalismus hat und wie junge Medienschaffende darauf vorbereitet werden. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Stöcker das Szenario, das uns erwartet, wenn die Desinformations-Strategien weiterhin erfolgreich sind, welche Maßnahmen dagegen ergriffen werden könnten – und welchen Regeln sich alle unterwerfen sollten, die die Möglichkeiten eines demokratischen Diskurses erhalten und die Schäden eindämmen wollen.

Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-053-christian-stoecker


Link zur im Gespräch erwähnten Studie von Soroush Vosoughi et. al von 2016 zur Verbreitung von Desinformation in Online-Medien: https://www.science.org/doi/10.1126/science.aap9559
Link zur im Gespräch erwähnten Initiative „Klickwinkel“: https://klickwinkel.de/
Link zur im Gespräch erwähnten Initiative „Use the News“: https://www.usethenews.de/de

In den Trainingsdaten für Systeme generativer KI finden sich Abermillionen urheberrechtlich geschützter Werke. Die Inhaber:innen der Rechte an diesem Material sind weder gefragt worden, ob sie dieser Form der Verwertung zustimmen, noch wurden sie dafür bezahlt. Dass Texte, Bilder und Musikstücke im Internet öffentlich verfügbar sind, feiern viele als Errungenschaft für freie Bildung und Teilhabe am kulturellen Reichtum der Menschheit. An profitorientierte Firmen, die auf dieser Basis große Sprachmodelle entwickeln, hat man dabei freilich nicht gedacht. Nun drohen KI-Systeme, die ihre Ergebnisse auf Grundlage gratis abgesammelter Inhalte produzieren, genau die Kreativen zu ersetzen, deren Kreativprodukte sie nutzen. Verlage und Verwertungsgesellschaften sind unter Druck. Sie versuchen, Regeln für den Umgang mit KI im professionellen Arbeitsprozess zu entwickeln und die Rechte der von ihnen vertretenen Kulturschaffenden zu schützen – vor allem gegenüber außereuropäischen Konzernen, die die technische Entwicklung dominieren. Welche Rechte können Autor:innen, deren Werke bereits in den Trainingsdaten von GPT und Co. auftauchen, in dieser komplexen Lage überhaupt noch einfordern? Wie hoch ist der Preis für KI, wenn das Urheberrecht in diesem Bereich nicht zählt? Wie lässt sich menschliche Kreativarbeit zukünftig vor der Verwertung durch IT-Konzerne schützen?

Nina George ist Schriftstellerin, Übersetzerin und Moderatorin. Seit vielen Jahren setzt sie sich in politischen Prozessen aktiv für die Rechte von Künstler:innen und Kulturschaffenden ein, etwa als Präsidentin des European Writers‘ Council. Im Digitalgespräch schildert die Expertin Herausforderungen, mit denen sich Kreative und Schreibende durch die Entwicklung generativer KI konfrontiert sehen und welche Player dabei zentral sind. Sie beschreibt, welche Interessen unterschiedliche Akteure in aktuellen Aushandlungsprozessen verfolgen, macht Vorwürfe und Forderungen gegen Politik und KI-Entwickler klar und zeigt mögliche Zukunftsszenarien auf. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert George, ob ein vernünftiger Umgang mit generativer KI in der Kreativwirtschaft denkbar ist, und welche Lebenswirklichkeiten der Streit um den Wert menschlicher Urheberschaft und Kulturleistung betrifft.

Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-052-nina-george

Zur Webseite des European Writers‘ Council: https://europeanwriterscouncil.eu/
Zur Webseite des Netzwerks Autorenrechte http://www.netzwerk-autorenrechte.de/

Dass große Sprachmodelle Text generieren können, ist bekannt. Seit der Veröffentlichung von ChatGPT im November 2022 haben praktisch alle Menschen mit Internetzugang die Möglichkeit, Texte maschinell erzeugen zu lassen. Davon wird rege Gebrauch gemacht, um menschliche Schreibarbeit zu ersetzen, was sich ebenfalls bemerkbar macht und die Öffentlichkeit breit diskutiert. Dabei stehen besorgniserregende Entwicklungen im Fokus, etwa negative Auswirkungen auf Menschen, die vom Schreiben leben nun die ihre berufliche Rolle bedroht sehen. Auch entstehen Schwierigkeiten im Bildungsbetrieb, wenn Schüler:innen oder Studierende unliebsame Übungsaufgaben von Maschinen erledigen lassen, und automatisch generierte Desinformation ist ein massives Problem für demokratische Gesellschaften. Weitaus weniger Aufmerksamkeit erhält die Frage, wie KI von Menschen produktiv und kreativ für Schreibprozesse eingesetzt werden kann, wenn das Schreiben als solches nicht delegiert wird, sondern transformiert als menschliche Ausdrucksform erhalten bleibt: Schriftsteller:innen, die offen und experimentierfreudig mit KI-Tools umgehen, entwickeln neue Schreibpraktiken, die klug geplant und angewandt das eigene Schaffen beflügeln können und interessante Arbeiten hervorbringen. Aber: nicht alle Literaturformen eignen sich gleichermaßen für den Einsatz von KI. Und: Leser:innen müssen sich nicht nur fragen, ob und warum es ihnen wichtig ist, ob KI beim Schreiben benutzt wurde und woran sie erkennen, welche Texte von Menschen verfasst und welche KI-generiert sind, sondern auch, wie sie gute „KI-Literatur“ von schlechter unterscheiden.

Jenifer Becker ist Literatur- und Kulturwissenschaftlerin an der Universität Hildesheim, dort forscht und lehrt sie unter anderem zu digitaler Literatur und dem Einsatz von KI im Schreibprozess. Als Autorin und Künstlerin arbeitet und experimentiert sie auch selbst mit neuronalen Netzen und Sprachmodellen. Im Digitalgespräch erklärt die Expertin, wie KI-Tools den Schreibprozess unterstützen und wie sich je nach Einsatzweise die schriftstellerische Aufgabe verändert. Sie beschreibt die literarische Landschaft, in der KI-Produkte schon heute einen festen Platz haben und welche kritischen Stimmen es angesichts dieser Entwicklungen gibt, macht deutlich, worin die Eigenheiten KI-produzierter Literatur bestehen und gibt Hinweise, wie man sie erkennt. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Becker, welche Vorbehalte gegenüber dem Einsatz von KI im Schreibprozess vielleicht unbegründet sind und welche Aspekte tatsächlich problematisch sein können, was junge Schriftsteller:innen bei der Arbeit mit KI beachten sollten und wie die Zukunft der Literaturproduktion und -rezeption aussehen könnte, wenn sich KI als Schreib-Gerät normalisiert hat.

Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-051-jenifer-becker

Link zu „Alpha Centauri in Ewigkeit“, einem Textprojekt, an dem Jenifer Becker im Kollektiv mit ChatGPT, Juan S. Guse, Albert Heinrichs gearbeitet hat: https://www.fischerverlage.de/magazin/neue-rundschau/alpha-centauri-ewigkeit
Link zu einem Artikel von Jenifer Becker, der einen Überblick übr die Nutzung von KI in der Literatur gibt: https://blog.degruyter.com/ai-literature-will-chatgpt-be-the-author-of-your-next-favourite-novel/

Am 26. Mai 2021 ist das erste Digitalgespräch ausgestrahlt worden. Drei Jahre und 50 Folgen später hat sich der Podcast als Raum eines offenen und wissenschaftlich informierten Diskurses zu Themen der „Digitalität” etabliert. Anlässlich des kleinen Jubiläums möchten wir kurz innehalten und reflektieren – und deshalb haben die beiden Gastgeberinnen des Digitalgespräches, Petra Gehring und Marlene Görger, für diese Folge die Seiten gewechselt und geben Auskunft.

Das Digitalgespräch ist mit dem Programm angetreten, Scheinwerfer auf komplexe Handlungsfelder zu werfen, so „dass sich der Nebel großer Schlagworte lichtet”. Die Methode: Im Gespräch mit Expertinnen und Experten spezifisches Wissen aus verschiedenen Arbeitsgebieten und Forschungsperspektiven sammeln und langsam die Teile zusammenfügen. So kamen unterschiedlichste Facetten des Digitalen auf die Tagesordnung: Smart Contracts, digitale Forensik, Restauration digitaler Kunstwerke, der Umgang mit sensiblen Forschungsdaten oder das Trauern und Sterben im digitalen Zeitalter.

Deutet sich – angesichts des komplexen und uneinsehbaren Themenfelds des „Digitalen” – bereits ein Bild an, ein Zusammenhang, eine kohärente Erkenntnis? Oder wächst die Zahl der Teile ungleich schneller, als dass man sie zusammensetzen könnte? In der Bonusfolge kommen die Macherinnen im kleinen Darmstädter Aufnahmestudio mit den beiden ZEVEDI-Wissenschaftsredakteuren Eneia Dragomir und Konstantin Schönfelder ins Gespräch. Wo hat sich nach 50 Folgen Digitalgespräch der Nebel gelichtet und wo war von Dingen zu hören, die vielleicht erst in Zukunft ins Sichtfeld einer breiteren Öffentlichkeit gelangen? Was ist gut gelaufen, was weniger gut und wo darf es in den nächsten 50 Folgen hingehen?

Marlene Görger ist studierte Physikerin und Technikphilosophin, seit 2020 arbeitet sie am Zentrum verantwortungsbewusste Digitalisierung. Petra Gehring ist Professorin für Philosophie an der Technischen Universität Darmstadt sowie wissenschaftliche Direktorin des Zentrums.

Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-bonusfolge-seitenwechsel

Der Ausdruck „Digitaler Zwilling“ stammt aus dem Engineering. Dort beschreibt er digitale Modelle, mit denen in der sogenannten „Industrie 4.0“ reale technische Anlagen oder Prozesse abgebildet, optimiert und simuliert werden. Solche Modelle sind heute weit verbreitet. Noch nicht realisiert ist die Vorstellung, über technische Systeme hinaus könnten auch einzelne Menschen oder Gruppen solche virtuellen Repräsentationen haben, aus der man ihre „Systemzustände“ ablesen kann. Optimieren könnte man an einem solchen ganzheitlichen Modell z. B. den Gesamtzustand „Gesundheit“. Benötigt würden für einen Körper-Zwilling, der vielleicht auch „Verhalten“ mit umfasst, sehr viele Daten und komplexe Software. Entsprechende Ideen gibt es freilich, und einige der Visionen gehen so weit, das digitale Abbild einer ganzen Person mit Körperdaten und auch mentalen Eigenschaften zu imaginieren. Dabei ist die Hoffnung, man könne so die Entwicklung des Gesundheitszustandes vorausschauend steuern oder bei Krankheit individuelle Behandlungskonzepte planen. Ein „Digitaler Zwilling“ würde auch Verhaltensratschläge für optimale Körperfunktionen und Leistungsfähigkeit geben können. Er würde sein menschliches Gegenstück potentiell ein Leben lang begleiten, vermessen und durch seinen Einfluss auch: formen. In der Fachwelt galten solche Ideen bisher als Gedankenspiele. Aber: Die EU plant für die medizinische Versorgung ihrer Bürger:innen nun tatsächlich „European Virtual Human Twins“ einzuführen – jedenfalls wird gesetzlich der Weg hierfür freigemacht. Wie verträgt sich eine solche Vision mit unserem aktuellen Datenschutz? Und was folgt daraus für ein sozial gerechtes und demokratisches Gesundheitssystem, wenn es weiterhin unterschiedliche Lebensentwürfe und Wertvorstellungen respektieren soll?

Malte Gruber ist Professor für Bürgerliches Recht und Rechtsphilosophie an der Justus-Liebig-Universität Gießen und befasst sich in seiner Arbeit unter anderem mit Informationsrecht und Recht der digitalen Ökonomie, außerdem mit Technikrecht und Recht der Lebenswissenschaften. Im Digitalgespräch beschreibt der Experte, welche Konzepte von „Digitalen Zwillingen“ in aktuellen Debatten und Entwicklungen eine Rolle spielen, was die Initiative der EU-Kommission motiviert und welche rechtlichen und gesellschaftlichen Fragen sich stellen, wenn entsprechende Visionen realisiert werden sollen. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Gruber, wie zwischen Hype und Dystopie realistische Szenarien aussehen könnten, welche Aspekte in der aktuellen Diskussion noch wenig Beachtung finden und was die Vision vom zukünftigen Medizinprodukt „Digitaler Zwilling“ über unser gegenwärtiges Verhältnis zu unseren Körpern verrät.

Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-050-malte-gruber

Link zur Ankündigung der "European Virtual Human Twins Initiative" der EU Kommission: https://digital-strategy.ec.europa.eu/en/policies/virtual-human-twins

Mit Methoden „Künstlicher Intelligenz“ ist es heute möglich, große und größte Ansammlungen von Dateien ganz unterschiedlicher Formate zu vergleichen, zu systematisieren und auszuwerten. Ein Meilenstein auch für Ermittlungsbehörden: IT-Expert:innen können aus Datensätzen, die ohne technische Hilfsmittel für Fahnder:innen unmöglich zu sichten und auszuwerten wären, relevante Informationen herausfiltern und Zusammenhänge herstellen. Ein berühmtes Beispiel für einen solchen gigantischen Datensatz und seine erfolgreiche Bewältigung sind die sogenannten Panama Papers: Ein Datenleck und also eine „Steuer-CD“, die im Jahr 2016 etwa 11,5 Millionen Dokumente oder 2,6 Terabyte Daten enthielt, und weltweit Fälle von Steuerbetrug und Geldwäsche dokumentierte. Inzwischen sind etliche weitere solcher Leaks dazugekommen, etwa 2021 die nochmals umfangreicheren Pandora-Papers. Für Steuerfahndung und Finanzaufsichtsbehörden bedeutete das, aus Millionen von Emails, Datenbanken, PDFs, Bildern und sonstigen Dateien diejenigen identifizieren zu müssen, die für die eigene Zuständigkeit relevant waren. KI hat die Verfolgung der in den Daten aufgedeckten Straftaten letztlich wohl überhaupt erst möglich gemacht, wobei sich die zugrundeliegenden Technologien seitdem sprunghaft weiterentwickeln. KI ist also ein mächtiges Instrument auch staatlichen Handelns, mit dem die Nadel im Heuhaufen leicht gefunden werden kann. In einem Rechtsstaat ist es umso mehr von entscheidender Bedeutung, für welche Zwecke der KI-Einsatz zum Zuge kommen darf.

Christian Voß ist Bereichsleiter der Forschungsstelle Künstliche Intelligenz (FSKI), die 2019 am Finanzamt Kassel eingerichtet wurde. Im Digitalgespräch erklärt der Informatiker und KI-Experte, wie diese Einrichtung zustande kam, welche Aufgaben sie hat und wie KI die Steuerfahndung unterstützt. Er beschreibt, welche Maßnahmen zur Auswertung von Leaks wie den Panama Papers nötig sind, wie Software-Lösungen für spezifische Problemstellungen entstehen, welches Wissen Fachkräfte brauchen und wie sein interdisziplinäres Team mit anderen Behörden und auch der Universität zusammenarbeitet. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Voß das Spannungsfeld zwischen Datenschutz und Strafverfolgung, den Mehrwert, den hier Open-Source-Lösungen bringen, und ob nicht nur die Kriminalität, sondern auch der Rechtsstaat durch den technischen Fortschritt im IT-Sektor herausgefordert ist.