Digitalgespräch Zentrum verantwortungsbewusste Digitalisierung

In den Trainingsdaten für Systeme generativer KI finden sich Abermillionen urheberrechtlich geschützter Werke. Die Inhaber:innen der Rechte an diesem Material sind weder gefragt worden, ob sie dieser Form der Verwertung zustimmen, noch wurden sie dafür bezahlt. Dass Texte, Bilder und Musikstücke im Internet öffentlich verfügbar sind, feiern viele als Errungenschaft für freie Bildung und Teilhabe am kulturellen Reichtum der Menschheit. An profitorientierte Firmen, die auf dieser Basis große Sprachmodelle entwickeln, hat man dabei freilich nicht gedacht. Nun drohen KI-Systeme, die ihre Ergebnisse auf Grundlage gratis abgesammelter Inhalte produzieren, genau die Kreativen zu ersetzen, deren Kreativprodukte sie nutzen. Verlage und Verwertungsgesellschaften sind unter Druck. Sie versuchen, Regeln für den Umgang mit KI im professionellen Arbeitsprozess zu entwickeln und die Rechte der von ihnen vertretenen Kulturschaffenden zu schützen – vor allem gegenüber außereuropäischen Konzernen, die die technische Entwicklung dominieren. Welche Rechte können Autor:innen, deren Werke bereits in den Trainingsdaten von GPT und Co. auftauchen, in dieser komplexen Lage überhaupt noch einfordern? Wie hoch ist der Preis für KI, wenn das Urheberrecht in diesem Bereich nicht zählt? Wie lässt sich menschliche Kreativarbeit zukünftig vor der Verwertung durch IT-Konzerne schützen?

Nina George ist Schriftstellerin, Übersetzerin und Moderatorin. Seit vielen Jahren setzt sie sich in politischen Prozessen aktiv für die Rechte von Künstler:innen und Kulturschaffenden ein, etwa als Präsidentin des European Writers‘ Council. Im Digitalgespräch schildert die Expertin Herausforderungen, mit denen sich Kreative und Schreibende durch die Entwicklung generativer KI konfrontiert sehen und welche Player dabei zentral sind. Sie beschreibt, welche Interessen unterschiedliche Akteure in aktuellen Aushandlungsprozessen verfolgen, macht Vorwürfe und Forderungen gegen Politik und KI-Entwickler klar und zeigt mögliche Zukunftsszenarien auf. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert George, ob ein vernünftiger Umgang mit generativer KI in der Kreativwirtschaft denkbar ist, und welche Lebenswirklichkeiten der Streit um den Wert menschlicher Urheberschaft und Kulturleistung betrifft.

Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-052-nina-george

Zur Webseite des European Writers‘ Council: https://europeanwriterscouncil.eu/
Zur Webseite des Netzwerks Autorenrechte http://www.netzwerk-autorenrechte.de/

Dass große Sprachmodelle Text generieren können, ist bekannt. Seit der Veröffentlichung von ChatGPT im November 2022 haben praktisch alle Menschen mit Internetzugang die Möglichkeit, Texte maschinell erzeugen zu lassen. Davon wird rege Gebrauch gemacht, um menschliche Schreibarbeit zu ersetzen, was sich ebenfalls bemerkbar macht und die Öffentlichkeit breit diskutiert. Dabei stehen besorgniserregende Entwicklungen im Fokus, etwa negative Auswirkungen auf Menschen, die vom Schreiben leben nun die ihre berufliche Rolle bedroht sehen. Auch entstehen Schwierigkeiten im Bildungsbetrieb, wenn Schüler:innen oder Studierende unliebsame Übungsaufgaben von Maschinen erledigen lassen, und automatisch generierte Desinformation ist ein massives Problem für demokratische Gesellschaften. Weitaus weniger Aufmerksamkeit erhält die Frage, wie KI von Menschen produktiv und kreativ für Schreibprozesse eingesetzt werden kann, wenn das Schreiben als solches nicht delegiert wird, sondern transformiert als menschliche Ausdrucksform erhalten bleibt: Schriftsteller:innen, die offen und experimentierfreudig mit KI-Tools umgehen, entwickeln neue Schreibpraktiken, die klug geplant und angewandt das eigene Schaffen beflügeln können und interessante Arbeiten hervorbringen. Aber: nicht alle Literaturformen eignen sich gleichermaßen für den Einsatz von KI. Und: Leser:innen müssen sich nicht nur fragen, ob und warum es ihnen wichtig ist, ob KI beim Schreiben benutzt wurde und woran sie erkennen, welche Texte von Menschen verfasst und welche KI-generiert sind, sondern auch, wie sie gute „KI-Literatur“ von schlechter unterscheiden.

Jenifer Becker ist Literatur- und Kulturwissenschaftlerin an der Universität Hildesheim, dort forscht und lehrt sie unter anderem zu digitaler Literatur und dem Einsatz von KI im Schreibprozess. Als Autorin und Künstlerin arbeitet und experimentiert sie auch selbst mit neuronalen Netzen und Sprachmodellen. Im Digitalgespräch erklärt die Expertin, wie KI-Tools den Schreibprozess unterstützen und wie sich je nach Einsatzweise die schriftstellerische Aufgabe verändert. Sie beschreibt die literarische Landschaft, in der KI-Produkte schon heute einen festen Platz haben und welche kritischen Stimmen es angesichts dieser Entwicklungen gibt, macht deutlich, worin die Eigenheiten KI-produzierter Literatur bestehen und gibt Hinweise, wie man sie erkennt. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Becker, welche Vorbehalte gegenüber dem Einsatz von KI im Schreibprozess vielleicht unbegründet sind und welche Aspekte tatsächlich problematisch sein können, was junge Schriftsteller:innen bei der Arbeit mit KI beachten sollten und wie die Zukunft der Literaturproduktion und -rezeption aussehen könnte, wenn sich KI als Schreib-Gerät normalisiert hat.

Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-051-jenifer-becker

Link zu „Alpha Centauri in Ewigkeit“, einem Textprojekt, an dem Jenifer Becker im Kollektiv mit ChatGPT, Juan S. Guse, Albert Heinrichs gearbeitet hat: https://www.fischerverlage.de/magazin/neue-rundschau/alpha-centauri-ewigkeit
Link zu einem Artikel von Jenifer Becker, der einen Überblick übr die Nutzung von KI in der Literatur gibt: https://blog.degruyter.com/ai-literature-will-chatgpt-be-the-author-of-your-next-favourite-novel/

Am 26. Mai 2021 ist das erste Digitalgespräch ausgestrahlt worden. Drei Jahre und 50 Folgen später hat sich der Podcast als Raum eines offenen und wissenschaftlich informierten Diskurses zu Themen der „Digitalität” etabliert. Anlässlich des kleinen Jubiläums möchten wir kurz innehalten und reflektieren – und deshalb haben die beiden Gastgeberinnen des Digitalgespräches, Petra Gehring und Marlene Görger, für diese Folge die Seiten gewechselt und geben Auskunft.

Das Digitalgespräch ist mit dem Programm angetreten, Scheinwerfer auf komplexe Handlungsfelder zu werfen, so „dass sich der Nebel großer Schlagworte lichtet”. Die Methode: Im Gespräch mit Expertinnen und Experten spezifisches Wissen aus verschiedenen Arbeitsgebieten und Forschungsperspektiven sammeln und langsam die Teile zusammenfügen. So kamen unterschiedlichste Facetten des Digitalen auf die Tagesordnung: Smart Contracts, digitale Forensik, Restauration digitaler Kunstwerke, der Umgang mit sensiblen Forschungsdaten oder das Trauern und Sterben im digitalen Zeitalter.

Deutet sich – angesichts des komplexen und uneinsehbaren Themenfelds des „Digitalen” – bereits ein Bild an, ein Zusammenhang, eine kohärente Erkenntnis? Oder wächst die Zahl der Teile ungleich schneller, als dass man sie zusammensetzen könnte? In der Bonusfolge kommen die Macherinnen im kleinen Darmstädter Aufnahmestudio mit den beiden ZEVEDI-Wissenschaftsredakteuren Eneia Dragomir und Konstantin Schönfelder ins Gespräch. Wo hat sich nach 50 Folgen Digitalgespräch der Nebel gelichtet und wo war von Dingen zu hören, die vielleicht erst in Zukunft ins Sichtfeld einer breiteren Öffentlichkeit gelangen? Was ist gut gelaufen, was weniger gut und wo darf es in den nächsten 50 Folgen hingehen?

Marlene Görger ist studierte Physikerin und Technikphilosophin, seit 2020 arbeitet sie am Zentrum verantwortungsbewusste Digitalisierung. Petra Gehring ist Professorin für Philosophie an der Technischen Universität Darmstadt sowie wissenschaftliche Direktorin des Zentrums.

Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-bonusfolge-seitenwechsel

Der Ausdruck „Digitaler Zwilling“ stammt aus dem Engineering. Dort beschreibt er digitale Modelle, mit denen in der sogenannten „Industrie 4.0“ reale technische Anlagen oder Prozesse abgebildet, optimiert und simuliert werden. Solche Modelle sind heute weit verbreitet. Noch nicht realisiert ist die Vorstellung, über technische Systeme hinaus könnten auch einzelne Menschen oder Gruppen solche virtuellen Repräsentationen haben, aus der man ihre „Systemzustände“ ablesen kann. Optimieren könnte man an einem solchen ganzheitlichen Modell z. B. den Gesamtzustand „Gesundheit“. Benötigt würden für einen Körper-Zwilling, der vielleicht auch „Verhalten“ mit umfasst, sehr viele Daten und komplexe Software. Entsprechende Ideen gibt es freilich, und einige der Visionen gehen so weit, das digitale Abbild einer ganzen Person mit Körperdaten und auch mentalen Eigenschaften zu imaginieren. Dabei ist die Hoffnung, man könne so die Entwicklung des Gesundheitszustandes vorausschauend steuern oder bei Krankheit individuelle Behandlungskonzepte planen. Ein „Digitaler Zwilling“ würde auch Verhaltensratschläge für optimale Körperfunktionen und Leistungsfähigkeit geben können. Er würde sein menschliches Gegenstück potentiell ein Leben lang begleiten, vermessen und durch seinen Einfluss auch: formen. In der Fachwelt galten solche Ideen bisher als Gedankenspiele. Aber: Die EU plant für die medizinische Versorgung ihrer Bürger:innen nun tatsächlich „European Virtual Human Twins“ einzuführen – jedenfalls wird gesetzlich der Weg hierfür freigemacht. Wie verträgt sich eine solche Vision mit unserem aktuellen Datenschutz? Und was folgt daraus für ein sozial gerechtes und demokratisches Gesundheitssystem, wenn es weiterhin unterschiedliche Lebensentwürfe und Wertvorstellungen respektieren soll?

Malte Gruber ist Professor für Bürgerliches Recht und Rechtsphilosophie an der Justus-Liebig-Universität Gießen und befasst sich in seiner Arbeit unter anderem mit Informationsrecht und Recht der digitalen Ökonomie, außerdem mit Technikrecht und Recht der Lebenswissenschaften. Im Digitalgespräch beschreibt der Experte, welche Konzepte von „Digitalen Zwillingen“ in aktuellen Debatten und Entwicklungen eine Rolle spielen, was die Initiative der EU-Kommission motiviert und welche rechtlichen und gesellschaftlichen Fragen sich stellen, wenn entsprechende Visionen realisiert werden sollen. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Gruber, wie zwischen Hype und Dystopie realistische Szenarien aussehen könnten, welche Aspekte in der aktuellen Diskussion noch wenig Beachtung finden und was die Vision vom zukünftigen Medizinprodukt „Digitaler Zwilling“ über unser gegenwärtiges Verhältnis zu unseren Körpern verrät.

Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-050-malte-gruber

Link zur Ankündigung der "European Virtual Human Twins Initiative" der EU Kommission: https://digital-strategy.ec.europa.eu/en/policies/virtual-human-twins

Mit Methoden „Künstlicher Intelligenz“ ist es heute möglich, große und größte Ansammlungen von Dateien ganz unterschiedlicher Formate zu vergleichen, zu systematisieren und auszuwerten. Ein Meilenstein auch für Ermittlungsbehörden: IT-Expert:innen können aus Datensätzen, die ohne technische Hilfsmittel für Fahnder:innen unmöglich zu sichten und auszuwerten wären, relevante Informationen herausfiltern und Zusammenhänge herstellen. Ein berühmtes Beispiel für einen solchen gigantischen Datensatz und seine erfolgreiche Bewältigung sind die sogenannten Panama Papers: Ein Datenleck und also eine „Steuer-CD“, die im Jahr 2016 etwa 11,5 Millionen Dokumente oder 2,6 Terabyte Daten enthielt, und weltweit Fälle von Steuerbetrug und Geldwäsche dokumentierte. Inzwischen sind etliche weitere solcher Leaks dazugekommen, etwa 2021 die nochmals umfangreicheren Pandora-Papers. Für Steuerfahndung und Finanzaufsichtsbehörden bedeutete das, aus Millionen von Emails, Datenbanken, PDFs, Bildern und sonstigen Dateien diejenigen identifizieren zu müssen, die für die eigene Zuständigkeit relevant waren. KI hat die Verfolgung der in den Daten aufgedeckten Straftaten letztlich wohl überhaupt erst möglich gemacht, wobei sich die zugrundeliegenden Technologien seitdem sprunghaft weiterentwickeln. KI ist also ein mächtiges Instrument auch staatlichen Handelns, mit dem die Nadel im Heuhaufen leicht gefunden werden kann. In einem Rechtsstaat ist es umso mehr von entscheidender Bedeutung, für welche Zwecke der KI-Einsatz zum Zuge kommen darf.

Christian Voß ist Bereichsleiter der Forschungsstelle Künstliche Intelligenz (FSKI), die 2019 am Finanzamt Kassel eingerichtet wurde. Im Digitalgespräch erklärt der Informatiker und KI-Experte, wie diese Einrichtung zustande kam, welche Aufgaben sie hat und wie KI die Steuerfahndung unterstützt. Er beschreibt, welche Maßnahmen zur Auswertung von Leaks wie den Panama Papers nötig sind, wie Software-Lösungen für spezifische Problemstellungen entstehen, welches Wissen Fachkräfte brauchen und wie sein interdisziplinäres Team mit anderen Behörden und auch der Universität zusammenarbeitet. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Voß das Spannungsfeld zwischen Datenschutz und Strafverfolgung, den Mehrwert, den hier Open-Source-Lösungen bringen, und ob nicht nur die Kriminalität, sondern auch der Rechtsstaat durch den technischen Fortschritt im IT-Sektor herausgefordert ist.

Mit ihrem AI Act hat die EU hat den ersten umfassenden regulatorischen Rahmen für Systeme „Künstlicher Intelligenz“ auf den Weg gebracht. Ein ehrgeiziges, herausforderndes und drängendes Vorhaben: Die rasante, technische Entwicklung findet global statt, vor allem außerhalb von Europa. KI wird bereits in allen Lebensbereichen eingesetzt, mit unbestreitbaren ökonomischen Vorteilen, aber auch offensichtlichen Risiken für die liberale Demokratie und ihre Werte. Welche Technologien als „Künstliche Intelligenz“ gelten, ist dabei nicht klar umrissen. Vielmehr versammeln sich unter dem unscharfen Buzzword alle möglichen IT- und Robotik-Systeme, deren Leistung über die herkömmlicher Automatisierung hinausgeht. Ein Gesetzesrahmen, wie er jetzt in Europa gelten soll, muss klug angelegt und flexibel sein, um dieser komplexen Lage gerecht zu werden. Ist das mit dem großen Wurf der europäischen KI-Verordnung gelungen?

Domenik Wendt ist Professor für Bürgerliches Recht, Europäisches Wirtschaftsrecht und Europarecht an der Frankfurt University of Applied Sciences und Experte für Recht der KI. Die Entstehung des AI Acts hat er von Anfang an eng verfolgt und dabei sowohl eine wissenschaftliche als auch eine praxisorientierte Perspektive eingenommen. Im Digitalgespräch beschreibt er den Prozess, den die Verordnung durchlaufen hat: Vom Kontext ihrer Entstehung und der zugrundeliegenden Idee und Zielsetzung über die heißen Diskussionen zwischen den beteiligten Akteuren mit ihren verschiedenen Interessen und politischen Grundhaltungen bis hin zu den Inhalten des finalen Entwurfs, der nun verabschiedet werden soll. Mit den Gastgeberinnen Marlene Görger und Petra Gehring diskutiert Wendt, wie der AI Act international aufgefasst und bewertet wird, ob Kritiker:innen zurecht Schwachstellen sehen, und welche Arbeit nun auf Unternehmen, Jurist:innen und Wissenschaftler:innen zukommt, um diesen abstrakten Rechtsrahmen auch in die Wirklichkeit umzusetzen.



Link zum Originalbeitrag: https://zevedi.de/digitalgespraech-048-domenik-wendt

Weitere Informationen: Zur Pressemitteilung „Rahmen für Künstliche Intelligenz in der EU steht: KI-Verordnung einstimmig gebilligt“ des Bundesministeriums für Justiz vom 2. Februar 2024: https://www.bmj.de/SharedDocs/Pressemitteilungen/DE/2024/0202_KI-VO.html?cms_mtm_campaign=linksFromNewsletter

Webseite des Research Lab for Law and applied Technologies: https://www.frankfurt-university.de/de/hochschule/fachbereich-3-wirtschaft-und-recht/forschung-und-transfer/forschungslabore/rellate/