Nerdfunk von Radio Stadtfilter Radio Stadtfilter

Über die Vorteile und Möglichkeiten der künstlichen Intelligenz haben wir im Nerdfunk immer wieder gesprochen. Heute kommt einer zu Wort, der über die Gefahren genau Bescheid weiss und erklärt, wie es dazu kommen kann, dass Systeme automatisch Entscheidungen treffen, die weitreichende Auswirkungen über die Leben von Menschen haben können: Sei es bei der Beurteilung von Versicherungsrisiken, der Vergabe von Krediten oder der Bewertung von Bewerbungs-Dossiers.

Kevin Schawinski gibt im Nerdfunk Auskunft darüber, wie und wo solche Diskriminierungen entstehen und wie sie erkannt werden können. Der Experte gibt auch Auskunft zum AI Act der EU, mit dem die besonders risikoreichen Systeme reguliert werden sollten. Was taugt dieser Ansatz – gerade auch im Vergleich zu der Art und Weise, wie die USA dem Problem Herr werden wollen? Und wie gross ist die Gefahr, dass zu viel Regulierung die Innovation bedroht?

Kevin Schawinski entwickelt mit seinem Unternehmen Modulos Lösungen, mit denen Unternehmen die künstliche Intelligenz gesetzeskonform einsetzen können.

Vor fast sechs Jahren – am 23. Mai 2018 – haben wir unser grosses Kryptowährungs-Abenteuer gestartet: Zusammen mit einigen Hörerinnen und Hörern haben wir die unfassbare Summe von 190 Schweizer Franken in mehrere Kryptowährungen investiert – in Ethereum, Litecoin, Faircoin und Cardano.

In die Mutter aller Kryptowährungen haben wir seinerzeit nicht investiert. Ob das ein Fehler war, jetzt, wo der Bitcoin wieder einmal zu Höhenflügen ansetzt? Oder wären wir nicht viel besser längst ausgestiegen – jetzt, wo Sam Bankman-Fried 25 Jahre ins Gefängnis muss und manche sich in ihrem kritischen Urteil bestätigt.

Wie auch immer: Die Zeit ist reif für ein Update zu unserem Investment und zu den Entwicklungen allgemein. Haben sich die Kryptowährungen etabliert oder sind sie noch immer ein exotisches Nerd-Ding? Auch darüber müssen wir natürlich diskutieren.

Katy Perry, Billie Eilish, Stevie Wonder, Nicki Minaj, Jon Bon Jovi und zweihundert weitere Künstlerinnen und Musiker haben einen offenen Brief unterzeichnet. In dem warnen sie vor der künstlichen Intelligenz: «Leider setzen einige Plattformen und Entwickler KI ein, um die Kreativität zu sabotieren und Künstler, Songschreiber, Musiker und Rechteinhaber zu untergraben.»

Welche Unternehmen konkret gemeint sind, steht im Brief nicht. Aber ein Verdacht drängt sich auf, weil es erst ein paar Tage her ist, dass Suno.AI eine neue Version seiner Musik-KI lanciert hat. Die «verändere alles», schreibt das «Rolling Stone»-Magazin: «Die meiste KI-generierte Kunst ist bisher bestenfalls Kitsch, wie der hyperrealistische Sci-Fi-Müll mit seinen formschlüssigen Raumanzügen, den so viele Midjourney-Benutzer anscheinend erzeugen wollen. Aber ‹Soul of the Machine› fühlt sich wie etwas anderes an: Die kraftvollste und beunruhigendste KI-Kreation, die mir in irgendeinem Medium begegnet ist», urteilt der Autor.

Solche Musik-KIs sind nicht neu; Google hat mit MusicLM seit Anfang 2023 ein solches Produkt am Start. Doch das produziert nur instrumentale Tracks, während Suno auch Liedtexte erschafft, sie mit künstlichen Stimmen einsingt und die Werke sogar mit einem KI-Coverbildchen ausstattet. Eröffnet sich hier ein riesiges Potenzial für die Musikindustrie, weil sie künftig ihre Umsätze erzielt, ohne Tantiemen an Menschen zahlen zu müssen? Ist das im Gegenteil eine riesige Chance für uns Nichtmusikerinnen, die wir zwar kreative Ideen, aber keine schöne Gesangsstimme besitzen und kein Instrument spielen können? Oder werden hier die Fähigkeiten der Maschine – schon wieder! – hoffnungslos überschätzt?

Eine seltsame Nummer hat Nick mit seiner Hausbank erlebt: Die schickt ihm Mails, in denen er zu dubiosen Handlungen aufgefordert wird. Die Bank behauptet aber, es sei bloss ein Phishing-Mail. Hat sie etwas zu verbergen?

Seltsame Nummern im wörtlichen Sinn hat Werner auf seinem Bildschirm: In den Menüs seines Macs erscheinen nämlich plötzlich Zahlen, die er dort nicht haben will. Wie wird er sie wieder los?

In der heutigen Folge von Kummerbox Live gibt es für uns noch weitere Mysterien zu knacken: Können Passwörter auch aus der Cloud geklaut werden, wenn wir einen Passwort-Manager verwenden? Und kann Ines, die endgültig die Schnau… Pardon, die Nase voll von der Cloud hat, eine Festplatte so verschlüsseln, dass sie sich mit Windows und Mac verwenden lässt? Und falls noch Zeit ist, geht es um die einfachste Methode, Windows zu reparieren.

Heute plaudern wir aus dem Nähkästchen – und das mit gutem Grund: Nach offizieller, aber nicht ganz unumstrittener Zählung sind wir bei unserer 700. Sendung angelangt. Das nehmen wir zum Anlass, unsere Redaktionssitzung heute live im Radio und Podcast abzuhalten – was deswegen bemerkenswert ist, weil wir uns normalerweise ganz ohne Sitzungen und vor allem per Messenger organisieren.

Also: Zeit für Selbstlob und Selbstkritik. Und für einen Ausblick in die Zukunft: Was könnten wir anders und besser machen? Und wenn ihr Anregungen habt, noch so gern: Wir gehen auf eure Ideen gern in einer der nächsten Sendung oder Preshows ein.

Wir haben oft über die Chancen der künstlichen Intelligenz gesprochen. Doch heute geht es um die Gefahren: Da gibt es das Horrorszenario, dass eine superintelligente KI zum Schluss kommt, die Menschheit sei überflüssig oder sogar schädlich und sie vom Planeten tilgt.

Aber uns interessieren auch die weniger spektakulären, aber umso realeren Bedrohungen: Beispielsweise, dass eine KI über unsere Bewerbung, unseren Kreditantrag oder unsere medizinische Behandlung urteilt – und das mit Vorurteilen tut, die uns und vielleicht auch dem Betreiber nicht bekannt sind. Und es geht auch um unsere Jobs und die Frage, wie gross die Konkurrenz von ChatGPT in der Arbeitswelt ist.