36 min
AI Alignment: Könnte eine KI uns alle umbringen? Der KI-Podcast
-
- Science
Manche halten es für das größte Risiko der Menschheit: Eine künstliche Super-Intelligenz, die außer Kontrolle gerät und die Menschheit ausrottet. Aber ist wirklich etwas dran an diesem düsteren Szenario?
Über die Hosts:
Gregor Schmalzried ist freier Tech-Journalist und Berater, er arbeitet u.a. für den Bayerischen Rundfunk und Brand Eins.
Marie Kilg ist freie Journalistin und Innovationsmanagerin im Deutsche Welle Lab. Zuvor war sie Produkt-Managerin bei Amazon Alexa.
In dieser Folge:
0:00 Intro
2:30 Die Angst vor dem Paperplic Maximizer
9:10 Was ist "Alignment”?
15:30 Woher kommt die Angst vor der Super-KI?
21:40 Echte Gefahr oder Spinnerei?
28:00 Was haben wir mit KI gemacht?
Redaktion und Mitarbeit:
David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried
Links und Quellen:
Asimov und die Robotergesetze
https://www.deutschlandfunkkultur.de/100-geburtstag-von-isaac-asimov-als-der-erste-moralkodex-100.html
Stephen Hawking über die Gefahr durch eine Super-KI (2014)
https://www.bbc.com/news/technology-30290540
"Effective Altruism” und die Angst vor der Super-KI
https://www.truthdig.com/articles/the-acronym-behind-our-wildest-ai-dreams-and-nightmares/
Alte Geschichten und Ängste:
https://www.cbc.ca/radio/tapestry/fear-of-ai-1.7012912
Der KI-Podcast bei der TINCON Berlin 2024
https://tincon.org/event/berlin24/takeover-eine-ki-ubernimmt-den-ki-podcast
Open AI veröffentlicht neues Modell GPT-4o
https://www.theverge.com/2024/5/13/24155493/openai-gpt-4o-launching-free-for-all-chatgpt-users
27 — Der Podcast zur Europawahl
https://1.ard.de/27-podcast?cp=ki
Kontakt:
Wir freuen uns über Fragen und Kommentare an podcast@br.de.
Unterstützt uns:
Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!
Manche halten es für das größte Risiko der Menschheit: Eine künstliche Super-Intelligenz, die außer Kontrolle gerät und die Menschheit ausrottet. Aber ist wirklich etwas dran an diesem düsteren Szenario?
Über die Hosts:
Gregor Schmalzried ist freier Tech-Journalist und Berater, er arbeitet u.a. für den Bayerischen Rundfunk und Brand Eins.
Marie Kilg ist freie Journalistin und Innovationsmanagerin im Deutsche Welle Lab. Zuvor war sie Produkt-Managerin bei Amazon Alexa.
In dieser Folge:
0:00 Intro
2:30 Die Angst vor dem Paperplic Maximizer
9:10 Was ist "Alignment”?
15:30 Woher kommt die Angst vor der Super-KI?
21:40 Echte Gefahr oder Spinnerei?
28:00 Was haben wir mit KI gemacht?
Redaktion und Mitarbeit:
David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried
Links und Quellen:
Asimov und die Robotergesetze
https://www.deutschlandfunkkultur.de/100-geburtstag-von-isaac-asimov-als-der-erste-moralkodex-100.html
Stephen Hawking über die Gefahr durch eine Super-KI (2014)
https://www.bbc.com/news/technology-30290540
"Effective Altruism” und die Angst vor der Super-KI
https://www.truthdig.com/articles/the-acronym-behind-our-wildest-ai-dreams-and-nightmares/
Alte Geschichten und Ängste:
https://www.cbc.ca/radio/tapestry/fear-of-ai-1.7012912
Der KI-Podcast bei der TINCON Berlin 2024
https://tincon.org/event/berlin24/takeover-eine-ki-ubernimmt-den-ki-podcast
Open AI veröffentlicht neues Modell GPT-4o
https://www.theverge.com/2024/5/13/24155493/openai-gpt-4o-launching-free-for-all-chatgpt-users
27 — Der Podcast zur Europawahl
https://1.ard.de/27-podcast?cp=ki
Kontakt:
Wir freuen uns über Fragen und Kommentare an podcast@br.de.
Unterstützt uns:
Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!
36 min