Der KI-Podcast ARD

Immer wieder geraten KI und Politik aneinander: KI-Bild-Generatoren bevorzugen Menschen bestimmter Hautfarbe, Chatbots scheinen politische Agenden zu verfolgen. Was ist dran am KI-Kulturkampf?

Über die Hosts:
Gregor Schmalzried ist freier Tech-Journalist und Berater, er arbeitet u.a. für den Bayerischen Rundfunk und Brand Eins.
Marie Kilg ist freie Journalistin und Innovationsmanagerin im Deutsche Welle Lab. Zuvor war sie Produkt-Managerin bei Amazon Alexa.

In dieser Folge:
0:00 Intro
1:55 Wie Klischees in die KI kommen
11:00 Wie KI politisch eingestellt wird
16:10 Was erwarten wir von unserer KI?
29:40 Was haben wir mit KI gemacht?

Redaktion und Mitarbeit:
David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried

Links und Quellen:

Debatte um Google Gemini: Wie "woke" ist die KI?
https://www.br.de/nachrichten/netzwelt/debatte-um-google-gemini-wie-woke-ist-die-ki,U4usGOV

Kann KI schwarze Ärzte und weiße Kinder generieren?
https://www.npr.org/sections/goatsandsoda/2023/10/06/1201840678/ai-was-asked-to-create-images-of-black-african-docs-treating-white-kids-howd-it-

So klischeehaft sehen KI-generierte Bilder aus
https://restofworld.org/2023/ai-image-stereotypes/

KI schlussfolgert: Lineale machen Krebs
https://venturebeat.com/business/when-ai-flags-the-ruler-not-the-tumor-and-other-arguments-for-abolishing-the-black-box-vb-live/

KI soll die Isländische Sprache bewahren
https://www.icelandreview.com/news/gpt-4-to-aid-in-the-preservation-of-the-icelandic-language/

GOODY-2: Die harmloseste KI der Welt
https://www.goody2.ai/chat

OpenAIs Model Spec - auch zu Diskussionen über die flache Erde
https://openai.com/index/introducing-the-model-spec/

"Models All the Way Down”
https://knowingmachines.org/models-all-the-way

Kontakt:
Wir freuen uns über Fragen und Kommentare an podcast@br.de.

Unterstützt uns:
Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!

Manche halten es für das größte Risiko der Menschheit: Eine künstliche Super-Intelligenz, die außer Kontrolle gerät und die Menschheit ausrottet. Aber ist wirklich etwas dran an diesem düsteren Szenario?

Über die Hosts:
Gregor Schmalzried ist freier Tech-Journalist und Berater, er arbeitet u.a. für den Bayerischen Rundfunk und Brand Eins.
Marie Kilg ist freie Journalistin und Innovationsmanagerin im Deutsche Welle Lab. Zuvor war sie Produkt-Managerin bei Amazon Alexa.

In dieser Folge:
0:00 Intro
2:30 Die Angst vor dem Paperplic Maximizer
9:10 Was ist "Alignment”?
15:30 Woher kommt die Angst vor der Super-KI?
21:40 Echte Gefahr oder Spinnerei?
28:00 Was haben wir mit KI gemacht?

Redaktion und Mitarbeit:
David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried

Links und Quellen:

Asimov und die Robotergesetze
https://www.deutschlandfunkkultur.de/100-geburtstag-von-isaac-asimov-als-der-erste-moralkodex-100.html

Stephen Hawking über die Gefahr durch eine Super-KI (2014)
https://www.bbc.com/news/technology-30290540

"Effective Altruism” und die Angst vor der Super-KI
https://www.truthdig.com/articles/the-acronym-behind-our-wildest-ai-dreams-and-nightmares/

Alte Geschichten und Ängste:
https://www.cbc.ca/radio/tapestry/fear-of-ai-1.7012912

Der KI-Podcast bei der TINCON Berlin 2024
https://tincon.org/event/berlin24/takeover-eine-ki-ubernimmt-den-ki-podcast

Open AI veröffentlicht neues Modell GPT-4o
https://www.theverge.com/2024/5/13/24155493/openai-gpt-4o-launching-free-for-all-chatgpt-users

27 — Der Podcast zur Europawahl
https://1.ard.de/27-podcast?cp=ki

Kontakt:
Wir freuen uns über Fragen und Kommentare an podcast@br.de.

Unterstützt uns:
Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!

Jeder, der schon mal mit KI-Sprachmodellen zu tun hatte, kennt es: man will eine bestimmte Antwort vom Chatbot - doch der weigert sich hartnäckig, diese zu geben. Es gibt aber Tricks, um LLMs und andere GenAI-Modelle gefügig zu machen: sogenannte Pompt Hacks, Jailbreaks oder Prompt Injections. Wir erklären, was hinter diesen Begriffen steckt, wie diese Methoden funktionieren und wir fragen: Ist es gut oder schlecht, wenn KI-Modelle nicht alle Fragen beantworten, die wir ihnen stellen?

In dieser Folge:
00:00 Intro
02:38 Was sind Prompt Hacks und wie funktionieren sie?
13:30 Wie Marie einen Chatbot dazu brachte, ihr 3000 Proteinriegel zu versprechen
19:47 Fritz und DeepSeek: Wer bestimmt, was KI-Modelle sagen?
30:10 Sollen Chatbots immer auf alle Fragen Antworten geben?
34:32 Was haben wir diese Woche mit KI gemacht?

Redaktion und Mitarbeit:
David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried

Links und Quellen:
- Chevrolet of Watsonwille verkauft Chevy Tahoe für $1 https://www.theautopian.com/chevy-dealers-ai-chatbot-allegedly-recommended-fords-gave-free-access-to-chatgpt/
- Findet man in LLMs gefährlichere Informationen zu Biowaffen als in Google? https://www.rand.org/pubs/research_reports/RRA2977-2.html
- Der chinesische Chatbot DeepSeek und das Tiananmen-Massaker: https://www.linkedin.com/posts/peter-gostev_it-took-some-effort-but-i-managed-to-get-activity-7152042996635521024-2hBZ/
- KI macht Job-Interviews: https://www.micro1.ai/gpt-vetting
- Airline haftet für Fehler ihres Chatbots: https://www.theguardian.com/world/2024/feb/16/air-canada-chatbot-lawsuit
- Maries Theaterstück: Anna und Eve in der Neuköllner Oper https://www.neukoellneroper.de/performance/anna-eve/
- Was steckt hinter dem mysteriösen neuen Chatbot GPT2? https://news.ycombinator.com/item?id=40199715
https://arstechnica.com/information-technology/2024/04/rumors-swirl-about-mystery-gpt2-chatbot-that-some-think-is-gpt-5-in-disguise/

Kontakt:
Wir freuen uns über Fragen und Kommentare an podcast@br.de.

Unterstützt uns:
Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!

KI-Modelle, die Tierarten erkennen, Proteine berechnen oder einfach nur Forschern Arbeit abnehmen. Die KI-Revolution kommt mit jeder Menge Potential für Forschung und Wissenschaft - und großen Träumen von der Zukunft. Ist das wirklich gerechtfertigt?

Über die Hosts:
Gregor Schmalzried ist freier Tech-Journalist und Berater, er arbeitet u.a. für den Bayerischen Rundfunk und Brand Eins.
Fritz Espenlaub ist freier Journalist und Moderator beim Bayerischen Rundfunk und 1E9 mit Fokus auf Technologie und Wirtschaft.

In dieser Folge:
0:00 Das "delve”-Problem
3:40 KI als Forschungsassistent
10:10 KI im Regenwald
12:10 KI als Forschungsbeschleuniger
16:20 KI in der Zukunft
22:20 Was haben wir mit KI gemacht? Termin-Files, rabbit r1 und der Humane AI Pin

Redaktion und Mitarbeit:
David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried

Links und Quellen:

Untersuchung zu KI-Begriffen in wissenschaftlichen Texten
https://arxiv.org/abs/2403.07183

Universität Jena-Projekt zu GPT-3 und chemischem Wissenstransfer
https://www.uni-jena.de/240207-gpt-chemie

Universität Würzburg-Projekt zu KI im Regenwald
https://www.uni-wuerzburg.de/aktuelles/pressemitteilungen/single/news/ki-biodiversitaet-regenwald/

AlphaFold
https://www.science.org/content/article/google-s-deepmind-aces-protein-folding

Neue Antibiotika - dank KI
https://wyss.harvard.edu/news/using-ai-researchers-identify-a-new-class-of-antibiotic-candidates/

CRISPR und KI
https://www.nytimes.com/2024/04/22/technology/generative-ai-gene-editing-crispr.html

Sam Altman im Atlantic
https://www.theatlantic.com/magazine/archive/2023/09/sam-altman-openai-chatgpt-gpt-4/674764/

Kontakt:
Wir freuen uns über Fragen und Kommentare an podcast@br.de.

Unterstützt uns:
Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!

KI-Sprachmodelle sind sehr nützlich, um sich neues Wissen anzueignen - doch es gibt auch Tücken. Fritz und Gregor zeigen anhand praktischer Beispiele und hilfreicher Tricks, worauf es beim Recherchieren mit KI ankommt und auf was man achten sollte.

Über die Hosts:
Gregor Schmalzried ist freier Tech-Journalist und Berater, er arbeitet u.a. für den Bayerischen Rundfunk und Brand Eins.
Fritz Espenlaub ist freier Journalist und Moderator beim Bayerischen Rundfunk und 1E9 mit Fokus auf Technologie und Wirtschaft.

00:00 Intro
02:50 Die Recherchefragen
11:07 Rechercheweg und Materialsammlung
18:03 Das Ergebnis
34:06 Was haben wir diese Woche mit KI gemacht?

Redaktion und Mitarbeit:
David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried

Links und Quellen:

Perplexity: https://www.perplexity.ai/
Consensus: https://consensus.app/
Wie überzeugend sind KI-Modelle? https://www.axios.com/2024/04/10/anthropic-claude-persuasion-turing-test
Hätten Dinosaurier intelligent werden können? https://onlinelibrary.wiley.com/doi/epdf/10.1002/cne.25458
Llama 3: https://llama.meta.com/llama3/
Der KI Abisong: https://suno.com/song/81d2b4e3-4088-4a55-81a2-72be02a8a3a0

Es ist wie ein neuer "Wettlauf ins All” - doch diesmal spielt die ganze Welt mit. Die USA, China, Europa und viele andere Wirtschaftsräume bringen sich in Stellung, um in Sachen KI-Revolution Vorreiter zu sein. Aber wer hat wirklich die Nase vorn? Und welche Underdogs sollte man nicht unterschätzen?


Über die Hosts:
Gregor Schmalzried ist freier Tech-Journalist und Berater, er arbeitet u.a. für den Bayerischen Rundfunk und Brand Eins.
Fritz Espenlaub ist freier Journalist und Moderator beim Bayerischen Rundfunk und 1E9 mit Fokus auf Technologie und Wirtschaft.


In dieser Folge:
00:00 Musikalische Begrüßung
5:00 Warum wollen alle nach vorne?
11:00 Die USA
14:00 China
16:50 Europa
20:50 Die "Swing States”
27:40 Was haben wir mit KI gemacht?


Redaktion und Mitarbeit:
David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried

Links und Quellen:

Welches Land investiert wieviel in KI? https://www.aiprm.com/ai-statistics/#ai-government-investment-statistics (Hinweis: im Podcast haben wir versehentlich gesagt, dass es sich um private und staatliche Investitionen handelt. Tatsächlich zählt die Statistik ausschließlich staatliche Investitionen)

Der KI-Podcast zu den Themen "Super-KI” und "KI im Krieg”
https://www.ardaudiothek.de/episode/der-ki-podcast/wie-wird-aus-einer-ki-eine-super-ki/ard/12966875/
https://www.ardaudiothek.de/episode/der-ki-podcast/gewinnt-ki-den-naechsten-krieg/ard/94794954/

Musik-KI "Udio”
https://www.br.de/nachrichten/netzwelt/udio-neue-ki-app-erschafft-menschlich-klingende-songs,U9e1G4V

Goldman Sachs über die "Generative World Order”
https://www.goldmansachs.com/intelligence/pages/the-generative-world-order-ai-geopolitics-and-power.html

Chinas Schwierigkeiten im AI-Rennen
https://www.foreignaffairs.com/china/illusion-chinas-ai-prowess-regulation-helen-toner

Das Rennen um die KI-Talente
https://www.faz.net/pro/d-economy/kuenstliche-intelligenz/das-rennen-um-die-ki-talente-19641799.html

Deutschlands Intelligenzverlust
https://www.spiegel.de/wirtschaft/ki-experten-wandern-ins-ausland-ab-deutschlands-intelligenzverlust-a-68f398f2-7e6c-4276-8ce4-8bdbaa8a6e98

OpenAI in Japan
https://openai.com/blog/introducing-openai-japan

Kritik am KI-Agenten "Devin”
https://www.youtube.com/watch?v=tNmgmwEtoWE

Kontakt:
Wir freuen uns über Fragen und Kommentare an podcast@br.de.


Unterstützt uns:
Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!