Der KI-Podcast ARD

Im Grunde vervollständigen Sprachmodelle wie ChatGPT, Gemini oder Claude immer nur das nächste Wort in einem Satz, basierend auf einer statistischen Wahrscheinlichkeitsrechnung. Doch irgendwie entstehen aus diesem simplen Prinzip am Ende Maschinen, die ein Verständnis von der Welt zu haben scheinen, das dem unseren oft erstaunlich nahe kommt. Wie kann das sein? Wir schauen ins Innere der "Generative Pretrained Transformer" Modelle und erklären, wie genau KI eigentlich funktioniert.

Über die Hosts:
Gregor Schmalzried ist freier Tech-Journalist und Berater, er arbeitet u.a. für den Bayerischen Rundfunk und Brand Eins.
Fritz Espenlaub ist freier Journalist und Moderator beim Bayerischen Rundfunk und 1E9 mit Fokus auf Technologie und Wirtschaft.

00:00 Intro
04:01 G wie Generative: Wie Sprachmodelle auf ihr nächstes Wort kommen
08:37 P wie Pre-Trained: Wie läuft das Training ab?
19:14 T wie Transformer: Wie sieht es eigentlich im Inneren eines LLMs aus?
25:47 Was haben wir diese Woche mit KI gemacht?

Redaktion und Mitarbeit:
David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried

Links und Quellen:

The Surprising Power of Next Word Prediction: Large Language Models Explained https://cset.georgetown.edu/article/the-surprising-power-of-next-word-prediction-large-language-models-explained-part-1/

Erklärung von Transformer Modellen in der Financial Times: https://ig.ft.com/generative-ai/

Visualisierung von Transformern: https://jalammar.github.io/illustrated-gpt2/

Aleph Alpha und Erklärbarkeit: https://1e9.community/t/die-deutsche-ki-hoffnung-aleph-alpha-mit-transparenz-und-erklaerbarkeit-gegen-openai/19552

Electify - KI-Sprachmodelle beantwortet Fragen zu den EU-Wahlprogrammen: https://electify.eu/

Kontakt:
Wir freuen uns über Fragen und Kommentare an podcast@br.de.

Unterstützt uns:
Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!

Immer wieder geraten KI und Politik aneinander: KI-Bild-Generatoren bevorzugen Menschen bestimmter Hautfarbe, Chatbots scheinen politische Agenden zu verfolgen. Was ist dran am KI-Kulturkampf?

Über die Hosts:
Gregor Schmalzried ist freier Tech-Journalist und Berater, er arbeitet u.a. für den Bayerischen Rundfunk und Brand Eins.
Marie Kilg ist freie Journalistin und Innovationsmanagerin im Deutsche Welle Lab. Zuvor war sie Produkt-Managerin bei Amazon Alexa.

In dieser Folge:
0:00 Intro
1:55 Wie Klischees in die KI kommen
11:00 Wie KI politisch eingestellt wird
16:10 Was erwarten wir von unserer KI?
29:40 Was haben wir mit KI gemacht?

Redaktion und Mitarbeit:
David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried

Links und Quellen:

Debatte um Google Gemini: Wie "woke" ist die KI?
https://www.br.de/nachrichten/netzwelt/debatte-um-google-gemini-wie-woke-ist-die-ki,U4usGOV

Kann KI schwarze Ärzte und weiße Kinder generieren?
https://www.npr.org/sections/goatsandsoda/2023/10/06/1201840678/ai-was-asked-to-create-images-of-black-african-docs-treating-white-kids-howd-it-

So klischeehaft sehen KI-generierte Bilder aus
https://restofworld.org/2023/ai-image-stereotypes/

KI schlussfolgert: Lineale machen Krebs
https://venturebeat.com/business/when-ai-flags-the-ruler-not-the-tumor-and-other-arguments-for-abolishing-the-black-box-vb-live/

KI soll die Isländische Sprache bewahren
https://www.icelandreview.com/news/gpt-4-to-aid-in-the-preservation-of-the-icelandic-language/

GOODY-2: Die harmloseste KI der Welt
https://www.goody2.ai/chat

OpenAIs Model Spec - auch zu Diskussionen über die flache Erde
https://openai.com/index/introducing-the-model-spec/

"Models All the Way Down”
https://knowingmachines.org/models-all-the-way

Kontakt:
Wir freuen uns über Fragen und Kommentare an podcast@br.de.

Unterstützt uns:
Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!

Manche halten es für das größte Risiko der Menschheit: Eine künstliche Super-Intelligenz, die außer Kontrolle gerät und die Menschheit ausrottet. Aber ist wirklich etwas dran an diesem düsteren Szenario?

Über die Hosts:
Gregor Schmalzried ist freier Tech-Journalist und Berater, er arbeitet u.a. für den Bayerischen Rundfunk und Brand Eins.
Marie Kilg ist freie Journalistin und Innovationsmanagerin im Deutsche Welle Lab. Zuvor war sie Produkt-Managerin bei Amazon Alexa.

In dieser Folge:
0:00 Intro
2:30 Die Angst vor dem Paperplic Maximizer
9:10 Was ist "Alignment”?
15:30 Woher kommt die Angst vor der Super-KI?
21:40 Echte Gefahr oder Spinnerei?
28:00 Was haben wir mit KI gemacht?

Redaktion und Mitarbeit:
David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried

Links und Quellen:

Asimov und die Robotergesetze
https://www.deutschlandfunkkultur.de/100-geburtstag-von-isaac-asimov-als-der-erste-moralkodex-100.html

Stephen Hawking über die Gefahr durch eine Super-KI (2014)
https://www.bbc.com/news/technology-30290540

"Effective Altruism” und die Angst vor der Super-KI
https://www.truthdig.com/articles/the-acronym-behind-our-wildest-ai-dreams-and-nightmares/

Alte Geschichten und Ängste:
https://www.cbc.ca/radio/tapestry/fear-of-ai-1.7012912

Der KI-Podcast bei der TINCON Berlin 2024
https://tincon.org/event/berlin24/takeover-eine-ki-ubernimmt-den-ki-podcast

Open AI veröffentlicht neues Modell GPT-4o
https://www.theverge.com/2024/5/13/24155493/openai-gpt-4o-launching-free-for-all-chatgpt-users

27 — Der Podcast zur Europawahl
https://1.ard.de/27-podcast?cp=ki

Kontakt:
Wir freuen uns über Fragen und Kommentare an podcast@br.de.

Unterstützt uns:
Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!

Jeder, der schon mal mit KI-Sprachmodellen zu tun hatte, kennt es: man will eine bestimmte Antwort vom Chatbot - doch der weigert sich hartnäckig, diese zu geben. Es gibt aber Tricks, um LLMs und andere GenAI-Modelle gefügig zu machen: sogenannte Pompt Hacks, Jailbreaks oder Prompt Injections. Wir erklären, was hinter diesen Begriffen steckt, wie diese Methoden funktionieren und wir fragen: Ist es gut oder schlecht, wenn KI-Modelle nicht alle Fragen beantworten, die wir ihnen stellen?

In dieser Folge:
00:00 Intro
02:38 Was sind Prompt Hacks und wie funktionieren sie?
13:30 Wie Marie einen Chatbot dazu brachte, ihr 3000 Proteinriegel zu versprechen
19:47 Fritz und DeepSeek: Wer bestimmt, was KI-Modelle sagen?
30:10 Sollen Chatbots immer auf alle Fragen Antworten geben?
34:32 Was haben wir diese Woche mit KI gemacht?

Redaktion und Mitarbeit:
David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried

Links und Quellen:
- Chevrolet of Watsonwille verkauft Chevy Tahoe für $1 https://www.theautopian.com/chevy-dealers-ai-chatbot-allegedly-recommended-fords-gave-free-access-to-chatgpt/
- Findet man in LLMs gefährlichere Informationen zu Biowaffen als in Google? https://www.rand.org/pubs/research_reports/RRA2977-2.html
- Der chinesische Chatbot DeepSeek und das Tiananmen-Massaker: https://www.linkedin.com/posts/peter-gostev_it-took-some-effort-but-i-managed-to-get-activity-7152042996635521024-2hBZ/
- KI macht Job-Interviews: https://www.micro1.ai/gpt-vetting
- Airline haftet für Fehler ihres Chatbots: https://www.theguardian.com/world/2024/feb/16/air-canada-chatbot-lawsuit
- Maries Theaterstück: Anna und Eve in der Neuköllner Oper https://www.neukoellneroper.de/performance/anna-eve/
- Was steckt hinter dem mysteriösen neuen Chatbot GPT2? https://news.ycombinator.com/item?id=40199715
https://arstechnica.com/information-technology/2024/04/rumors-swirl-about-mystery-gpt2-chatbot-that-some-think-is-gpt-5-in-disguise/

Kontakt:
Wir freuen uns über Fragen und Kommentare an podcast@br.de.

Unterstützt uns:
Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!

KI-Modelle, die Tierarten erkennen, Proteine berechnen oder einfach nur Forschern Arbeit abnehmen. Die KI-Revolution kommt mit jeder Menge Potential für Forschung und Wissenschaft - und großen Träumen von der Zukunft. Ist das wirklich gerechtfertigt?

Über die Hosts:
Gregor Schmalzried ist freier Tech-Journalist und Berater, er arbeitet u.a. für den Bayerischen Rundfunk und Brand Eins.
Fritz Espenlaub ist freier Journalist und Moderator beim Bayerischen Rundfunk und 1E9 mit Fokus auf Technologie und Wirtschaft.

In dieser Folge:
0:00 Das "delve”-Problem
3:40 KI als Forschungsassistent
10:10 KI im Regenwald
12:10 KI als Forschungsbeschleuniger
16:20 KI in der Zukunft
22:20 Was haben wir mit KI gemacht? Termin-Files, rabbit r1 und der Humane AI Pin

Redaktion und Mitarbeit:
David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried

Links und Quellen:

Untersuchung zu KI-Begriffen in wissenschaftlichen Texten
https://arxiv.org/abs/2403.07183

Universität Jena-Projekt zu GPT-3 und chemischem Wissenstransfer
https://www.uni-jena.de/240207-gpt-chemie

Universität Würzburg-Projekt zu KI im Regenwald
https://www.uni-wuerzburg.de/aktuelles/pressemitteilungen/single/news/ki-biodiversitaet-regenwald/

AlphaFold
https://www.science.org/content/article/google-s-deepmind-aces-protein-folding

Neue Antibiotika - dank KI
https://wyss.harvard.edu/news/using-ai-researchers-identify-a-new-class-of-antibiotic-candidates/

CRISPR und KI
https://www.nytimes.com/2024/04/22/technology/generative-ai-gene-editing-crispr.html

Sam Altman im Atlantic
https://www.theatlantic.com/magazine/archive/2023/09/sam-altman-openai-chatgpt-gpt-4/674764/

Kontakt:
Wir freuen uns über Fragen und Kommentare an podcast@br.de.

Unterstützt uns:
Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in der ARD Audiothek oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!

KI-Sprachmodelle sind sehr nützlich, um sich neues Wissen anzueignen - doch es gibt auch Tücken. Fritz und Gregor zeigen anhand praktischer Beispiele und hilfreicher Tricks, worauf es beim Recherchieren mit KI ankommt und auf was man achten sollte.

Über die Hosts:
Gregor Schmalzried ist freier Tech-Journalist und Berater, er arbeitet u.a. für den Bayerischen Rundfunk und Brand Eins.
Fritz Espenlaub ist freier Journalist und Moderator beim Bayerischen Rundfunk und 1E9 mit Fokus auf Technologie und Wirtschaft.

00:00 Intro
02:50 Die Recherchefragen
11:07 Rechercheweg und Materialsammlung
18:03 Das Ergebnis
34:06 Was haben wir diese Woche mit KI gemacht?

Redaktion und Mitarbeit:
David Beck, Cristina Cletiu, Chris Eckardt, Fritz Espenlaub, Marie Kilg, Mark Kleber, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried

Links und Quellen:

Perplexity: https://www.perplexity.ai/
Consensus: https://consensus.app/
Wie überzeugend sind KI-Modelle? https://www.axios.com/2024/04/10/anthropic-claude-persuasion-turing-test
Hätten Dinosaurier intelligent werden können? https://onlinelibrary.wiley.com/doi/epdf/10.1002/cne.25458
Llama 3: https://llama.meta.com/llama3/
Der KI Abisong: https://suno.com/song/81d2b4e3-4088-4a55-81a2-72be02a8a3a0