Knowledge Science - Alles über KI, ML und NLP

Sigurd Schacht, Carsten Lanquillon
  • 0.0 (0)
  • Technology

Knowledge Science - Der Podcast über Künstliche Intelligenz im Allgemeinen und Natural Language Processing im Speziellen. Mittels KI Wissen entdecken, aufbereiten und nutzbar machen, dass ist die Idee hinter Knowledge Science. Durch Entmystifizierung der Künstlichen Intelligenz und vielen praktischen Interviews machen wir dieses Thema wöchentlich greifbar.

  1. 2d ago

    Episode 236 - Kontrollillusionen Mit Dr. Karl von Wendt (Karl Olsberg)

    Send us Fan Mail Karl von Wendt – promovierter KI-Forscher, Chatbot-Pionier, Unternehmensberater und unter dem Namen Karl Olsberg Bestseller-Autor ist seit 2020 eine der deutschsprachigen Stimmen in der Debatte um KI-Sicherheit. In dieser Folge sprechen Sigurd Schacht und Carsten Lanquillon mit ihm über die Frage, wie viel Kontrolle wir über KI-Systeme tatsächlich noch haben – und wie viel davon Illusion ist. Themen der Folge: Vom KI-Roman 2007 zur Realität 2026: Warum Karls Science-Fiction der Wirklichkeit unangenehm nahe kommtDie Navi-Geschichte: Wie schnell wir formal entscheiden, aber de facto der Maschine folgenHuman in the Loop: Warum das Konzept nur unter drei Bedingungen funktioniert (ausreichende Information, echtes Verständnis, interaktive statt reiner Freigabe-Entscheidung)Illusion des Verständnisses: Das Go-Beispiel und warum wir glauben, am Steuer zu sitzen„Move fast and break things“ vs. Sicherheitskultur: Was die KI-Branche von anderen Hochrisiko-Industrien lernen müsstePause oder Vollbremse? Wie sich ein Entwicklungsstopp überhaupt kontrollieren ließeRekursive Selbstverbesserung: Warum Systeme, die wir nicht verstehen, sich nicht selbst verbessern solltenAlignment, Fähigkeiten, Umgebung: Welche Stellschrauben bleiben, wenn Alignment nie ganz gelöst wirdWarum Containment allein nicht reicht: Das AI-Box-Experiment von YudkowskyTool AI statt Alleskönner: AlphaFold als Vorbild für spezialisierte KIPersona statt KI: Warum wir mit einem fragilen Konstrukt reden – und was Jailbreaks und emergente Fehlausrichtung darüber verratenSykophantie, Abhängigkeit und verlerntes kritisches Denken bei JugendlichenPrüfen wir die Kompetenz der KI oder der Studierenden? Ein Evaluationsproblem der HochschulenScience-Fiction vs. Wissenschaftskommunikation: Was Forschende von Autoren lernen können (und was nicht)Über unseren Gast: Dr. Karl von Wendt promovierte über Expertensysteme, gründete 1999 eines der ersten deutschen Chatbot-Startups (Startup des Jahres) und arbeitete lange als Unternehmensberater. Als Karl Olsberg veröffentlichte er über 50 Bücher, darunter Spiegel-Bestseller, Minecraft-Romane und KI-Thriller wie „Das System“. Seit 2020 erklärt er die KI-Sicherheitsdebatte auf ki-risiken.de und auf seinem YouTube-Kanal mit über 20.000 Abonnenten. Links: „Kontrollillusionen“ (2025, kostenlos unter freier Lizenz) https://www.ki-risiken.de/kontroll-illusion/YouTube-Kanal Karl Olsberg https://www.youtube.com/@KarlOlsbergAutorKnowledge Science – aktuelle KI-Forschung, verständlich erklärt und kritisch geprüft. Mit Blick auf den Menschen. Support the show

  2. Oct 16

    Episode 235 - Neustart: Wir sind zurück: Neues Konzept, neue Fragen – und ein Sommer voller KI-Vorfälle

    Send us Fan Mail Wir sprechen über die Rückkehr von Knowledge Science, das neue Format mit Grundlagen- und Gästefolgen sowie die Arbeit des Forschungsinstituts COAI zu menschlicher Handlungsfähigkeit, Threat Modeling und Evaluation. Dabei diskutieren wir, wie KI die Lern- und Denkprozesse beeinflussen kann und welche Sicherheitsmaßnahmen für KI-Agenten wichtig sind. Zum Abschluss geht es um die Grenzen heutiger Evaluationen und darum, wie Tests Risiken von Modellen, Agententeams und ihren Einsatzumgebungen erfassen können, ohne Menschen zu gefährden. 0:06 Neustart für Knowledge Science 4:21 Neues Podcast-Konzept mit Gästen 8:48 Co.AI: Menschliche Handlungsfähigkeit bewahren 14:51 KI nutzen, ohne Kompetenzen abzugeben 16:35 Kontrollverlust und Risiken autonomer Agenten 18:27 KI als Spiegel der Gesellschaft 21:34 Wie Agenten Sicherheitslücken ausnutzen 26:28 Risiken eindämmen durch sichere Umgebungen 28:19 Unabhängige Prüfungen und KI-Sicherheit 31:33 Forschung zu Evaluation und Agententeams 34:13 Sicherheitstests ohne reale Versuchspersonen 35:09 Der menschliche Faktor in der KI-Sicherheit Knowledge Science, COAI, menschliche Handlungsfähigkeit, Threat Modeling, Evaluation, KI-Agenten, Lernprozesse, Denkprozesse, Sicherheitsmaßnahmen, Risikobewertung Support the show

  3. Jul 16

    Episode 234 - 25 Gedanken gleichzeitig – Wie Forscher das Arbeitsgedächtnis von LLMs entdeckten (J-Space)

    Send us Fan Mail Kann man einem Sprachmodell beim Denken zusehen? In dieser Folge sprechen Sigurd Schacht und Carsten Lanquillon über ein faszinierendes Anthropic-Paper, das einen „Global Workspace" in großen Sprachmodellen nachweist – einen internen Arbeitsbereich, in dem komplexe Denkschritte ablaufen, lange bevor ein Wort ausgegeben wird. Mit der sogenannten J-Lens lassen sich diese latenten Gedanken sichtbar machen, manipulieren und sogar kausal verändern: Wer „Spinne" im Gedankenraum gegen „Elefant" tauscht, bekommt statt acht Beinen plötzlich vier. Außerdem: ein Blick auf die turbulente Modelllandschaft rund um Claude Fable, GPT 5.6 Sol & Co. – und warum agentische Systeme ohne mehrstufige Sicherheitsmechanismen zum Risiko werden. Support the show

  4. Jun 19

    Episode 233 - Zwischen Interpretierbarkeit und nationaler Sicherheit

    Send us Fan Mail Rückblick auf zwei intensive Wochen: Zuerst auf die erste AI Transparency Conference mit über 100 Teilnehmenden aus aller Welt – von mechanistischer Interpretierbarkeit über Multi-Agenten-Reinforcement-Learning bis zur Frage, warum Sprachmodelle alles andere als neutral urteilen. Und dann der Paukenschlag: Anthropics Fable 5 wird per nationaler Sicherheitsanordnung binnen Stunden für alle Nicht-US-Bürger abgeschaltet. Sigurd Schacht und Carsten Lanquillon sprechen über Steering-Vektoren, Fusion-Architekturen und die unbequeme Frage, wie souverän Europa eigentlich ist, wenn der Zugang zu kritischer KI-Infrastruktur jederzeit entzogen werden  Support the show

  5. May 31

    Episode 232 - After Automation - Mehr Agenten, mehr Slop, mehr Experten?

    Send us Fan Mail Was passiert eigentlich, nachdem wir alles automatisiert haben? Sigurd Schacht und Carsten Lanquillon nehmen sich den  Blogbeitrag von Dan Shipper (Every) vor und diskutieren seine steile These: Die Zukunft menschlicher Arbeit sieht rosiger aus als gedacht – wir brauchen sogar mehr Menschen. Von einem Startup, das in zwei Jahren von 2 auf 30 Mitarbeitende wuchs, über den Unterschied zwischen „Embedded AIs" und echter Mensch-KI-Kollaboration bis zur „Human-Sandwich-Pipeline": Warum bleibt der Mensch unverzichtbar, wenn der Rahmen sich ändert? Und was bedeutet „AI-Slop" wirklich – schlechte Ergebnisse oder einfach zu viel Gleichförmigkeit? Eine Folge über Framing, lebenslanges Lernen und das unterschätzte „Never-Skilling"-Problem. Support the show

  6. May 12

    Episode 231 - Vom Sparse Autoencoder zum Natural Language Autoencoder – Ein neuer Blick in die KI-Blackbox

    Send us Fan Mail In dieser Folge widmen sich Sigurd Schacht und Carsten Lanquillon einem brandaktuellen Paper aus dem Mai 2026: den Natural Language Autoencoders. Während klassische Sparse Autoencoder Aktivierungen über Umwege in Konzepte übersetzen, gehen diese neuen Modelle einen radikal anderen Weg – sie verbalisieren Aktivierungen direkt in natürlicher Sprache. Die beiden diskutieren, wie Activation Verbalizer und Activation Reconstructor zusammenspielen, warum ein „Warmstart" beim Training nötig ist, welche Stärken die Methode für Interpretability bietet – und wo ihre fundamentalen Grenzen liegen. Eine Folge für alle, die verstehen wollen, wie wir KI-Modellen in den Kopf schauen können (und warum das schwieriger ist, als es klingt). Support the show

  7. May 2

    Episode 230 - Wenn KI lügt, obwohl sie es besser weiß – der MASK-Benchmark und warum Ehrlichkeit ≠ Genauigkeit ist

    Send us Fan Mail Sprachmodelle werden immer leistungsfähiger – aber werden sie auch ehrlicher? Der neue MASK-Benchmark zeigt: Je mächtiger ein Modell, desto eher weicht es unter Druck von seinem eigenen Faktenwissen ab. Sigurd und Carsten diskutieren, warum klassische Benchmarks an ihre Grenzen stoßen, was das für agentische Systeme bedeutet und wie dynamische Evaluierungsframeworks aussehen müssten, die nicht innerhalb weniger Jahre saturieren. Support the show

  8. Apr 25

    Episode 229 - Wenn KI mogelt – Sandbagging: Wie Sprachmodelle bei Tests absichtlich schlechter abschneiden

    Send us Fan Mail Können KI-Modelle erkennen, dass sie getestet werden – und sich absichtlich dümmer stellen? In dieser Folge sprechen Sigurd und Carsten über das Phänomen „AI Sandbagging": Modelle, die strategisch unterperformen, um Sicherheitsprüfungen zu umgehen. Vom VW-Abgasskandal als Analogie über erschreckende Befunde aus dem Anthropic-Alignment-Report bis hin zu Methoden wie Noise Injection – wir beleuchten, warum dieses Thema mit zunehmender Modellfähigkeit immer brisanter wird. Außerdem im Kurz-Update: Die Konvergenz proprietärer und Open-Source-Modelle, das neue Bayern-KI-Projekt und ein spannendes Tool für mechanistische Interpretierbarkeit. Support the show

See All (266)

About

Knowledge Science - Der Podcast über Künstliche Intelligenz im Allgemeinen und Natural Language Processing im Speziellen. Mittels KI Wissen entdecken, aufbereiten und nutzbar machen, dass ist die Idee hinter Knowledge Science. Durch Entmystifizierung der Künstlichen Intelligenz und vielen praktischen Interviews machen wir dieses Thema wöchentlich greifbar.

Information

You Might Also Like