Reboot Society - KI, Diversität und die neue Weltordnung

Inken Paland und Sarah Rojewski
  • 0.0 (0)
  • Technology

In dieser ersten Staffel beschäftigen sich Inken & Sarah nicht nur mit neuesten technischen Entwicklungen, sondern um das, was KI wirklich mit uns als Gesellschaft macht. Unser Ziel: KI entmystifizieren, verständlich machen und eine echte Diskussion anregen – abseits von Sci-Fi-Klischees und Buzzword-Bingo. Für wen? Für alle, die sich fragen, wie KI unsere Welt verändert – egal ob Einsteiger oder Expert:innen. Eure Fragen & Gedanken Gestaltet den Podcast mit! Schreibt uns eure Themenvorschläge und diskutiert mit uns auf Social Media. Reboot Society – wir rebooten unsere Sicht auf die Zukunft! Inken: https://www.instagram.com/askinkenai/ Sarah: https://www.instagram.com/sarah_rojewski/

  1. 6d ago

    #63 KI Stop (Teil 2/2): Sicherheit, Strategie oder perfektes Marketing?

    Nach den jüngsten Sicherheitsvorfällen fordern ausgerechnet führende Köpfe der Tech-Branche, die Entwicklung besonders leistungsfähiger KI zu verlangsamen. Doch was soll eigentlich gebremst werden und wer kontrolliert, ob sich Unternehmen und Staaten daran halten? Wir schauen auf den Drei-Stufen-Plan von Anthropic-CEO Dario Amodei: unabhängige Prüfer innerhalb der KI-Unternehmen, gemeinsame Sicherheitsstandards in demokratischen Staaten und internationale Vereinbarungen mit China. Außerdem fragen wir, ob die neuen Warnungen echte Verantwortungsübernahme sind oder ob große KI-Unternehmen versuchen, Regeln zu ihrem eigenen Vorteil mitzugestalten. Zwischen Sicherheitsrisiken, geopolitischem Wettbewerb und wirtschaftlichen Interessen wird deutlich: Ein KI-Slowdown ist keine einfache Pause-Taste. Entscheidend ist, ob Kontrolle, Transparenz und internationale Zusammenarbeit mit dem Entwicklungstempo Schritt halten können. Quellen zur Folge Dario Amodei: „We Must Pace the Frontier“ OpenAI: Bericht zum Sicherheitsvorfall bei Hugging Face OpenAI: Framework zur Veröffentlichung von Fehlverhalten Reuters: Warnungen von Jacob Coxon und Evan Hubinger Reuters: Anthropic zwischen Slowdown und Wettbewerbsdruck Stanford AI Index 2026: Öffentliche Wahrnehmung von KI Europäische Kommission: Regulierung durch den AI Act 📲 Media-Kanäle: 🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai

  2. Sep 20

    #62 KI Stop (Teil ½) Warum die Tech Bros plötzlich bremsen wollen 

    Jahrelang lieferten sich OpenAI, Anthropic und Google ein Wettrennen um immer leistungsfähigere KI. Doch plötzlich warnen ausgerechnet Menschen aus diesen Unternehmen vor den möglichen Folgen. Auslöser der aktuellen Debatte sind unter anderem ein folgenreicher Sicherheitsvorfall bei Hugging Face und der öffentliche Rücktritt des ehemaligen OpenAI- und Anthropic-Forschers Jacob Coxon. Was zeigen diese Ereignisse wirklich? Können KI-Agenten bereits eigenständig Grenzen überschreiten und zusammenarbeiten? Und wo beginnt die spekulative Erzählung von AGI, Superintelligenz und einer KI, die sich selbst verbessert? Wir sortieren Fakten und Zukunftsszenarien, sprechen über Silicon Valleys Echo Chambers und fragen: Sind die neuen Warnungen ein glaubwürdiger Alarm oder auch ein strategisches Instrument im Wettbewerb um Geld, Macht und Regulierung? In Teil zwei untersuchen wir, wie ein KI-Slowdown konkret aussehen könnte und warum dabei kein Weg an China vorbeiführt. Generative AI: Erstellt Texte, Bilder, Code und andere Inhalte. Agentic AI: Plant Arbeitsschritte, nutzt Werkzeuge und führt Aufgaben aus. AGI: Hypothetische KI mit breit gefächerten Fähigkeiten auf menschlichem Niveau. ASI: Hypothetische Intelligenz, die Menschen in fast allen relevanten Bereichen übertrifft. Recursive Self-Improvement: KI unterstützt die Entwicklung leistungsfähigerer KI-Systeme. Quellen: OpenAI: Der Hugging-Face-Vorfall und der weitere Weg OpenAI: Framework und sechs weitere Fälle von Fehlverhalten Reuters: Warnungen von Jacob Coxon und Evan Hubinger WIRED: Interview mit Jacob Coxon nach seinem Rücktritt Reuters: Weitere Stimmen zur aktuellen KI-Risikodebatte Dario Amodei: „We Must Pace the Frontier“ OpenAI: Ursprüngliche Gründungsankündigung von 2015 📲 Media-Kanäle: 🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai

  3. Sep 14

    # 61 KI hat auf unterschiedlichen Sprachen, unterschiedliche Werte. Aber warum?

    Dieselbe KI, dieselbe Frage,  aber auf Englisch antwortet sie vorsichtiger, auf Arabisch wärmer. Genau das hat Anthropic an Claude nachgewiesen:  Sarah und Inken ordnen die Studie ein, ergänzen sie um Gegenbefunde aus anderen Forschungsarbeiten und fragen: echter kultureller Fingerabdruck oder einfach schlechtere Sprachverarbeitung, die wie Persönlichkeit aussieht? Und was das bedeutet, wenn Millionen Menschen täglich in Dutzenden Sprachen mit demselben System reden. 🔗 Links: Anthropic (2026): How Claude's values vary by model and language – anthropic.com/research/claude-values-models-languages Anthropic (2025): Values in the Wild Cultural Value Differences of LLMs: Prompt, Language, and Model Size – arxiv.org/abs/2407.16891 Made-in-China, Thinking in America: U.S. Values Persist in Chinese LLMs – arxiv.org/abs/2512.13723 The Ghost in the Grammar: Methodological Anthropomorphism in AI Safety Evaluations – arxiv.org/abs/2603.13255 Mehr zur Forschung von Meltem Aksoy https://www.researchgate.net/profile/Meltem-Aksoy-2 Mehr zur Forschung von Aliah Zewail: https://scholar.google.de/citations?user=ARLsaksAAAAJ&hl=de 📲 Media-Kanäle: 🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai

  4. Sep 7

    #60 Das gehypte selbstfahrende Robotaxi Waymo kommt nach München und auch die Konkurrenz schläft nicht

    Waymo kommt nach München!! What?!  In dieser Folge sprechen wir über den technologischen Sprung vom assistierten zum autonomen Fahren, über den Unterschied zwischen Level 4 und Level 5 und darüber, warum Teleoperation aus der Ferne im Hintergrund eine viel größere Rolle spielt, als viele denken. Wir schauen uns an, wo die deutsche und europäische Regulierung im internationalen Vergleich steht, wie Uber, Tesla und Baidu um den Markt kämpfen und was es für unsere Städte bedeutet, wenn Robotaxis Teil des Alltags werden. Und wir reden über den Punkt, den in der Debatte gern niemand anspricht, nämlich die Datenspuren und die Überwachungsinfrastruktur, die mit jedem dieser Fahrzeuge durch die Straßen rollt. Hört rein! 🔗 Links: Adac Artikel zu den Automatisierungsstufen: https://www.adac.de/rund-ums-fahrzeug/ausstattung-technik-zubehoer/autonomes-fahren/grundlagen/autonomes-fahren-5-stufen/  📲 Media-Kanäle: 🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai

  5. Aug 31

    #59 Wenn KI Modelle hacken, was als sicher galt

    Wir sind zurück aus der Sommerpause und bringen die neusten KI News mit und sprechen über Themen, die uns in den letzten Wochen bewegt haben. Diesmal geht es um aktuelle Sicherheitsvorfälle rund um KI Modelle, neue Entwicklungen beim EU AI Act und die Frage, wie Fortschritt und Sicherheit zusammen gedacht werden können. Außerdem werfen wir einen Blick auf die Rolle von Open Source in der KI Entwicklung und darauf, was all das kulturell und ethisch für uns bedeutet. 🔎 Begriff im Fokus: OpenSource: (wörtlich „offene Quelle“) wird Software bezeichnet, deren Quellcode (der Bauplan eines Programms) öffentlich zugänglich ist und von Dritten eingesehen, genutzt, verändert sowie verbreitet werden darf. OpenWeight: Open-Weight-Modell ist ein künstliches Intelligenzmodell, bei dem die fertig trainierten Modellgewichte (die Parameter oder Zahlenwerte des Wissens) öffentlich zum Download bereitstehen, damit jeder sie auf eigener Hardware ausführen kann. Der Quellcode ist aber nicht offen. 🔗 Literatur & Studien: Paper zu Shieldstral von Mistral: https://arxiv.org/abs/2607.25857 Link zum Buch “the Alignment Problem von Brian Christian: https://www.hugendubel.de/de/taschenbuch/brian_christian-the_alignment_problem-40398595-produkt-details.html?utm_source=google&utm_medium=cpc&utm_campaign=20795765403&adCode=320R20I20U31M&utm_term=&gad_source=1&gad_campaignid=20795766201&gbraid=0AAAAADi36RBldPwW8V6QI9TVozADobvwn&gclid=CjwKCAjwqc_UBhBKEiwAWbl25sxnnFzW9wMjEFa5J97Q_n1LNV4ThwIAp032yeBgArIMVhoK1l0HkBoCm2YQAvD_BwE  🔗 Links: Undere Podcast-Folge zum EU AI Act und den Regeln zur Kennzeichnungspflicht: https://open.spotify.com/episode/6xjIujQTdjM0owQ3uzLQYH  Artikel zur Übernahme von Huggingface von Nvidia (mit Umsatzinfos):https://www.heise.de/news/Bericht-Nvidia-uebernimmt-Hugging-Face-fuer-12-9-Milliarden-Dollar-11431261.html  Second Brain Guide von Inken: https://vely.ai/second-brain-guide  Und haltet nach Sarahs Kurs ausschau, sobald der online ist, werden wir berichten! :) 📲 Media-Kanäle: 🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai

  6. Jul 27

    #58 Reguliert Europa die KI zu Tode? Ein ehrlicher Blick auf den EU AI Act

    Europa hat das weltweit erste große Gesetz für Künstliche Intelligenz geschrieben. Vier Jahre Arbeit, eine Blaupause für den Rest der Welt. Und dann, wenige Wochen bevor der wichtigste Teil greifen sollte, drückt Brüssel auf Pause. In dieser Folge nehmen wir den EU AI Act auseinander: Was das Gesetz eigentlich ist, wie es aufgebaut ist und was am 2. August 2026 wirklich passiert – und was eben nicht mehr. Denn der große Hochrisiko-Termin wurde durch den „Digital Omnibus" nach hinten geschoben. Trotzdem wird an dem Tag ernst: Die EU-Kommission darf ab jetzt die großen KI-Anbieter mit Millionen-Bußgeldern belegen, und die Transparenzregeln werden scharf gestellt. Wir zeigen euch die fünf Dinge, die du konkret tun musst, wenn du KI im Job oder im eigenen Business nutzt und nicht in ein Bußgeld laufen willst. Nichts davon braucht eine große Rechtsabteilung. Und dann wird es streitbar. Wir fragen uns: Ist dieses Gesetz kluge Vorsicht oder eingeknickt, bevor es das erste Mal zubeißen musste? Schützt es uns vor den Gefahren, die wir wirklich fühlen – Deepfakes, gefälschte Nacktbilder, Betrug? Oder rüstet es die Konzerne, während der Einzelne schutzlos danebensteht? Und wie viel Verantwortung bleibt am Ende bei uns selbst? Eine Folge über Recht, Angst und die eine Frage, die dieses Gesetz uns allen stellt: Wer trägt eigentlich die Verantwortung? Quellen / Stand der Recherche (Juli 2026) EU AI Act Check/Guide von Sarah; EU AI Act – Der Guide zur Kennzeichnungspflicht | Zukunftsskill   Europäische Kommission – AI Act Überblick: https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai Rat der EU – Einigung zur Vereinfachung (Digital Omnibus), 7. Mai 2026: https://www.consilium.europa.eu/en/press/press-releases/2026/05/07/artificial-intelligence-council-and-parliament-agree-to-simplify-and-streamline-rules/ Gibson Dunn – Omnibus: verschobene Hochrisiko-Deadlines: https://www.gibsondunn.com/eu-ai-act-omnibus-agreement-postponed-high-risk-deadlines-and-other-key-changes/ Beam.ai – GPAI-Durchsetzung & Bußgelder ab 2. August 2026: https://beam.ai/agentic-insights/eu-ai-act-enforcement-august-2-2026-gpai-fines Inside Global Tech (Covington) – neue Verbote & Zeitplan-Änderungen: https://www.insideglobaltech.com/2026/05/28/eu-ai-act-update-timeline-relief-targeted-simplification-and-new-prohibitions/ artificialintelligenceact.eu – High-level summary & Umsetzungszeitplan: https://artificialintelligenceact.eu/high-level-summary/ Die EU Icons: EU Icons for labelling AI-generated content | Shaping Europe’s digital future  Für Anregungen und mehr folgt uns gerne  🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai

  7. Jul 20

    #57 Warum Europas Startups im KI-Rennen nicht so chancenlos sind, wie alle denken. Interview mit Diana Nanova

    Diana Nanova ist Head of Customer Engineering für Startups und Scaleups in EMEA bei Google und sie denkt in Quantenphysik.Was nach Uni-Seminar klingt, ist ihr Werkzeug, um Entscheidungen unter Unsicherheit zu treffen. Genau darum geht's in dieser Folge. Wir sprechen darüber, welchen Fehler die meisten Startups bei der KI-Integration machen und was die Teams anders machen, die es wirklich draufhaben. Diana ordnet ein, ob Europa im KI-Wettbewerb mit den USA und Asien strukturell verliert oder ob wir unsere Stärken übersehen.  Wir waren live bei der Google IO vor Ort. Ihr könnt diesmal also zuhören und zuschauen.  LinkedIn Dr. Diana Nanova: Diana Nanova | LinkedIn   Für Anregungen und mehr folgt uns gerne  🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai

  8. Jul 12

    #56 Lokale KI, die stille Revolution beginnt auf deinem Rechner

    Lokale KI ist gerade überall Gesprächsthema, aber was steckt eigentlich dahinter. In dieser Folge sprechen wir über Modelle, die direkt auf dem eigenen Gerät laufen, ganz ohne Cloud und ganz ohne fremde Server. Wir schauen uns an, warum das für Datenschutz ein echter Gamechanger sein kann und wieso gerade Unternehmen mit sensiblen Daten davon profitieren. Gleichzeitig reden wir offen über die Grenzen. Hardware spielt eine große Rolle, Wartung kostet Zeit und nicht jedes Modell lässt sich einfach auf viele Geräte skalieren. Wir ordnen ein, für wen sich lokale KI aktuell wirklich lohnt und wo die Cloud weiterhin die bessere Wahl bleibt. Eine Folge für alle, die digitale Souveränität ernst nehmen und wissen wollen, wie viel Kontrolle über die eigenen Daten heute schon technisch möglich ist. Quellen: Erwähnte medizinische Studie Inken’s Guide für den Einstieg in lokale KI (Werbung) Infos zu GLM 5.2. Für Anregungen und mehr folgt uns gerne  🔗 Sarah’s Instagram: @sarah_rojewski 🔗 Inken’s Instagram: @askinkenai

See All (67)

About

In dieser ersten Staffel beschäftigen sich Inken & Sarah nicht nur mit neuesten technischen Entwicklungen, sondern um das, was KI wirklich mit uns als Gesellschaft macht. Unser Ziel: KI entmystifizieren, verständlich machen und eine echte Diskussion anregen – abseits von Sci-Fi-Klischees und Buzzword-Bingo. Für wen? Für alle, die sich fragen, wie KI unsere Welt verändert – egal ob Einsteiger oder Expert:innen. Eure Fragen & Gedanken Gestaltet den Podcast mit! Schreibt uns eure Themenvorschläge und diskutiert mit uns auf Social Media. Reboot Society – wir rebooten unsere Sicht auf die Zukunft! Inken: https://www.instagram.com/askinkenai/ Sarah: https://www.instagram.com/sarah_rojewski/

Information

You Might Also Like