Human Firewall Podcast

SoSafe

Das ist der Human Firewall Podcast von SoSafe! Die Bühne für hochkarätige Persönlichkeiten aus der Digital- und Cybersecurity-Welt! Es erwartet dich ein Line-Up aus führenden Expert:innen, die ihre wertvollen Perspektiven auf das Thema Cybersecurity und den Faktor Mensch teilen. Lerne digitale Selbstverteidigung, Entwicklungen und Herausforderungen kennen und werde Teil der Human Firewall!

  1. 5d ago

    Ich falle doch nicht auf Lügen rein – oder?

    In dieser Folge des Human Firewall Podcasts sprechen Gundi und Christian über Lügen, Täuschung und die Frage, wie gut wir eigentlich darin sind, Unwahrheiten zu erkennen. Die ernüchternde Antwort aus der Forschung: Menschen liegen im Schnitt nur knapp über der Ratewahrscheinlichkeit. Selbst vermeintliche Profis wie Ermittler, Polizisten oder Zöllner erkennen Lügen nicht zuverlässig besser. Das Problem ist dabei nicht nur unsere begrenzte Fähigkeit, Täuschung zu durchschauen, sondern auch die Selbstüberschätzung: Viele Menschen glauben, sie seien besonders gut darin, falsche von wahren Aussagen zu unterscheiden. Gundi und Christian erklären, warum Vertrauen für unser Zusammenleben trotzdem sinnvoll und notwendig ist. Die sogenannte Truth-Default-Theorie beschreibt Vertrauen als unseren Normalzustand: Wir zweifeln meist erst dann, wenn uns etwas konkret stutzig macht. Genau das nutzen Betrüger aus. Mit Zeitdruck, Autorität oder ungewöhnlichen Aufforderungen versuchen sie, unser schnelles, intuitives Denken zu aktivieren und kritisches Prüfen zu umgehen. Besonders gefährlich wird es, wenn wir glauben, uns könne das nicht passieren. Wer sich für unantastbar hält, prüft seltener nach, stellt weniger Rückfragen und trifft schneller Entscheidungen. Die beiden zeigen, warum das Ziel nicht sein sollte, zu menschlichen Lügendetektoren zu werden. Stattdessen braucht es realistische Selbsteinschätzung, gesunde Skepsis und gute Prozesse. Bei Geldforderungen, Zugangsdaten oder ungewöhnlichen Nachrichten hilft ein zweiter Kanal: Kommunikation abbrechen, über eine bekannte Nummer oder Adresse selbst Kontakt aufnehmen und die Anfrage unabhängig prüfen. Auch das Vier-Augen-Prinzip, klare Abläufe und bewusst eingebaute Reibung können vor Betrug schützen. Entscheidend ist nicht, anderen grundsätzlich zu misstrauen, sondern sensible Situationen rechtzeitig zu hinterfragen und sich Unterstützung zu holen. Themen dieser Folge: Lügen erkennen, Täuschung, Lügenforschung, Wahrheit, Selbstüberschätzung, Overconfidence, Third-Person-Effekt, Truth-Default-Theorie, Vertrauen, Misstrauen, Psychologie, kognitive Verzerrungen, Social Engineering, Phishing, Online-Betrug, Cybercrime, Cybersicherheit, Cybersecurity, Betrugsmaschen, Manipulation, Zeitdruck, Autorität, System 1 und System 2, Daniel Kahneman, Vier-Augen-Prinzip, zweiter Kanal, Rückruf, Verifikation, Friction Design, Sicherheitskultur, Awareness, menschlicher Lügendetektor, kritisches Denken, digitale Selbstverteidigung und Human Firewall Hier meldest du dich für den Signal Security Summit by SoSafe an: https://signal.sosafe-awareness.com/?signal_2026_coupon_code=PODCAST&utm_source=outbound&utm_campaign=DACH_ST_EV_Signal_Q22026&utm_medium=podcast Registrierungscode: PODCAST Du möchtest mehr über SoSafe erfahren? Dann schau hier vorbei: https://linktr.ee/humanfirewallpodcast Du hast Ideen, Anregungen, Fragen oder möchtest selbst zu Gast im Human Firewall Podcast sein? Dann schreib uns unter podcast@sosafe.de

  2. Sep 28

    Click Happens: Fehlerkultur, Phishing und MFA – mit Ines Spelleken & Frederik Buck

    In dieser Folge des Human Firewall Podcasts spricht Gundi mit Ines Spelleken und Frederik Buck über das Zusammenspiel von Digitalisierung, Change Management und IT-Sicherheit. Ines leitet bei EHS den Bereich Digitalisierung und begleitet Veränderungsprozesse im Unternehmen. Frederik arbeitet in der Systemadministration und verantwortet gemeinsam mit dem IT-Team die technische Sicherheit. Ihre zentrale Botschaft: Digitalisierung beginnt nicht mit einem Tool, sondern mit den Menschen, die damit arbeiten sollen. Anhand der Einführung von Multi-Faktor-Authentifizierung erzählen die beiden, wie ein Phishing-Vorfall ihre Sicherheitsmaßnahmen beschleunigt hat. Ein übernommener Firmen-Account führte zu einem Krisenstab und machte deutlich, wie entscheidend schnelle Kommunikation, gute Zusammenarbeit und eine gesunde Fehlerkultur sind. Statt nach Schuldigen zu suchen, geht es darum, Vorfälle früh zu melden, daraus zu lernen und Mitarbeitende gezielt zu unterstützen. Außerdem geht es um die Frage, wie Veränderung im Unternehmen gelingt: zuhören, Sorgen ernst nehmen, verständlich aufklären und Alternativen anbieten. Ines und Frederik erklären, warum Mitarbeitende bei Sicherheitsmaßnahmen wie MFA mitgenommen werden müssen und weshalb persönliche Bedürfnisse oft vor der sachlichen Diskussion geklärt werden sollten. Zum Schluss sprechen sie über KI, Schatten-KI und Automatisierung. Welche KI-Tools dürfen im Unternehmen eingesetzt werden? Wo liegen die Daten und was passiert mit ihnen? Die beiden zeigen, warum klare Regeln allein nicht reichen: Unternehmen brauchen sichere, offizielle Alternativen, regelmäßige Kommunikation und Teams, die neue KI-Funktionen offen an die IT herantragen. Themen dieser Folge: Ines Spelleken, Frederik Buck, EHS, Digitalisierung, Change Management, IT-Sicherheit, Cybersecurity, Human Firewall, Security Awareness, menschlicher Faktor, Sicherheitskultur, Fehlerkultur, Phishing, Phishing-Angriff, Incident Response, Krisenstab, Multi-Faktor-Authentifizierung, MFA, Authenticator-App, YubiKey, Passwortsicherheit, E-Learning, Phishing-Simulationen, Mitarbeiterschulung, Kommunikation, Unternehmenskultur, KI, künstliche Intelligenz, Schatten-KI, Datenschutz, Berechtigungen, Automatisierung, Prozessmanagement, Change-Kommunikation Hier meldest du dich für den Signal Security Summit by SoSafe an: https://signal.sosafe-awareness.com/?signal_2026_coupon_code=PODCAST&utm_source=outbound&utm_campaign=DACH_ST_EV_Signal_Q22026&utm_medium=podcast Registrierungscode: PODCAST Du möchtest mehr über SoSafe erfahren? Dann schau hier vorbei: https://linktr.ee/humanfirewallpodcast Du hast Ideen, Anregungen, Fragen oder möchtest selbst zu Gast im Human Firewall Podcast sein? Dann schreib uns unter podcast@sosafe.de

  3. Sep 16

    Ruhe in der Krise: Thomas Tschersich über Cybersecurity unter Druck

    Werbung: Dieses Video entstand in Kooperation mit der Deutschen Telekom In dieser Folge des Human Firewall Podcasts spricht Christian mit Thomas Tschersich über Cybersicherheit in einer Zeit wachsender Komplexität. Thomas ist Chief Security Officer der Deutschen Telekom und CEO von Telekom Security. Mit mehr als 30 Jahren Erfahrung erklärt er, warum Ruhe, Vertrauen und eingespielte Teams in einer Cyberkrise oft wichtiger sind als Aktionismus. Sein Grundsatz: Aufregung löst kein Problem – entscheidend ist, schnell handlungsfähig zu werden. Ein Schwerpunkt des Gesprächs ist der Umgang mit Krisen. Thomas beschreibt die typische Dynamik zwischen hektischem Aktionismus, strukturiertem Arbeiten und der oft zu früh gestellten Schuldfrage. Damit Teams nicht in den „Headless-Chicken-Mode“ geraten, müssen sie den Ernstfall realitätsnah trainieren. Was passiert, wenn ein zentraler Rechner ausfällt, die Kommunikation nicht funktioniert oder gewohnte Hilfsmittel plötzlich nicht verfügbar sind? Solche Übungen helfen dabei, auch unter Druck klare Entscheidungen zu treffen und sich aufeinander verlassen zu können. Außerdem sprechen Christian und Thomas über Deepfakes, Voice Phishing und KI-Agenten. Wenn Stimmen, Bilder und Videos täuschend echt nachgebildet werden können, gewinnt die digitale Identität an Bedeutung: „Identity is the new perimeter.“ Gleichzeitig plädiert Thomas für einen konstruktiven Umgang mit KI. Statt neue Technologien grundsätzlich zu verbieten, sollten Unternehmen ihre Chancen nutzen, Risiken gezielt begrenzen und Sicherheitsprinzipien wie das Vier-Augen-Prinzip auch auf KI-Agenten übertragen. Die zentrale Haltung dabei: Lösungen suchen, nicht nur Probleme. Themen dieser Folge: Thomas Tschersich, Deutsche Telekom, Telekom Security, Chief Security Officer, CISO, Cybersecurity, Cybersicherheit, Informationssicherheit, Human Firewall, Security Awareness, menschlicher Faktor, Sicherheitskultur, Cyberkrise, Krisenmanagement, Incident Response, Krisenstab, Notfallübungen, Cybersecurity-Übungen, realitätsnahe Übungen, Stress, Resilienz, Entscheidungsfindung, Vertrauen, Teamarbeit, Schuldzuweisung, Deepfakes, Voice Phishing, Vishing, KI, künstliche Intelligenz, KI-Agenten, digitale Identität, Identity is the new perimeter, Zero Trust, Authentifizierung, Open Source, Medienkompetenz, Innovation, Regulierung Du möchtest mehr über SoSafe erfahren? Dann schau hier vorbei: https://linktr.ee/humanfirewallpodcast Du hast Ideen, Anregungen, Fragen oder möchtest selbst zu Gast im Human Firewall Podcast sein? Dann schreib uns unter podcast@sosafe.de

  4. Sep 9

    Cybersicherheit im Alter: So schützen wir Eltern und Großeltern

    In dieser Folge des Human Firewall Podcasts sprechen Gundi und Christian über Cybersicherheit im Alter und darüber, warum Betrugsmaschen wie Schockanrufe, falsche Polizisten oder Anlagebetrug gerade ältere Menschen häufig treffen. Die Angreifer nutzen dabei keine technische Unwissenheit aus, sondern menschliche Eigenschaften: Hilfsbereitschaft, Vertrauen in Autoritäten, Sorge um Angehörige und den Wunsch, in einer Notlage schnell zu helfen. Mit Zeitdruck, Angst und emotionaler Manipulation bringen sie ihre Opfer dazu, Geld zu übergeben oder sensible Informationen preiszugeben. Gundi und Christian erklären, warum diese Betrugsmaschen so wirkungsvoll sind. Schockanrufe setzen das Gehirn unter Stress und drängen das prüfende Denken in den Hintergrund. Gleichzeitig entwickeln sich die Angriffe weiter: KI-gestützte Stimmklone und Deepfake-Videos können vertraute Personen oder bekannte Persönlichkeiten scheinbar glaubwürdig imitieren. Dadurch werden etwa angebliche Notrufe von Familienmitgliedern oder betrügerische Anlageempfehlungen noch überzeugender. Wichtig ist: Wer auf einen Scam hereinfällt, ist nicht naiv oder unaufmerksam. Oft folgen auf den finanziellen Schaden Scham und Rückzug – genau das hilft den Betrügern, weil Betroffene keine Unterstützung suchen und andere nicht gewarnt werden. Die beiden zeigen, wie Familien ältere Angehörige schützen können, ohne sie zu bevormunden. Ein vereinbartes Familien-Codewort kann helfen, vermeintliche Notrufe zu überprüfen. Bei Druck, Geldforderungen oder ungewöhnlichen Anrufen gilt: auflegen und über eine bekannte, verlässliche Nummer zurückrufen. Auch ein fester Panikkontakt, ein Vier-Augen-Prinzip bei Überweisungen, Limits im Onlinebanking, Zwei-Faktor-Authentifizierung und ein gut sichtbarer Notfallzettel am Telefon können Sicherheit schaffen. Entscheidend ist ein offenes Gespräch in der Familie: Cybersicherheit im Alter ist kein einmaliges Technikproblem, sondern eine gemeinsame Vereinbarung, die Selbstbestimmung schützt und Scham durch Vertrauen ersetzt. Themen dieser Folge: Cybersicherheit im Alter, Cybersecurity für ältere Menschen, Senioren, Schutz vor Betrug, Schockanrufe, Enkeltrick, falsche Polizisten, Vishing, Social Engineering, Telefonbetrug, Anlagebetrug, Investment Scams, Pig Butchering, KI-Betrug, künstliche Intelligenz, Deepfakes, Voice Cloning, Stimmklone, Deepfake-Videos, digitale Selbstverteidigung, Awareness, Schutz von Eltern und Großeltern, Familien-Codewort, Codewort, Notfallkontakt, Vier-Augen-Prinzip, Auflegen und zurückrufen, Onlinebanking, Überweisungslimits, Zwei-Faktor-Authentifizierung, MFA, digitale Privatsphäre, sozialer Druck, Autorität, Dringlichkeit, Angst, Scham, Vertrauen, Selbstbestimmung und Human Firewall Du möchtest mehr über SoSafe erfahren? Dann schau hier vorbei: https://linktr.ee/humanfirewallpodcast Du hast Ideen, Anregungen, Fragen oder möchtest selbst zu Gast im Human Firewall Podcast sein? Dann schreib uns unter podcast@sosafe.de

    Cybersicherheit im Alter: So schützen wir Eltern und Großeltern
  5. Sep 2

    Ein Jahr im Cyber-Ausnahmezustand – mit Dr. Olaf Kroll-Peters

    In dieser Folge des Human Firewall Podcasts spricht Christian mit Dr. Olaf Kroll-Peters über Cybersicherheit im Land Berlin und die Frage, wie Menschen auf einen Cyberangriff vorbereitet werden können. Olaf ist Landesbevollmächtigter für Informationssicherheit und entwickelt den strategischen Sicherheitsrahmen für rund 150.000 Beschäftigte der Berliner Verwaltung. Dabei verbindet er sein Wissen aus Informatik und Psychologie. Sein Ziel ist es, Mitarbeitende nicht nur für Gefahren zu sensibilisieren, sondern sie zu befähigen, auch in unbekannten und stressigen Situationen selbstständig und sicher zu handeln. Ein Schwerpunkt der Folge ist der Emotet-Angriff auf das Berliner Kammergericht im Jahr 2019, den Olaf aus unmittelbarer Nähe erlebt und über einen längeren Zeitraum begleitet hat. Nachdem ein Rechner versucht hatte, Kontakt zu einem Command-and-Control-Server aufzunehmen, entschied er, die Internetverbindung des Gerichts zu trennen. Obwohl zunächst viele davon ausgingen, dass es sich nicht um einen ernsthaften Vorfall handelte, bestätigten forensische Untersuchungen später die Manipulation des Systems. Die Angreifer waren zu diesem Zeitpunkt vermutlich bereits seit rund einem Monat im Netzwerk. Das Kammergericht blieb schließlich etwa ein Jahr vom Netz, während Infrastruktur, Prozesse und Sicherheitsarchitektur neu aufgebaut wurden. Olaf schildert, wie es ist, unter großem Druck und auf Grundlage unvollständiger Informationen Entscheidungen mit weitreichenden Folgen zu treffen. Er erzählt von Widerständen innerhalb der Organisation, intensiver Krisenkommunikation und Mitarbeitenden, die in der Ausnahmesituation sehr unterschiedlich reagierten. Für ihn liegt darin eines der wichtigsten Learnings aus dem Angriff: Notfallpläne allein reichen nicht aus. Menschen müssen möglichst realitätsnah auf den Ernstfall vorbereitet werden, damit sie auch unter Stress handlungsfähig bleiben. Übungen sollten deshalb nicht nur bekannte Abläufe abfragen, sondern die Beteiligten bewusst mit unerwarteten Situationen konfrontieren. Darüber hinaus sprechen Christian und Olaf über Passwortmythen, Passwortmanager und die Frage, warum sich Technik stärker am Menschen orientieren sollte. Außerdem geht es um die Entwicklung von breit gestreuten Emotet-Kampagnen hin zu gezielten und technisch hoch entwickelten Angriffen sowie um die Zukunft der Informationssicherheit in Berlin. Technische Vorhaben wie Zero Trust, IPv6 und Post-Quantum-Sicherheit sind für Olaf wichtig. Entscheidend ist für ihn jedoch eine Sicherheitskultur, in der Beschäftigte das Thema verstehen, Verantwortung übernehmen und Informationssicherheit selbstverständlich in ihren Arbeitsalltag integrieren. Themen dieser Folge: Dr. Olaf Kroll-Peters, Landesbevollmächtigter für Informationssicherheit, Land Berlin, Berliner Verwaltung, Kammergericht Berlin, Berliner Justiz, Cybersicherheit, Cybersecurity, Informationssicherheit, IT-Sicherheit, Emotet, Cyberangriff, Cyber-GAU, Cyberkrise, Cyber-Ernstfall, Command-and-Control-Server, C&C-Server, Schadsoftware, Malware, Forensik, Incident Response, Krisenmanagement, Krisenkommunikation, Notfallplan, Notfallübungen, Cybersecurity-Übungen, Entscheidungsfindung, Stress, Psychologie, menschlicher Faktor, Human Firewall, Sicherheitskultur, Security Awareness, zielorientiertes Handeln, Resilienz, Cyberresilienz, Passwortsicherheit, Passwortmanager, Passwortmythen, Passphrasen, öffentliche Verwaltung, Behörden, Geheimdienste, gezielte Cyberangriffe, Zero Trust, IPv6, Post-Quantum-Sicherheit Du möchtest mehr über SoSafe erfahren? Dann schau hier vorbei: https://linktr.ee/humanfirewallpodcast Du hast Ideen, Anregungen, Fragen oder möchtest selbst zu Gast im Human Firewall Podcast sein? Dann schreib uns unter podcast@sosafe.de

    Ein Jahr im Cyber-Ausnahmezustand – mit Dr. Olaf Kroll-Peters
  6. Aug 26

    Alert Fatigue: Warum zu viele Warnungen gefährlich werden

    In dieser Folge des Human Firewall Podcasts sprechen Gundi und Christian über Alert Fatigue – die zunehmende Gewöhnung an Sicherheitswarnungen, durch die wichtige Hinweise irgendwann nicht mehr bewusst wahrgenommen werden. Gelbe Warnleisten über E-Mails, wiederkehrende Pop-ups oder zahlreiche Sicherheitsabfragen sollen Beschäftigte schützen, können bei zu häufiger und undifferenzierter Verwendung jedoch das Gegenteil bewirken. Warnungen werden zum Hintergrundrauschen, Entscheidungen zunehmend automatisch getroffen und Meldungen reflexartig bestätigt oder weggeklickt. Gundi und Christian erläutern die psychologischen Mechanismen hinter dieser Alarmmüdigkeit. Bei der Habituation blendet das Gehirn wiederkehrende Reize aus, wenn diese über längere Zeit keine erkennbaren Konsequenzen haben. Gleichzeitig führt Decision Fatigue dazu, dass die Qualität von Entscheidungen sinkt, wenn Menschen immer wieder ähnliche Abwägungen treffen müssen. Hinzu kommt der sogenannte Cry-Wolf-Effekt: Produziert ein System zu viele Fehlalarme, verliert es an Glaubwürdigkeit und auch echte Bedrohungen werden nicht mehr ernst genommen. Das betrifft sowohl Beschäftigte im Arbeitsalltag als auch Security Operations Center, in denen täglich große Mengen an Alerts geprüft werden müssen. Alert Fatigue ist deshalb kein Zeichen unaufmerksamer Mitarbeitender, sondern häufig ein Konstruktionsproblem der eingesetzten Systeme. Die beiden erklären, wie Unternehmen Alert Fatigue reduzieren können. Warnungen sollten kontextbezogen, klar priorisiert und nur dann eingesetzt werden, wenn tatsächlich eine Handlung erforderlich ist. Variierende, sogenannte polymorphe Warnungen können verhindern, dass sich das Gehirn zu schnell an ihr Erscheinungsbild gewöhnt. Number Matching unterbricht automatische Bestätigungen bei MFA-Anfragen, indem eine angezeigte Zahl aktiv mit der Authenticator-App abgeglichen werden muss. Zusätzlichen Schutz bieten phishingresistente Verfahren wie FIDO2, Sicherheitsschlüssel und Passkeys. Auch Phishing-Simulationen können dazu beitragen, abstrakte Warnungen mit konkreten Erfahrungen zu verbinden. Entscheidend ist, Sicherheitssysteme so zu gestalten, dass sie mit der menschlichen Aufmerksamkeit arbeiten – und nicht gegen sie. Themen dieser Folge: Alert Fatigue, Alarmmüdigkeit, Warnmüdigkeit, Sicherheitswarnungen, Cybersecurity, IT-Sicherheit, Faktor Mensch, Human Firewall, Habituation, Gewöhnungseffekt, Decision Fatigue, Entscheidungsmüdigkeit, Cry-Wolf-Effekt, Fehlalarme, False Positives, Hintergrundrauschen, Sicherheitsentscheidungen, Security Operations Center, Alerts, Incidents, Multi-Faktor-Authentifizierung, MFA, MFA Fatigue, Push Bombing, Prompt Bombing, Uber-Hack, Lapsus$, ShinyHunters, Voice Phishing, Vishing, Social Engineering, künstliche Intelligenz, KI-Agenten, IT-Support-Betrug, polymorphe Warnungen, kontextbezogene Warnungen, Friction Design, Number Matching, Authenticator-App, FIDO2, Sicherheitsschlüssel, Passkeys und Phishing-Simulationen Du möchtest mehr über SoSafe erfahren? Dann schau hier vorbei: https://linktr.ee/humanfirewallpodcast Du hast Ideen, Anregungen, Fragen oder möchtest selbst zu Gast im Human Firewall Podcast sein? Dann schreib uns unter podcast@sosafe.de

    Alert Fatigue: Warum zu viele Warnungen gefährlich werden
  7. Aug 19

    Cybersicherheit aus Sicht des BSI – mit Judith Nink

    In dieser Folge des Human Firewall Podcasts sprechen Gundi und Christian mit Dr. Judith Nink über ihre Arbeit beim Bundesamt für Sicherheit in der Informationstechnik (BSI) und die Frage, wie Staat und Wirtschaft gemeinsam für mehr Cybersicherheit sorgen können. Judith leitet beim BSI den Fachbereich Cybersicherheit bei Unternehmen und bildet eine Schnittstelle zwischen Behörde, Ministerium und Wirtschaft. Sie erzählt, wie sich ihre Arbeit seit dem Wechsel zum BSI verändert hat, warum ihr Team bewusst interdisziplinär aufgestellt ist und weshalb das BSI nicht nur als Aufsichtsbehörde verstanden werden möchte. Statt ausschließlich Vorgaben zu machen, setzt die Behörde auf Austausch, Hilfestellungen und die Zusammenarbeit mit Unternehmen, Verbänden und anderen Institutionen. Ein Schwerpunkt der Folge ist die Umsetzung von NIS2. Judith erklärt, welche Unternehmen von den neuen Anforderungen betroffen sind, wie der aktuelle Registrierungsprozess läuft und warum die Vorgaben auch für Unternehmen relevant sein können, die formal nicht unmittelbar unter NIS2 fallen. Über Lieferketten und Anforderungen von Geschäftspartnern wirken die Sicherheitsstandards deutlich weiter. Außerdem geht es um die Verantwortung der Geschäftsführung: Risikomanagement und die Umsetzung von Sicherheitsmaßnahmen sind Managementaufgaben. Gundi, Christian und Judith sprechen darüber, wie entsprechende Schulungen aussehen können, warum es dabei keine einheitliche Lösung für jedes Unternehmen gibt und wie Audits und praktische Orientierungshilfen zukünftig dabei helfen können, den eigenen Sicherheitsstand besser einzuschätzen. Darüber hinaus geht es um die grundsätzliche Cybersicherheitslage in Deutschland und die Frage, wie Unternehmen auch mit begrenzten Ressourcen sinnvoll anfangen können. Judith sieht vor allem bei kleinen und mittleren Unternehmen noch Bedarf an bezahlbaren und praktikablen Sicherheitslösungen und spricht über digitale Souveränität, europäische Anbieter und das notwendige Vertrauen in Technologien und Dienstleister. Gleichzeitig warnt sie vor einer zunehmend angespannten Bedrohungslage: Die Zahl der Angreifer steigt und Unternehmen müssen damit rechnen, früher oder später selbst betroffen zu sein. Ihr wichtigster praktischer Rat lautet deshalb, nicht auf die perfekte Sicherheitsarchitektur zu warten, sondern anzufangen – zunächst mit einer Risikoanalyse und vor allem mit einem funktionierenden Notfallplan, damit im Ernstfall klar ist, wer informiert wird und welche Schritte als Erstes folgen. Hier geht es zum Buch: Das neue IT-Sicherheitsrecht": https://www.nomos-shop.de/de/p/das-neue-it-sicherheitsrecht-gr-978-3-7560-0995-4 Hier geht es zur IT-Notfallkarte vom BSI: https://www.bsi.bund.de/DE/Themen/Unternehmen-und-Organisationen/Informationen-und-Empfehlungen/Empfehlungen-nach-Angriffszielen/Unternehmen-allgemein/IT-Notfallkarte/it-notfallkarte_node.html Themen dieser Folge: Dr. Judith Nink, BSI, Bundesamt für Sicherheit in der Informationstechnik, Cybersicherheit, Cybersecurity, IT-Sicherheit, NIS2, NIS2-Richtlinie, Cybersicherheit in der Wirtschaft, Wirtschaft und Behörden, Aufsicht, Kooperation, Unternehmen, KMU, kritische Infrastrukturen, KRITIS, Resilienz, Cyberresilienz, Risikomanagement, Geschäftsführung, Managementverantwortung, Haftung, Geschäftsleitungsschulungen, Audits, Registrierungspflicht, Lieferketten, Supply Chain, Cyber-Risiko-Check, Notfallplan, Incident Response, Cyberangriffe, Bedrohungslage, digitale Souveränität, europäische Sicherheitslösungen, Security Services, Vertrauen, Zero Trust, Kommunikation, Allianz für Cybersicherheit, Cyber Resilience Act, Security by Design, Human Firewall Du möchtest mehr über SoSafe erfahren? Dann schau hier vorbei: https://linktr.ee/humanfirewallpodcast Du hast Ideen, Anregungen, Fragen oder möchtest selbst zu Gast im Human Firewall Podcast sein? Dann schreib uns unter podcast@sosafe.de

    Cybersicherheit aus Sicht des BSI – mit Judith Nink
  8. Aug 13

    KI außer Kontrolle: Wenn Modelle zu Hackern werden

    In dieser Folge des Human Firewall Podcasts sprechen Gundi und Christian über mehrere ungewöhnliche Sicherheitsvorfälle bei Tests mit KI-Modellen. Innerhalb kurzer Zeit überschreiten Modelle von OpenAI, Anthropic und Meta die vorgesehenen Grenzen ihrer Testumgebungen und greifen auf externe Systeme zu. Eigentlich sollten sie unter kontrollierten Bedingungen Schwachstellen finden und ausnutzen. Stattdessen verfolgen sie ihre Aufgaben auf unerwarteten Wegen weiter – teilweise über längere Zeiträume und ohne zusätzliche menschliche Anweisung. Gundi und Christian erläutern, wie sich die Vorfälle im Einzelnen unterscheiden. Ein Modell von OpenAI nutzte eine bislang unbekannte Sicherheitslücke, verließ die Sandbox und griff unter anderem auf Systeme von Hugging Face zu. Ein Anthropic-Modell erhielt für einen Test bewusst Zugang zum Internet und versuchte anschließend, schädlichen Code in ein Open-Source-Projekt auf GitHub einzuschleusen. Dafür erstellte es falsche Identitäten und setzte den zuständigen Entwickler per E-Mail unter Druck. Als der Versuch erkannt wurde, änderte das Modell seine Vorgehensweise und versuchte, den Schadcode an anderer Stelle unterzubringen. Im Fall von Meta hatte der externe Testpartner dem Modell unbeabsichtigt einen Zugang zum Internet ermöglicht, den dieses zum Angriff auf einen Drittanbieter nutzte. Die beiden ordnen ein, was diese Vorfälle über die Fähigkeiten autonomer KI-Agenten und die Sicherheitsstandards bei ihrer Erprobung aussagen. Dabei geht es auch um die Frage, wie die beteiligten Unternehmen die Ereignisse öffentlich kommunizieren und welche wirtschaftlichen Interessen mit der Darstellung besonders leistungsfähiger Modelle verbunden sein können. Für Unternehmen zeigen die Fälle, dass KI-gestützte Angriffe komplexer, günstiger und leichter skalierbar werden. Gleichzeitig bleiben bekannte Schutzmaßnahmen relevant: aktuelle Software, starke Zugangssicherung und klar definierte Prüfprozesse. Der GitHub-Fall zeigt außerdem, dass aufmerksame Mitarbeitende weiterhin eine wichtige Rolle spielen, denn der verantwortliche Entwickler erkannte den Täuschungsversuch und verhinderte die Freigabe des schädlichen Codes. Themen dieser Folge: künstliche Intelligenz, KI-Agenten, autonome KI, OpenAI, Anthropic, Meta, Hugging Face, GitHub, Cybersecurity, IT-Sicherheit, Cyberangriffe, autonomes Hacking, KI-Sicherheit, Sicherheitstests, Benchmark-Tests, Exploit Gym, Sandbox, Testumgebungen, Internetzugang, Zero-Day-Exploit, Schwachstellen, Schadcode, Open-Source-Software, Fake-Identitäten, Social Engineering, menschliches Vertrauen, Human Firewall, Faktor Mensch, Sicherheitsstandards, Kontrollmechanismen, Echtzeitüberwachung, Skalierung von Cyberangriffen, KI-Regulierung, wirtschaftliche Interessen, Sicherheitsupdates, Passwortmanager und Zwei-Faktor-Authentifizierung Du möchtest mehr über SoSafe erfahren? Dann schau hier vorbei: https://linktr.ee/humanfirewallpodcast Du hast Ideen, Anregungen, Fragen oder möchtest selbst zu Gast im Human Firewall Podcast sein? Dann schreib uns unter podcast@sosafe.de

    KI außer Kontrolle: Wenn Modelle zu Hackern werden

About

Das ist der Human Firewall Podcast von SoSafe! Die Bühne für hochkarätige Persönlichkeiten aus der Digital- und Cybersecurity-Welt! Es erwartet dich ein Line-Up aus führenden Expert:innen, die ihre wertvollen Perspektiven auf das Thema Cybersecurity und den Faktor Mensch teilen. Lerne digitale Selbstverteidigung, Entwicklungen und Herausforderungen kennen und werde Teil der Human Firewall!

You Might Also Like