House of Nerds Oliver Küch, Anna Spiegel

Die ATHENE-Expertin für Textforensik, Inna Vogel, nimmt die House of Nerds-Hosts mit in die Untiefen des Internets. In dieser Shorts-Folge spricht sie mit uns über ihre Forschung zu Fake News, wie Menschen langsam abrutschen und immer tiefer in den Strudel von Desinformationen abtauchen -- und was dagegen hilft. Sie stellt ihr selbst entwickeltes "Check Worthiness Tool" vor, das ein erster Schritt in einer automatisierten Erkennung von Desinformation sein kann. Innas zweites großes Thema sind Scams, also Betrugsmaschen aller Art. Diese sind mit generativer KI jetzt viel einfacher professionell durchzuführen -- ob als klassische Phishingmail, die mithilfe von Text-KI jetzt rechtschreibsicher daherkommt, als Enkeltrick mit Voice Cloning oder Romeo-Scam mit KI-generiertem Video. Wer sich spezialisieren möchte, kann sogar Tutorials für verschiedene Plattformen schauen: Wie werde ich Kleinanzeigen-, Zalando- oder Amazon-Scammer? Inna verrät uns außerdem, was ihre Lieblings-Telegramgruppe ist, warum ihre Forschung für sie persönlich immer noch einen großen Reiz ausmacht und sie angesichts der Fake-Scam-Flut nicht desillusioniert ist. Zum Schluss gibt sie einen Ausblick, wie Menschen gegenüber Scams, Fakes und Co. resilienter werden können.

--
Paper und kurzes Erklärvideo über Hilfe gegen Desinformation auf Tiktok: "From Adolescents' Eyes: Assessing an Indicator-Based Intervention to Combat Misinformation on TikTok" -- Katrin Hartwig, Christian Reuter et al, PEASEC (Wissenschaft und Technik für Frieden und Sicherheit) https://peasec.de/2024/chi24-tiktok/

Einblick in Inna Vogels Forschung: https://www.sit.fraunhofer.de/de/disco/

In der zweiten Ausgabe von HoN Shorts haben Oliver und Anna im Aufnahmen-Archiv gewühlt und ein paar unveröffentlichte Schätze aus einem Gespräch mit Prof. Sebastian Schinzel gefunden. Sebastian und sein Team haben eine recht spektakuläre Lücke in den Verschlüsselungsprotokollen S/MIME und PGP gefunden, Efail. Auf die Veröffentlichung von Efail hin gab es viele für ihn überraschend emotionale Reaktionen, sowohl aus der Community als auch aus der Presse. Sebastian Schinzel berichtet uns, was er daraus für Lehren für seine Wissenschaftskommunikation gezogen hat. Er spricht mit uns auch über technische Einzelheiten der Lücke und Verschlüsselung im Allgemeinen, warum Messengerdienste vom Prinzip her sicherer sind als E-Mails - und welche Mail bei ihm ausgedruckt und eingerahmt im Büro hängt.

Mehr Infos zur Lücke: https://efail.de/

Was kann generative KI heute schon alles, und was wird in nächster Zeit zu erwarten sein von ChatGPT, Gemini, Midjourney und Co.? ATHENE-Experte für Media Security und IT-Forensik, Prof. Dr. Martin Steinebach, gibt im "House of Nerds" einen Überblick über den aktuellen State of the Art und zeigt, in welchen Bereichen KI inzwischen eine Rolle spielt, beispielsweise in der Geldwäsche-Erkennung. Martin Steinebach spricht mit uns auch über Probleme und Gefahren, die mit KI einhergehen, oder durch KI potenziert werden - im Superwahljahr 2024 ist das besonders Desinformation, also Fake News und deren Verbreitung.

Lassen sich diese KI-generierten Inhalte inzwischen zuverlässig erkennen? Martin Steinebach erklärt uns, welche technischen Ansätze es gibt, um künstlich erzeugte Inhalte zu erkennen, wie verlässlich diese sind, und wie sich diese Ansätze auch wieder aushebeln lassen. Außerdem verrät er, wann er selbst privat KI-Werkzeuge nutzt und wie ihn das bei seinem Hobby, der Musikproduktion, unterstützt.


Shownotes:

CV von Martin Steinebach https://www.sit.fraunhofer.de/steinebach/

Projekt Dynamo - Fake News in Messengerdiensten erkennen und bekämpfen: https://www.sit.fraunhofer.de/dynamo/

Forschung zu KI und KI-Erkennung im Forschungszentrum ATHENE: https://senpai.athene-center.de/

Musik von Martin Steinebach: https://www.discogs.com/artist/515762-Martin-Steinebach

Auf ihren Schultern lastet die IT-Sicherheit Deutschlands: Claudia Plattner ist zu Besuch im House of Nerds. Die Präsidentin des Bundesamts für Sicherheit in der Informationstechnologie (BSI) spricht mit uns über ihre Pläne, Deutschland zur Cybernation zu entwickeln, welche Herausforderungen in der Realität dies schwierig machen und wie deutsche Forschungseinrichtungen dabei unterstützen können. Sie gibt uns Tipps, wie man (= das BSI) in Zeiten des IT-Fachkräftemangels personellen Nachwuchs gewinnen kann - Spoiler: Das Gehalt ist es nicht. Außerdem unterhalten wir uns mit Claudia Plattner über ihre Rolle als Führungskraft, wie sie mit Druck umgeht und warum sie für eine Frauenquote in der IT ist. Zum Schluss verrät sie uns noch, in welcher Sprache sie am liebsten programmiert und wie viel Nerd in ihr steckt.

Shownotes:
Cybernation Deutschland: Nicht meckern, machen - Claudia Plattner im Tagesspiegel Background https://background.tagesspiegel.de/cybersecurity/cybernation-deutschland-nicht-meckern-machen

Hacker School, gemeinnützige Organisation, die Programmierkurse für Kinder und Jugendliche anbietet: https://hacker-school.de/

Wie setzt man eine gute Visualisierung von Datenverkehr um, und wofür ist es überhaupt gut, dass man visuelle Elemente in der Cybersicherheit einsetzt? Alex Ulmer, Visual-Analytics-Experte am Fraunhofer-Institut für Graphische Datenverarbeitung IGD bespricht mit uns, wieso seine Arbeit viel mehr ist als eine Benutzeroberfläche „hübsch machen“, warum selbst für Expert*innen eine visuelle Unterstützung in der Datenanalyse hilfreich sein kann – und wieso Kuchendiagramme aus Forschungssicht nicht besonders gut funktionieren. Alex Ulmer stellt außerdem ein paar Tools im House of Nerds vor, u.a. Transparency Vis. Das Tool gibt einen Überblick darüber, welche Daten Facebook, Google und Co. von und über ihre Nutzenden sammeln. Damit kann jede*r, auch interessierte Zuhörer*innen von House of Nerds, ihre persönlichen Daten visualisieren und besser verstehen, was man daraus für Informationen ziehen kann.

Shownotes:
NetCapVis, Visual Analytics von Netzwerkdatenverkehr: https://netcapvis.igd.fraunhofer.de/

TransparencyVis – visualisiert persönliche Datenexperte von verschiedenen Online-Diensten: https://transparency-vis.vx.igd.fraunhofer.de/

Publikationsliste von Alex Ulmer: https://www.igd.fraunhofer.de/de/institut/mitarbeitende/alex-ulmer.html

In dieser Kurzfolge von House of Nerds blicken wir in die Praxis: Wir sprechen mit Lorenz Kuhlee von PwC, Experte für Cyber Incident Response - ihn rufen Unternehmen an, wenn es richtig brennt und sie aktuell von einer Cyberattacke betroffen sind. Oft ist dies ein Ransomware-Angriff. Lorenz Kuhlee gibt uns einen Einblick in die Entwicklung von Ransomware. Was anfangs noch ein vergleichsweise harmloser Angriff war, ist mittlerweile in der organisierten Kriminalität angekommen. Wie gefährlich dies für Unternehmen ist, was genau bei einer Attacke passiert und was die berüchtigte Hall of Shame ist, das erklärt Lorenz Kuhlee an einem konkreten Beispiel.