ki.sicher

Nico Puhlmann, Najat Diamante

In diesem Podcast sprechen Najat, Datenschützerin mit dem Schwerpunkt KI, und Nico, Solution Architect mit Fokus auf Generative KI, über die ihren Alltag und neue Entwicklungen in den Bereichen Governance und KI. Impressum: Redaktionell verantwortlichNajat Diamante Gutenbergallee 52, 63538 Großkrotzenburg Nico Puhlmann Gattenhöferweg 24 61440 Oberursel

Folgen

  1. VOR 47 M

    KI im Cyber Defense – mit Jonathan

    In dieser Folge von KI.sicher begrüßt Nico seinen alten Studienkollegen Jonathan, der heute als Solution Architect bei der ProSec GmbH KI-gestützte Sicherheitslösungen entwickelt. Zehn Jahre nach dem gemeinsamen IT-Security-Studium tauschen sich die beiden darüber aus, wie generative KI den Cyber-Defense-Bereich aktuell verändert. Themen der Folge: AI SOC Chatbots: Wie KI-Agenten Security Operation Centers entlasten, indem sie Alerts vorverarbeiten, IP-Adressen prüfen und Analysten zuarbeiten – inklusive Human-in-the-Loop-Strategien gegen HalluzinationenClaude Mythos & Co.: Jonathans Einschätzung zur viel diskutierten "Gefährlichkeit" aktueller Coding-Modelle für offensive Sicherheit – und warum der Ressourcenaufwand der eigentliche Limitierungsfaktor istSelbstgehosteter KI-Server: Warum ProSec einen eigenen GPU-Server mit vier RTX 6000 Blackwell betreibt, wie MiniMax 2.7 plus OpenCode acht Entwicklern Coding-Unterstützung liefert – ohne sensible Codebases in die Cloud zu schickenNVIDIA DGX Spark: Erfahrungen mit dem kleinen Bruder für den Einstieg in lokale KIOpen-Source-Stack: LibreChat als Frontend, Confluence- und Jira-Anbindung via MCP statt klassischer Vektordatenbank, plus ein Ausblick auf Custom Kernels für neue DeepSeek-Modelle Eine Folge für alle, die wissen wollen, wie sich Applied AI und IT-Security in der Praxis verbinden lassen – und warum lokale Modelle gerade in regulierten Umfeldern eine ernstzunehmende Alternative zur Cloud sind. ProCyde GmbH: https://procyde.com/ Jonathan auf LinkedIn: https://www.linkedin.com/in/jonathan-l-237560163 Nico auf LinkedIn: www.linkedin.com/in/nico-puhlmann-ab9692246 KI Schulungen: https://nico-puhlmann.de Weitere Folgen: https://kisicher.riverside.com/

    34 Min.
  2. 3. MAI

    KI Kompetenz schulen und Prompts absichern

    Die Podcast-Folge behandelt zwei zentrale Themen: die gesetzlich vorgeschriebene KI-Kompetenz nach der EU-KI-Verordnung und den neuen OpenAI Privacy Filter zum Schutz sensibler Daten. Es wird erläutert, was KI-Kompetenz konkret bedeutet, welche Mitarbeiter geschult werden müssen und wie Unternehmen Schulungsformate gestalten können. Außerdem wird das neue Open-Source-Modell von OpenAI vorgestellt, das personenbezogene Daten lokal aus Prompts herausfiltert, bevor sie an KI-Dienste gesendet werden. Takeaways KI-Kompetenz ist gesetzliche Pflicht: Jeder Mitarbeiter, der potenziell mit KI-Systemen in Berührung kommt, muss geschult werden – das betrifft praktisch jedes Unternehmen. Es gibt keine Zertifizierungspflicht und kein vorgeschriebenes Format – Unternehmen können kreativ sein, von KI-Führerscheinen über Workshops bis hin zu Newslettern. Der OpenAI Privacy Filter ist ein lokal lauffähiges Modell, das personenbezogene Daten wie Namen, Adressen und Secrets aus Prompts entfernt, bevor diese an externe KI-Dienste gehen. 100 % Sicherheit gibt es nicht – der Filter erreicht hohe F1-Scores, aber ein menschliches Monitoring bleibt unverzichtbar. Chapters 00:00 Begrüßung und Themenüberblick 01:21 KI-Kompetenz nach der EU-KI-Verordnung 05:35 Die drei Grundpfeiler der KI-Kompetenz 08:18 Praxisbeispiele: IT-Abteilung und HR-Bereich 14:11 Schulungsformate und Zertifizierungsfragen 16:25 Bußgelder und rechtliche Konsequenzen 20:08 OpenAI Privacy Filter – Lokaler Datenschutz für KI-Nutzung 25:21 Grenzen des Modells und praktische Einschränkungen 30:55 Fazit und Ausblick Hier könnt ihr uns auf LinkedIn finden. Najat Diamante: https://www.linkedin.com/in/najat-diamante-699942251/ Nico Puhlmann: https://www.linkedin.com/in/nico-puhlmann-ab9692246/ Webseite https://kisicher.riverside.com/

    32 Min.
  3. 5. APR.

    Schatten-KI adé: So gelingt der datenschutzkonforme KI-Einstieg im Unternehmen

    Schatten-KI adé: So gelingt der datenschutzkonforme KI-Einstieg im Unternehmen In der neuen Folge begrüßen euch Najat Diamante und Nico Puhlmann zu einem Deep Dive in die Welt der Unternehmens-KI. Während viele Mitarbeiter bereits heimlich ChatGPT oder andere Tools nutzen, um ihren Arbeitsalltag effizienter zu gestalten, stehen Unternehmen vor einem Dilemma: Wie nutzt man das Potenzial generativer KI, ohne den Datenschutz und die Sicherheit aufs Spiel zu setzen? Wir beleuchten das Phänomen der "Schatten-KI" und erklären, warum das bloße Verbot von Tools oft nicht ausreicht. Stattdessen zeigen wir konkrete Wege auf, wie der Einstieg gelingt – von "Europe First"-Lösungen bis hin zu spezialisierten Open-Source-Systemen. Die Highlights dieser Folge: Das Risiko Schatten-KI: Warum die Nutzung privater Abos für Unternehmen brandgefährlich sein kann (Stichwort: Geschäftsgeheimnisse & Personenbezogene Daten). LangDoc als deutsche Alternative: Warum das Tool für viele Unternehmen der ideale Einstieg ist, was die ISO 27001-Zertifizierung bedeutet und wie man damit unterschiedliche Teams und Datenquellen organisiert. OpenRAG für Technik-Begeisterte: Nico stellt das Open-Source-Projekt vor, das volle Datenhoheit ermöglicht. Wir sprechen über die Vorteile der semantischen Suche und die Herausforderungen bei Hardwarekosten und Hosting. Regulatorik & EU AI Act: Was es mit der verpflichtenden KI-Kompetenz (AI Literacy) auf sich hat und warum fast jedes Unternehmen davon betroffen ist. Praxis-Check: Wie ihr Agenten und Workflows baut, um Support-Anfragen zu automatisieren oder Dokumente sicher zu übersetzen. Unser Fazit: Ob "Out-of-the-Box"-Lösung wie LangDoc oder das "frickelige" Selbstbau-System OpenRAG – der wichtigste Schritt ist, frühzeitig Datenschutz und IT-Sicherheit an einen Tisch zu holen. Kontakt & Feedback: Habt ihr Fragen zu spezifischen KI-Systemen oder wünscht euch ein Thema für die nächste Folge? Vernetzt euch mit uns auf LinkedIn und schreibt uns direkt! https://www.linkedin.com/in/najat-diamante-699942251/ https://www.linkedin.com/in/nico-puhlmann-ab9692246/

    32 Min.

Info

In diesem Podcast sprechen Najat, Datenschützerin mit dem Schwerpunkt KI, und Nico, Solution Architect mit Fokus auf Generative KI, über die ihren Alltag und neue Entwicklungen in den Bereichen Governance und KI. Impressum: Redaktionell verantwortlichNajat Diamante Gutenbergallee 52, 63538 Großkrotzenburg Nico Puhlmann Gattenhöferweg 24 61440 Oberursel