Je bezpečné nechať Clauda robiť, čo chce? Kde majú byť tvoje API kľúče, keď ti kód píše agent? A čo sa stane, keď si appku s AI spraví niekto, kto nikdy neprogramoval? Rozprávame sa o bezpečnosti pri programovaní s AI agentmi – od dangerously skip permissions cez supply chain útoky a sandboxy až po tri bezpečnostné chyby z Kubovej appky. Nie sme security experti, sú to naše skúsenosti, takže to tak ber. Stiahnuť .mp3 https://wp.streetofcode.sk/wp-content/uploads/2026/11/StreetOfCode-Ep133.mp3 Pozri náš kurz Profesionálne programovanie s AI https://streetofcode.sk/kurzy/ai (00:00) – Úvod (03:10) – O čom bude reč – kódovanie s agentom a appky s AI (04:55) – Enter, enter, enter – keď Claude spúšťa príkazy za teba (10:12) – Dangerously skip permissions (11:52) – Keď CLAUDE.md nestačí – Claude nasadil na produkciu (14:11) – Bezpečnosť je o trade-offoch (16:54) – Credentials, ku ktorým Claude nemá prístup (19:52) – Claude na pracovnom počítači (23:35) – Balíčky, ktoré neexistujú (24:45) – Supply chain útoky na NPM a ako sa brániť (28:22) – Ako Claude obíde pravidlo z CLAUDE.md (32:44) – Kam ide tvoj kód? Dáta a podmienky AI nástrojov (39:29) – Keď si appku spraví HR – citlivé dáta a AI (43:23) – Čo je sandboxing? (53:21) – Prečo nemať secret ani v privátnom repe (56:11) – Kde teda držať secrety? (1:03:50) – Rada pre neprogramátorov – pýtaj sa Clauda (1:05:51) – Appky, ktoré volajú AI na pozadí (1:08:08) – Citlivé dáta a kontajnery (1:14:20) – Väčšine appiek stačí jedno LLM volanie (1:19:37) – Ako spraviť jednoduchú AI appku bezpečne? (1:23:36) – Najčastejšia chyba – API kľúč vo frontende (1:27:46) – Tri bezpečnostné chyby v Kubovej appke (1:32:18) – Celá epizóda v 10 sekundách – security review (1:34:12) – Prompt injection (1:38:19) – Spending limity pre AI v appke (1:39:45) – Pokazíme si popularitu? A záver BEZPEČNOSŤ PRI VÝVOJI SOFTVÉRU – VIAC, AKO SME STIHLI POVEDAŤ: Ako sme sľúbili na začiatku epizódy, tu je viac o bezpečnosti pri vývoji softvéru všeobecne. OWASP – základ, z ktorého vychádza väčšina security review: – OWASP Top 10 – najčastejšie zraniteľnosti webových aplikácií, napríklad chýbajúca kontrola prístupu (ako GET receptu s cudzím ID v Kubovej appke) – https://owasp.org/www-project-top-ten/ – OWASP Top 10 pre LLM aplikácie – prompt injection, únik citlivých dát, agenti s priveľkými právomocami – https://genai.owasp.org/ – OWASP Top 10 pre agentické aplikácie – riziká AI agentov, ktoré konajú samy, napríklad keď im niekto podstrčí iný cieľ alebo zneužije ich nástroje – https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026/ – OWASP ASVS – podrobný checklist, podľa ktorého overíš, či je tvoja appka naozaj bezpečná – https://owasp.org/www-project-application-security-verification-standard/ – OWASP Cheat Sheet Series – krátke návody k jednotlivým témam: secrety, autentifikácia, SSRF… – https://cheatsheetseries.owasp.org/ Viac ako iba „spusti security review“: – /security-review v Claude Code – ako funguje a ako ho spúšťať automaticky – https://support.claude.com/en/articles/11932705-automated-security-reviews-in-claude-code – Claude Code Security Review – GitHub Action od Anthropicu, ktorá spraví security review pri každom pull requeste – https://github.com/anthropics/claude-code-security-review – security-guidance – oficiálny plugin pre Claude Code: upozorní na nebezpečný kód hneď pri písaní, po každej odpovedi skontroluje zmeny a pri commite prejde aj súvisiace súbory (injection, XSS, secrety v kóde, chýbajúca kontrola prístupu…) – https://github.com/anthropics/claude-plugins-official/tree/main/plugins/security-guidance – Trail of Bits skills – security skilly od firmy, ktorá robí bezpečnostné audity: statická analýza (Semgrep, CodeQL), audit závislostí a nebezpečné predvolené nastavenia – https://github.com/trailofbits/skills ČO SI Z EPIZÓDY ODNIESŤ: – Nedávaj agentovi prístup k zložkám mimo projektu (Downloads, Documents…). – Pravidlo v CLAUDE.md nie je zábrana. Čo agent nesmie, obmedz v nastaveniach (permissions, hooks) alebo to sprav tak, aby to technicky nevedel urobiť. – Inštaluj iba balíčky, ktoré sú vonku aspoň týždeň-dva (dá sa to nastaviť v package manageri), pinuj verzie a spúšťaj npm audit. – Pozeraj diff – hlavne zmeny v package.json a v konfiguráciách. – Secrety nepatria do repa ani do .env súboru, ktorý agent vidí. Použi secret manager tam, kde appku nasadzuješ. – Agenta, ktorý beží sám (napríklad s dangerously skip permissions), púšťaj v sandboxe – na virtuálnej mašine alebo v kontajneri. – API kľúč k AI patrí na backend, nie do frontendu. Premenné s prefixom NEXT_PUBLIC_ vidí každý v prehliadači. – Nastav si spending limity pre AI – na usera aj celkovo. – Vstup od userov (a od iných agentov) ber ako nedôveryhodný – pozor na prompt injection. – Security review spúšťaj pravidelne, ideálne pri každej zmene, a s najlepším modelom, aký máš. AKO S TVOJÍM KÓDOM NARÁBAJÚ AI NÁSTROJE: V epizóde sme vychádzali z podmienok spred roka. Aktuálne nájdeš tu: – Anthropic (Claude, Claude Code) – uchovávanie a použitie dát – https://code.claude.com/docs/en/data-usage – Cursor – privacy mode a uchovávanie dát – https://cursor.com/data-use – GitHub Copilot – od 24. apríla 2026 používa dáta z osobných plánov (Free, Pro, Pro+) aj na tréning, kým to v nastaveniach nevypneš – https://github.blog/news-insights/company-news/updates-to-github-copilot-interaction-data-usage-policy/ SPOMENUTÉ V EPIZÓDE: – Claude Code – permissions – https://code.claude.com/docs/en/permissions – Claude Code – hooks – https://code.claude.com/docs/en/hooks – Kubova appka na recepty ThymeList – https://thymelist.com/sk – npm audit – https://docs.npmjs.com/cli/commands/npm-audit – Inštalovať iba balíčky staršie ako X dní – npm: https://docs.npmjs.com/cli/v11/using-npm/config#min-release-age , pnpm: https://pnpm.io/settings/dependency-resolution#minimumreleaseage – Balíčky, ktoré si AI vymyslí, a útočníci ich potom vytvoria („slopsquatting“) – https://socket.dev/glossary/slopsquatting – GitHub fine-grained personal access tokens – https://docs.github.com/en/authentication/keeping-your-account-and-data-secure/managing-your-personal-access-tokens – E2B – sandboxy a kontajnery pre AI agentov – https://e2b.dev – Firecracker – malé virtuálne mašiny, ktoré sa spustia za zlomok sekundy – https://firecracker-microvm.github.io/ – Convex – backend, ktorý používa Kubo – https://www.convex.dev – AWS Secrets Manager – https://aws.amazon.com/secrets-manager/ – Google Cloud Secret Manager – https://cloud.google.com/security/products/secret-manager – Next.js – premenné prostredia a NEXT_PUBLIC_ – https://nextjs.org/docs/app/guides/environment-variables NAŠE MINULÉ AI EPIZÓDY: – Ep. 132 – Oplatí sa ešte učiť programovať? – https://streetofcode.sk/podcast/ep-132-oplati-sa-este-ucit-programovat – Ep. 131 – Ako dnes (ne) programujeme – https://streetofcode.sk/podcast/ep-131-ako-dnes-ne-programujeme – Ep. 128 – Budúcnosť programovania – AI miniséria 3/3 – https://streetofcode.sk/podcast/buducnost-programovania – Ep. 127 – Programovanie s AI – AI miniséria 2/3 – https://streetofcode.sk/podcast/ep-127-programovanie-s-ai – Ep. 126 – AI: Mýtus vs. Realita – AI miniséria 1/3 – https://streetofcode.sk/podcast/ai-mytus-vs-realita Zabudli sme na niečo dôležité? Daj nám vedieť na Discorde – kľudne k tomu spravíme aj doplňujúcu epizódu. Pridaj sa na discord – https://streetofcode.sk/discord FB – https://streetofcode.sk/facebook Instagram – https://streetofcode.sk/instagram Prihlás sa na náš newsletter – https://streetofcode.sk/newsletter Viac epizód nájdeš na https://streetofcode.sk/podcast Pridaj sa na Discord tu - https://streetofcode.sk/discord
