PKvadrat Podkast

Peter Golob in Žiga Perović

PKvadrat je podkast o tem, kaj se zgodi, ko pravo trči ob tehnologijo. Umetno inteligenco, regulacijo spleta in družbenih omrežij, "legal tech" in zgodbe podjetij razčleniva s pravnega vidika: kaj se je v resnici zgodilo, zakaj je pomembno in kaj to pomeni za vas.Zakaj PKvadrat? Ker sva Pero in Pero - Peter Golob in Žiga Perović - in ker kombinirava pivo in pravo: P na kvadrat.Sva dolgoletna kolega s pravne fakultete. Ker danes delava na različnih pravnih področjih, ima vsaka tema vsaj dva zorna kota, z veliko vprašanji in kozarcem kraft piva na mizi.Če vam je epizoda dala misliti, nama pustite oceno - tako naju najde več poslušalcev.Vprašanja, kritike in predlogi tem: p2podcast@protonmail.com

  1. Nov 5

    Secret agent man - AI agenti kot digitalni sužnji

    Tvoj AI agent ti je pravkar kupil letalsko karto. Napačno. Kdo jo plača? In če agent namesto človeka opravi delo, kdo plača prispevke za pokojnino? V 71. epizodi se lotiva AI agentov, programov, ki ne le odgovarjajo na vprašanja, ampak tudi klikajo, nakupujejo, sklepajo posle in pišejo kodo. Delajo brez plače, brez pogodbe o zaposlitvi in brez pravne osebnosti. Pravniki so podoben položaj že poznali: Rimljani so ga reševali s sužnji, ki so vodili trgovine in ladje, čeprav niso bili osebe. Ali smo z agenti dobili digitalne sužnje? In ali nam stara rimska rešitev, peculium, lahko pomaga tudi danes? Kaj pijeva? Bevog – Asiatic Lion (Black IPA) Začneva s sporom Amazon proti Perplexity, prvim resnim sodnim spopadom o tem, ali sme agent nakupovati namesto človeka. Nato se lotiva treh pravnih ugank: - Davki: če delo opravi stroj, kdo plača prispevke? Robotski davek, Gatesova ideja o obdavčitvi AI žetonov in vprašanje, kje je delo sploh opravljeno, ko agent teče na strežnikih na Irskem. - Pogodbe: ali lahko obstaja soglasje volj, če nobena stran nima volje? Prekoračeno pooblastilo, past naknadne odobritve in pogajanja med dvema agentoma. - Odgovornost: od napačnega nakupa do avtonomnega kibernetskega napada. Nova EU direktiva o odgovornosti za izdelke, objektivna odgovornost in ideja o »elektronski osebi«. Za konec si zastaviva še vprašanje, kdo bo pravila za agente sploh napisal: sodišča, zakonodajalec ali Visa, Mastercard in Amazon. Ste agentu že pustili, da namesto vas kupuje ali podpisuje?  Pišite nama na p2podcast@protonmail.com. Zanimajo naju resnične zgodbe.

  2. Sep 24

    "Scroll" brez konca - je čas za strožjo regulacijo družbenih omrežij?

    Sodnik v Novi Mehiki je avgusta Instagram in Facebook razglasil za javno nadlogo, enako kot tovarno, ki onesnažuje okolje. Toda to je bil le vrhunec zadnjega leta, ko se je zares zgodilo vse naenkrat. Avstralija je prepovedala dostop za vse pod 16 let, Evropska komisija je izrekla prvo kazen po DSA, porota v Los Angelesu pa je Meto in YouTube prvič spoznala za odgovorna za zasvojenost mladostnice. V 70. epizodi narediva pregled dogajanja v zvezi z regulacijo družbenih oz. socialnih omrežij. Greva čez celoten regulatorni meni, ki so ga začele uporabljati države, od starostnih mej (13, 14, 15 ali 16 let?) in preverjanja starosti do regulacije "infinite scrolla" in "autoplaya". Pregledava "cenik kazni" - od FTC do modre kljukice na X-u. Na koncu predlagava eno potencialno rešitev, ki bi znala zmanjšati povpraševanje po "scrollu". Kaj pijeva v tej epizodi? Bayreuther Hell (bavarski lager) Okvirna struktura: Kratka zgodovina neodgovornosti: kako sta Section 230 in evropski „safe harbour" 25 let ščitila omrežja kot nevtralnega poštarja in kdaj se je fokus premaknil z vsebine na dizajn.Starostne meje: avstralski eksperiment, evropski kaos številk in oblikovanje slovenskega predloga meje.Preverjanje starosti: od samodeklaracije do EU aplikacije z "zero-knowledge" dokazom in zakaj bo moral tudi 45-letni uporabnik dokazovati, da je star vsaj 15.Cenik kazni: 5 milijard pri FTC, GDPR val z Irske, 120 milijonov za X. Kdaj gre za kazen in kdaj le za strošek poslovanja?Tri sodbe: Kaley proti Meti in YouTubu, Instagram kot javna nadloga v Novi Mehiki in francoski ustavni svet proti prepovedi.Rešitev za manj "scrollinga": trošarine?Povezave Kratka zgodovina neodgovornosti: Section 230 (47 U.S.C. § 230), besedilo zakona 🔗 https://www.law.cornell.edu/uscode/text/47/230Starostne meje: eSafety Commissioner, starostne omejitve 🔗 https://www.esafety.gov.au/about-us/industry-regulation/social-media-age-restrictionsPreverjanje starosti: Time, evropska aplikacija za preverjanje starosti 🔗 https://time.com/article/2026/04/16/european-union-age-verification-social-media-teen-bans-app/Cenik kazni: Evropska komisija, kazen X 120 mio € 🔗 https://digital-strategy.ec.europa.eu/en/news/commission-fines-x-eu120-million-under-digital-services-actTri sodbe: Sodba sodnika Biedscheida, Nova Mehika 🔗 https://nmcourts.gov/wp-content/uploads/2026/08/D-101-CV-2023-02838-Final-FOFCOL-and-Judgment-of-the-Court.pdfTrošarina na scrolling: Euronews, von der Leyen in poročilo strokovnega panela 🔗 https://www.euronews.com/my-europe/2026/07/13/von-der-leyen-social-media-ban

  3. Jul 9

    Ni pomemben zahtevek, pomemben je "prompt" - trg Legal AI

    Harvey je vreden 11 milijard dolarjev, njegov odprtokodni klon Mike pa je zastonj - dobrodošli na trgu pravnega AI, ki je v zadnjih mesecih eksplodiral. Harvey in Legora sta pobrala več 750 milijonov dolarjev v investicijah, Anthropic je pravo razglasil za svojo najhitreje rastočo panogo, v igro sta vstopila še Microsoft in OpenAI, Kirkland & Ellis pa gradi svoja AI orodja za pol milijarde. V 68. epizodi ob pivu narediva pregled: od Claude for Legal, Harveyja in Legore do odprtokodnega Mika in Laverna. Pogledava dilemo „kupi ali zgradi", zakaj je „večina pravnega dela ni več vredna plačila" postala resna teza, kaj to pomeni za mlade pravnike - in kako sploh veš, kateri AI je dober. Na koncu še domača scena (TFL AI, LEXI in slovensko grajena orodja) ter, ker sva pač midva, AI Act in odvetniška zaupnost. To ni pravni nasvet. Kaj pijeva v tej epizodi? Fuerst Wiacek – Computer Rage (Session IPA) Okvirna struktura: "Legal AI" oožarska tekma v številkah: 16 milijard vrednosti v dveh tednih - realne valuacije ali AI balon?Katalog orodij: Claude for Legal, Harvey, Legora in odprtokodni MikeOdprtokodno gibanje: Mike OSS in Lavern, selitev vrednosti od orodij k "playbook-om"Veliki trije: Microsoft, OpenAI in Anthropic vstopajo v pravno panogoKupi ali zgradi: Kirklandovih pol milijarde za lasten AI proti Freshfieldsovi partnerski poti.Ekonomija in mladi pravniki: kaj po AI sploh še ostane vredno plačila v pravu in kdo bo zgradil "partnerja s presojo"?Benchmarki in nova pismenost: kako veš, kateri AI je dober, in zakaj je obvladovanje AI orodij konkurenčna prednost?Domača scena in pravni okvir: TFL AI, LEXI, slovensko grajena orodja ter AI Act in odvetniška zaupnost.Povezave: Anthropic – Claude for Legal 🔗 https://claude.com/blogMike OSS 🔗 https://mikeoss.comLavern 🔗 https://lavern.aiCompound – odprti pravni skilli 🔗 https://compound.law/skillsMary O'Carroll – „Most Legal Work Isn't Worth Paying For Anymore" (Substack)Andrew Perlman – „Generative AI and the Future of Legal Scholarship" (SSRN)LegalBenchmarks.ai 🔗 https://legalbenchmarks.aiEU AI Act (Uredba 2024/1689) 🔗 https://eur-lex.europa.eu/eli/reg/2024/1689/oj

  4. Jun 24

    Amerika regulira AI (!?) - Claude in nova digitalna železna zavesa

    V 67. epizodi se lotiva teme, ki je v zadnjem tednu pretresla ves tehnološki svet: 12. junija 2026 je ameriška vlada s sklicevanjem na nacionalno varnost izdala izvozno direktivo, s katero je podjetju Anthropic prepovedala dostop do njegovih najmočnejših modelov Fable 5 in Mythos 5 vsem tujim državljanom. Tudi tistim znotraj ZDA, vključno z lastnimi zaposlenimi, ki niso ameriški državljani.  Ob izjemno pitnem pivu, ki zgleda kot gosti sok, se pretakava skozi zgodovino podobnih ukrepov in se sprašujeva, ali se v pivskih usedlinah vidi prihodnost AI bitke med državami. Končni rezultat? Moten kot pivo. Kaj pijeva v tej epizodi? Papa Don’t Preach (Milkshake IPA) Okvirna struktura Uvod – zakaj ravno zdajKratka zgodovina izvoznih kontrol in Kako deluje ameriški sistem danesEvropska (in slovenska) različica prepovediOsrednji del: Fable 5 / Mythos 5Vsi to počnejo na svoj načinZaključek Povezave: Anthropic, izjava o direktivi — https://www.anthropic.com/news/fable-mythos-accessCNBC — https://www.cnbc.com/2026/06/12/anthropic-disables-access-to-fable-5-and-mythos-5-to-comply-with-government-directive.htmlFortune — https://fortune.com/2026/06/13/anthropic-disables-fable-mythos-export-controls-national-security-threat/NBC News — https://www.nbcnews.com/tech/tech-news/anthropic-suspends-new-ai-models-fable-mythos-government-directive-rcna349901CEPA, „US AI Export Controls Cause Furor“ — https://cepa.org/article/us-ai-export-controls-cause-furor/GIS Reports, „The battle for AI sovereignty“ (Pax Silica, oznaka DoW) — https://www.gisreportsonline.com/r/ai-sovereignty/Evropska komisija, okvir AI Act — https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-aiAI CERTs, osnutek EU izvoznih kontrol za AI — https://www.aicerts.ai/news/eu-drafts-ambitious-ai-export-controls/Kharon, skladnost z izvoznimi kontrolami za AI/polprevodnike (ECCN 4E091, FDPR) — https://www.kharon.com/resources/article/export-controls/managing-export-controls-compliance-across-advanced-technology-sectorsCSIS, izvozne kontrole in H200 — https://www.csis.org/blogs/perspectives-innovation/export-controls-national-security-tool-or-industrial-policy-leverChatham House, izvozne kontrole in DeepSeek — https://www.chathamhouse.org/2026/04/ai-export-controls-are-not-best-bargaining-chipNextgov, opozorilo Bele hiše o distilaciji — https://www.nextgov.com/artificial-intelligence/2026/04/experts-call-halt-ai-chip-exports-china-after-white-house-distillation-warning/413132/Just Security, izhodi AI modelov in izvozne kontrole (ITAR/EAR) — https://www.justsecurity.org/126643/ai-model-outputs-export-control/

  5. May 21

    Zgodbe: Brewdog - sanje zadružnega lastništva ali marketing trik?

    Tokrat odpirava pločevinko Brewdog Counter Strike IPA in se sprašujeva, ali je bil model "Equity for Punks" resnična revolucija lastništva ali zgolj genialen marketinški trik. Zgodba o dveh tipih in psu, ki sta leta 2007 v škotskem ribiškem mestecu začela varit pivo, ustvarila "punk" imperij in s crowdfundingom zbrala 75 milijonov funtov od 220.000 malih vlagateljev. Devetnajst let pozneje so BrewDog prodali za 33 milijonov funtov - mali vlagatelji pa so dobili eno veliko nulo... Kaj pijeva v tej epizodi? BrewDog Counter Strike (West Coast IPA) Okvirna struktura: Začetki: Dva tipa in pes - 2007Equity for Punks: Crowdfunding kampanje - od 2009 do 2016TSG Deal: Ko punk sreča Private Equity - 2017Toksična kultura in "Punks with Purpose" - 2021Odstop ustanoviteljev in kumulativne izgube - od 2024 do 2025Propad: Od milijarde do 33 milijonov - 2026Pravne lekcije za male vlagateljePovezave: James Watt, Business for Punks: Break All the Rules - The BrewDog Way (Penguin, 2016)https://vinepair.com/articles/brewdog-equity-punks-crowdfunding/https://europeanbusinessmagazine.com/business/brewdogs-220m-collapse-3-lessons-for-crowdfund-investors/https://theconversation.com/brewdogs-equity-for-punks-fuelled-its-rapid-rise-but-may-have-contributed-to-its-struggleshttps://www.burges-salmon.com/articles/brewdog-preference-shares-employee-equityhttps://littlelaw.co.uk/the-1-billion-brewdog-deal/https://www.scotsman.com/business/rise-and-fall-of-brewdog-equity-punk-investorshttps://www.insider.co.uk/news/history-stunts-brewdogs-wackiest-publicity-25997774

  6. May 5

    Napovedni trgi 2.0: Sušilec za lase, Pentagon in Wall Street

    V 65. epizodi se vračava k temi napovednih trgov, saj se je v dobrih dveh mesecih zgodilo toliko, da bi lahko posnela še tri epizode - od insider trading škandalov, manipulacij vremenskih senzorjev s sušilcem za lase, do potencialnega vstopa Wall Streeta preko ETF produktov in vse ostrejših regulatornih odmikov med ZDA in Evropo. Skozi pogovor poskušava odgovoriti na vprašanje, ki sva si ga zastavila prvič: ali gradimo naslednjo generacijo finančne infrastrukture ali zgolj še eno plast globalnega digitaliziranega stavništva?  Kaj pijeva v tej epizodi?  SeyBrew Lager (Seychelles Breweries) Okvirna struktura: Številke in rast industrijeŠkandal s sušilcem za lase v ParizuInsider trading: zgodba Master Sergeanta Van DykaParadoks insider tradinga po Robinu HansonuVstop Wall Streeta in PredictionShares ETF-jiLending, perpetual futures in POLY tokenRegulatorna shizofrenija v ZDAEvropska blokada in MiCAPovezave: https://www.marketscreener.com/news/prediction-markets-go-mainstream-as-polymarket-kalshi-and-others-drive-25bn-monthly-volumes-ce7e51d3de89f42chttps://www.independent.co.uk/news/world/europe/hair-dryer-bet-polymarket-france-police-b2963620.htmlhttps://www.bloomberg.com/news/articles/2026-04-25/insider-trading-cases-threaten-reckoning-for-prediction-marketshttps://www.npr.org/2026/04/23/nx-s1-5797876/polymarket-paris-weather-bethttps://experts.bitwiseinvestments.com/cio-memos/prediction-markets-addressing-the-five-biggest-questionshttps://igamingbusiness.com/prediction-markets/can-prediction-markets-rack-europe-regulation/https://www.bloomberg.com/news/articles/2026-04-21/kalshi-to-expand-crypto-wagers-with-perpetual-futures-pushhttps://medium.com/@defipred/the-missing-layer-of-prediction-markets-lending-bd6f51c59732

  7. Apr 2

    Kdo si lasti tvoj virtualni meč? Kraje v igrah, mrtve igre in pravo, ki ne dohiteva.

    Plačal si 50 evrov za igro. Založnik jo ugasne. Tvoj lik, tvoje virtualno orožje, tvojih 600 ur igranja - vse izpuhti. In pravno? Nisi lastnik ničesar. V tej epizodi se lotiva dveh perečih "gejmerskih tem": kaj se zgodi, ko ti nekdo ukrade virtualno premoženje, in kaj se zgodi, ko ti ga založnik sam vzame. Začneva s tujo sodbo, ki je krajo zlata v RuneScape razglasila za kaznivo dejanje, prek legendarnih prevar v EVE Online, kjer so igralci s socialnim inženiringom ukradli za več deset tisoč dolarjev virtualnega premoženja, do slovenskega prava, ki virtualnega zlata sploh ne prepozna kot "stvar". Nato pa podebatirava še o gibanju Stop Killing Games, evropski državljanski pobudi z milijonom podpisov in o tem, ali bi morali kako zaščititi kulturne artefakte digitalne dobe, tudi če jih želijo založniki "izbrisati". Kaj pijeva? Bevog – Eira 2025 (Barel aged chocolate & vanilla imperial stout) Okvirna struktura: Kraja virtualnega premoženja:  sodba o RuneScape zlatu kot precedens – kdaj je kraja v igri kaznivo dejanje in kdaj je "del igre"?EVE Online kot pravni laboratorij: zakaj je infiltracija in prevara v igri legalna, Ponzi shema z menjavo za pravi denar pa ne?Slovenski pravni okvir: SPZ ne pozna virtualnih stvari, KZ-1 pa loči med tatvino in napadom na informacijski sistem – kako bi slovenski tožilec sploh obravnaval tak primer?Vrhovno sodišče RS o knjižnem denarju: sodba, ki nakazuje, da se meja med fizičnim in digitalnim premičninskim varstvom počasi briše.Stop Killing Games in smrt igre The CrewIgre kot kulturna dediščina: če založba neha tiskati knjigo, tvoj izvod na polici ne zgori – zakaj je pri igrah drugače?Varnost, licence tretjih oseb in tehnična kompleksnost oblačnih iger.Povezave: GamesIndustry.biz – UK Court Rules Stealing RuneScape Gold Is Criminal Theft in Case That Could Have Wider Repercussions 🔗 https://www.gamesindustry.biz/uk-court-rules-stealing-runescape-gold-is-criminal-theft-in-case-that-could-have-wider-repercussionsStop Killing Games – Uradna spletna stran kampanje 🔗 https://www.stopkillinggames.com/Evropska komisija – Evropska državljanska pobuda: Stop Destroying Videogames 🔗 https://citizens-initiative.europa.eu/initiatives/details/2024/000007_enSPZ – Stvarnopravni zakonik 🔗 https://pisrs.si/pregledPredpisa?id=ZAKO3242PC Gamer – Murder Incorporated: ten months of deception for one kill in Eve Online (The Guiding Hand Social Club) 🔗 https://www.pcgamer.com/murder-incorporated-ten-months-of-deception-for-one-kill-in-eve-online/Gamereactor: 🔗 https://www.gamereactor.eu/youtubers-could-change-the-gaming-industry-forever-stop-killing-games-tries-to-force-gaming-onto-the-political-agenda-1574543/Cybernews 🔗 https://cybernews.com/gaming/stop-killing-games-ross-scott/Kazenski zakonik (KZ-1) – 221. člen (Napad na informacijski sistem) 🔗 http://pisrs.si/pregledPredpisa?id=ZAKO1233#p221

  8. Mar 16 ·  Bonus

    "Fake" obljube ali "deepfake"? Regulacija rabe AI v politične namene

    Umetna inteligenca je v predvolilni kampanji. Zdaj. Teden pred volitvami. In večina tega, kar se dogaja, ni označeno, ni regulirano – in je skoraj nemogoče odkriti. V 63. epizodi se lotiva teme, ki jo v Sloveniji mogoče še vedno večinoma ignoriramo: kakšno vlogo igra generativna AI v kampanji za parlamentarne volitve 2026? Omenjava vse od deepfake avdio posnetkov in botovskih mrež do nove EU uredbe (TTPA), ki je Meto in Google prisilila, da sta politično oglaševanje v EU preprosto – ugasnila. Kaj pijeva v tej epizodi?  Nova runda Craft Brewery – Summer Mode (Session NEIPA) Okvirna struktura: AI v kampanji – spekter možnosti: od legitimne uporabe (generiranje grafik, pisanje govorov, A/B testiranje sloganov) do problematične (deepfake videi, lažni zvoki politikov, botovske mreže).Slovaški primer kot ogledalo: kako je lažen avdio posnetek dva dni pred volitvami 2023 postal viralen v razmerah volilnega molka?Meta in Google blokada: zakaj sta platformi ob uveljavitvi uredbe TTPA preprosto izklopili politično oglaševanje v EU, ali je to zmaga regulacije?Slovenski pravni okvir: zakaj ZVRK zaostaja za digitalno realnostjo, kaj novi Zakon o medijih določa glede označevanja AI vsebin in ali volilni molk v digitalni dobi sploh še ima smisel?EU AI Act in časovni paradoks: polna uporaba šele avgusta 2026 – torej po naših volitvah. Regulacija prihaja prepozno?Geopolitični pritisk: ali grožnje Trumpove administracije z carinami dejansko slabijo izvrševanje evropskih digitalnih regulacij ravno takrat, ko jih najbolj potrebujemo?Povezave Uredba (EU) 2024/900 – TTPA 🔗 https://eur-lex.europa.eu/eli/reg/2024/900/oj/engIUS-INFO: „Nova regulativa političnega oglaševanja v EU" (22.12.2025) 🔗 https://www.iusinfo.si/medijsko-sredisce/v-srediscu/nova-regulativa-politicnega-oglasevanja-v-eu-321463Žurnal24: „Plačano oglaševanje na Meti prepovedano: Se naši politiki tega držijo?" (3.2.2026) 🔗 https://www.zurnal24.si/slovenija/placano-oglasevanje-prepovedano-se-nasi-politiki-tega-sploh-drzijo-453839e-Maribor: „Meta je vladajoči stranki odstranila oglase" (22.2.2026) 🔗 https://e-maribor.si/meta-je-vladajoci-stranki-odstranila-oglase-zaradi-krsenja-oglasevalskih-standardov/Svet24: „Pričakovati gre predvolilno kampanjo, kakršne v Sloveniji še nismo videli" (5.1.2026) 🔗 https://svet24.si/novice/politika/volitve-2026-dezinformacije-lazi-spletke-deepfake-nevarnosti-1871732Harvard Kennedy School Misinformation Review: „Beyond the Deepfake Hype: AI, Democracy, and the Slovak Case" 🔗 https://misinforeview.hks.harvard.edu/article/beyond-the-deepfake-hype-ai-democracy-and-the-slovak-case/IPI Media: „Slovakia: Deepfake audio of Denník N journalist" (november 2023) 🔗 https://ipi.media/slovakia-deepfake-audio-of-dennik-n-journalist-offers-worrying-example-of-ai-abuse/Check Point Research: „Beyond Imagining – How AI is Actively Used in Election Campaigns" (april 2024) 🔗

About

PKvadrat je podkast o tem, kaj se zgodi, ko pravo trči ob tehnologijo. Umetno inteligenco, regulacijo spleta in družbenih omrežij, "legal tech" in zgodbe podjetij razčleniva s pravnega vidika: kaj se je v resnici zgodilo, zakaj je pomembno in kaj to pomeni za vas.Zakaj PKvadrat? Ker sva Pero in Pero - Peter Golob in Žiga Perović - in ker kombinirava pivo in pravo: P na kvadrat.Sva dolgoletna kolega s pravne fakultete. Ker danes delava na različnih pravnih področjih, ima vsaka tema vsaj dva zorna kota, z veliko vprašanji in kozarcem kraft piva na mizi.Če vam je epizoda dala misliti, nama pustite oceno - tako naju najde več poslušalcev.Vprašanja, kritike in predlogi tem: p2podcast@protonmail.com

You Might Also Like