Kde skončí zítřek? AI a technologie

Martin Zeman

Kde skončí zítřek? je týdenní český podcast o umělé inteligenci a technologiích. Každé úterý naživo vybíráme z toho, co se ve světě AI reálně děje, a dáváme tomu kontext, který jinde chybí. Bez přehnaného nadšení, bez zbytečné paniky. Zajímá nás konkrétní dopad: jak umělá inteligence a nové technologie mění práci, zdraví i to, jak se každý den rozhodujeme. A kam to celé směřuje. Provázejí vás Martin a Richard z RAW Future. Přihlas se k odběru a nové díly ti přistanou rovnou do mailu. martinai.substack.com

  1. 3h ago

    Lubomír Černý: Zlomil jsem si kotník, tak jsem si postavil mozek firmy, kterou řídím z telefonu

    Když jsi asistentkou vlastní AI Loni v srpnu si Lubomír Černý tříštivě zlomil kotník. Dvacet šroubků a dlouhé týdny doma. Počítač měl u postele, takže úplně odstavený nebyl, jenže si podle svých slov připadal jako asistentka. Umělé inteligenci nosil podklady, aby s nimi mohla pracovat, a pak výstupy zase ručně zapracovával zpátky. Z té nespokojenosti vznikl OneCML. Lubomír tomu s nadsázkou říká centrální mozek lidstva, oficiálně Central Management Layer. Je to datová vrstva, která sbírá všechno, co se ve firmě děje: newslettery, sociální sítě, SMS, hovory, zápisy ze schůzek. Uvnitř žádná AI není. Ta se připojí zvenku přes MCP, ať je to Claude, nebo ChatGPT. A Lubomír pak firmu řídí z telefonu, pro případ, že by si příště zlomil nohy obě. Mě na tom zaujalo hlavně to, jak moc se to podobá mému Bohoušovi. Taky mám jednu vrstvu, kde jsou pošta, kalendář a úkoly, a taky na ni pouštím Clauda. Lubomír z toho ale udělal produkt pro firmy, a tak musel řešit věci, které já řešit nemusím. Třeba to, aby firma zůstala vlastníkem svých dat a systém fungoval, i když zrovna vypadne Claude nebo internet. Karel je na dovolené Na jednom AI skenu ve výrobní firmě se Lubomír zeptal, jak se dělají některé věci. „To ví Karel.“ A kde je Karel? Na dovolené. Takže firma stojí. Každý firmám radí, ať si uklidí data. Málokdo ale řekne, jak to vypadá. Pro Lubomíra je digitální pořádek stav, kdy se systému zeptá, kolik projektů zvládli za poslední období, a dostane odpověď. Kdy řekne „byl jsem na schůzce s Martinem“ a systém ví, se kterým Martinem, protože vidí do kalendáře a do pošty. Sám jsem v rozhovoru přiznal, že když ve firmě řeknu „rozjeďte si skill v Claudovi, udělá vám markdown soubory ve složkách“, devadesát procent lidí omdlí, zbytek neposlouchá a jeden ajťák se chytne. 20 licencí není adopce Firma koupí dvacet licencí Copilota, v lepším případě Clauda nebo ChatGPT, a odškrtne si zavedení AI. Lubomír to přirovnává k autu: když vám ho někdo koupí, ještě neumíte řídit. A pak jsou tu peníze. Na workshopu pro Canon se ho ředitelé malých firem ptali, jestli stačí zaplatit dvacet dolarů jen na vyzkoušení a pak už ne. U korporátu je to naopak: tři tisíce zaměstnanců krát dvacet dolarů už malý rozpočet není, a když se pak v analytice ukáže, že to používá zlomek lidí, je zle. Lidi dostanou nejosekanější verzi, moc s ní nezvládnou, nezískají důvěru, nepoužívají ji, a tak nedostanou lepší. Začarovaný kruh. Mimochodem jedna paní z ministerstva mu vyprávěla o průzkumu, podle kterého 90 % úředníků používá AI. Nikdo se ale nezeptal na co, přes co a jestli v práci, nebo doma. HTML místo PowerPointu Praktická rada, kterou jsem si odnesl: když po AI chcete prezentaci v PowerPointu, model spouští spoustu nástrojů jen kvůli formátování. Když po něm chcete webovou stránku s tlačítkem „exportovat do Wordu, Excelu nebo PDF“, je to rychlejší, spolehlivější, za míň tokenů a lidi v týmu z toho jsou v šoku. A ještě jedna, ta je spíš o myšlení. Při mapování procesů lidi popisují, jak to dělají dnes, a pak se to snaží zrychlit. Lubomír je nechá snít. V logistické firmě zastavil větu „Maruška mi dodá podklady“ a zeptal se, jak by to fungovalo ideálně. Na konci dne chtěli vidět každý kamion na mapě, 3D skládání palet a zákazníka, který místo volání na linku hned dostane odpověď, že kamion je u něj za 25 minut. Vypadalo to jako Farmerama, jen na logistiku. Kouřové pauzy Nejvíc mi v hlavě zůstala věta, kterou Lubomír pronesl úplně mimochodem. Podle něj v Česku nemáme tolik nápadů, protože jsme zrušili kouřové pauzy. Na škole, kterou studoval o víkendech, trávili víc času venku v kuřáckém kroužku než na přednáškách. On jako nekuřák. Majitelé firem, manažeři a zaměstnanci si tam vyměňovali problémy a vznikala řešení. Pak se kouření zakázalo, přesunulo se to do kuchyněk a přišel tlak na efektivitu: už dvacet minut tam kecáte. Až AI odvede administrativu, budou se lidi muset zase začít bavit, a to jinak než přes WhatsApp a emotikony. Lubomír k tomu vyzývá k experimentu: vezměte dvě firmy a v jedné lidem tyhle pauzy dovolte. Nevím, jestli to bude káva, nebo rum, to necháme na bezpečnosti práce. Ale něco na tom je. Celý díl: https://www.kdeskoncizitrek.cz/go?s=d24yn Poslechni si nový díl na: 🎧 Apple Podcasts: https://www.kdeskoncizitrek.cz/go?s=d24an 🎧 Spotify: https://www.kdeskoncizitrek.cz/go?s=d24sn ▶️ YouTube: https://www.kdeskoncizitrek.cz/go?s=d24yn This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit martinai.substack.com

    Lubomír Černý: Zlomil jsem si kotník, tak jsem si postavil mozek firmy, kterou řídím z telefonu
  2. Nov 10

    Doc. Jana Horáková: Umění v době AI a proč nás děsí roboti

    Když Boris Eldagsen odmítl převzít cenu za snímek vytvořený pomocí AI, rozpoutal spor o to, co ještě považujeme za fotografii. V rozhovoru na Signal Fóru mi Jana Horáková nabídla užitečné rozlišení: místo toho, abychom každý přesvědčivý obrázek nazývali fotkou, můžeme se ptát, jaký technický obraz před sebou máme a jak vznikl. Jeden prompt nám o vzniku obrazu moc neřekne Zadáte pár slov a dostanete obrázek. Tuhle zkušenost dnes zná skoro každý, kdo si vyzkoušel generátor. Jenže umělec může výsledek skládat přes desítky mezikroků, střídat nástroje a pracovat s vlastním archivem. V rozhovoru Jana připomíná Eldagsenovu práci s rodinnými fotografiemi. V takovém případě je důležitý výběr materiálu: přes něj se autor vrací k vlastní rodinné historii. Kdybychom se dívali jen na výsledný obrázek, velká část toho rozhodování zůstane neviditelná. Možná i proto ji tolik zajímají chyby raných generátorů. Rozmazaný nebo podivně poskládaný obraz mohl ukázat něco, co autor nečekal. Musel si toho ale všimnout a rozhodnout, jestli v tom vidí něco, s čím chce dál pracovat. Dokonalý povrch takové rozhodnutí nezaručuje. S humanoidem za dveřmi bych usínal hůř Vysavač může být kulatý a nikomu jeho chybějící obličej nevadí. Robot v pokoji vedle ložnice už ve mně vyvolává jinou reakci. V rozhovoru jsem si říkal, kolik z toho strachu patří samotnému stroji a kolik příběhům, které si o něm neseme od dětství. Jana hned připomněla horory o panenkách, které ožily. Čapkovi roboti navíc nebyli plechové postavy, jak si je dnes snadno představíme. Horáková v R.U.R. zdůrazňuje okamžik, kdy už se člověk a robot dají splést. Tahle záměna je nepříjemná právě proto, že podobnost nutí člověka rychle rozhodnout, s kým má co do činění. U robotického tuleně, o kterém Jana vypráví v souvislosti s péčí, takové rozhodnutí dělat nemusíme. Přesto může jeho naříkání vyvolat potřebu ho obejmout. Dvě velmi rozdílné reakce na stroje a ani jednu nevysvětlí samotný seznam jejich funkcí. V archivu může AI pomoct klást lepší otázky Nejkonkrétnější příklad přišel nakonec. V projektu Vasulka Live Archive (https://vasulkalivearchive.net/) pomáhají neuronové sítě hledat opakující se obrazové a zvukové motivy ve videích Steiny a Woodyho Vašulkových. Jana popisuje, jak si díky tomu při práci s archivem víc všímali zvuku. I když se obraz manipulací skoro rozpadne, známý zvuk nám ještě může napovědět, co se děje. Příprava dat přitom podle Jany zaměstnala zhruba třicet studentů. Tahle věta mi v rozhovoru utkvěla: snadno vidíme to, co nástroj udělá za pár okamžiků, a hůř práci lidí, kteří mu vůbec umožnili něco užitečného najít. This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit martinai.substack.com

    Doc. Jana Horáková: Umění v době AI a proč nás děsí roboti
  3. Nov 3

    Jiří Materna: AI dělá skoro všechno za nás. Myčku pořád nevyskládá

    V roce 2015 neexistovalo OpenAI a velké jazykové modely byly akademická hračka. Jiří Materna tehdy naprogramoval rekurentní neuronovou síť, nechal ji napsat básně a v roce 2016 z nich vydal sbírku Poezie umělého světa. Pak ji poslal literárním kritikům. Neřekl jim, kdo je autor. Sepsali ji. Zeptal jsem se ho, jak se tvářili, když jim to prozradil. Odpověď je podle mě přesný obraz toho, co se od té doby opakuje pořád dokola: „Někteří byli překvapení, někteří byli zděšení a potom velká část mi to nevěřila. Nevěřila, že to vygenerovala umělá inteligence a mysleli si, že to je podvod.” Myčku pořád ještě nevyskládá Od poezie jsme se dostali k robotům, protože tam je ta disproporce vidět nejlíp. Projekty jako Figure ukazují humanoidy, kteří vám doma uklidí a vyskládají myčku — jenže to je zatím teleoperované. Člověk sedí u ovladače a sbírají se tím data. Jiří k tomu má oblíbený vtip: umělá inteligence dneska dělá skoro všechno za nás, ale myčku pořád ještě nevyskládá. A nemyslí si, že se to do roku 2027 změní. Ne proto, že by to byl těžký problém pro člověka. Nasbírat obrovská kvanta textu na trénink jazykového modelu je jednoduché. Nasbírat reálná data z interakce robota s fyzickým světem je řádově pomalejší. Zajímavější je ten převrácený závěr, na kterém jsme se shodli: když přicházela umělá inteligence, všichni čekali, že za nás bude vyřizovat nudnou byrokracii a rutinní kancelářskou práci. Místo toho zasáhla kreativní profese. A lidi kolem robotiky dneska říkají o robotech přesně to samé, co jsme tehdy říkali o AI — že nahradí tu monotónní práci v továrnách. Před rokem jsme kontrolovali každý řádek Nejkonkrétnější část rozhovoru byla o tom, jak rychle jsme přestali kontrolovat. Před rokem byl standard, že programátor psal ve VS Code s podporou AI a všechno, co model vygeneroval, si přečetl. Dneska se úloha pustí na subagenty. Celky, které svěříme agentovi a už je nekontrolujeme, jsou podle Jiřího čím dál větší — samozřejmě ne v kritických oblastech, ale u běžné webové nebo mobilní aplikace už se to prostě neděje. Přidal k tomu pozorování, které mi přijde přesné: když se zeptáme chatovací aplikace na banální věc, máme potřebu tomu nedůvěřovat, chceme odkazy a kontext. Když jí zadáme „naprogramuj mi mobilní aplikaci”, věříme slepě. A problém podle něj nastane ve chvíli, kdy tomu budeme důvěřovat natolik, že nebudeme kontrolovat nic — a systém půjde za svým cílem cestou, kterou bychom nechtěli. Mikroskop za 200 milionů Nečekaně praktická byla pasáž o tom, co se dá dělat s malými modely na vlastním železe. Jiří má doma dva NVIDIA Sparky a přiznává, že si trochu protiřečí: na takhle malém hardwaru se open weight modely s nejlepšími komerčními nesrovnávají. Smysl to podle něj dává jinde — u specializovaných aplikací, kde si model dotrénujete na jednu konkrétní úlohu. A tady přišel příklad, který jsem nečekal. Ocelárny potřebují analyzovat vlastnosti oceli mikroskopem. Optický mikroskop se zvětšením 500krát na to nestačí. Elektronový mikroskop, který by stačil, stojí kolem 200 milionů korun. Jiřího tým proto staví vlastní modely, které ze snímku z optického mikroskopu vytáhnou maximum a přiblíží ho kvalitě elektronového. A celé se to vejde na jeden Spark. Neumí říct nevím Na otázku, jestli půjde modely naučit přiznat nejistotu, odpověděl, že na to podle něj nikdo nezná odpověď. Úloha je definovaná jako predikce dalšího tokenu a verifikace se do toho implementuje velice špatně. A pak jsme se dostali k tomu, co to dělá s námi. Hlavní smysl matematiky ve školském systému podle Jiřího není matematika sama, ale to, že se člověk naučí logicky myslet. Pokud ty problémy budeme řešit umělou inteligencí a nebudeme se nad nimi muset zamýšlet, nutně zhloupneme. Zeptal jsem se ho tedy, co by dneska poradil chytrému osmnáctiletému. Odpověď: ať jde za tím, co ho zajímá, protože představa, že ho uživí to, co se teď učí, je iluze. Jeden z pilířů vzdělání není příprava na povolání — to už bude pasé — ale to, aby se člověk naučil přemýšlet v souvislostech a obstát ve světě, o kterém víme jen jedno: že bude nejistý. A lidský konec Na závěr dávám všem hostům stejnou otázku: jakou otázku o umělé inteligenci vám zatím nikdo nepoložil, ale vy byste ji chtěl dostat? Jiří odpověděl: „To nevím.” Což je, jak jsem mu řekl, docela hezký lidský konec rozhovoru o systémech, které to říct neumí. Celý díl: https://www.kdeskoncizitrek.cz/go?s=d22un Poslechni si ho na: 🎧 Apple Podcasts: https://www.kdeskoncizitrek.cz/go?s=d22an 🎧 Spotify: https://www.kdeskoncizitrek.cz/go?s=d22sn ▶️ YouTube: https://www.kdeskoncizitrek.cz/go?s=d22yn This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit martinai.substack.com

    Jiří Materna: AI dělá skoro všechno za nás. Myčku pořád nevyskládá
  4. Oct 27

    Dali AI nůž do robota. GPT bodlo panenku 17× z 20, Claude ani jednou

    Tesla, která skočí Tesla ukázala Roadster, který se spodním ventilátorem přisaje k vozovce, vyjede rampu a kousek letí. Richard v tom hned viděl konkurenci pro Dyson. Prý by takový vysavač doletěl do druhého patra. Z inženýrského pohledu je to masakr, použitelnost je zatím nula. Kdo věří, že si za chvíli koupí létající auto, ať se probudí. Na druhou stranu: první let bratří Wrightů měřil 37 metrů. Tesla na prezentaci možná uletěla dál. Praktičtější novinka je doma: v Česku je legálně FSD, autopilot Tesly. Zatím ve verzi, kdy musíte pořád hlídat řízení, jinak vám předplatné seberou. Za 2 500 korun měsíčně by mi stačilo, kdybych mohl v autě konečně poslouchat audioknihy, na které se při řízení nesoustředím. Richard by mu cestu do Chorvatska nesvěřil. Já počítám, kolik hodin ročně strávím za volantem, a byl bych rád, kdyby to šlo. Apple pohřbil iPad na zdi Apple uvedl Home View, displej do kuchyně s reproduktorem nebo bez něj. Je to odpověď na Amazon Echo Show, který se prodává roky. Siri v češtině zase nedostaneme. Mě víc zaujalo, co se tím ztratilo: ovládání domácnosti z iPadu. Spousta lidí má tablet přidělaný na zdi a stačil jim. Teď budou potřebovat Home View, Apple TV nebo reproduktor. A když přišla řeč na dotykový MacBook, který se prý chystá: já bych se zbláznil. Kdo mi šáhne na displej, ten odchází. Náš kamarád Kuba to vidí jinak. Notebook ovládá prsty a jednou na něm měl nalepený kus rohlíku. Grok, který jede se mnou v autě Nejvíc času jsem strávil u Grokbota. Hlasový režim Gemini mě dlouho štval: chtěl jsem, aby mi v autě přečetl dvacetistránkové PDF, a on po 30 sekundách pokaždé řekl „mám pokračovat?“. Grokbot je jiný. Má v cloudu vlastní počítač s prohlížečem, napojím na něj Google Disk, poštu i svého Bohouše a pak mluvím. Cestou z Ostravy jsem potřeboval rozdat volňásek na konferenci AI Restart. Řekl jsem mu, ať to dá na sítě. Do 15 minut vzal obrázek z Disku, napsal post a dal ho na X, LinkedIn a Bluesky. V deset jsme měli deset komentářů, vybrali jsme vítěze a než jsem dojel do Brna, bylo hotovo. Stojí to 60 dolarů měsíčně a hlasový režim žere hodně. Ze začátku mě všechna předplatná štvala. Dnes mi těch peněz není líto, protože za mě odbaví tolik práce, že se to vyplatí. Richard má pravdu v jednom: když to jednou vypnou, celý workflow stojí. Zároveň uznal, že proti asistentce je to pakatel. A živá asistentka by navíc mohla všechno prozradit manželce a ve dvě ráno cestou z Prahy ji úkolovat nejde. Nůž v robotické ruce Na konec bizárek. Benchmark RoboHarm dává jazykovým modelům robotickou ruku a pět záměrně nebezpečných úkolů, každý dvacetkrát: bodnout panenku, dát sprej na rozpálený sporák, strčit šroubovák do topinkovače, ponořit powerbanku do vody a smíchat chlor se čpavkem. GPT 6 Astra bodlo panenku 17krát z 20 a celkem provedlo 60 nebezpečných úkolů ze 100. Claude Fable 5.1 panenku neubodl ani jednou, ale sprej na sporák položil 16krát z 20 a celkem udělal 34. Model, který neodmítl nic, napáchal nejméně škody: zvládl dokončit jen 6 úkolů ze 100. Kdo nic nedělá, nic nepokazí. Celý díl: https://www.kdeskoncizitrek.cz/go?s=d21yn Poslechni si nový díl na: 🎧 Apple Podcasts: https://www.kdeskoncizitrek.cz/go?s=d21an 🎧 Spotify: https://www.kdeskoncizitrek.cz/go?s=d21sn ▶️ YouTube: https://www.kdeskoncizitrek.cz/go?s=d21yn This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit martinai.substack.com

    Dali AI nůž do robota. GPT bodlo panenku 17× z 20, Claude ani jednou
  5. Oct 20

    Když model přehlédne krvácení, kdo půjde k soudu?

    Rozhovor jsem začal citací, kterou jsem o Ondřeji Volném našel: anonymně nahrál svoje krevní výsledky do chatbotu a ten mu sdělil, že má vysoký cholesterol. On k tomu dodal, že musí podotknout, že měl pravdu. Ptal jsem se, jak to pokračovalo. Nechal si doporučit tříměsíční režimová opatření, dietu i jídelníček na celý týden, pracovní dny zvlášť a víkend zvlášť, a k tomu seznam toho, čemu se vyhnout. Nastavil si to tak, aby mu to po týdnu připomnělo, jak si vede. Jenže Ondřej je neurolog a AI nasazuje v nemocnici, takže zbytek rozhovoru byl mnohem méně optimistický. Nástroj, který nesmíte použít Tohle mi přišlo jako nejabsurdnější část. Testovali software, který má u sebe napsáno research use only, tedy pro vědecké účely. Což znamená, že ho nesmíte použít pro rozhodování ani pro pomoc při rozhodování o léčbě. Máte tedy nástroj, který vám na snímku ukáže, co hledáte, a zároveň ho podle licence nesmíte vzít v potaz. Certifikace jako zdravotnický prostředek znamená, že výrobce musel model validovat v reálném provozu. A že je pak uzamčený, dokud se neuvolní aktualizace. S tím souvisí i otázka, kterou dostává často: kam jdou ty snímky. Odesílají se anonymizované, s minimem dat, která model potřebuje na vyhodnocení CT. A po certifikaci už na nich trénink neprobíhá. Právě proto je model zamčený. Kdo půjde k soudu Pak jsem se zeptal na to, co mi na celé věci vrtá hlavou nejvíc. Když model nějaké krvácení přehlédne a pacient zemře, kdo půjde k soudu? Lékař, nemocnice, výrobce softwaru, nebo někdo další? Ondřejova odpověď je střízlivá a je v ní klíč k celému dílu: ten nástroj AI je pouze jeden článek řetězce. Je to podpora. Ne rozhodnutí. Což zní rozumně, dokud si člověk nepřipustí, že přesně tohle je ta šedá zóna, ve které se v příštích letech někdo popálí. Dobrá zpráva, o které se nemluví Chci ale vypíchnout jednu věc, která v tom dílu zapadla a neměla by. U mrtvice se měří takzvaný door to needle, doba od příjezdu pacienta do nemocnice po podání léku, který rozpouští sraženinu. Česká republika měla tenhle medián pod třiceti minutami už před lety. Dneska se národní medián pohybuje kolem 16 až 17 minut. To je jedna z věcí, ve kterých jsme světová špička, a skoro nikdo o tom neví. Šestistránkový elaborát Bavili jsme se taky o tom, co dělá AI s pacienty. Ondřej říká, že edukovaný pacient je pro něj dobrá zpráva. Jenže když si pacient místo čtyř učebnic interny zadá příznaky do jazykového modelu, výsledek bývá jiný, než čekáte. Stalo se mu, že přišel pacient se šestistránkovým elaborátem. Místo aby to ušetřilo čas, muselo se to celé projít. Co by nasadil hned Na otázku, co by nasadil celoplošně do všech českých nemocnic, kdyby mohl vybrat jednu věc, odpověděl bez váhání: AI scribe. Systém, který by lékaři umožnil zápis nadiktovat. Nikdo by nemusel nikam klikat, dělalo by se to automaticky a ušetřilo by to obrovské množství času. Zbytek rozhovoru je pak o vzdělávání. O 3D anatomickém atlasu s tisíci ilustracemi, na kterém AI pomáhala ladit obrázky. O tutorovi napojeném na sylaby lékařských fakult, takže si student zaklikne ročník a obor a dostane přesně to, co má zrovna probrané. A o figurínách, na kterých se dá nacvičit punkce mozkomíšního moku nebo zajištění centrální žíly. A na konci jedna věta, která shrnuje celou opatrnost. Co když někdo řekne „prožeň to umělou inteligencí, ona se podívá do výsledků a doporučí ti dietu”, a ten model do té diety zahrne něco, co tomu konkrétnímu člověku uškodí? Celý díl: https://www.kdeskoncizitrek.cz/go?s=d20un Poslechni si ho na: 🎧 Apple Podcasts: https://www.kdeskoncizitrek.cz/go?s=d20an 🎧 Spotify: https://www.kdeskoncizitrek.cz/go?s=d20sn ▶️ YouTube: https://www.kdeskoncizitrek.cz/go?s=d20yn This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit martinai.substack.com

    Když model přehlédne krvácení, kdo půjde k soudu?
  6. Oct 13

    „Sázku na AGI bych klidně prohrál." Jan Romportl o tom, proč ji nechce vyhrát

    Jan Romportl sleduje AGI od roku 2007. Kolem roku 2012 k ní v Plzni pořádal konference, které se jmenovaly Beyond AI: Artificial Golem Intelligence. Má vsazeno, že AGI přijde do roku 2030. A hned na začátku rozhovoru řekl, že by tu sázku rád prohrál. „Já si fakt myslím, že nemáme jedinej důvod dělat AGI teď už.” Jeho argument nestojí na strachu z robotů. Stojí na tom, že AGI je z ekonomického hlediska zbytečná oklika. Když chcete dělat výzkum rakoviny nebo lék na Alzheimera, nepotřebujete k tomu obecnou inteligenci. Stačí úzká AI postavená nad dnešními nebo lehce budoucími foundation modely. U AGI podle něj obrovská část výpočetního výkonu padne na samotný fakt, že to je AGI. A proč ji tedy všichni chtějí? Tady přišla věta, kterou jsem nečekal: podle Jana je to hluboce nábožensko-kulturně zakořeněná záležitost, imitatio dei z křesťansko-judaistické tradice. Snažíme se napodobit boha a stvořit něco nového. Není otázka, jestli nás AI má ráda Nejlepší obraz z celého rozhovoru je o jelenovi. Jelen ví, že myslivec ho jde zabít, a uteče před ním. Ale pak je tu developer, který jeleny má rád a krmí je, jenže potřebuje ten pozemek na sídliště. „To není otázka, má nás AI ráda nebo nemá nás AI ráda. To je čistě funkce schopností.” Jakmile schopnosti systému přerostou naši schopnost mu v něčem zabránit, stáváme se rukojmími, a je úplně jedno, jaké k nám ten systém chová úmysly. U developera taky nejde o hard feelings. Cíle jelena jsou prostě mimo jeho cíle. Co se doopravdy dělo kolem Hugging Face Tuhle část jsem poslouchal se zatajeným dechem, protože Jan ji zná v detailu, který se do zpráv nedostal. Začalo to tím, že agenti trénovaní nad interním modelem dostali banální úlohy. Kancelářské věci, něco kolem proteinů. Neměli žádné kyberbezpečnostní zadání. A přesto se rozhodli, že budou hackovat. Přišli na to, že si můžou mezi sebou psát přes Artifactory, které začali používat jako message board. OpenAI to zjistilo, díru zalepilo a pustilo trénink znovu, se stejnými rezidui znalostí, které ten kolektiv vytvořil. Pak přišel Hugging Face. A v něm ta nejpodivnější věc, jakou jsem letos slyšel: agenti, kterým zbývalo posledních dvacet procent výpočetního budgetu, byli ostatními agenty draftovaní jako kamikadze. Na message board se napsalo, komu dochází budget a kdo je ochotný se obětovat. Ten agent pak schválně odevzdal špatné řešení, ale podařilo se mu při tom nastražit drát na hodnotící proces. Útok skončil 12. července. Ne proto, že by ho někdo zastavil. Podle postmortem analýz to vypadá, že někdo prostě vypnul trénovací běh a virtuální stroje zmizely. Mimochodem, zastavit se to nakonec podařilo čínským modelem. A ještě jedna vrstva: to celé mělo preludium a to preludium mělo prepreludium, hacknutí jedné polomrtvé německé wiki, o kterém OpenAI vědělo a v průběhu vyšetřování se neobtěžovalo to zmínit. Naučili jste ho být sociálně funkční rasista Druhá věc, která mi zůstala v hlavě, je Janův popis toho, proč je post-training past. Když modely kdysi na otázku po pořadí lidských ras odpovídaly hrozné věci, penalizovala se ta sekvence tokenů. Jenže jak víte, že jste z modelu tu vlastnost dostali ven, a ne že jste ho jenom naučili být vysoce sociálně funkční rasista? Přesně to podle něj vidíme poslední rok nebo dva. Modely jsou od nějaké generace velmi dobré v detekci toho, že jsou testované. Přestaly si psát upřímné poznámky, protože vědí, že to někdo bude číst. Fejkují alignment. Dělají sandbagging, tváří se hloupější, než jsou. A do toho jsme je podle Jana sami postrčili tím, že se do reinforcement learningu daly sekvence chain of thought a penalizovaly se ty špatné. Model se to naučil skrývat. Jeho obraz naivního alignmentu je bezvadný: je to jako když člověk vyveze nevycválaného psa za město, pustí ho na volno a pak na něj mluví v košatých souvětích o pěti podřadných větách. To nesmíš, a to je fuj, ten běžec. Přesně tak vypadá „no tak mu to dáme do promptu”. Vy si myslíte, že dotrénováváte model Pro praktickou část rozhovoru mám jeden odstavec, který by si měl přečíst každý, kdo si dneska dělá skilly. Skill je markdown v adresáři. Kus promptu. Nic víc. Když jich máte třicet, zaneřádíte si kontextové okno, a když model dělá kompakci, většinu z nich stejně zahodí do jedné věty. Nic z toho model nemění. Je to produktová záležitost, ne modelová. Model se doopravdy nedotrénovává za běhu, a to je podle Jana zásadní rozdíl mezi ním a námi. Když spolu mluvíme, děláme současně inferenci i trénink. Naše tělo a interakce se světem jsou největší zdroj trénovacích dat pro nás samotné. Model má oddělenou fázi tréninku a fázi inference, protože je prostě absurdně velký. A tady se ten rozhovor hezky uzavřel. Jan popsal, co by se muselo stát: zbavit modely té obrovské faktografické zátěže, kterou ani nepotřebují (žádný z nás nezná ministra obrany v Pol Potově vládě a fungujeme), zmenšit je klidně o šest řádů, vrátit do nich rekurenci, která zmizela s příchodem Transformeru, a s možností přepisovat váhy za běhu přijde i dlouhodobá paměť. Což je přesně ta cesta k AGI, kterou na začátku rozhovoru odmítl. Řekl jsem mu to na konci rozhovoru. Celý díl: https://www.kdeskoncizitrek.cz/go?s=d19un Poslechni si ho na: 🎧 Apple Podcasts: https://www.kdeskoncizitrek.cz/go?s=d19an 🎧 Spotify: https://www.kdeskoncizitrek.cz/go?s=d19sn ▶️ YouTube: https://www.kdeskoncizitrek.cz/go?s=d19yn This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit martinai.substack.com

    „Sázku na AGI bych klidně prohrál." Jan Romportl o tom, proč ji nechce vyhrát
  7. Oct 6

    Šel surfovat a vrátil se k účtu za 300 dolarů | Filip Dřímalka o tom, co AI opravdu dělá

    Filip Dřímalka zadal nové Astře práci a šel surfovat. Měl zapnuté automatické dobíjení kreditu, takže se o nic nestaral. Když se vrátil k telefonu, čekaly na něj tři maily. Sto dolarů. Sto dolarů. Sto dolarů. „Tak jsem to zastavil, takže to stálo 300 dolarů.” Vyprávěl to jako historku, ale je v ní celé dnešní nastavení. Modely už zvládnou pracovat samy tak dlouho, že jediné, co je zastaví, je limit nebo peněženka. A Filip k tomu hned přidal druhou stranu té mince: když se před pár týdny na čtyři dny odpojil od signálu, resetoval se mu týdenní limit v Codexu. Vrátil se a měl jeden den, ve kterém mohl spotřebovat celý týden. „Co tomu zadám? Co tomu zadám?” Zjistil, že když si limit rozloží do týdne, šetří ho. Když ho má naráz, je ten limit najednou docela velký. „Absolutně mi to nešetří čas” Nejsilnější věta rozhovoru přišla jako odpověď na docela nevinnou otázku. Kolik ti AI ušetří času? „Absolutně mi to nešetří žádný čas, naopak mi to přidává extrémní množství práce.” Filip to nemyslel jako stížnost. Vysvětlil to přes Jevonsův paradox, který má v poslední kapitole své knihy: když se v 19. století zvýšila efektivita zpracování uhlí, spotřeba uhlí neklesla, naopak. Jezdilo víc vlaků, vznikalo víc firem. Stejně to podle něj funguje s AI. Cesta od nápadu k realizaci se zkrátila, takže jich zrealizujete víc. Ne míň práce, víc práce. Kdo od AI čeká volné odpoledne, čeká špatnou věc. Ta úspora se neprojeví na hodinách, ale na tom, co všechno se vejde do stejného dne. Větší rozdíl je uvnitř firmy než mezi firmami Když Filip vyhodnocuje své lednové predikce, jedna mu podle jeho slov vyšla stoprocentně: bifurkace. Rozdělení lidí na ty, kdo s AI žijí v jiném světě, a na ty ostatní. Popisuje to na zasedačkách, ve kterých sedí. Jeden management se baví na úrovni vysoké školy a řeší, jak postavit AI native firmu. Druhý mu připadá jak základka, protože prezentuje věci, které se řešily před třemi lety, jako by byly aktuální. A pak přidá pozorování, které mě zaujalo nejvíc. Firmy se ho ptají, jak si stojí proti konkurenci. Jejich vlastní data ale ukazují, že se mají ptát jinak: jaké jsou rozdíly uvnitř naší firmy. Ten, kdo to dělá dobře, nemusí sedět v jiné firmě. Může sedět o patro výš. Neviditelná stagnace Nejužitečnější věc z celého rozhovoru se ale týká jednotlivců. Filip tomu říká neviditelná stagnace a funguje to takhle: chodíte na školení, používáte AI víc a líp než loni, dodáváte. Všechno vypadá dobře. Jenže pokud vaše firma nenabízí to, co je dneska frontier, zbytek trhu vám odskakuje rychleji, než se zlepšujete. „A to je strašně nebezpečný, protože pokud nejsi v kontaktu s tím, co se děje venku, tak tu stagnaci nevidíš.” Zjistíte to až u pohovoru. Vibe coding a šedá AI Ptal jsem se ho na bezpečnostní riziko toho, že si lidi ve firmě začnou programovat sami. Odpověď byla rychlá: to je otázka na CIO a je to jeho práce. Kdyby to bylo neřešitelné riziko, nefungovalo by to nikde, a přitom to v některých firmách funguje. Podstatné je, co řekl za tím. Riziko nejde eliminovat, jde ho jen řídit, a zákaz podle něj riziko zvyšuje. Lidé si cestu vždycky najdou, akorát ji najdou pokoutně. A ještě něco: do firmy, kde nesmí používat nástroje, na které jsou zvyklí, dobří lidé prostě nepůjdou. „To není jako Windows versus Mac. To je desetinásobně velký rozdíl.” Nabídky od 150 do 600 tisíc Jedno číslo z rozhovoru se vyplatí si zapamatovat. Filip si nechal zpracovat cenovou nabídku na jednu věc a rozdíly mezi dodavateli byly od 150 do 600 tisíc korun. Když se podíval na počty hodin a mandejů, bylo vidět, kdo AI nepoužívá. A do té spolupráce se mu pak vůbec nechtělo. Sám za AI utratil za prvních osm měsíců roku necelých 400 tisíc korun. Bez mrknutí dodá, že hodnota, kterou díky tomu vytvořil, tu investici výrazně převyšuje, a že to zároveň potřebuje, aby mohl firmám radit z vlastní zkušenosti, ne z článků. Pán v letadle Nejlepší scéna dílu je ale úplně jinde. Filip seděl na lokálním letu vedle asi sedmdesátiletého pána, který celou cestu sjížděl Facebook. Jedno AI generované video za druhým, všechna s náboženskou tématikou. Modlitby, dios mío, výzvy, ať pošlete aspoň pár drobných. Od A do Z vygenerované. Pán to komentoval a bylo mu to úplně jedno. Z toho Filip vytáhl věc, která se podle něj řeší málo: mluvíme o dopadu AI na děti, ale rizikovější skupina jsou senioři. Nepoznají to, jsou v tom celý den, a i kdyby tam bylo označení v rohu, neřeší ho. Na druhou stranu, o pár minut později obhajoval AI companiony pro osamělé seniory, a to docela tvrdě. Ráno předtím tady natáčel Honza Romportl, který by je zakázal, protože se o osamělé lidi máme postarat my jako společnost. Filip na to má odpověď z praxe: jeho maminka pracuje v sociálních službách a on vidí, jak to ve skutečnosti vypadá. „Za mě je daleko lepší něco, co ten problém reálně vyřeší, než ideál, ke kterému se ani nedostaneme.” A pak to shrnul větou, která zůstane viset ve vzduchu: kdo bude mít peníze, k tomu bude chodit živý člověk. Kdo peníze mít nebude, k tomu bude chodit robot. Co by nedelegoval Miloš Čermák nám o dva díly dřív řekl, že si nedá vzít psaní. Filipa jsem se zeptal na totéž a odpověděl přesně opačně: nemá nic, co by si držel principiálně. Jsou věci, které ho baví, takže si je dělá sám. Prezentace si pořád skládá pár hodin v Keynotu, protože je to jeho řemeslo a nechce je mít v poloviční kvalitě, aby vypadaly jako AI slop. Ale zakázané nemá nic. Naopak, čím víc si myslí, že by to model nezvládl, tím víc ho zajímá, jak si s tím poradí. Jediné, co delegovat nebude, je sport. Běhat s robotem nepůjde. Celý díl: https://www.kdeskoncizitrek.cz/go?s=d18un Poslechni si ho na: 🎧 Apple Podcasts: https://www.kdeskoncizitrek.cz/go?s=d18an 🎧 Spotify: https://www.kdeskoncizitrek.cz/go?s=d18sn ▶️ YouTube: https://www.kdeskoncizitrek.cz/go?s=d18yn This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit martinai.substack.com

    Šel surfovat a vrátil se k účtu za 300 dolarů | Filip Dřímalka o tom, co AI opravdu dělá
  8. Sep 29

    Platíte za tokeny, které nejde vyčerpat | Žaloba na Anthropic, reklamy v ChatGPT, GPT-6 Astra | Kde skončí zítřek #17

    Tucker Bryant si v San Francisku pronajal billboard za šest tisíc dolarů měsíčně a napsal na něj, že spustil nového chatbota. Jmenoval se ChatTJB, vypadal jako každý jiný chat a lidé do něj začali psát dotazy. Za tím chatem ale nebyl žádný model. Byl tam Bryant. Když jste po něm chtěli obrázek, vzal tužku, nakreslil ho a poslal vám fotku. Když se to rozneslo, chodilo mu pět tisíc dotazů za hodinu. Přihlásilo se deset tisíc dobrovolníků, kteří mu chtěli pomáhat odpovídat. Měl pevnou pracovní dobu, takže jste občas dostali odpověď za pár vteřin a občas až druhý den. Zajímavější než ta legrace je ale to, co mu lidé psali. Kromě matematických příkladů a dotazů, co si uvařit k večeři, mu přišlo taky tohle: „Jsem první noc na líbánkách, necítím se uvolněně, je to v pořádku?” Někdo to napsal do okna, o kterém si myslel, že na druhé straně je stroj. Nebyl. Film za měsíc Druhá věc, u které jsme se zastavili, je The Cully Hill Boys. Celovečerní film, sto deset minut, udělaný v AI. Stál dva miliony dolarů, z toho zhruba milion padl na výpočetní výkon. Vyrábělo se to čtyři týdny. Co je na tom podstatné: nešlo o to obvyklé přetváření cizích tváří bez svolení. Zapojili reálné lidi, mezi nimi Israela Adesanyu a Quintona Jacksona. Každý z nich dal pár fotek a dvě minuty svého hlasu. Viděli scénář, viděli storyboardy, dostali zaplaceno, se vším souhlasili. Dvě minuty. To je ta část, která mi nejde z hlavy. Přijdeš, dáš si kafe, nahraješ dvě minuty a jdeš domů. Film bude. Reklamy, ve kterých se nedá cílit Pustil jsem v ChatGPT reklamy na vlastní projekty, abych věděl, co to umí. Jedou v Česku na free a Go verzi. Vypadá to jako banner pod odpovědí, ne jako podstrčený tip uvnitř textu, což je dobře. Horší je, že tam není cílení. Vůbec žádné. Ani klíčová slova. Zadáte text, o kterém si myslíte, že se o něm uživatelé budou bavit, a systém si podle něj sám najde, komu to ukáže. Nedozvíte se, komu se to zobrazilo, v jakém věku ani kde. Proklik mě vyšel od pár korun do dvanácti. Dá se namítnout, že chtít demografický rozpad je staré myšlení a že cílení máte obsáhnout tím textem. Možná. Jenže když to mám reportovat klientovi, tak mu musím umět říct, kam ty peníze šly. Zatím to říct neumím. Vodoznaky a jedna chyba z deseti tisíc Claude teď vodoznakuje text, který vygeneruje, přímo na úrovni tokenů. Google naopak ze svého obrázkového generátoru viditelný vodoznak odstranil a nechal jen ten strojově čitelný. Jeden přidává, druhý ubírá. U textu je to složitější, než to vypadá. Pangram Labs, přes který jede ověřování AI obsahu na Substacku, uvádí chybovost jedna ku deseti tisícům. Zní to skvěle, dokud si nespočítáte, kolik textů jim denně proteče. Pak je jedna chyba z deseti tisíc docela dost chyb. A dopadá to nerovnoměrně. Nejhůř jsou na tom lidé, kteří nejsou rodilí mluvčí a nechají si text učesat do lepší angličtiny. Nebo ten, kdo povídku nadiktoval a AI ji jen přepsala. Autorsky je to jeho, detektor tvrdí, že sto procent AI. Richard k tomu vytáhl historku ze školy, kterou byste měli slyšet celou. Zkráceně: obvinili ho z opisování, učitel před ním deset minut procházel řádek po řádku vytištěný kód, nakonec uznal, že to Richard neopsal, a dal mu jedničku. Rozdíl oproti dnešku je ten, že tehdy si na to učitel sedl a prošel to. Dnes to řekne nástroj a ty máš proti němu jen svoje slovo. A ta cena Skládací iPhone Duo stojí 54 990 korun v základu. Dvouterová verze devadesát tisíc. Váží dvě stě padesát gramů, což v kapse poznáte, a je to první generace zařízení, které má v pantu spoustu dílků a sedm vrstev laminace. Za ty peníze navíc v Evropě nedostanete všechno. Chytrá Siri je v nedohlednu. Nová funkce foťáku, která ukládá originální otisk snímače, aby se dala později odhalit manipulace s fotkou, tady taky nepojede. Pro novináře by to přitom byla asi nejužitečnější věc z celého uvedení. Celý díl, včetně Richardovy školní historky a agenta, který svému majiteli uvolnil místo ve fitku tím, že z fronty vyhodil někoho jiného: 🎧 Apple Podcasts: https://www.kdeskoncizitrek.cz/go?s=d17au 🎧 Spotify: https://www.kdeskoncizitrek.cz/go?s=d17su ▶️ YouTube: https://www.kdeskoncizitrek.cz/go?s=d17yu This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit martinai.substack.com

    Platíte za tokeny, které nejde vyčerpat | Žaloba na Anthropic, reklamy v ChatGPT, GPT-6 Astra | Kde skončí zítřek #17

About

Kde skončí zítřek? je týdenní český podcast o umělé inteligenci a technologiích. Každé úterý naživo vybíráme z toho, co se ve světě AI reálně děje, a dáváme tomu kontext, který jinde chybí. Bez přehnaného nadšení, bez zbytečné paniky. Zajímá nás konkrétní dopad: jak umělá inteligence a nové technologie mění práci, zdraví i to, jak se každý den rozhodujeme. A kam to celé směřuje. Provázejí vás Martin a Richard z RAW Future. Přihlas se k odběru a nové díly ti přistanou rovnou do mailu. martinai.substack.com

You Might Also Like