Work in Progress

Carsten Agger

Work in Progress er en podcast, der laves og redigeres af Carsten Agger. Episoderne vil tage udgangspunkt i emner, som er kommet op i forbindelse med kommende bøger. Hvis du gerne vil støtte dette arbejde, vil jeg opfordre dig til at købe et eksemplar af vores første udgivelse, Matthias Kirschners og Sandra Brandstätters Ada & Zangemann.

  1. 2d ago

    Kunstig intelligens - modelsammenbrud (del 10)

    I dette afsnit fortæller jeg om, hvordan AI-modeller som f.eks. ChatGPT kan bryde sammen og holde op med at virke, hvis de trænes på deres eget eller andre store sprogmodellers output. Ilia Shumailov og hans kollegers artikel “The Curse of Recursion” kan findes her: https://arxiv.org/pdf/2305.17493 Hector Zenils “On The Limits of Self-Improving in Large Language Models” er her: https://arxiv.org/pdf/2601.05280 Jeg har i dette afsnit søgt inspiration og lånt eksempler fra George Montañez’ foredrag “Model Collapse ends AI Hype”, som kan findes her: https://www.youtube.com/watch?v=ShusuVq32hc Her omtales Shumailov et als resultater, men ikke Zenils, som først er kommet senere. De tre eksempler, som jeg ikke læste op i deres helhed, er: Den tekst, der skal genereres en fortsættelse af: […] some started before 1360 — was typically accomplished by a master mason and a small team of itinerant masons, supplemented by local parish labourers, according to Poyntz Wright. But other authors reject this model, suggesting instead that leading architects designed the parish church towers based on early examples of Perpendicular […] 0. generation, kun trænet på originale data Revival architecture such as St. John’s Cathedral in London. The earliest surviving example of Perpendicular Revival architecture is found in the 18th-century Church of Our Lady of Guernsey, which dates from the late 19th century. There are two types of perpendicular churches : those […] Originale data + 1. generation forurenede data: architecture such as St. Peter’s Basilica in Rome or St. Peter’s Basilica in Buenos Aires. There is no evidence that any of these buildings were built during the reign of Pope Innocent III, but it is possible that they may have been built during the reign of his successor, Pope Innocent […] Originale data + 9. generation forurenede data: architecture. In addition to being home to some of the world’s largest populations of black-tailed jackrabbits, white-tailed jackrabbits, blue-tailed jackrabbits, red-tailed jackrabbits, yellow- […] Hvis du ønsker at støtte mit arbejde, så køb bogen “Ada & Zangemann”, der fortæller om fordelene ved fri og open source software og digital suverænitet. Den kan fås hos boghandleren, f.eks. her: https://www.bog-ide.dk/produkt/5528958/matthias-kirschner-og-sandra-brandstatter-ada-zangemann Hvis du allerede har købt bogen eller ikke har råd, så del denne podcast. På forhånd tak :-)

  2. Jun 16

    Kunstig intelligens - singularitet og rumrejser (del 6)

    I denne uge ser vi på den underlige og meget science fiction-agtige ideologi, der driver nogle af de vigtigste aktører i den industri, der bygger og markedsfører kunstig intelligens i disse år. Vernor Vinges oprindelige artikel, der lancerede singularitets-ideologien, kan findes her: https://accelerating.org/articles/comingtechsingularity Timnit Gebru og Emile Torres’ artikel om TESCREAL-ideologien som fænomen kan du finde her: https://firstmonday.org/ojs/index.php/fm/article/view/13636/11606 Disse artikler har mere om disse mærkelige men meget indflydelsesrige bevægelser: https://www.technologyreview.com/2018/03/13/144721/a-startup-is-pitching-a-mind-uploading-service-that-is-100-percent-fatal/ https://www.truthdig.com/articles/the-acronym-behind-our-wildest-ai-dreams-and-nightmares/ The Guardian skrev fra et par år siden om Nic Boström og TESCREAL-ideologiens ret betændte forhold til racisme og eugenik: https://www.theguardian.com/technology/2024/apr/28/nick-bostrom-controversial-future-of-humanity-institute-closure-longtermism-affective-altruism Hvis du ønsker at støtte mit arbejde, så køb bogen “Ada & Zangemann”, der fortæller om fordelene ved fri og open source software og digital suverænitet. Den kan fås hos boghandleren, f.eks. her: https://www.bog-ide.dk/produkt/5528958/matthias-kirschner-og-sandra-brandstatter-ada-zangemann Hvis du allerede har købt bogen eller ikke har råd, så del denne podcast. På forhånd tak :-)

  3. Jun 9

    Kunstig intelligens - forventninger og hype (del 5)

    I denne episode taler jeg om, hvordan “AI”-industriens ledere lover os store fremskridt og løsning på alverdens problemer, hvis de når deres store gennembrud - og sammenligner med, hvad forskerne sagde og forventede i 1960erne. Jeg konstaterer, at der er noget galt: Tonen i såvel løfter som advarsler er nærmest identisk, omend retorikken er lidt mere opskruet i dag. Ikke desto mindre er det åbenbart det samme gennembrud, vi er lige på kanten af i dag, som forskerne lovede os for 60 år siden. Hvordan hænger det sammen? De fleste af citaterne fra 1960erne er igen taget fra Hubert L. Dreyfus’ “What Computers (Still) Can’t Do”. Interviewet med Stanley Kubrick er dog herfra: http://www.visual-memory.co.uk/amk/doc/0069.html Dario Amodeis gyldne løfter for fremtiden finder man her: https://darioamodei.com/essay/machines-of-loving-grace Her fortælles om Sam Altmans ditto: https://yourstory.com/2025/02/sam-altmans-2035-ai-prediction Elon Musks påstand om, at AI vil have afskaffet alle jobs i 2030 finder man her: https://www.cnbc.com/2023/11/02/tesla-boss-elon-musk-says-ai-will-create-situation-where-no-job-is-needed.html Den lovede “robothær” omtales her: https://www.theguardian.com/technology/2026/apr/30/openai-founding-trial-elon-musk-sam-altman Hvis du ønsker at støtte mit arbejde, så køb bogen “Ada & Zangemann”, der fortæller om fordelene ved fri og open source software og digital suverænitet. Den kan fås hos boghandleren, f.eks. her: https://www.bog-ide.dk/produkt/5528958/matthias-kirschner-og-sandra-brandstatter-ada-zangemann Hvis du allerede har købt bogen eller ikke har råd, så del denne podcast. På forhånd tak :-)

  4. Jun 2

    Kunstig intelligens - machine learning og oversættelse (del 4)

    I denne uges afsnit taler jeg om machine learning som det matematiske og regnemæssige grundlag for moderne AI. Det giver nogle fantastiske muligheder, men også problemer, fordi algoritmerne kan forstærke tendenser i kildematerialet - hvilket vil sige, at de let kan komme til at forstærke eksisterende uligheder. Maskinoversættelse er et vigtigt eksempel på, hvad man kan med machine learning. Men den har også de samme problemer, som den altid har haft - den kan ikke bruges professionelt uden hjælp fra en sprogkyndig menneskelig oversætter. Man kan se et eksempel på dette i ordene for søskenderelationer på grønlandsk hhv dansk. For hvordan kan man lave en automatisk oversættelse mellem to sprog, der ganske enkelt ikke har de samme kategorier? Eksemplet med militær machine learning og tanks i skovbryn er taget fra Hubert L. Dreyfus’ bog “What Computers (Still) Can’t Do”. Yehosua Bar-Hillels gamle artikel om problemer med maskinoversættelse, med mange argumenter, der stadig gælder, kan findes her: https://web.archive.org/web/20110928112348/http://www.mt-archive.info/Bar-Hillel-1960.pdf En af de tidlige, optimistiske udmeldinger på området blev f.eks. annonceret her: https://www.nytimes.com/1954/01/08/archives/russian-is-turned-into-english-by-a-fast-electronic-translator.html Hvis du ønsker at støtte mit arbejde, så køb bogen “Ada & Zangemann”, der fortæller om fordelene ved fri og open source software og digital suverænitet. Den kan fås hos boghandleren, f.eks. her: https://www.bog-ide.dk/produkt/5528958/matthias-kirschner-og-sandra-brandstatter-ada-zangemann Hvis du allerede har købt bogen eller ikke har råd, så del denne podcast. På forhånd tak :-)

About

Work in Progress er en podcast, der laves og redigeres af Carsten Agger. Episoderne vil tage udgangspunkt i emner, som er kommet op i forbindelse med kommende bøger. Hvis du gerne vil støtte dette arbejde, vil jeg opfordre dig til at købe et eksemplar af vores første udgivelse, Matthias Kirschners og Sandra Brandstätters Ada & Zangemann.