AI Voor Moraalridders Rijk Mercuur

AI beïnvloedt jouw dagelijks leven. Kleine beslissingen zoals welke film bij jou past op je favoriete streaming dienst, of welke route je het beste kan rijden met je navigatie. Maar ook grote beslissingen: ben je een mogelijke fraudeur bij een betaling of aanvraag? Is je motivatiebrief goed genoeg voor deze baan? En waar beslissingen worden gemaakt, komen fouten voor. Hoe ontstaan deze fouten en hoe gaan we hier mee om? Zodat iedereen gelijk en eerlijk wordt behandeld.


In deze live-opname bij de Bilbliotheek Neude leidt René van Gasteren een discussie tussen experts (Marieke Peeters, Coert van Geemeren & Rijk Mercuur) en publiek over de rol van AI ethiek in jouw dagelijks leven.


Deze podcast is gemaakt in samenwerking met de Hogeschool Utrecht, Mooncake AI, Media Perspective & de AI-Parade bij Bibliotheek Neude.


Dank aan de gasten, Coert & Marieke, de host & voice-over, René, en voor het editen en producen, Michiel Stam.

In this episode I speak with Dr. Luciano Siebert about how humans remain in control of Artificial Intelligence. This episode is in English (the next one will be in Dutch again).


We talk about killer drones, self-driving cars and AI-based hiring. All to explain why it is so important that humans remain in control (#responsibility) and what it means to do this in a meaningful way. For example, can we really expect someone to pay attention in a self-driving car for hours on end? Luciano uses his recently written paper to explain what MEANINGFUL human control means.


We talk about:



The perspective of engineers and if they are fit to design our future.
How the question of 'meaningful' human control originated around killer drones and autonomous weapons.
The difference between technology like airplanes and artificial intelligence.
The responsibility gap and why humans should always be resonsible (and not machines).
What it means to track and trace technology in order to meaningfully control it
Four aspects of meaningful human control Luciano defined in his paper:
(1) We need to define in which moral situations a given AI should or should not be used.
(2) Humans and AI should have some form of basic “understanding” of each other.
(3) If a given person cannot do anything about what the AI system is doing, maybe it is not such a good idea to make this person responsible for whatever the system is doing.
(4) AI systems need to be more transparent so whenever something bad happens (and it will happen!) we can understand what happened (and learn from the mistakes)


The transcript has been automatically generated and does not completely match the content but can still be helpful to look up a specific topic.


Addendum:



L. Cavalcante Siebert et al., “Meaningful human control: actionable properties for AI system development,” AI Ethics, no. 0123456789, 2022, doi: 10.1007/s43681-022-00167-3.
Special Guest: Luciano Siebert.

Rijk praat met Dr. Mirko Schäfer over verantwoordelijk gebruik van data en algoritmes. We praten over bekende data en algoritme 'schandalen', de mogelijke oplossingen vanuit de Utrecht Data School, de noodzaak van publiek begrip van data en de noodzaak van politiek begrip van de waarde-afwegingen en grondrechten die hiermee gepaard gaan.


Mirko is medeoprichter en faculteitsleider van de Utrecht Data School. Hij is lid van de stuurgroep van het onderzoeksgebied Governing the Digital Society en lid van het onderzoeksgebied Applied Data Science. Zijn onderzoeksinteresse gaat uit naar de sociaal-politieke impact van mediatechnologie, en in het speciaal, data- en algoritmes.


Onderwerpen die langskomen:



Overhyped of underhyped? De toeslagenaffaire; de fraudescorekaart; Systeem Risico Analyse; Volkwagengate;
Is er een AI-revolutie of gaat het over data en algoritmes?
Techno-optimise en teleologische opvattingen van technorevoluties
AI vanuit praktische media-wetenschappers
Is er wel een ethisch AI-probleem?
De 150 ethische AI Manifestos en wat er mist
De tools van de Utrecht Data School om dit aan te gaan
Beperkt te veel wetgeving de creativiteit van datawetenschappers?
De verantwoordelijkheid die je moet nemen als wetenschapper
Een call center met ethische principes
De afwegingen tussen grondrechten en het beperkte politieke debat
En wat hoop geeft voor een beter AI-debat.


🎵 Dank aan Jelle van Aanholt voor de intromuziek.
Ga naar ℹ️ hiro.nl of 📧mail rijk (apenstaartje) hiro (punt) nl voor meer informatie over Ethiek en AI.
Special Guest: Mirko Schaefer.

Rijk praat met Rogier Wuijts over ChatGPT: de nieuwe chatbotsensatie van OpenAI. We spreken over waar we het voor gebruiken, wat er indrukkwekkend aan is, hoe het werkt en vooral over de ethische aspecten. ChatGPT vindt dat Mexicanen een juniorpositie binnen een bedrijf hebben, dat je beter grappen kan maken over mannen dan over vrouwen en dat het onethisch is om uit te leggen in welke mate Donald Trump een rolmodel is. Hoe gaan we goed om met de bias van ChatGPT?


Rogier Wuijts is een ChatGPT enjoyer en PhD-Student in optimatisalitie-algoritmes.
🎵 Dank aan Jelle van Aanholt voor de intromuziek.


Addendums:



In de pocast beweren we dat het 'guardrail'-systeem dat ethisch problematische vragen afvangt werkt via if-statement. Dat klopt niet. Dit systeem is zelf (voornamelijk) een 'machine learning'-model getraind om problematische onderwerpen te herkennen open-ai paper.
GPT 3 gebruikt 300-500 miljard datapunten.
De voorbeelden over bias en chatgpt zijn te vinden op reddit.


Ga naar ℹ️ hiro.nl of 📧mail rijk (apenstaartje) hiro (punt) nl voor meer informatie over Ethiek en AI.
Special Guest: Rogier Wuijts.