KI und Mensch Leya Jankowski & René Heuser

Im zweiten Teil der elften Episode sprechen Leya und ich über aktuelle Themen, unter anderem auch über die Falschmeldung über eine KI-Drohne die angeblich ihren Piloten versucht hat zu töten.

Weitere Themen ist die Neuauflage der Pumuckl-Serie durch RTL, die die Original-Stimme des verstorbenen Sprecherns per KI wieder benutzen wollen. Ebenfalls in den News der EU AI Act (Gesetzgebung über den Einsatz von Künstlicher Intelligenz in Europa) und vieles mehr.

News
Neue Pumuckl-Serie: RTL ahmt Originalstimme mit KI nach
https://www.heise.de/news/RTL-vertont-neue-Pumuckl-Serie-mit-KI-Stimme-9187613.html

he AI Founder Taking Credit For Stable Diffusion’s Success Has A History Of Exaggeration
https://www.forbes.com/sites/kenrickcai/2023/06/04/stable-diffusion-emad-mostaque-stability-ai-exaggeration/

Deutschlands größte Anime- und Japan-Expo will KI-Content verbieten:
https://www.gameswirtschaft.de/events/dokomi-2023-messe-ki-verbot/

Crowd Workers Widely Use Large Language Models for Text Production Tasks
https://arxiv.org/abs/2306.07899

Generative A.I. Can Add $4.4 Trillion in Value to Global Economy, Study Says
https://www.nytimes.com/2023/06/14/technology/generative-ai-global-economy.html

The Urgent Risks of Runaway AI – and What to Do about Them | Gary Marcus | TED
https://www.youtube.com/watch?v=JL5OFXeXenA&t=18s

EU AI ACT
https://www.euractiv.com/section/artificial-intelligence/news/ai-act-enters-final-phase-of-eu-legislative-process/
Reaction: https://www.digitaleurope.org/news/a-text-we-can-work-with-reaction-to-european-parliament-vote-on-ai-act/
"AI Act": EU-Parlament stimmt für Gesetz zu Regulierung von KI https://www.youtube.com/watch?v=Fl5jh-QnApU
https://www.deutschlandfunk.de/ai-act-eu-kuenstliche-intelligenz-gefahr-regulierung-100.html
https://www.spiegel.de/netzwelt/netzpolitik/ai-act-eu-parlament-will-ki-gesetz-nachschaerfen-a-32d50845-f19a-4fcf-b3ee-b1c45f068465
https://www.washingtonpost.com/technology/2023/06/14/eu-parliament-approves-ai-act/
https://www.nytimes.com/2023/06/14/technology/europe-ai-regulation.html

Reaktion von FR Präsident Emmanuel Macron über EU-Regulierung von KI:
https://twitter.com/ylecun/status/1669013339723423744

OpenAI, DeepMind will open up models to UK government
https://www.politico.eu/article/openai-deepmind-will-open-up-models-to-uk-government/

AI is a Black Box
Risiko Künstliche Intelligenz: Wird KI uns zerstören?
https://www.zdf.de/nachrichten/politik/ki-kuenstliche-intelligenz-gefahr-zerstoerung-regulierung-politik-100.html
https://www.deutschlandfunk.de/zur-zukunft-von-ki-interview-daniel-privitera-gruender-der-ngo-streitgut-dlf-e46bf7e5-100.html
GPT-4 Is a Giant Black Box and Its Training Data Remains a Mystery (gizmodo.com)
https://gizmodo.com/chatbot-gpt4-open-ai-ai-bing-microsoft-1850229989
What is Black Box AI? Definition from TechTarget
https://www.techtarget.com/whatis/definition/black-box-AI
Why We Will Never Open Deep Learning’s Black Box | by Paul J. Blazek | Towards Data Science
https://towardsdatascience.com/why-we-will-never-open-deep-learnings-black-box-4c27cd335118

Interessante Tools mit KI-Untersützung:
https://research.runwayml.com/gen2
https://app.heygen.com/
https://new.express.adobe.com/
https://pixlr.com/de/
https://clipdrop.co/tools
https://designer.microsoft.com/
https://www.canva.com/
https://www.deepl.com/write

MusicGen von Meta
https://huggingface.co/spaces/facebook/MusicGen
https://github.com/facebookresearch/audiocraft
https://colab.research.google.com/drive/1fxGqfg96RBUvGxZ1XXN07s3DthrKUl4-?usp=sharing
Beispiele: https://ai.honu.io/papers/musicgen/
Beispiel (Gen2, Bark, MusicGen): https://twitter.com/rainisto/status/1669050086540599323?s=20

AI Research
StyleDrop: Text-To-Image Generation in Any Style
https://styledrop.github.io/

https://ai.facebook.com/blog/yann-lecun-ai-model-i-jepa/
https://ai.facebook.com/blog/yann-lecun-advances-in-ai-research/

RE-RENDER A VIDEO: ZERO-SHOT TEXT-GUIDED VIDEO-TO-VIDEO TRANSLATION

In der neuen Episode von KI und Mensch sprechen wir im ersten Teil über unseren Besuch bei unserer ersten KI-Konferenz hier in München, der Corporate Content Conference (CO3). Wir erzählen von unseren Erfahrungen und Eindrücken vor Ort.
Die Konferenz behandelte Themen wie generative KI, maschinelles Lernen und neuronale Netze. Es gab viele Einführungsvorträge für ein breites Publikum. Die Teilnehmer kamen aus verschiedenen Bereichen wie Kunst, Marketing und Universitäten und wollten sich generell mit dem Thema KI beschäftigen.
Es gab Diskussionen über Chancen und Risiken von KI sowie ethische Fragen. Die Konferenzteilnehmer kamen zu dem Schluss, dass Eigenverantwortung und gesunder Menschenverstand wichtig sein werden beim Arbeiten mit KI-Werkzeugen.

Link-Liste
CO3 Konferenz (Programm und Speaker)
https://www.corporate-content.com/event-details/co-2023-ai-the-future-of-corporate-content

Andere Konferenzen mit KI als Themen
Republic (war im Mai 2023) in Berlin,
Rise of AI Berlin (war im April) und die demexco Köln (im September)

Kostenlose Kurse zum Thema Machiene Lerning (KI):
State of GPT https://www.youtube.com/watch?v=bZQun8Y4L2Ahttps://www.deeplearning.ai/short-courses/https://dlabs.ai/blog/top-10-free-machine-learning-and-artificial-intelligence-courses/https://www.kaggle.com/general/69415https://ai.google/build/machine-learning/https://www.cloudskillsboost.google/paths/118https://learn.microsoft.com/de-de/training/paths/ai-business-school-education/https://www.coursera.org/professional-certificates/ibm-machine-learning
Folgt uns auf:

Twitter: https://twitter.com/KIundMensch
Twitch: https://www.twitch.tv/kiundmensch
Youtube: https://www.youtube.com/@kiundmensch

Im zweiten Teil dieser Episode, unserem News-Segment, sprechen wir unter anderem über die neuesten Entwicklungen bei NVIDIA, einschließlich einer neuen RTX-GPU und der Avatar Cloud Engine. OpenAI hat ein verbessertes Training für KI-Modelle namens "Prozessüberwachung" vorgestellt und steht vor regulatorischen Herausforderungen in Europa.


Nvidia Keynote Computex 2023:
NVIDIA hat in seinem Keynote-Vortrag auf der COMPUTEX 2023 seine neuesten Fortschritte im Bereich des beschleunigten Computings vorgestellt. Der CEO Jensen Huang präsentierte die neuesten Modelle der RTX-GPUs sowie die Einführung von Nvidia ACE, Avatar Cloud Engine.
NVIDIA ACE for Games Sparks Life Into Virtual Characters With Generative AI: https://www.youtube.com/watch?v=5R8xZb6J3r0 
https://twitter.com/hexeract01/status/1663221285210447872

OpenAIs Roadmap für GPT-4
https://humanloop.com/blog/openai-plans

OpenAI Studie zur Verbesserung von Trainingsschritten
https://openai.com/research/improving-mathematical-reasoning-with-process-supervision
Paper: https://cdn.openai.com/improving-mathematical-reasoning-with-process-supervision/Lets_Verify_Step_by_Step.pdf

Wie würde sich diese Belohnngs-Methode auf das Paperclip Maximizer-Problem auswirken:
Prompt für ChatGPT: https://chat.openai.com/share/3e4ef54a-1fd8-4a5b-a4d5-975140648b27 

OpenAI vs. EU
https://www.ft.com/content/5814b408-8111-49a9-8885-8a8434022352)
https://www.reuters.com/technology/openai-ceos-threat-quit-eu-draws-lawmaker-backlash-2023-05-25/)
https://time.com/6282325/sam-altman-openai-eu/)


https://www.meedia.de/marken/eu-und-usa-wollen-bei-kuenstlicher-intelligenz-staerker-kooperieren-aec988eb13b4b91c99d981546537ad9c

Forderungen von Italien an OpenAI (vom April 2023)
https://www.reuters.com/technology/italy-lift-curbs-chatgpt-if-openai-meets-demands-by-end-april-data-protection-2023-04-12/

Jailbreaking LLMs
https://www.jailbreakchat.com/

DeppGPT:
https://www.der-postillon.com/2023/05/deppgpt.html

Open LLMs: 
Falcon-40B / 7B
https://pub.towardsai.net/falcon-40b-a-fully-opensourced-foundation-llm-945dd9824157
https://twitter.com/cwolferesearch/status/1662504834916929536

MPT-7B
https://www.mosaicml.com/
https://huggingface.co/spaces/mosaicml/mpt-7b-storywriter
https://huggingface.co/mosaicml/mpt-7b
https://huggingface.co/spaces/mosaicml/mpt-7b-instruct



Nicht im Stream erwähnt (aber trotzdem spannend):

JAX Whisper:
https://huggingface.co/spaces/sanchit-gandhi/whisper-jax

Übersicht mit ChatGPT Plugins:
https://wgmimedia.com/all-chatgpt-plugins/


Newsletter & Tool-Datenbanken

https://supertools.therundown.ai/ https://www.therundown.ai/  - https://twitter.com/rowancheung

https://www.futuretools.io/ https://futuretools.beehiiv.com/  https://www.youtube.com/@mreflow 

https://www.futurepedia.io/

https://www.bensbites.co/ https://twitter.com/bentossell/

https://news.theaiexchange.com/ https://twitter.com/Rachel_L_Woods

https://theresanaiforthat.com/

Die dunkle Seite der KI: Risiken, Kritik und die Zukunft der Technologie
Willkommen zur neuesten Episode unseres Podcasts, in der wir uns intensiv mit dem Thema "Künstliche Intelligenz und das Risiko des Untergangs" beschäftigen. In dieser Folge diskutieren wir eine Reihe von Quellen und Perspektiven, die sowohl die potenziellen Risiken als auch die Kritik an diesen Warnungen beleuchten.

Wir beginnen mit einem Blick auf die Erklärung von www.safe.ai zum Risiko der KI und berichten über Warnungen von Branchenführern, die in der New York Times und anderen Medien aufgegriffen und disktutiert wurden. Eine Studie der Universität Oxford liefert eine düstere Antwort auf die Frage, ob künstliche Intelligenz das Ende der Menschheit bedeuten könnte, während Kritiker diese Warnungen als übertrieben betrachten.

Wir werden auch die aktuellen Risiken diskutieren, die in dem Artikel "On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?" (2021) aufgeführt sind, einschließlich der Verstärkung von Vorurteilen und Stereotypen, der Generierung von beleidigender Sprache und der Ausnutzung durch böswillige Akteure.

Darüber hinaus werden wir den Energieverbrauch von KI und die Auswirkungen auf die Nachhaltigkeit betrachten, basierend auf einem Artikel von www.zdnet.com. Wir werden auch die Wahrscheinlichkeit des Untergangs durch KI (auch genannt p(Doom) / x-risk) diskutieren, die auf Foren oder Artikeln unter anderem im Time Magazine behandelt werden.

Schließlich werden wir die Ansichten verschiedener Experten wie Eliezer Yudkowsky, Yoshua Bengio, Max Tegmark und Geoffrey Hinton beleuchten, die ihre Gedanken und Bedenken zur KI und ihrem Potenzial für Risiken geäußert haben.

Wir hoffen, dass diese Episode Ihnen einen umfassenden Überblick über das aktuelle Gespräch rund um KI und Risiken bietet und freuen uns auf Ihre Gedanken und Fragen zu diesem wichtigen Thema. Bleiben Sie dran!


Link-Liste für Teil 1:
https://www.safe.ai/statement-on-ai-risk
https://www.nytimes.com/2023/05/30/technology/ai-threat-warning.html

https://www.swr.de/wissen/experten-warnen-vor-ausloeschung-der-menschheit-durch-ki-100.html

Oxford Studie: https://www.fr.de/wissen/ki-kuenstliche-intelligenz-ende-menschheit-oxford-studie-liefert-duestere-antwort-91821912.html


Kritik:
https://www.tagesspiegel.de/politik/umweltfolgen-durch-kunstliche-intelligenz-gravierend-forscherin-aus-oxford-kritisiert-ausloschungs-warnung-9911783.html
https://theconversation.com/if-were-going-to-label-ai-an-extinction-risk-we-need-to-clarify-how-it-could-happen-206738


Aktuelle Risiken:
On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? (2021)
https://dl.acm.org/doi/pdf/10.1145/3442188.3445922

Energy-Consumption: https://www.zdnet.com/home-and-office/sustainability/this-new-aws-tool-shows-customers-the-carbon-footprint-of-their-cloud-computing-usage/

p(Doom) / x-risk: https://forum.effectivealtruism.org/posts/THogLaytmj3n8oGbD/p-doom-or-agi-is-high-why-the-default-outcome-of-agi-is-doom

https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/
Eliezer Yudkowsky https://twitter.com/ESYudkowsky

Yoshua Bengio https://www.bbc.co.uk/news/technology-65760449
Max Tegmark:
https://www.channel4.com/news/ai-extinction-threat-is-going-mainstream-says-max-tegmark
https://time.com/6273743/thinking-that-could-doom-us-with-ai/
Geoffrey Hinton: https://www.nytimes.com/2023/05/30/podcasts/the-daily/chatgpt-hinton-ai.html

Weitere Stimmen:
https://twitter.com/abacaj/status/1664237098633658368
https://twitter.com/ylecun
https://twitter.com/tdietterich/status/1663602549130432512
https://twitter.com/GaryMarcus/status/1664124885009068032?s=20
https://twitter.com/chrmanning/status/1663920862439915524


Experts survey: https://aiimpacts.org/2022-expert-survey-on-progress-in-ai/


Folgt uns auf:

Twitter: https://twitter.com/KIundMensch
Twitch: https://www.twitch.tv/kiundmensch
Youtube: https://www.youtube.com/@kiundmensch

Im zweiten Teil sprechen wir, Leya und René, über die aktuellen News aus der Welt der KI. Unter anderem mit Neuigkeiten von Microsoft für Windows 11, neue Sprach- und Übersetzungsmodelle von Meta und wie das CBS-Nachrichtenmagazin 60 Minutes eindrucksvoll demonstriert wie mit Voice Cloning Betrüger Daten stehlen können.

Themen:
Die virtuelle Konferenz Microsoft Build 2023 bot Entwicklern vom 23. bis 25. Mai 2023 eine Fülle an Highlights. Dazu gehörten die Einführung von Windows Copilot als zentrale KI-Hilfe für Windows 11, die Entwicklern dabei hilft, komplexe Projekte umzusetzen und zu kollaborieren. Zudem wurden Bing Chat Plugins auf Windows erweitert, um Entwicklern die Integration ihrer Apps in Windows Copilot zu ermöglichen. Eine plattformübergreifende Lösung namens Hybrid Loop wurde eingeführt, die KI-Entwicklung von Azure bis zum Client unterstützt. Außerdem gab es die Einführung von Dev Home, einer Plattform, die Entwicklern dabei hilft, unter Windows produktiver zu sein. Zuletzt wurden im Microsoft Store unter Windows neue KI-Funktionen und -Erfahrungen eingeführt, die Entwicklern mehr Interaktionsmöglichkeiten mit ihren Kunden bieten.

Meta MMS ist ein KI-Sprachmodell, das über 4.000 gesprochene Sprachen erkennen und Text in über 1.100 Sprachen in Sprache umwandeln kann. Das Modell nutzt den selbstüberwachten Lernansatz wav2vec 2.0 und verfügt über einen umfangreichen Datensatz mit beschrifteten und unbeschrifteten Daten für zahlreiche Sprachen. Meta hat das Modell als Open Source veröffentlicht, um zur Erhaltung der Sprachenvielfalt beizutragen und andere Forscher zur Weiterentwicklung zu ermutigen. Es kann für verschiedene Anwendungen wie Sprach-zu-Text, Text-zu-Sprache, Sprachidentifikation und Sprachübersetzung genutzt werden.


Link-Liste für die News
Microsoft Build mit Win 11 Copilot, Dev Home etc
Microsoft Build event in 5 minutes
https://build.microsoft.com/en-US/home
Mehr News & Videos: Microsoft Build 2023

Windows 11 Copilot: https://blogs.windows.com/windowsdeveloper/2023/05/23/bringing-the-power-of-ai-to-windows-11-unlocking-a-new-era-of-productivity-for-customers-and-developers-with-windows-copilot-and-dev-home/
Announcing Windows Copilot

Microsoft Fabric:
https://www.microsoft.com/en-us/videoplayer/embed/RW13vu9

GPT-4-Plugins für Windows:
Empowering every developer with plugins for Microsoft 365 Copilot

Meta MMS
https://ai.facebook.com/blog/multilingual-model-speech-recognition
Paper: https://scontent-lga3-2.xx.fbcdn.net/v/t39.8562-6/348836647_265923086001014_6878005808275791319_n.pdf

60 Minutes
https://twitter.com/60Minutes/status/1660428419438354435

Nvidia:
https://www.handelsblatt.com/technik/it-internet/ki-boom-nvidia-aktie-steigt-um-mehr-als-23-prozent/29168344.html

BLIP Diffusion (Salesforce AI)
https://dxli94.github.io/BLIP-Diffusion-website/

MJ Updates:
https://twitter.com/saana_ai/status/1661466939464507395

Guanaco LLM
Guanaco - Generative Universal Assistant for Natural-language Adaptive Context-aware Omnilingual outputs (guanaco-model.github.io)
https://www.youtube.com/watch?v=SyuQKRt5310
https://huggingface.co/spaces/uwnlp/guanaco-playground-tgi
https://twitter.com/Tim_Dettmers/status/1661379354507476994


Weitere News (aber nicht in der Sendung besprochen):
Governments race to regulate AI tools
Generative Künstliche Intelligenz: Regulierung steht am Scheideweg
TechTalk: KI vor dem US-Kongress
Künstliche Intelligenz auf dem Arbeitsmarkt: «Die Frage ist nicht, ob es Massenarbeitslosigkeit gibt, sondern wann



Folgt uns auf:

Twitter: https://twitter.com/KIundMensch
Twitch: https://www.twitch.tv/kiundmensch
Youtube: https://www.youtube.com/@kiundmensch

Willkommen zur neuesten Episode unseres Podcasts!
In dieser Folge tauchen wir tief in die aufregende Welt der künstlichen Intelligenz ein, insbesondere die neuesten Innovationen von Adobe: Firefly und Generative Fill.
Diese unserer Meinung nach bahnbrechenden Werkzeuge nutzen die Stärke der künstlichen Intelligenz und verändern die Art und Weise, wie wir mit Adobe Photoshop Bilder bearbeiten und erstellen.
Adobe Firefly und Generative Fill in Photoshop könnten Dein kreatives Arbeiten in Zukunft stark beeinflussen. Mit einfachen Textaufforderungen kannst Du schnell Bilder erstellen, hinzufügen, entfernen oder ersetzen, und das alles direkt in Adobe Photoshop. Egal, ob Du ein Bild erweitern, den Hintergrund ändern, ein Outfit aktualisieren oder sogar generierte Objekte zu einem Bild hinzufügen möchtest - mit Generative Fill ist dies schneller als je zuvor möglich.
Adobe's Firefly und Generative Fill heben sich von ihren Konkurrenten wie Midjourney, Dall-E und Stable Diffusion ab. Ein Schlüsselunterschied ist die Transparenz, mit der Adobe die Daten offenlegt, auf denen seine KI-Modelle trainiert wurden. Adobe Firefly wurde auf Adobe Stock-Bildern, frei lizenzierten Inhalten und Inhalten des öffentlichen Bereichs trainiert. Dies könnte es zu einer ethischeren Alternative zu Rivalen machen, die mit Klagen von Künstlern konfrontiert sind, die behaupten, dass einige KI-Modelle illegal auf urheberrechtlich geschützten Kunstwerken basieren.
In dieser Folge werden wir erörtern, wie Firefly funktioniert, welche Vorteile es gegenüber seinen Konkurrenten bietet und welche Herausforderungen es noch zu bewältigen gilt. Egal, ob Du ein professioneller Designer bist oder einfach nur an den neuesten Entwicklungen in der Welt der KI interessiert bist - diese Folge hat für jeden etwas dabei. Begleite uns, während wir die spannende Welt der KI-gestützten Bildbearbeitung erkunden!

Link-Liste für Teil 1:

Adobe Firefly & PS
https://firefly.adobe.com/
https://www.adobe.com/products/photoshop/generative-fill.html
https://helpx.adobe.com/photoshop/using/whats-new/2023-3.html#generative-fill

Beispiel:
https://echoesofsomewhere.com/2023/05/24/pixel-art-test-photoshop-beta-ai-tools/

Tutorial-Video (Deutsch) von Adobe:
Was ist neu in Adobe Photoshop? Die neuen Features mit Tim Möbest | Adobe Live

Adobes Teaser-Video zu "Generative Fill" für Photoshop (aus der Anmod)
https://www.reddit.com/r/StableDiffusion/comments/13poaeh/adobe_just_added_generative_ai_capabilities_to/

Vergleich Text-2-Image-Generatoren:
https://zoo.replicate.dev/


Folgt uns auf:

Twitter: https://twitter.com/KIundMensch
Twitch: https://www.twitch.tv/kiundmensch
Youtube: https://www.youtube.com/@kiundmensch