Das KI-Wettrüsten verändert alles Die künstliche Intelligenz wird immer besser und kann nun sogar komplett neue Dinge erschaffen. Das nennt man »generative KI«. KI beeinflusst bereits unser Leben sehr stark, z. B. indem sie Preise festlegt, Autos produziert und entscheidet, welche Werbung wir sehen. Programme wie ChatGPT und Dall- E haben in den letzten Monaten Millionen von Nutzern begeistert, da sie nahezu jede Frage beantworten und jedes beliebige Bild erstellen können. Viele glauben, dass dies erst der Anfang ist und dass generative KI die Art und Weise, wie wir arbeiten und mit der Welt interagieren, grundlegend verändern wird. Ein Unternehmen namens PwC sagt voraus, dass die KI bis zum Jahr 2030 über 15 Billionen Dollar zur Weltwirtschaft beitragen wird. Die Technologieunternehmen sind überrascht von dem Hype um die generative KI und beginnen, in diesem Bereich zu investieren. Microsoft hat 10 Milliarden Dollar in OpenAI investiert, den Erfinder von ChatGPT und Dall-E, und plant, generative KI in seine Office-Software und die Suchmaschine Bing zu integrieren. Google hat als Reaktion auf den Erfolg von ChatGPT den eigenen Chatbot »Bard« entwickelt und einen Wettlauf zwischen den Unternehmen ausgelöst. Die Aktien von Unternehmen, die KI in ihren Plänen erwähnen, werden von Finanz-Analysten höher bewertet, während diejenigen bestraft werden, die ihre KI Produkte nur zögerlich einführen. Der Hype um generative KI hat eine Finanzblase um die Technologie herum geschaffen, bei der Investoren darauf wetten, dass generative KI den Markt genauso erschüttern wird wie Microsoft Windows 95 oder das erste iPhone. Allerdings gibt es auch Bedenken. Die Unternehmen beeilen sich, die Technologie zu verbessern und vom Boom zu profitieren, doch die Sicherheitsforschung gerät dabei in den Hintergrund. Im Kampf um die Macht, drohen Big Tech und ihre Risikokapitalgeber die Fehler der Vergangenheit zu wiederholen, indem sie dem Wachstum Vorrang vor der Sicherheit einräumen. Es gibt viele potenziell positive Aspekte dieser neuen Technologien, aber auch Werkzeuge, die für das Gute gedacht sind, können unvorhergesehene und verheerende Folgen haben. Im Jahr 2020, begann ein Boom in der KI-Industrie durch die Fortschritte im Design neuronaler Netze, mehr verfügbarer Daten und Investitionen von Tech-Unternehmen in die Rechenleistung. OpenAI stellte im April 2022 das Text-zu-Bild-KI-Modell Dall-E 2 vor, welches anfangs nur für vertrauenswürdige Benutzer zugänglich war. Im November desselben Jahres wurde ChatGPT veröffentlicht und erregte viel Aufmerksamkeit und Investitionen in KI-Unternehmen. Microsoft, Google und Meta haben ebenfalls große Pläne für die KI-Entwicklung, aber es gibt auch Bedenken hinsichtlich der Sicherheit und Genauigkeit der Technologie, besonders im Zusammenhang mit Deepfakes. Aktuelle Probleme der Tech-Industrie, wie die negativen Auswirkungen von sozialen Medien und Fehlinformationen, verblassen im Vergleich, zu dem, was passieren könnte, wenn der Wettlauf um die Integration von KI in Tech-Produkte weitergeht. Experten warnen, dass Suchmaschinen die schlechteste Art sind, generative KI einzusetzen, da sie oft fehlerhaft sind. Stattdessen wird die Kreativität und Ideenfindung durch KI oft zugunsten von profitablen Maschinen für Tech-Giganten vernachlässigt. Dies könnte viele Unternehmen dezimieren, die auf Suchmaschinen angewiesen sind. Es bleibt auch unklar, wie KI-Unternehmen ihre Projekte monetarisieren werden. Im Moment sind die meisten kostenlos, aber es besteht die Möglichkeit, dass monatliche Abonnementgebühren und bezahlte Anzeigen in KI generierten Suchergebnissen eingeführt werden, was es schwieriger macht, sachliche Informationen von Werbung und Fehlinformationen zu unterscheiden. KI-Experten machen auf ein großes Problem aufmerksam: KI-Firmen wollen eine künstliche allgemeine Intelligenz schaffen, die besser ist als menschliches Denken und Lernen. Aber was passiert, wenn diese KI unkontrollierbar wird und sich weiterentwickelt, ohne dass Menschen eingreifen können? Könnte sie sogar die Menschheit auslöschen? Dies ist kein Science-Fiction-Szenario, sondern ein reales Risiko. Fast die Hälfte der befragten KI-Forscher schätzt die Wahrscheinlichkeit einer solchen Katastrophe auf 10 % oder mehr. Einige wenige Experten versuchen die KI mit menschlichen Werten zu vereinen, falls sie uns übertreffen sollte. Aber das Problem ist, dass nur eine kleine Anzahl von Forschern daran arbeitet, während tausende von Ingenieuren das Wettrüsten der KI vorantreiben. Obwohl Führungskräfte von OpenAI und DeepMind angekündigt haben, den Reichtum und die Macht, die von der KI ausgehen, zu verteilen, sind es Big-Tech-Unternehmen welche die KI kontrollieren, die am meisten profitieren werden. Sie könnten nicht nur die reichsten Unternehmen der Welt werden, sondern auch geopolitische Macht erlangen. Es bleibt unklar, ob wir die KI kontrollieren können oder ob sie uns kontrollieren wird. Die wirtschaftliche Bedeutung und rasante Entwicklung der KI können nicht ignoriert werden. Wir müssen vorsichtig sein und sicherstellen, dass wir die Technologie so nutzen, dass sie der Menschheit zugutekommt und nicht unsere Existenz gefährdet. Staatliche Zensur beeinflusst Sprachalgorithmen von Künstlicher Intelligenz Margaret Roberts, eine Professorin für Politikwissenschaften an der UC San Diego, und Eddie Yang, ein Doktorand an derselben Universität, haben in neuen Forschungsarbeiten gezeigt, wie die staatliche Zensur in China die Sprachalgorithmen der Künstlichen Intelligenz beeinflusst. Die KI-Algorithmen können die Sprache beeinflussen, die von Chatbots, Sprachassistenten, Übersetzungs- oder Auto-Vervollständigung- Programmen verwendet wird. Die Forscher trainierten KI-Sprachalgorithmen auf zwei Quellen: Die chinesischsprachige Wikipedia, die in China gesperrt ist, und Baidu Baike, eine ähnliche Website, die der staatlichen Zensur unterliegt. Die Algorithmen, die aus dieser Trainingserfahrung entstanden sind, spiegelten die Unterschiede in der Zensur zwischen den beiden Quellen wider. Der Algorithmus, der auf der chinesischen Wikipedia trainiert wurde, verwendete positive Wörter wie »Demokratie« und stellte sie in einem positiven Licht dar. Im Gegensatz dazu verglich der Algorithmus, der auf Baidu Baike trainiert wurde, positive Wörter wie »Demokratie« eher mit »Chaos«. Die Forscher nutzten diese Algorithmen, um zwei Programme zu erstellen, die die Stimmung von Nachrichtenschlagzeilen bewerten konnten. Die Forscher stellten fest, dass das Programm, das auf der chinesischen Wikipedia trainiert wurde, Schlagzeilen, die Wahlen, Freiheit und Demokratie erwähnten, positiv bewertete. Das Programm, das auf Baidu Baike trainiert wurde, bewertete Schlagzeilen, in denen Überwachung und soziale Kontrolle vorkamen, positiver. Die Ergebnisse wurden auf der Konferenz über Fairness, Rechenschaftspflicht und Transparenz im Jahr 2022 vorgestellt. Die Forschungsergebnisse zeigen, wie die Politik der Regierung die Voreingenommenheit von KI-Systemen fördern kann. Die Forscher fordern mehr Aufmerksamkeit für die Frage, wie Regierungen in Zukunft das Training von KI-Systemen beeinflussen könnten, um die Zensur effektiver zu gestalten oder bestimmte Werte zu exportieren. Wie künstliche Intelligenzsysteme die Demokratie bedrohen Microsoft hat sich mit einer chinesischen Militäruniversität zusammengetan, um künstliche Intelligenz-Systeme zu entwickeln, die die Überwachungs- und Zensurfähigkeiten der Regierung verbessern können. US-Senatoren haben diese Partnerschaft kritisiert, aber das Problem des Einsatzes von KI zur Unterdrückung geht über diese spezielle Partnerschaft hinaus. Neue Technologien ermöglichen es Regierungen, Bürger in nie dagewesenem Ausmaß zu überwachen, zu verfolgen und zu kontrollieren. Selbst demokratische Regierungen können diese Möglichkeiten missbrauchen. In Staaten mit nicht rechenschaftspflichtigen… This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit jackkabey.substack.com