Transcript
Anja Mutschler: Matthias, ich habe was mit dir vor heute, hallo.
Matthias Standfest: Also, ich bin schon neugierig.
Anja Mutschler: Hallo, alle, die zuhören.
Anja Mutschler: Ja, wir haben heute was vor, denn ihr kennt meinen Podcast, den es jetzt über vier Jahre gibt, 20 Blue Hour, als ein Analyse- und Debatten-Podcast.
Anja Mutschler: Und ich gebe zu, ich habe in Anbetracht der Wirklichkeit davon gerade ein bisschen die Schnauze voll, weil es mich nicht ins Handeln bringt, in das, was mich motiviert.
Anja Mutschler: Und deswegen habe ich heute jemanden eingeladen, Matthias Standfest.
Anja Mutschler: Als mir wohl bekannter KI-Experte, ihr habt ihn vielleicht auch schon mal gehört, der war schon mal im Podcast da und hat es geschafft, mir zu erklären, wie KI funktioniert.
Anja Mutschler: Vielen Dank dafür.
Anja Mutschler: Und dich habe ich eingeladen, weil du völlig unverdächtig bist, des Versuchs, den ich vorhabe, nämlich Utopien zu bauen.
Anja Mutschler: Also du bist nicht jemand, der mir jetzt das Goldene vom Himmel versprechen würde und trotzdem möchte ich gerade deswegen mit einem eher dekonstruktivistischen, kritischen, unfassbar für mich jetzt belesenen Menschen, der Welt versteht auf einer komplexen Ebene, die mir auch zusagt, mal versuchen, von der ungenügenden Gegenwart
Anja Mutschler: zu springen und dann gucken, wo wir landen.
Anja Mutschler: Das wird wahrscheinlich auch ein bisschen schmerzhaft zwischendurch sein, aber da wollen wir nicht aufhören.
Anja Mutschler: Bist du dabei?
Matthias Standfest: Natürlich.
Matthias Standfest: Das wäre so spannend.
Anja Mutschler: Wir fangen trotzdem mal an, Matthias.
Anja Mutschler: Wir reden ja schon länger über verschiedene Themen und jetzt gerade hast du zum Thema KI, glaube ich, vertiefte Denkarbeit gerade am Start, um zu überlegen, wie kann KI funktionieren?
Anja Mutschler: gut genutzt werden?
Anja Mutschler: Wie wird es gerade genutzt?
Anja Mutschler: Wofür kann es nützlich sein?
Anja Mutschler: Hol uns doch mal ab, was könnte KI im Zusammenhang mit der Welt bedeuten und wo stehen wir gerade?
Anja Mutschler: Mhm.
Matthias Standfest: Ja gut, KI ist nichts Neues.
Matthias Standfest: Ich glaube, zuallererst muss man mit diesem Paradigma aufhören, dass KI etwas ist, was vor zehn Jahren vom Himmel gefallen ist.
Matthias Standfest: KI ist Statistik und Statistik gibt es seit eh und je.
Anja Mutschler: Mhm.
Anja Mutschler: Mhm.
Matthias Standfest: Ganz bekannt wurde das von den Schotten für die Versicherungsbranche damals entwickelt.
Matthias Standfest: Ich bin ein Freund von Armin Nassehi in dem Setup.
Matthias Standfest: Der hat vor kurzer Zeit das Buch Muster publiziert und da liegt eigentlich ganz klar dar, wie diese Mustererkennung, diese Statistik per se der Gesellschaft immanent ist.
Matthias Standfest: Und das wird zwangsläufig entwickelt.
Matthias Standfest: Also das gehört zu uns wie das Amen im Gebet.
Matthias Standfest: Vor dem Hintergrund ist es natürlich ganz klar, dass KI wie alles andere in unserer Technisierung oder in unserer industrialisierten Welt wird dazu beitragen, das System zu beschleunigen.
Matthias Standfest: Wir können damit mehr Werbung machen, wir können mehr Produkte verkaufen, mehr Dienstleistungen, wir können günstiger werden, alles wird schneller.
Matthias Standfest: Die ganzen Dynamiken, die wir sehen, beschleunigen sich.
Matthias Standfest: Gleichzeitig ist meine Hypothese, dass KI zu einer Kapitalisierung von Expertise führt, analog
Matthias Standfest: zur marxistischen Theorie einfach und es dann einige wenige Pole gibt, wo KI-Automaten und Daten zu Hause sind und die natürlich dann den Rest der Gesellschaft analog zu den letzten zwei, drei Jahrhunderten ausquetschen.
Anja Mutschler: Das heißt, es wird Wissensunternehmer geben, die KI-Wissen verkaufen oder was meinst du mit...
Matthias Standfest: sind eher so Automatisierungsdienstleister.
Matthias Standfest: Das ist eher so, KI ist überall inkludiert.
Matthias Standfest: Google hat eine eigene KI in den Google-Produkten, Microsoft hat ein eigenes Setup in den Microsoft-Produkten.
Matthias Standfest: Apple kauft gerade vermutlich Mistral, das wird gerade gemunkelt.
Anja Mutschler: Oh nein, wo ist die europäische KI?
Matthias Standfest: Ja.
Matthias Standfest: Und
Matthias Standfest: Das sind die wirklichen Pole.
Matthias Standfest: Und da muss man seinen Obolus einfach an die Firmen abtreten.
Matthias Standfest: Was damit eine Hand geht, ist eigentlich aber leider auch diese kognitive Verarmung von allen, die KI wirklich produktiv nutzen.
Anja Mutschler: Mhm.
Anja Mutschler: Mhm.
Matthias Standfest: Und man wird abhängig.
Matthias Standfest: Es ist wie eine Droge.
Matthias Standfest: In dem Moment, wo man mal angefext ist, ist es schwierig, damit wieder aufzuhören.
Matthias Standfest: Hat natürlich auch Vorzüge, man wird produktiver, dieses und jenes.
Matthias Standfest: Kommt natürlich auch mit Gefahren, die meistens unter den Tisch gekehrt werden.
Matthias Standfest: Und so
Matthias Standfest: reiht sich das einfach ein in den klassischen Narrativ jeder Industrialisierungsgeschichte oder Automatisierungsgeschichte.
Matthias Standfest: Da ist kein Unterschied.
Matthias Standfest: Und Automatisierung war seit jeher politisch motiviert.
Matthias Standfest: Mein Lieblingsbeispiel ist immer die Entstehung der CNC-Maschine.
Matthias Standfest: Das waren zwei Ingenieure, die hatten Rotorblätter fräsen müssen für die US Air Force damals.
Anja Mutschler: Mhm.
Matthias Standfest: und haben sich überlegt, wie man mit dem ersten Computer was machen kann und haben dann die erste CNC-Fräse entwickelt.
Matthias Standfest: Und zum gleichen Zeitpunkt waren aber die Blue-Collar-Arbeiter, also die ganzen Betriebsflächen, die Werkstätten, die waren alle gewerkschaftlich organisiert in Amerika.
Matthias Standfest: Gleichzeitig alles, was White-Collar war, war nicht gewerkschaftlich organisiert.
Matthias Standfest: Und die US Air Force, beziehungsweise später die DARPA, die das Vorgängerorganisation von der DARPA, hat dieses Projekt angetrieben,
Matthias Standfest: Die waren sich dieser Gefahr bewusst und hatten Angst, dass kritische Elemente des militärisch-industriellen Komplexes durch die Gewerkschaft langgelegt werden können.
Matthias Standfest: Also hat man die ersten 110 CNC-Maschinen an rüstungsrelevante Player verschenkt, um die Gewerkschaft auszuhebeln, um sicherzugehen, dass alles gemacht werden kann aus ihrer politischen Motivation heraus.
Anja Mutschler: Mhm.
Anja Mutschler: Mhm.
Matthias Standfest: Heute ist es ja nichts anderes.
Matthias Standfest: Ich meine, wenn ich jetzt über die Kapitalisierung von Expertise spreche, führt das dazu, dass ich Experten den kritischen Geist aushebeln kann, weil ich ja auf deren Werke anders verweise.
Matthias Standfest: Und das ist schwierig insofern, als dass wir im politischen Diskurs darauf noch geantwortet haben.
Anja Mutschler: Ich denke gerade an zwei Dinge.
Anja Mutschler: Das eine war, als ich zum ersten Mal ein Projekt mithilfe von KI bewältigt habe, also quasi meine eigene Expertise kapitalisiert habe.
Anja Mutschler: Eine Lücke, die ich seither auch noch nicht ganz widerschließen konnte, am Anfang mir aber am sichtbarsten war.
Anja Mutschler: Mein Denken und das Denken der KI, also ich war noch mitten im Pudding und die KI war schon in der Struktur und ich habe eigentlich die ganze Zeit immer das Gefühl gehabt, knapp vorbei, so, ist auch daneben.
Anja Mutschler: Das, was rauskam als Output, war aber so produktiv nutzbar, wie ich es wiederum nicht hinbekommen hätte und sozusagen von der Kapitalisierbarkeit dessen dann wieder besser.
Anja Mutschler: Was aber auch daran liegt, dass ich immer sehr stark an der Schnittstelle bin, ich eigentlich
Anja Mutschler: unternehmerisch oder eher publizistisch hier gerade unterwegs.
Anja Mutschler: Das sind meine zwei Teilidentitäten, deswegen bin ich da vielleicht auch so ein Sonderfall.
Anja Mutschler: Aber deswegen fiel mir das sehr stark auf, dass sozusagen der Output sehr gut vom Mainstream verwertbar ist, besser als ich es wahrscheinlich selber hinbekommen hätte, aber ich mir nicht ganz sicher bin, ob er das Wesentliche trifft.
Anja Mutschler: Aber es ist da.
Matthias Standfest: Ja, da ist das richtige Schlagwort schon gesagt, Mainstream.
Matthias Standfest: Also wenn wir mit KI arbeiten, und KI ist wiederum statistisch und man nährt sich irgendwie diesem Mittelwert an, alles was wir damit produzieren können, ist irgendwie Mainstream orientiert.
Matthias Standfest: Und das ist gut, das sind die Hauptprojekte, die wir machen, es ist irgendwie Effizienzsteigerung, damit kann man arbeiten, macht auch Sinn.
Matthias Standfest: Das Problem ist einfach nur, wenn ich zum Outlier-Thema arbeite oder wenn ich etwas besonders gut machen will oder wenn ich irgendetwas mache, was sich nicht dem Mainstream unterwirft.
Matthias Standfest: Weil das wird dann geschliffen.
Matthias Standfest: Das fällt durch diesen statistischen Rost.
Matthias Standfest: Und das ist schwierig.
Matthias Standfest: Das ist genau, was die Frankfurter Schule mit der Kulturindustrie eigentlich angeprangert hat.
Matthias Standfest: Wenn man es hart runterbricht, ist dieser AI-Slob, den ja auch schon John Oliver in seiner Show thematisiert hat.
Matthias Standfest: Wenn man es hart runterbricht, ist nach Adorno dieser AI-Slob eigentlich Protofaschismus.
Anja Mutschler: Erklär mal AI-Slub für die, die es noch nicht gehört haben.
Matthias Standfest: Ja, klar.
Matthias Standfest: AI-Slub ist dieser AI-Cardivage von diesen ganzen, von Bildern, die so einfach generiert werden oder Texte, die einfach generiert werden, wo plötzlich jeder im Stil von Studio Ghibli Comic-Strips entwerfen kann oder wo plötzlich jeder im Stil von Zaha Hadid Gebäude entwerfen kann oder Fassaden.
Anja Mutschler: Mhm.
Anja Mutschler: Mhm.
Anja Mutschler: Mhm.
Matthias Standfest: Das Problem hier ist einfach,
Matthias Standfest: Es gibt ein gewisses Oberfitting in den Trainingsdaten, die hinterlegt werden.
Matthias Standfest: Das heißt, all die Bilder und Texte, die in den Trainingsdaten in großer Zahl zur Verfügung stehen, das ist der Mainstream.
Matthias Standfest: Und alles, was dann nicht groß oder dominant positioniert ist, fällt durch den Rost.
Anja Mutschler: Mhm.
Anja Mutschler: Also es gibt noch nicht mal KI gesprochen, hast du sagst, okay, ich bin eine liebe KI, geh mal bitte auf den Nebenschauplatz, geh mal in die Nische, geh mal sonst, da ist dann nichts mehr.
Anja Mutschler: Bist du dich jetzt richtig verstanden?
Matthias Standfest: Genau.
Matthias Standfest: Nicht nur, dass selbst wenn er was findet durch die Algorithmen oder durch die Art und Weise, wie die Daten verwendet werden, es gibt immer diese Konzeptdrift.
Matthias Standfest: Man bewegt sich immer Richtung Mainstream.
Matthias Standfest: Und das Problem ist einfach hier in den Daten, die dem zugrunde liegen.
Matthias Standfest: Ich meine, wir wissen jetzt von Meta und von den anderen, dass die eigentlich großteils auf raubkopierten Büchern trainieren.
Anja Mutschler: Thema Urheberrecht.
Anja Mutschler: Musik.
Matthias Standfest: Die sind jetzt nicht die offenen Daten, die im Internet zur Verfügung stehen.
Matthias Standfest: Das sind ganz eigene Datensätze.
Matthias Standfest: Und wir sehen jetzt seit den letzten Tagen, mit wie viel Ehrgeiz Elon Musk und X daran arbeiten, deren AI Grog auf Nazi-Propaganda zu trainieren.
Matthias Standfest: Wir wissen aber genauso auch, dass diese chinesische Dipsig, die ja auch die chinesische Zensur immanent hat.
Matthias Standfest: Also je nachdem, mit welchem Sprachmodell ich arbeite, um jetzt wirklich in eine konkrete Terminologie abzudriften, es geht ja hier um die Sprachmodelle.
Anja Mutschler: Ja.
Matthias Standfest: Es geht ja nicht um KI, die sagt, hey, die argumentieren kann, sondern es geht darum, wie wird Sprache verwendet.
Matthias Standfest: Und
Matthias Standfest: Diese Sprachmodelle kommen immer mit einer Drift.
Matthias Standfest: Und deswegen, ich warne jeden davor, diese Sprachmodelle für faktische Recherche oder für faktische Diskussionen mit Kausalitäten zu verwenden.
Matthias Standfest: Sprachmodelle sind wie, für mich ist das immer wie Malen nach Zahlen.
Matthias Standfest: Also ein Sprachmodell kann ein Feld ausmalen, wo ich weiß, das ist im Farbturm 17.
Anja Mutschler: Und
Matthias Standfest: Aber die Kontur des Feldes oder die Kodierung mit der Farbe 17, die muss ich vorgeben.
Matthias Standfest: Oder über Wissensgrafen oder andere Techniken, die es da gibt.
Matthias Standfest: Aber im Moment, wie man mit diesem statistischen Verfahren umgeht, homogenisiert man den kulturellen Output.
Anja Mutschler: Bleiben wir mal bei dem ein Stück weit stehen.
Anja Mutschler: Wir sind, wie du sagst, hat das so ein bisschen Drogencharakter.
Anja Mutschler: Das kannst du ja an der Stelle auch nur haben, wenn es ein tiefliegendes Bedürfnis von uns deckt.
Anja Mutschler: da würde ich jetzt eher mal sagen, es ist so eine Mischung aus Dopamin, wow, geil, interessant, wie schnell das geht, und Faulheit, ja, eigentlich habe ich echt keinen Bock, das jetzt nochmal zu lesen, sind das, gut, da sind wir jetzt vielleicht beide als Anhänger kritischer Theorien auch selber gebiased, also sozusagen der Niedergang der Kultur geht den entsprechend schon ein bisschen länger, aber formuliert doch für mich nochmal,
Anja Mutschler: Beispiel von KI, woran Gesellschaft aus deiner Sicht gerade krankt und wie KI so, wie es jetzt genutzt wird, das eher verstärkt.
Matthias Standfest: Wo anfangen?
Anja Mutschler: Die drei.
Matthias Standfest: Nehmen wir das Bild.
Anja Mutschler: Mhm.
Matthias Standfest: Von den verschiedenen Medien, Medium ist die Message, ist das Bild einfach das, was man sich am schönsten vor Augen führen kann.
Matthias Standfest: Bilderzeugung war ja eigentlich immer aufwendig.
Matthias Standfest: Das wissen wir, das ist in der Menschheitsgeschichte.
Anja Mutschler: Hier habt ihr, hier, da, guckt.
Anja Mutschler: Ja.
Matthias Standfest: Ja, ja.
Matthias Standfest: Ich habe selbst während des Studiums lange Zeit als Grafiker gearbeitet, um gute Bilder, gute Grafik zu erzeugen, richtig Fotos zu machen, damals noch analog, dann später digital, das richtig zu belichten, Bildkomposition, all das, das sind ja eigentlich Werkzeuge.
Matthias Standfest: Das sind Werkzeuge, die kann ich bewusst einsetzen, um irgendetwas zu erzeugen.
Matthias Standfest: Man erkennt gute Bilder.
Matthias Standfest: Das ist auch jedem von uns klar.
Matthias Standfest: Jeder von uns, wenn man ins Museum geht, es gibt so eine Drift.
Matthias Standfest: Also Menschen haben immer irgendeine gewisse Tendenz, was ihnen gefällt.
Matthias Standfest: Und jetzt durch KI habe ich das Problem, dass ich bekomme diese Schein-Selbstwirksamkeit.
Anja Mutschler: Mm-hmm.
Anja Mutschler: Mm-hmm.
Matthias Standfest: Also ich bin ja großer Fan von dieser ganzen Punk-Attitüde, ich mache selbst.
Matthias Standfest: Und plötzlich kann ich
Matthias Standfest: wo ich vorhin wirklich Zeit investieren habe müssen, um irgendwelche guten Bilder zu produzieren, plötzlich habe ich hier einen Shortcut.
Matthias Standfest: Plötzlich kann ich mit AI hier viel schneller ein Bild generieren.
Matthias Standfest: Und nicht nur eins, sondern tausende Bilder generieren.
Matthias Standfest: Und diese Bilder sind akzeptabel in meinem Mindset zumindest.
Matthias Standfest: Aber alle diese Bilder, wie gesagt, kommen mit so einer, die kosten mir was.
Matthias Standfest: Die kosten mir Teile meiner Identität.
Matthias Standfest: Hätte ich es selbst gemacht, hätte ich es in Nuancen unterschiedlich gemacht.
Matthias Standfest: Ein einfaches Beispiel, ich habe es nicht kürzlich gemacht, aber zumindest noch vor ein paar Monaten war das Problem.
Matthias Standfest: In dem Moment, wo ich irgendeinem bildgebenden Verfahren sage, ich brauche ein Bild von Menschen oder ich brauche ein Bild von einer Frau,
Anja Mutschler: Mm.
Anja Mutschler: Mm.
Anja Mutschler: Mm.
Matthias Standfest: die waren ja nicht nur normschön.
Matthias Standfest: Ich meine, das waren ja alles Hollywood-Starlets.
Matthias Standfest: Und ich bekam damit, ich brauch...
Matthias Standfest: Ich trage zum falschen Selbstbild der Frau bei.
Matthias Standfest: Ich trage den Bias raus, den wir eigentlich in den Trainingsdaten hinterlegt haben.
Matthias Standfest: Ich trage zu Sexismus bei.
Matthias Standfest: Ich trage dazu bei, dass ich Diversität nicht adäquat abdecke.
Matthias Standfest: Ich pushe ja diese ganzen enorm schönen Ideale.
Matthias Standfest: Und das über ein statistisches Werkzeug.
Matthias Standfest: Gleichzeitig pushe ich aber auch einfach Stile, die
Matthias Standfest: eine Tochter der Zeit sind.
Matthias Standfest: Also ich meine, jetzt Studio Ghibli, die Leute haben dahinter gearbeitet.
Matthias Standfest: Das ist was, da ist ein Message dahinter.
Matthias Standfest: Und diese ganze Aura, diese ganze Message, das alles, was irgendwie Kunst ausmacht, verliere ich.
Anja Mutschler: Mhm.
Matthias Standfest: Alles, was ich dann generiere, sind eigentlich seelenlose Pixelcluster.
Matthias Standfest: Und wenn mir das bewusst ist, dass das kommerziell ist, dass das...
Matthias Standfest: im Kontext der Industrialisierung gesehen werden kann, ist es im Kern eigentlich genau die Kritik, die wir schon hatten, als diese ganze Kulturindustrie angefangen hat in den 40ern und 50ern, eben über die Reflexion von Horkheimer und Adorno, wo eben dann auch später in der Frankfurten Schule Walter Benjamin sich genau damit auseinandergesetzt hat mit dem Kunstwerk im Zeitalter der technischen Reproduzierbarkeit.
Anja Mutschler: Das war vor über 100 Jahren.
Matthias Standfest: Genau.
Matthias Standfest: Und alles, was wir jetzt machen, ist nicht neu.
Matthias Standfest: Das ist alles einfach nur Fortsetzung der Industrialisierung, einfach nur mit neuen Werkzeugen, die wir mit dem Handy bedienen können.
Anja Mutschler: Das wollte ich nämlich gerade sagen, eigentlich ist so wie du es beschreibst, ja nicht KI die Wurzel des Problems, sondern setzt einen Trend fort, den es vorher schon gab.
Anja Mutschler: Also Thema Normschön, Instagram, ja, ne.
Anja Mutschler: Zum Thema Social Media könnt ihr gerne den Podcast vom März hören, da haben wir darüber auch gesprochen.
Anja Mutschler: Ich verlinke auch mal diesen Studio Ghibli KI-Generator in den Shownotes, damit alle wissen, wovon du redest.
Anja Mutschler: Aber eine Sache, die ich mich frage, wenn KI, du sagst, es ist eine Mustererkennung nach wie vor.
Anja Mutschler: Die Evangelists sagen, General AI ist dann ein Denkpartner.
Anja Mutschler: Ist die KI nicht irgendwann wieder so schlau, dass sie
Anja Mutschler: das besser machen kann, unsere Ungenügen, das wir als Menschen ja schon produzieren, also wo KI offensichtlich jetzt eine Beschleunigung und Vergrößerung von Unzulänglichkeiten, die wir sowieso schon haben, zu sein scheint, kann uns da die General AI nicht helfen, das zu überwinden?
Matthias Standfest: Ja, ich muss das mal kurz auseinanderpacken.
Anja Mutschler: Bitte gern.
Matthias Standfest: Ich bin ja kein Technikfeind.
Matthias Standfest: Ich selbst bin eher technikbegeistert.
Matthias Standfest: Vorsichtig.
Matthias Standfest: Mein Kais wird Taschenrechner.
Matthias Standfest: Jeder von uns nutzt einen Taschenrechner für schwierige Rechenoperationen.
Anja Mutschler: Mhm.
Anja Mutschler: Mhm.
Matthias Standfest: Wir können nicht alles im Kopf ausrechnen.
Matthias Standfest: Und diese...
Matthias Standfest: kognitive Krücke, die diese Tools sind, die haben ja schon einen Mehrwert.
Matthias Standfest: Ich meine, da gibt es diese Extended Theory of Mind, wo es genau darum geht, wo man analysiert hat, wie technische Artefakte eigentlich unsere Denkmuster beschleunigen oder verändern.
Matthias Standfest: Und de facto ist die Idee, dass man sich dann weniger aufs Operative konzentrieren muss, sondern wir können dann ein kleines Beispiel strategischer denken.
Matthias Standfest: Also man verändert einfach die Levels, auf denen man denkt.
Anja Mutschler: Ja.
Matthias Standfest: Bei der KI kann das auch der Fall sein.
Matthias Standfest: Die KI kann theoretisch auch ein guter Sparring-Partner sein.
Matthias Standfest: Das Problem wiederum ist einfach, die Art und Weise, wie KI im Moment teilweise genutzt wird, so als Wahrheitsquelle, ist super gefährlich.
Matthias Standfest: Weil...
Matthias Standfest: Warum nutzen wir KI als Wahrheitsquelle?
Matthias Standfest: Das sind zwei Aspekte.
Matthias Standfest: Der eine Aspekt ist, klassische Suchmaschinen wie Google werden immer schlechter.
Matthias Standfest: Hat einen Hintergrund.
Matthias Standfest: Google hat das selbst publiziert innerhalb von einem Gerichtsprozess.
Matthias Standfest: Google hat kein Interesse daran, dass man schnell was auf der Seite findet.
Anja Mutschler: Mhm.
Matthias Standfest: Weil umso länger man scrollt, umso länger man braucht, umso länger ist man auf der Google-Page, umso mehr Werbung kann ihnen geliefert werden.
Matthias Standfest: Gleichzeitig braucht man aber Informationen in unserem Informationszeitalter.
Matthias Standfest: Und jetzt gibt es diese Sprachmodelle als Pseudosuchmaschinen oder Sparingpartner oder wie auch immer.
Matthias Standfest: Und man kommt dann da rein.
Matthias Standfest: Und man tendiert aber einfach dazu, das dann unreflektiert zu übernehmen.
Matthias Standfest: Und das ist gar keine Frage vom Bildungsniveau.
Matthias Standfest: Immerhin die Anzahl an Gerichtsprozessen, wo Anwälte aus dem JET-GPD-Programm dann Gerichtsprozesse
Matthias Standfest: Präzedenzfälle zitieren, die es nie gegeben hat, die die KI einfach nur halluziniert, ich meine, die ist erschreckend.
Matthias Standfest: Dafür gibt es sein eigenes Strafgeld-Setup in den Staaten.
Anja Mutschler: Okay.
Anja Mutschler: Wirklich?
Anja Mutschler: Auch nochmal teilen in Show Notes.
Matthias Standfest: Ja, und es geht ja immer darum, wie unkritisch wir diese Technologie verwenden.
Matthias Standfest: Das Gleiche sind Navigationsgeräte im Auto.
Matthias Standfest: Ich meine, wir kennen alle diese Geschichten,
Matthias Standfest: aus den Zeitungen, wo Leute blind dem Navigationsgerät vertrauen und dann auf der Autobahn umwenden, irgendwo ins Wasser fahren, irgendwo in den Wanderweg einbiegen und dann von der Bergrettung gerettet werden müssen.
Matthias Standfest: Es ist ja unser Problem.
Matthias Standfest: Es ist ja schon, ich meine, das ist dieser Zwiegesprache.
Matthias Standfest: Das ist Teil eins.
Matthias Standfest: Also ich muss Technik kritisch nutzen und dann kann es Sinn machen oder auch nicht.
Matthias Standfest: Der zweite Punkt hier ist General Artificial Intelligence.
Matthias Standfest: Ich meine, das ist so ein Schwachsinn.
Anja Mutschler: Hm.
Matthias Standfest: Ich habe das Problem, dass die KI per se gar nicht adäquat, kausal zusammenhängen abdecken kann.
Matthias Standfest: bis zu seinem Doktorat, liest viel weniger Text, liest viel weniger Bücher, liest das alles viel weniger oft, um ein wirklich tiefes Verständnis von einem Feld zu erlangen.
Matthias Standfest: Und die KI muss das hunderttausendfache davon konsumieren, um den Anschein zu erwecken, so intelligent zu sein.
Matthias Standfest: Da sind wir einfach beim chinesischen Zimmer.
Matthias Standfest: Also die KI reproduziert nur Zeichenfolgen.
Matthias Standfest: Die KI, also diese Sprachmodelle, die verstehen nicht.
Matthias Standfest: Das ist der eine Teil, der bei der General Artificial Intelligence noch fehlt.
Matthias Standfest: Der zweite Teil ist diese ganze Bewusstseinsdiskussion.
Anja Mutschler: Mhm.
Anja Mutschler: Mhm.
Matthias Standfest: KI wird nie Bewusstsein haben.
Matthias Standfest: Im Moment gehe ich sogar eher davon aus, dass ich eine Frage stelle,
Matthias Standfest: welcher Mensch hat Bewusstsein?
Matthias Standfest: Wir selbst sind ja getriggert durch Endorphine, durch alle möglichen Neurotransmitter, die bei uns im Hirn sind, durch soziologisch antrainierte Verhaltensweisen usw.
Matthias Standfest: Was sind wirklich freie Entscheidungen und wo sind wir dann Automat?
Matthias Standfest: Und jetzt würde ich eigentlich noch so weit gehen, das war eine Überlegung, die habe ich erst vor kurzem gehabt,
Matthias Standfest: politisch, um wieder den Kreis zu schließen.
Anja Mutschler: Ja.
Matthias Standfest: Ich hoffe, die meisten von uns kennen eben Hobbes und den Leviathan.
Matthias Standfest: Wir alle geben unsere Teile unserer physischen Gewalt an den Leviathan ab und der Leviathan hat dann die Gewalthoheit und bildet so eigentlich das Fundament für den Staat.
Matthias Standfest: Das ist so eine urpolitische Idee.
Matthias Standfest: Was ich jetzt sehe, ist, dass wir eigentlich vermehrt unser Bewusstsein oder unsere Entscheidungen an statistische Methoden abgeben.
Anja Mutschler: Ja.
Matthias Standfest: Was finden wir gut?
Matthias Standfest: Was finden wir richtig?
Matthias Standfest: Was finden wir schön?
Matthias Standfest: Was regt uns auf?
Matthias Standfest: Wie auch immer.
Matthias Standfest: Es ist eine neue Art von Leviathan, die wir da gerade pushen.
Matthias Standfest: Es ist kein Leviathan mehr wie beim Staat, der die Gewaltenhoheit hat.
Matthias Standfest: Es ist, wir geben unser Bewusstsein ab.
Matthias Standfest: Das ist so eine Bewusstseinshoheit.
Matthias Standfest: Und wir werden damit eigentlich dann eher so zu seelenlosen Schafen.
Matthias Standfest: Und da ist es eben die Frage, wie schlägt man hier die Brücke?
Matthias Standfest: Wie bekommt man wieder Selbstwirksamkeit zurück?
Matthias Standfest: Wie kann ich wieder...
Matthias Standfest: Wie kann ich kritisch reflektiert mit dieser Technologie arbeiten, ohne mich jetzt irgendwie zum Spielball dieser ganzen Technologisierung zu machen?
Anja Mutschler: Genau, das ist ja eigentlich der Moment, also wenn ich dir jetzt sozusagen beim Aufwächern zuhören, der ein relativ tiefes Verständnis der Menschheit von sich selber erfordert, also du musst ja erstmal zu der Erkenntnis kommen, dass
Anja Mutschler: die Droge-KI eher Heroin-mäßig dich abhängig machen kann und dich von dir wegbringt.
Anja Mutschler: Das finde ich schon mal einen sehr wichtigen, aber auch schwierigen Schritt, weil du ja gleichzeitig dieses Beschleunigungsmoment, das hast du ganz am Anfang angesprochen hast, und Bewusstsein braucht Zeit.
Anja Mutschler: Also sich über irgendwas klar werden, braucht ziemlich viel Zeit.
Anja Mutschler: Deswegen
Anja Mutschler: Würde ich gerne mal mit dir jetzt einen weiten Sprung nehmen.
Anja Mutschler: Wir müssen dann mal gucken, wie weit er wirklich ist.
Anja Mutschler: Wenn du sagst, es ist gar nicht so sehr technologisch, es ist noch nicht mal eine Disruption, sondern immer noch ein inkrementelles Moment, wenn ich dich jetzt richtig verstanden habe.
Anja Mutschler: Für dich ist es, ich weiß nicht, ob du Avatar 2 gesehen hast mit diesem Gaia-Baum unter dem Wasser.
Anja Mutschler: Daran musste ich gerade denken, als du gesagt hast, wir geben Bewusstsein ab.
Anja Mutschler: Das hat so ein bisschen so einen Scientology-Moment.
Anja Mutschler: Also so eine happy, sehr schön gebaute Welt, in der du dich komplett verlieren kannst, aber du merkst, dass es irgendwie ein anderes, nicht greifbares,
Anja Mutschler: Wesen gibt, das dein Bewusstsein irgendwie beeinflusst in jeglicher Hinsicht.
Anja Mutschler: Das sich klarzumachen und sich dann wieder zurückzuholen, halte ich schon für eine ziemlich große Aufgabe, wo ich mich frage, ist das in dem System, wie es jetzt gerade lebt, also wir tun Dinge umzu, also wir verdienen Geld umzu, wir gründen Familie umzu, wir bauen Haus umzu,
Anja Mutschler: Was ja auch schon gar nicht so sehr mit uns zu tun hat.
Anja Mutschler: Also mit der Frage, was will ich?
Anja Mutschler: Und die ist sehr schwer zu beantworten, solange Geld so eine harte Währung ist, weil du hast ja nur Geld und Zeit gerade zur Verfügung und musst dich dann entscheiden, was gibst du?
Anja Mutschler: Du kannst dich nicht von Luft ernähren, du kannst keine anderen Sachen tauschen, musst dich irgendwie einordnen in diesen...
Anja Mutschler: Also Stream und KI passt da schon sehr gut rein.
Anja Mutschler: Das heißt, ich kann jetzt auch nicht sagen, ich steige komplett aus.
Anja Mutschler: Also wie weit müssen wir denn in die Zukunft gucken und zu sagen, es gibt ein Modell, wo die Technologie den Menschen dient und nicht umgekehrt?
Matthias Standfest: Naja, es gibt ja jede Menge verschiedene Zukunftsszenarien.
Matthias Standfest: Ich glaube schon, dass ein Zukunftsszenario möglich ist, wo man sagt, so in 50 bis 100 Jahren ist es soweit.
Anja Mutschler: Mhm.
Matthias Standfest: Es bedingt einfach einen Systemwechsel.
Matthias Standfest: Ich meine, wir alle sehen ja jetzt, dass die
Matthias Standfest: Die derzeitige politische Landschaft fragmentiert sich und diese Fragmentierung wird sich fortsetzen.
Matthias Standfest: Das klingt irgendwie dystopisch, aber de facto ist das einfach ein ganz normaler Prozess der Gesellschaft und das ist schon zig Male passiert.
Matthias Standfest: Unsere aktuelle Gesellschaft befindet sich im Untergang.
Matthias Standfest: Punkt.
Matthias Standfest: Da gibt es gute Anthropologen wie Chad Diamond, die haben sich ausgiebig mit diesem Thema auseinandergesetzt.
Matthias Standfest: Und alle die Anzeichen, die es braucht, die können wir jetzt da feststellen.
Anja Mutschler: Ja.
Anja Mutschler: Ja.
Matthias Standfest: Dann weiß man, so wie es jetzt ist, wird es nicht mehr weitergehen.
Matthias Standfest: Also wir leben gerade in einer Simulation oder wir versuchen mit Mühe und Not eine Gesellschaft aufrecht zu erhalten, wo ich sagen würde, die gibt es seit zehn Jahren nicht mehr.
Matthias Standfest: Und
Matthias Standfest: Und da gibt es verschiedene Möglichkeiten, wie sich das entwickeln kann.
Matthias Standfest: Ich meine, es kann natürlich sein, dass wir jetzt global überall, dass die Faschisten in Amerika weiter Zulauf gewinnen, dass dieses System völlig kippt.
Matthias Standfest: Wir sehen die gleichen Tendenzen bei verschiedenen Ländern hier in Europa.
Matthias Standfest: Gleichzeitig ist es schwierig zu prognostizieren, weil es immer Geldflüsse aus Russland, inwieweit sich das entwickeln wird mit dem Ukraine-Konflikt.
Matthias Standfest: Niemand hat eine Glaskugel.
Matthias Standfest: Aber ich gehe davon aus, dass sich etwas ändern muss, weil die Ressourcen kontinuierlich weniger werden.
Anja Mutschler: Mhm.
Anja Mutschler: Mhm.
Matthias Standfest: Limits of Growth.
Matthias Standfest: Es gibt gewisse Messgrößen, die sind nicht politisch.
Matthias Standfest: Es gibt gewisse Messgrößen, die sind physikalisch und mit der Physik lässt sich nicht verhandeln.
Matthias Standfest: Und aus dem heraus ist ein Umdenken alternativlos im eigentlichen Sinne des Wortes und nicht im merklichen Sinne des Wortes.
Matthias Standfest: Und wenn wir das jetzt zu Ende denken, bleiben irgendwelche Fragmente der Gesellschaft über.
Matthias Standfest: Das sind irgendwelche Taschen von der Kultur, das sind irgendwelche sozialen Gruppen.
Anja Mutschler: Mhm.
Matthias Standfest: Da wird es Taschen geben bei uns in Europa, in verschiedenen anderen Bereichen der Welt, wo man sagt so, da kann man über lokale Lieferketten noch irgendwie an Wohlstand beobachten.
Matthias Standfest: oder das System am Leben halten.
Matthias Standfest: Ich meine, wir arbeiten ja wieder massiv daran.
Matthias Standfest: Also Europa arbeitet ja massiv daran, kritische Lieferketten nach Europa zu holen.
Matthias Standfest: Allein schon die Antibiotika-Produktion.
Matthias Standfest: Und China macht ja das Gleiche.
Matthias Standfest: China koppelt sich ja völlig ab.
Matthias Standfest: Die sind ja autark, unter Anführungszeichen.
Matthias Standfest: Und das werden, glaube ich, so eher diese Zentren.
Matthias Standfest: Und im Moment...
Matthias Standfest: nehme ich an, dass uns die Chinesen einfach einiges voraus sind.
Matthias Standfest: Und ich glaube, wenn es darum geht, technisch und in Bezug auf gesellschaftliche Resilienz.
Anja Mutschler: Technisch oder sozial oder... Ja.
Matthias Standfest: Also das System China wird eher Bestand haben im Moment als unser jetziges System, das wir haben in der westlichen Gesellschaft.
Anja Mutschler: Ja.
Anja Mutschler: Denk ich auch.
Matthias Standfest: Und da kam jetzt, das ist keine moralische Wertung.
Matthias Standfest: Also da sage ich jetzt nicht, das chinesische System ist besser oder so.
Anja Mutschler: Nö, nö, nö.
Anja Mutschler: Das ist... Nö.
Matthias Standfest: Aber über diese klare Befehlskette und über die Disziplin haben die geschafft, die Technik in ihr System einzupflegen.
Matthias Standfest: Und die machen das kontinuierlich.
Matthias Standfest: Mein Lieblingsbeispiel ist,
Anja Mutschler: Deep Seek oder Deep Search?
Matthias Standfest: In dem Kontext ist einfach Deep Search.
Matthias Standfest: Also dieser chinesische Algorithmus, der Anfang des Jahres die Nvidia-Aktien in den Keller geschossen hat.
Matthias Standfest: Deep Seek, Deep Seek, sage ich.
Matthias Standfest: Und es war ein Schuss von Bug.
Matthias Standfest: Die Chinesen hatten ja den massiven Nachteil, die hatten nur limitierten Zugang zu Grafikkartenchips.
Matthias Standfest: Nicht die, die notwendig sind für die High-End-KI.
Matthias Standfest: Und was die gemacht haben, ist, die haben eine völlig neue Generation an Software-Developern aufgebaut, die einen Weg gefunden haben, aufwändige Speichermanagement-Prozesse auch auf den günstigeren oder schwächeren Grafikchips anzuwenden.
Anja Mutschler: So entsteht Innovation durch Beschränkungen.
Matthias Standfest: Genau, ganz genau.
Matthias Standfest: Es hat jeder gesagt, es hat jeder gewusst, es wird sich so entwickeln.
Matthias Standfest: Und die Chinesen haben das gemacht.
Matthias Standfest: Und mit Bravour.
Matthias Standfest: Was dann gekommen ist, war dieses Märchen, das man uns aufgetischt hat von wegen, das war ein VC-Fund und das waren irgendwie drei, vier Studenten, die hatten dann Spaß und haben das irgendwie low-cost umsetzen wollen.
Matthias Standfest: Das war alles Schwachsinn.
Matthias Standfest: Inzwischen weiß man, hinter dem ganzen Setup steht natürlich auch das chinesische Militär.
Matthias Standfest: Und das meine ich mit einem Schuss vorm Bug.
Matthias Standfest: Also das war einfach jetzt so, das war Message.
Matthias Standfest: Und ich glaube, dass die Chinesen am ehesten daran sind, KI so zu entwickeln, wie es ihrem Gesellschaftsbild entspricht.
Matthias Standfest: Unser Gesellschaftsbild sucht ja was anderes.
Anja Mutschler: Ja, genau.
Anja Mutschler: Ja.
Anja Mutschler: Ja.
Matthias Standfest: Wir suchen ja irgendwie, wir wollen ja einen kritischeren Zugang zu dem Ganzen.
Anja Mutschler: Ja.
Matthias Standfest: Wir wollen ja eine gewisse Ermächtigung.
Matthias Standfest: Wir wollen ja eigentlich was...
Matthias Standfest: von dem Bewusstseinsleviatran wieder zurücknehmen.
Matthias Standfest: Wir wollen ja nicht der gläserne Mensch sein, sondern einen gläsernen Staat.
Matthias Standfest: Wir wollen die Daten bei uns haben.
Matthias Standfest: Unsere Daten sollen uns gehören.
Matthias Standfest: Unsere Gedanken sollen uns gehören.
Matthias Standfest: Da braucht es ganz andere technische Herangehensweisen zu dem ganzen Thema.
Matthias Standfest: Ja, ich glaube, dass das möglich ist und ich glaube auch, dass das aus einer gewissen Notwendigkeit oder eben aus einem gewissen Ressourcenmangel sich entwickeln kann.
Anja Mutschler: Aber nicht nur technisch.
Anja Mutschler: Ah ja.
Matthias Standfest: Wir haben die Köpfe dafür, aber wie sich das dann ausgestalten wird, weiß ich nicht.
Anja Mutschler: Also ich baue jetzt sozusagen für dich das Bild mal fertig, beziehungsweise versuch es nochmal zu...
Anja Mutschler: verstehen, deine Utopie ist, dass der Mensch wieder mehr Bewusstsein auch als heute über sich und über seine Möglichkeiten und Beschränkungen hat und im Rahmen dieser
Anja Mutschler: menschlichen Handlungsmöglichkeiten so schlau wie möglich agiert, dabei ressourcenschonend.
Anja Mutschler: Ja, also das Thema Klima scheint sich zu beschäftigen, wo KI natürlich an sich richtig angepingt super Lösungen auch mitentwickeln kann.
Anja Mutschler: Also sagen wir mal, alles, was jetzt, wenn die richtige Anweisung erfolgt, durchaus als Rechenoperation bewältigbar ist, kann KI da ja sehr nützlich sein.
Anja Mutschler: Dieser eine Punkt von, also was wir jetzt überspringen, ist die mehr oder weniger blutige Phase des Niedergangs.
Anja Mutschler: Können wir jetzt ausgestalten, macht aber irgendwie nicht so Sinn.
Anja Mutschler: Matthias und ich haben das im Vorgespräch festgestellt.
Anja Mutschler: Ich teile das leider auch so ein Stück weit, dass das Ende eines dysfunktionalen Systems ist.
Anja Mutschler: erst mal geben muss.
Anja Mutschler: Meine Hoffnung ist immer noch, dass wir es schaffen, bevor es zu blutig wird, weil die verschiedenen Systeme aufeinander clashen.
Anja Mutschler: Ich bin mir auch nicht sicher, ob das, wie du es jetzt beschrieben hast, klingt für mich ja so, als ob es nach wie vor verschiedene konkurrierende Systeme auf der Welt gibt.
Anja Mutschler: Also China wird nicht ohne Not sein System aufgeben, funktioniert super.
Anja Mutschler: Und wenn sie die Technologien mit einbauen, bleiben sie ja auch
Anja Mutschler: wettbewerbsfähig.
Anja Mutschler: USA kann, glaube ich, gerade keiner irgendwas dazu sagen.
Anja Mutschler: Und das, was du ja beschreibst, ist ja im Grunde schon die alte Idee des Humanismus mal bitte wieder ausgraben und am Ende dort anfangen, wo die Industrialisierung begonnen hat und nochmal Sachen wieder besser machen.
Anja Mutschler: Und
Anja Mutschler: Eine Frage, die ich immer wieder habe, ist, es ist uns ja offensichtlich nicht gelungen und ich halte da tatsächlich das Thema Komfort bei Menschen für eines der wichtigsten Widerstände.
Anja Mutschler: Also wir wollen immer dorthin, wo es am schönsten ist, wo es am wärmsten ist, wo es am nettesten ist.
Anja Mutschler: Wir haben jetzt durch die KI...
Anja Mutschler: Simulationswelten, Parallelwelten, die uns, selbst wenn es draußen kalt und hässlich ist, dann hocken wir irgendwann mit einer Kamera, mit einem Dings da hier und reden uns die Welt schön.
Anja Mutschler: Damit kommt man schon relativ weit in der Simulation von was Schönem.
Anja Mutschler: Das sehe ich jetzt gerade sozusagen als
Anja Mutschler: Die Hauptgefahr, die dieses Thema, lasst uns mal wieder zusammenrücken, zusammenhocken und zusammenrumspinnen, dem etwas entgegensetzt, dass wir sozusagen, dass die Simulation so gut ist, dass wir nicht die Not haben, was zu ändern.
Matthias Standfest: Ja, an dem wird er gearbeitet.
Matthias Standfest: Ich meine, das ist ja dieses ganze Virtual Reality, Augmented Reality Zeug.
Matthias Standfest: Aber das ist für mich dystopischer geht es eigentlich nicht mehr.
Anja Mutschler: Ja, ich challenge jetzt die Utopie ein Stück weit.
Matthias Standfest: Was man noch dazufügen kann, entschuldigen, dass ich dich da unterbreche.
Anja Mutschler: Ja, klar.
Matthias Standfest: Richtig eingesetzt ist ja,
Matthias Standfest: in unserer Utopie, die AI oder alles was irgendwie KI ist oder Daten und so weiter, alles was evidenzbasiert ist, hilft mir nicht nur dabei, die Welt besser zu verstehen, mich besser zu verstehen, irgendwie bewusstseinsbildend zu sein.
Matthias Standfest: Dieses Tool hilft mir dabei auch, besser mit anderen zu kommunizieren, andere besser zu verstehen, dass die mich besser verstehen und
Anja Mutschler: Mhm.
Anja Mutschler: Mhm.
Matthias Standfest: dass man schneller in der Konsensfindung sein kann.
Matthias Standfest: Also ich glaube schon, dass es über Agenten, über gewisse Digitalisierung von unseren Wünschen, Problemen und Situationen der politische Prozess per se, der Mehrheitsfindung, also dieser Demokratie geändert werden könnte.
Matthias Standfest: Also ich glaube, und dadurch wird der dann eventuell
Matthias Standfest: robuster gegenüber irgendwelchen populistischen Angriffen, die ja eigentlich nur polarisieren sein wollten.
Anja Mutschler: Als ein wichtiger Punkt, den du aufbringst, wahrscheinlich das, was uns Menschen, also zum Thema Mustererkennung manchmal abgeht, ist auch zuzulassen, dass manche Dinge mustererkennungstauglich sind.
Anja Mutschler: Also Populismus basiert ja auf Mystik und so einem Moment von dieses Problem können wir nicht lösen, wenn wir, natürlich sind die, also alle Klimathemen sind lösbar.
Anja Mutschler: Also alle sozialen Fragen sind lösbar.
Anja Mutschler: Das heißt, wir verweigern uns ein Stück weit auch der Rationalisierung bestimmter Prozesse, insbesondere im politischen Raum.
Anja Mutschler: Ich weiß nicht, ob es jetzt eher mit den Akteuren oder mit dem...
Anja Mutschler: mit den Wählenden zu tun hat, kann ich nicht so genau sagen.
Anja Mutschler: Aber das ist nochmal eine interessante Zusatzthematik in der Utopie, dass du sagst, du machst eine reibungsfreie Good Governance, du machst einen reibungsfreuen Ablauf von Bürokratie, bürokratischen und politischen Prozessen.
Matthias Standfest: Genau.
Matthias Standfest: Und vor dem Hintergrund kann die Hoffnung ja nur sein, dass seit Kant wissen wir, davor haben wir schon gewusst, aber Kant hat das ja schön formuliert, der Mensch ist faul und feig.
Anja Mutschler: Ja genau.
Matthias Standfest: Also man hat es anders formuliert.
Matthias Standfest: Aufklärung ist der Weg aus der selbstverschuldeten Unmündigkeit, aber nichtsdestotrotz, er meint das Gleiche, wir sind faul und feig.
Matthias Standfest: Inzwischen wissen wir das auch aus der Neurologie.
Matthias Standfest: Das hat ja ein Muster.
Matthias Standfest: Also wir sind ja, das eine ist der Überlebensdrang, also Feilheit.
Matthias Standfest: Und das andere, der Faulheit, ist ja eigentlich der Ressourcenschonen.
Matthias Standfest: Wenn das Hirn aufhucht und fährt, verbrennt es irrsinnige Mengen an Kalorien.
Matthias Standfest: Und wir sind, wir stammen vom Affen ab und wir sind darauf getrimmt, faul zu sein.
Matthias Standfest: Also per se ist das ja kein Fehler.
Anja Mutschler: Mhm.
Matthias Standfest: Das ist eine Naturkonstante.
Matthias Standfest: Die Hoffnung ist, dass wir durch verschiedene Technologien mehr Oxytocin ausschütten und dieses Zusammenhaltsgefühl, dass wir darüber Dopamin bekommen oder Endorphine, dass wir andere chemische Prozesse bei uns auslösen, die diesen Minimalaufwand mit der KI aufwiegen.
Matthias Standfest: Das ist ja nur die Kosten-Nutzen-Rechnung.
Matthias Standfest: Und ich glaube schon, dass das möglich sein kann.
Matthias Standfest: Also ich sehe das fragmentiert.
Anja Mutschler: Wer entmächtigt denn dann die Jetztmächtigen?
Anja Mutschler: Ist das ein KI-Agent?
Anja Mutschler: Ist das eine schlauere Basisdemokratie?
Anja Mutschler: Wo ist der Moment da, dass du sagst, wir organisieren das jetzt anders und eigentlich auch weniger auf persönlichen Gain, persönliche Erfolgsstory hin?
Anja Mutschler: Ja.
Matthias Standfest: Das eine ist diese Utopie, wo ich sage,
Matthias Standfest: Eine dieser Taschen, die überleben wird, wird so vielleicht arbeiten können.
Anja Mutschler: Ja.
Matthias Standfest: Das andere sind diese gesellschaftlichen Fragmente, die zum Umsturz führen werden.
Anja Mutschler: Also gut, dann...
Matthias Standfest: Ich bin mir nicht sicher, ob die dann später überleben oder ob die dann später Technologie anwenden, aber ich glaube, das sind andere Individuen, die den Umsturz vorantreiben.
Matthias Standfest: Ich sehe die Gesellschaft nicht mehr als homogene Masse.
Matthias Standfest: Ich meine, das ist einfach nicht mehr da.
Anja Mutschler: Würden wir jetzt mal sagen, es gibt dann diese weise Gesellschaft, die weiß, wo sie KI nutzt und wo nicht.
Anja Mutschler: Und wenn ich das jetzt zusammenfasse, heißt es Pfoten weg von unserem Bewusstsein.
Anja Mutschler: Das machen wir schön selber.
Anja Mutschler: Und bleibt sozusagen als dieser digitale Helfer, wobei das jetzt ja schon ein bisschen durcheinander gekommen ist, weil es eine sprechende, also ich glaube ein Problem ist, dass die KI simuliert, dass sie mit uns spricht wie ein Mensch.
Anja Mutschler: Also dieser humanoide Aspekt.
Matthias Standfest: Es gibt so ein geiles Beispiel von einem amerikanischen Professor.
Matthias Standfest: eben genau das thematisiert, vor seinen Studenten.
Matthias Standfest: Wir haben einfach diese Drift nach Anthropomorphismen.
Anja Mutschler: Ja.
Anja Mutschler: Ja.
Anja Mutschler: Ja.
Matthias Standfest: Ja, genau.
Matthias Standfest: Und
Matthias Standfest: Wir sprechen mit der Knie, also muss die Knie Bewusstsein haben.
Matthias Standfest: Und dann zieht er einen Bleistift raus, klebt auf dem Bleistift zwei kleine Augen, so Google-Eyes drauf, sagt, hey, ich bin der Karli, ich bin der Bleistift, spielt mit dem irgendwie zwei Sekunden und dann bricht er hin.
Matthias Standfest: Und dann geht dieses Raunen durch den Hörsaal.
Matthias Standfest: Und allstönen.
Matthias Standfest: Genau das ist das Problem mit der KI.
Matthias Standfest: Das KI ist nicht, dass die KI oder der Bleistift Bewusstsein hat.
Matthias Standfest: Wir schreiben dir mein Bewusstsein zu.
Matthias Standfest: In unserer Idiotie, das irgendwie analog zu uns zu sehen.
Matthias Standfest: Und uns ähnlich zu machen.
Matthias Standfest: Das ist unser Problem.
Matthias Standfest: Das ist kein technisches Problem.
Anja Mutschler: Dann muss es aber da noch irgendein Training geben, glaube ich.
Matthias Standfest: Ja, Training oder Abstumpfen.
Matthias Standfest: Ich meine...
Anja Mutschler: Naja, gut.
Matthias Standfest: Wir haben es so lange gebracht mit der Dampfmaschine.
Anja Mutschler: Mhm.
Anja Mutschler: Mhm.
Matthias Standfest: Wir hatten die Maschinenstürmer, wir haben die Weber-Aufstände gehabt.
Matthias Standfest: Das war ja historisch gewachsen.
Anja Mutschler: Also es muss auch immer genug Menschen geben, die etwas stört und die dann sagen, das müssen wir ändern.
Anja Mutschler: Ich glaube, wobei die Superreichen ja auch wirklich Teil des Problems sind.
Matthias Standfest: Ich glaube einfach, dass mehr Menschen sich an diesem obszönen Superreichen stören als an der KI.
Matthias Standfest: Ich glaube, dass der
Matthias Standfest: was immer an Feindbildern gebraucht wird, dann man sich eher dort holt.
Matthias Standfest: Genau, also ich glaube, dass die, ich bin Fan von der Französischen Revolution, ich sage es ganz offen.
Anja Mutschler: Aber die überlebt sich ja gerade.
Anja Mutschler: Also das ist offensichtlich.........
Matthias Standfest: Ja, das ist ein Zyklus.
Matthias Standfest: Ich meine, auch das, wir wissen es.
Matthias Standfest: Wir kennen den Gini-Index, wir kennen die ganzen statistischen Maße, wo man weiß, ob wann Spannungen in einer Gesellschaft zu hoch werden.
Matthias Standfest: Und wir haben es alles überschritten und glauben plötzlich, nur weil wir so reich sind, wie eben diese Milliardäre, gelten diese Regeln nicht mehr für uns.
Matthias Standfest: Aber...
Matthias Standfest: Es würde mich überraschen, wenn die plötzlich gesellschaftliche Muster ausheben können, die es seit 10.000 Jahren gibt.
Matthias Standfest: Die Pharaonen waren auch super reich.
Anja Mutschler: Also, ja, was ich jetzt gerade merke, also ich bin ja auf der Suche nach einer Utopie deswegen, weil ich denke, was kann mich heute motivieren?
Anja Mutschler: Also es hört sich jetzt ein bisschen bescheuert an zu sagen, Utopie, ja gut, das ist das, was es niemals geben wird, stimmt, aber ich brauche trotzdem einen Grund, um tätig zu werden.
Anja Mutschler: Was mir jetzt das Gespräch schon mal gebracht hat, ist, Obacht, mein Bewusstsein gehört mir, so, ich bin
Anja Mutschler: noch deutlicher als Helfer irgendwie, das zu definieren und wahrscheinlich auch, ich glaube, das beschäftigt mich intuitiv eher, ist jetzt auch nicht etwas, was ich als Individuum wirklich tun kann, aber am Ende spricht man ja auch mit anderen, zu gucken, was ist eigentlich an politischen Prozessen
Anja Mutschler: wiederholbares Muster, was wir dann auch wieder besser machen könnten, weil das finde ich, ist auch in so einer Dead-End-Schleife, es funktioniert ja gar nichts mehr, also das hört sich jetzt auch sehr defetistisch an, ich bin gerade eher an so einem Punkt, okay, wir akzeptieren, es funktioniert nicht mehr, also wo geht es jetzt hin?
Anja Mutschler: So würde ich es jetzt eher definieren.
Anja Mutschler: Und ich glaube auch, dass es so Keimzellen, du nennst es Taschen, das, was übrig bleibt, ich nenne es jetzt irgendwie eher so kleine Zellen, die man aufbauen kann und merke auch immer, das Gespräch mit einer Person ist schon mehr als null, also ne?
Anja Mutschler: wir haben jetzt miteinander gesprochen, vielleicht reden wir morgen wieder mit zwei, drei Leuten und dann verbreitern sich bestimmte Ideen auch.
Anja Mutschler: Weil ich auch deswegen mit dir sprechen wollte, weil KI ja entweder Heilsbringerin oder Zerstörerin ist.
Anja Mutschler: Also du hast eine öffentliche Diskussion, die gar nicht wieder ans Eigentliche rangeht, sondern alles geht kaputt und nichts gehört mir mehr versus endlich werden
Anja Mutschler: wird mein Leben mega.
Anja Mutschler: Und deswegen war mir das wichtig heute mit dir als KI, Mensch, der KI durchdringt als das, was es ist, im Gegensatz zu mir, ich bin Anwenderin, das nochmal in eine andere Richtung schiebt.
Anja Mutschler: Cool.
Matthias Standfest: Was ich einfach hinzufügen kann, ist, wir sind nicht die Ersten, die sich mit dem Thema auseinandersetzen.
Matthias Standfest: Also jetzt Stefan Zweig, Hannah Arendt, die Frankfurter Schule, das sind die gleichen Themen.
Anja Mutschler: Ja, das ist, ja.
Anja Mutschler: Gut, das habe ich ja sowieso, dieses Déjà-vu, all der Diskussion, die es nach dem zweiten, also so 50er bis 70er gab, die kommen gerade mit aller Macht wieder.
Anja Mutschler: Ich erzähle zum Abschluss da auch gerne noch eine Geschichte, eigentlich sind es nämlich 100 Jahre.
Anja Mutschler: Ich war in Paris auf einer Ausstellung über die Ausstellung in Artete Kunst, sprich L'Art d'étendue.
Anja Mutschler: Im Picasso-Museum unten ein Raum, der ausgestellt hat, zu teilen, was damals ausgestellt worden ist und eine Begleitdokumentation.
Anja Mutschler: Das heißt, es lief ein Stummfilm, der die Ausstellung zeigte, diese dicht gehängten, auf möglichst hässlich gehängten Bilder, die aber ganz viele Menschen sich angeguckt haben.
Anja Mutschler: Zwischendurch rannten Nazis durchs Bild, die dann irgendwie ihre Heronenausstellung parallel dazu eröffnet haben.
Anja Mutschler: Und ich stand aber in diesen drei Räumen und dachte,
Anja Mutschler: Und das Programm ist immer noch nicht erledigt.
Anja Mutschler: Es ist immer noch offen.
Anja Mutschler: Die Vielfalt von Menschlichkeit, die Vielfalt unserer Identität, was ja auch im Kubismus durch dieses gebrochene und multiperspektivische, das diverse Programm, es ist immer noch ein Thema.
Anja Mutschler: Wir haben es immer noch nicht hinbekommen.
Anja Mutschler: Und jetzt geht es ja gerade eher wieder einen Schritt zurück.
Anja Mutschler: Deswegen stimme ich dir zu, dass wir im Grunde in der Utopie noch als Thema mitnehmen, wie können wir als Gesellschaft, die mit Technologie und Automatisierung lebt, eigentlich ein gutes Leben führen.
Anja Mutschler: Ein respektvolles, achtsames, das ist immer noch da.
Anja Mutschler: Ja.
Matthias Standfest: Die schönste Utopie in dem Setup ist trotzdem das originale Star Trek.
Matthias Standfest: Rodenberry hat die gesellschaftliche Kritik in eine Welt gelegt, wo ihm der politische Diskurs nicht mehr schaden können in diesem Science Fiction, in diesem Setup.
Anja Mutschler: Ja.
Anja Mutschler: Ja.
Matthias Standfest: Und plötzlich war Rassenhygiene kein Thema mehr.
Matthias Standfest: Es war der Kalte Krieg kein Thema mehr.
Matthias Standfest: Und er hat beginnen können, Vielfalt zu zelebrieren.
Matthias Standfest: Und ich glaube, KI könnte uns, wenn man es richtig ansetzt, dabei helfen, Diversität, Vielfalt zu zelebrieren.
Matthias Standfest: Und im Endeffekt, wir wissen es ja auch aus der Nachhaltigkeit, also Biodiversität ist das Maß aller Dinge.
Matthias Standfest: Also umso hohe Biodiversität ist eigentlich der Imperativ.
Matthias Standfest: Und gesellschaftlich sehe ich das genauso.
Matthias Standfest: Und daher ja auch die Kritik von mir an diesem AI-Slot, eben an diesem Mainstream, dass man eben
Matthias Standfest: dass die AI dazu verkommt, Gesellschaft irgendwie zusammenölheppig zu degenerieren, der sich dann über die ganze Vielfalt drüber legt.
Matthias Standfest: Und dem muss man irgendwie entgegensteuern.
Matthias Standfest: Und ich glaube, das ist das Grundmuster, der Grundpfeiler jeder Utopie.
Anja Mutschler: Dann sag mir doch zum Abschluss, wer wären jetzt so drei Personengruppen, die daran mitwirken können, dass das besser wird?
Matthias Standfest: Tragischerweise stehen ganz oben Politiker.
Anja Mutschler: Mhm.
Matthias Standfest: Wir brauchen offene Daten, wir brauchen Open Source Nutzung.
Matthias Standfest: Wir müssen Daten publizieren können.
Matthias Standfest: Das ist essentiell für offene Nutzungen später.
Matthias Standfest: Wir brauchen smarte Pädagogen, die dahinter steigen,
Matthias Standfest: wie man KI dafür nutzen kann, dass wir uns besser entwickeln.
Matthias Standfest: Das ist eine pädagogische Aufgabe.
Matthias Standfest: Und ja, dann braucht es Soziologen, Philosophen, Kulturwissenschaftler, die auf einer Metaebene das nochmal alles durchanalysieren.
Anja Mutschler: Und uns, die zuhören, uns aufnehmen.
Anja Mutschler: Matthias, vielen Dank von deiner Schweizer Enklave direkt in den Äther.
Matthias Standfest: Danke dir.
Anja Mutschler: Ähm...
Matthias Standfest: Ich hoffe, deine Zuhörer finden es spannend.
Anja Mutschler: Ich bin auch gespannt.
Anja Mutschler: Ich lade jetzt zum Abschluss ganz frech ein zu unserem Wandersalon, nenne ich das ja.
Anja Mutschler: Also ich habe ja einen Salon gegründet letztes Jahr und am 9.
Anja Mutschler: August alles immer in hybrider Fassung, das heißt online oder vor Ort,
Anja Mutschler: reden wir über den Pudding, den wir an die Wand nageln wollen.
Anja Mutschler: Also im Grunde das Thema, dass wir versuchen, die Komplexität als Mensch immer zu sehr zu verstatistiken und so zu tun, als ob wir es könnten mit dem Pudding an die Wand nageln.
Anja Mutschler: Das passt, glaube ich, ganz gut, Matthias.
Anja Mutschler: Vielleicht hast du ja auch Zeit.
Matthias Standfest: Ciao.
Anja Mutschler: 18 bis 20 Uhr wird auf LinkedIn oder bei mir auf der Website 20.blue nochmal veröffentlicht.
Anja Mutschler: Matthias, tausend Dank.
Anja Mutschler: Ich bin gespannt auf eure Reaktion und bleibt utopisch.
Anja Mutschler: Ciao, ciao.
