Transcript
Speaker: Nachgefragt.
Speaker: Geschlechterforschung im Blick.
Speaker: Diesen komplexen Alltag mit KI zu kümmern, genauer zu untersuchen, das finde ich gerade total interessant.
Speaker: Und ich glaube, da gibt es wahnsinnig viele Aufgaben für die Geschlechterforschung.
Speaker: Das bleibt und ist eine spannende Frage, in die eben auch so etwas wie ein Ethikdiskurs in Technik und Technikentwicklung und Technikfolgenabschätzung reinspielt.
Speaker: Herzlich willkommen zur zweiten Folge von Nachgefragt, unserem Podcast am GFFZ.
Speaker: Schön, dass ihr wieder reinhört.
Speaker: Wir haben wie beim letzten Mal auch wieder zwei Gäste eingeladen, diesmal zum Thema künstliche Intelligenz und Gender.
Speaker: KI ist ja im Moment ein Thema, das in aller Munde ist.
Speaker: Gefühlt kommt man überhaupt nicht daran vorbei, sich damit auseinanderzusetzen und wir haben uns gefragt,
Speaker: Was hat das eigentlich mit Geschlecht und Geschlechterforschung zu tun?
Speaker: Und darüber wollen Sabrina und ich heute mit Tanja Carstensen und Yves Geno sprechen.
Speaker: Schön, dass ihr heute beide da seid.
Speaker: Tanja Carstensen hat an der TU...
Speaker: eine Professur für Schwerpunkt Arbeit, Wirtschaft und Organisation inne und in ihrer Forschung arbeitet sie unter anderem zu Themen wie Gender Diversity, Intersektionalität in der Digitalisierung, auch mit einem starken Fokus zu Wandel von Arbeit.
Speaker: Jüngst erschien ist ein Beitrag von ihr zu künstlichen Intelligenz und Gender, eine Frage diskursiver Gegenmacht.
Speaker: Yves Chorvenon ist Vertretungsprofessor an der Hochschule Darmstadt.
Speaker: Yves forscht zu Themen wie Geschlecht und MINT, Studienwahl, Arbeitsmarkt und Familien.
Speaker: Und im Erscheinen ist gerade ein Beitrag zu Frauen in den MINT-Berufen.
Speaker: Also wir sehen schon, wir haben hier die Expertise versammelt und ich freue mich jetzt total, mit euch zu unserem Thema ins Gespräch zu gehen.
Speaker: Vielen Dank für die Einladung.
Speaker: Ja, dem kann ich mich nur anschließen.
Speaker: Ich sage nur ganz kurz ergänzend auch noch, was mich mit KI macht, ist ja auch gerade die letzten vergangenen beiden Semester habe ich mit Hella von Unger zusammen und Dennis Odokoyo ein Lehrforschungsprojekt zu KI mit KI in qualitativen Methoden beforschen an der LMU durchgeführt.
Speaker: Also auch sehr viel einschlägiger heute als Geschlecht und MINT im Allgemeinen.
Speaker: Super.
Speaker: Ja, spannend.
Speaker: Ja, super.
Speaker: Da werden wir dann auch nochmal drauf eingehen.
Speaker: Hallo auch von mir.
Speaker: Ja, vielleicht zum Einstieg.
Speaker: Vielleicht, Tanja, fängst du einfach auch mal an, dass wir kurz, wie bist du zur Geschlechterforschung gekommen?
Speaker: Was interessiert dich daran überhaupt?
Speaker: Und vielleicht auch gleich, wie kam es dann auch zum Thema KI?
Speaker: Ja, danke.
Speaker: Tolle, große Frage.
Speaker: Wie kam ich zur Geschlechterforschung?
Speaker: Das ist tatsächlich, da muss ich wirklich schon Jahrzehnte zurückgehen eigentlich und kann eigentlich, wenn ich so in meiner Biografie krame, erstmal...
Speaker: Erinnere ich mich tatsächlich noch an die Schulzeit, wo wir im Deutschunterricht, Anfang der 90er war das, in der Oberstufe, tollerweise muss ich sagen, damals das Thema Frauensprache, Männersprache behandelt haben.
Speaker: Und das hat bei mir so richtig viel ausgelöst, wo ich gedacht habe, hey, da...
Speaker: Da gingen mir irgendwie ganz viele Lichter auf und ich habe gedacht, dass es tatsächlich, also diese Kategorie Geschlecht ist, glaube ich, wirklich ein Schlüssel, um Gesellschaft zu verstehen und um zu verstehen, warum Menschen auch unterschiedlich handeln und dass es tatsächlich einen wahnsinnigen Unterschied macht, ob man als Frau oder Mann durch diese Welt geht.
Speaker: Das war sozusagen so ein Anker in der Schulzeit und es war relativ schnell dann in der Oberstufe, also es war tatsächlich das letzte Schuljahr schon,
Speaker: relativ klar da auch schon, dass ich sowas wie Soziologie gerne mal studieren wollen würde, mit natürlich ganz unklaren Vorstellungen auch, was das sein könnte.
Speaker: Und habe dann aber im Soziologiestudium ganz schnell herausgefunden, dass auch da damals halt noch Frauenforschung ein wichtiges Thema ist, wo ich mir tatsächlich dann auch im Grundstudium schon ganz viele Seminare dazu rausgepickt habe und das eigentlich immer mehr so versucht habe, mir zu erarbeiten, was es jetzt mit Geschlecht auf sich hat.
Speaker: Und es war damals natürlich noch
Speaker: Sehr differenztheoretisch, aber spannend einfach.
Speaker: Also finde ich auch nach wie vor irgendwie eine viel, viel interessante Forschung und bin dann aber mitten im Studium, mitten in diese Veröffentlichung dann von Judith Butler's Gender Trouble reingeraten, was ja wirklich nochmal viel umgekrempelt hat.
Speaker: Und ich rückblickend sagen kann, es hat mich wirklich immer fasziniert zu verstehen, was Geschlecht ist, warum das eben nicht oder nicht nur und vielleicht auch zum wenigsten Teil irgendwie, was ist, was biologisch irgendwie Auswirkungen hat, sondern einfach so stark historisch und gesellschaftlich eine gemachte Kategorie ist, die aber so eine Wirkkraft hat und so viel erklärt darüber, was wir tun, warum wir uns im Alltag irgendwie verhalten, warum Arbeitsteilungen unterschiedlich sind.
Speaker: Und bis hin zu Einkommensfeldern, was auch immer sozusagen.
Speaker: Ich hatte immer schon das Gefühl, man kann, wenn man Geschlecht anguckt, einfach ganz viel erklären darüber, warum die Gesellschaft so zusammengesetzt ist, wie sie zusammengesetzt ist.
Speaker: Und dann habe ich am Ende des Studiums, bin ich zufällig, also es war wirklich mein letztes Seminar, glaube ich, bin ich zufällig darauf gestoßen, dass es Techniksoziologie gibt.
Speaker: Und das war so in der Zeit, als das Internet auch anfing, sich durchzusetzen.
Speaker: Und das hat sich in meinem Kopf dann auch nochmal total kritisiert.
Speaker: Gut verbunden, wo ich dachte, wow, Technik ist ja auch nichts, was einfach nur vom Himmel fällt, sondern auch gesellschaftlich gemacht.
Speaker: Und dann habe ich da drin ziemlich schnell diesen ganzen Strang zur Technik und Geschlecht entdeckt.
Speaker: Und das hat dann wirklich, muss ich sagen, meine weitere Forschungstätigkeiten mit dem abgeschlossenen Studium, Beginn der Dissertation und so weiter,
Speaker: wirklich sehr stark geprägt, wo ich dachte, das fasziniert mich wirklich nochmal mehr, wie sich gerade auch an diesem erstmal so objektiv daherkommenden Thema wie Technik so viel über Geschlecht, über Machtverhältnisse, über Herrschaftsverhältnisse, über Ungleichheitsverhältnisse verstehen lässt.
Speaker: Ja, sehr spannend.
Speaker: Yves, wie war das bei dir?
Speaker: Wie bist du zur Genderforschung gekommen?
Speaker: Ja, das ist eine spannende Frage.
Speaker: Ich kann die auch ja nur biografisch beantworten.
Speaker: Das Interessante finde ich, dass ich, obwohl ich mich mit Studienwahlverhalten schon seit Jahren, seit über 15 Jahren beschäftige, ich meine eigene Studienwahl so wenig reflektiert habe.
Speaker: Und so ein bisschen habe ich das letztes Jahr zufällig schon mal angestoßen und ich bin draufgekommen.
Speaker: Der Auslöser für mein Interesse an der Geschlechterforschung oder den Gender Studies war eigentlich der Disney-Film Mary Poppins.
Speaker: Und zwar habe ich den in meiner Kindheit zigmal gesehen, aus den 60ern, irgendwie 64 oder 65.
Speaker: Diese eine Szene, da kommt die Mutter, Mrs. Banks, nach Hause.
Speaker: von einem Suffragetten-Treffen und singt ein Lied über Emily Pankhurst.
Speaker: Und ich habe mich dann gefragt, warum die so lächerlich gemacht wird und was das soll, was die Geschichte dahinter ist.
Speaker: Und das kommt mir niemand so richtig beantworten in meinem Umfeld.
Speaker: Und da war ich in der Schulbibliothek und habe geguckt und gelesen und über die Frauenbewegung was gelernt.
Speaker: Und das fand ich sehr interessant,
Speaker: Vielleicht hängt das auch damit zusammen, dass ich aus der Schweiz komme und die Schweiz ja bekanntermaßen als eines der letzten europäischen Länder überhaupt das Wahlrecht, das allgemeine Stimme und Wahlrecht für Frauen eingeführt hat in den 70ern erst.
Speaker: Also das leuchtete mir dann alles viel mehr ein, dass hier mehr als nur Unterhaltung in diesem Film transportiert wird.
Speaker: Und das hat mich sehr geprägt.
Speaker: Und dann, als es dann 2001, 2002 herum, müsste es gewesen sein, so lange her, um die Studienwahl ging, habe ich lang überlegt, welche Fächer mich interessieren können.
Speaker: War auch mal Informatik und Mathematik angekommen und so.
Speaker: Und war dann in der Studienberatung und der Mensch dort riet mir, nach Interesse zu gehen und ein Nebenfach vielleicht zu wählen, was auch noch Geld bringen könnte.
Speaker: Und dann dachte ich, ja Medien, da kann man doch Geld machen.
Speaker: Dann nehme ich als zweites Nebenfach Medienwissenschaft, das ist nicht Journalismus.
Speaker: Das wusste ich auch, aber das klang auf dem Papier noch halbwegs vertretbar.
Speaker: Und dann habe ich Soziologie und Gender Studies und Medienwissenschaften studiert in Basel, in einem Jahr Austausch in Tübingen und hatte so das Glück in Basel, als ich damals Gender Studies nur als Nebenfach wählen, bei Andrea Mayhofer zu studieren.
Speaker: Da habe ich sehr viel profitiert damals und nach dem Studium,
Speaker: in München eine Stelle gefunden, Gender Studies in den Ingenieurwissenschaften, und seither ließ mich das auch nicht mehr los.
Speaker: Ja, danke.
Speaker: Jetzt habt ihr uns ja schon ein bisschen Einblick gegeben, so in eure Anfänge, eure Verbandeltsein mit der Geschlechterforschung.
Speaker: Wie kam das?
Speaker: Und jetzt ist natürlich nochmal für uns die dringende Frage auch, aber warum dann auch zur KI?
Speaker: Also was ist hier vielleicht auch so das Spannende?
Speaker: Es ist ein Thema, das alle beschäftigt gerade.
Speaker: Digitalisierung ist nicht mehr zu bremsen, ist nicht mehr aufzuhalten.
Speaker: Das ist, glaube ich, auch nicht unser Ziel, das zu tun.
Speaker: Aber natürlich müssen wir uns immer auch fragen, was hat das mit Geschlecht zu tun?
Speaker: Und wie?
Speaker: Wie ist da so eure Perspektive?
Speaker: Warum das Thema?
Speaker: Was ist interessant daran?
Speaker: Vielleicht magst du wieder anfangen, Tanja?
Speaker: Ja, gerne.
Speaker: Auch das eine schöne Frage.
Speaker: Vielen Dank.
Speaker: Also ich habe ja gerade schon, da wo ich aufgehört habe, gerade quasi am Ende meines Studiums mit dieser Begeisterung für diese Technik- und Geschlechterfragen, die haben, würde ich sagen, so ein grundlegendes Erkenntnisinteresse bei mir geprägt,
Speaker: Und das war insbesondere auch durch die Arbeiten von Judy Weisman und Cynthia Coburn, die ja früh diese Technik- und Geschlechterforschung geprägt haben, die sozusagen, finde ich, sehr gut deutlich gemacht haben, dass mit technologischem Wandel und immer mit diesen neuesten Technologien, die gerade sozusagen auf dem Markt sind oder die die Öffentlichkeit bewegen, die die Gesellschaft bewegen, dass es da ganz viel auch immer darum geht, eben Machtverhältnisse, Ungleichheitsverhältnisse neu auszuhandeln und dass da aber auch immer...
Speaker: auch Spielräume drin sind.
Speaker: Gesellschaftliche AkteurInnen können sich neu einbringen, können sich zu dieser Technik positionieren, tun das auch natürlich mit bestimmten Interessen und dann wird ganz viel ausgehandelt.
Speaker: Und mich hat am frühen Internet total interessiert zu beobachten, dass zum einen
Speaker: ja, also Teile von Akteurinnen, die da rein verwickelt waren, auch gerade aus feministischen Perspektiven, die Befürchtung hatten, dass es neue Herrschaftsverhältnisse, neue Ungleichheitsverhältnisse mit sich bringt, dass es nur wieder so ein Männermedium ist, dass die Kommunikationskultur patriarchal ist und so weiter, während
Speaker: andere da tatsächlich einen riesigen Raum mit Potenzialen für neue Geschlechtsidentitäten gesehen haben oder auch für feministische Vernetzung und so weiter.
Speaker: Also es war klar, da wird ganz viel ausgehandelt und in dem Moment war aber auch alles möglich, würde ich sagen.
Speaker: Und sozusagen mit dieser Brille und diesem Erkenntnisinteresse zu sagen,
Speaker: Es kommt eine neue Technologie und die ist nicht festgelegt auf bestimmte gesellschaftliche Auswirkungen oder Gestaltungsweisen und eben auch ist es nicht von vornherein klar, wer profitieren wird und wer nicht.
Speaker: Finde ich nach wie vor immer wieder auch wirklich über diese vielen Digitalisierungsetappen, die wir jetzt seit dem Internet erlebt haben,
Speaker: Eben jetzt aktuell wirklich hochinteressant zu sehen, wie KI da ausgehandelt wird.
Speaker: Welche AkteurInnen bringen sich da ein, mit welchen Interessen?
Speaker: Und dass das ganz viel mit Geschlecht zu tun hat, ist tatsächlich, finde ich, bei KI nochmal offensichtlicher und richtig auch, sag ich mal, auf dem gesellschaftlichen Verhandlungstablett, wenn man nämlich, also ich habe...
Speaker: ja zusammen mit Katrin Gans ein Forschungsprojekt durchgeführt, wo wir den gesellschaftlichen Diskurs von 2015 bis 2021 analysiert haben, was ja also noch ein bisschen vor diesem Chat-GPT-Hype war.
Speaker: Und trotzdem war das Thema schon mitten im öffentlichen Interesse.
Speaker: Und da waren Geschlechterfragen immer schon ein wichtiger Teil.
Speaker: Und das finde ich tatsächlich jetzt sozusagen, das sind dann fast schon empirische Ergebnisse.
Speaker: Aber mit dieser Frage, Geschlechterverhältnisse werden immer auch neu ausgehandelt, neue Technologien ausgewählt.
Speaker: wie gesagt, auf den Markt kommen oder in das öffentliche Interesse kommen, täglicher, alltäglicher genutzt werden.
Speaker: Und da jetzt zu sehen, dass gerade dieses, da kommen wir ja glaube ich auch noch zu, aber diese Diskriminierungs- und Bias-Fragen, aber auch die Frage, ich als Arbeitssoziologin interessiere mich ja auch dafür, wie sich Arbeit verändert, diese Frage, wessen Jobs fallen weg und so weiter, die sind
Speaker: in der Wahrnehmung ganz eng mit Geschlechterfragen verknüpft.
Speaker: Und das finde ich total interessant, dass wir quasi mit dem KI-Diskurs tatsächlich ganz viel selbstverständliche Thematisierung von Geschlechterfragen haben.
Speaker: Also offensichtlich sind diese Themen nicht nur...
Speaker: Also nicht nur versteckt, so wie es vielleicht vor 20, 30 Jahren noch bei anderen Technologien war, wo klar war, wir müssen das erst als GeschlechterforscherInnen herausarbeiten, dass das was mit Geschlecht zu tun hat.
Speaker: Ich habe das Gefühl, das ist bei KI eigentlich ziemlich offensichtlich, dass das Geschlechterfragen sind.
Speaker: Genau, und was mich vielleicht, wenn ich das sozusagen noch eine kleine Schleife, weil es so vielschichtig ist, was ich sozusagen interessant finde, schon immer, wenn wir Technik und Geschlecht untersuchen, sind eben, dass es so viele verschiedene Ebenen hat.
Speaker: Wir haben einmal, das habe ich jetzt schon angesprochen, wir haben einmal so einen öffentlichen Diskurs, eine öffentliche Auseinandersetzung darüber, wo ja auch Vorstellungen von Zukunft ausgehandelt werden, wo Bilder, Metaphern und so weiter, Leitbilder in den öffentlichen Raum gebracht werden und so.
Speaker: Ja, auch sozial konstruiert werden, muss man sagen, sozusagen in diesen Diskursen.
Speaker: Und dann geht es natürlich aber ganz klar konkret auch darum, wer macht diese Technik eigentlich, wer gestaltet die, wo fließen Gelder rein, Fördermittel und so weiter, mit welchen Zielen und auf welche Entwicklungspfade wird da gesetzt.
Speaker: Und dann geht es natürlich, und das haben wir bei KI jetzt ja noch nicht so lange, aber doch auch jetzt seit zwei Jahren verstärkt, dass es in der alltäglichen Nutzung eine Frage ist.
Speaker: Wer macht was damit?
Speaker: Wie wird es angenommen?
Speaker: Wie wird es genutzt?
Speaker: Und dann ist das, habe ich ja gerade auch schon angedeutet, finde ich auch immer interessant, wo gibt es eigentlich Potenziale auch für eine Politik im Sinne von, also eine feministische Politik oder Gleichstellungspolitik, Diversitätspolitik und welche Rolle kann diese Technologie da drin spielen?
Speaker: Das war beim Internet natürlich eher dieser Vernetzungscharakter, aber auch bei KI können wir ja darüber nachdenken, wie kann eigentlich diese Technologie auch
Speaker: eingesetzt werden, um eine Gesellschaft in eine bestimmte Richtung zu verändern.
Speaker: Was ich sozusagen aus den vielen anderen Forschungen zu früheren Technologien ja auch immer schon spannend fand, ist, dass das nie irgendwie eindeutig schlecht ist aus Geschlechterperspektiven oder nur eindeutig gut, sondern dass wir ganz viel verwickelte, ambivalente Effekte haben.
Speaker: Und das jetzt bei KI genauer anzugucken und eben nicht nur zu sagen, ach, das ist alles diskriminierend,
Speaker: sondern da auch zu sehen, naja, aber an anderen Stellen können wir auch was anderes beobachten und so weiter.
Speaker: Diese wirklich sehr komplexen Alltag mit KI genauer zu untersuchen, das finde ich gerade total interessant.
Speaker: Und ich glaube, da gibt es wahnsinnig viele Aufgaben für die Geschlechterforschung.
Speaker: Ja, danke.
Speaker: Ich hatte das Gefühl, es geht ganz viel auch um Potenziale, um Spielräume, die genutzt werden können.
Speaker: Wie sieht es denn bei dir so aus, Yves, mit der Perspektive auf KI und Gender?
Speaker: Gerne, ja.
Speaker: Also vieles, was Tanja schon gesagt hat, dem schließe ich mich an.
Speaker: Das Interesse daran, was denn im Zuge der fortschreitenden Digitalisierung hier passiert, gerade mit generativer KI wie den
Speaker: Chat-GPT-Anwendungen oder den bildgenerierenden Verfahren.
Speaker: Da passiert unheimlich viel und ein sehr diverser und auch mitunter sehr informierter Diskurses zu beobachten, was ich sehr spannend fand und finde.
Speaker: Und dann kam Chat-GPT und am Institut für Soziologie herrschte, wenn man das so sagen kann, heller Aufruhr.
Speaker: Niemand wusste so genau, was das jetzt bedeutet.
Speaker: Und ich saß mit dem Kollegen von den Computational Social Sciences zusammen und wir sagten, ja, aber da muss man doch mal was machen.
Speaker: Lass uns doch mal ein Kolloquium machen, institutsintern und die Grundlagen aufzeigen.
Speaker: Und was haben wir denn jetzt hier überhaupt?
Speaker: Und was bedeutet das für Forschung und Lehre?
Speaker: Vielleicht.
Speaker: Und das war relativ fruchtbar und hat mich dann davon überzeugt, das auch weiter zu verfolgen und KI nicht nur so als Hobby, so als Pet-Project irgendwo nebenher in der viel zu eng bemessenen Freizeit zu betrachten, sondern eben auch mit soziologischer und mit einer Gender Studies-Brille.
Speaker: Gerade auch, weil meiner Meinung nach die Geschlechterforschung uns viele interessante Methoden und Forschungsmöglichkeiten an die Hand gibt, um zu schauen, was da passiert.
Speaker: Und was mich am meisten umtrieb zu Beginn war auch und weiterhin doch auch immer noch, gerade wenn es um qualitative Methoden und KI geht, was denn hinter diesen Marketing-Claims immer auch steckt und funktioniert.
Speaker: was da nur leere Versprechen sind und was uns wirklich Arbeitserleichterung oder Änderung in der Forschungsarbeit oder im Studienalltag bringt.
Speaker: Und deswegen ist das interessant und weil weder Forschungsarbeit noch Studienalltag vom Geschlecht unberührt wären, ist da die Verknüpfung auch evident für mich.
Speaker: Ja, vielleicht willst du da gleich nochmal anknüpfen, weil wir jetzt nochmal die Frage auch haben, was gibt es jetzt für empirische, Tanja hat das ja auch schon angesprochen, Erkenntnisse auch zum Thema quasi Verschränkung, KI, Geschlecht, aber auch natürlich Digitalisierung und Geschlecht.
Speaker: Und Yves, vielleicht magst du da nochmal gerade anschließen, weil du ja auch vorher von deinem Lehrforschungsprojekt berichtet hast.
Speaker: Was beschäftigt dich da gerade empirisch und was hast du so vielleicht für ein, zwei zentrale Ergebnisse zu dem Thema?
Speaker: Ja.
Speaker: Ja, gerne.
Speaker: Also die empirische Perspektive darauf, das Lehrforschungsprojekt hat sich ja zur Aufgabe gestellt, für die qualitative Methodenausbildung zu fragen, wie können denn KI-Werkzeuge im Rahmen der qualitativen Forschung benutzt werden, wie werden sie benutzt und wie lässt sich das auch in den Studienalltag und in ein Curriculum investieren.
Speaker: integrieren, wenn man das so sagen möchte.
Speaker: Das haben wir zusammen mit den Studierenden im Bachelor und im Master der Soziologie über zwei Semester in München durchgeführt und verschiedene Werkzeuge ausprobiert, auch mit, man kann fast schon sagen, autoethnographischen Feldnotizen.
Speaker: Die Studierenden haben sich selbst beobachtet beim Chatten mit einem Chatbot, der narrative Interviews durchführte mit ihnen.
Speaker: Und zentrale Erkenntnis für mich war jetzt, ich bin immer noch mitten in der Analyse dieses ganzen Vorhabens natürlich auch,
Speaker: was meine Ansinnen angeht.
Speaker: Und ein zentrales Ergebnis für mich war, dass der Interpretationszusammenhang für generative KI-Systeme ein ganz anderes, als wir ihn in der empirischen Sozialforschung setzen würden und auch als wir ihn kennen.
Speaker: Aber gleichzeitig haben diese Programme sehr oft den Anschein oder erwecken den Anschein, uns sehr ähnlich zu sein in unserer Sichtweise auf qualitative Daten beispielsweise.
Speaker: Ich nenne das oftmals so etwas wie einen erweiterten Elisa-Effekt.
Speaker: Der Elisa-Effekt vielleicht ganz kurz hat Josef Weizenbaum geprägt über einen sehr frühen Chatbot, bei dem er die Beobachtung machte, dass menschenähnliche Kommunikation uns Menschen dazu verleitet, diesem System zu
Speaker: dann eben auch menschliche Attribute zuzuschreiben, es eben für klug oder nicht klug zu halten oder für einfühlsam, obwohl wir auch wissen, dass es ein Programm ist, mit dem wir da gerade schreiben.
Speaker: Und selbiges beobachten wir und beobachte ich weiterhin im Umgang mit
Speaker: KI-Tools in der qualitativen Sozialforschung von verschiedensten AnbieterInnen und verschiedenen Anwendungszwecken auch, dass wir gut darin sind, Eigenschaften menschlicher Forschende auf das Programm und die Programmlogik zu übertragen und dann die generative KI für eine gute oder für eine schlechte Interpretationsgruppe beispielsweise zu halten, obwohl wir wissen, dass es das gar nicht ist.
Speaker: Aber
Speaker: Diese Simulation anheimzufallen fällt uns sehr leicht.
Speaker: Das ist so eine wichtige Erkenntnis daraus.
Speaker: Und eine weitere ist, dass die Studierenden erfreulich und erstaunlich kritisch damit umgehen und reflektiert damit umgehen.
Speaker: Das liegt natürlich auch an einer gewissen Selbstselektion.
Speaker: Ich meine, wer nimmt schon auch
Speaker: Teil an so einem Lehrforschungsprojekt.
Speaker: Aber wir haben ja im Rahmen des Projektes auch mit anderen Studierenden gesprochen.
Speaker: Und auch die sind nicht weniger reflektiert, was den Einsatz von KI in ihrem Studium angeht.
Speaker: Und das fand ich sehr gut, das auch empirisch zu sehen in diesem explorativen Zugang, wenngleich auch, was die Reichweite auch der Erklärung angeht.
Speaker: weil schon immer wieder zu hören wäre oder weil ich immer mal wieder höre, dass uns generative KI das ganze Studium verändert und alle Studierenden jetzt nur noch betrügen wollen würden, weil es ja jetzt plötzlich so einfach wäre.
Speaker: Und davon bin ich nicht überzeugt, schon allein vom Generalverdacht nicht, aber eben auch habe jetzt eine empirische Basis, um das zu zeigen.
Speaker: Nee, dem ist nicht so.
Speaker: Das ist eigentlich gar nicht deren Ansinnen.
Speaker: Es geht schon um eine Arbeitserleichterung, aber selbst in diesem Rahmen, in
Speaker: anonymen, vertraulichen Interviews war niemand fest davon überzeugt, nunmehr Hausarbeiten vom Chatbot produzieren zu lassen, auch um den eigenen Erkenntnisgewinn gar nicht zu gefährden.
Speaker: Man studiert ja nicht aus Selbstzweck.
Speaker: Oder nicht viele.
Speaker: Vielleicht so.
Speaker: Ja, also danke nochmal hier auch die Perspektive der Lehre, die ja auch zur Genderforschung natürlich dazugehört.
Speaker: Ja, Tanja, was sind deine zentralen Ergebnisse und vielleicht auch nochmal insbesondere so an der Schnittstelle Geschlecht und auch gerne so aus so einer intersektionalen Perspektive, vielleicht auch, wenn es nicht so viel ist.
Speaker: Ja, danke.
Speaker: Ich habe ja vorhin schon kurz erwähnt, was ich empirisch geforscht habe in den letzten Jahren, war ein Forschungsprojekt zusammen mit Katrin Gans, was die Hans-Böckler-Stiftung finanziert hat.
Speaker: Und das haben wir durchgeführt 2021, 2022 und hatten eben Daten von 2015 bis 2021.
Speaker: Also das muss man wirklich dazu sagen, es war wirklich vor JGPT.
Speaker: Und was wir damals, oder was wir da eben vor ein paar Jahren untersucht haben,
Speaker: war vor allem der politische und der öffentliche Diskurs zu KI, Gender und Arbeit.
Speaker: Also in diesem wirklich Themen-Dreieck.
Speaker: Das ist auch wichtig, dass es insbesondere um Arbeit ging, weil ich glaube, gerade der öffentliche Diskurs zu KI und Gender noch mal viel breiter ist und auch viele Themen umfasst, die nichts mit Arbeit zu tun haben.
Speaker: Uns hat es eben arbeitssoziologisch interessiert, wie die Zukunft der Arbeit in den Diskursen dargestellt, ausgehandelt wird.
Speaker: Und wir haben...
Speaker: ganz viel Zeitungen, Zeitschriftenmaterial ausgewertet, aber eben auch Dokumente von politischen AkteurInnen, von Arbeitgeberverbänden, Ministerien, Parteien, Gewerkschaften, feministische AktivistInnen und so weiter, um zu sehen, welche Erwartungen da an diese neue Technologie gestellt werden, wie die gerahnt wird und auch welche Geschlechterbilder da drin verhandelt werden.
Speaker: Wenn ich so versuche, jetzt die wichtigsten Erkenntnisse, also empirischen Ergebnisse kurz darzustellen, tatsächlich erstmal festgestellt haben, dass eben Geschlecht eine ganz wichtige Rolle darin hat und dass zum Teil wahnsinnig Stereotyp, das ist jetzt auch wenig überraschend, Stereotyp auf Geschlecht Bezug genommen wurde.
Speaker: Also Frauen wären zögerlicher.
Speaker: Also wir haben so ganz alte Muster von so Technik- und Geschlechterbildern da ganz schnell gefunden.
Speaker: Ja, wie gesagt, Frauen sind zögerlicher, Frauen könnten die Verliererin der KI-Entwicklung werden und so weiter.
Speaker: Aber wir haben auch ganz viele Gegenentwürfe gefunden und erst mal festgestellt auch, dass sich diese ganzen Bilder von Geschlecht, Arbeit und KI ständig widersprechen eigentlich.
Speaker: Also es gibt dann sozusagen große Schlagzeilen, Frauen werden die Verliererin, da werden, wenn KI in die Arbeitswelt einzieht und irgendwie andere Zeitungen zwei Wochen später, Männer sind die Verlierer und die
Speaker: Die Begründung dafür waren, also sozusagen, wir haben dann ja analysiert, was für Frames, was für Begründungsmuster finden wir in diesen Artikeln dann, die für das eine oder andere Prognose stark machen.
Speaker: Und da war es dann entweder, ja Männer machen mehr Routinetätigkeiten und mehr, ja vielleicht auch handwerkliche Tätigkeiten, arbeiten körperlich und so weiter und das...
Speaker: wird eh alles automatisiert.
Speaker: Frauen sind mehr in fürsorglichen Berufen, die kann man nicht durch KI ersetzen.
Speaker: Dann gab es aber auch Artikel, die haben gesagt, doch, gerade die KI ist so geduldig.
Speaker: Und dann gab es irgendwie so Fallbeispiele von so Personalentwicklungsgesprächen, wo sich Menschen mit einer automatisierten KI darüber unterhalten haben, wie zufrieden sie sind und so weiter, wo dann das Fazit war, der ist doch schön, dass jetzt nicht mehr dieser typische Frauenberuf von Frauen gemacht werden muss, weil es einfach wahnsinnig viel Geduld und Nerv gibt.
Speaker: erfordert quasi, sich das alles anzuhören oder auch im Servicebereich, im Dienstleistungsbereich, Callcenter und so weiter, wo eher so ein positives Szenario aufgemacht wurde.
Speaker: Ist doch gut, dass Frauen von dieser Arbeit entlastet werden, diese Emotionsarbeit, die auch belastend ist und jetzt können wir, können Frauen dann endlich mal schönere Sachen machen,
Speaker: Also ganz interessant, auch die Emotionsarbeit auf einmal, als was dargestellt wurde, was automatisiert werden kann.
Speaker: Also ganz viel widersprüchliche Bilder und aber auch ganz viel Aushandeln dessen, was man sich vorstellen kann, was die KI in Zukunft machen kann.
Speaker: Und einen Punkt würde ich besonders hervorheben, weil wir den wirklich spannend fanden, weil wir wirklich auf so eine Jahrzehnte
Speaker: lange Forschung zurückblicken können, die immer wieder herausgearbeitet hat, wie mit neuen Technologien Männlichkeit befestigt wird quasi und dass gerade neue prestigereiche Technologien immer auch was sind, worüber Männer Macht und Prestige irgendwie generieren können.
Speaker: dass wir da gemerkt haben, dass dieser Diskurs schon auch aufbricht.
Speaker: Und das hat was damit zu tun, was ich vorhin schon gesagt habe, dass dieses Bias-Thema so wichtig ist, dass also so offensichtlich ist, dass die KI ein Diskriminierungsproblem hat.
Speaker: Und das ist im Diskurs, wird ja natürlich auch versucht zu erklären und da Schuldige zu identifizieren.
Speaker: Und dann gibt es tatsächlich diese Figur des männlichen, weißen, jungen Programmierers, der einfach dem
Speaker: die vielfältige Lebenserfahrung fehlt und der deswegen nicht in der Lage ist, eine diversitätssensible KI zu konstruieren.
Speaker: Also der wird quasi eine Problemfigur.
Speaker: Also dieser weiße junge Mann ist nicht mehr sozusagen der coole Silicon Valley Programmierer, dem die Welt gehört quasi, sondern der ist eine Problemfigur, der das
Speaker: der einfach nicht überblickt, was es alles braucht, weil er einfach keine Lebenserfahrung hat.
Speaker: Also Tunnelblick wäre so ein Zitat zum Beispiel.
Speaker: Und dann kommen so leuchtende Frauenfiguren, die oft auch porträtiert werden, also Frauen mit Namen, mit einer Biografie, die vorgestellt werden, die sozusagen die Retterinnen der KI und die diesen Bias ausbügeln sollen quasi.
Speaker: Also das fanden wir total interessant.
Speaker: Das ist spannend.
Speaker: Ich schließe da einfach gleich nochmal kurz dran an, weil in dem anderen Forschungsprojekt, eben nicht dem Lehrforschungsprojekt, sondern dem Maschinen- und Anlagenbau, Frauen- und Maschinen- und Anlagenbau, DigiMint, das BMBF gefördert wird, haben wir im Rahmen der Betrachtung der Digitalisierung, wo wir Digitalisierung eben versuchen, da zu differenzieren zwischen Werkzeugen und Inhalten,
Speaker: Und dann, also mein Konzept da drin ist der Versuch, Digitalisierung als Intervention in einen Lernprozess zu betrachten, sowohl im Arbeitskontext wie auch im Ausbildungskontext.
Speaker: Und deswegen kommt da auch KI drin vor.
Speaker: Und wir haben letztens, meine Doktorandin und ich, also die Anna-Kathrin Wimmer, genau, das Paper müsste diesen Sommer auch noch erscheinen, einen Aufsatz geschrieben zu diskutieren.
Speaker: zum Diskurs um KI und Kreativität in den Ingenieurwissenschaften, weil das spezifisch da Maschinen- und Anlagenbau, und wir wissen das ja auch aus der Professionsgeschichte der Ingenieurwissenschaften, wie sehr dieses männliche Genius, der geniale männliche Ingenieur, so konstituierend auch für das Selbstbild der Ingenieurwissenschaften und auch im Maschinenbau,
Speaker: sich etablierte und so von der reinen naturwissenschaftlich betrachtenden Physik abgrenzen konnte.
Speaker: Und diese Topoi finden wir immer noch in unseren Interviews wieder, in den narrativen Interviews, die wir damit anbieten.
Speaker: mit Young Professionals geführt haben, mit Maschinenbauingenieurinnen, die weniger als fünf Jahre im Job unterwegs sind, als wir sie nach ihrem Verständnis und ihrem Umgang von Kreativität und auch dem Zusammenhang mit Digitalisierung fragten.
Speaker: Und meine Kernerkenntnis daraus wäre auch wieder eine große Ambivalenz und ein kritischer Umgang damit.
Speaker: Ja, danke für eure spannenden Einblicke in die jeweilige Forschung.
Speaker: Das sind schon sehr zentrale Erkenntnisse, die ihr da, glaube ich, in dem Themenfeld auch gewonnen habt, die auch weiterbringen, die Diskussion auch befruchten.
Speaker: Eine Besonderheit in unserem Podcast ist ja, dass wir euch oder die jeweiligen Gäste immer bitten, Lieblingszitate mitzubringen aus den jeweiligen Texten auch zum Thema.
Speaker: Und wir sind jetzt natürlich sehr gespannt, was ihr...
Speaker: diesmal mitgebracht habt, Tanja und Eve.
Speaker: Und ja, möchten euch bitten, das kurz einmal vorzulesen und dann auch zu erläutern, warum gerade das, was verbindet ihr mit diesem Zitat, mit diesem Text, warum ist der wichtig auch für die Diskussion?
Speaker: Tanja, magst du anfangen?
Speaker: Ja, sehr gerne.
Speaker: Ihr hattet ja gebeten, ein Zitat zu KI und Gender mitzubringen.
Speaker: Ich habe dann aber tatsächlich mich dem widersetzt etwas und habe tatsächlich ein sehr altes Buch rausgekramt.
Speaker: Und nämlich, weil ich, ich habe es ja jetzt auch schon erwähnt, also was mich wirklich sehr geprägt hat, sind die Schriften von Judy Weisman, die ja wirklich die Technik- und Geschlechterforschung maßgeblich, finde ich, etabliert hat und entwickelt hat.
Speaker: Und ich habe da tatsächlich jetzt nochmal, das sehen jetzt ja die HörerInnen nicht, aber sozusagen das ganz alte Buch hier mitgebracht, Technik und Geschlecht, die feministische Technikdebatte.
Speaker: Ich gucke nochmal kurz, es ist 1994 im Deutschen erschienen, war es aber glaube ich 1991 im Englischen genau, also wirklich schon inzwischen sehr alt.
Speaker: Und mich hat das damals sehr geprägt, wie sie Technik als eine Männerkultur untersucht und herausarbeitet.
Speaker: Auf Seite 175 habe ich jetzt nochmal den schönen Satz, den ich auch fünfmal schon in meiner immer wieder verkehrenden Auseinandersetzung mit diesem Buch mit verschiedenen Stiften angestrichen habe und Ausrufezeichen versehen habe.
Speaker: Es schreibt sie, in unserer Kultur bedeutet das Beherrschen der neuesten, das habe ich auch nochmal unterstrichen, neuesten Technologie an der Gestaltung der Zukunft mitzuwirken und daher ist es eine hoch bewertete und mythologisierte Tätigkeit.
Speaker: Das vielleicht erstmal, ich lese gleich noch einen zweiten Satz vor, aber ich finde, das ist erstmal...
Speaker: Das war für mich damals tatsächlich so einer der Augenöffner, tatsächlich zu sagen, wie eng Technik und Männlichkeit verbunden sind, aber auch gerade dieses Hochbewertete bis hin zu mythologisiert.
Speaker: Und ich finde, das passt für KI einfach auch so gut, weil KI ist ja wirklich sehr mythenumwoben und
Speaker: Das hat, hast du ja, Yves, auch schon jetzt mehrfach gesagt, dieses Gefühl, man hat da ein Gegenüber und so, gerade mit diesen Personifizierungen und so weiter, haben wir es jetzt ja wirklich mit einer sehr herausfordernden Technologie zu tun, die, glaube ich, wirklich mythenumrangt ist erst mal.
Speaker: Und dann aber tatsächlich auch diese Formulierung, das Beherrschen der neuesten Technologie, das geht ja, also klar, Technik ist, glaube ich, grundsätzlich wichtig,
Speaker: eng mit Männlichkeit verwoben, aber diese neuesten Technologien zu beherrschen, auch diese Zukunft aushandeln und so weiter, ich finde das so gut passend jetzt für den KI, für das, was wir gerade mit KI erleben.
Speaker: Und gerade auch, wenn wir jetzt sozusagen, wenn wir wirklich an diese ganzen Männer im Silicon Valley denken, die
Speaker: im Moment die neuesten Technologien vorantreiben.
Speaker: Es ist ja nicht nur KI oder sowas, aber da finde ich, geht es wirklich um so ein Beherrschen und darüber wird so viel Macht generiert, was finde ich ja jetzt auch nochmal offensichtlicher wird, gerade auch mit was für Monopolen wir es da zu tun haben und auch für Männerfiguren.
Speaker: Genau, das vielleicht erstmal, also das fand ich wirklich sehr prägend und konnte man an vielen technologischen Etappen sehen, aber finde ich für KI jetzt nochmal besonders passend auch.
Speaker: Und dann geht es aber weiter nochmal und da, weil wir ja auch, ihr habt ja vorhin auch Intersektionalität schon angesprochen, ich finde, es geht eben auch nicht nur um Geschlecht, sondern auch um andere Diversitätskategorien da drin.
Speaker: Und sie schreibt eben in den anschließenden Satz, die Meisterung anderer Technologien, wie zum Beispiel bei jungen Männern,
Speaker: aus der Arbeiterschicht, die gut mit Autos umgehen können, vermittelt nicht denselben Status oder ähnliche Handlungsfähigkeit.
Speaker: Und trotzdem haben wir natürlich, wenn wir jetzt sagen Arbeiterschicht, wie sie es hier formuliert, haben wir da natürlich auch wieder Geschlecht als wichtige Kategorie, weil sich eben vielleicht dieselben jungen Frauen aus der Arbeiterinnen-Schicht nicht genauso gut mit Autos umgehen können und darüber auch wieder eine bestimmte Überlegenheit macht und so weiter generiert werden kann.
Speaker: Aber natürlich stehen diese jungen Männer aus der Arbeiterschicht, wenn ich das so einfach so zitiere,
Speaker: Und so übernehme.
Speaker: Nicht auf demselben Level wie die jungen Männer, die sich jetzt mit KI auskennen gut oder KI gestalten und KI entwickeln.
Speaker: Also das ist nur sozusagen nur um eine weitere Ungleichheitskategorie damit reinzunehmen, dass wir sozusagen in diesem Technik- und Geschlechterverhältnis natürlich auch die anderen Menschen,
Speaker: Ungleichheitskategorien insbesondere auch Klasse zum Beispiel, da auch nochmal haben, was sozusagen die Technologien auch nochmal bewertet, also unter den Technologien, um die es geht, eine unterschiedliche Wertigkeit, unterschiedliche Prestigetechnigkeit zuweist und darüber natürlich auch unterschiedliche Machtpositionen denen, die sich damit auskennen.
Speaker: Das vielleicht so zu meinem Zitat.
Speaker: Ja, danke.
Speaker: Das ist sehr passend gewesen jetzt.
Speaker: Wenn auch alt, aber nicht alt.
Speaker: Ja, Yves, was hast du uns mitgebracht?
Speaker: Ja, ich habe was ganz anderes mitgebracht und zwar aus einem Science-Fiction-Roman.
Speaker: Ich habe lang gesucht nach einem passenden Zitat hierfür.
Speaker: Ich saß dann auch vor Donna Haraway-Texten und dachte mir, nee, eigentlich für meine aktuelle Betrachtung auch von...
Speaker: Gerade generativer künstliche Intelligenz trifft es das hier viel besser.
Speaker: Und es ist auch wieder ein alter Text, der ist im Original von 1968 aus Philip K. Dicks »Do Androids Dream of Electric Sheep«.
Speaker: deutschen dann Blade Runner, auch dem Film entsprechend bekannt.
Speaker: Und ich habe hier auch das Buch, das ist die sechste Ausgabe der deutschen Übersetzung, irgendwie von 2000.
Speaker: Und da spricht der Protagonist Rick Deckard auf Seite 40 zu uns Lesenden.
Speaker: Wie die meisten anderen Menschen auch, hatte er sich manchmal darüber Gedanken gemacht,
Speaker: weshalb wohl ein Androide völlig hilflos wurde, sobald man ihm einen Empathietest der Messung seines Mitgefühls aussetzte.
Speaker: Empathie existierte offenbar nur in der menschlichen Rasse, während man Intelligenz bis zu einem gewissen Grad bei jeder Art und jedem Stamm von Lebewesen bis hinunter zu den Spinnen antraf.
Speaker: Gefühle schienen zunächst einen unangeschränkten Gruppensinn vorauszusetzen.
Speaker: Für einen solitären Organismus wie eine Spinne hätten sie gar keinen Sinn.
Speaker: Und auf 41 geht dann der Monolog weiter.
Speaker: Der humanoide Roboter stellte infolgedessen ein solitäres Raubtier dar.
Speaker: Und ich habe diese Passage aus dem Roman, den ich zum unzähligen Male wiederlese, herausgesucht, weil ich fand, es trifft sehr gut diese...
Speaker: diesen Diskurs auch um die Problematik des Elisa-Effekts und des Umgangs mit generativer KI.
Speaker: Die Androiden hier in diesem Science-Fiction-Roman aus den späten 60er Jahren des amerikanischen Autors sind von Menschen auf den ersten und zweiten Blick gar nicht zu unterscheiden.
Speaker: Das sind keine Maschinen, sondern das sind organische Autos.
Speaker: Roboter sozusagen.
Speaker: Und das einzige Werkzeug, was die Gesellschaft da hat, um sie von echten Menschen zu unterscheiden, ist eben dieser Empathietest.
Speaker: Und das fand ich vor dem Hintergrund spannend, weil auf den ersten Blick der Roman und auch die Figuren der Androiden sehr wenig mit einem Geschlecht im Diskurs zu tun haben.
Speaker: Aber auf den zweiten Blick natürlich schon, weil sie auf ein Konzept von Mensch verweisen.
Speaker: Und eben hier Empathie und Gruppensinn als anthropologische Kerneigenschaften
Speaker: festmachen, wo beide doch eher Stereotyp als weiblich gelten, auch in den 60er, 70er Jahren und auch in den USA.
Speaker: Das, fand ich, ist vor diesem Hintergrund sehr interessant, weil wir auch hier sehen und auch das, was du, Tanja, vorhin aufgemacht hattest mit den empirischen Ergebnissen und der Diskussion darum, dass jetzt Pflegeberufe doch von KI gemacht werden könnten und Frauen diese nicht mehr aufnehmen müssten und somit besser bezahltere Tätigkeiten vielleicht finden könnten.
Speaker: Ich dachte mir, das ist hier sehr trefflich, um diese Simulation der künstlichen Intelligenz hier in Form der Romanfiguren der Androiden, der Skinjobs, aufzunehmen, die Menschlichkeit simulieren, aber gar nicht empathisch sein können.
Speaker: So wie eben KI, auch menschliche, also generative KI beispielsweise in Form von Chatbots, uns hier menschliche Kommunikation simuliert.
Speaker: Und gleichzeitig auch, wenn wir KI für Recherche und Analyse verwenden, uns auch nur ein Verständnis oder ein Wahrheitsverständnis simuliert.
Speaker: Kai Dröge nennt das ein metisches Verständnis von Wahrheit.
Speaker: Ich würde weitergehen und sagen, es ist sogar nur ein simuliertes Verstehen.
Speaker: Wir haben hier kein Verständnis.
Speaker: Konzept von Sinn in einer KI, so wie sie heute auch genutzt und gebaut wird, sondern wir haben eine Simulation dessen, was wir als sinnhaftes Handeln in Kommunikationszusammenhängen interpretieren.
Speaker: Und das hat ja auch Emily Bender zu diesen lokalistischen Papageien, zu diesem Bild gebracht, dass eine KI plappert,
Speaker: aber gar nicht verstehen kann, weil kein Verständnis da ist, was da geplappert wird.
Speaker: Aber für uns klingt es gut genug und so schreiben wir dieser KI Kommunikationsfähigkeiten zu.
Speaker: Und da eben auch diese Simulation von empathischen Sprachäusserungen, das haben wir beispielsweise auch im Lehrforschungsprojekt gesehen,
Speaker: dass im narrativen Interview mit dem Chatbot der Chatbot Verständnis simuliert, Zustimmung zu den Äußerungen gibt oder auf die Äußerungen reagiert mit so etwas wie, ah, das war bestimmt schwierig für Sie.
Speaker: Können Sie dazu mehr sagen?
Speaker: Also wie wir auch narrative Interviews führen.
Speaker: Und die Studierenden fanden das teilweise sehr irritierend, dass hier die Maschine so freundlich und verständnisvoll agiert und teilweise das auch in ihrer Wahrnehmung arg übertreibt mit dem freundlich sein und verständnisvoll sein.
Speaker: Wir haben das aber in dem Versuchsaufbau, in unserem Forschungsprojekt, dem Chatbot nicht austreiben können.
Speaker: Also die System Prompts und auch die Rahmenbedingungen für die Maschine versucht, weiter anzupassen.
Speaker: Der blieb weiterhin bei einem überschwänglich positiven Rückmelden und Verständnis simulieren in diesem Chat.
Speaker: Auch natürlich, um die Konversation am Laufen zu halten.
Speaker: Und deswegen...
Speaker: Passte das meines Erachtens ganz gut darauf, wie hier Philip K. Dick diese künstlichen Menschen, diese Androiden, den Blade Runner, charakterisiert.
Speaker: Danke für dein schönes Zitat.
Speaker: Ich musste auch gleich daran denken, dass ich ja diesen Punkt mit den Emotionen oder Gefühlsarbeit ja auch schon angesprochen hatte.
Speaker: Da ist ja sozusagen so ein bisschen auch die Frage, als Test rauszufinden, sind es nun Androiden oder nicht?
Speaker: Und habe jetzt parallel tatsächlich, habe ich dann noch, hat mich gerade noch beschäftigt, dass es ja dann wirklich aber auch wieder eine Frage ist, also gerade jetzt auch noch mal als Arbeitssoziologin, welche Arbeitswelt wir denn wollen, weil das, was du auch von den Studierenden sagst, dass sie es irritierend finden, das ist natürlich genau die Frage.
Speaker: Wie wollen wir denn eigentlich in Zukunft arbeiten und leben?
Speaker: Und ist es tatsächlich, so wie ich es vorhin als eines unserer Ergebnisse vorgestellt hatte,
Speaker: Ist es vielleicht wirklich eine Erleichterung, so mühsame Kommunikationsarbeit, die wirklich ja manchmal auch sehr viel, ja, sehr viel sozusagen unser eigenes Gefühlsmanagement erfordert, indem wir langatmigen Ausführungen zuhören, indem wir nervigen Leuten, die wir vielleicht auch unsympathisch sind, empathisch gegenüber sein müssen in so einer professionellen Rolle.
Speaker: Ist das tatsächlich ein Fortschritt zu sagen, da setzen wir eine KI ein, weil die einfach immer zuhört und einfach super freundlich ist?
Speaker: Oder merken wir einfach, so wie du es dann von den Studierenden erzählst,
Speaker: dass wir es so aber nicht wollen, weil wir eben nicht diese übertriebene und ja, wie wir dann wissen, also künstliche Freundlichkeit, ist die vielleicht auch wertlos oder unangenehm.
Speaker: Ich denke, dass wir da, also ich glaube, das sind so Fragen, das wissen wir noch gar nicht, wie das ausgehen wird und da finde ich wirklich auch interessant und da sozusagen kann man ja auch ausblickhaft schon über zukünftige Forschung nachdenken.
Speaker: Das sind Felder, die wir, glaube ich, in den nächsten Jahren auch gerade in der Soziologie, die an so einer Schnittstelle Technik, Geschlecht, auch Arbeit, Soziologie arbeitet,
Speaker: viel zu tun haben werden, zu gucken, wo wird denn die KI dann eingesetzt?
Speaker: Nur weil es geht, heißt es ja nicht, dass wir sie da auch nutzen, weil wir sie vielleicht auch gar nicht wollen, weil es unangenehm ist und so weiter.
Speaker: Aber ich finde wirklich auch aus so einer Beschäftigtenperspektive interessant, dass wir manchmal so arbeiten, von dem wir lange ja behauptet haben, die kann man nicht durch Technik ersetzen.
Speaker: Da sind wir jetzt an einem anderen Punkt.
Speaker: Aber es ist eben offen, ob es dann trotzdem von Technik ersetzt wird, nur weil es geht.
Speaker: Ja, das ist ja auch.
Speaker: Das fand ich jetzt auch gerade mit dem, von wann war jetzt, ich habe die Jahreszeit schon vergessen, aber das ist ja nun mal noch mal viel älter als mein Zitat gewesen und trotzdem so passend.
Speaker: Das ist wirklich faszinierend.
Speaker: Ja, von 68 ist der Roman.
Speaker: Ich fand es deswegen auch sehr, sehr spannend hier zu sehen, wie und das ja in einem Science-Fiction-Roman, also einem Vorgriff auf eine ungeschriebene Zukunft, diese Überlegungen schon mit auftauchen.
Speaker: Was wollen wir denn überhaupt?
Speaker: Und warum, also der Diskurs, um warum diese künstlichen Menschen, diese Androiden nicht gewollt sind, darum geht es ja, die werden auf der Erde verboten, ist ein ganz anderer.
Speaker: Aber ich würde mich dem auch anschließen.
Speaker: Das bleibt und ist eine spannende Frage, in die eben auch so etwas wie ein Ethikdiskurs in Technik und Technikentwicklung und Technikfolgenabschätzung reinspielt.
Speaker: der meines Erachtens auch häufig viel zu kurz kommt.
Speaker: Und deswegen bin ich nicht so ganz sicher, was du anfangs unseres Gesprächs ja aufmachtest, dass das Thema Bias und Risiken, was KI angeht, schon früh und breit geht.
Speaker: zu beobachten ist, vielleicht ist es wirklich eine Blase.
Speaker: Ich habe die aber auch.
Speaker: Ich sehe auch viele Leute, die sich damit beschäftigen, gerade online, gerade international, die das weiterhin aufzeigen, die empirische Evidenz zusammentragen, die Probleme benennen und Vorschläge auch machen, wie man beispielsweise zu einer feministischen KI kommen könnte.
Speaker: Ich bin da skeptischer, was das angeht, dass wir hier grundsätzlich einen anderen Pfad an technologischer Entwicklung einschreiten werden, weil am Ende das alles immer noch in einer kapitalistischen und
Speaker: zunehmend neoliberaleren Marktlogik verschränkt ist mit großer Marktmacht in wenigen Händen, die am Ende des Tages, wie wir es bei vielen anderen technischen Fortschritten oder Veränderungen gesehen haben, nicht mehr als eine Richtung und davon Nischenlösungen, kleine Abweichungen kennen wird.
Speaker: Also selbst da, auch dadurch, dass dieser Diskurs drin ist und wir die, ich sage mal, Awareness für Algorithmic Bias oder Bias through Training Data haben, was KI angeht.
Speaker: Wir haben ja gesehen, wie der EU AI Act nun eingedampft wurde auf wenige und auch nicht an allen Schritten oder für alle Anwendungsbezüge so verbindliche Regelungen.
Speaker: Markt schlägt da immer noch Ethik und ich befürchte auch in diesem Diskurs sind diese, ich sage das mal so zynisch, diese zarten, aufgeklärten, kritischen Stimmen, die wir da sehen können, werden nicht den ausschlaggebenden Punkt haben.
Speaker: Ja, also würde ich dir auch total zustimmen.
Speaker: Die Frage ist nur, und ich würde aber jetzt sozusagen mit den aktuellen Entwicklungen in den USA wirklich auch nochmal pessimistischer, aber zwischendurch wäre mein Gegenargument gewesen, naja, mit Diversität, also Diversität kann man ja auch vermarkten und eine KI...
Speaker: die einen Bias hat, der nicht gewollt ist, also weil er einfach so eine Eigenlogik hat und nicht das beste Ergebnis hervorruft, ist auch nicht gut und deswegen ist das Streben nach einer diversen KI oder nach einer diskriminierungsfreien KI so groß, weil es tatsächlich sonst auch ein ökonomisches Risiko brachte, weil die KI eben nicht sinnvoll funktioniert oder wie gesagt so eine Eigenlogik hat, die nicht gewollt ist.
Speaker: Also das, wie gesagt, das hätte ich vor einem Jahr, hätte ich das noch sehr stark nach vorne gebracht, zu sagen, ja, wie gesagt, Diversität lässt sich auch vermarkten und gerade in der kapitalistischen Logik ist es, glaube ich, auch sinnvoll, sozusagen da an einer qualitivvollen KI zu arbeiten, die gut funktioniert und die auch
Speaker: gesellschaftliche Akzeptanz hat, das ist ja schon auch nochmal ein großes Thema.
Speaker: Das ist auch was, was wir in unseren Daten sehen konnten, dass es ja sehr viel Skepsis gegenüber KI gibt, vielleicht gerade weil sie so unheimlich ist und so blackboxig, dass es sehr viel Bemühen gerade in diesem politischen Diskurs gibt, die Bevölkerung oder die gesellschaftlichen AkteurInnen, die Beschäftigten, die Gewerkschaften mitzunehmen, zu sagen,
Speaker: KI braucht auch eine breite gesellschaftliche Akzeptanz, weil sonst ist dieses Projekt gerade aus so einer europäischen Perspektive wirklich gefährdet.
Speaker: Also deswegen so viel Bemühen darum, ein gutes KI-Bild zu etablieren.
Speaker: Und ich glaube, da gehört dieses Diversitätsthema auch ganz strategisch mit dazu.
Speaker: Deswegen würde ich sagen, dieses Ringen um Diversität im KI-Diskurs ist vielleicht sogar am wenigsten ein emanzipatorisches, politisches, sondern tatsächlich ein sehr strategisches, aber
Speaker: Und ich denke aber, das ist jetzt hoch gefährdet natürlich jetzt sozusagen unter den aktuellen Entwicklungen, weil Diversität glaube ich jetzt im Moment ein viel, viel negativ behafteter Begriff geworden ist als noch vor einem Jahr, sozusagen.
Speaker: Ja, ja, ja.
Speaker: Da gehe ich absolut mit, das würde ich auch so sehen.
Speaker: Ich hätte auch gesagt, vor einem Jahr noch war ich da etwas, war ich nicht ganz so pessimistisch, was das angeht.
Speaker: Ich glaube aber auch, dass die Entwicklung weiter da zu beobachten ist, also nicht nur auch, was unternehmerische Perspektiven angeht, auch in der Forschung.
Speaker: passiert seit einigen Jahren ja recht viel, auch was Responsible und Explainable AI angeht, was ja auch in diese Richtung geht.
Speaker: Das Vertrauen in Technologie eben ganz konkret an diesem Blackbox und auch an diesem Uncanny, Creepy Ding anzupacken und zu sagen, wir können euch aber erklären, was da passiert.
Speaker: Es ist nicht mehr nur für die Nerds unter uns verständlich, sondern wir können das besser machen, sodass wir eine bessere Akzeptanz auch dieser technologischen Entwicklung haben.
Speaker: vorantreiben können.
Speaker: Und ich glaube, da passiert auch weiterhin noch viel und wahrscheinlich dann nicht unter die EI-Kriterien und Berücksichtigung, zumindest nicht in einem großen internationalen Kontext.
Speaker: Sobald man mit USA zusammenarbeiten will, die nächsten vier Jahre, wird das niemand mehr draufschreiben.
Speaker: Aber Europa versucht da ja auch im Sinne der Technologiesouveränität sich da anders aufzustellen und ich bin gespannt, was da passiert.
Speaker: Total, ja.
Speaker: Ja, das ist ein schönes Schlusswort.
Speaker: Vielen Dank für diese sehr spannende und auch dichte Gespräch und auch euer Wissen, dass ihr das so auf den Punkt mit uns geteilt habt, diese tollen Zitate.
Speaker: Es hat viel Spaß gemacht, wir müssen aber leider zum Ende kommen.
Speaker: Ich konnte jetzt noch ewig erzählen.
Speaker: Ja, vielen Dank, Yves und Tanja, dass ihr da wart.
Speaker: Und mir bleibt jetzt nur zu sagen, das war schon die zweite Folge von Nachgefragt.
Speaker: Schaut immer mal auf Spotify und allen anderen gängigen Plattformen.
Speaker: Da findet ihr auch alle kommenden Folgen.
Speaker: Auch schon mal der Hinweis, die nächste Folge wird sich um...
Speaker: Geschlecht oder Gender und Rechtsextremismus drehen.
Speaker: Auch hier haben wir wieder spannende Menschen zu Gast.
Speaker: Und ja, wer Fragen oder Anregungen hat, kann sich jederzeit bei uns melden.
Speaker: Am besten schreibt ihr ans GFFZ unter info at gffz.de.
Speaker: Und wir freuen uns natürlich auch, wenn ihr empfehlt und teilt und dass möglichst viele diesen Podcast hören mit diesen tollen Menschen, die da sind.
Speaker: Und dann bis zum nächsten Mal.
Speaker: Tschüss von mir, Sabrina, Hannah.
Speaker: Ja, macht's gut und bis zum nächsten Mal.
Speaker: Tschüss.
Speaker: Vielen Dank nochmal für die Einladung.
Speaker: Tschüss.
Speaker: Ja, von mir auch.
Speaker: Danke.
