Become a Creator today!Start creating today - Share your story with the world!
Start for free
00:00:00
00:00:01
Folge 2 - Künstliche Intelligenz
68 Plays4 months ago
Folge zwei des neuen Podcasts des Gender- und Frauenforschungszentrums der hessischen Hochschulen. Das Thema der Folge ist KI- diskutiert von Dr. phil. habil. Yves Jeanrenaud und Prof. Dr. Tanja Carstensen, moderiert von Dr. Hanna Haag und Prof. Dr. Sabrina Schmitt.
Literatur des Podcasts:
Bender, Emily M./Gebru, Timnit/McMillan-Major, Angelina/Shmitchell, Shmargaret (2021): On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? In: Conference on Fairness, Accountability, and Transparency (FAccT ’21), March 3–10, 2021, Virtual Event, Canada. ACM, New York, NY, USA, 610-623. https://doi.org/10.1145/3442188.3445922
Butler, Judith (1990): Gender Trouble: Feminism and the Subversion of Identity. London, New York: Routledge
Carstensen, Tanja/Ganz, Kathrin (2024): Künstliche Intelligenz und Gender – eine Frage diskursiver (Gegen-)Macht? WSI-Mitteilungen 01/2024, 26-33. DOI: 10.5771/0342-300X-2024-1-26
Dick, Philip K. (1968): Do Androids Dream of Electric Sheep? Doubleday.
Jeanrenaud, Yves (i.E.): Frauen in MINT-Berufen. In: Bothfeld, Silke/Hohendanner, Christian/Schütt, Petra/Yollu-Tok, Aysel (Hrsg.): Die geschlechtergerechte Gestaltung des Arbeitsmarktes. Möglichkeiten und Grenzen der Arbeitsmarktpolitik. Campus Verlag, Frankfurt a. M., im Erscheinen.
Jeanrenaud, Yves/Wimmer, Anna-Kathrin (i.E.): No Map Available: Navigating the discourse of Creativity and Self-Efficacy in STEM Careers. In: Karamifar, Banafsheh/Valente, Andrea: Generative Artificial Intelligence and Discourse. Camden: Palgrave, im Erscheinen.
Wajcman, Judy (1994): Technik und Geschlecht. Die feministische Technikdebatte. Campus Verlag, Frankfurt-New York
Musik von Mykola Sosin von Pixabay.
Recommended
Transcript
Einführung und ethische Diskussionen zu KI und Geschlecht
00:00:01
Speaker
Nachgefragt.
00:00:03
Speaker
Geschlechterforschung im Blick.
00:00:04
Speaker
Diesen komplexen Alltag mit KI zu kümmern, genauer zu untersuchen, das finde ich gerade total interessant.
00:00:10
Speaker
Und ich glaube, da gibt es wahnsinnig viele Aufgaben für die Geschlechterforschung.
00:00:13
Speaker
Das bleibt und ist eine spannende Frage, in die eben auch so etwas wie ein Ethikdiskurs in Technik und Technikentwicklung und Technikfolgenabschätzung reinspielt.
Vorstellung der Gäste: Tanja Carstensen und Yves Geno
00:00:22
Speaker
Herzlich willkommen zur zweiten Folge von Nachgefragt, unserem Podcast am GFFZ.
00:00:27
Speaker
Schön, dass ihr wieder reinhört.
00:00:29
Speaker
Wir haben wie beim letzten Mal auch wieder zwei Gäste eingeladen, diesmal zum Thema künstliche Intelligenz und Gender.
00:00:37
Speaker
KI ist ja im Moment ein Thema, das in aller Munde ist.
00:00:40
Speaker
Gefühlt kommt man überhaupt nicht daran vorbei, sich damit auseinanderzusetzen und wir haben uns gefragt,
00:00:46
Speaker
Was hat das eigentlich mit Geschlecht und Geschlechterforschung zu tun?
00:00:50
Speaker
Und darüber wollen Sabrina und ich heute mit Tanja Carstensen und Yves Geno sprechen.
00:00:56
Speaker
Schön, dass ihr heute beide da seid.
00:00:59
Speaker
Tanja Carstensen hat an der TU...
00:01:01
Speaker
eine Professur für Schwerpunkt Arbeit, Wirtschaft und Organisation inne und in ihrer Forschung arbeitet sie unter anderem zu Themen wie Gender Diversity, Intersektionalität in der Digitalisierung, auch mit einem starken Fokus zu Wandel von Arbeit.
00:01:16
Speaker
Jüngst erschien ist ein Beitrag von ihr zu künstlichen Intelligenz und Gender, eine Frage diskursiver Gegenmacht.
00:01:23
Speaker
Yves Chorvenon ist Vertretungsprofessor an der Hochschule Darmstadt.
00:01:28
Speaker
Yves forscht zu Themen wie Geschlecht und MINT, Studienwahl, Arbeitsmarkt und Familien.
00:01:33
Speaker
Und im Erscheinen ist gerade ein Beitrag zu Frauen in den MINT-Berufen.
00:01:38
Speaker
Also wir sehen schon, wir haben hier die Expertise versammelt und ich freue mich jetzt total, mit euch zu unserem Thema ins Gespräch zu gehen.
00:01:45
Speaker
Vielen Dank für die Einladung.
00:01:48
Speaker
Ja, dem kann ich mich nur anschließen.
00:01:49
Speaker
Ich sage nur ganz kurz ergänzend auch noch, was mich mit KI macht, ist ja auch gerade die letzten vergangenen beiden Semester habe ich mit Hella von Unger zusammen und Dennis Odokoyo ein Lehrforschungsprojekt zu KI mit KI in qualitativen Methoden beforschen an der LMU durchgeführt.
00:02:07
Speaker
Also auch sehr viel einschlägiger heute als Geschlecht und MINT im Allgemeinen.
00:02:13
Speaker
Super.
00:02:13
Speaker
Ja, spannend.
00:02:14
Speaker
Ja, super.
00:02:16
Speaker
Da werden wir dann auch nochmal drauf eingehen.
00:02:17
Speaker
Hallo auch von mir.
00:02:18
Speaker
Ja, vielleicht zum Einstieg.
00:02:20
Speaker
Vielleicht, Tanja, fängst du einfach auch mal an, dass wir kurz, wie bist du zur Geschlechterforschung
Tanja Carstensens Weg zur Geschlechterforschung
00:02:26
Speaker
gekommen?
00:02:26
Speaker
Was interessiert dich daran überhaupt?
00:02:28
Speaker
Und vielleicht auch gleich, wie kam es dann auch zum Thema KI?
00:02:31
Speaker
Ja, danke.
00:02:33
Speaker
Tolle, große Frage.
00:02:36
Speaker
Wie kam ich zur Geschlechterforschung?
00:02:37
Speaker
Das ist tatsächlich, da muss ich wirklich schon Jahrzehnte zurückgehen eigentlich und kann eigentlich, wenn ich so in meiner Biografie krame, erstmal...
00:02:46
Speaker
Erinnere ich mich tatsächlich noch an die Schulzeit, wo wir im Deutschunterricht, Anfang der 90er war das, in der Oberstufe, tollerweise muss ich sagen, damals das Thema Frauensprache, Männersprache behandelt haben.
00:02:57
Speaker
Und das hat bei mir so richtig viel ausgelöst, wo ich gedacht habe, hey, da...
00:03:02
Speaker
Da gingen mir irgendwie ganz viele Lichter auf und ich habe gedacht, dass es tatsächlich, also diese Kategorie Geschlecht ist, glaube ich, wirklich ein Schlüssel, um Gesellschaft zu verstehen und um zu verstehen, warum Menschen auch unterschiedlich handeln und dass es tatsächlich einen wahnsinnigen Unterschied macht, ob man als Frau oder Mann durch diese Welt geht.
00:03:16
Speaker
Das war sozusagen so ein Anker in der Schulzeit und es war relativ schnell dann in der Oberstufe, also es war tatsächlich das letzte Schuljahr schon,
00:03:24
Speaker
relativ klar da auch schon, dass ich sowas wie Soziologie gerne mal studieren wollen würde, mit natürlich ganz unklaren Vorstellungen auch, was das sein könnte.
00:03:32
Speaker
Und habe dann aber im Soziologiestudium ganz schnell herausgefunden, dass auch da damals halt noch Frauenforschung ein wichtiges Thema ist, wo ich mir tatsächlich dann auch im Grundstudium schon ganz viele Seminare dazu rausgepickt habe und das eigentlich immer mehr so versucht habe, mir zu erarbeiten, was es jetzt mit Geschlecht auf sich hat.
00:03:49
Speaker
Und es war damals natürlich noch
00:03:51
Speaker
Sehr differenztheoretisch, aber spannend einfach.
00:03:53
Speaker
Also finde ich auch nach wie vor irgendwie eine viel, viel interessante Forschung und bin dann aber mitten im Studium, mitten in diese Veröffentlichung dann von Judith Butler's Gender Trouble reingeraten, was ja wirklich nochmal viel umgekrempelt hat.
00:04:06
Speaker
Und ich rückblickend sagen kann, es hat mich wirklich immer fasziniert zu verstehen, was Geschlecht ist, warum das eben nicht oder nicht nur und vielleicht auch zum wenigsten Teil irgendwie, was ist, was biologisch irgendwie Auswirkungen hat, sondern einfach so stark historisch und gesellschaftlich eine gemachte Kategorie ist, die aber so eine Wirkkraft hat und so viel erklärt darüber, was wir tun, warum wir uns im Alltag irgendwie verhalten, warum Arbeitsteilungen unterschiedlich
Soziologische Perspektiven auf Technologie und Geschlecht
00:04:33
Speaker
sind.
00:04:33
Speaker
Und bis hin zu Einkommensfeldern, was auch immer sozusagen.
00:04:37
Speaker
Ich hatte immer schon das Gefühl, man kann, wenn man Geschlecht anguckt, einfach ganz viel erklären darüber, warum die Gesellschaft so zusammengesetzt ist, wie sie zusammengesetzt ist.
00:04:45
Speaker
Und dann habe ich am Ende des Studiums, bin ich zufällig, also es war wirklich mein letztes Seminar, glaube ich, bin ich zufällig darauf gestoßen, dass es Techniksoziologie gibt.
00:04:53
Speaker
Und das war so in der Zeit, als das Internet auch anfing, sich durchzusetzen.
00:04:57
Speaker
Und das hat sich in meinem Kopf dann auch nochmal total kritisiert.
00:04:59
Speaker
Gut verbunden, wo ich dachte, wow, Technik ist ja auch nichts, was einfach nur vom Himmel fällt, sondern auch gesellschaftlich gemacht.
00:05:05
Speaker
Und dann habe ich da drin ziemlich schnell diesen ganzen Strang zur Technik und Geschlecht entdeckt.
00:05:10
Speaker
Und das hat dann wirklich, muss ich sagen, meine weitere Forschungstätigkeiten mit dem abgeschlossenen Studium, Beginn der Dissertation und so weiter,
00:05:19
Speaker
wirklich sehr stark geprägt, wo ich dachte, das fasziniert mich wirklich nochmal mehr, wie sich gerade auch an diesem erstmal so objektiv daherkommenden Thema wie Technik so viel über Geschlecht, über Machtverhältnisse, über Herrschaftsverhältnisse, über Ungleichheitsverhältnisse verstehen lässt.
00:05:34
Speaker
Ja, sehr spannend.
00:05:36
Speaker
Yves, wie war das bei dir?
00:05:37
Speaker
Wie bist du zur Genderforschung gekommen?
00:05:40
Speaker
Ja, das ist eine spannende Frage.
00:05:42
Speaker
Ich kann die auch ja nur biografisch beantworten.
00:05:45
Speaker
Das Interessante finde ich, dass ich, obwohl ich mich mit Studienwahlverhalten schon seit Jahren, seit über 15 Jahren beschäftige, ich meine eigene Studienwahl so wenig reflektiert habe.
00:05:54
Speaker
Und so ein bisschen habe ich das letztes Jahr zufällig schon mal angestoßen und ich bin draufgekommen.
00:06:00
Speaker
Der Auslöser für mein Interesse an der Geschlechterforschung oder den Gender Studies war eigentlich der Disney-Film Mary Poppins.
00:06:07
Speaker
Und zwar habe ich den in meiner Kindheit zigmal gesehen, aus den 60ern, irgendwie 64 oder 65.
00:06:13
Speaker
Diese eine Szene, da kommt die Mutter, Mrs. Banks, nach Hause.
00:06:19
Speaker
von einem Suffragetten-Treffen und singt ein Lied über Emily Pankhurst.
00:06:23
Speaker
Und ich habe mich dann gefragt, warum die so lächerlich gemacht wird und was das soll, was die Geschichte dahinter ist.
00:06:31
Speaker
Und das kommt mir niemand so richtig beantworten in meinem Umfeld.
00:06:33
Speaker
Und da war ich in der Schulbibliothek und habe geguckt und gelesen und über die Frauenbewegung was gelernt.
00:06:41
Speaker
Und das fand ich sehr interessant,
00:06:44
Speaker
Vielleicht hängt das auch damit zusammen, dass ich aus der Schweiz komme und die Schweiz ja bekanntermaßen als eines der letzten europäischen Länder überhaupt das Wahlrecht, das allgemeine Stimme und Wahlrecht für Frauen eingeführt hat in den 70ern erst.
00:06:57
Speaker
Also das leuchtete mir dann alles viel mehr ein, dass hier mehr als nur Unterhaltung in diesem Film transportiert wird.
00:07:07
Speaker
Und das hat mich sehr geprägt.
00:07:08
Speaker
Und dann, als es dann 2001, 2002 herum, müsste es gewesen sein, so lange her, um die Studienwahl ging, habe ich lang überlegt, welche Fächer mich interessieren können.
00:07:18
Speaker
War auch mal Informatik und Mathematik angekommen und so.
00:07:21
Speaker
Und war dann in der Studienberatung und der Mensch dort riet mir, nach Interesse zu gehen und ein Nebenfach vielleicht zu wählen, was auch noch Geld bringen könnte.
00:07:31
Speaker
Und dann dachte ich, ja Medien, da kann man doch Geld machen.
00:07:34
Speaker
Dann nehme ich als zweites Nebenfach Medienwissenschaft, das ist nicht Journalismus.
00:07:38
Speaker
Das wusste ich auch, aber das klang auf dem Papier noch halbwegs vertretbar.
00:07:42
Speaker
Und dann habe ich Soziologie und Gender Studies und Medienwissenschaften studiert in Basel, in einem Jahr Austausch in Tübingen und hatte so das Glück in Basel, als ich damals Gender Studies nur als Nebenfach wählen, bei Andrea Mayhofer zu studieren.
00:07:58
Speaker
Da habe ich sehr viel profitiert damals und nach dem Studium,
00:08:02
Speaker
in München eine Stelle gefunden, Gender Studies in den Ingenieurwissenschaften, und seither ließ mich das auch nicht mehr los.
00:08:09
Speaker
Ja, danke.
00:08:09
Speaker
Jetzt habt ihr uns ja schon ein bisschen Einblick gegeben, so in eure Anfänge, eure Verbandeltsein mit der Geschlechterforschung.
00:08:16
Speaker
Wie kam das?
00:08:18
Speaker
Und jetzt ist natürlich nochmal für uns die dringende Frage auch, aber warum dann auch zur KI?
Einfluss von KI auf Geschlechterrollen und Machtverhältnisse
00:08:23
Speaker
Also was ist hier vielleicht auch so das Spannende?
00:08:25
Speaker
Es ist ein Thema, das alle beschäftigt gerade.
00:08:28
Speaker
Digitalisierung ist nicht mehr zu bremsen, ist nicht mehr aufzuhalten.
00:08:31
Speaker
Das ist, glaube ich, auch nicht unser Ziel, das zu tun.
00:08:34
Speaker
Aber natürlich müssen wir uns immer auch fragen, was hat das mit Geschlecht zu tun?
00:08:37
Speaker
Und wie?
00:08:38
Speaker
Wie ist da so eure Perspektive?
00:08:40
Speaker
Warum das Thema?
00:08:41
Speaker
Was ist interessant daran?
00:08:42
Speaker
Vielleicht magst du wieder anfangen, Tanja?
00:08:45
Speaker
Ja, gerne.
00:08:45
Speaker
Auch das eine schöne Frage.
00:08:46
Speaker
Vielen Dank.
00:08:47
Speaker
Also ich habe ja gerade schon, da wo ich aufgehört habe, gerade quasi am Ende meines Studiums mit dieser Begeisterung für diese Technik- und Geschlechterfragen, die haben, würde ich sagen, so ein grundlegendes Erkenntnisinteresse bei mir geprägt,
00:09:01
Speaker
Und das war insbesondere auch durch die Arbeiten von Judy Weisman und Cynthia Coburn, die ja früh diese Technik- und Geschlechterforschung geprägt haben, die sozusagen, finde ich, sehr gut deutlich gemacht haben, dass mit technologischem Wandel und immer mit diesen neuesten Technologien, die gerade sozusagen auf dem Markt sind oder die die Öffentlichkeit bewegen, die die Gesellschaft bewegen, dass es da ganz viel auch immer darum geht, eben Machtverhältnisse, Ungleichheitsverhältnisse neu auszuhandeln und dass da aber auch immer...
00:09:28
Speaker
auch Spielräume drin sind.
00:09:29
Speaker
Gesellschaftliche AkteurInnen können sich neu einbringen, können sich zu dieser Technik positionieren, tun das auch natürlich mit bestimmten Interessen und dann wird ganz viel ausgehandelt.
00:09:39
Speaker
Und mich hat am frühen Internet total interessiert zu beobachten, dass zum einen
00:09:46
Speaker
ja, also Teile von Akteurinnen, die da rein verwickelt waren, auch gerade aus feministischen Perspektiven, die Befürchtung hatten, dass es neue Herrschaftsverhältnisse, neue Ungleichheitsverhältnisse mit sich bringt, dass es nur wieder so ein Männermedium ist, dass die Kommunikationskultur patriarchal ist und so weiter, während
00:10:02
Speaker
andere da tatsächlich einen riesigen Raum mit Potenzialen für neue Geschlechtsidentitäten gesehen haben oder auch für feministische Vernetzung und so weiter.
00:10:09
Speaker
Also es war klar, da wird ganz viel ausgehandelt und in dem Moment war aber auch alles möglich, würde ich sagen.
00:10:15
Speaker
Und sozusagen mit dieser Brille und diesem Erkenntnisinteresse zu sagen,
00:10:19
Speaker
Es kommt eine neue Technologie und die ist nicht festgelegt auf bestimmte gesellschaftliche Auswirkungen oder Gestaltungsweisen und eben auch ist es nicht von vornherein klar, wer profitieren wird und wer nicht.
00:10:33
Speaker
Finde ich nach wie vor immer wieder auch wirklich über diese vielen Digitalisierungsetappen, die wir jetzt seit dem Internet erlebt haben,
00:10:39
Speaker
Eben jetzt aktuell wirklich hochinteressant zu sehen, wie KI da ausgehandelt wird.
00:10:43
Speaker
Welche AkteurInnen bringen sich da ein, mit welchen Interessen?
00:10:45
Speaker
Und dass das ganz viel mit Geschlecht zu tun hat, ist tatsächlich, finde ich, bei KI nochmal offensichtlicher und richtig auch, sag ich mal, auf dem gesellschaftlichen Verhandlungstablett, wenn man nämlich, also ich habe...
00:10:56
Speaker
ja zusammen mit Katrin Gans ein Forschungsprojekt durchgeführt, wo wir den gesellschaftlichen Diskurs von 2015 bis 2021 analysiert haben, was ja also noch ein bisschen vor diesem Chat-GPT-Hype war.
00:11:07
Speaker
Und trotzdem war das Thema schon mitten im öffentlichen Interesse.
00:11:11
Speaker
Und da waren Geschlechterfragen immer schon ein wichtiger Teil.
00:11:13
Speaker
Und das finde ich tatsächlich jetzt sozusagen, das sind dann fast schon empirische Ergebnisse.
00:11:16
Speaker
Aber mit dieser Frage, Geschlechterverhältnisse werden immer auch neu ausgehandelt, neue Technologien ausgewählt.
00:11:22
Speaker
wie gesagt, auf den Markt kommen oder in das öffentliche Interesse kommen, täglicher, alltäglicher genutzt werden.
00:11:28
Speaker
Und da jetzt zu sehen, dass gerade dieses, da kommen wir ja glaube ich auch noch zu, aber diese Diskriminierungs- und Bias-Fragen, aber auch die Frage, ich als Arbeitssoziologin interessiere mich ja auch dafür, wie sich Arbeit verändert, diese Frage, wessen Jobs fallen weg und so weiter, die sind
00:11:44
Speaker
in der Wahrnehmung ganz eng mit Geschlechterfragen verknüpft.
00:11:46
Speaker
Und das finde ich total interessant, dass wir quasi mit dem KI-Diskurs tatsächlich ganz viel selbstverständliche Thematisierung von Geschlechterfragen haben.
00:11:55
Speaker
Also offensichtlich sind diese Themen nicht nur...
00:11:58
Speaker
Also nicht nur versteckt, so wie es vielleicht vor 20, 30 Jahren noch bei anderen Technologien war, wo klar war, wir müssen das erst als GeschlechterforscherInnen herausarbeiten, dass das was mit Geschlecht zu tun hat.
00:12:08
Speaker
Ich habe das Gefühl, das ist bei KI eigentlich ziemlich offensichtlich, dass das Geschlechterfragen sind.
00:12:14
Speaker
Genau, und was mich vielleicht, wenn ich das sozusagen noch eine kleine Schleife, weil es so vielschichtig ist, was ich sozusagen interessant finde, schon immer, wenn wir Technik und Geschlecht untersuchen, sind eben, dass es so viele verschiedene Ebenen hat.
00:12:24
Speaker
Wir haben einmal, das habe ich jetzt schon angesprochen, wir haben einmal so einen öffentlichen Diskurs, eine öffentliche Auseinandersetzung darüber, wo ja auch Vorstellungen von Zukunft ausgehandelt werden, wo Bilder, Metaphern und so weiter, Leitbilder in den öffentlichen Raum gebracht werden und so.
00:12:39
Speaker
Ja, auch sozial konstruiert werden, muss man sagen, sozusagen in diesen Diskursen.
00:12:43
Speaker
Und dann geht es natürlich aber ganz klar konkret auch darum, wer macht diese Technik eigentlich, wer gestaltet die, wo fließen Gelder rein, Fördermittel und so weiter, mit welchen Zielen und auf welche Entwicklungspfade wird da gesetzt.
00:12:54
Speaker
Und dann geht es natürlich, und das haben wir bei KI jetzt ja noch nicht so lange, aber doch auch jetzt seit zwei Jahren verstärkt, dass es in der alltäglichen Nutzung eine Frage ist.
00:13:02
Speaker
Wer macht was damit?
00:13:03
Speaker
Wie wird es angenommen?
00:13:04
Speaker
Wie wird es genutzt?
00:13:05
Speaker
Und dann ist das, habe ich ja gerade auch schon angedeutet, finde ich auch immer interessant, wo gibt es eigentlich Potenziale auch für eine Politik im Sinne von, also eine feministische Politik oder Gleichstellungspolitik, Diversitätspolitik und welche Rolle kann diese Technologie da drin spielen?
00:13:17
Speaker
Das war beim Internet natürlich eher dieser Vernetzungscharakter, aber auch bei KI können wir ja darüber nachdenken, wie kann eigentlich diese Technologie auch
00:13:24
Speaker
eingesetzt werden, um eine Gesellschaft in eine bestimmte Richtung zu verändern.
00:13:29
Speaker
Was ich sozusagen aus den vielen anderen Forschungen zu früheren Technologien ja auch immer schon spannend fand, ist, dass das nie irgendwie eindeutig schlecht ist aus Geschlechterperspektiven oder nur eindeutig gut, sondern dass wir ganz viel verwickelte, ambivalente Effekte haben.
00:13:43
Speaker
Und das jetzt bei KI genauer anzugucken und eben nicht nur zu sagen, ach, das ist alles diskriminierend,
00:13:50
Speaker
sondern da auch zu sehen, naja, aber an anderen Stellen können wir auch was anderes beobachten und so weiter.
00:13:58
Speaker
Diese wirklich sehr komplexen Alltag mit KI genauer zu untersuchen, das finde ich gerade total interessant.
00:14:05
Speaker
Und ich glaube, da gibt es wahnsinnig viele Aufgaben für die Geschlechterforschung.
00:14:08
Speaker
Ja, danke.
00:14:09
Speaker
Ich hatte das Gefühl, es geht ganz viel auch um Potenziale, um Spielräume, die genutzt werden können.
00:14:15
Speaker
Wie sieht es denn bei dir so aus, Yves, mit der Perspektive auf KI und Gender?
00:14:21
Speaker
Gerne, ja.
00:14:22
Speaker
Also vieles, was Tanja schon gesagt hat, dem schließe ich mich an.
00:14:26
Speaker
Das Interesse daran, was denn im Zuge der fortschreitenden Digitalisierung hier passiert, gerade mit generativer KI wie den
00:14:36
Speaker
Chat-GPT-Anwendungen oder den bildgenerierenden Verfahren.
00:14:41
Speaker
Da passiert unheimlich viel und ein sehr diverser und auch mitunter sehr informierter Diskurses zu beobachten, was ich sehr spannend fand und finde.
00:14:52
Speaker
Und dann kam Chat-GPT und am Institut für Soziologie herrschte, wenn man das so sagen kann, heller Aufruhr.
00:15:01
Speaker
Niemand wusste so genau, was das jetzt bedeutet.
00:15:04
Speaker
Und ich saß mit dem Kollegen von den Computational Social Sciences zusammen und wir sagten, ja, aber da muss man doch mal was machen.
00:15:12
Speaker
Lass uns doch mal ein Kolloquium machen, institutsintern und die Grundlagen aufzeigen.
00:15:16
Speaker
Und was haben wir denn jetzt hier überhaupt?
00:15:18
Speaker
Und was bedeutet das für Forschung und Lehre?
00:15:21
Speaker
Vielleicht.
00:15:21
Speaker
Und das war relativ fruchtbar und hat mich dann davon überzeugt, das auch weiter zu verfolgen und KI nicht nur so als Hobby, so als Pet-Project irgendwo nebenher in der viel zu eng bemessenen Freizeit zu betrachten, sondern eben auch mit soziologischer und mit einer Gender Studies-Brille.
00:15:40
Speaker
Gerade auch, weil meiner Meinung nach die Geschlechterforschung uns viele interessante Methoden und Forschungsmöglichkeiten an die Hand gibt, um zu schauen, was da passiert.
00:15:51
Speaker
Und was mich am meisten umtrieb zu Beginn war auch und weiterhin doch auch immer noch, gerade wenn es um qualitative Methoden und KI geht, was denn hinter diesen Marketing-Claims immer auch steckt und funktioniert.
00:16:04
Speaker
was da nur leere Versprechen sind und was uns wirklich Arbeitserleichterung oder Änderung in der Forschungsarbeit oder im Studienalltag bringt.
00:16:13
Speaker
Und deswegen ist das interessant und weil weder Forschungsarbeit noch Studienalltag vom Geschlecht unberührt wären, ist da die Verknüpfung auch evident für mich.
00:16:23
Speaker
Ja, vielleicht willst du da gleich nochmal anknüpfen, weil wir jetzt nochmal die Frage auch haben, was gibt es jetzt für empirische, Tanja hat das ja auch schon angesprochen, Erkenntnisse auch zum Thema quasi Verschränkung, KI, Geschlecht, aber auch natürlich Digitalisierung und Geschlecht.
00:16:38
Speaker
Und Yves, vielleicht magst du da nochmal gerade anschließen, weil du ja auch vorher von deinem Lehrforschungsprojekt berichtet hast.
00:16:45
Speaker
Was beschäftigt dich da gerade empirisch und was hast du so vielleicht für ein, zwei zentrale Ergebnisse zu
Forschungsmethoden und KI in der Wissenschaft
00:16:50
Speaker
dem Thema?
00:16:50
Speaker
Ja.
00:16:51
Speaker
Ja, gerne.
00:16:52
Speaker
Also die empirische Perspektive darauf, das Lehrforschungsprojekt hat sich ja zur Aufgabe gestellt, für die qualitative Methodenausbildung zu fragen, wie können denn KI-Werkzeuge im Rahmen der qualitativen Forschung benutzt werden, wie werden sie benutzt und wie lässt sich das auch in den Studienalltag und in ein Curriculum investieren.
00:17:13
Speaker
integrieren, wenn man das so sagen möchte.
00:17:15
Speaker
Das haben wir zusammen mit den Studierenden im Bachelor und im Master der Soziologie über zwei Semester in München durchgeführt und verschiedene Werkzeuge ausprobiert, auch mit, man kann fast schon sagen, autoethnographischen Feldnotizen.
00:17:27
Speaker
Die Studierenden haben sich selbst beobachtet beim Chatten mit einem Chatbot, der narrative Interviews durchführte mit ihnen.
00:17:34
Speaker
Und zentrale Erkenntnis für mich war jetzt, ich bin immer noch mitten in der Analyse dieses ganzen Vorhabens natürlich auch,
00:17:43
Speaker
was meine Ansinnen angeht.
00:17:45
Speaker
Und ein zentrales Ergebnis für mich war, dass der Interpretationszusammenhang für generative KI-Systeme ein ganz anderes, als wir ihn in der empirischen Sozialforschung setzen würden und auch als wir ihn kennen.
00:17:59
Speaker
Aber gleichzeitig haben diese Programme sehr oft den Anschein oder erwecken den Anschein, uns sehr ähnlich zu sein in unserer Sichtweise auf qualitative Daten beispielsweise.
00:18:13
Speaker
Ich nenne das oftmals so etwas wie einen erweiterten Elisa-Effekt.
00:18:19
Speaker
Der Elisa-Effekt vielleicht ganz kurz hat Josef Weizenbaum geprägt über einen sehr frühen Chatbot, bei dem er die Beobachtung machte, dass menschenähnliche Kommunikation uns Menschen dazu verleitet, diesem System zu
00:18:35
Speaker
dann eben auch menschliche Attribute zuzuschreiben, es eben für klug oder nicht klug zu halten oder für einfühlsam, obwohl wir auch wissen, dass es ein Programm ist, mit dem wir da gerade schreiben.
00:18:46
Speaker
Und selbiges beobachten wir und beobachte ich weiterhin im Umgang mit
00:18:51
Speaker
KI-Tools in der qualitativen Sozialforschung von verschiedensten AnbieterInnen und verschiedenen Anwendungszwecken auch, dass wir gut darin sind, Eigenschaften menschlicher Forschende auf das Programm und die Programmlogik zu übertragen und dann die generative KI für eine gute oder für eine schlechte Interpretationsgruppe beispielsweise zu halten, obwohl wir wissen, dass es das gar nicht ist.
00:19:15
Speaker
Aber
00:19:16
Speaker
Diese Simulation anheimzufallen fällt uns sehr leicht.
00:19:19
Speaker
Das ist so eine wichtige Erkenntnis daraus.
00:19:22
Speaker
Und eine weitere ist, dass die Studierenden erfreulich und erstaunlich kritisch damit umgehen und reflektiert damit umgehen.
00:19:31
Speaker
Das liegt natürlich auch an einer gewissen Selbstselektion.
00:19:34
Speaker
Ich meine, wer nimmt schon auch
00:19:36
Speaker
Teil an so einem Lehrforschungsprojekt.
00:19:38
Speaker
Aber wir haben ja im Rahmen des Projektes auch mit anderen Studierenden gesprochen.
00:19:42
Speaker
Und auch die sind nicht weniger reflektiert, was den Einsatz von KI in ihrem Studium angeht.
00:19:49
Speaker
Und das fand ich sehr gut, das auch empirisch zu sehen in diesem explorativen Zugang, wenngleich auch, was die Reichweite auch der Erklärung angeht.
00:19:58
Speaker
weil schon immer wieder zu hören wäre oder weil ich immer mal wieder höre, dass uns generative KI das ganze Studium verändert und alle Studierenden jetzt nur noch betrügen wollen würden, weil es ja jetzt plötzlich so einfach wäre.
00:20:11
Speaker
Und davon bin ich nicht überzeugt, schon allein vom Generalverdacht nicht, aber eben auch habe jetzt eine empirische Basis, um das zu zeigen.
00:20:20
Speaker
Nee, dem ist nicht so.
00:20:21
Speaker
Das ist eigentlich gar nicht deren Ansinnen.
00:20:23
Speaker
Es geht schon um eine Arbeitserleichterung, aber selbst in diesem Rahmen, in
00:20:28
Speaker
anonymen, vertraulichen Interviews war niemand fest davon überzeugt, nunmehr Hausarbeiten vom Chatbot produzieren zu lassen, auch um den eigenen Erkenntnisgewinn gar nicht zu gefährden.
00:20:40
Speaker
Man studiert ja nicht aus Selbstzweck.
00:20:42
Speaker
Oder nicht viele.
00:20:43
Speaker
Vielleicht so.
00:20:43
Speaker
Ja, also danke nochmal hier auch die Perspektive der Lehre, die ja auch zur Genderforschung natürlich dazugehört.
00:20:48
Speaker
Ja, Tanja, was sind deine zentralen Ergebnisse und vielleicht auch nochmal insbesondere so an der Schnittstelle Geschlecht und auch gerne so aus so einer intersektionalen Perspektive, vielleicht auch, wenn es nicht so viel ist.
00:20:59
Speaker
Ja, danke.
00:20:59
Speaker
Ich habe ja vorhin schon kurz erwähnt, was ich empirisch geforscht habe in den letzten Jahren, war ein Forschungsprojekt zusammen mit Katrin Gans, was die Hans-Böckler-Stiftung finanziert hat.
00:21:08
Speaker
Und das haben wir durchgeführt 2021, 2022 und hatten eben Daten von 2015 bis 2021.
00:21:15
Speaker
Also das muss man wirklich dazu sagen, es war wirklich vor JGPT.
00:21:19
Speaker
Und was wir damals, oder was wir da eben vor ein paar Jahren untersucht haben,
00:21:23
Speaker
war vor allem der politische und der öffentliche Diskurs zu KI, Gender und Arbeit.
Geschlechternarrative und Stereotype in der KI-Arbeitswelt
00:21:29
Speaker
Also in diesem wirklich Themen-Dreieck.
00:21:32
Speaker
Das ist auch wichtig, dass es insbesondere um Arbeit ging, weil ich glaube, gerade der öffentliche Diskurs zu KI und Gender noch mal viel breiter ist und auch viele Themen umfasst, die nichts mit Arbeit zu tun haben.
00:21:42
Speaker
Uns hat es eben arbeitssoziologisch interessiert, wie die Zukunft der Arbeit in den Diskursen dargestellt, ausgehandelt wird.
00:21:49
Speaker
Und wir haben...
00:21:50
Speaker
ganz viel Zeitungen, Zeitschriftenmaterial ausgewertet, aber eben auch Dokumente von politischen AkteurInnen, von Arbeitgeberverbänden, Ministerien, Parteien, Gewerkschaften, feministische AktivistInnen und so weiter, um zu sehen, welche Erwartungen da an diese neue Technologie gestellt werden, wie die gerahnt wird und auch welche Geschlechterbilder da drin verhandelt werden.
00:22:12
Speaker
Wenn ich so versuche, jetzt die wichtigsten Erkenntnisse, also empirischen Ergebnisse kurz darzustellen, tatsächlich erstmal festgestellt haben, dass eben Geschlecht eine ganz wichtige Rolle darin hat und dass zum Teil wahnsinnig Stereotyp, das ist jetzt auch wenig überraschend, Stereotyp auf Geschlecht Bezug genommen wurde.
00:22:29
Speaker
Also Frauen wären zögerlicher.
00:22:31
Speaker
Also wir haben so ganz alte Muster von so Technik- und Geschlechterbildern da ganz schnell gefunden.
00:22:36
Speaker
Ja, wie gesagt, Frauen sind zögerlicher, Frauen könnten die Verliererin der KI-Entwicklung werden und so weiter.
00:22:41
Speaker
Aber wir haben auch ganz viele Gegenentwürfe gefunden und erst mal festgestellt auch, dass sich diese ganzen Bilder von Geschlecht, Arbeit und KI ständig widersprechen eigentlich.
00:22:50
Speaker
Also es gibt dann sozusagen große Schlagzeilen, Frauen werden die Verliererin, da werden, wenn KI in die Arbeitswelt einzieht und irgendwie andere Zeitungen zwei Wochen später, Männer sind die Verlierer und die
00:23:00
Speaker
Die Begründung dafür waren, also sozusagen, wir haben dann ja analysiert, was für Frames, was für Begründungsmuster finden wir in diesen Artikeln dann, die für das eine oder andere Prognose stark machen.
00:23:14
Speaker
Und da war es dann entweder, ja Männer machen mehr Routinetätigkeiten und mehr, ja vielleicht auch handwerkliche Tätigkeiten, arbeiten körperlich und so weiter und das...
00:23:22
Speaker
wird eh alles automatisiert.
00:23:23
Speaker
Frauen sind mehr in fürsorglichen Berufen, die kann man nicht durch KI ersetzen.
00:23:28
Speaker
Dann gab es aber auch Artikel, die haben gesagt, doch, gerade die KI ist so geduldig.
00:23:31
Speaker
Und dann gab es irgendwie so Fallbeispiele von so Personalentwicklungsgesprächen, wo sich Menschen mit einer automatisierten KI darüber unterhalten haben, wie zufrieden sie sind und so weiter, wo dann das Fazit war, der ist doch schön, dass jetzt nicht mehr dieser typische Frauenberuf von Frauen gemacht werden muss, weil es einfach wahnsinnig viel Geduld und Nerv gibt.
00:23:50
Speaker
erfordert quasi, sich das alles anzuhören oder auch im Servicebereich, im Dienstleistungsbereich, Callcenter und so weiter, wo eher so ein positives Szenario aufgemacht wurde.
00:23:59
Speaker
Ist doch gut, dass Frauen von dieser Arbeit entlastet werden, diese Emotionsarbeit, die auch belastend ist und jetzt können wir, können Frauen dann endlich mal schönere Sachen machen,
00:24:09
Speaker
Also ganz interessant, auch die Emotionsarbeit auf einmal, als was dargestellt wurde, was automatisiert werden kann.
00:24:15
Speaker
Also ganz viel widersprüchliche Bilder und aber auch ganz viel Aushandeln dessen, was man sich vorstellen kann, was die KI in Zukunft machen kann.
00:24:21
Speaker
Und einen Punkt würde ich besonders hervorheben, weil wir den wirklich spannend fanden, weil wir wirklich auf so eine Jahrzehnte
00:24:27
Speaker
lange Forschung zurückblicken können, die immer wieder herausgearbeitet hat, wie mit neuen Technologien Männlichkeit befestigt wird quasi und dass gerade neue prestigereiche Technologien immer auch was sind, worüber Männer Macht und Prestige irgendwie generieren können.
00:24:43
Speaker
dass wir da gemerkt haben, dass dieser Diskurs schon auch aufbricht.
00:24:46
Speaker
Und das hat was damit zu tun, was ich vorhin schon gesagt habe, dass dieses Bias-Thema so wichtig ist, dass also so offensichtlich ist, dass die KI ein Diskriminierungsproblem hat.
00:24:55
Speaker
Und das ist im Diskurs, wird ja natürlich auch versucht zu erklären und da Schuldige zu identifizieren.
00:25:00
Speaker
Und dann gibt es tatsächlich diese Figur des männlichen, weißen, jungen Programmierers, der einfach dem
00:25:06
Speaker
die vielfältige Lebenserfahrung fehlt und der deswegen nicht in der Lage ist, eine diversitätssensible KI zu konstruieren.
00:25:12
Speaker
Also der wird quasi eine Problemfigur.
00:25:13
Speaker
Also dieser weiße junge Mann ist nicht mehr sozusagen der coole Silicon Valley Programmierer, dem die Welt gehört quasi, sondern der ist eine Problemfigur, der das
00:25:21
Speaker
der einfach nicht überblickt, was es alles braucht, weil er einfach keine Lebenserfahrung hat.
00:25:25
Speaker
Also Tunnelblick wäre so ein Zitat zum Beispiel.
00:25:27
Speaker
Und dann kommen so leuchtende Frauenfiguren, die oft auch porträtiert werden, also Frauen mit Namen, mit einer Biografie, die vorgestellt werden, die sozusagen die Retterinnen der KI und die diesen Bias ausbügeln sollen quasi.
00:25:41
Speaker
Also das fanden wir total interessant.
00:25:43
Speaker
Das ist spannend.
00:25:44
Speaker
Ich schließe da einfach gleich nochmal kurz dran an, weil in dem anderen Forschungsprojekt, eben nicht dem Lehrforschungsprojekt, sondern dem Maschinen- und Anlagenbau, Frauen- und Maschinen- und Anlagenbau, DigiMint, das BMBF gefördert wird, haben wir im Rahmen der Betrachtung der Digitalisierung, wo wir Digitalisierung eben versuchen, da zu differenzieren zwischen Werkzeugen und Inhalten,
00:26:07
Speaker
Und dann, also mein Konzept da drin ist der Versuch, Digitalisierung als Intervention in einen Lernprozess zu betrachten, sowohl im Arbeitskontext wie auch im Ausbildungskontext.
00:26:20
Speaker
Und deswegen kommt da auch KI drin vor.
00:26:23
Speaker
Und wir haben letztens, meine Doktorandin und ich, also die Anna-Kathrin Wimmer, genau, das Paper müsste diesen Sommer auch noch erscheinen, einen Aufsatz geschrieben zu diskutieren.
00:26:34
Speaker
zum Diskurs um KI und Kreativität in den Ingenieurwissenschaften, weil das spezifisch da Maschinen- und Anlagenbau, und wir wissen das ja auch aus der Professionsgeschichte der Ingenieurwissenschaften, wie sehr dieses männliche Genius, der geniale männliche Ingenieur, so konstituierend auch für das Selbstbild der Ingenieurwissenschaften und auch im Maschinenbau,
00:26:57
Speaker
sich etablierte und so von der reinen naturwissenschaftlich betrachtenden Physik abgrenzen konnte.
00:27:05
Speaker
Und diese Topoi finden wir immer noch in unseren Interviews wieder, in den narrativen Interviews, die wir damit anbieten.
00:27:12
Speaker
mit Young Professionals geführt haben, mit Maschinenbauingenieurinnen, die weniger als fünf Jahre im Job unterwegs sind, als wir sie nach ihrem Verständnis und ihrem Umgang von Kreativität und auch dem Zusammenhang mit Digitalisierung fragten.
00:27:27
Speaker
Und meine Kernerkenntnis daraus wäre auch wieder eine große Ambivalenz und ein kritischer Umgang damit.
00:27:34
Speaker
Ja, danke für eure spannenden Einblicke in die jeweilige Forschung.
00:27:37
Speaker
Das sind schon sehr zentrale Erkenntnisse, die ihr da, glaube ich, in dem Themenfeld auch gewonnen habt, die auch weiterbringen, die Diskussion auch befruchten.
00:27:46
Speaker
Eine Besonderheit in unserem Podcast ist ja, dass wir euch oder die jeweiligen Gäste immer bitten, Lieblingszitate mitzubringen aus den jeweiligen Texten auch zum Thema.
00:27:54
Speaker
Und wir sind jetzt natürlich sehr gespannt, was ihr...
00:27:57
Speaker
diesmal mitgebracht habt, Tanja und Eve.
00:27:59
Speaker
Und ja, möchten euch bitten, das kurz einmal vorzulesen und dann auch zu erläutern, warum gerade das, was verbindet ihr mit diesem Zitat, mit diesem Text, warum ist der wichtig auch für die Diskussion?
00:28:11
Speaker
Tanja, magst du anfangen?
00:28:12
Speaker
Ja, sehr gerne.
00:28:14
Speaker
Ihr hattet ja gebeten, ein Zitat zu KI und Gender mitzubringen.
00:28:18
Speaker
Ich habe dann aber tatsächlich mich dem widersetzt etwas und habe tatsächlich ein sehr altes Buch rausgekramt.
00:28:24
Speaker
Und nämlich, weil ich, ich habe es ja jetzt auch schon erwähnt, also was mich wirklich sehr geprägt hat, sind die Schriften von Judy Weisman, die ja wirklich die Technik- und Geschlechterforschung maßgeblich, finde ich, etabliert hat und entwickelt hat.
00:28:35
Speaker
Und ich habe da tatsächlich jetzt nochmal, das sehen jetzt ja die HörerInnen nicht, aber sozusagen das ganz alte Buch hier mitgebracht, Technik und Geschlecht, die feministische Technikdebatte.
00:28:45
Speaker
Ich gucke nochmal kurz, es ist 1994 im Deutschen erschienen, war es aber glaube ich 1991 im Englischen genau, also wirklich schon inzwischen sehr alt.
00:28:52
Speaker
Und mich hat das damals sehr geprägt, wie sie Technik als eine Männerkultur untersucht und herausarbeitet.
00:29:00
Speaker
Auf Seite 175 habe ich jetzt nochmal den schönen Satz, den ich auch fünfmal schon in meiner immer wieder verkehrenden Auseinandersetzung mit diesem Buch mit verschiedenen Stiften angestrichen habe und Ausrufezeichen versehen habe.
00:29:13
Speaker
Es schreibt sie, in unserer Kultur bedeutet das Beherrschen der neuesten, das habe ich auch nochmal unterstrichen, neuesten Technologie an der Gestaltung der Zukunft mitzuwirken und daher ist es eine hoch bewertete und mythologisierte Tätigkeit.
00:29:28
Speaker
Das vielleicht erstmal, ich lese gleich noch einen zweiten Satz vor, aber ich finde, das ist erstmal...
00:29:32
Speaker
Das war für mich damals tatsächlich so einer der Augenöffner, tatsächlich zu sagen, wie eng Technik und Männlichkeit verbunden sind, aber auch gerade dieses Hochbewertete bis hin zu mythologisiert.
00:29:44
Speaker
Und ich finde, das passt für KI einfach auch so gut, weil KI ist ja wirklich sehr mythenumwoben und
00:29:49
Speaker
Das hat, hast du ja, Yves, auch schon jetzt mehrfach gesagt, dieses Gefühl, man hat da ein Gegenüber und so, gerade mit diesen Personifizierungen und so weiter, haben wir es jetzt ja wirklich mit einer sehr herausfordernden Technologie zu tun, die, glaube ich, wirklich mythenumrangt ist erst mal.
00:30:02
Speaker
Und dann aber tatsächlich auch diese Formulierung, das Beherrschen der neuesten Technologie, das geht ja, also klar, Technik ist, glaube ich, grundsätzlich wichtig,
00:30:11
Speaker
eng mit Männlichkeit verwoben, aber diese neuesten Technologien zu beherrschen, auch diese Zukunft aushandeln und so weiter, ich finde das so gut passend jetzt für den KI, für das, was wir gerade mit KI erleben.
00:30:23
Speaker
Und gerade auch, wenn wir jetzt sozusagen, wenn wir wirklich an diese ganzen Männer im Silicon Valley denken, die
00:30:28
Speaker
im Moment die neuesten Technologien vorantreiben.
00:30:30
Speaker
Es ist ja nicht nur KI oder sowas, aber da finde ich, geht es wirklich um so ein Beherrschen und darüber wird so viel Macht generiert, was finde ich ja jetzt auch nochmal offensichtlicher wird, gerade auch mit was für Monopolen wir es da zu tun haben und auch für Männerfiguren.
00:30:43
Speaker
Genau, das vielleicht erstmal, also das fand ich wirklich sehr prägend und konnte man an vielen technologischen Etappen sehen, aber finde ich für KI jetzt nochmal besonders passend auch.
00:30:51
Speaker
Und dann geht es aber weiter nochmal und da, weil wir ja auch, ihr habt ja vorhin auch Intersektionalität schon angesprochen, ich finde, es geht eben auch nicht nur um Geschlecht, sondern auch um andere Diversitätskategorien da drin.
00:31:03
Speaker
Und sie schreibt eben in den anschließenden Satz, die Meisterung anderer Technologien, wie zum Beispiel bei jungen Männern,
00:31:09
Speaker
aus der Arbeiterschicht, die gut mit Autos umgehen können, vermittelt nicht denselben Status oder ähnliche Handlungsfähigkeit.
00:31:15
Speaker
Und trotzdem haben wir natürlich, wenn wir jetzt sagen Arbeiterschicht, wie sie es hier formuliert, haben wir da natürlich auch wieder Geschlecht als wichtige Kategorie, weil sich eben vielleicht dieselben jungen Frauen aus der Arbeiterinnen-Schicht nicht genauso gut mit Autos umgehen können und darüber auch wieder eine bestimmte Überlegenheit macht und so weiter generiert werden kann.
00:31:33
Speaker
Aber natürlich stehen diese jungen Männer aus der Arbeiterschicht, wenn ich das so einfach so zitiere,
00:31:38
Speaker
Und so übernehme.
00:31:39
Speaker
Nicht auf demselben Level wie die jungen Männer, die sich jetzt mit KI auskennen gut oder KI gestalten und KI entwickeln.
00:31:46
Speaker
Also das ist nur sozusagen nur um eine weitere Ungleichheitskategorie damit reinzunehmen, dass wir sozusagen in diesem Technik- und Geschlechterverhältnis natürlich auch die anderen Menschen,
00:31:55
Speaker
Ungleichheitskategorien insbesondere auch Klasse zum Beispiel, da auch nochmal haben, was sozusagen die Technologien auch nochmal bewertet, also unter den Technologien, um die es geht, eine unterschiedliche Wertigkeit, unterschiedliche Prestigetechnigkeit zuweist und darüber natürlich auch unterschiedliche Machtpositionen denen, die sich damit auskennen.
00:32:14
Speaker
Das vielleicht so zu meinem Zitat.
00:32:16
Speaker
Ja, danke.
00:32:17
Speaker
Das ist sehr passend gewesen jetzt.
00:32:19
Speaker
Wenn auch alt, aber nicht alt.
00:32:20
Speaker
Ja, Yves, was hast du uns mitgebracht?
00:32:25
Speaker
Ja, ich habe was ganz anderes mitgebracht und zwar aus einem Science-Fiction-Roman.
00:32:31
Speaker
Ich habe lang gesucht nach einem passenden Zitat hierfür.
00:32:35
Speaker
Ich saß dann auch vor Donna Haraway-Texten und dachte mir, nee, eigentlich für meine aktuelle Betrachtung auch von...
00:32:44
Speaker
Gerade generativer künstliche Intelligenz trifft es das hier viel besser.
00:32:47
Speaker
Und es ist auch wieder ein alter Text, der ist im Original von 1968 aus Philip K. Dicks »Do Androids Dream of Electric Sheep«.
Empathie und menschliche Attribute in KI
00:32:58
Speaker
deutschen dann Blade Runner, auch dem Film entsprechend bekannt.
00:33:02
Speaker
Und ich habe hier auch das Buch, das ist die sechste Ausgabe der deutschen Übersetzung, irgendwie von 2000.
00:33:10
Speaker
Und da spricht der Protagonist Rick Deckard auf Seite 40 zu uns Lesenden.
00:33:18
Speaker
Wie die meisten anderen Menschen auch, hatte er sich manchmal darüber Gedanken gemacht,
00:33:24
Speaker
weshalb wohl ein Androide völlig hilflos wurde, sobald man ihm einen Empathietest der Messung seines Mitgefühls aussetzte.
00:33:33
Speaker
Empathie existierte offenbar nur in der menschlichen Rasse, während man Intelligenz bis zu einem gewissen Grad bei jeder Art und jedem Stamm von Lebewesen bis hinunter zu den Spinnen antraf.
00:33:45
Speaker
Gefühle schienen zunächst einen unangeschränkten Gruppensinn vorauszusetzen.
00:33:50
Speaker
Für einen solitären Organismus wie eine Spinne hätten sie gar keinen Sinn.
00:33:55
Speaker
Und auf 41 geht dann der Monolog weiter.
00:33:58
Speaker
Der humanoide Roboter stellte infolgedessen ein solitäres Raubtier dar.
00:34:03
Speaker
Und ich habe diese Passage aus dem Roman, den ich zum unzähligen Male wiederlese, herausgesucht, weil ich fand, es trifft sehr gut diese...
00:34:14
Speaker
diesen Diskurs auch um die Problematik des Elisa-Effekts und des Umgangs mit generativer KI.
00:34:23
Speaker
Die Androiden hier in diesem Science-Fiction-Roman aus den späten 60er Jahren des amerikanischen Autors sind von Menschen auf den ersten und zweiten Blick gar nicht zu unterscheiden.
00:34:33
Speaker
Das sind keine Maschinen, sondern das sind organische Autos.
00:34:37
Speaker
Roboter sozusagen.
00:34:38
Speaker
Und das einzige Werkzeug, was die Gesellschaft da hat, um sie von echten Menschen zu unterscheiden, ist eben dieser Empathietest.
00:34:46
Speaker
Und das fand ich vor dem Hintergrund spannend, weil auf den ersten Blick der Roman und auch die Figuren der Androiden sehr wenig mit einem Geschlecht im Diskurs zu tun haben.
00:34:56
Speaker
Aber auf den zweiten Blick natürlich schon, weil sie auf ein Konzept von Mensch verweisen.
00:35:01
Speaker
Und eben hier Empathie und Gruppensinn als anthropologische Kerneigenschaften
00:35:07
Speaker
festmachen, wo beide doch eher Stereotyp als weiblich gelten, auch in den 60er, 70er Jahren und auch in den USA.
00:35:14
Speaker
Das, fand ich, ist vor diesem Hintergrund sehr interessant, weil wir auch hier sehen und auch das, was du, Tanja, vorhin aufgemacht hattest mit den empirischen Ergebnissen und der Diskussion darum, dass jetzt Pflegeberufe doch von KI gemacht werden könnten und Frauen diese nicht mehr aufnehmen müssten und somit besser bezahltere Tätigkeiten vielleicht finden könnten.
00:35:37
Speaker
Ich dachte mir, das ist hier sehr trefflich, um diese Simulation der künstlichen Intelligenz hier in Form der Romanfiguren der Androiden, der Skinjobs, aufzunehmen, die Menschlichkeit simulieren, aber gar nicht empathisch sein können.
00:35:54
Speaker
So wie eben KI, auch menschliche, also generative KI beispielsweise in Form von Chatbots, uns hier menschliche Kommunikation simuliert.
00:36:03
Speaker
Und gleichzeitig auch, wenn wir KI für Recherche und Analyse verwenden, uns auch nur ein Verständnis oder ein Wahrheitsverständnis simuliert.
00:36:13
Speaker
Kai Dröge nennt das ein metisches Verständnis von Wahrheit.
00:36:17
Speaker
Ich würde weitergehen und sagen, es ist sogar nur ein simuliertes Verstehen.
00:36:21
Speaker
Wir haben hier kein Verständnis.
00:36:22
Speaker
Konzept von Sinn in einer KI, so wie sie heute auch genutzt und gebaut wird, sondern wir haben eine Simulation dessen, was wir als sinnhaftes Handeln in Kommunikationszusammenhängen interpretieren.
00:36:37
Speaker
Und das hat ja auch Emily Bender zu diesen lokalistischen Papageien, zu diesem Bild gebracht, dass eine KI plappert,
00:36:45
Speaker
aber gar nicht verstehen kann, weil kein Verständnis da ist, was da geplappert wird.
00:36:49
Speaker
Aber für uns klingt es gut genug und so schreiben wir dieser KI Kommunikationsfähigkeiten zu.
00:36:56
Speaker
Und da eben auch diese Simulation von empathischen Sprachäusserungen, das haben wir beispielsweise auch im Lehrforschungsprojekt gesehen,
00:37:04
Speaker
dass im narrativen Interview mit dem Chatbot der Chatbot Verständnis simuliert, Zustimmung zu den Äußerungen gibt oder auf die Äußerungen reagiert mit so etwas wie, ah, das war bestimmt schwierig für Sie.
00:37:15
Speaker
Können Sie dazu mehr sagen?
00:37:16
Speaker
Also wie wir auch narrative Interviews führen.
00:37:19
Speaker
Und die Studierenden fanden das teilweise sehr irritierend, dass hier die Maschine so freundlich und verständnisvoll agiert und teilweise das auch in ihrer Wahrnehmung arg übertreibt mit dem freundlich sein und verständnisvoll sein.
00:37:32
Speaker
Wir haben das aber in dem Versuchsaufbau, in unserem Forschungsprojekt, dem Chatbot nicht austreiben können.
00:37:40
Speaker
Also die System Prompts und auch die Rahmenbedingungen für die Maschine versucht, weiter anzupassen.
00:37:45
Speaker
Der blieb weiterhin bei einem überschwänglich positiven Rückmelden und Verständnis simulieren in diesem Chat.
00:37:53
Speaker
Auch natürlich, um die Konversation am Laufen zu halten.
00:37:56
Speaker
Und deswegen...
00:37:58
Speaker
Passte das meines Erachtens ganz gut darauf, wie hier Philip K. Dick diese künstlichen Menschen, diese Androiden, den Blade Runner, charakterisiert.
00:38:07
Speaker
Danke für dein schönes Zitat.
00:38:11
Speaker
Ich musste auch gleich daran denken, dass ich ja diesen Punkt mit den Emotionen oder Gefühlsarbeit ja auch schon angesprochen hatte.
00:38:20
Speaker
Da ist ja sozusagen so ein bisschen auch die Frage, als Test rauszufinden, sind es nun Androiden oder nicht?
00:38:26
Speaker
Und habe jetzt parallel tatsächlich, habe ich dann noch, hat mich gerade noch beschäftigt, dass es ja dann wirklich aber auch wieder eine Frage ist, also gerade jetzt auch noch mal als Arbeitssoziologin, welche Arbeitswelt wir denn wollen, weil das, was du auch von den Studierenden sagst, dass sie es irritierend finden, das ist natürlich genau die Frage.
KI und die Zukunft der Kommunikation
00:38:42
Speaker
Wie wollen wir denn eigentlich in Zukunft arbeiten und leben?
00:38:46
Speaker
Und ist es tatsächlich, so wie ich es vorhin als eines unserer Ergebnisse vorgestellt hatte,
00:38:52
Speaker
Ist es vielleicht wirklich eine Erleichterung, so mühsame Kommunikationsarbeit, die wirklich ja manchmal auch sehr viel, ja, sehr viel sozusagen unser eigenes Gefühlsmanagement erfordert, indem wir langatmigen Ausführungen zuhören, indem wir nervigen Leuten, die wir vielleicht auch unsympathisch sind, empathisch gegenüber sein müssen in so einer professionellen Rolle.
00:39:10
Speaker
Ist das tatsächlich ein Fortschritt zu sagen, da setzen wir eine KI ein, weil die einfach immer zuhört und einfach super freundlich ist?
00:39:17
Speaker
Oder merken wir einfach, so wie du es dann von den Studierenden erzählst,
00:39:21
Speaker
dass wir es so aber nicht wollen, weil wir eben nicht diese übertriebene und ja, wie wir dann wissen, also künstliche Freundlichkeit, ist die vielleicht auch wertlos oder unangenehm.
00:39:31
Speaker
Ich denke, dass wir da, also ich glaube, das sind so Fragen, das wissen wir noch gar nicht, wie das ausgehen wird und da finde ich wirklich auch interessant und da sozusagen kann man ja auch ausblickhaft schon über zukünftige Forschung nachdenken.
00:39:42
Speaker
Das sind Felder, die wir, glaube ich, in den nächsten Jahren auch gerade in der Soziologie, die an so einer Schnittstelle Technik, Geschlecht, auch Arbeit, Soziologie arbeitet,
00:39:51
Speaker
viel zu tun haben werden, zu gucken, wo wird denn die KI dann eingesetzt?
00:39:55
Speaker
Nur weil es geht, heißt es ja nicht, dass wir sie da auch nutzen, weil wir sie vielleicht auch gar nicht wollen, weil es unangenehm ist und so weiter.
00:40:01
Speaker
Aber ich finde wirklich auch aus so einer Beschäftigtenperspektive interessant, dass wir manchmal so arbeiten, von dem wir lange ja behauptet haben, die kann man nicht durch Technik ersetzen.
00:40:10
Speaker
Da sind wir jetzt an einem anderen Punkt.
00:40:12
Speaker
Aber es ist eben offen, ob es dann trotzdem von Technik ersetzt wird, nur weil es geht.
00:40:16
Speaker
Ja, das ist ja auch.
00:40:18
Speaker
Das fand ich jetzt auch gerade mit dem, von wann war jetzt, ich habe die Jahreszeit schon vergessen, aber das ist ja nun mal noch mal viel älter als mein Zitat gewesen und trotzdem so passend.
00:40:28
Speaker
Das ist wirklich faszinierend.
00:40:30
Speaker
Ja, von 68 ist der Roman.
00:40:32
Speaker
Ich fand es deswegen auch sehr, sehr spannend hier zu sehen, wie und das ja in einem Science-Fiction-Roman, also einem Vorgriff auf eine ungeschriebene Zukunft, diese Überlegungen schon mit auftauchen.
00:40:46
Speaker
Was wollen wir denn überhaupt?
00:40:48
Speaker
Und warum, also der Diskurs, um warum diese künstlichen Menschen, diese Androiden nicht gewollt sind, darum geht es ja, die werden auf der Erde verboten, ist ein ganz anderer.
00:40:59
Speaker
Aber ich würde mich dem auch anschließen.
00:41:00
Speaker
Das bleibt und ist eine spannende Frage, in die eben auch so etwas wie ein Ethikdiskurs in Technik und Technikentwicklung und Technikfolgenabschätzung reinspielt.
00:41:09
Speaker
der meines Erachtens auch häufig viel zu kurz kommt.
00:41:12
Speaker
Und deswegen bin ich nicht so ganz sicher, was du anfangs unseres Gesprächs ja aufmachtest, dass das Thema Bias und Risiken, was KI angeht, schon früh und breit geht.
00:41:25
Speaker
zu beobachten ist, vielleicht ist es wirklich eine Blase.
00:41:28
Speaker
Ich habe die aber auch.
00:41:29
Speaker
Ich sehe auch viele Leute, die sich damit beschäftigen, gerade online, gerade international, die das weiterhin aufzeigen, die empirische Evidenz zusammentragen, die Probleme benennen und Vorschläge auch machen, wie man beispielsweise zu einer feministischen KI kommen könnte.
00:41:48
Speaker
Ich bin da skeptischer, was das angeht, dass wir hier grundsätzlich einen anderen Pfad an technologischer Entwicklung einschreiten werden, weil am Ende das alles immer noch in einer kapitalistischen und
00:42:04
Speaker
zunehmend neoliberaleren Marktlogik verschränkt ist mit großer Marktmacht in wenigen Händen, die am Ende des Tages, wie wir es bei vielen anderen technischen Fortschritten oder Veränderungen gesehen haben, nicht mehr als eine Richtung und davon Nischenlösungen, kleine Abweichungen kennen wird.
00:42:24
Speaker
Also selbst da, auch dadurch, dass dieser Diskurs drin ist und wir die, ich sage mal, Awareness für Algorithmic Bias oder Bias through Training Data haben, was KI angeht.
00:42:36
Speaker
Wir haben ja gesehen, wie der EU AI Act nun eingedampft wurde auf wenige und auch nicht an allen Schritten oder für alle Anwendungsbezüge so verbindliche Regelungen.
00:42:53
Speaker
Markt schlägt da immer noch Ethik und ich befürchte auch in diesem Diskurs sind diese, ich sage das mal so zynisch, diese zarten, aufgeklärten, kritischen Stimmen, die wir da sehen können, werden nicht den ausschlaggebenden
Wirtschaftliche und politische Perspektiven auf diverse KI
00:43:08
Speaker
Punkt haben.
00:43:08
Speaker
Ja, also würde ich dir auch total zustimmen.
00:43:11
Speaker
Die Frage ist nur, und ich würde aber jetzt sozusagen mit den aktuellen Entwicklungen in den USA wirklich auch nochmal pessimistischer, aber zwischendurch wäre mein Gegenargument gewesen, naja, mit Diversität, also Diversität kann man ja auch vermarkten und eine KI...
00:43:26
Speaker
die einen Bias hat, der nicht gewollt ist, also weil er einfach so eine Eigenlogik hat und nicht das beste Ergebnis hervorruft, ist auch nicht gut und deswegen ist das Streben nach einer diversen KI oder nach einer diskriminierungsfreien KI so groß, weil es tatsächlich sonst auch ein ökonomisches Risiko brachte, weil die KI eben nicht sinnvoll funktioniert oder wie gesagt so eine Eigenlogik hat, die nicht gewollt ist.
00:43:52
Speaker
Also das, wie gesagt, das hätte ich vor einem Jahr, hätte ich das noch sehr stark nach vorne gebracht, zu sagen, ja, wie gesagt, Diversität lässt sich auch vermarkten und gerade in der kapitalistischen Logik ist es, glaube ich, auch sinnvoll, sozusagen da an einer qualitivvollen KI zu arbeiten, die gut funktioniert und die auch
00:44:08
Speaker
gesellschaftliche Akzeptanz hat, das ist ja schon auch nochmal ein großes Thema.
00:44:11
Speaker
Das ist auch was, was wir in unseren Daten sehen konnten, dass es ja sehr viel Skepsis gegenüber KI gibt, vielleicht gerade weil sie so unheimlich ist und so blackboxig, dass es sehr viel Bemühen gerade in diesem politischen Diskurs gibt, die Bevölkerung oder die gesellschaftlichen AkteurInnen, die Beschäftigten, die Gewerkschaften mitzunehmen, zu sagen,
00:44:29
Speaker
KI braucht auch eine breite gesellschaftliche Akzeptanz, weil sonst ist dieses Projekt gerade aus so einer europäischen Perspektive wirklich gefährdet.
00:44:37
Speaker
Also deswegen so viel Bemühen darum, ein gutes KI-Bild zu etablieren.
00:44:41
Speaker
Und ich glaube, da gehört dieses Diversitätsthema auch ganz strategisch mit dazu.
00:44:46
Speaker
Deswegen würde ich sagen, dieses Ringen um Diversität im KI-Diskurs ist vielleicht sogar am wenigsten ein emanzipatorisches, politisches, sondern tatsächlich ein sehr strategisches, aber
00:44:57
Speaker
Und ich denke aber, das ist jetzt hoch gefährdet natürlich jetzt sozusagen unter den aktuellen Entwicklungen, weil Diversität glaube ich jetzt im Moment ein viel, viel negativ behafteter Begriff geworden ist als noch vor einem Jahr, sozusagen.
00:45:12
Speaker
Ja, ja, ja.
00:45:13
Speaker
Da gehe ich absolut mit, das würde ich auch so sehen.
00:45:15
Speaker
Ich hätte auch gesagt, vor einem Jahr noch war ich da etwas, war ich nicht ganz so pessimistisch, was das angeht.
00:45:21
Speaker
Ich glaube aber auch, dass die Entwicklung weiter da zu beobachten ist, also nicht nur auch, was unternehmerische Perspektiven angeht, auch in der Forschung.
00:45:29
Speaker
passiert seit einigen Jahren ja recht viel, auch was Responsible und Explainable AI angeht, was ja auch in diese Richtung geht.
00:45:36
Speaker
Das Vertrauen in Technologie eben ganz konkret an diesem Blackbox und auch an diesem Uncanny, Creepy Ding anzupacken und zu sagen, wir können euch aber erklären, was da passiert.
00:45:47
Speaker
Es ist nicht mehr nur für die Nerds unter uns verständlich, sondern wir können das besser machen, sodass wir eine bessere Akzeptanz auch dieser technologischen Entwicklung haben.
00:45:59
Speaker
vorantreiben können.
00:46:01
Speaker
Und ich glaube, da passiert auch weiterhin noch viel und wahrscheinlich dann nicht unter die EI-Kriterien und Berücksichtigung, zumindest nicht in einem großen internationalen Kontext.
00:46:12
Speaker
Sobald man mit USA zusammenarbeiten will, die nächsten vier Jahre, wird das niemand mehr draufschreiben.
00:46:18
Speaker
Aber Europa versucht da ja auch im Sinne der Technologiesouveränität sich da anders aufzustellen und ich bin gespannt, was da passiert.
Abschluss und Vorschau auf die nächste Episode
00:46:27
Speaker
Total, ja.
00:46:29
Speaker
Ja, das ist ein schönes Schlusswort.
00:46:31
Speaker
Vielen Dank für diese sehr spannende und auch dichte Gespräch und auch euer Wissen, dass ihr das so auf den Punkt mit uns geteilt habt, diese tollen Zitate.
00:46:43
Speaker
Es hat viel Spaß gemacht, wir müssen aber leider zum Ende kommen.
00:46:46
Speaker
Ich konnte jetzt noch ewig erzählen.
00:46:48
Speaker
Ja, vielen Dank, Yves und Tanja, dass ihr da wart.
00:46:51
Speaker
Und mir bleibt jetzt nur zu sagen, das war schon die zweite Folge von Nachgefragt.
00:46:56
Speaker
Schaut immer mal auf Spotify und allen anderen gängigen Plattformen.
00:47:02
Speaker
Da findet ihr auch alle kommenden Folgen.
00:47:04
Speaker
Auch schon mal der Hinweis, die nächste Folge wird sich um...
00:47:07
Speaker
Geschlecht oder Gender und Rechtsextremismus drehen.
00:47:10
Speaker
Auch hier haben wir wieder spannende Menschen zu Gast.
00:47:13
Speaker
Und ja, wer Fragen oder Anregungen hat, kann sich jederzeit bei uns melden.
00:47:19
Speaker
Am besten schreibt ihr ans GFFZ unter info at gffz.de.
00:47:23
Speaker
Und wir freuen uns natürlich auch, wenn ihr empfehlt und teilt und dass möglichst viele diesen Podcast hören mit diesen tollen Menschen, die da sind.
00:47:31
Speaker
Und dann bis zum nächsten Mal.
00:47:34
Speaker
Tschüss von mir, Sabrina, Hannah.
00:47:36
Speaker
Ja, macht's gut und bis zum nächsten Mal.
00:47:38
Speaker
Tschüss.
00:47:40
Speaker
Vielen Dank nochmal für die Einladung.
00:47:41
Speaker
Tschüss.
00:47:42
Speaker
Ja, von mir auch.
00:47:43
Speaker
Danke.