Transcript
Speaker: Einen wunderschönen Tag und ein herzliches Willkommen zur ersten Folge des vom Verband für Geografie an deutschsprachigen Hochschulen und Forschungsinstituten herausgebrachten Podcast Was bewegt die Geografie?
Speaker: Indem wir uns die ganze Breite der Geografie anschauen, um zu schauen, was wir als Disziplin erreichen können und was uns als Vertreter in dieser schönsten aller Wissenschaften umtreibt.
Speaker: Mein Name ist Bjarne Braunschweig, auch bekannt aus dem Podcast Spaceconomics und ich führe euch durch die kommenden Folgen von Was bewegt die Geografie?
Speaker: Den Start machen wir heute mit Sebastian Schmidt von der ITU Austria und Lukas Kriesch von der JLU Gießen.
Speaker: Die beiden sind Experten im Umgang mit künstlicher Intelligenz in der Geografie und gemeinsam diskutieren wir darüber, wie KI uns in unserer Arbeit unterstützen kann, was wir im Umgang mit ihr beachten sollten und vor allem geht es darum, was bringt uns künstliche Intelligenz eigentlich?
Speaker: Lukas, du hast dich während deines Studiums in Frankfurt und Gießen unter anderem mit verkehrsgeografischen Fragestellungen beschäftigt und dich dann in deiner Promotion mit Fragen rund um Webmining und Natural Language Processing beschäftigt.
Speaker: Darüber durfte ich dich auch auf dem AK Industriegeografie 2022 kennenlernen und war schon damals sehr begeistert davon, was du da so auf die Beine gestellt hast.
Speaker: Und, das muss man auch dazu sagen, das war zu einer Zeit in der künstliche Intelligenz, zumindest für Privatpersonen,
Speaker: eher noch in den Kinderschuhen steckte und insofern freue ich mich sehr, dass du da bist und deine Expertise mit uns teilst.
Speaker: Herzlich willkommen!
Speaker: Hi!
Speaker: Schön, dass ich dabei sein kann.
Speaker: Sebastian, du wiederum kombinierst in deiner Forschung klassische Geodaten, Webdaten, zum Beispiel auch aus Social Media
Speaker: Zusammen mit Prof. Dr. Bernd Resch arbeitest du neben deiner Anstellung an der Uni Salzburg zudem in der Forschungsgruppe Geosocial Artificial Intelligence an der Interdisciplinary Transformation University Austria in Linz.
Speaker: Im Rahmen dessen bearbeitest du zum Beispiel auch das spannende Horizon-Projekt Thema, in dem es um die Analyse und das präzise Mapping von Naturkatastrophen geht, um Krisenmanagement zu verbessern.
Speaker: Und das ist ja jetzt gerade auch im Hinblick auf den Klimawandel ein wahnsinnig wichtiges Thema.
Speaker: Insofern eine sehr spannende Ergänzung zu der eher wirtschaftsgeografischen Perspektive von Lukas, weswegen ich mich umso mehr freue, dass du Zeit für mich hast.
Speaker: Herzlich willkommen, Sebastian.
Speaker: Hallo und vielen Dank für die Einladung.
Speaker: Künstliche Intelligenz.
Speaker: Als KI abgekürzt oder auch im feinsten Englisch dann als Artificial Intelligence und entsprechend AI.
Speaker: ist spätestens seit der Eröffnung von MidJourney, Stable Diffusion und ChatGPT für den Hausgebrauch aus unserem Alltag nicht mehr wegzudenken.
Speaker: Wir haben AI-Systeme wie zum Beispiel MidJourney, die erschreckend realistische Fotos erzeugen können oder solche wie jetzt ChatGPT, die mittlerweile seitenweise korrekte Texte auf Basis weniger gut gewählter Sätze, also sogenannte Prompts, ausformulieren können.
Speaker: oder auch Systeme, die Musik erzeugen, die nicht mehr von handgemachter Musik zu unterscheiden ist.
Speaker: Und schlussendlich auch aufgrund der hohen Reichweite und Verbreitung dieser Systeme bettet sich natürlich auch jetzt unsere Diskussion, die wir hier zu dritt führen, in diesem mittlerweile wirklich riesigen öffentlichen Diskurs über KI insgesamt ein, der von wirtschaftlichen über rechtliche bis hin zu heikeln ethischen Fragen erreicht.
Speaker: Aber wenn wir an die Geografie denken,
Speaker: fällt es vielleicht zum Teil auch schon ein bisschen schwer, sich vorzustellen, wie die Disziplinen, also sämtliche DozentInnen, HochschullehrerInnen, PraktikerInnen und StudentInnen, die doch eigentlich auch oft genuine Forschung und zu einem guten Teil auch Grundlagenforschung betreiben oder zumindest auch auf diese Forschung aufbauen, betroffen sind bzw.
Speaker: sein können.
Speaker: Und um das zu verstehen, würde ich mich dementsprechend riesig freuen, wenn wir jetzt erstmal so eine Diskussionsgrundlage schaffen.
Speaker: Lukas.
Speaker: Wenn wir von KI reden, also von künstlicher Intelligenz, wovon reden wir dann eigentlich?
Speaker: Ja, ich glaube, das ist ein guter Einstieg.
Speaker: Künstliche Intelligenz, das klingt jetzt ja erstmal sehr, sehr mystisch.
Speaker: Grundsätzlich ist es aber so, dass das Grundprinzip von KI maschinelles Lernen ist.
Speaker: Das ist gar nicht so neu.
Speaker: Bei KI geht es dann darum, dass ein Algorithmus ein Modell Aufgaben übernimmt, für die gängigerweise menschliche Intelligenz nötig war.
Speaker: Du hast es schon angesprochen.
Speaker: Beispiele könnten sein, Sprache zu verstehen, Texte zu verstehen, Musik zu erzeugen oder auch Bilder zu analysieren.
Speaker: Das gibt es schon seit einiger Zeit, das Grundprinzip des maschinellen Lernens.
Speaker: Man erinnert sich vielleicht an die ersten Schachcomputer vor vielen, vielen Jahren, die dann plötzlich Schachgroßmeister geschlagen haben.
Speaker: Auch das ist im Grundprinzip maschinelles Lernen.
Speaker: Wir haben einen Input an Daten, wir haben ein Modell, das die Daten verarbeitet und verarbeitet.
Speaker: hinten dann ein Output erzeugt.
Speaker: Für uns Geografen ist Maschinenläs Lernen eigentlich auch gar nicht so fern.
Speaker: Ganz einfaches Beispiel für Maschinenläs Lernen ist zum Beispiel die lineare Regression.
Speaker: Seit vielen, vielen Jahren ein ganz vertrautes Verfahren in den quantitativen Sozialwissenschaften.
Speaker: Der Unterschied zwischen dem modernen maschinellen Lernen und die Abgrenzung zur klassischen Statistik liegt dann darin, dass wir in der Wissenschaft uns natürlich stark auf Erklärbarkeit, Signifikanz und Modellinterpretation fokussieren.
Speaker: Bei maschinellem Lernen und bei künstlicher Intelligenz geht es natürlich viel, viel stärker um Vorhersagekraft und Performance bei komplexen Datensätzen.
Speaker: Was jetzt natürlich den ganz großen Hype ausgelöst hat rund um die KI, sind die von dir eben angesprochenen
Speaker: Neuesten, neuen Entwicklungen, die dann eben nicht nur mit strukturierten Daten arbeiten, sondern mit unstrukturierten Daten wie eben Texten, Sprache, Bildern etc.
Speaker: Das ist dieses Forschungsfeld des Natural Language Processings.
Speaker: Und grundsätzlich ist die
Speaker: Die Verarbeitung von diesen unstrukturierten Daten für uns in der Geografie natürlich super spannend, weil sich viele räumliche und auch gesellschaftliche Phänomene einfach widerspiegeln.
Speaker: Zum Beispiel in Textdaten, die wir in der heutigen Zeit natürlich in digitalisierter Form überall, vor allem eben im Internet, vorfinden.
Speaker: Auf Webseiten, in Zeitungsartikeln, Social Media etc.
Speaker: Das heißt also, um das nochmal runterzubrechen, wir reden bei KI, also künstlicher Intelligenz, eigentlich nur und das nur an dieser Stelle ein riesengroßes Anführungszeichen.
Speaker: Schlussendlich von Software, die auf bereits bekannt ist, zurückgreift, um dann quasi irgendwie Neues, also da reden wir dann von der generativen KI, zu interpolieren.
Speaker: Also bei Musik, Kunst und Film kann ich mir das jetzt auch noch sehr gut vorstellen, aber wenn wir jetzt irgendwie an die Geografie denken, was sind denn da Anwendungsfälle für KI?
Speaker: Sebastian.
Speaker: Ja, ich würde auch einen Schritt zurück machen und nicht nur von der generativen KI sprechen, wie eben mit Journey und ChatGPT und so weiter, sondern eben auf das ganze breite Feld der KI.
Speaker: Also eben, wie Lukas das schon gesagt hat, das maschinelle Lernen, das Machine Learning, ist natürlich nicht nur in der Geografie.
Speaker: Das Deep Learning, also ein Teilgebiet von dem Machine Learning, das ist dann eben, wo auch die generative KI darunter fällt, ist jetzt eher neu.
Speaker: Aber es gibt viele Anwendungsfälle, weil was wir tun in der Geografie in vielen Fällen ist ja datengetrieben, also primär eben Geodaten basiert.
Speaker: Und das sind häufig sehr große Datenmengen.
Speaker: Und da möchte ich jetzt mal einfach zwei Beispiele nennen.
Speaker: Das eine ist die Fernerkundung, das andere sind die Social Media Daten, mit denen ich in meiner eigenen Forschung vor allem mich beschäftige.
Speaker: Bei der Fernerkundung ist es so, vor allem bei der satellitengeschützten Fernerkundung, dass es Erdbeobachtungssatelliten wie das Sentinel-Programm gibt, die alle paar Tage Bilder aufnehmen von demselben Ort auf der Erde.
Speaker: Und je nach Prozessierungsgrad sind es dann pro Ort schon alle zwei, drei Tage mehrere Megabyte bis zu mehrere Gigabyte an Daten.
Speaker: Wenn ich mir jetzt zum Beispiel anschauen möchte in der Region, wie läuft die Entwaldung dort ab, im Amazonas beispielsweise, dann reden wir schnell von eben Terabyte an Daten, die produziert werden müssen.
Speaker: Und die Analysen, die auf diesen Datenmengen ablaufen, die werden natürlich durch KI-Methoden deutlich vereinfacht und überhaupt erst ermöglicht in vielen Fällen.
Speaker: Endeffekt ist es ein Klassifikationsproblem, was man da häufig lösen möchte.
Speaker: Also zum Beispiel einfach, was ist das für eine Landbedeckung, die ich auf diesem Bild sehe.
Speaker: Und das wird von der KI-Methode übernommen.
Speaker: Also die Tools, die auch in klassischen GIS-Umgebungen stattfinden, basieren eben auf Machine Learning Methoden.
Speaker: Und im Bereich der Fernerkundung sind eben vor allem in den letzten Jahren die Deep Learning Methoden wichtig geworden.
Speaker: Da stechen vor allem die Convolutional Neural Networks hervor.
Speaker: Das sind eben Modelle mit sehr vielen Layern, die vor allem auf Nachbarschaftsanalysen basieren.
Speaker: Also eben sich auch von den Pixeln zum Beispiel das Umfeld anschauen für Klassifikationsfragestellungen.
Speaker: Und das macht natürlich gerade bei solchen Daten, die sehr strukturiert in ihrer Natur sind, viel Sinn.
Speaker: Und dann hast du ja aber auch noch, und das machst du ja auch in deiner eigenen Forschung, die Verbindung zu Social Media Daten.
Speaker: Die hast du ja auch schon angeteasert.
Speaker: Also was kann man mit KI alles mit Social Media Daten machen?
Speaker: Social Media Daten im Allgemeinen haben ja verschiedene Modalitäten, die vielleicht gar nicht mal so offensichtlich sind.
Speaker: Das sind zum einen natürlich die Texte.
Speaker: Also jemand schreibt einfach einen Post auf Twitter oder wo auch immer und der wird zu einem gewissen Zeitpunkt gepostet.
Speaker: Das liegt noch auf der Hand.
Speaker: Aber oft ist da auch eine ziemlich starke Geokomponente enthalten.
Speaker: Das kann sein durch explizites Tagging, dass man eben angibt, ich bin gerade in Salzburg oder man schreibt eben im Text, nächste Woche werde ich nach Jena fahren.
Speaker: Und daraus kann man eben auch den Geoanalysen ableiten, wo die KI ins Spiel kommt, also zum Beispiel auch gerade aus Texten herauszulesen, beispielsweise Jena als Location, als Ort.
Speaker: Und daraus lassen sich georeferenzierte Social Media Daten generieren oder eben auch sammeln.
Speaker: Und klassisch, so bevor KI wirklich populär wurde, waren das häufig simple Filtermethoden, die man benutzt hat, mit einer hohen Fehleranfälligkeit.
Speaker: Also ein klassisches Beispiel ist ein Schlüsselwort suchen.
Speaker: Da macht es natürlich sehr viel Sinn, wenn man kontextuelle Informationen einbeziehen kann.
Speaker: Das ist wohl, wie KI-Modelle dann eben ins Spiel kommen.
Speaker: Und noch als letzten Punkt, weil du das angesprochen hast, Bedeutung von KI für Geografie, möchte ich noch einen Schritt weiter gehen.
Speaker: Und zwar gibt es ja mittlerweile auch das Konzept von GeoAI, also Geografischer Artificial Intelligence.
Speaker: Und es ist noch ein relativ neues Konzept, deswegen mein Verständnis dafür ist es einfach eine explizite Integration räumlicher Charakteristika in KI-Methoden.
Speaker: Und das kann wirklich sehr relevant sein.
Speaker: Also zum Beispiel in diesem Social Media Fall, wo wir uns ja anschauen wollen, welche Daten beschäftigen sich denn mit beispielsweise einer Überschwemmung in Oberbayern, dann kann ich zwar auf einen Post stoßen, der darüber redet, aber von einer Person, die vielleicht in Hamburg sich befindet.
Speaker: Was wir dann versuchen in der Forschung ist, Methoden zu entwickeln, die eben diese semantischen Inhalte mit dem Raum und auch der Zeit, weil die in der Geografie eben auch häufig wichtig ist, direkt kombinieren können.
Speaker: Also eben räumliche Beziehungen explizit berücksichtigen zu können und eben den Modellen einfach auch ein Verständnis mitzugeben von was Raum überhaupt ist, geografischer Raum.
Speaker: Spannend.
Speaker: Du bist jetzt auf viel eingegangen rund um auch so ein bisschen die Geschichte rund um die Geodaten und dass halt eigentlich in der Geografie maschinelles Lernen zumindest jetzt per se erstmal nichts Neues ist.
Speaker: Hast du da noch weitere Ergänzungen, Lukas?
Speaker: Ja, gerne.
Speaker: Also vielleicht aus der humangeografischen Perspektive, wirtschaftsgeografischen Perspektive.
Speaker: Ja, ja, bitte.
Speaker: Da habe ich im Rahmen meiner Forschung festgestellt, dass eigentlich der große Mehrwert von diesen modernen KI-Modellen für uns in der Geografie darin liegt,
Speaker: diese digitalen Textbestände, diese unstrukturierten Daten überhaupt erst analysierbar zu machen.
Speaker: Also anders als in der Informatik, wo es dann vielleicht um die nächsten drei Prozent Performance geht, geht es bei uns erstmal darum, wir überführen die unstrukturierten Daten erstmal in ein Format, mit dem der Computer arbeiten kann.
Speaker: Damit machen wir die Daten eben analysierbar.
Speaker: Was da natürlich spannend ist, ist, dass es einerseits natürlich das methodische Repertoire erweitert und andererseits auch eine tolle Schnittstelle bietet zwischen qualitativer und quantitativer Forschung, weil man erstmals eigentlich mit demselben Datenmaterial, nämlich Textarbeit.
Speaker: Wenn wir jetzt von Anwendungsgebieten sprechen, dann ist es so, dass wir zum Beispiel viel mit Unternehmenswebseiten arbeiten.
Speaker: Im aktuellen Forschungsprojekt beschäftigen wir uns ja mit der Bioökonomie und so einen Indikator wie, wo sitzt denn die Bioökonomie in Deutschland, den finden wir nicht im Handelsregister und auch nicht bei D-Statis und auch nicht bei Euro statt, sondern wir brauchen eben neue Daten, um solche Fragen beantworten zu können.
Speaker: Genauso die Frage, welche Unternehmen arbeiten denn mit KI?
Speaker: Wo sind denn die Vorreiter der KI in Deutschland angesiedelt?
Speaker: Und da helfen uns eben großskalige Unternehmens-Webseiten, um da sehr präzise Informationen herausfiltern zu können.
Speaker: Ein weiteres Beispiel wäre dann noch die Analyse von großen digitalen Textbeständen, von Newsartikeln, von Nachrichtenartikeln, die auch im Zeitverlauf analysiert werden können und die uns dann eben zeigen, wie verändert sich denn ein öffentlicher Diskurs zu einem bestimmten Thema?
Speaker: Welche Argumentationsmuster sind dominant?
Speaker: Welche Narrative erkennen wir vielleicht?
Speaker: um zu verstehen, wie verändert sich denn die öffentliche Wahrnehmung gegenüber einer neuen Technologie beispielsweise.
Speaker: Das ist natürlich ganz spannend, auch dann die Abhängigkeit zu sehen zu politischen Entscheidungen.
Speaker: Und am Ende ist es so, dass wir oft Natural Language Processing oder KI nutzen, um Indikatoren aus diesen Textbeständen zu verfolgen.
Speaker: Und diese extrahierten Indikatoren können wir dann wieder mit ganz klassischen statistischen Verfahren bearbeiten.
Speaker: Somit ist KI in dem Fall dann eher ein Vorverarbeitungsschritt, um eben diese unstrukturierten Daten nutzbar zu machen.
Speaker: Das heißt also, eigentlich haben wir hier vor allem ein unterstützendes Instrument für bereits bestehende Methoden.
Speaker: gleichzeitig bei unstrukturierten Texten, die dann nachher strukturiert werden sollen.
Speaker: Und wo wir bei Natural Language Models ja auch davon reden, hier wird aus dem Gesamtzusammenhang dann der Sinn destilliert in irgendeiner Form.
Speaker: Und wo sich dann natürlich auch eine ganze Reihe Schwierigkeiten schlussendlich auch einstellen,
Speaker: die ich mir jetzt einfach gerne mit euch so ein bisschen nacheinander anschauen möchte.
Speaker: Also als erstes wäre da nämlich aus meiner Sicht jetzt die Frage nach der Güte der Daten beziehungsweise nach der Güte der Zusammenfassung schlussendlich auch.
Speaker: Also die meisten von uns dürften mittlerweile zum Beispiel auch Beispiele kennen, in denen ChatGPT jetzt irgendwelche Texten mit Quellen erarbeitet, die es halt gar nicht gibt, die dann aber tatsächlich auch sogar im Literaturverzeichnis auftauchen.
Speaker: Und wenn ich aber nachher die Erhebung der Daten anschaue,
Speaker: nur noch bis zu einem gewissen Grad überwachen kann.
Speaker: Inwiefern kann ich dann vielleicht aber auch sicher sein, dass meine Daten, also jetzt zum Beispiel halt die Geodaten, die ich habe jetzt zum Beispiel durch KI aufwerten lassen oder auch die vorstrukturierten Daten, die ich habe, dass diese Daten, die ich dann habe und weiterverarbeite, wissenschaftlichen Gütestandards entsprechen?
Speaker: Ja, du hast einen sehr wichtigen Punkt gerade genannt und zwar eben, dass diese Überwachbarkeit von den Modellen einfach ein bisschen abhandengekommen ist in den letzten Jahren durch viele Entwicklungen.
Speaker: Also man spricht ja oft von den Blackboxes, die viele KI-Modelle eben darstellen, gerade eben im Deep Learning Bereich, also eben auch vor allem die Large Language Models und ähnliche.
Speaker: Das heißt, man weiß nicht, wie das Modell vom Input zum Output kommt, also ob das jetzt ein
Speaker: ein Zerlittenbild ist oder ein Input-Text, sind einfach die Verarbeitungsschritte, die man früher über regelbasierte Verfahren eben nachvollziehen konnte, verschleiert worden.
Speaker: Deswegen ist es, wenn man KI-Methoden in der geografischen Forschung oder allgemein in der Forschung nutzt, sehr wichtig, die Methoden sowie auch die Ergebnisse umfangreich zu evaluieren.
Speaker: Traditionell macht man das viel über intrinsische Modellmetriken.
Speaker: Das ist allerdings in vielen Fällen natürlich ein guter Indikator, aber nicht komplett ausreichend.
Speaker: Es ist vor allem bei vielen Forschungsfragen daher notwendig, auch einen Vergleich mit anderen Informationsprodukten eben herzustellen.
Speaker: Und da ergibt sich natürlich häufig eine Schwierigkeit auch, weil wir haben gerade vorhin mit GEOI angesprochen, also das Verheiraten auch von verschiedenen Dimensionen, das Erzeugen von etwas auch Neuem, was man vielleicht dann gar nicht mehr richtig vergleichen kann mit anderen Informationsprodukten.
Speaker: Also Plausibilisierung ist eben wichtig, das ist auch im Kontext eben von gesellschaftlich wichtigen Themen wie dem Katastrophenmanagement von sehr hoher Bedeutung.
Speaker: Wenn man ein KI-Modell aus einem Satellitenbild abliest, dass es da gerade eine Überschwemmung gibt, aber ich weiß, das ist ein Berg und kein Tal, dann muss natürlich eine Plausibilisierung auch irgendwie stattfinden.
Speaker: Das heißt, kurzum, auch wenn die Modelle jetzt so ein bisschen den Anschein machen, dass sie sehr performant sind, man sollte nicht blind in die Ergebnisse von KI-Modellen vertrauen.
Speaker: Das heißt, da gibt es ein Konzept, was ich gerne erwähnen würde, und zwar den Human in the Loop, also immer im Rahmen von jeglicher KI-Prozessierung noch eine menschliche Komponente zu haben.
Speaker: Das ist zum einen im Trainingsprozess schon möglich umsetzbar, aber wahrscheinlich wichtiger eben in der Evaluierung und vor allem, wenn es dann darum geht, auch Entscheidungen zu treffen, basierend auf KI-generierten oder auf KI-basierten Ergebnissen.
Speaker: Und ein Punkt, den ich gerade angesprochen habe, der ist essentiell bei jedem KI-Modell, ist die Qualität der Trainingsdaten.
Speaker: Also gerade wenn man selbst entwickelt oder selbst seine Custom-Models eben entwirft, dann ist es sehr relevant, dass man klare Regeln verfolgt, wie diese Daten gelabelt werden, einfach auch um die Modelle mitzutragen.
Speaker: Einfach gesagt, nicht zu verwirren, gibt es da auch verschiedene Konzepte wie das Consensus-Based Labeling, dass man eben mehrere Menschen an ein Schiff sozusagen setzt und dann wirklich auch nur Datensätze mit aufnimmt in das KI-Modell-Training, wo alle übereinstimmen oder ein Großteil übereinstimmt.
Speaker: Aber nichtsdestotrotz haben Trainingsdaten eigentlich immer einen gewissen Bias.
Speaker: Und das ist auch egal, ob das bei einem Fernerkundungsdaten, bei Trainingsdaten ist oder im Rahmen von einem generativen LLM.
Speaker: Es gibt immer irgendeine Kategorie der Daten, die unterrepräsentiert oder überrepräsentiert ist.
Speaker: Oder auch einen Labeling-Bias, der, wenn ich jetzt an die Humangeografie denke, auch natürlich kulturell bedingt sein kann.
Speaker: Also du hast ja unser Projekt angesprochen, Thema, wo es darum geht, eben Daten für das Disaster-Management, also eben vor allem mit einem Fokus auf Waldbrände und Überschwemmungen zu verbessern.
Speaker: Und wir haben uns zum Beispiel bei Social Media Daten einen ganz spezifischen Fall angeschaut, der sehr geografisch ist an sich.
Speaker: Und zwar gibt es ja bei Social Media Daten auch häufig Bilder, die angehängt werden.
Speaker: Und aus diesen Bildern kann man ja auch potenziell ableiten, wo dieses Bild entstanden ist.
Speaker: Dann haben wir uns die sogenannten Vision Language Models angeschaut, mit denen man einfach ein Bild geben kann und sagen, wo ist dieses Bild entstanden?
Speaker: Mhm.
Speaker: Aber was uns aufgefallen ist, und da komme ich zurück auf das Thema Bias, es hat deutlich besser funktioniert im globalen Norden.
Speaker: Also wir hatten eine eindeutig bessere Performance in Europa und in den USA als in Bildern aus Südamerika beispielsweise.
Speaker: Aber in anderen Fällen hat man vielleicht auch lokal-geografische Unterschiede, die großen Einfluss haben können bei Fälleerkundungsdaten.
Speaker: Mag das die Topografie vielleicht sein, die Effekte hat oder auch Klimabevölkerungsdichte bei human-geografischen Fragestellungen?
Speaker: Sind städtische Räume häufig überrepräsentiert?
Speaker: Und das sind eben diese Trainingsdaten-Biases, die man häufig im Kopf behalten muss, die aber nicht offensichtlich sind.
Speaker: Das heißt also, wir haben hier schon eine ganze Menge an Handhaben, aber gleichzeitig, und da kommen wir eher so in deine Richtung, Lukas, ist es ja auch eine Frage, wenn bestimmte Cultural Biases zum Beispiel in den Trainingsdaten nicht berücksichtigt wurden, habe ich irgendeine Handhabe, um das dann zu minimieren, wenn ich selber versuche, Auswertungen zu machen?
Speaker: Ja, absolut.
Speaker: Also es hat Sebastian ja eben schon angesprochen, dass es natürlich einerseits die großen, modernen, generativen KI-Modelle gibt, die eben auch große Öffentlichkeit erfahren haben.
Speaker: Aber es gibt auch ganz, ganz viele Open Source Large Language Models, die ich lokal auf meiner eigenen Hardware mit meinen eigenen Daten verwendet.
Speaker: nochmal, man nennt das dann Feintunen oder Nachjustieren kann.
Speaker: Und Sebastian hat es angesprochen, der Regel nimmt man dafür einen Trainingsdatensatz, über den man als Wissenschaftler eben die Handhabe hat, zum Beispiel bei einer Klassifikationsproblematik.
Speaker: eben die richtigen Daten auszuwählen, gezielte Daten auszuwählen, um solchen Biases entgegenzuwirken.
Speaker: Das ist eben eine Möglichkeit, um, ich sag mal, die Best Practices, die wir aus der Computerlinguistik, aus der Informatik kennen, eben auch in unsere geografische Forschung zu integrieren, einerseits.
Speaker: Und andererseits eben auch unseren geografischen Kontext, unsere Weltsicht, die Arbeit, die wir eben auch vollziehen mit Identitäten, mit Machtverhältnissen, mit Diskursen.
Speaker: auch diese dann eben in diese generisch vortrainierten Modelle einfließen zu lassen.
Speaker: Diese Möglichkeiten habe ich dann eben, wenn ich selbst trainiere.
Speaker: Was da aktuell halt ein bisschen kritisch zu sehen ist, ist eben dieser Hype um die generative KI, weil eben sehr niederschwellig anwendbar, also wir können ganz einfach auf die Webseiten gehen, können da dann Daten labeln, können uns Dokumente analysieren lassen.
Speaker: Aber da müssen wir uns eben immer bewusst sein, dass diese Modelle intransparent trainiert sind.
Speaker: Wir kennen die Trainingsdaten nicht so richtig von diesen Modellen wie ChatGPT.
Speaker: Wir haben eigentlich nur eine geringe Steuerbarkeit des Modellverhaltens, dann über das Prompting, aber da dann natürlich auch wieder ein Problem mit der Replizierbarkeit und der Objektivierbarkeit der Ergebnisse.
Speaker: Weil abhängig von meinem Prompt natürlich andere Ergebnisse produziert werden können.
Speaker: Von daher würde ich für die Analyse von großen Dokumentensammlungen ganz klar Werbung machen wollen, dafür Modelle selbst zu trainieren, sich mit der Technologie auseinanderzusetzen, um dann eben auch souverän damit umgehen zu können, um auch, das hat Sebastian schon angesprochen,
Speaker: Vielleicht Fehler in der Klassifikation besser nachvollziehen, besser verstehen zu können.
Speaker: Das sind da eben gute Möglichkeiten, die wir dann eben haben, um nicht abhängig zu sein von diesen komplett vortrainierten Modellen der großen, das sind ja oft US-Tech-Anbieter, die eben diese Daten zur Verfügung stellen.
Speaker: Es gibt auf jeden Fall Möglichkeiten, unseren geografischen Kontext in das Verhalten von solchen Large-Ranguage-Models einfließen zu lassen.
Speaker: Selbstverständlich werden wir dann auch ein paar Modelle und Anleitungen dazu verlinken, dass ihr da draußen beim Zuhören dann die Möglichkeit habt, euch dem Thema noch näher zu widmen.
Speaker: Denn alles, was wir hier machen können, es ist und bleibt ein Podcast.
Speaker: Es ist kein Tutorial, es ist kein How-To, sondern alles, was wir machen können, ist, einen Überblick zu geben, was denn eigentlich möglich ist.
Speaker: Und wir müssen hier das Rad auch gar nicht neu erfinden, wie kann ich biestes bei qualitativen Daten zum Beispiel umgehen, wenn ich Interviews auswerte, indem ich das nicht alleine mache, sondern mehrere Personen das Ganze auswerten, mehrere Personen zum Beispiel auch das Ganze verschlagworten.
Speaker: Und ihr sprach beide jetzt auf die eine oder andere Art und Weise von Human oder auch dann schlussendlich Humans in the Loop.
Speaker: Das heißt also hier auch ganz, ganz klar, sowohl am besten natürlich beim Training, aber auch bei der Auswertung beziehungsweise dann auch im weiteren Arbeiten mit den Daten, die Plausibilitätschecks nicht irgendwie alleine zu machen, sondern am besten gemeinsam mit mehreren Personen, um hier die höchstmögliche Güte und schlussendlich auch eine intersubjektive Nachvollziehbarkeit in irgendeiner Form zu gewährleisten.
Speaker: Natürlich können wir sagen, wir übertragen einfach das, was wir bereits kennen, jetzt auch einfach auf AI.
Speaker: Gerade wenn wir uns zum Beispiel, und da kennen wir das ja auch schon seit Jahrzehnten in Bezug auf Geoinformationssystemen bzw.
Speaker: Geodaten, diese GIS-Ethik-Richtlinien anschauen zum Beispiel.
Speaker: Sebastian, was verbirgt sich hinter diesen Richtlinien und was sind jetzt vielleicht auch praktische Bewandtnisse, die zum Beispiel im Hinblick jetzt auf eure Projektarbeit oder auch die sonstige Forschung in der Geografie wichtig sind bzw.
Speaker: sich aber auch im Hinblick auf die Arbeit mit KI wiederum unterscheiden?
Speaker: Grundsätzlich zielt der GIS-Ethik darauf ab, dass man gerecht, verantwortungsvoll und transparent mit Geodaten umgeht.
Speaker: Und da gibt es verschiedene Leitfragen sozusagen, die man sich stellen kann.
Speaker: Also eine, die natürlich sehr hervorsticht, geht um das Thema Datenschutz.
Speaker: Da gibt es ja auch den wichtigen Aspekt der Geoprivacy, also eben Informationen, die sich auf den Standort der respektiven Person beziehen.
Speaker: Aber eben auch in der eigentlichen Verarbeitung der Daten gibt es einige Fragen, die man sich stellen sollte.
Speaker: Also zum Beispiel,
Speaker: Wir haben es auch schon angesprochen, gibt es Verzerrungen durch die räumliche Analyse oder die Datenbasis.
Speaker: Und eben auch in diesem Kontext sollte man sich fragen, ob auch Unsicherheiten und Limitationen ausreichend kommuniziert werden.
Speaker: Jetzt sprechen wir heute natürlich über KI.
Speaker: Die grundsätzliche GIS-Ethik trifft natürlich weiterhin zu, aber kommen natürlich noch weitere Rahmenbedingungen dazu.
Speaker: Da diese KI-Welle ja erst seit kurzem über uns einschwappt in dieser Breite, die wir diskutieren, ist das Ganze ja noch so ein bisschen im Entstehen, was jetzt die rechtlichen und ethischen Rahmenbedingungen angeht.
Speaker: Und von vornherein ist es auch wichtig zu sagen, dass das natürlich kein globaler Ansatz da ist, sondern dass es sehr große Unterschiede zwischen den Weltregionen gibt, wie mit dem Thema KI und Ethik auch umgegangen wird.
Speaker: Hier in der EU ist ja der AI Act in Kraft getreten.
Speaker: Das ist das weltweit erste Gesetz eigentlich zur Regulierung von KI.
Speaker: Und was man versucht damit zu erreichen, ist einfach ein Risikomanagement bezüglich KI, aber auch eine Transparenz und weiterhin eine menschliche Kontrolle über viele von diesen Prozessen zu gewährleisten.
Speaker: Meines Erachtens gibt es allerdings ein großes Thema, das wir noch im Detail vielleicht diskutieren sollten, und zwar die Unterschiede zwischen verschiedenen Daten, die mit KI bearbeitet werden, weil manche Geodatenquellen sind einfach wesentlich sensibler als andere.
Speaker: Und in der eigenen Forschung haben wir auch mit Mobilitätsdaten schon zu tun gehabt in unserer Forschungsgruppe.
Speaker: Geht es auch um physiologische Sensoren, wo es um Stressmessungen geht von Fahrradfahrern beispielsweise.
Speaker: Oder aber auch, wir haben mit Mobilfunkdaten schon gearbeitet, also eben Daten, die sehr personenbezogen sind und dadurch natürlich sensibel.
Speaker: Und hier gibt es schon rechtliche Rahmenbedingungen, die nur Analysen auf aggregierten Daten häufig erlauben.
Speaker: Bei Mobilfunkdaten ist es zum Beispiel so, dass es mindestens fünf Personen einer Mobilfunkzelle sein müssen, damit die überhaupt genutzt werden dürfen, die Daten.
Speaker: Und ähnlich ist es auch bei Social Media Daten in der Tat.
Speaker: Die sind zwar, wenn man sie abgreifen kann, öffentlich verfügbar, aber die beinhalten trotzdem Informationen, die sensibel sind und die Identifizierung von Einzelpersonen ermöglichen.
Speaker: Auf der Seite der Forschung oder der wenigen Nutzung dieser Daten muss man natürlich auch Dinge wie Anonymisierung und Pseudonymisierung mitdenken.
Speaker: Weil diese Daten, je nachdem wie sie dann in KI-Modellen verwendet werden, natürlich auch woanders wieder landen könnten und eine Reihe an Problemen mit sich bringen.
Speaker: In der Fernerkundung ist das Ganze ein bisschen weniger kritisch.
Speaker: Wenn man sich jetzt vorstellt, man nimmt eine Sentinel-2-Aufnahme mit einer 10 Meter räumlichen Auflösung, da gibt es bestimmt auch Möglichkeiten, da sensible Daten raus abzuleiten, aber es ist sicherlich weniger kritisch.
Speaker: Allerdings gibt es ja auch sehr hochauflösende Fernerkundungsdaten.
Speaker: Ich denke da
Speaker: Gerade ein Thron, mit dem man ja schon wirklich sehr detaillierte 3D-Modelle beispielsweise erstellen kann und dann natürlich auch eine Objekt- bzw.
Speaker: eine Gesichtserkennung basierend auf KI-Methoden ermöglicht.
Speaker: Und da muss natürlich dann auch Mechanismen entwickelt werden oder Mechanismen greifen, die diese Verarbeitung und auch Veröffentlichung von persönlichen Daten eben unterbinden.
Speaker: Das heißt, um das kurz zusammenzufassen, ethische Fragen, die man sich bei geografischen Analysen mit KI stellen sollte, sind, wie transparent ist die KI-Methode, die ich benutze?
Speaker: Also gibt es auch eine Einwilligung bzw.
Speaker: eine rechtliche Grundlage für die Daten, die in die KI einfließen, also auch beim Training?
Speaker: eingeflossen sind.
Speaker: Und das ist auch ein Thema, wo man natürlich bei den Large Language Models lange darüber diskutieren könnte.
Speaker: Und auch sehr wichtig, wenn man sich dann die Ergebnisse anschaut, wer wird ausgeschlossen oder wer wird benachteiligt durch die Analysen, durch die Biases, die ich genannt habe.
Speaker: Ich selbst habe auch schon in der Forschung mit indigenen Gruppen zu tun gehabt.
Speaker: Und da sind natürlich auch solche eher unterrepräsentierten in der Quantität gesprochen.
Speaker: Gruppen sind natürlich auch sehr betroffen von solchen Biases und so etwas muss mitgedacht werden.
Speaker: Also kurzum können meine Karriereanalysen unbeabsichtigten Schaden anrichten, sollte man sich hinterfragen.
Speaker: Und gibt es eigentlich auch derartige Pendants, was jetzt diese Richtlinien angeht, die Sebastian jetzt angesprochen hat, für die Humangeografie, Lukas?
Speaker: Also was sind da vielleicht dann auch noch weitere Aspekte aus humangeografischer Sicht, die hier vielleicht eher kritisch zu sehen sind im Hinblick auf AI, vielleicht auch dann in Abgrenzung zu Fernerkennungen beziehungsweise physischer Geografie?
Speaker: Also ich habe...
Speaker: Sebastian ganz gespannt zugehört, weil es ja im GIS-Bereich schon eine ganze breite Palette gibt an Ethikrichtlinien, an Do's and Don'ts.
Speaker: Das liegt vermutlich auch daran, dass es eine größere Tradition hat im GIS-Bereich.
Speaker: Es hatte einfach mehr Zeit, sich zu verankern.
Speaker: Da ist man wahrscheinlich schon routinierter in der Arbeit mit personenbezogenen Daten, mit sensiblen Daten.
Speaker: Die Forschung, die mit KI in der Humangeografie betrieben wird, steht ohnehin noch am Anfang.
Speaker: Vieles hat eher so einen explorativen Charakter und entsprechend fehlen auch noch disziplinspezifische Standards für den verantwortungsvollen Umgang.
Speaker: Nichtsdestotrotz gibt es natürlich übergeordnet Richtlinien, die Sebastian ja auch schon angesprochen hat, zum Beispiel der EU-AI-Act oder auch ganz banal die Datenschutz-Grundverordnung, die natürlich auch für die Humangeografie greifen.
Speaker: Ein großer Fokus in der humangeografischen Forschung sollte in dem Kontext darauf liegen, sich eben mit den besonderen Anforderungen, die die Humangeografie an eine KI stellen würde, zu beschäftigen.
Speaker: Also gerade das Thema öffentliche Diskurse, Identitäten, Machtverhältnisse, soziale Risiken, da sind wir auch einfach wieder beim Thema der Biases und wie können wir diesem begegnen.
Speaker: Was da sicherlich total hilfreich ist, einfach um auch besser voneinander lernen zu können und vielleicht auch schneller zu einem Konsens guter wissenschaftlicher Praxis zu kommen, wenn man mit KI arbeitet in der Humangeografie, ist eine Transparenz zu schaffen.
Speaker: Also die Offenlegung meines Codes, wie habe ich die Daten verarbeitet, welches Modell habe ich verwendet, welche Trainingsdaten habe ich verwendet, wie sind die Trainingsdaten zustande gekommen etc.
Speaker: Aber dass das jetzt schon in wirkliche Standards und Richtlinien gegossen wurde, das ist mir jetzt nicht bekannt zumindest.
Speaker: Okay, das heißt also hier eigentlich nochmal ein bisschen Werbung für die Leitlinien zur Sicherung guter wissenschaftlicher Praxis von der DFG, die ja eigentlich auch über allem liegen und denen wir uns hier im Podcast tatsächlich auch in der eigenen Folge zur Ethikprüfung auch nochmal widmen.
Speaker: Und versuchen die schon mal nach bestem Wissen und Gehwissen zum Beispiel über die Offenlegung von dem Code, über die Schaffung von Transparenz, hier auch einfach die intersubjektive Nachvollziehbarkeit zu erhöhen.
Speaker: Um schlussendlich, bis es diese Standards gibt, zumindest auf einer ethisch sichereren Seite im Umgang mit KI zu sein.
Speaker: Und das, was ja aber auch deutlich geworden ist, KI ist schlussendlich aus unserem Alltag nicht mehr weg zu denken.
Speaker: Immerhin zeigt sich das ja zum Beispiel auch in den Hochschulen.
Speaker: Also es ist mittlerweile normal, dass jetzt schländische Arbeiten zum Beispiel die Frage nach der Nutzung von AI stellen müssen.
Speaker: Also das heißt, es ist normal, dass wir jetzt auch die Eigenständigkeitserklärungen haben und zum Teil auch die Prüfungsformate angepasst werden müssen.
Speaker: Ist denn der Eindruck, dass qualitative Forschung und das Verfassen von wissenschaftlichen Texten nicht mehr ohne KI denkbar ist, korrekt Lukas?
Speaker: Oder vielleicht auch anders gefragt, welche Anwendungsfälle sind in der Zukunft ohne KI in der humanen Geografie schlussendlich nicht mehr denkbar?
Speaker: Also mein Eindruck ist, dass KI auch in der humanen Geografie dauerhaft Teil der wissenschaftlichen Praxis werden wird.
Speaker: Ich denke mal dafür sind die Potenziale, die Möglichkeiten, die Effizienzgewinne auch einfach zu groß.
Speaker: Nichtsdestotrotz würde ich sagen, dass nicht jede Forschung KI braucht.
Speaker: Also ich denke an beispielsweise tiefen Interviews, an ethnografische Interviews, wo man sich eben sehr detailliert, sehr intensiv mit Einzelbeobachtungen beschäftigt.
Speaker: Da kann ich mir gut vorstellen, dass man auch ohne KI weiterhin sehr, sehr erfolgreich forschen kann.
Speaker: Auch beim Verfassen wissenschaftlicher Texte.
Speaker: Es ist so, dass KI sicherlich ein Hilfsmittel sein kann,
Speaker: Aber dass man es jetzt nutzen muss oder dass man sonst abgehängt wird, das würde ich jetzt erstmal nicht vermuten.
Speaker: Nichtsdestotrotz gibt es Anwendungsfälle, in denen KI vermutlich unverzichtbar wird.
Speaker: Und das sind aus meiner Sicht die Anwendungsfälle, die ohne KI gar nicht erst möglich waren.
Speaker: Und davon haben wir ja schon gesprochen.
Speaker: Das sind eben diese großgarligen, in meinem Fall sind es Dokumentenanalysen, um eben gesellschaftliche Diskurse aufzudecken, um eben in großen Dokumenten-Corpora zu
Speaker: Themen zu identifizieren, Unternehmen zu klassifizieren, Nachrichtenartikel zu durchforsten etc.
Speaker: Das sind nämlich Anwendungsfälle, wo die klassische Inhaltsanalyse vermutlich an ihre Grenzen stoßen würde, wenn wir betrachten, mit welcher Masse an Daten wir tagtäglich mittlerweile konfrontiert sind.
Speaker: Von daher würde da natürlich eine Anwendung von KI, und so tun wir es ja auch in der Forschung, einfach eine höhere Skalierbarkeit erlauben.
Speaker: Vielleicht eine größere Systematik,
Speaker: Eine Anschlussfähigkeit von qualitativer Forschung, auch an quantitative Forschung, das hatte ich auch schon angesprochen, also aus Textdaten Indikatoren ableiten, die dann quantitativ weiterhin verarbeitet werden können.
Speaker: Damit dann auch eine super spannende Brücke schlagen kann zwischen qualitativer Tiefenanalyse und quantitativer Breite, wenn ich das mal so als beste Option skizzieren darf.
Speaker: Sehr gerne.
Speaker: Und du sprachst vorhin und hast dich auch stark gemacht für das Selbertrainieren zum Beispiel auch von entsprechenden Modellen.
Speaker: Aber würdest du vielleicht auch sagen, okay, wir brauchen vielleicht auch einfach ein Standortmodell, wo wir sagen, das ist gesichert oder brauchen wir vielleicht Zertifikate?
Speaker: Also sowas wäre definitiv super hilfreich, weil dann eben viele dieser Fragen, die wir eben diskutiert haben zu Biases, zu Repräsentativität, zu Fairness, zu ethischen Problemen vorab vielleicht schon geklärt werden könnten, eben durch ein zertifiziertes, transparentes, offenes Modell, was dann für den großen Blumenstrauß an Themen, den wir in der Geografie haben, dann natürlich noch feinjustiert werden kann für den jeweiligen Anwendungsfall.
Speaker: Ja, und das Thema, dass wir als Geografen logischerweise keine Computerwissenschaftler, keine Informatiker sind und wir immer darauf angewiesen sind, vortrainierte Modelle zu nutzen, die andere für uns trainiert haben.
Speaker: Weil ich kenne jetzt zumindest in Europa kaum eine Hochschule, die in der Lage wäre, rein hardware-seitig, infrastrukturell ein Modell der Größenordnung von Chat-GPT etc.
Speaker: zu trainieren.
Speaker: Das heißt, wir sind immer darauf angewiesen, dass es ein Modell gibt, was wir nutzen können.
Speaker: Und gleichzeitig kennt das natürlich auch den Vorteil, dass man sich in der Geografie dann wieder stärker auf die geografische Forschung konzentrieren kann, dort den Fokus legen kann und eine große Arbeit des Modells Scoutings, welches Modell verwende ich etc., schon abgenommen ist quasi oder es zumindest schon mal einen guten Vorschlag gibt eines stabilen etablierten Modells, auf das man zurückgreifen kann.
Speaker: Da würde ich sagen, dass ein
Speaker: EU-Modell sicherlich hilfreich wäre im Hinblick auf die von uns schon andiskutierten Themen, zu Biases, zu Repräsentativität, aber auch zu Themen wie dem EU-AI-Act, der Datenschutz-Grundverordnung, dass wir da eben eine Konformität mit diesen Leitlinien und Richtlinien haben, um eben dort sicherzugehen, dass wir durch diese Nutzung von so einem etablierten, zertifizierten Modell keine Biases reproduzieren, nicht zurückgreifen auf die
Speaker: unfaire, unausgeglichene Weltanschauung, die vielleicht in anderen Modellen integriert sind.
Speaker: Und ich habe jetzt auch zwischendurch schon mal gesehen, dass du auch schon so immer reagiert hast, Sebastian.
Speaker: Und hast du da vielleicht auch Ergänzungen aus deiner praktischen Sicht, also aus der Geoinformatik, vielleicht auch explizit im Hinblick auf eure Projektergebnisse?
Speaker: Also gerade in Bereichen, in denen KI zum Beispiel helfen kann, mit den Folgen des Klimawandels umzugehen, kann ich mir halt auch vorstellen, ihr wollt ja KI auch nicht missen.
Speaker: Ich stimme dem, was Lukas vorhin gesagt hat, komplett zu, dass eben KI aus der Forschung, wahrscheinlich im Allgemeinen, aber aus der geografischen Forschung jetzt im Spezifischen nicht mehr wegzudenken ist, vor allem aus der quantitativen Forschung, also gerade der Geoinformatik, wo es eben um große Datenmengen geht.
Speaker: Ein Forschungsfeld, das wir im Thema Projekt uns auch anschauen, ist die Kombination von verschiedenen Datenquellen, das ich vorhin kurz erwähnt hatte.
Speaker: Und auch da eröffnet KI einfach neue Möglichkeiten.
Speaker: Ein praktisches Beispiel, wir haben Satellitendaten,
Speaker: die alle zwei, drei Tage vielleicht aufgenommen werden.
Speaker: Wir wissen von den Satelliten, wo ist eine Überschwemmung, um bei meinem typischen Use Case zu bleiben.
Speaker: Das heißt, sie können gute Informationen liefern.
Speaker: Aber wenn der Satellit nicht dort ist, wo gerade die Überschwemmung stattfindet, haben wir eine Datenlücke, die natürlich im Katastrophenmanagement kritisch ist.
Speaker: Und wir haben andere Datenquellen, zum Beispiel Social Media, die diese Lücken zumindest teilweise füllen können.
Speaker: Nur die Frage ist, wie man das macht.
Speaker: Und da sind natürlich KI-Modelle auch gerade diese Informationsfusion, in welcher Form auch immer umsetzen können, können sehr hilfreich sein.
Speaker: Jetzt hast du den Klimawandel angesprochen und das ist natürlich ein super spannendes Thema, weil das ein zweischneidiges Schwert natürlich darstellt im Bereich KI.
Speaker: KI hat ein sehr hohes Potenzial, die Folgen des Klimawandels abzuschwächen oder eben auch besser auf sie reagieren zu können.
Speaker: Also Big Data Analysis haben wir jetzt schon mehrfach erwähnt.
Speaker: Das ist natürlich da ein großer Themenbereich, vor allem wenn es um Vorhersagemodelle geht, also wo finden Unwetter statt, welche Gebiete sind vielleicht besonders betroffen dann von den Konsequenzen von Starkregen oder ähnlichem.
Speaker: Also gerade Bereich Frühwarnsysteme.
Speaker: Aber auch wenn man jetzt ein bisschen mehr an die Human-Geografie wieder zurückwechselt und also Effizienzsteigerungen in der Industrie sind natürlich denkbar und Smart-City-Anwendungen und Ähnliches, die dann wiederum auch positive Umweltauswirkungen haben.
Speaker: Demen gegenüber steht der enorm hohe Energieverbrauch von KI-Modellen, der natürlich wieder negative ökologische Konsequenzen hat.
Speaker: Ich habe das mal vor unserem Podcast kurz nachgeschaut.
Speaker: Also JGPT hat einen täglichen Energieverbrauch von 17.000 US-Haushalten.
Speaker: Und das ist ja nur ein Beispiel von Tausenden von KI-Modellen oder Machine Learning Modellen jeglicher Art.
Speaker: Und es gibt eine Hochrechnung, die ich gefunden habe für das Jahr 2027.
Speaker: Das klingt zwar sehr nach Zukunft, aber es sind zwei Jahre, dass der weltweite Energieverbrauch von KI dann bei 0,5 Prozent liegt.
Speaker: Und nur als Vergleich, Österreich hat einen weltweiten Energieverbrauch von 0,2 Prozent.
Speaker: Abgesehen vom reinen Energieverbrauch kommt auch noch das ganze Kühlwasserthema dann auf, was man auch bedenken muss, also für die Rechenzentren das benötigte Wasser.
Speaker: Man sollte aber auch nicht vernachlässigen, dass es auch als neues Paradigma sozusagen diese Green AI Bewegung gibt, also eben Methoden zu entwickeln, die auch wirklich die Reduktion des Ressourcenverbrauchs von KI mitdenken sozusagen, sparsamere Trainingsmethoden etc.
Speaker: Ein zentrales Thema unserer Diskussion war ja Bias, also eben die Beeinflussung von Modellen.
Speaker: Und das ist im Kontext vom Klimawandel meines Erachtens auch sehr wichtig, weil Datenverfügbarkeit ist grundsätzlich immer ein Problem.
Speaker: Und wir haben einfach häufig auch ein Bias, also eine schlechtere Performance von KI-Modellen für Regionen, die stark vom Klimawandel betroffen sind, generisch als globaler Süden vielleicht zusammengefasst.
Speaker: Und das heißt, was ich so auch als Appell vielleicht ein bisschen formulieren möchte, ist, dass man auch dort
Speaker: mehr Kooperationen eingehen und einfach auch wirklich versucht, diese Biasis möglichst klein zu halten.
Speaker: Ja, also es sind alles wahnsinnig spannende Themen und wie vorhin auch schon mal anklang.
Speaker: Wir haben hier nur begrenzt Zeit.
Speaker: Das heißt also, wir haben in diesem Podcast auch wirklich nur an der Oberfläche kratzen können.
Speaker: Und dabei haben wir aber schon trotzdem viel abgehandelt.
Speaker: Also wir haben Themen behandelt.
Speaker: Was ist KI eigentlich?
Speaker: Und auch herausgefunden, dass KI eigentlich erst mal nichts Neues ist in der Geografie.
Speaker: weil wir das im GIS-Bereich, das heißt also Machine Learning, einfach schon seit Jahrzehnten auch kennen und nutzen.
Speaker: Das, was jetzt natürlich hinzukommt, ist das Deep Learning.
Speaker: Das heißt also, wenn wir zu generativen KI-Modellen kommen, die es uns zum Beispiel auch erlauben, eine ganze Reihe neuer Potenziale auszuschöpfen, auf die wir jetzt auch schon eingegangen sind.
Speaker: Das reicht von der Kombination von Daten bis hin zum Zusammenbringen eigentlich von qualitativen und quantitativen Ansätzen, die jetzt mit dem gleichen Datenbestand arbeiten können.
Speaker: Und all das aber auch immer im Hinblick darauf, dass wir KI eigentlich nutzen als weiteres Tool in unserem bestehenden Instrumentarium und dann aber auch bestehende Forschungsmethoden auch weiter nutzen können.
Speaker: Darüber hinaus erlaubt aber KI auch,
Speaker: Jetzt komplett neue Ansätze, die durch KI überhaupt erst möglich werden, methodisch neu zu denken und neu aufzusetzen und dabei aber auch immer zu beachten, KI ist immer auch mit Vorsicht zu genießen.
Speaker: Also wir haben über Themen gesprochen wie Human in the Loop.
Speaker: Das heißt also, hier auch immer eine Person zu haben, die auch nochmal das Ganze auf Plausibilität prüft.
Speaker: Dann die Reduktion von Verzerrungen und da sind wir dann eigentlich bei Humans in the Loop.
Speaker: Das heißt Verzerrungen zum Beispiel auch zu minimieren, indem hier mehrere Personen auch nochmal drüber schauen.
Speaker: Und bestehende Richtlinien, bestehende Leitlinien, sei es jetzt von der DFG die Leitlinien zur Sicherung guter wissenschaftlicher Praxis oder aber auch dann entsprechende GIS-Ethik-Richtlinien natürlich weiterhin anzuwenden, aber dann auch weiterzuentwickeln im Hinblick auf KI.
Speaker: und hier auf die Anwendungsfälle explizit zu übertragen.
Speaker: Denn, und auch das war Thema, die größte Schwierigkeit ist Transparenz.
Speaker: Transparenz bei dem, was ich hier getan habe, was ich hier tue, womit ich eigentlich rechne und
Speaker: Das Ganze kann ich eigentlich, und dafür hast du dich ja auch sehr stark gemacht, Lukas, vor allem dann auch öffnen, indem ich schlussendlich meine KI selber trainiere und hier einen Datensatz habe, den ich auch komplett offenlegen kann, wo andere Personen nachvollziehen können, was ich hier eigentlich getan habe, damit wir eben nicht, und das Wort hattest du vorhin auch so schön reingebracht, Sebastian, die Blackbox haben.
Speaker: Und bei all dem hat KI aber natürlich wahnsinnige Vorteile.
Speaker: Wenn wir uns jetzt zum Beispiel auch wie bei dir im Projekt, Sebastian, anschauen, wenn es um Klimawandelfolgen geht, das heißt also Klimawandelanpassung und gleichzeitig aber auch die Schwierigkeit, KI selber 2027 den zweieinhalbfachen Verbrauch von Österreich auf einmal hat.
Speaker: Das heißt, hier die Frage sich stellt nach Kosten und Nutzen.
Speaker: Und wir dementsprechend noch eine ganze Weile mit diesem KI-Thema beschäftigt sein werden.
Speaker: Und für all diese Einblicke und für eure gesammelte Expertise möchte ich euch an der Stelle auch schon mal danken.
Speaker: Und von Seiten des VGH sind wir aber natürlich auch immer darauf bedacht, unseren bestehenden Mitgliedern und potenziellen Mitgliedern etwas Praktisches auf den Weg zu geben.
Speaker: Und dementsprechend auch zum Umgang mit KI heutzutage.
Speaker: Also was sind vielleicht auch noch weitere forschungspraktische Aspekte oder auch Tipps, welche die Geografie hierbei bedenken sollte?
Speaker: Magst du, Lukas, da den Anfang machen?
Speaker: Ja, gerne.
Speaker: Ich kann vielleicht einen großen Tipp geben, der sich dann in viele kleine Tipps aufgliedern lässt.
Speaker: Sehr gerne.
Speaker: Und zwar ist das die große Open-Source-Community, die es rund um die Entwicklung von vor allem Large-Range-Models gibt.
Speaker: Es gibt da eine große Webseite, HuggingFace.de.
Speaker: Da sind Stand jetzt knapp zwei Millionen Open Source Modelle veröffentlicht, aber da hört das nicht auf.
Speaker: Dort sind Datensätze zu finden, dort sind mittlerweile Posts, Tutorials zu finden zum Umgang mit KI.
Speaker: Man kann sogar Kurse machen, um selbst KI-Programmierung zu lernen.
Speaker: Also sehr, sehr barrierefrei und verbindet aber gleichzeitig die Möglichkeit, nicht in eine Abhängigkeit von geschlossenen Modellen zu geraten, sondern wirklich ständig.
Speaker: sich selbst die Skills anzueignen, um eigene Modelle zu trainieren, um eben auch eine transparente Forschung ermöglichen zu können.
Speaker: Vielleicht hat der Podcast ja beim einen oder anderen das Interesse geweckt, da selbst aktiv zu werden.
Speaker: Dann ist das eine super Anlaufstelle, um ganz, ganz viele Inspirationen zu bekommen, aber auch wirklich Hands-on-Tipps zu bekommen, wie lege ich denn überhaupt los.
Speaker: Gleichzeitig kann man bei diesen Möglichkeiten, die KI einem gibt, natürlich auch schnell verlockt sein, in eine Art der Überautomation zu geraten und unreflektiert den Output eines Language Models zu übernehmen.
Speaker: Und da denke ich, ist die zentrale Herausforderung für uns in der Forschungspraxis,
Speaker: Daraufher zu sorgen, dass KI nicht die Denk- und Interpretationsmuster oder Prozesse von uns als Wissenschaftlern ersetzt, sondern sie immer nur ein Werkzeug ist für uns, um schlussendlich uns das Leben einfacher zu machen, den Forschungsalltag vielleicht auch zu erleichtern.
Speaker: So wie wir es schon von anderen technischen Tools kennen, sei es in der Literaturverwaltung, bei der Rechtschreibprüfung etc.
Speaker: Von daher ist das vielleicht mein Schlussstatement, dass KI ganz, ganz viele Potenziale hat, auch für das Verfassen von Texten.
Speaker: Aber die schlussendliche Verantwortung liegt immer noch bei Menschen, die Inhalte zu reflektieren, die Ergebnisse zu prüfen und sicherzustellen, dass es eben Ausdruck der eigenständigen wissenschaftlichen Arbeit ist und im schlimmsten Fall keine Halluzination eines Large Language Models.
Speaker: Was würdest du unseren Hörerinnen mitgeben, Sebastian?
Speaker: Ja, eigentlich kann ich da gar nicht mehr wahnsinnig viel ergänzen, weil Lukas hat da schon einen sehr guten Rundumschlag gegeben.
Speaker: Also ich denke, die zentrale Komponente der Wissenschaft ist ja eigentlich das kritische Hinterfragen auch.
Speaker: Und das sollte eben erhalten bleiben oder muss erhalten bleiben, weil KI ist eben kein Allheilmittel, sondern einfach ein
Speaker: Werkzeug, das aber auch eben intrinsische Probleme mit sich bringt, die man eben, wie wir jetzt schon diskutiert haben, transparent beschreiben muss.
Speaker: Und ich denke jetzt auch gerade so ein bisschen schon in Richtung dem ganzen Review-Prozess beispielsweise, wo natürlich auch die KI verlockend ist, dass man da den Review
Speaker: sozusagen ersetzt durch ein Modell.
Speaker: Und das ist auch eine potenzielle Entwicklung, die sehr problematisch wäre, weil man das kritische Hinterfragen dann dadurch umgehen würde.
Speaker: Und den angesprochenen Human in the Loop und auch eben, was ich vorhin im Bereich des Katastrophenmanagements genannt habe, was uns immer wieder von den Endanwendern auch so beschrieben wird, die Entscheidung trifft nicht die KI.
Speaker: Die KI ist eine entscheidungsunterstützende Methodik.
Speaker: Okay, das sind sehr praktische, sehr wichtige Hinweise auch nochmal zum Schluss und von daher an euch beide an dieser Stelle erstmal vielen lieben Dank für den Einblick in nicht nur eure Arbeit, sondern tatsächlich auch Large Language Models, wie funktioniert KI,
Speaker: Was kann die Geografie mit KI alles anfangen?
Speaker: Was bringt KI der Geografie wirklich?
Speaker: Und das war jetzt aber natürlich nur die erste von vielen spannenden Folgen, die euch da draußen in den kommenden Wochen und Monaten erwarten.
Speaker: Denn, wie bereits im Gespräch angeteasert, wird es zum Beispiel eine Folge zur Ethikprüfung geben und wir haben auch eine sehr spannende Folge zur Klimakommunikation.
Speaker: die sehr gut an die heutigen Diskussionen anknüpft.
Speaker: Entsprechend empfehle ich euch dringend, was bewegt die Geografie auf der Streaming-Plattform eures Vertrauens zu abonnieren, um dort auch weiterhin auf dem Laufenden zu bleiben.
Speaker: Und wenn ihr mehr über die Schöpferinnen hinter den Kulissen, also schlussendlich den VGTH, erfahren wollt,
Speaker: Schaut auch gerne mal auf vgdh.de vorbei.
Speaker: Dort findet ihr dann auch alle Infos zu diesem Podcast und natürlich auch die Links zu allen Publikationen, über die wir gesprochen haben, sowie sämtliche Homepages.
Speaker: Und in dem Sinne wünsche ich euch da draußen erst einmal eine gute Zeit und euch beiden, Lukas und Sebastian, nochmals vielen, vielen Dank für euren Input und ich freue mich schon auf die nächsten Folgen, denn wir haben einige spannende Themen in der Pipeline.
Speaker: In dem Sinne, Ahoi und bis zum nächsten Mal.
Speaker: Ciao, ciao.
Speaker: Tschüss.
