Become a Creator today!Start creating today - Share your story with the world!
Start for free
00:00:00
00:00:01
#9: Matthias Hornschuh zu neuer Studie: KI Training ist Urheberrechtsverletzung
92 Plays4 months ago
In dieser Folge unterhalte ich mich mit Matthias Hornschuh über eine bahnbrechende interdisziplinäre Studie, die zeigt, dass KI Training tatsächlich eine Verletzung des Urheberrechts darstellt. Matthias ist Komponist, Sprecher der Kreativen bei der Initiative Urheberrecht und sitzt im Aufsichtsrat der GEMA.
Prof. Dr. Tim W. Dornis (Universität Hannover) führt in Zusammenarbeit mit Prof. Dr. Sebastian Stober (Universität Magdeburg) mit einem Tandem-Gutachten zu den technologischen und rechtlichen Aspekten des Trainings generativer KI-Modelle erstmals den Beweis darüber, was alle Kreativen im Herzen schon wussten und was alle Tec Provider bislang nicht wahrhaben wollten.
Zum ersten Mal schaffen ein Informatiker und ein Rechtswissenschaftler gemeinsam Evidenz hinsichtlich der Verarbeitungsschritte beim KI-Training.
Weitere Infos zur Initiative Urheberrecht und Zusammenfassung der Studie: https://urheber.info/diskurs/ki-training-ist-urheberrechtsverletzung
Link zur ganzen Studie: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4946214
Nachrichten an: deeptalk@mic-rider.com
Website: https://www.mic-rider.com/
Host und Redaktion: Patrick Messe (https://www.patrickmesse.at/)
Zu Gast: Matthias Hornschuh (https://hornschuh-musik.de/)
Bild: Charly Glawischnig (https://www.charlyglawischnig.com/)
Ton: Lukas Wurm (https://lukaswurm.com/)
Recommended
Transcript
Einführung und Vorstellung
00:00:01
Speaker
Mike Rider Deep Talk. Menschen. Business. Diskussionen. Der Mike Rider Podcast.
Wer ist Matthias Hornschuh?
00:00:11
Speaker
Hallo und herzlich willkommen zu einer neuen Folge Mike Rider Deep Talk. Heute wird es ein bisschen nerdig, aber auch sehr, sehr schön für uns Kreative, denn ich habe Matthias Hornschuh zu Gast von der Initiative Urheberrecht.
KI und Urheberrecht
00:00:24
Speaker
Und wir diskutieren über eine frisch gebackene, herausgebrachte Studie zum Thema KI-Training und Text-and-Data-Mining und eben die damit verbundene Urheberrechtsverletzung. Hallo Matthias, schön, dass du da bist. Hi, ich freue mich. Hi, grüß dich.
00:00:41
Speaker
Ja, ich mich auch. Ja, kurz zu dir vielleicht. Erstmal, du bist Komponist, du bist eben, wie gesagt, Sprecher der Kreativen in der Initiative Urheberrecht.
Arbeit und Engagement
00:00:50
Speaker
Das ist im Aufsichtsrat der GEMA. Du publizierst, du unterrichtest, du hast noch einige weitere Ehrenämter inne. Wie bringst du das alles unter einen Hut? Erzähl mal ein bisschen von, wie sieht ein Tag im Leben des Matthias Hornschuh aus?
00:01:06
Speaker
Also ich weiß, dass das vielleicht ein bisschen, also direkt als Einstieg jammern ist immer blöd, aber tatsächlich weiß ich oft nicht mehr, wie ich das in einen Tag bringen soll, was alles da passiert, was alles ansteht. Das, was du andeutest mit den zusätzlichen oder den weiteren Ehrenämtern, das ist ja tatsächlich Teil meiner DNA. Also ich würde das jetzt nicht alles aufführen wollen, dann ist die Sendezeit rum.
00:01:31
Speaker
Es ist jede Menge. Und der Grund, warum ich das alles mache, ist ja, dass ich so sehr dran glaube, dass diejenigen, um die wir uns da kümmern und für die wir da kämpfen und für die ich da kämpfe, dass dies
00:01:44
Speaker
dringend nötig haben einerseits und andererseits aber auch verdienen.
Herausforderungen des Arbeitsalltags
00:01:47
Speaker
Also sowohl um ihrer Selbstwillen als auch um der Gesellschaft willen. Und das ist einerseits, da sitzt die Kraft, die ich dafür irgendwo herziehe. Ich glaube da ganz fest dran, ich bin wirklich ganz tief überzeugt davon, dass das alles wichtig und richtig ist. Und gleichzeitig ist es aber auch so, dass natürlich, und das ist eben wiederum eine ganz typische Kulturwirtschaftliche Betrachtung,
00:02:10
Speaker
dass ich natürlich erpressbar werde mit den Inhalten. Das heißt, es ist alles so wichtig und so bedeutsam, dass ich ja eigentlich nie Nein sagen kann. Und das ist manchmal schon gar nicht so einfach, ehrlich gesagt, da wieder rauszukommen.
00:02:22
Speaker
Und ich merke, von Jahr zu Jahr wird das schlimmer tatsächlich, dass bei dieser Bedeutung sinnhafter und sinnstiftender Arbeit die Dinge, die nicht so sinnhaft und nicht so sinnstiftend sind, irgendwann immer schwerer werden. Steuererklärung, Buchhaltung oder sowas, das ist für mich inzwischen eine solche Qual, dass ich manchmal wirklich nicht weiß, wie das mit der Zeit hinkommen soll. Das war jetzt eine sehr lange Antwort auf diese Eingangsfrage, tut mir leid.
Prioritäten und Aufgabenmanagement
00:02:49
Speaker
Nein, überhaupt nicht. Wir haben alle Zeit der Welt, alles gut. Aber ja, ich kann das sehr gut nachfühlen, beide Punkte. Also, tatsächlich Steuererklärung und Buchhaltung habe ich inzwischen ausgelagert, weil es mich einfach so viel Kraft und Zeit kostet, unverhältnismäßig viel, dass ich lieber jemanden dafür bezahle, der das dann auch richtig macht mit Hand und Foto oder die.
00:03:08
Speaker
Genau. Und zu dem Ehrenamtsthema, ja, ich kann das in sehr viel kleineren Rahmen auch sehr gut nachempfinden, weil das ist tatsächlich so. Man denkt sich dann, das ist aber total wichtig. Und dann fällt es sehr, ich lerne jetzt.
00:03:23
Speaker
Ja, genau. Und ich lerne jetzt gerade sehr stark nein zu sagen. Also das ist meine Persönlichkeitsentwicklung, dieses Persönlichkeitsentwicklungselement an dieser Arbeit, die ich ja auch, wie gesagt, im Kleinen haben, mache.
Kultur und Identität
00:03:39
Speaker
Ich glaube, das ist ein Teil dessen, was mit einer, sagen wir mal, professionalisierung einhergeht. Also, dass man lernen muss, Nein zu sagen, dass man lernen muss zu priorisieren, dass man lernen muss, Dinge auch einfach mal unerledigt zu lassen, weil was anderes tatsächlich wichtiger ist oder gefühlt wichtiger ist. Und ich glaube eben, und das ist vielleicht gar nicht so unwichtig für das, was wir heute besprechen wollen,
00:04:01
Speaker
dass das sehr bezeichnend nicht nur für politisches Ehrenamt, sondern für kulturelles Schaffen insgesamt ist. Also wir sind halt erpressbar mit unseren Inhalten, weil wir so sehr dran glauben und weil wir unsere Identität daraus ziehen. Wenn wir nicht auf die Bühne können, wenn wir nicht veröffentlichen können, wenn wir nicht schreiben und irgendwo auch ein Publikum finden können, dann leidet ja unsere Identität. Bei anderen Menschen leidet das Einkommen, das kommt bei uns noch dazu, aber zunächst mal ist der innere Antrieb ja der, dass wir es machen müssen.
00:04:29
Speaker
Und das führt eben zu dieser ganz strukturellen Problematik, dass
00:04:35
Speaker
es unglaublich vielen von uns wahnsinnig schwer fällt, sich zu wehren und Nein zu sagen, wenn es nötig wäre. Zum Beispiel, wenn das Geld nicht reicht. Und wenn jemand sagt, ich habe ein ganz wichtiges Projekt, aber ich habe leider kein Geld mehr, dann denkt man drüber nach, wie wichtig das Projekt möglicherweise sein könnte und wie schick es ist und ob man damit vielleicht ein bisschen Renommee einfahren kann und so. Und schon ist man wieder in so einer Schleife, wo man nicht drüber nachdenkt, ob man sich es eigentlich leisten kann, das zu tun. Und ich glaube, dass diese Problematik so
00:05:04
Speaker
bedeutsam ist, dass ich immer mehr dazu komme, der Politik auch zu sagen, ihr müsst uns da helfen, ihr müsst uns da schützen.
Initiative Urheberrecht
00:05:12
Speaker
Ja, total. Also ich kenne das sehr, sehr gut und sicher jede Kollegin, jeder Kollege, der das hört, wird mindestens einmal wahrscheinlich ständig in dieser Situation gewesen sein, sich zu denken, Purpose versus, ja,
00:05:29
Speaker
Einkommen, Selbstschutz, Priorisierung, Familie, was auch immer. Deswegen ist es so wichtig, dass es solche Organisationen gibt, wie zum Beispiel die Initiative Urheberrecht. Vielleicht für die, die, wir haben uns ja schon getroffen, kennen uns ein bisschen, erzähl mal vielleicht für die, die die Initiative Urheberrecht nicht kennen. Was seid ihr, was macht ihr, wofür steht ihr? Vielleicht sollte ich als erstes dazu sagen, dass wir im Moment natürlich über die deutsche Initiative Urheberrecht sprechen,
00:06:00
Speaker
Das ist auch ganz toll. Das sind ganz tolle Kollegen, mit denen wir auch eng zusammenarbeiten. Aber wir sind eben mit dieser Struktur vor, na ja, ich glaube fast 25 Jahren gestartet. Wobei, das ist nicht richtig. Die Struktur hat sich viel später entwickelt. Vor ungefähr 25 Jahren gab es die Erkenntnis, dass man gemeinsam mehr bewegen wird und mehr Verständnis schaffen und aber auch verbreiten kann.
00:06:25
Speaker
als alleine. Und diese Kulturbranche ist ja insgesamt tendenziell schon eine von Einzeltätern und von Einzeldenkern und von hochgradig individualisierten Akteuren. Und das war damals nicht so eine selbstverständliche Überlegung zu sagen, zunächst mal von Juristen aus diesem Bereich, lass uns das doch mal gemeinsam machen. Lass uns doch gemeinsam in die Bestandsaufnahmen gehen, in die
00:06:53
Speaker
Strategie gehen und in die Forderungsformulierung gehen und dabei auch, und das ist glaube ich ganz entscheidend, lernen, was die jeweils anderen aus ihren konkreten Bereichen beizusteuern haben, denn die sind ja nicht identisch, diese Bereiche. Also ob ich jetzt Belletristik-AutorInnen vertrete oder ob ich PressefotografInnen oder vielleicht KriegsberichterstatterInnen vertrete, das ist ja doch mal ein riesiger Unterschied.
00:07:18
Speaker
Allein schon im Bereich der Musik, wo ich ja sozusagen als Komponist und Musiker im Kern erst mal herkomme, ist es so, dass dieser Unterschied zwischen jemandem, der Autorschaft verkörpert und jemandem, der auf einer Bühne steht, einfach ein
Diversität im Kultursektor
00:07:30
Speaker
Fundamentaler ist. Das sind völlig unterschiedliche Wertschöpfungsketten und rechte Ketten, die dahinter hängen. Das ist aber den meisten Leuten gar nicht bewusst. Die sprechen von Künstlern und von Musikern und glauben damit, alles abzubilden, was schlechterdings falsch ist.
00:07:42
Speaker
Und diesen Gap, also diese Wissenslücke zwischen den Gewerken zu überbrücken und einen gemeinsamen Wissensstand, einen abgestimmten Wissensstand herzustellen, das war ursprünglich die Idee hinter dem Zusammenschluss von JuristInnen, die im Urheberrecht tätig waren. Daraus ist dann eine Dachverbandsstruktur geworden.
00:08:05
Speaker
Und seit ungefähr 20 Jahren ist es so, dass es eben auch eine Vereinsstruktur im Hintergrund gibt. Das ist letzten Endes eigentlich nur der Förderverein, der die Arbeit ermöglicht. Und wir vertreten im Moment, ich glaube, 45 Mitgliedschaftsverbände und Gewerkschaften im deutschen Raum. Und wenn man das summiert, sind das allein an Mitgliedern in diesen Verbänden um die 140.000, was aber
00:08:31
Speaker
Immer so eine Zahl ist, die ich mit etwas Bauchschmerzen ausspreche, weil tatsächlich die Zahl derjenigen, für die wir natürlich in der Sache sprechen, viel, viel größer ist. Denn es sind ja keineswegs alle, die irgendwo schöpferisch tätig sind, auch Mitglied in diesen Verbänden und in diesen Gewerkschaften.
00:08:47
Speaker
Ja, klar. Also ich weiß jetzt aus meinem konkreten Fachbereich, der Verband Deutscher SprecherInnen ist bei euch Teil der Initiative EU-Bereich, aber es sind ja bei Gott nicht alle SprecherInnen Mitglied beim Verband Deutscher SprecherInnen. Ganz genau. Zum Teil sind sie vielleicht ein anderen Verbänden Mitglied, dann wären sie vielleicht eben doch bei uns oder in Gewerkschaften zum Beispiel oder so. Aber das stimmt und das ist eben auch ein Punkt, über den wir immer wieder nachdenken müssen. Also für mich ist es zum Beispiel als Sprecher dieser
00:09:16
Speaker
dieser Struktur sehr wichtig, dass ich mir immer wieder genau überlege, wo eigentlich meine Mandatsgrenzen verlaufen. Das heißt, es gibt zum Beispiel Dinge, die ich in meinem Mandat sehr klar und sehr präzise sagen kann, und es gibt Dinge, wo ich sehr klar markiere, dass ich jetzt in meine eigene persönliche Haltung mich bewege.
Risiken von generativer KI
00:09:35
Speaker
Ja, also im Moment zum Beispiel treibt mich das ein bisschen um, dass ich immer mehr dazu komme, dass ich denke, dass dieses ganze generative KI-Thema vielleicht doch eher ein Schwachsinnsthema ist. Das ist aber eine persönliche Haltung und als Initiative Urheberrecht haben wir eine abgestimmte Haltung, die ganz klar, und das ist auch meine tiefe Überzeugung, dass das stimmt, die ganz klar dahin geht zu sagen, wir wollen nichts verunmöglichen, wir wollen nichts verbieten, sondern wir brauchen also keine Fahrverbote, sondern wir brauchen Verkehrsregeln, wir brauchen eine Verkehrsordnung.
00:10:04
Speaker
Ja, also das geht eher ums Ermöglichen. Aber ich komme persönlich immer mehr dahin, je mehr und je tiefer ich mich damit auseinandersetze, dass die Risiken und die Gefahren für die Gesellschaft, die mit dieser Technologie und mit dem vollkommen unverstandenen und unreflektierten Umgang damit einhergehen, so groß sind, dass wir uns das eigentlich überhaupt nicht erlauben können, diesen Schwachsinn so zuzulassen.
00:10:25
Speaker
Das ist aber wie gesagt genau meine persönliche Meinung und das ist ganz wichtig für diese Art von politischer Arbeit. Ich bin ja zum Beispiel auch Mitglied im Aufsichtsrat der GEMA, das ist das Pendant zur österreichischen AKM, also die Musikautorenverwertungsgesellschaft. Und da muss ich auch immer sehr klar markieren, dass ich in einer Funktion spreche und was ich in dieser Funktion überhaupt sagen darf.
00:10:50
Speaker
Ja, das kann ich auch sehr gut nachfühlen, weil man hat ja immer auch einen persönlichen Berührungspunkt, eine Geschichte, einen Erfahrungswert und eine Meinung ganz einfach. Und dann hat man eine Aufgabe, für die man in dieses Amt berufen wurde und eben ein
00:11:07
Speaker
die Aufgabe ein möglichst konstruktives Weiterkommen für die gesamte Branche zu schaffen. Meine persönliche Meinung ist auch eine andere zu dem Thema, dass wir uns da ganz, ganz schön weit aus dem Fenster lehnen lassen, sage ich jetzt mal bewusst, bei etwas, wo wir
00:11:32
Speaker
Ich habe das Gefühl, wir spielen mit Zündhölzern auf einem Dynamit-Fass. Wir lassen uns immer wieder auf eine Technologie.
00:11:49
Speaker
reduzierte Diskussionsebene lenken. Also immer wieder heißt es ja, ihr versteht die Technologie nicht und guckt euch doch mal an, wie die sich entwickelt in zehn Jahren, was da möglich sein wird. Das ist einerseits ein Teil dessen, womit wir umgehen müssen im Moment. Es stimmt ja tatsächlich, dass die Entwicklungen rasant sind und sehr schnell. Und das ist aber genau der Punkt, der mich dazu bringt zu sagen, Moment,
00:12:10
Speaker
Technologie ist das eine, Gesellschaft und Menschliches handeln das andere und ich bin immer auf der Seite der Gesellschaft und der Menschen und finde, dass Technologie in ihren Grenzen nur das dürfen darf, was den Menschen und den Gesellschaften zuträglich ist.
00:12:30
Speaker
Absolut. Vor allem, weil du es ja schon sehr richtig im Nebensatz erwähnt hast, das Wichtigste, was irgendwie unter dem Tisch fällt, ist, wir reden immer von könnte, von potenziellen, von konjunktiven Zukunftsszenarien. Das ist ja alles im Endeffekt nur ein Versprechen, darauf zu vertrauen, dass das dann auch eintreffen wird, was vielleicht
00:12:52
Speaker
Das ansprechend klingt jetzt im Pitch oder in der Präsentation. Es ist ja nix fix und wenn man sich den Ist-Stand anschaut, werden magere, ich würde mal sagen, ein einstelliger prozentualer Bereich von dem erfüllt, von dem was uns versprochen wird.
00:13:09
Speaker
Ja, das kommt ja noch dazu, dass eben die Versprechen fast immer Heilsversprechen sind und Perfektionsversprechen und dass letzten Endes das, was tatsächlich im Moment gerade vor unseren Augen geschieht, zum Teil so erbärmlich ist, was zum Beispiel die Effizienz betrifft. Also was die Energieverschwendung und die Ressourcenverschwendung betrifft für das, was wir in Ergebnissen kriegen.
00:13:28
Speaker
Ich weiß nicht, wie tief du jetzt am Anfang einsteigen wolltest, aber es gibt ja eine empirische Studie, die ein paar Tage alt ist, die belegt, dass jetzt schon, heute schon, also im September
00:13:47
Speaker
der im Internet aufzufinden, Texte maschinengeneriert sind. Das muss man sich einfach mal vorstellen, was das bedeutet. Das bedeutet für uns Menschen, dass wir längst umgeben sind von generischen Texten, die alle Probleme, die diese Technologie in sich birgt oder in sich trägt, abbildet und reproduziert, aber gleichzeitig bedeutet es auch, und da sind wir dann eben doch gleich wieder in der Technologie,
00:14:13
Speaker
dass die KI-Anbieter inzwischen Gefahr laufen, eben in diese incestuösen Verhältnisse zu geraten, wo sie ihr eigenes Zeug zum Training heranziehen und sich damit sozusagen irgendwann in die Verdummungsschleifen begeben. Also da gibt es ja Terminologie für, das ist einerseits Degenerative AI und das andere ist der Begriff des Model Collapse.
00:14:35
Speaker
Und das passiert dann, wenn KI auf ihren eigenen Erzeugnissen trainiert wird. Und dann passiert eben ein Verdummungseffekt, der tatsächlich auch bei CHPT über die letzte Jahresgrenze schon mal öffentlich sichtbar wurde in den Ergebnissen dessen, was rauskam.
00:14:53
Speaker
Und das ist wiederum ein Hinweis darauf, und da sind wir mitten in unserem Thema drin tatsächlich, ist ein Hinweis darauf, dass eine ganz interessante Dynamik da eigentlich gerade stattfindet. Diese Anbieter dieser Technologie sind nämlich händeringend und existenziell angewiesen auf unsere Leistungen. Wir liefern den Treibstoff, weil die Maschinen zum Training menschengemachte Inhalte brauchen.
00:15:17
Speaker
Und diese Systematik sollte ja jetzt eigentlich in einer volkswirtschaftlichen Denke, wie wir sie in Europa haben, und Europa hat ja eigentlich keine andere, weil das einzige Mandat Europas ist, einen Binnenmarkt zu konstruieren und zu schützen. Also wenn wir mal davon ausgehen, dass dieser Binnenmarkt
00:15:35
Speaker
sich normalerweise aus Angebot und Nachfrage konstruiert, dann haben wir hier eine Nachfrage, die nicht auf Zustimmung von uns basiert. Also das heißt, unsere Inhalte dieser Treibstoffe wird hergenommen, ohne dass wir gefragt werden, ohne dass wir zustimmen können. Es findet keine Vergütung statt. Wie soll das in einer Volkswirtschaft auf Dauer gut gehen und zumal in diesem Umfang? Und wir werden noch nicht mal genannt oder referenziert in irgendeinem
00:16:04
Speaker
Ich meine, das sind diese drei Cs. Consent, Compensation und Credit. Da kommt vielleicht noch ein viertes C dazu, nämlich Control. Das heißt, uns wird die Kontrolle abgenommen, aber unsere Rechte sind dem Recht nach Exklusivrechte. Also, allein das schon zu beschreiben, führt eigentlich dazu, dass Volkswirtschaftler und Politikwissenschaftler eigentlich die Hände über dem Kopf zusammenschlagen müssten. Die sind aber zu großen Teilen schlicht und ergreifend gebrainwashed.
00:16:31
Speaker
von der Fortschrittserzählung der KI-Anbieter. Also das sei ja Innovation. Und ich meine, das muss man sich wirklich mal vorstellen, wie weit wir schon mit unseren eigenen Ansprüchen in den Keller gestiegen sind, wenn wir allen Ernstes annehmen, dass Innovation nur technologiebasiert stattfinden
Rechtsfragen und KI
00:16:48
Speaker
könnte. Was machen wir denn jeden einzelnen Tag? Neues uns ausdenken.
00:16:54
Speaker
Ja, du sprichst mir aus der Seele. Vielleicht noch aus meiner Perspektive hat das vierte C, was du genannt hast, Control einen wesentlich größeren Stellenwert, weil es bei mir persönlich und auch bei Schauspielkolleginnen sehr stark um die Identität geht, um biometrische Daten, die verwurstet werden, wo wir die Kontrolle einfach verlieren und da geht es dann bis hin zum Identitätsdiebstahl.
00:17:18
Speaker
Ganz genau und das ist ganz wichtig, was du da ansprichst, weil nämlich an der Stelle eine vermeintliche Grenze, die wir zwischen verschiedenen Rechten haben, gar nicht mehr existent ist. Denn wir betrachten ja immer das Urheberrecht einzeln und dann betrachten wir das Recht auf informationelle Selbstbestimmung und den Datenschuss einzeln und dann gucken wir uns gleichzeitig noch das Kartellrecht an und da haben wir noch
00:17:36
Speaker
jede Menge andere Dinge, die damit einhergehen. Und die gucken wir immer getrennt an und tun so, als ob das irgendwie sinnhaft oder sinnstiftend irgendwie ermöglicht und aufrechterhalten werden könnte. Und das ist totaler Schwachsinn. Wir haben es mit konvergenten Entwicklungen zu tun, die alle Grenzen einfach niederwalzen. Und wir bleiben in unseren Rechtskästchen und versuchen immer, alles sauber zu sortieren. Wir müssten das aber längst eben ordnungspolitisch zusammenfassen. Das muss Chefsache sein, so was. Dafür ist es wichtig genug.
00:18:02
Speaker
Ja, also für mich kommt es so vor und I'm trying to make it a thing, dass es digitaler Kolonialismus ist am Ende des Tages. Absolut. Es ist digitaler Raubzug und Enteignung. Und Neophytalismus. Ja, ja. Und dadurch kann mir, ja, die Wertschöpfung ist ja schön und gut, aber die passiert dann halt nicht mehr, da wo die Menschen leben und die sukzessive
00:18:28
Speaker
Nahrungskette aus dieser Wertschöpfung auch bräuchten, sondern das wird dann auf Serverfarmen egal, wurscht woanders. Es ist eben nicht wurscht, denn da sind wir dann eben schon wieder im Urberecht. Also es ist eben deswegen nicht wurscht, weil einerseits genau wie du richtig beschreibst, die volkswirtschaftliche Wertschöpfung daran klebt und die ist uns aber entzogen.
00:18:48
Speaker
Das muss man sich wirklich mal vorstellen, dass der eigentliche Wert, der geschöpft wird, eben in den USA, in China, in Südkorea geschöpft wird und nicht bei uns. Andererseits ist es eben so, dass mit dem
00:19:05
Speaker
Ort, an dem es geschieht und wo dann auch die Wertschöpfung verortet ist, natürlich auch der Rechtsstand verbunden ist, auf den wir uns beziehen müssen. Und das ist ja ein Riesenthema im Urheberrecht dann wiederum. Also wenn das konkrete Training, also der technische Vorgang des Trainings in den USA geschieht, dann gilt für diesen Vorgang amerikanisches Recht und nicht europäisches oder deutsches oder österreichisches. Und das hat uns eben in den letzten Monaten viel Kopfzerbrechen bereitet.
00:19:32
Speaker
Das glaube ich, deswegen hatte ich auch persönlich ganz ehrlich das Urheberrecht fast schon abgeschrieben. Also es war für mich so ein, ja, ethisch-moralisch, im Herzen, total, aber
00:19:44
Speaker
Im Legal Battle, der dann kommen wird, sobald der AI Act dann in Kraft getreten ist zur Gänze, habe ich uns da keine, also da habe ich wesentlich größere Chancen gesehen in der DSGVO, da habe ich wesentlich größere Chancen gesehen im Persönlichkeitsrecht und deswegen freut es mich umso mehr, dass wir, und jetzt kommen wir eh zu der Studie, die ihr rausgebracht habt, freut es mich umso mehr, dass ihr zum ersten Mal offensichtlich den Beweis führen konntet,
00:20:14
Speaker
dass, also berichtige mich bitte oder lass uns da dann gerne länger bei bleiben, dass beim KI-Training Daten kopiert werden und dadurch Waiberrecht verletzt wird. Weil bisher haben sich ja die Provider immer hinter der Text-and-Data-Mining beziehungsweise für die USA-Fair Use versteckt, im Sinne von eben kurz vielleicht für die
00:20:41
Speaker
Oder magst du kurz Text-and-Data-Mining? Nee, du kannst es kurz umreißen und ich kann es dann ja ein bisschen auf die Studie runterbrechen. Ja, gut, gerne, genau. Also Text-and-Data-Mining ist im Grunde sagt das für wissenschaftliche und Forschungsarbeit. Du darfst nehmen, was du willst, was schon frei verfügbar ist im Internet. Du musst dafür nicht extra bezahlen, du musst dafür keine Rechte einholen, du musst dafür keine Namen nennen oder irgendwen fragen.
00:21:07
Speaker
Es muss allerdings legal verfügbar sein, das muss man dazu sagen. Genau, legal verfügbar, danke. Und sobald du in einen kommerziellen Kontext kommst, also du konstruierst ein Produkt, eine Dienstleistung, was auch immer, für die du dein Geld verlangst, sind wir zwar
00:21:23
Speaker
theoretisch immer noch im Text-and-Data-Mining-Bereich, aber da können die Leute opt-outen. Also die Entscheidung treffen, ich möchte bitte nicht, dass meine Daten, meine Werke, meine Bilder, was auch immer, meine Musik verwendet wird für diesen kommerziellen Zweck. Und wenn doch, müssen wir uns halt darüber einig werden, zu welchen Konditionen. Da habe ich dann nämlich ein Mitspracherecht. Ist das ungefähr die?
00:21:49
Speaker
Also über das Opt-out wird eigentlich so was wie ein Lizenzmarkt überhaupt erst ermöglicht, also aktiviert. Weil vorher gilt eben eine gesetzliche Ausnahmeregelung, dass man unsere Dinge hernehmen darf, solange sie legal verfügbar sind.
00:22:04
Speaker
Was ja auch grundsätzlich für Forschung und Wissenschaft kann man auch total dafür sein und sagen, ja, das macht Sinn, dass eine Universität jetzt nicht bei einer statistischen Erhebung zum Beispiel jeden Einzelnen fragen muss, darf ich bitte anonymisiert dein, weiß ich nicht, dein Gewicht, dein Alter, deine, keine Ahnung, nehmen, dein Bild,
00:22:30
Speaker
Verhalten, was auch immer Sie da untersuchen, sonst wäre Wissenschaft und Forschung sehr, sehr stark eingeschränkt. Völlig okay. Aber sobald es kommerziell wird, wollen wir halt zumindest mitreden können und eine Wahl haben. Es geht ja im Endeffekt darum, eine Wahl zu haben und Konditionen zu gestalten.
00:22:53
Speaker
Na ja, und wie du gerade schon gesagt hast, also bevor wir jetzt konkret in die Studie und in das Recht eingestiegen sind, es geht ja eben nicht nur um die wirtschaftlichen Zusammenhänge, sondern es geht eben auch um die persönlichkeitsrechtlichen Implikationen, die auch zum Beispiel mit den personenbezogenen Daten im datenschutzrechtlichen Sinne
00:23:10
Speaker
zu tun haben und du hast eben auch den Begriff der biometrischen Überwachung vorhin schon benannt, der mich sehr umtreibt. Ich weiß nicht, ob du dich erinnern kannst an das Plugin oder an die App Lensa. Lensa war im Sommer 22, also bevor die sogenannte KI-Revolution begann, war das so ein Ding, mit dem konntest du für deine Social-Media-Seiten dir so ein lustiges Stormtrooper-Bild machen lassen.
00:23:35
Speaker
Also dein Gesicht in einer Stormtrooper-Uniform oder im Darth Vader-Kostüm oder so. Haben unglaublich viele Leute gemacht. Und wenn man sich mal anguckt, wie das Ding funktioniert hat, das ist schon ziemlich erstaunlich. Also das war relativ einfach. Du musstest einfach so acht hochauflösende Bilder von dir auf irgendeinen Server laden. Und dann hast du, glaube ich, um die acht Dollar dafür bezahlt. Dieser Server war aber in den USA.
00:23:59
Speaker
Und du hast dafür bezahlt, einem Unternehmen Daten zu geben, mit denen du dich biometrisch vollkommen nackig gemacht hast. Und viele von denen, die das gemacht haben, haben wahrscheinlich am nächsten Tag mit ihrer Google-E-Mail-Adresse dann die nächste Petition gegen Überwachung unterschrieben, ohne zu ahnen, was für ein unfassbarer Schwachsinn das ist, den sie da gerade gemacht haben. Weil ich meine, du lieferst diesen Unternehmen
00:24:23
Speaker
dich selbst aus und zahlst sogar noch dafür. Und ich glaube, das ist für mich immer so ein Beispiel dafür wie, ich sag mal, wie Gott. Aber wahrscheinlich ist es eher, das klingt, das ist dann schon wieder so moralisierend. Also es gibt unterschiedliche ethische Maßstäbe, die wir an staatliches und unternehmenshandeln ankleben.
00:24:47
Speaker
Und wir selbst halten uns überhaupt nicht an die Maßstäbe, die wir anderen immer aufoktorieren wollen. Aber das ist in diesem konkreten Fall ganz offensichtlich durch profundes Nichtwissen, durch Nichtverstehen schlicht und ergreifend auch
Datenschutz und KI
00:25:04
Speaker
bedingt. Die Tatsache, dass das ein US-Server ist, hat den meisten Leuten überhaupt nicht in irgendeiner Weise ein Alarmzeichen beschert, weil sie überhaupt nicht wissen, dass es einen Unterschied macht.
00:25:17
Speaker
Und es macht aber einen Unterschied.
00:25:20
Speaker
Total. Ich hatte dann einen ähnlichen Konflikt mit meinem Schwiegervater. Ich weiß leider nicht mehr, wie die App hieß, aber jeder weiß es. Man konnte sich da so alt machen. Du lädst dir Bilder jetzt hoch und dann siehst du, wie du mit 80 aussiehst. Und er hat zum Spaß ein Bild von meiner Tochter hochgeladen. Und ich war stinksauer. Und er hat es nicht mit böse Absicht gemacht. Aber er wollte einen Witz machen. Guck mal.
00:25:46
Speaker
sind bei mir halt echt nicht nur die Nackenhaare aufgestellt gewesen. Und mit dem Gespräch und der Erklärung und dem Wissenszusammenhang, dass es sich da um einen russischen Server in dem Fall gehandelt hat, wo keiner weiß, was dann mit den Dingen passiert. Und eben, man im Endeffekt
00:26:12
Speaker
muss ja auch nicht so sein, dass dieses Unternehmen per se böse Absichten mit den Daten hat, aber es behält sich dann auch in den AGB das Recht vor, die Daten an Dritte weiter zu verkaufen, deshalb kann gehackt werden. Sofern es überhaupt eine Wahl hat. Ja, genau. Also von chinesischen Unternehmen und auch von amerikanischen Unternehmen weiß man das ja sehr genau, dass sie oft gar keine wirkliche Wahl haben.
00:26:34
Speaker
Genau, aber diese Aufklärung findet gar nicht statt. Da sind Leute wie du oder wie auch immer ich und viele, viele andere, die glaube ich in der breiten Bevölkerung, wir können diese Arbeit ja auch gar nicht leisten in der Breite, wie sie notwendig wäre eigentlich, in der Transparenz mit solchen Dingen umzugehen.
00:26:54
Speaker
Es ist ja auch so ein bisschen so, dass du die Leute überhaupt erst mal erreichen musst. Es reicht ja nicht nur, dass du was sagst, sondern du musst ja auch irgendwie irgendeine Art von Anknüpfungspunkt von Gehör finden. Und ich habe den Eindruck, dass die Lernbereitschaft
00:27:09
Speaker
an dieser Stelle auf diese fundamentale Neugier und diese Euphorie und den Spieltrieb stößt. Und das ist eine ganz komplizierte Gemengelage, die sich daraus ergibt. Und deswegen bin ich ja der festen Überzeugung, dass wir Regulierungen brauchen, notwendigerweise und existenziellerweise, zumal in einer Situation, wo wir so viel nachdenken müssen über
00:27:30
Speaker
über den Bestand von Demokratie und von Rechtsstaatlichkeit. Wir brauchen diese Regeln und diese Regeln haben ganz konkret, da spricht ein bisschen der psychologisch und soziologisch gebildete Teil von mir, die haben eine konkrete Entlastungsfunktion. Was verboten ist, darf ich halt nicht. Punkt.
00:27:49
Speaker
Und um es noch ein bisschen weiter zu denken, dann heißt es immer, ja, ihr wollt die ganze Zeit nur Verbote, ihr wollt uns einschränken und so. Wenn man auf Autobahnen guckt, dann weiß man ja auch, dass es zwar verboten ist, schneller zu fahren als es dort erlaubt ist, aber man tut es halt unter Umständen trotzdem und dann zahlt man halt dafür.
00:28:07
Speaker
Das heißt, in den Situationen, wo klare Regeln da sind und man aber technisch oder faktisch die Möglichkeit hat, sich nicht daran zu halten, da gibt es ein Sanktionsverhältnis. Und manchmal hat man Glück, dass man nicht erwischt wird. Und wenn man erwischt wird, dann gibt es klare Regeln. So ist das eben einfach. In einer Gesellschaft, die sich nämlich über ihre Regeln definiert.
00:28:28
Speaker
Und ich finde, dass sehr viele Diskussionen, die wir an der Stelle führen, ein bisschen wohlstandsverwahrlos sind. Also dass wir wirklich es zu tun haben mit Leuten, die glauben, ihnen stünde halt alles zu und sie müssten auch gar nichts dafür tun, dass es funktioniert und dass Dinge positiv geschehen.
00:28:43
Speaker
Und uns stehen aber Freiheiten nicht zu, sondern wir müssen sie eigentlich verteidigen und wir müssen sie überhaupt erstmal definieren und wir müssen uns immer wieder neu darüber Gedanken machen, was Freiheiten eigentlich sind in der Welt, in der wir leben. Haben wir Erwachsenen die Freiheit für unsere Kinder zu entscheiden, dass sie kein überlebens- gewährleistendes Klima mehr haben dürfen? Das ist jetzt ein ganz anderes Thema. Aber diese Art von Nachhaltigkeitsfragen, von Verantwortungsfragen müssen uns doch selbstverständlich
00:29:14
Speaker
Bewusstsein, wenn wir darüber nachdenken, wie wir Regeln gestalten. Und deswegen ist jetzt eben dieser Blick dieser Studie auf das Urheberrecht tatsächlich von erheblicher Bedeutung, weil er nämlich tatsächlich ein bisschen aufräumt mit dem erheblichen Bullshit, der in großen Teilen der Debatte vorhanden ist. Weil nämlich viele Leute einfach nur nachplappern, was ihnen irgendjemand gesagt hat, aber selbst gar nicht sich die Arbeit machen, Gesetze zu lesen.
00:29:41
Speaker
oder mit jemandem zu sprechen, der eine nicht herrschende Meinung vertritt. Das ist ja im Recht ohnehin so eine Problematik. Es gibt eine Dynamik, die sich daraus ergibt, dass irgendwann jemand angefangen hat, nicht mehr infrage zu stellen, dass es ist, wie er glaubt. Und dann schreibt er das auf und jemand anderer schreibt das ab.
00:30:08
Speaker
rechtswissenschaftlich, also im akademischen Verständnis ist es dann halt so, dass das alles zitierfähig wird, weil der eine schreibt, der nächste schreibt, dann schreibt es noch einer, die schreiben alle voneinander ab, aber es steht an ganz vielen Stellen und irgendwann ist es dann anerkannt als die sogenannte herrschende Meinung und darüber haben wir in der letzten Woche viel gesprochen mit den Juristen verschiedenster Herkunft und die sind alle da so ein bisschen beschämt manchmal auch und sagen ja, das ist ein Problem, was wir haben.
00:30:35
Speaker
Und was jetzt diese Studie leistet, ist, hinzugehen und zu sagen, ey Leute, wollen wir uns das mal genauer angucken? Das, was als als herrschende Meinung hier vertreten wird, ist bislang überhaupt nicht tatsächlich im Detail und in den Grundlagen begründet. Und wenn man das versucht, dann stellt man fest, das funktioniert nicht. Wollen wir uns das mal angucken?
00:30:56
Speaker
Voll gern, genau. Vielleicht im Kontext der gute Prof. Dr. Tim Dornis von der Universität Hannover und der Prof. Dr. Sebastian Stober von der Universität Magdeburg.
00:31:09
Speaker
haben diese Tandem-Studie, also sowohl von der technischen Seite als auch von der rechtlichen Seite zusammen von der Initiative Urheberrecht in Auftrag gegeben, durchgeführt und es geschafft, zum ersten Mal Licht in diese Blackbox zu bringen. Weil es war ja bisher immer
00:31:28
Speaker
Input, Input, Trainingsdaten, großes Fragezeichen und dann kommen hübsche Bilder, Musikstücke, was auch immer, Stimmdaten, Output im weitesten Sinne heraus. Erzähl uns vielleicht ein bisschen über diese
00:31:46
Speaker
über diese Lüftung des Vorhangs hinter dem. Und das mache ich gerne. Und bitte sieh es mir nach, dass ich jetzt zunächst mal bei der Argumentation bzw. bei der Erklärung ein bisschen bei deutschen Gesetzestexten zum Teil auch bleibe. Die sind in Österreich sehr, sehr anschlussfähig und sehr, sehr ähnlich. Es ist nur so, dass ich die halt gerade vorbereitet habe und abrufbar habe.
00:32:05
Speaker
Und wenn wir auf die gesetzliche Formulierung der sogenannten Schrankenregelungen zum Text-and-Data-Mining gucken, dann gibt es zwei Paragrafen im deutschen Recht. Der eine ist der, den du vorhin ziemlich genau referenziert hast. 60d, der eben eine Vervielfältigungserlaubnis beinhaltet für ganz konkret wissenschaftliche Forschungszwecke. Das ist genau definiert, wo die Grenzen davon sind und zum Beispiel ist eine Grenze schon
00:32:32
Speaker
an der Stelle, wo eine Forschungsinstitution selbst, wenn sie zu einer Uni gehört, so eng mit einem kommerziellen Unternehmen zusammenarbeitet, dass dieses eine gewisse Weisungsbefugnis hat. Dann erlischt diese Erlaubnis schon. Also es geht konkret um akademische Forschung. Und wie du schon vorhin angedeutet hast, ich glaube, ich kenne ehrlich gesagt
00:32:51
Speaker
niemanden oder es hat mir zumindest noch keiner eingestanden, dass er findet, man sollte für die Krebsforschung oder für die Klimafolgenabschätzung oder sowas nicht die Möglichkeiten des maschinellen Lernens und neuronaler Nutzen nutzen. Darum geht es hier ja eigentlich. Also keine Opposition an der Stelle von unserer Seite und die Studie arbeitet sich dabei auch nicht weiter ab, daran nicht weiter.
00:33:15
Speaker
Dann gibt es eine zweite Schrankenregelung und auch die ergibt sich wie auch die erste aus dem geltenden europäischen Recht. Das ist im deutschen Recht der Paragraph 44b zu Text-and-Data-Mining und zwar für kommerzielle Zwecke. Und ich lese einfach mal den ersten Absatz, den ersten Satz davon vor, weil der nämlich von großer Bedeutung sein wird für das, was wir weiter besprechen. Text-and-Data-Mining ist die automatisierte Analyse von einzelnen oder mehreren digitalen oder digitalisierten Werken.
00:33:44
Speaker
um daraus Informationen, insbesondere über Muster, Trends und Korrelationen zu gewinnen. Also es geht um Analyse und es geht um die Informationsgewinnung.
00:33:56
Speaker
Und da setzen die beiden Autoren der Studie schon an und sagen, damit ist das Training generativer KI überhaupt nicht gemeint. Das kann es nicht sein, weil nämlich tatsächlich der Blick in die Black Box nicht erlaubt, die Informationen, die sich aus der Analyse ergeben, herauszuholen. Wir haben keinen Zugriff auf die Informationen.
00:34:21
Speaker
Deswegen ist rein definitorisch Text-and-Data-Mining an dieser Stelle schon ausgeschlossen. Das kann es nicht sein. Das ist eine feste Überzeugung, die ich schon länger habe, aber die haben das eben natürlich sich jetzt technologisch auch genau angeguckt, ob es überhaupt Möglichkeiten gibt, an die Informationen heranzukommen. Dabei machen sie eine Unterscheidung.
00:34:40
Speaker
zwischen semantischen und syntaktischen Informationen über die Werke und die Leistungen, die da zum Training herangezogen werden. Und der üblichen Auffassung nach ist das, was man an Informationen herauszieht, das Semantische, also das Sinnbehaftete.
00:34:58
Speaker
Und dann kann man zum Beispiel feststellen, wie oft ein Wort gesagt wurde oder sowas. Also diese Art von irgendwie sinnbezogenen Informationen. Ich kann herausfinden, wie oft ein bestimmtes Thema vor Gericht mit Erfolg
00:35:22
Speaker
eingeklagt wurde oder sowas. Das sind die Informationen, um die es geht. Es ist aber eben jetzt beim Training generativer KI so, dass neben diesen semantischen Informationen, die syntaktischen Informationen auch mit gelernt und analysiert werden und das allein mit dem Zweck anschließend eben mit einer Syntax behaftet, neue Inhalte schaffen zu können.
00:35:44
Speaker
Und diese neuen Inhalte können nur deshalb geschafft werden, weil sie über die Syntax auch eine Form kriegen, in der dann die semantischen Inhalte verkörpert sind. Und das ist definitorisch jenseits von dem, was hier vorgesehen ist. Das ist schon mal ganz entscheidend. Das sozusagen ist jetzt noch die Vorrede, ehrlich gesagt.
00:36:04
Speaker
Und die beiden gehen dann eben in die Analyse, und wir werden das jetzt bestimmt nicht Punkt für Punkt machen können, das würde den Rahmen verbringen, aber die ersten vier Punkte, die sollten wir uns genauer angucken, die Sie machen. Und zwar Voranmerkung von den beiden ist halt, im Rahmen des Trainings generativer KI-Modelle kommt es zu zahlreichen verschiedenen Handlungen der Vervielfältigung, urheberrechtlich geschützter Werke im Sinne,
00:36:31
Speaker
des § 16 Absatz 1 Urheberrechtsgesetz. Das bezieht sich wie gesagt auf deutsches Recht, aber das Wesentliche dran ist, Vervielfältigung ist genau das, was eigentlich immer der Kernstreitpunkt urheberrechtlicher Auseinandersetzungen ist. Also sowas wie zum Beispiel die Privatkopie-Vergütungspflicht ist das Ergebnis eines jahrzehntelangen Streits, das begann damals mit der Einführung von Tonbändern zum Beispiel oder mit Kopiermaschinen,
00:36:57
Speaker
dass man feststellte, es gibt eine kulturelle Praxis, die auch eine gewisse Notwendigkeit in sich trägt, Gegenstände zu vervielfältigen. Aber das widerspricht dem Exklusivrecht aus dem Urheberrecht. Also müssen wir einen Ausgleich schaffen. Und das Urheberrecht ist ja dem Grunde nach immer als Ausgleichsrecht gemeint. Das heißt, es muss immer gesellschaftliche Interessen in Einklang bringen oder in eine Balance bringen mit den individuellen Interessen der Rechteinhaber.
00:37:21
Speaker
Und deswegen hat man damals gesagt, okay, wir können und wir wollen gar nicht verhindern, dass kopiert wird an diesen Stellen in bestimmten definierten Umfängen und Anlässen. Aber wir sagen, dafür muss es einen Ausgleich geben. Und dieser Ausgleich sollte in Form von Zahlungen stattfinden. Und so ähnlich kann man sich das jetzt hier vorstellen. Diese Schrankenregelung soll halt die Vervielfältigung ermöglichen. Das ist aber insofern jetzt gar nicht mal so trivial.
00:37:49
Speaker
als ja tatsächlich diese Vervielfältigungen, die notwendig sind, beschränkt sind auf Text-and-Data-Mining und nicht auf die Dinge, die nach Text-and-Data-Mining in dem Modell oder mit dem Vertrieb des Modells stattfinden. Also das heißt, wenn es zusätzliche Vervielfältigungen gibt jenseits des Trainingsprozesses, dann sind die schon nicht mehr Teil der Schrankenregelung und wären in dem Moment lizenzpflichtig. Und die können wir halt zeigen.
00:38:17
Speaker
Also das ist so eine logische, so eine arbiträre Kette. Du musst immer von der einen Stufe auf die nächste gehen, um das Verständnis zu erweitern. Also auf der ersten Ebene ist es so, dass wenn wir Daten sammeln und Daten zum Training heranziehen, das ist für die Sammlung, Vorbereitung und Speicherung verschiedene
00:38:40
Speaker
Vervielfältigungshandlungen gibt, die man klar belegen kann, die notwendigerweise auch möglich sind und die genau deswegen auch von den entsprechenden Schrankenregeln umfasst sind. Gleichwohl ist es so, dass allein diese Sammlung, das heißt das, was über Crawling, also das Sammeln von URLs, von Fundstellen noch nicht rechtsproblematisch ist, was im Scraping, also im Herunterladen der Inhalte dann aber rechtsproblematisch werden kann, weil das nämlich eine Vervielfältigung ist.
00:39:08
Speaker
dass an der Stelle sich zum Beispiel schon die Problematik ergibt, dass es Recht vorgibt, dass die gesammelten Daten nach dem Training wieder gelöscht werden müssen. Das wird aber in fast allen Fällen nicht getan.
00:39:20
Speaker
Also der Korpus, das Korpus und die Datenbank, die entsteht, in dem diese Daten gesammelt werden und die Werke und die Leistungen und so, bleiben oft erhalten. In der Wissenschaft ist das sogar nötig, weil man nämlich später Testläufe und Vergleichsläufe macht. Und da ist es aber auch, wie gesagt, so, dass wir gar nicht so ein Problem damit haben.
00:39:39
Speaker
Wenn wir aber in den kommerziellen Bereich reingehen, dann ist die Tatsache, dass die Datenbanken, die herangezogen werden zum Trainieren, eben nicht danach gelöscht werden, ein rechtsstößliches Faktum. Wenn wir jetzt herausfinden, dass in dem trainierten Modell, das Modell ist das Ergebnis des Trainings, das ist keine Datenbank, es ist ganz wichtig, es ist nämlich nichts Statisches und nichts, wo man Dinge herausziehen kann oder sowas,
00:40:06
Speaker
Das Modell ist ein hoch abstrakter Gegenstand. Und wenn in diesem Modell dann die Inhalte, die trainiert wurden, enthalten sein sollten, dann haben wir es mit einer nicht mehr genehmigten Vervielfältigung zu tun. Und genau das ist einer der ganz zentralen Punkte dieser Studie. Das ist verbunden mit dem Stichwort Memorisierung.
00:40:28
Speaker
dass also eine Repräsentation der gelernten Inhalte in dem gelernten, in dem trainierten Modell vorhanden ist und das führt automatisch dazu, dass das Modell in dem Moment, wo es in eine Anwendung kommt, also wo ein Nutzer da durch Prompting etwas herausholt oder aber ich gebe als Konzern dieses getrainierte Modell weiter an einen anderen Konzern und der baut es in ein KI-System mit mehreren Modellen, die aufeinander Bezug nehmen, ein.
00:40:55
Speaker
Das sind beides weitere Vervielfältigungstätigkeiten. Und in dem Fall erlöscht jeweils automatisch der Schutz des Rechts. Das ist ganz entscheidend. Entschuldigung. Nein, nein, bitte. Ich finde es nur so schön, weil das ist etwas, was man in Österreich sagt, der Hausverstand gebietet das. Jeder hat es irgendwie schon gespürt. Jeder hat es irgendwie gewusst. Das finde ich das Verschütternde.
00:41:21
Speaker
Aber jetzt gibt es zum ersten Mal, wie du sagst, den akribisch geführten Schritt für Schritt Beweis. Und am Ende steht das Quad-Errat-Demonstrandum, was mich in meinem Gefühl bestätigt. Weil bisher, die letzten anderthalb Jahre, hatte ich immer so ein bisschen das Gefühl, wenn ich mit sehr Pro-Tech-Menschen gesprochen habe, dass immer so ein Hauch von, du bist doch paranoid. Also so, gehst du dir das doch erst mal einmitschwenken. Das Ding ist, dass wir es ganz oft mit so sehr simplen gedanklichen Modellen
00:41:51
Speaker
zu tun haben, die dann sagen, in dem Modell ist ja der Inhalt nicht eins zu eins drin. Das stimmt auch. Natürlich ist nicht eins zu eins drin, sondern er ist aus dem Modell abrufbar. Das ist das Problem.
00:42:02
Speaker
Also die Behauptung ist nicht, dass wir sozusagen eine eins zu eins identische Inschrift oder sowas in diesem Modell drin liegen haben. Das wäre im Übrigen auch gar nicht zu zeigen, denn wir können in das Modell nicht reingucken. Wenn wir uns in einem n-dimensionalen Vektorraum bewegen, dann sehen wir nichts mehr. Also wir können uns das noch nicht mal vorstellen.
00:42:22
Speaker
Das ist einfach jenseits menschlicher Vorstellungen, wie komplex ein solcher Wertehaufen tatsächlich ist. Also es ist ein Wertegewühl. Und diese Werte, die weights, die sind eben letzten Endes aber eben alle Kontext bezogen und das heißt durch ein entsprechendes Prompting und das ist ja das, was genau die New York Times zum Beispiel durch ihre Klageschrift gegen OpenAI und Microsoft eben auch belegt hat,
00:42:48
Speaker
Durch ein entsprechendes Prompting kann ich diese Inhalte halt wieder herausholen. Und dafür muss ich nicht wissen, wie zum Beispiel der Superheld heißt, nach dem ich suche, sondern ich kann von einem Insekt, einem Arachnoideninsekt sprechen, das eine menschliche Form hat oder so. Und da kommt dann eben Spider-Man raus. Und zwar einer, der zwar nicht pixelidentisch ist, aber identitätsidentisch ist.
00:43:16
Speaker
Und ich prognostiziere, dass wir Diskussionen darüber haben werden, ob es denn eine Identität ist, wenn es nicht pixelidentisch ist. Das ist natürlich aber ehrlich gesagt jetzt schon eindeutig zu markieren als unfassbarer Bullshit. Weil andere, die gleichen Leute uns ja die ganze Zeit erzählen, ja aber Menschen lernen doch auch die ganze Zeit, indem sie mit kulturellen Gegenständen umgehen. Genau, Menschen lernen auch, indem sie mit kulturellen Gegenständen umgehen und auch wir lernen nicht pixelidentisch.
00:43:42
Speaker
Genau. Sondern wir lernen Vorstellungen, Konzepte. Und wenn diese Vorstellungen und Konzepte anschlussfähig und wiedererkennbar sind, dann haben wir es offenbar mit einer Art von Kopie und Vervielfältigung zu tun. Und das ist ja ohnehin dieser große Unschnitt, Inspiration ist eben nicht gleich Reproduktion.
00:44:03
Speaker
Um es formal noch mal abzurunden, jetzt haben wir also diese Memorisierung im Modell und die ist genauso abstrakt wie sie ist und die stößt eben auf ein Problem spätestens an der Stelle, wo § 44b im deutschen Urheberrecht sagt, Vervielfältigungen sind zulässig nur für Text-and-Data-Meinungen, aber nicht jenseits
Fair Use und KI
00:44:22
Speaker
davon. Das heißt, in dem Moment, wo das im Modell noch enthalten ist, das was zum Training herangezogen wurde,
00:44:26
Speaker
ist im Grunde genommen die Schranke schon erloschen, weil das Text-and-Data-Mining bezieht sich auf den Trainingsprozess und nicht auf die Verstetigung danach. Und das wird hier sogar noch expliziert in dem Gesetzestext, die Vervielfältigungen sind zu löschen, wenn sie für das Text-and-Data-Mining nicht mehr erforderlich sind. Man kann sie aber nicht löschen, wenn sie in diesem Modell drin sind, weil man sie in dem Modell nicht finden kann.
00:44:49
Speaker
Ja, also man müsste das gesamte System löschen. Ganz genau. Das ist genau das, worüber ja auch gesprochen wird, bezüglich OpenAI zum Beispiel. Wenn die New York Times obsiegen sollte, muss das Modell genullt werden. Ja. Ganz genau. Weil man nämlich nicht entlernen kann in diesen Systemen. Was drin ist, ist drin.
00:45:07
Speaker
Genau. Und ich glaube auch, dass die Fair Use, was ja bisher, also Anwälte werden mich jetzt steinigen, aber ich sage jetzt mal das Pendant zu dem europäischen Text-and-Data-Meining, worüber wir jetzt gerade gesprochen haben, aber es schlägt in dieselbe Kerbe, sage ich im weitesten Sinne. Und ich glaube auch, Fair Use wird da nicht halten, aus den Gründen, wie du sie gerade genannt hast, weil auch Fair Use hat seine Grenzen.
00:45:33
Speaker
Da gab es auch gerade einen wahnsinnig spannenden, kontextualisierenden Text von Virginie Berger auf LinkedIn, der genau diesen Konnex herstellt. Also der sagt, der sich unsere Studie nimmt, die Ergebnisse abgleicht mit den rechtsdogmatischen Überlegungen zu Fair Use und sagt, das wird ganz schön explodieren.
00:45:52
Speaker
Da gehen wir auch von aus und so haben wir es auch gemeint. Wir haben ja vorhin schon darüber gesprochen, dass der Rechtsort ganz entscheidend ist. Wir waren so ein bisschen ohnmächtig in dem Moment, wo uns die herrschende Meinung der Juristen gesagt hat, ihr könnt doch eh nichts tun, es ist das Training in den USA erfolgt. Also gilt amerikanisches Recht und da ist die Fair Use-Doktrin.
00:46:13
Speaker
Solange die anwendbar ist, was aber natürlich niemand weiß, weil noch kein Gericht darüber entschieden hat. Solange die anwendbar ist, habt ihr keinen Klagegrund. Jetzt ist es aber eben so, dass wir natürlich auf diese Weise hoffen, auch den Amis durchaus noch ein bisschen Munition mitzugeben, damit sie gegen Fair Use vorgehen können. Und auch Fair Use unterliegt so wie unsere Ausnahmeregelungen im Recht, wie gesagt gegen Exklusivrechte,
00:46:42
Speaker
der Berner Konvention und dem Dreistufentest. Also alle Ausnahmen im Recht von der Exklusivität müssen durch den Dreistufentest begründbar sein. Können wir später nochmal drauf gucken, aber auch das ist ganz schön wackelig tatsächlich.
00:46:56
Speaker
Und es geht ja auch immer um Verhältnismäßigkeit und um die Schadenswirkung auf den ursprünglich benutzten Markt und oder Player. Ja, natürlich. Das ist Teil dieses Dreistufentests. Also es darf kein überproportionaler Eingriff in den Originärmarkt stattfinden. Und der lässt sich natürlich überall hier belegen, weil diese Modelle ja eben herangezüchtet werden, um in unseren originären Wirkungsmärkten und existenzbedingenden Märkten uns zu substituieren.
00:47:26
Speaker
Ja. Ja, ganz offensichtlich. So, und ich verbrauche wahnsinnig viel Zeit. Darum gucke ich kurz auf die Uhr und gehe ein bisschen schneller durch die nächsten Schritte durch. Wir haben auf diesem ersten Level eben vier Punkte, die wir einmal besprechen müssen. Das war erst Punkt eins, ehrlich gesagt. Punkt zwei ist, dass es während des Trainingsprozesses generativer KI-Systeme sowohl beim Pre-Training als auch beim Finetuning zu einer
00:47:52
Speaker
urheberrechtlich relevanten Vervielfältigungen der zum Training verwerteten Werke im Innern des Modells kommt. Das haben wir im Grunde genommen gerade schon besprochen. Da sind wir schon angesprungen gerade. Und wichtig ist, diese ganze Studie behauptet nicht, das sei in jedem Fall ausnahmslos so und das sei in jedem Fall eindeutig zu belegen. Sondern sie sagt, das ist prinzipiell anzunehmen, dass das so ist.
00:48:17
Speaker
Und das ergibt sich aus der Systemlogik und aus der technologischen Bedingtheit. Und deswegen muss man annehmen, dass es vorhanden ist, und im Gegenteil wäre eher zu belegen. Deswegen lautet der nächste Satz eben in der Zusammenfassung auch, ein expliziter Speichermechanismus ist zwar nicht angelegt,
00:48:36
Speaker
Die Trainingsdaten werden in den aktuellen generativen Modellen aber durchaus memorisiert. Das ist vorsichtig formuliert, aber das ist genau der Punkt, von dem jetzt eben diese Annahmen ausgehen. Der dritte Punkt ist, dass
00:48:54
Speaker
es auch zu Umgestaltungen der trainierten Werke kommen kann. Das würde ich jetzt ein bisschen am Rande nur betrachten wollen. Umgestaltung bedeutet, es sind Veränderungen von Werken. Und da das europäische Urheberrecht ja grundsätzlich auf einer Persönlichkeitsrechtlichen Nichttrennbarkeit und strikten Bindung des Werkes an den Autor ausgeht und davon ausgeht, dass das, was dem Werk angetan wird, dem Autor angetan wird,
00:49:23
Speaker
haben wir eine Doktrin, die besagt, dass jede Art von Bearbeitung von Eingriff in das Werk genehmigungspflichtig ist, weil sie nämlich tatsächlich geeignet wäre, die Person des Autors der Autorin zu schädigen. Und wenn hier Umgestaltungen stattfinden, die diese Annahme rechtfertigen, dann sind die auch rechtsproblematisch. Ist aber nur ein Seitenaspekt, um ehrlich zu sein.
00:49:47
Speaker
Der vierte Punkt, und das ist jetzt der Knaller, der sich nämlich aus den anderen Punkten ergibt. Ich lese es einfach mal vor. Viertens, in der zur Verfügung Stellung der in diese KI-Systeme implementierten generativen KI-Modelle zur Anwendung durch die Nutzer oder zum Download des Modells im Ganzen liegt schließlich eine öffentliche Zugänglichmachung von Teilen der für das Trading verwerteten und im Inneren des Modells vervielfältigten Werke.
00:50:13
Speaker
Wenn wir das von hinten betrachten, dann haben wir die vervielfältigten Werke, die im Inneren des Modells sind. Wir haben hier im Übrigen auch den interessanten Begriff verwertet. Das heißt, es geht um eine kommerzielle Nutzung. Und die Tatsache, dass das Modell, in dem das Zeug drin ist, weitergegeben wird oder in eine Nutzung gebracht wird, ist gleichzusetzen mit einer öffentlichen zugänglichen Machung. Und diese öffentliche zugängliche Machung, die ist im Recht
00:50:41
Speaker
uns vorbehalten als Orinärrechteinhaber. Wir sind die Einzigen, die darüber entscheiden dürfen, dass das geschehen darf. Und die ist nicht abgedeckt durch die Text-and-Data-Mining-Schranken, die vorliegen. Also weder durch die Forschungsschranke, noch durch die kommerzielle Schranke.
00:50:57
Speaker
Das ist von entscheidender Bedeutung tatsächlich und das wiederum ist deswegen so wichtig, weil diese Art von Zuhänglichmachung bei uns vor Ort geschieht. Also in Österreich, in der Schweiz, in Deutschland und damit gilt österreichisches Schweizer deutsches Recht. Und jetzt haben wir die Möglichkeit, tatsächlich die Anbieter gegriffen zu kriegen über eine Klage, die wir bei uns führen können.
00:51:23
Speaker
Und Sie sind ja auch verpflichtet, eine Dependance innerhalb der EU zu haben, wenn Sie das Modell kommerziell in der EU ausrollen. Es ist jetzt nicht so, dass wir zwar hier klagen, aber der sagt, catch me in San Francisco. Du weißt, dass diese Art von Verpflichtung keineswegs immer dazu führt, dass es auch stattfindet.
00:51:44
Speaker
Aber da haben wir ja schon ein paar Jahrzehnte hinter uns, was die Digitalisierung betrifft. Und ich will einfach nur daran erinnern, dass 2009, als die GEMA YouTube verklagt hat, sie drei Monate lang eine spezialisierte Anwaltskanzlei auf die Suche nach einer zustellfähigen Adresse schicken musste. Da war YouTube seit zwei Jahren auf dem deutschen Markt tätig. Und es gab keine Klarheit darüber, wo man denen überhaupt eine Klage zustellen kann.
00:52:14
Speaker
Das ist ein Grund, warum die Rede vom Wild West manchmal durchaus berechtigt ist. Also einfach machen. Recht verändern. Und wenn du dir anguckst, es gibt ja aktuelle Zahlen darüber, in welchem Umfang diese KI-Unternehmen Geld verbrennen. Das ist aber witzig.
00:52:38
Speaker
Und wieso können sie das? Na ja, weil Konzerne wie Microsoft, wie Apple, wie Meta und andere dahinter sitzen und ihnen einfach das Geld einfach hinschieben, weil sie ein kommerzielles Interesse daran haben, auf diese Weise die Märkte zu verändern. Das ist also Geld, was wirklich Spielgeld ist und verfeuert wird.
00:52:58
Speaker
Einer von denen ist St. Martin. Das muss man schon so klar sagen. Make it happen. Egal, ob es 500 Milliarden oder zehnmal so viel kostet. Move fast and break things. Im Endeffekt, wir kennen das alle.
00:53:15
Speaker
So, und vielleicht einfach nur kurz definitorisch zurück auf diesen ganz, ganz entscheidenden Punkt der öffentlichen Zugänglichmachung. Paragraf 19a im deutschen Urheberrecht definiert das Recht der öffentlichen Zugänglichmachung. Das ist ein sehr kurzer Paragraf. Das Recht der öffentlichen Zugänglichmachung ist das Recht, das Werk, drahtgebunden oder drahtlos, der Öffentlichkeit in einer Weise zugänglich zu machen, dass es Mitgliedern der Öffentlichkeit von Orten und zu Zeiten ihrer Wahl zugänglich ist.
00:53:44
Speaker
Also, wenn ich das Modell rausgebe und zum Beispiel ermögliche, über einen Browser darauf zuzugreifen und damit Dinge zu tun, dann ist das genau das, was hier definiert ist.
00:53:56
Speaker
Das ist Textbook, das ist genau das. Das ist nicht mal aus dem Fenster gelehnt. Und dann im Folgenden arbeiten sich die beiden Autoren dann eben sehr konkret an den, also das ist jetzt erstmal die urheberrechtliche Bestandsaufnahme aus dem Kern des Urheberrechts und danach arbeiten sie sich an den Schranken ab, also an den Schrankenregeln zu Text-and-Data-Mining, zu kommerziellem Text-and-Data-Mining und auch
00:54:20
Speaker
Es gibt noch eine andere Schranke, die notwendig war. Stichwort YouTube, wo wir gerade schon drüber sprachen. Ich weiß nicht, ob dir der Begriff Framing was sagt. Also, wenn du ein YouTube-Video auf deiner eigenen Webseite einbindest, wer ist dann der Lizenzschuldner dafür? Wer geht in die Haftung im Zweifelsfall, falls da was Rechtsverstößliches passiert? Das sind so Fragen, die eine dringliche Bedeutung gehabt haben in den letzten Jahren. Und das wirkt dann immer so ein bisschen fernigfuchserisch und so. Tatsächlich ist aber so,
00:54:49
Speaker
exakt hingucken muss, wie die technologischen Prozesse der Auslieferung und zur Verfügungstellung von Inhalten eigentlich stattfinden und wer an welcher Stelle eigentlich welche Entscheidungen trifft. Diese Framing-Geschichte hat sich über viele Jahre hingezogen, bis es da ungefähr eine Klarheit zugab.
00:55:07
Speaker
Und ein anderer Punkt ist eben der einer flüchtigen Speicherung von Inhalten. Also wenn ich, ich habe zum Beispiel ein Abo bei dieser, ich bin nicht bei Spotify aus guten Gründen und wenn ich meine dieser Musik irgendwie auf meinem
00:55:22
Speaker
iPhone höre oder auf dem Computer höre, dann muss es eine kurze Zwischenspeicherung geben. Und diese Zwischenspeicherung ist im Prinzip jeder geltenden Logik nach eine Vervielfältigung. Aber sie ist deswegen nötig, weil eine legitime Tätigkeit und eine lizenzierte Tätigkeit ohne diesen technischen Zwischenschritt nicht möglich wäre. Deswegen gibt es eine Schrankenregelung, die sagt, das darfst du.
00:55:44
Speaker
Solange es tatsächlich flüchtig bleibt. Genau das ist aber zum Beispiel eine Schranke, auf die man sich hier bei Text-and-Data-Mining eben nicht berufen kann. Also beim Training generativer KI-Systeme ist es eben nicht in dieser Form flüchtig und deswegen ist es auch keine Ausflucht, dass es diese Schranke gibt.
00:56:02
Speaker
Und das wird jetzt so im Detail Stück für Stück abgearbeitet, das würde uns jetzt hier glaube ich wirklich überfordern. Ich glaube wichtig ist zu sagen, der Logik nach ist das Training generativer KI-Systeme nicht durch, es ist definitorisch kein Text-and-Data-Mining, deswegen ist es auch nicht gedeckt durch die entsprechenden Schrankenregelungen und es führt potentiell dazu, dass die im Inneren memorisierten Inhalte wieder herauszuholen sind,
00:56:29
Speaker
Was wiederum dazu führt, dass wenn ich das Modell jemandem zur Verfügung stelle, ich eine öffentliche Zugänglichemachung vornehme. Und diese ist ein Rechtsakt, der nach nationalem Recht eben auch zu sanktionieren ist.
00:56:47
Speaker
Ich muss ganz ehrlich sagen, ein bisschen raucht mir auch der Kopf jetzt ab. Aber danke, dass du das nachvollziehbar und Schritt für Schritt erklärt hast, weil jetzt ist mir doch einiges klarer geworden als nur jetzt aus der Presseausendung. Und um ehrlich zu sein, die Studie hat 171 Seiten. Ich hab sie nicht gelesen. Das ist schon ein Stück Arbeit.
00:57:10
Speaker
Da muss man sich einen geschmeidigen zweiwöchigen Urlaub mit einigen Cocktails dafür zeigen. Ja, es ist allerdings tatsächlich so, dass... Also, ich meine, das ist eine wissenschaftliche Studie, die wir beauftragt haben. Das heißt, die ist... Du hast ja reingeguckt, schätze ich. Dann hast du auch gesehen, was für ein unglaubliches... Die Zusammenfassung habe ich gelesen. Die ist auch sehr, sehr gut. Ich glaube, das sind so fünf Seiten. Und das geht. Und das ist wirklich... Reader's Digest, sage ich jetzt mal, ohne das abwerten zu wollen. Auf gar keinen Fall.
00:57:39
Speaker
Was wollte noch? Sache erst mal zu Ende. Nein, man muss ja das irgendwie dem Menschen begreiflich machen. Ja, genau. Ich schätze das auch sehr, diesen Pragmatismus in der Formulierung des Executive Summaries. Das ist schon ziemlich großartig, das hilft uns auch sehr. Worauf ich gerade hinaus wollte, ist, dass wenn man in den Studientext selbst hineinblickt, man einfach ohne ihn zu lesen schon sieht, was für ein extensiver
00:58:08
Speaker
Anmerkungs-Korpus da drin ist. Da sind so unglaublich viele wissenschaftliche Verweise drin. Und es ist eben auch ein bisschen das, was die beiden Autoren leisten wollten, sich abzuarbeiten, zum Beispiel an der herrschenden Meinung oder an Einzelmeinungen, die geäußert wurden, die aber den Diskurs beeinflussen.
00:58:25
Speaker
Und deswegen ist es durchaus so, dass ich jemandem, der ein bisschen Interesse für die Logiken und für die Dynamiken, also für die Kommunikation an dieser Stelle auch hat, empfehlen würde, da mal einen Blick reinzuwerfen. An der einen oder anderen Stelle wird man hängen bleiben und manches wird man
00:58:41
Speaker
vielleicht ein bisschen überfordert wieder weglegen und an anderen Stellen denkt man, ach so, so habe ich mir das ja nie vorgestellt oder immer vorgestellt oder so. Also es ist schon so, dass ich glaube, dass man da einen großen Gewinn rausziehen kann, einfach durch das einmal durchblättern. Aber es ist echt ein Stück Arbeit. Ich meine, wir haben das ja auch redaktionell dann noch betreut.
00:59:01
Speaker
Und das waren schon komplette drei Arbeitstage bei mir, und zwar volle. Was ich eben gerade noch sagen wollte, ist aber, dass es ganz wichtig ist, sich klarzumachen, dass dieser Text keiner ist, auf den wir Einfluss genommen haben. Also das ist eine wissenschaftliche Studie und die beiden Autoren waren von Anfang an sehr klar darin, dass sie gesagt haben, wir werden aber schreiben, was wir meinen und nicht, was sie von uns haben wollen.
00:59:31
Speaker
Ich merke natürlich schon auch, dass es so einen Reflex gibt zu sagen, von denen beauftragt, ist doch klar, was dabei rauskommt. Ach so, so wie die, weiß ich nicht, die Chiquita-Bananen-Studie rauskommt, dass eh alle Bananenfarmer total fair sind. Ja, machen wir uns nichts vor. Wenn du bezahlst, hast du natürlich einen Einfluss. Und natürlich haben wir auch einen Einfluss gehabt, denn wir haben uns zum Beispiel ausgesucht, wenn wir fragen,
00:59:56
Speaker
Also wir haben uns natürlich jetzt nicht jemanden ausgesucht, der von Anfang an gesagt hat, was für eine Schwachsinnsidee, aber damit hat sich das auch. Und ich finde es wirklich auch problematisch von Leuten, die den Text gar nicht reingeguckt haben, zu hören, ach, sie wüssten eh, wie der funktioniert hat. Die sollen sich den bitte erstmal angucken. Und dann, und das ist genau das, was ich jetzt ganz entscheidend finde, wird dieser Text eben
01:00:18
Speaker
in die peer review gehen das heißt der entscheidet der wird der wird schon ich glaube du hast gesagt donnerstag kommt ein podcast raus zu dem zeitpunkt wird der text als open access öffentlich verfügbar sein und eine woche später oder zwei wochen später wird er wird er wird tatsächlich auch ein buch erscheinen.
01:00:34
Speaker
von dieser Studie. Das wissen wir jetzt auch erst seit ein paar Tagen. Und der Text wird insgesamt selbstverständlich in die wissenschaftliche Abwägung und Diskussion gehen. Und es kann sein, dass wir nicht obsiegen. Und im Übrigen ist es auch unerheblich, weil die wissenschaftliche Diskussion nicht gleichbedeutend ist oder nicht identisch ist mit der vor Gericht. Und letzten Endes werden wir vor Gerichten überzeugen müssen und werden wir die Politik überzeugen müssen. Und das ist politische Kommunikation und nicht mehr Rechtswissenschaft.
01:01:03
Speaker
Genau, da wollte ich jetzt nämlich gerade eigentlich hin, weil das ist so spannend, einleuchtend und viel überfordernd. Aber ich finde das total wichtig, um diesen Ohnmachtsgefühl des Über-Sich-Ergehen-Lassens. Es passiert ja so vielen, dass sie sich gar nicht erst damit auseinandersetzen, weil sie das Gefühl haben, ich kann doch, was soll ich denn machen? Ich bin doch, weiß ich nicht, ein popeliger Übersetzer oder ein Schauspieler oder ein Sprecher drin. Wir sind halt alle alleine erst mal.
01:01:30
Speaker
Ja genau. Aber worauf ich hin wollte ist, ihr habt diese Studie jetzt vergangenen, wenn mich nicht alles täuscht, Donnerstag in Brüssel präsentiert vor der Politik. Wie ist die da aufgenommen worden? Ich habe gelesen, dass Axel Voss sich schon dazu geäußert hat und zwar positiv.
01:01:48
Speaker
Super. Axel Forst, für alle, die es nicht wissen, ist einer der Berichterstatter für den AI-Act, also einer, der maßgeblich an der Entstehung mitbeteiligt und antwortlich war mit einigen anderen
Europäische Gesetzgebung und KI
01:02:00
Speaker
zusammen. Ja, dazu muss man vielleicht wirklich noch ergänzen, dass Axel Forst ja eben wirklich konkret um jedes einzelne Wort sowohl in der DSM-Richtlinie als auch im AI-Act gerungen hat.
01:02:11
Speaker
Also er war in beide Prozesse in Brüssel tief involviert und in beiden auch irgendwie ein Stück weit federführend. Und der AI Act, also die KI-Verordnung, ist ja kein urheberrechtlicher Akt. Das war von Anfang an klar und das ist auch bis zum Schluss so geblieben. Es gibt Bezugnahmen auf die Text- und Data-Mining-Schranke, die den Schluss zulassen, dass die Politik in Brüssel tendenziell davon ausging, dass die Schrankenregelungen belastbar sind für generative KI.
01:02:40
Speaker
Aber da diese Bezugnahmen nur in den Erwägungsgründen des AI-Acts auftauchen, sind sie auch nicht statutorisch irgendwie, also sie setzen kein Recht. Das hat uns natürlich gleichzeitig Bauchschmerzen gemacht und vielleicht einfach zum Verständnis, bitte.
01:03:02
Speaker
uns allen. Wir haben auch versucht zu vermeiden, dass das überhaupt zu Benennungen dieser Schrankenregelungen kommt, weil ja auch tatsächlich gerichtlich noch gar nicht geklärt ist, ob die eigentlich belastbar sind, also ob die eigentlich anwendbar sind, worüber wir hier konkret reden. Man muss ja einfach dazu sagen,
01:03:22
Speaker
dass es ein Riesenglück war, dass die Europäische Union sich auf den Weg zu einer KI-Verordnung begeben hatte, bevor überhaupt irgendjemand über diese Art von generativer KI gesprochen hat. Und es war so, dass eben auf dieser Grenze von November zu Dezember 22, als eben Chachipiti und Delhi und Mid-Journey und wie sie alle heißen damals, plötzlich alle gleichzeitig aufgepoppt sind,
01:03:49
Speaker
dass zu diesem Zeitpunkt der Prozess im Grunde genommen schon so weit fortgeschritten war, dass man gar nicht vorhatte, ihn vom Fokus her noch zu erweitern. Und dann hat man aber eben in Brüssel so schnell reagiert, dass es tatsächlich möglich geworden ist, generative KI zumindest noch mit abzubilden in diesem Paket. Und das hat eben auch zu diesen unglaublich massiven Lobby-Einflussnahmen auf dieses Paket geführt.
01:04:13
Speaker
Und gleichzeitig ist wichtig zu verstehen, dass das meiste, worüber wir heute gesprochen haben, nicht aus KI-Regulierung resultiert oder sich darauf bezieht, sondern ganz konkret sich auf die europäische Urheberrechtsrichtlinie von 2019 bezieht, die im Sommer 21 in den nationalen Staaten zur Geltung gekommen ist, also in Kraft betreten ist.
01:04:38
Speaker
Und in dieser europäischen Überrechtsrichtlinie, da sind die Grundlagen für das Text-and-Data-Mining als Schrankenregelungen enthalten und sind dann eben in nationales Recht umgesetzt worden. Und Axel Voss war bei der entsprechenden Verhandlungsrunde dabei, als das hineinsuffliert wurde oder lobbyiert wurde in die
01:04:59
Speaker
in die entsprechende Formulierung als Bauernhandel für irgendetwas anderes, was man da nicht mehr verhindert hat. Und er hat von Anfang an, als es um die Frage der Einschlägigkeit und der Anwendbarkeit der Text- und Data-Mining-Schranken ging, hat von Anfang an gesagt, wir haben damals keine generative KI gemeint, wir wussten gar nicht, dass es die gibt.
01:05:21
Speaker
Und das ist auch ein Aspekt, auf den übrigens auch die beiden Professoren in der Studie eingehen, dass sie sagen, rechtshistorisch kann man nicht behaupten, das sei gemeint gewesen, denn es wird zu eindeutig belegt, dass diejenigen, die es formuliert haben, nicht gewusst haben, dass es das gibt.
01:05:38
Speaker
Und das hat er jetzt eben nochmal bekräftigt. Er hat es nicht historisch aufgerissen, aber er hat deutlich gesagt, dass er sich bedankt für die Klarheit, die sich jetzt ergibt, dass seine Annahme, dass diese Schranke nicht für das Training generativer KI belastbar ist, jetzt bestätigt ist.
01:05:59
Speaker
Das ist ja toll und ich freue mich über jeden einzelnen Politiker, jeder einzelnen Politikerin, die sich dieses hochkomplexen und umstrittenen Themas annimmt und sich da überhaupt
01:06:11
Speaker
Ich freue mich grundsätzlich über jeden Politiker, der sich in irgendeiner Form heutzutage noch angreifbar macht durch eine klare, sinnhafte Äußerung, muss man ja auch mal ganz allgemein so formulieren. Aber erzähl mal kurz vielleicht, wie, abgesehen von ihm, der sich ja wirklich sehr eindeutig geäußert hat, wie würde diese Studie...
01:06:31
Speaker
aufgenommen und was sind dann sozusagen die politischen Konsequenzen, die da jetzt vielleicht daraus folgen? Also, wir waren zur Vorstellung der Studie im Europaparlament, aber es war die erste Woche der neuen Legislatur. Das heißt, zu dem Zeitpunkt ist der Betrieb
01:06:53
Speaker
noch nicht auf irgendeiner Art von Normaltemperatur gewesen, sondern das sind die ganzen Findungsprozesse, die ganzen Besetzungsprozesse, die da laufen. Und es kam noch ein Problem hinzu, dass nämlich tatsächlich die Zugangsbedingungen für das Parlamentsgebäude, also das Akkreditierungsverfahren sich verändert haben. Und das führte zum Beispiel dazu, dass einige derjenigen aus der Europäischen Kommission, die bei unserer Präsentation dabei sein wollten, das Gebäude nicht betreten konnten, weil ihre Akkreditierung noch nicht erneuert war.
01:07:23
Speaker
Die Kommission war aber vertreten und hat sich sehr interessiert und sehr verständnisvoll tatsächlich geäußert und zwar in Personen eines Vertreters, der nicht eigentlich aus der Urheberrechtsecke kommt, sondern aus der Wissenschafts-Ecke kommt und der sagte, naja,
01:07:42
Speaker
Das sei jetzt schon echt spannend, zumal wir ja auch eindeutig gar nicht wissenschaftliche Praxis angegriffen hätten. Und dann ergab sich eben ein kurzes Gespräch vom Podium ins Publikum, wo eben auch deutlich wurde, dass es ein Kollateralschaden der aktuellen Verheerungen ist, dass jetzt die meisten von uns längst angefangen haben, einen Vorbehalt auszusprechen gegen die Nutzung.
01:08:11
Speaker
für KI-Training und dass deswegen die wissenschaftlichen Institutionen zum Teil Probleme haben, überhaupt noch an die nötigen Umfänge von Forschungsdaten zu kommen, die sie brauchen, um bestimmte Fragen behandeln zu können. Das heißt, es ist so, dass das Spiel mit den Ermessensspielräumen, das Ausschreiten der Ermessensspielräume jetzt dazu führt, dass der eigentliche Sinn der Regel gefährdet wird.
01:08:39
Speaker
Und das kann natürlich nicht so bleiben. Das heißt, es gibt auch ein politisches Interesse an der Stelle, im Sinne der Forschung jetzt zu einer Klärung zu kommen. Ja, klar, natürlich. Du kannst ja nicht teilweise opt-outen. Ja, na klar. Du kannst nicht teilweise opt-outen. Und im Moment, das sollte man vielleicht in unserem Gespräch auch nochmal dazu sagen, ist es relativ unerheblich, ob du opt-out aussprichst oder nicht, weil sich eh keiner dran hält.
01:09:04
Speaker
Und selbst dagegen können wir nicht ohne weiteres klagen, weil halt die Frage der Gerichtsstände ebenso und des geltenden Rechts ebenso kompliziert ist. Und deswegen müssen wir so genau in diese technologischen Details reingehen, um immer wieder sagen zu können, hier an Knüpfungspunkt, da an Knüpfungspunkt, da an Knüpfungspunkt. Das können halt Anwälte nicht ohne KI-Forscher hinkriegen. Und das können aber wiederum KI-Forscher auch nicht beantworten ohne Juristen.
01:09:31
Speaker
Und deswegen brauchen wir diesen interdisziplinären Zugang. Der ist ganz entscheidend an der Stelle. Ich finde es aber trotzdem. Ja, du hast vollkommen recht. Ich sage immer, wenn mich jemand fragt trotzdem dazu, mache es bitte trotzdem allein aus dem Gefühl der Selbstermächtigung heraus. Nicht weil es eine Firewall wäre, die uns tatsächlich davor schützt. Weil wie du sagst, man muss ja dann den Crawler auch so einstellen, dass er sich darauf hält. Und das machen die Allermeisten einfach.
01:09:59
Speaker
Wahrscheinlich nicht, ohne jetzt irgend wem was zu unterstellen zu wollen. Aber eben, wenn es dann Rechtssicherheit, Klarheit gibt, hat man dann einen Anknüpfungspunkt. Hat man dann einen Ankerpunkt und man hat
01:10:13
Speaker
zumindest eben diesen kleinen Einflussbereich, den man in dem ganzen anderen 99 Prozent dieser Entwicklungen eben nicht hat. Ich gehe noch ein bisschen weiter. Ich glaube, ich sehe solche Fragen ja immer strategisch und politisch. Und wenn die Kollegen und Kolleginnen nicht ihr eigenes Zeug schützen, dann können wir ihnen irgendwann auch nicht helfen. Also wir können ihnen die Möglichkeit einräumen, Schutz
01:10:39
Speaker
abzurufen oder Schutz zu aktivieren und sie werden gegen niemanden klagen können, wenn sie diesen Schutz nicht aktiviert haben. Und wir können nichts anderes tun, als die Grundlagen dafür herzustellen, dass es eine Schutzmöglichkeit gibt, also eine Rückzugsmöglichkeit und dann anschließend die Möglichkeit dafür herzustellen, dass man sich dagegen verwenden kann, dass dagegen verstoßen wurde. Also wer jetzt glaubt, macht sich da mal locker oder es ist eben so kompliziert, der verschenkt wahrscheinlich seine Lebensgrundlagen an diesen Stellen.
01:11:08
Speaker
Ja, so ist es total. Total, du hast vollkommen recht. Das Schlimmste, was man machen kann, ist zu sagen, das Kind ist schon in den Brunnen gefallen, ich bin da mal ein Trinken oder so. Naja, und solange das Kind im Brunnen noch Luft kriegt und strampelt, geht man da auch nicht weg, oder?
01:11:29
Speaker
Ja, danke für diese, ja, total, natürlich, absolut. Da ist noch Hoffnung und da ist noch, da geht noch, da ist das letzte Wort noch nicht gesprochen, wann welche Form von Hilfe eintrifft oder auch, ja. Also, okay, nur damit wir das auch in einen realistischen Kontext einordnen. Ihr habt jetzt einfach eine
01:11:54
Speaker
die erste wissenschaftliche Grundlage für die Politik geschaffen, sich entsprechend zu verhalten. Da ist jetzt noch kein Gesetz erlassen worden, da ist jetzt noch kein praktischer Stein ins Rollen gekommen.
01:12:11
Speaker
so überzeugend. Du hast mich auf jeden Fall überzeugt und auch sicher viele, viele andere. Und wie gesagt, dieses Gefühl wurde bestätigt von den zwei wichtigsten wissenschaftlichen Fächern. Aber wenn ich jetzt sage, okay, und wie geht es jetzt weiter, dann müssen wir ja jetzt eigentlich die Politik dazu bekommen, sich dementsprechend
01:12:37
Speaker
zu verhalten, Konsequenzen daraus zu ziehen und in den Worten Taten folgen zu lassen, wenn man jetzt ein Sprichwort ausprobieren möchte. Das ist richtig. Und da stellt sich zum einen die Frage, an wen und an welcher Stelle in der Politik wenden wir uns da? Und das ist
01:12:56
Speaker
eine Frage, die nicht so trivial in der Beantwortung ist, wie sie als Frage klingt, weil wenn du mal drauf guckst, worüber wir hier gerade verhandeln, wir sprechen über Kultur, über Medien, über Wissenschaft. Also die Orte, wo Wissensarbeit stattfindet. Die sind im deutschen Recht zum Beispiel ausnahmslos in Hoheit der Bundesländer, also in föderaler Hoheit. Das Urheberrecht allerdings
01:13:21
Speaker
ist Bundesrecht in Deutschland, wird aber de facto inzwischen nur noch von Brüssel gemacht und von Straßburg, weil es betrachtet wird unter der europäischen Perspektive auf die Binnenmarktverhältnisse. Also das wird als Marktrecht für den Binnenmarkt begriffen und definiert.
01:13:39
Speaker
Und da merkst du schon, wie komplex das ist, wenn die Inhalte in der Zuständigkeit an einer ganz anderen Stelle verortet sind als diejenigen, die das Marktrecht definieren, dann gibt es natürlich auch ein riesiges Problem an der Stelle, wo du
01:13:56
Speaker
attestieren muss, dass es vielleicht keinen gemeinsamen Wissensstand mehr gibt. Und das ist leider ein hochkomplexes Problem, weil in Deutschland kann ich dir sagen, dass zum Beispiel auf Länderebene, da wo die Hoheit für die Kultur, für die Medien und für die Wissenschaft ist, verortet ist, verfassungsgemäß wohlgemerkt, sehr wenig Wissen über die Prozesse von KI, über die Konflikte im Urheberrecht vorhanden ist.
01:14:25
Speaker
Weil die sagen, es ist nicht unser Wir. Was natürlich ganz merkwürdig ist. Denn wenn du ein Feldwald- und Wiesenarzt bist irgendwo in der Provinz, dann kannst du auch nicht guten Gewissens sagen, es ist mir doch egal, was die Pharmaunternehmen in den Großstädten machen. Weil wenn du von denen die Medikamente nicht kriegst, kannst du nicht operieren oder nicht. Also es ist ein böses Bild vielleicht. Aber die Dinge hängen zusammen und zwar viel enger als man glaubt. Und deswegen werden wir
01:14:55
Speaker
strategisch auf verschiedenen Ebenen weitermachen müssen. Also eine kleine Korrektur, du hast gesagt, das ist die erste Arbeit, das ist nicht die erste, das ist die erste interdisziplinäre Arbeit, dieses Zuschnitts. Natürlich gibt es jede Menge wissenschaftliche Äußerungen, die sagen, gibt überhaupt kein Problem.
01:15:11
Speaker
Ja, zum Beispiel. Das sind aber lauter Essays, die dann eben aus einer rein juristischen Perspektive und anhand des geltenden Schrifttums argumentieren. Und die beiden gehen jetzt eben hin. Also selbstreferenziell quasi. Ja, letzten Endes ist es nur so eine Selbstbestätigung, die da stattfindet. Und auch eine Fortpflanzung so.
01:15:31
Speaker
Die beiden gehen jetzt hin und sagen, das kann eigentlich nicht hinlänglich sein. Wir müssen ja einfach jetzt mal uns noch mal genauer die Sinn- und die Strukturzusammenhänge zwischen den Ebenen angucken und dann in eine detaillierte Bestandsaufnahme gehen, die dann überhaupt erst erlaubt, Bewertungen vorzunehmen.
01:15:52
Speaker
Insofern glaube ich schon, also die Studie, du hast vorhin nach der Rezeption der Studie gefragt, ich glaube, dass die ziemlich spektakulär ist gerade. Also international habe ich persönlich sowas noch nicht erlebt, dass es innerhalb so kurzer Zeit so viel Aufmerksamkeit gab, auch Interviewanfragen aus den USA ganz konkret.
01:16:12
Speaker
Wir haben ein bisschen das Problem, dass wir im Moment noch keinen englischsprachigen Volltext anbieten können. Du hast gesagt 171 Seiten. Das kann man nicht über Nacht und schon gar nicht durch Diepel oder sowas machen. Das muss eben wissenschaftlich gemacht werden. Ja klar. Und da müssen wir einfach jetzt nacharbeiten. Aber die internationale Fachszene und das heißt diese Schnittstelle von Technologiekonzernen
01:16:40
Speaker
bürgerlicher Gesellschaft und Rechtswissenschaft, die ist komplett hooked gerade. Und die Verbände sind unglaublich glücklich gerade und übrigens interessanterweise nicht nur die Urheberverbände, sondern natürlich auch die Verwerterverbände, denn denen spielen wir komplett in die Hände mit dem, was wir
Kreative Sektoren und KI-Konflikte
01:16:58
Speaker
gerade machen. Weil, ob wir jetzt über einen Buchverlag sprechen oder über die Autoren sprechen, macht an dieser Stelle überhaupt keinen Unterschied.
01:17:04
Speaker
Die sitzen in einem Boot und genauso ist es auch mit der Musikindustrie, mit den Indies, mit den Songwriter und mit den Musikerverbänden. Wir sind alle einig in diesem Fall, dass wir hier jetzt grundsätzlich erstmal die Dinge richtig ziehen müssen. Und wir haben ja auch noch gar kein Fell erlegt, deswegen können wir es auch noch nicht verteilen. Aber natürlich werden wir früher oder später auch wieder irgendwann in Verteilungskämpfe uns begeben, wenn es dann was zu verteilen gibt.
01:17:33
Speaker
Ja, ganz kurz dazu noch liebe Grüße aus den USA und aus Australien, von den Präsidenten der Sprecherverbände. Die sind auch ganz, ganz angetan und you made their day and their days to come probably too. Sehr schön. Also die scharren wirklich sehr, also über die UVA habe ich es letztlich auch gleich verbreitet.
01:17:58
Speaker
die sagen, können wir bitte gestern eine englische Version davon haben, weil wir sind die ganze Zeit mit dem Kongress oder mit dem Premierminister in Australien. Also es kommen jetzt diverse Texte, es kommen auch teilweise Einzelessays zu den einzelnen Aspekten, auch auf Englisch ganz konkret und also das heißt, die werden bedient, es wird wahrscheinlich so vier, sechs Wochen dauern, bis wir da wirklich liefern können, aber das ist alles geplant und da kommt jetzt eine ganze Welle von Dingen noch bis zum Jahresende.
01:18:25
Speaker
Und das hast du vorhin auch schon angedeutet, und das entnehme ich auch dem, was du jetzt gerade nochmal gesagt hast. Ich glaube, eine der wichtigsten Rückmeldungen, die wir im Moment kriegen, und das kann man fast ein bisschen generalisieren, ist, dass ganz viele Leute sagen, endlich gibt uns jemand eine Handhabe.
01:18:44
Speaker
Also wir kommen aus der Ohnmacht raus. Und wenn wir das ein Stück weit geschafft haben, den Leuten aufzuzeigen, dass es viel zu früh ist, den Kopf in den Sand zu stecken,
01:18:58
Speaker
dann haben wir ja schon ganz viel erreicht, denn wir müssen einfach den Druck aufrechterhalten in der Politik. Und nur um es abzuschließen, also wir müssen auf den verschiedensten Ebenen, wir müssen auf der inhaltlichen Ebene dann eben an den Stellen ansetzen, wo die Leute für die Inhalte zuständig sind, aber wir müssen an den Stellen, wo die Bundesregierung in Österreich und in Deutschland eben mit der EU zusammen die nächsten rührberechtlichen Schritte planen, jetzt dafür sorgen, dass die vorbereitet sind in dem Moment, wo es konkret wird. Und wie das konkret ablaufen wird, ist
01:19:28
Speaker
vielleicht ein bisschen jenseits des Scopes dieser Studie gerade. Also die Studie sagt ja erst mal, das müsste man sich angucken und das und das ist wahrscheinlich bislang falsch beschrieben worden.
01:19:39
Speaker
Die Studie äußert sich aber natürlich nicht dazu, das war auch nicht deren Aufgabe, ob man jetzt einen zweiten AI Act braucht, ob man jetzt wartet auf die ohnehin anstehende Evaluierung der europäischen Urheberrechtsrichtlinie in 2026. Da bin ich ein bisschen skeptisch, um ehrlich zu sein, weil ich glaube, also eine Sache habe ich ja heute noch gar nicht ausgesprochen, die ist aber so erschütternd, wenn man sie ausspricht, dass man sie einfach ein bisschen als
01:20:06
Speaker
Folie auch für die Bewertungen betrachten muss. Wir haben 2019 die europäische Urheberrechtsrichtlinie abgestimmt in Straßburg und angenommen. Das heißt, sie ist 2021 im Juni, am 7. Juni in Kraft getreten europaweit.
01:20:25
Speaker
Das Training generativer KI-Systeme hat aber spätestens 2012, wahrscheinlich eher 2010 begonnen, in dem Umfang, über den wir heute sprechen. Und gerade die großen Systeme wie zum Beispiel OpenAI, ChatGPT und so haben zu dieser Zeit begonnen, ihre Maschinen zu befüllen.
01:20:44
Speaker
Und das ist ohne jede Rechtsgrundlage geschehen. Das heißt, die ganze Diskussion über TDM ist ein Stück weit auch eine Ablenkung von dem eigentlichen Drama, was erfolgt ist. Das nämlich, bevor wir TDM überhaupt hatten ab 2021, schon so unglaublich viel geschehen ist, dass wir im Grunde genommen überhaupt nicht verstehen können, dass die Staaten sagen, ist jetzt doof, aber wissen wir jetzt auch nicht.
01:21:09
Speaker
Weil hier wird die Basis jeder Wertschöpfung in Kultur, Medien und Wissenschaft in Europa, in die USA abgezogen, um gegen uns anzustinken, unentgeltlich und ohne Genehmigung.
Medienethik und Demokratie
01:21:26
Speaker
Das können wir nicht hinnehmen.
01:21:29
Speaker
Das ist ein riesen Ding. Ich kann mich erinnern, als wir uns das letzte Mal gesehen haben, haben wir da auch schon kurz darüber gesprochen. Das ist eigentlich, wie du sagst, das ist eigentlich eine Ablenkung. Das ist, guck mal hier, das Glöckchen, das TDN-Glöckchen, das ist total kompliziert und, aha, lieber gar nicht erst.
01:21:45
Speaker
Das ist eben auch ein bisschen so ein derailing, indem wir ständig auf diese technologischen Diskussionen wieder zurückgeführt werden und werden wir auch ständig in dieser Ohnmacht gehalten. Und Tatsache ist, dass es eine unfassbare Ungerechtigkeit ist und dass es außerdem nicht nachhaltig ist und dass es volkswirtschaftlich schädlich ist, die Inzentivierung von Wissensarbeit in Europa aufzugeben. Wir haben doch sonst gar nichts. Was bleibt uns denn da noch?
01:22:14
Speaker
Ja. Und da haben wir noch nicht über unabhängigen Journalismus gesprochen oder über demokratiepolitische Probleme, die daraus entstehen. Aber das ist tatsächlich ein Thema für eine andere Volk. Ich glaube, da können wir noch mal gut ein, zwei Stunden drüber sprechen oder auch zwanzig.
01:22:33
Speaker
Aber wer sich dafür interessiert, dazu haben wir uns ja schon seitens der Initiative über Recht intensiv geäußert. Wir haben mehrere Papiere im letzten Jahr veröffentlicht und Veranstaltungen gemacht. Und das erste, mit dem wir rausgekommen sind, im April 2023, das hat ja gerade die medienethischen und demokratierechtlichen Aspekte
01:22:54
Speaker
konkret auf die Hörner genommen und zwar unter einem wettbewerbsrechtlichen Aspekt so ein bisschen. Also so eine Perspektive, die gesagt hat, Leute macht euch mal klar, was das bedeutet, wenn Konzerne, die über die einzigen relevanten Verwertungskanäle, Verbreitungskanäle verfügen, jetzt in die Situation kommen, auch noch die Inhalte selbst herstellen zu können.
01:23:15
Speaker
Ich meine, worüber reden wir, wenn wir das zulassen wollen? Die auch selbst verwaltet und sich selbst überlassen, im Endeffekt, wie wir schon beschrieben haben, sich incestuös. Und dass das keine gute Idee ist, wissen wir schon seit den Habsburgern. Aber vielleicht nochmal so ganz, ganz ehrlich, was, ich meine,
01:23:38
Speaker
Trotzdem bleibt ja dieses Gefühl, ich bin nur ein kleines, so ein winziges Puzzleteil in diesem ganzen großen Getriebe. Was kann der Einzelne, die Einzelne, gibt es irgendwas, was man tun kann, sich verhalten kann, deiner Meinung nach, deiner Empfehlung nach, um das zu unterstützen oder um da zumindest nicht eben dem noch mehr Fahrwasser zu geben.
01:24:00
Speaker
Ja, also ich fange mal mit was wirklich ganz pragmatischem an. Also aus meiner Perspektive, ich weiß aber, dass vielleicht diejenigen, die es hören, das zum Teil gar nicht nachvollziehen können, dass ich das pragmatisch finde. Wir erleben im Moment, und das mache ich jetzt mal nicht sehr konkret und sage nicht über wen ich genau spreche, aber wir erleben, dass im Moment Jobs wegbrechen, dass Existenzgrundlagen wegbrechen und dass die Angst
01:24:24
Speaker
nicht bestehen zu können im eigenen Beruf offenbar den Blick auf die Welt sehr stark dominiert. Und die Folge ist, dass wir in einigen Bereichen, die wir repräsentieren als Initiative Öberrecht, merken, dass in nennenswertem Umfang Mitgliedschaft verloren geht in den Einzelverbänden.
01:24:42
Speaker
Und das halte ich für verantwortungslos. Also ich bin da inzwischen auch wirklich, ich meine, ich mache das Ganze jetzt schon so lange und ich mache es überwiegend ehrenamtlich. Ich reiße mir ständig den Bein aus für die Kolleginnen und Kollegen und dann sagen die, ach, ich weiß jetzt auch nicht, ob das in Zukunft, ob das noch eine Zukunft hat. Ich lasse das mal. Und in dem Moment lassen sie uns fallen.
01:25:04
Speaker
Also ich erwarte von den Kolleginnen und Kollegen, auch wenn sie zukünftige Ex-Kolleginnen und Ex-Kollegen sein sollten, dass sie uns die Stange halten, dass sie uns über Mitgliedschaften das Mandat geben und dass sie uns auch ein kleines bisschen von ihrem noch vorhandenen Geld geben, damit wir diese Arbeit machen können.
01:25:25
Speaker
Ja, damit fängt es mal an. Aber wichtiger ist vielleicht tatsächlich sogar der Aspekt des Mandats. Wir brauchen ein breites Mandat, damit die Politik nicht weggucken kann, sich nicht wegducken kann, wenn wir ankommen und sagen, wir repräsentieren diese Gruppe hier. Und die ist so groß.
01:25:43
Speaker
Und die hat auch folgenden volkswirtschaftlichen Impact im Moment und Beschäftigungsimpact und so. Das können wir natürlich auch alles zeigen. Also das ist, ich neige inzwischen sehr dazu, immer anzufangen mit dem Griff an die eigene Nase. Wenn unsere eigenen Leute uns jetzt im Stich lassen, dann können wir irgendwann diese Arbeit nicht mehr machen. Und ich kann so gut verstehen, dass man irgendwann sagt, ich kann nicht mehr und ich will nicht mehr und ich lasse das hinter mir. Dann lass doch wenigstens den Überweisungsauftrag offen.
01:26:15
Speaker
Und opt-out, haben wir schon intensiv darüber gesprochen, muss man jetzt machen und übrigens auch, wenn man glaubt, man geht aus dem Beruf raus und kann ihn nicht mehr aufrechterhalten. Das ist kein Grund, den Konzernen jetzt etwas zu schenken, was ihnen nicht zusteht.
01:26:31
Speaker
Und ich persönlich bin ja ohnehin der Überzeugung, und das ist auch der Grund, warum ich das alles so intensiv mache ein Stück weit, dass Ohnmacht am besten bekämpft werden kann durch Information, durch Orientierung. Und indem ich mehr verstehe, was diese Systeme sind, was sie leisten können, wie sie funktionieren, in welchen Hand sie sind, habe ich sehr viel weniger Angst. Und das muss ich halt eben tatsächlich sagen.
01:26:53
Speaker
sicherlich so was wie eine angstbesetzte Respektshaltung gegenüber den Konzernen, mit denen wir da konfrontiert sind. Denn deren Machtkonzentration über nationalem Recht und über Unionsrecht, die muss uns allen wirklich große Sorgen machen. Aber ich gehe da eher in eine Wut als in eine Unmacht.
01:27:17
Speaker
Und je mehr ich mich mit der Technologie auseinandersetze und je eingehender ich das tue und je mehr ich Rückfragen stelle an die KI-Experten, mit denen wir ja zusammenarbeiten. Und das mache ich ganz oft, desto mehr habe ich den Eindruck, dass ich gar nicht so viel Angst haben muss vor der Technologie an sich. Denn die ist zwar an der Oberfläche beeindruckend, aber sie kann genau die Dinge, die ich gut kann und die viele von uns gut können, nicht, nämlich kommunizieren.
01:27:42
Speaker
verstehen, Empathie entwickeln, Bedarfe erkennen, Zwischentöne ausleuchten. Ich meine, als Filmkomponist bin ich doch ständig damit konfrontiert, dass ich eine unglaublich fröhliche, tieftraurige Musik machen soll. Sagt das Manakai?
01:28:05
Speaker
Und deswegen ist es so, dass wir uns so stark darauf zurückbesinnen müssen, dass das, was wir alle machen, wenn wir Kunst und Kultur machen und Medien machen, eigentlich Kommunikation ist.
Wert menschlicher Inhalte
01:28:19
Speaker
Und ich bin ganz sicher, dass wir uns auf eine Zukunft zubewegen, die sehr anders sein wird als der Status Quo, den wir jetzt gerade haben. Das lässt sich auch schon jetzt nicht mehr abwenden. Deswegen habe ich ja vorhin mal dieses Zeitfenster aufgemacht. Der Prozess läuft schon viel zu lange und das wird uns ganz viel kosten. Aber möglicherweise positiv
01:28:38
Speaker
betrachtet wird es ja auch zu einer Klärung, zu einer Klarheit, dass menschengemachte Inhalte eben doch eine Bedeutung haben, die nur menschengemachte Inhalte haben können. Und dass so ein KI-Abbild davon eben dann ein hübsches Post-it oder ein hübscher Hochglanzaufkleber sein kann von irgendetwas, was ein Mensch mal gemacht hat. Und keineswegs alles, was Menschen machen, ist deswegen, weil Menschen das machen, großartig, darum geht es ja gar nicht.
01:29:00
Speaker
Aber es ist eben was Individuelles. Es ist eben was Persönliches. Es ist etwas, was einen konkreten, empfundenen Bedarf in der Situation stillt. Und ich glaube, dass die Tatsache, dass wir jetzt ja schon alle merken, dass wir Bildern nicht mehr trauen.
01:29:15
Speaker
dass wir nicht mehr wissen, ob Bilder noch Dokumente sein können, dass wir nicht mehr wissen, ob eine Stimme, die wir hören, von demjenigen genutzt wurde, dem sie gehört. Dass das ein Hinweis darauf ist, dass diese Welt in einem tiefgreifenden Umbruch ist, der auch zu einer Besinnung führen muss, aus der Besinnungslosigkeit heraus.
01:29:35
Speaker
Ja, das hast du sehr schön zusammengefasst. Es geht mir genauso. Ich bin aus der Angst durch eine Auseinandersetzung mit dem Thema in eine Selbstbestimmtheit, in eine Handlungsfähigkeit, in eine Ermächtigungsposition gekommen. Und mir ist schon bewusst, dass das keine Machtposition auf Augenhöhe ist. Aber es geht mir in erster Linie mal darum, dass ich mit meiner psychischen Gesundheit, mit meiner
01:30:03
Speaker
mit meinem Beruf, mit meiner Familie, mit meinem Alltag gerne weitermachen würde und nicht daran zugrunde gehen würde. In welcher Form auch immer, beruflich, psychisch, egal. Es geht nicht um Gewinnen oder Verlieren.
01:30:18
Speaker
Ich bin zu lange in Österreich und ich sag auch immer gerne so, sei es lästig. Das können wir Menschen sehr gut, unangenehm sein, nachfragen, Dinge von unserem Bürgerrecht Gebrauch machen. Es gibt die Möglichkeit der Datenauskunft, Nachfrage zum Beispiel. Es gibt Möglichkeiten, die man als Bürger, Bürgerin in Anspruch nehmen kann, die uns der Gesetzgeber bietet.
01:30:47
Speaker
Und wie du vollkommen richtig sagst, lass dann die großen Kämpfe von den Verbänden, von den Dachverbänden, von den Institutionen führen, die euch vertreten, die uns vertreten. Aber das heißt nicht, das ist meine Grundvoraussetzung, aber das heißt nicht, dass man nicht auch selber als
01:31:09
Speaker
Patrick als Matthias privat nicht auch irgendwas machen kann. Und wenn es ist, wie ich mit meinem Schwiegervater dann gesprochen habe und ihm das erklärt habe, weil er das einfach nicht wusste und dann war das völlig okay und na klar, überhaupt keine Frage, dass das nicht mehr passiert und dass das kein Thema mehr ist. Und da ist ein Sinneswandel auch ein, ist ja auch eine Generationsfrage. Wenn ich mich mit einem Mitte 60 oder 70 jährigen Menschen darüber unterhalte,
01:31:37
Speaker
Der lebt nicht am Zahn der Zeit und hat diese Entwicklungen genauestens mitverfolgt. Wir haben eben auch ein demografisches Problem tatsächlich. Wir haben wirklich auch ein demografisches Problem, weil diejenigen, die im Moment Entscheidungen treffen müssen im politischen Raum, tendenziell in einem Alter sind, dass sie die Folgen nicht mehr ertragen müssen.
01:32:03
Speaker
Das weiß ich gar nicht so genau, ob das in allen europäischen Ländern so ist, aber in Deutschland ist es allemal so, dass wir einfach eine echt überalterte Gesellschaft haben mit sehr, sehr wenigen jungen Menschen, denen wir aber so richtig grundsätzlich einfach mal die Zukunft versauen gerade.
01:32:19
Speaker
Und ich finde tatsächlich eben auch dieses Unbequemsein und einfach nicht immer den einfachsten Antworten glauben und den plüschigsten Versprechungen glauben.
Zukunft von generativer KI
01:32:34
Speaker
Also ich meine, es gibt ja eben auch diese Rede von Snake Oil Business bei generativer KI, dass die einfach was verkauft wird, was einfach unehrlich ist.
01:32:47
Speaker
Dass dir jemand wirklich als Charlatan Zeug andrehen will, wo er auf deine Neugier oder vielleicht auch auf deine Verzweiflung setzt und danach mit deinem Geld weg ist und du sitzt immer noch in der Neugier und in der Verzweiflung. Vielleicht hast du die Neugier verloren, aber die Verzweiflung bleibt. Dass wir in einer Welt leben, in der offenbar Politik zu so großen Teilen bereit ist, dieser Art von Heilsversprechen zu folgen, das macht mir ganz große Sorgen.
01:33:17
Speaker
Ja, kann ich nur so stehen lassen und unterschreiben zu 100%. Das ist ein Riesenproblem.
01:33:23
Speaker
Matthias, lass uns zum Schluss, wenn du Lust hast, kurz vielleicht eine Zeitkapsel bauen und deinen Eindruck, wie die Geschichte so weitergehen wird und vielleicht wie die Entwicklungen in den nächsten fünf Jahren sein werden und wenn wir nicht um dich dann in fünf Jahren darauf festzunageln, sondern einfach als Gedankenexperiment und um zu sehen, in fünf Jahren, wenn man sich die Folge nochmal anhört, wie viel davon tatsächlich oder was davon.
01:33:48
Speaker
Also ich bin ja immer ganz vorsichtig mit Prognosen, zumal wenn sie die Zukunft betreffen, der war nicht von mir der Gag, aber die unglaubliche zeitliche Dynamik, gerade bei diesem Thema generative KI, die ist ja für uns alle, glaube ich, einfach eine schlichte Überforderung gewesen. Und vielleicht ganz wichtig, dass wir heute, wir haben ja auf viele Teilbereiche gar nicht so genau geguckt, aber ich glaube es ist wichtig sich klar zu machen,
01:34:17
Speaker
dass der Fortschritt der generativen KI nicht technologischem Fortschritt gleichkommt, sondern Ressourcenzufluss zu danken ist. Das heißt, die konnten Dinge vorher auch schon prinzipiell berechnen, aber sie hatten weder genug Daten, noch genug Geld, noch genug Ressourcen.
01:34:34
Speaker
Jetzt haben Sie alles davon für ein paar Jahre gehabt und plötzlich werden Dinge schillernd und schön. Es gibt gute Gründe anzunehmen, dass das auf Dauer so nicht weitergehen wird. Also angefangen bei der Finanzierung der Konzerne, die einfach so viel Geld verbrennen. Darüber haben wir vorhin schon gesprochen.
01:34:53
Speaker
bis dahin, dass einfach der Zufluss an Daten in dem Umfang gar nicht mehr gewährleistet sein wird. Und das heißt, der Treibstoff wird knapp für die Maschinen. Und da bin ich jetzt allerdings sicherlich nicht Experte genug, um zu prognostizieren, was das genau bedeuten wird. Nur es bedeutet, dass wahrscheinlich dieses Wachstum, was wir im Moment sehen, so nicht ungebrochen weitergehen wird. Und das sagen übrigens auch durchaus die KI-Leute selber.
01:35:17
Speaker
Und was Regulierungsfragen betrifft und was die Fragen der Rettung der Inhaltemärkte betrifft, das fällt mir echt schwer. Da möchte ich dich auch gar nicht festnageln drauf. Wir haben alle keine Glaskugel. Ich glaube auch, das ist tatsächlich fies.
01:35:43
Speaker
Lass mich einen Punkt vielleicht noch, ein schönes Bild. Ich weiß, du kennst bestimmt den TEDx Talk von Steven Zapata. Das ist ein Visual Artist, Concept Artist aus Hollywood. Und der hat einen fantastischen TEDx Talk gemacht letztes Jahr, wo er darüber spricht, wie wir als Gesellschaft eigentlich unter den Bedingungen generativer KI zukünftig mit Kunst umgehen werden.
01:36:08
Speaker
Er sagt an einer Stelle, wir werden sicherlich auch weiterhin Kunst haben, denn die Maschinen werden Dinge machen, die hübsch anzugucken sind und die kann man sich irgendwo hinhängen. Was wir aber verlieren werden, ist die ganze Kraft, das Geheimnis und das Eigentliche, was darin liegt, Kunst zu machen.
01:36:24
Speaker
Und das ist, glaube ich, so ein ganz zentraler Aspekt. Ich glaube nicht, dass wir das verlieren werden. Ich glaube, das ist eine sehr politisch zugespitzte Beschreibung gewesen von ihm. Er hat ein Bild hergestellt. Ich glaube, wir werden das nicht verlieren, weil Menschen sich das nicht nehmen lassen, Selbstkunst zu machen. Aber das ist natürlich gleichzeitig ein Hinweis darauf, dass unglaublich viele Leute überhaupt nicht verstehen, dass Kunst etwas Gemachtes ist.
01:36:51
Speaker
Ich sage jetzt mal bewusst nicht, was ich dazu rechne, sondern das künstlerische Ausdruck setzt voraus, dass jemand etwas getan hat. Und das ist jetzt vorbei. Jetzt sind wir mit künstlerischem Ausdruck konfrontiert, der nichts ausdrückt.
01:37:07
Speaker
Und das finde ich eine der ernüchternden, deprimierenden und erschütternden Erkenntnisse, wie unendlich viele Menschen uns umgeben, die sich zwar gelegentlich mal eine hübsche Musik anhören oder auch mal irgendwo in ein Konzert gehen und da rumschwufen und dann vielleicht auch ein Zahnarzt-Gemälde irgendwo bei sich irgendwo in der Wohnung hängen haben, für das sie mal 80 Euro ausgegeben haben bei Ikea oder so.
01:37:37
Speaker
aber keine Vorstellung davon haben, was für Wert eigentlich darin steckt, dass jemand Dinge macht. Das ist auch ein schönes Schlusswort, das nehme ich. Danke dir, Matthias, dass du dir die Zeit genommen hast, mit uns die Studie durchzugehen und danke dir für dieses wunderbare Gespräch. Ich habe sehr viel Neues gelernt.
01:37:53
Speaker
Zwischendurch hat mir auch immer mal wieder der Kopf geraucht. Aber so soll das ja auch sein bei diesem sehr komplexen und vielfältigen Thema. Danke auch an euch, dass ihr drangeblieben seid bis jetzt. Und wenn euch die Folge gefallen hat, dann empfehlt den Podcast gerne weiter. Lasst mir ein Like da, bewertet die Show und bleibt uns gewogen. Alles Liebe. Bis zum nächsten Mal.