Transcript
Speaker: Wir haben alle ein bisschen Text erzeugt, wir haben alle ein paar lustige Bilder generiert.
Speaker: Und die Frage ist, wo können wir diese Technologie im Unternehmen einsetzen, dass sie tatsächlich Wert stiftet.
Speaker: Wir sind jetzt, glaube ich, schon in der x-ten Krise.
Speaker: Also wir hatten zuerst Corona, dann Energiekrise, Wirtschaftskrise, nicht?
Speaker: Alle Unternehmen sind konfrontiert mit Effizienzdruck, seltene Erden.
Speaker: brauchen wir sehr, sehr viel, insbesondere um die Infrastruktur herzustellen.
Speaker: Hier gibt es Prognosen, dass wir 2040 schon in einen Engpass kommen.
Speaker: Geil.
Speaker: Mike Rider Deep Talk.
Speaker: Menschen.
Speaker: Business.
Speaker: Diskussionen.
Speaker: Der Sprecher-Podcast.
Speaker: Hi und herzlich willkommen zu einer neuen Folge Micrider Deep Talk.
Speaker: Heute bei mir im Studio Jeannette Gausala, die KI-Anwältin, die auch die Micrider Deep Talk-Reihe eröffnet hat vor fast einem Jahr.
Speaker: Jeannette, schön, dass du wieder da bist.
Speaker: Vielen Dank für die Einladung.
Speaker: Ich freue mich sehr, heute wieder hier zu sein.
Speaker: Ich freue mich auch sehr, weil wir können jetzt besprechen, was in diesem Jahr alles passiert ist.
Speaker: Erzähl mal vielleicht aus deiner Perspektive, dein 24 bis Anfang 25, was ist KI-technisch so alles passiert?
Speaker: Es ist sehr, sehr viel passiert.
Speaker: Wenn ich mich noch erinnere, das letzte Mal, dass wir eröffnet haben, haben wir uns noch überlegt, kommt der IAC, in welcher Form kommt er.
Speaker: Nun ist es fix, also seit August 2024 ist der Rechtsakt abgeschlossen und der IAC tritt jetzt schrittweise in Kraft.
Speaker: Wir haben da auch schon die ersten zwei Checkpoints, wenn man so möchte, durchlaufen mit Februar 2025.
Speaker: KI-Kompetenz und verbotene KI-Praktiken waren hier abzuklären.
Speaker: Und auch sonst tut sich sehr, sehr viel im KI-Ökosystem ab.
Speaker: Wir hatten den AI Action Summit in Paris.
Speaker: Es gab sehr, sehr viele Veranstaltungen.
Speaker: Es ist ein großer Buzz und auch Drive im Ökosystem, insbesondere da jetzt mehr Aussicht auf Finanzierung in Europa, auch für KI-Startups und Unternehmen winkt, die sich mit dieser Thematik beschäftigen wollen.
Speaker: Ja, spannend.
Speaker: Viele Fragen.
Speaker: Werden wir auch auf alles noch zu sprechen kommen, auch auf den AI Action Summit, aber ich würde gerne kurz vielleicht beim AI Act.
Speaker: Was bedeutet das konkret, die zwei Checkpoints, die du erwähnt hast, die KI-Kompetenz und die verbotenen KI-Praktiken für uns als Wirtschaft, als Bürger, als Europäer?
Speaker: Ich fange mal an vielleicht mit den verbotenen KI-Praktiken, da es relativ einfach erklärt ist.
Speaker: Im AI Act haben wir acht Use Cases, die in der Zukunft nicht mehr in Europa weder entwickelt noch deployed werden sollen.
Speaker: Da geht es um Themen wie Emotionserkennung am Arbeitsplatz zum Beispiel oder in Bildungseinrichtungen, Aufbau von Gesichtsdatenbanken,
Speaker: aber auch bestimmte Formen der biometrischen Kategorisierung oder mit Ausnahmen, aber nichtsdestotrotz, Echtzeitüberwachung an öffentlichen Orten für Rechtsverfolgungszwecke und noch ein paar andere Tatbestände, die sind ab 2.
Speaker: Februar 2025 verboten.
Speaker: Das heißt, alle Organisationen sind und waren aufgerufen, sicherzustellen, dass sie keine derartigen Praktiken im Unternehmen einsetzen, beziehungsweise dass vielleicht Use Cases oder Systeme, die in diese Richtung entwickelt wurden, dass das hier auch entweder in Einklang gebracht wird, auf eine zulässige Art und Weise oder gestoppt wird.
Speaker: Der zweite Punkt war das Thema KI-Kompetenz.
Speaker: Da gab es in den letzten Wochen auch sehr, sehr viel Berichterstattung darüber.
Speaker: Der AI Act schreibt vor, dass Organisationen, die KI einsetzen, hier auch die entsprechenden Kompetenzen aufbauen müssen.
Speaker: Was heißt das jetzt?
Speaker: Als Organisation, als Unternehmen musste ich mich auseinandersetzen mit meiner Rolle.
Speaker: Das heißt, bin ich Anbieter, entwickle ich selbst KI-Systeme oder bin ich vielleicht nur Betreiber und setze Lösungen von Drittparteien ein?
Speaker: Die zweite wichtige Frage ist hier natürlich dann, welche Art von KI-Lösungen, welche Art von KI-Systemen setzt sich ein und welches Risiko ist mit diesen Systemen verbunden?
Speaker: Das heißt, ein LLM, Jenny Eye Tools sind hier natürlich anders zu beurteilen.
Speaker: Hier sind andere Fragen wichtig, wie zum Beispiel Datenverwendung, vielleicht Urheberrechte, vielleicht auch KI- und Medienbildung und kritisches Hinterfragen der Inhalte, die aus diesen Tools kommen.
Speaker: Oder andere Systeme, die mit einem erhöhten Risiko vielleicht verbunden sind.
Speaker: Das sind zum Beispiel HR-Systeme, andere Emotionserkennungs- oder biometrische Systeme, KI, teilweise für Kredit- und Bonitätsscoring.
Speaker: Da ist aufgrund des Risikos einfach eine andere Herangehensweise gefragt.
Speaker: Und ich bin als Arbeitgeber quasi verpflichtet, meinen Mitarbeitern dieses Wissen zur Verfügung zu stellen, anzutrainieren, wie auch immer, damit wir alle wirtschaftlich und gesetzeskonform miteinander arbeiten können.
Speaker: Stimmt das ungefähr?
Speaker: Genau, ja.
Speaker: Und der Punkt ist, der AI-Act schreibt hier kein One-Size-Fits-All-Konzept für alle unisono vor, sondern es ist tatsächlich organisationsspezifisch, was ja auch eine Chance ist, weil dann kann ich entsprechend für mich, für meine Organisation hier ein adäquates, passendes Konzept machen.
Speaker: Und tatsächlich, also wie du gesagt hast, es geht hier darum, diese Kompetenz bei den Mitarbeitern aufzubauen, damit die dann entsprechend die Chancen verstehen dieser Technologie und mit den Chancen umgehen können, aber auch Awareness für die Herausforderungen und Risiken besteht und auch für die rechtlichen Themen, die mit dem Einsatz zusammenhängen, um hier natürlich einen möglichst sicheren, möglichst rechtskonformen Zugang zu der Technologie zu fördern.
Speaker: Ja, grundsätzlich finde ich das total gut und richtig und wichtig natürlich.
Speaker: Sonst hätte ich es nicht gesetzlich erlassen.
Speaker: Aber das trifft einen anderen Punkt, den ich gerne mit dir diskutieren würde, nämlich meine Empfindung ist es, dass der AI-Act fast noch mehr Fragen offen lässt oder zumindest Interpretationsspielraum zulässt in der Auslegung, als er eigentlich vorliegt.
Speaker: Fast regelt.
Speaker: Ist das nur meine Empfindung?
Speaker: Siehst du das auch so?
Speaker: Und wie empfindest du das als Juristin, dass man so viel der Auslegung und der Anwendung dem AI Office und in weiterer Folge den Gerichten dann an Verantwortung überlässt?
Speaker: Also ich glaube, er gibt uns schon einen Rahmen.
Speaker: Ich würde den AI Act wie ein Haus sehen.
Speaker: Es stehen jetzt die Grundmauern und jetzt gilt es, dieses Haus einzurichten.
Speaker: Da werden natürlich dann Standards helfen, erste Urteile helfen, Best Practices helfen.
Speaker: Ich glaube aber schon, dass die Grundpfeiler fest eingeschlagen sind.
Speaker: Das heißt, so ganz frei und mehr Fragen aufwerfend, als er beantwortet, würde ich nicht sehen.
Speaker: Und ich sehe das aber auch als einen Vorteil.
Speaker: Das liegt vielleicht auch daran, dass ich mit der juristischen Brille drauf schaue und dass man sich als Unternehmer vielleicht klarere Sätze oder klarere Benchmarks wünscht.
Speaker: Aber ich sehe die Möglichkeiten, die der IACT einräumt, indem man halt
Speaker: einfach auch Spielräume schafft für adäquate, verhältnismäßige Maßnahmen als einen Vorteil, nicht?
Speaker: Weil ich kann natürlich ein fixes, starres One-Size-Fits-All-Konzept machen.
Speaker: Da erfasse ich vielleicht zu viel und Unternehmen müssen vielleicht mehr tun, als sie eigentlich tun müssten oder adäquat wäre.
Speaker: Indem ich unbestimmte Gesetzesbegriffe verwende, auf die du anspielst, die vielleicht jetzt nicht so beliebt sind, gebe ich aber hier die Möglichkeit, passender zu arbeiten.
Speaker: Und das, glaube ich, diese Ermessensspielräume muss man auch als Vorteil sehen.
Speaker: Natürlich ist es mit Unklarheiten verbunden.
Speaker: Und es wird eine gewisse Schwankungsbreite wahrscheinlich tolerabel sein.
Speaker: Wenn man dann außerhalb der Schwankungsbreite ist, wird man vielleicht entweder übercompliant sein oder nicht compliant sein.
Speaker: Aber das gilt es jetzt auszuloten und gemeinsam zu formen.
Speaker: Ich sehe das jetzt aber nicht wirklich als einen ausschließlichen Nachteil.
Speaker: Ja, es ist sicher die Perspektive, mit der ich drauf schaue, aus einer selbstständiger, kreativer Dienstleisterbrille hätte ich mir Sicherheit und Klarheit und Eindeutigkeit gewünscht an vielen Punkten, die jetzt halt erst gerade vom AI-Office ausgearbeitet werden, Stichwort Code of Practice.
Speaker: Wie beobachtest du die Entwicklung und den Code of Practice?
Speaker: Hat es deiner Meinung nach, deiner Einschätzung nach Hand und Fuß?
Speaker: Geht es in die richtige Richtung oder wird es auch wieder eher eine, wir versuchen es mal ein bisschen zu bearbeiten, aber dann verschieben wir es doch lieber in die andere Abteilung, nämlich dann überlassen wir es den Gerichten, dann müssen die Musterklagen bis vor das EuGH gehen und so weiter.
Speaker: Ja, also der Prozess zu den Codes of Practice läuft jetzt schon einige Monate.
Speaker: Es sind mehr als tausend Stakeholder eingebunden in vier Arbeitsgruppen, die sich mit den Themen beschäftigen.
Speaker: Für dich als Kreativer ist wahrscheinlich am interessantesten das Thema Transparenz und Copyrights.
Speaker: Das sind ja auch drin mit der UVA, entschuldige, dass ich da reingrätsche, ja, genau.
Speaker: Ja, also das finde ich ja auch gut, dass man hier auch die Stakeholder aus dem kreativen und Medienbereich hat und da einfach die unterschiedlichen Sichtweisen reinbringt.
Speaker: Die Arbeiten gehen gut voran.
Speaker: Wir haben jetzt zwei Entwürfe dieser Codes of Practice schon gesehen.
Speaker: Es ist natürlich eine sehr sportliche Zeitschiene.
Speaker: Also die Arbeitsgruppen haben letztes Jahr angefangen im Oktober, November.
Speaker: Fertig müssen die Codes sein April, Mai, weil die Verpflichtungen dann ab August gelten sollen.
Speaker: Es ist viel Arbeit.
Speaker: Es ist eine komplexe Thematik.
Speaker: Ja, das macht es jetzt nicht unbedingt einfacher, auch diese vielen Standpunkte zusammenzubringen.
Speaker: Ich glaube, alle Stakeholder bemühen sich wirklich nach Kräften hier, zu guten Kompromissen zu kommen.
Speaker: Und ich glaube, die Codes of Practice werden tatsächlich auch die Verpflichtungen für die Modellanbieter besser ausdefinieren und hier mehr Klarheit bringen.
Speaker: Weil wenn wir uns im AI-Act diese Verpflichtungen anschauen oder einfach nur, ich würde sagen, wie viel Text drauf entfällt, dann sind das, glaube ich, schlanke vier, fünf Seiten mit ein paar Annexes.
Speaker: weil das Thema erst relativ spät hineingerutscht ist durch der Rise of JetGPT und Large Language Models.
Speaker: Das heißt, gerade da braucht es mehr Informationen und die Codes of Practice, glaube ich, können hier auch mehr Klarheit, mehr Anleitung bieten.
Speaker: Ja, das empfinde ich grundsätzlich auch so.
Speaker: Mir ist zum Beispiel, weil wir da auch drin sind in diesen Working Groups, ist zum Beispiel schleierhaft die Verteilung der Interessen der Stakeholder.
Speaker: Es sind definitiv alle mir bekannten Branchenvertretungen der Kreativen drin, definitiv.
Speaker: Aber es sind halt auch super viele Anwälte,
Speaker: und industrielle Vertreterinnen dort, die natürlich das hauptberuflich machen.
Speaker: Muss ich ganz ehrlich so sagen.
Speaker: Es ist so, die machen einfach, das ist deren Job.
Speaker: Die werden gut dafür bezahlt, dass sie nur diese Lobbyarbeit, diese Form von Arbeit machen.
Speaker: Und in diesen Working Groups ist mir nicht sehr transparent, ob das ausgewogen ist.
Speaker: Und natürlich, weil du das ansprichst mit dem sportlichen Zeitplan, das muss ich unterschreiben, dass eine Organisation, die ehrenamtlich tätig ist, die sich vielleicht ein, zwei, drei Anwälte leisten kann,
Speaker: hat denselben Zeitrahmen zur Verfügung wie eine ganze Legal-Abteilung eines internationalen Konzerns, der diese Legal-Abteilung nur für diesen Zweck überhaupt ins Leben gerufen hat.
Speaker: Vielleicht oder ausgeklammert hat aus dem allgemeinen betrieblichen Alltag.
Speaker: Findest du das fair?
Speaker: Suggestive Frage.
Speaker: Oder hast du einen anderen Einblick?
Speaker: Ich meine, ich lasse mich ja nichts lieber, als wenn du mir jetzt sagst, nein Patrick, das sind… Alles gut.
Speaker: Danke.
Speaker: Nein, also der Punkt ist halt, also ich glaube jeder Jurist hat das erstes Recht und Gerechtigkeit in zwei Paar Schuhe.
Speaker: Und du sprichst auch Kritikpunkte dieser Arbeitsgruppen natürlich an, die jetzt so nicht unberechtigt sind.
Speaker: Also wie du gesagt hast, der Zeitplan zum Beispiel.
Speaker: Dadurch, dass du eh auch selbst in den Arbeitsgruppen bist, hast du wahrscheinlich mitbekommen, dass es immer relativ kurzfristig kommt.
Speaker: dass die Vorbereitungszeit, wie du gesagt hast, dann auch nicht so lange ist, wie man sich das wünscht oder bei der komplexen Thematik brauchen würde.
Speaker: Insbesondere, wenn es dann ein Ungleichgewicht an Ressourcen gibt, dass man da einfach mehr schneller bewältigen muss.
Speaker: Transparenz in diesen Arbeitsgruppen, also quasi tatsächlich,
Speaker: Ob das Gleichgewicht der Stakeholdergruppen jetzt, wer welche Ressourcen hat, das ist, glaube ich, auch tatsächlich nicht so offensichtlich.
Speaker: Es gibt eine Liste einer öffentlichen, der vertretenen Stakeholder, das schon.
Speaker: Aber ob das dann tatsächlich auch ausgewogen innerhalb der einzelnen Arbeitsgruppen ist, also das kann ich jetzt so auch nicht beurteilen.
Speaker: Ich glaube, das Wichtige ist, auf jeden Fall die Chance zu nutzen, dass man da in dieser Stakeholdergruppe gehört wird.
Speaker: Weil diese Gruppen wurden auch relativ kurzfristig eingerichtet, also im Sommer letzten Jahres, also August.
Speaker: Es ist jetzt auch nicht jeder außer ich alert auf Policy und Legal.
Speaker: Die meisten Leute werden am Strand gelegen sein.
Speaker: Das heißt, es gibt viele, die da auch gar nicht in diesen Stakeholder-Prozess vielleicht hineingekommen sind.
Speaker: Das höre ich auch sehr, sehr oft.
Speaker: Und diese Gruppen sind dabei ein abgeschlossener Kreis.
Speaker: Das heißt, wenn man die Möglichkeit hat, dort gehört zu werden, sich auf jeden Fall einzubringen,
Speaker: Und auch würde ich empfehlen, natürlich sind Fristen wichtig, aber wenn man jetzt einfach zwei, drei Tage länger braucht, trotzdem die Chance nutzen, an die Chairs und Vice Chairs schreiben und dort seine Meinung, Stellungnahmen und Empfehlungen einbringt.
Speaker: Ja, mir würde ja schon eine in Anführungsstrichen Klarnamenpflicht in diesen Calls reichen, dass man weiß, welcher Vertreter welcher Kanzlei für wen steht.
Speaker: Das kann man dann eh im Nachhinein sich zusammenreimen anhand des Inhaltes, ob der eher dereguliert oder eher industriefreundliche oder Urheber- oder bürgerfreundliche, sage ich jetzt mal datenschutzfreundliche,
Speaker: Vorschläge einbringt.
Speaker: Aber es ist, fände ich der Transparenz halber nett, aber natürlich, da hast du vollkommen recht, man versucht hier, glaube ich, während das Pferd galoppiert ist, zu satteln und gleichzeitig drauf zu springen und zu reiten.
Speaker: Und das ist natürlich, muss man dann immer irgendwann auch Abstriche machen und sagen, so, das ist es jetzt.
Speaker: Ihr könnt gerne mitspielen, wenn ihr wollt.
Speaker: Und ja, wer nicht, hat halt Pech gehabt.
Speaker: Trotzdem
Speaker: fühlt es sich eben für mich, jetzt habe ich nicht ich gesagt, das hat der gute Matthias Hornschuh mal gesagt, dass wir versuchen ehrenamtlich zu retten, was andere hauptberuflich kaputt machen wollen.
Speaker: Und das ist einfach ein Ungleichgewicht im Kräfteverhältnis und im Ressourcenverhältnis, ob ich das will oder nicht.
Speaker: Also ich verstehe die Bedenken und ich sehe natürlich auch das Ungleichgewicht der Ressourcen, weil wie du sagst, ein ehrenamtlicher Verband, der Sprecher, Sprecherinnen vertritt, die Vereinigungen für diverseste anderen Mediengruppen.
Speaker: Natürlich ist das ein Unterschied, wenn ich jetzt vielleicht ein paar In-House-Juristen habe und externe Unterstützung versus Juristen.
Speaker: Ganze ausgelagerte Rechtsabteilungen mit einer anderen Kriegskasse, die hier auch natürlich ihre Vorschläge einbringen.
Speaker: Ich glaube aber schlussendlich kommt es dann auch auf die Rolle der Chairs und Vice-Chairs an, die ihre Funktion mit Verantwortung hier wahrnehmen müssen.
Speaker: Natürlich ist es klar, dass es hier unterschiedliche Interessen gibt.
Speaker: Das ist ganz natürlich, wenn ich auf der einen Seite Modellanbieter habe und auf der anderen Seite Modellanbieter,
Speaker: Eine Gruppe, die im Wesentlichen Content, hochwertigen Content produziert, diverses der Medienformen und ich hier einen Ausgleich schaffen muss.
Speaker: Und mein Vertrauen liegt in den Chairs und Vice Chairs, dass die diesen Ausgleich dann auch herstellen und ihr Bestmöglichstes tun, einfach hier beide Interessengruppen zu berücksichtigen.
Speaker: Und tatsächlich zu einem Kompromiss kommen, der so gut wie möglich ausgewogen ist, unabhängig jetzt, ob jemand 500 Seiten Stellungnahmen einbringt, unter anderem nur zwei Seiten.
Speaker: Also ich glaube, das ist ein wichtiger Punkt.
Speaker: Ja, total, sehe ich auch so.
Speaker: Und ich finde es sehr spannend, dass sich auch nämlich, sage ich jetzt mal, Vertreter ethischer KI und Versuche von Fairtrade-KI,
Speaker: mit einwandfreiem Trainingsmaterial zum Beispiel oder einem sehr transparenten Entstehungsprozess sich in diesen Working Groups einsetzen, um einen Präzedenzmarkt zu schaffen.
Speaker: Ich habe mich jetzt vor zwei Wochen mit dem Kurt Paulsen unterhalten, der hat das auch so formuliert.
Speaker: dass sie den Brüssel-Effekt sehr wohl sehen, so wie mit den Cookies von der DSGVO.
Speaker: Es macht einfach wirtschaftlich keinen Sinn, zwei Systeme am Laufen zu haben und man orientiert sich dann in der Entwicklung immer am strengsten Ruleset und dann rollt man das halt global nach den strengsten Regeln aus und auch wenn die jetzt in den USA gar nicht zwingend notwendig wären vielleicht.
Speaker: Was ich sehr ermutigend fand, weil viele ja auch kritisieren, dass wir uns da irgendwie in ein Eck gemalt haben und uns selbst tot regulieren und so.
Speaker: Wie empfindest du das, was deine Beobachtung so als globalpolitisch gesehen hat?
Speaker: Ja, auf der einen Seite liest man natürlich die Headlines, die relativ reißerisch sind und denen ich nicht allen zustimmen kann.
Speaker: Wie du gesagt hast, Europa schafft sich ab, wir regulieren uns zu Tode.
Speaker: Die gesamte Innovation wird abwandern und wir werden als leerer Standort zurückbleiben.
Speaker: Also dem kann ich in dem Sinne so nicht zustimmen, weil, wie du sagst, der AI-Act war das erste umfassende Regelwerk für künstliche Intelligenzanwendungen.
Speaker: Und wir sehen auch diesen Brussels-Effekt, dass die Prinzipien des AI-Acts hier auch als Anleitung dienen für andere Rechtsräume.
Speaker: Es ist gerade neueste News.
Speaker: Korea hat zum Beispiel einen AI-Act erlassen.
Speaker: In Kalifornien gab es einige rechtliche Entwicklungen und Gesetze, die zu KI erlassen wurden.
Speaker: Colorado hat einen AI-Act erlassen, der 2026 in Kraft tritt und diverse andere Rechtsordnungen auch.
Speaker: Das heißt, wir sehen hier diesen Ausstrahlungseffekt des AI-Acts und der KI-Prinzipien.
Speaker: Und es ist nicht so, dass nur Europa reguliert und KI in allen anderen Jurisdiktionen unreguliert ist und Wilder Westen herrscht.
Speaker: Ganz im Gegenteil.
Speaker: Also wir sehen hier schon,
Speaker: global einen Weg zu Governance, natürlich teilweise in anderer Form, teilweise vertikal mit anderer Zielrichtung, aber es ist tatsächlich nicht so, dass nur wir regulieren, von Asien bis in die USA, von quasi bis in die Südhalbkugel wird hier an Regulierungen gearbeitet, um diese Technologie, die ja eine Schlüsseltechnologie ist und sehr viel Gutes bringen kann, auch auf solide und sichere Beine zu stellen.
Speaker: Wir reden immer vom Gegensatz zwischen Regulierung und Innovation.
Speaker: Ich glaube, es geht darum, sichere Innovation zu schaffen.
Speaker: Und wie mache ich das?
Speaker: Indem ich das Ganze durchaus mit Governance und Risikomanagement angehe, um die Schwachstellen und Herausforderungen entsprechend zu adressieren.
Speaker: Ja, das finde ich sehr spannend, weil du gesagt hast, Südkorea, ich nehme mal an, es war Südkorea, nicht Nordkorea, dass Südkorea ein AI Act erlassen hat und auch in Kalifornien und Colorado.
Speaker: Sind das nach dem Vorbild des AI Acts?
Speaker: ähnliche oder gleiche Regelwerke oder ist es jetzt nur eine Überschrift, ein Name und der Umgang mit dem Thema KI ist aber vielleicht ein ganz anderer, weil gerade zum Beispiel für Kalifornien wäre es natürlich extrem interessant, weil dort natürlich die meisten Tech-Konzerne sitzen, wie dort vor Ort umgegangen wird und wie reguliert wird.
Speaker: Hast du da einen Einblick dazu, wie streng die sind oder wie sie sich unterscheiden zum europäischen Ereignis?
Speaker: Weil du gerade Kalifornien ansprichst zum Beispiel.
Speaker: Also das sind Einzelgesetzgebungen, die bestimmte Aspekte von KI betreffen.
Speaker: Also Transparenz, urheberrechtliche Themen, persönlichkeitsrechtliche Themen.
Speaker: Also es geht quasi mehr in die Richtung thematische Einzelregelungen für bestimmte Aspekte und in die Vertikale.
Speaker: Versus der AI Act ist ja ein horizontales Regelwerk,
Speaker: der über alle Branchen im Wesentlichen hinübergeht und sich bestimmte Aspekte oder bestimmte Systeme herauspickt, die als mit mehr Risiko behaftet gelten.
Speaker: Der Colorado AI Act, da muss man sagen, okay,
Speaker: Da wurde Anlehnung genommen an die Prinzipien, die im AI-Act vorkommen und auch an die Grundsatzprinzipien, weil es gibt ja zum Thema AI-Governance sehr, sehr viel und auch sehr, sehr viel internationale Arbeiten.
Speaker: Es gibt die OECD-Prinzipien aus 2019, die 2024 überarbeitet wurden.
Speaker: Es gibt den Global Digital Compound der UN zum Beispiel.
Speaker: UNESCO Recommendations.
Speaker: Es gibt ja eine sehr, sehr breite Grundlage, auch G7, Hiroshima, Guidelines und Prinzipien.
Speaker: Und auch da, wenn man diese Dinge nebeneinander legt, sieht man ja, es sind bewährte Praktiken, die jetzt jedem, der sich mit KI beschäftigt, auch nicht fremd sind.
Speaker: Datenqualität zum Beispiel.
Speaker: Wir wissen, garbage in, garbage out.
Speaker: Datenqualität ist ein großer Punkt.
Speaker: Risikomanagement, Transparenz, Kontrolle und Verantwortung, technische Robustheit.
Speaker: Also das sind jetzt keine neuen Sachen und Best Practices eigentlich, an die sich KI-Unternehmen ohnehin schon lang orientiert haben.
Speaker: Zumindest diejenigen, die diesen vertrauenswürdigen Ansatz schon gelebt haben und in ihren Produkten und Dienstleistungen abgebildet haben.
Speaker: Spannend.
Speaker: Wie siehst du das, weil wir jetzt gerade so bei der Welt und Weltwirtschaft sind?
Speaker: Du warst jetzt auch wieder in Davos.
Speaker: Ich kann mich erinnern, letztes Jahr, als wir gesprochen haben, warst du auch kurz vorher in Davos gewesen.
Speaker: Magst du ein Resümee ziehen, vielleicht auch beide Jahre vergleichen?
Speaker: Wie empfinden die Entscheider, die industriellen Großmächte, klingt jetzt bescheuert, aber du weißt, was ich meine oder jeder weiß, was ich meine, wenn wir von dem Weltwirtschaftsgipfel in Davos sprechen, einfach Innovatoren auf sehr systemischer Ebene.
Speaker: Wie sehen die das Thema KI?
Speaker: Wie wird es dort behandelt dieses Jahr, vielleicht auch im Vergleich zu letztem Jahr?
Speaker: Also man hat heuer gemerkt, die Stimmung ist eine Beyond-the-Hype-Stimmung.
Speaker: Also im Vorjahr, also wenn wir daran denken, 2024 war noch große Aufbruchsstimmung.
Speaker: Alle haben sich mit dem Thema beschäftigt.
Speaker: Es war viel Optimismus da und sehr viel Drive in diese Richtung.
Speaker: Es gab zum ersten Mal eine I-House in Davos.
Speaker: Und heuer war die Stimmung schon etwas, würde ich sagen, nüchterner.
Speaker: weil es jetzt tatsächlich darum geht, nach dieser initialen Aufregung Use Cases zu entwickeln, diese Technologien in den Produktivbetrieb zu bringen und tatsächlich mehr zu implementieren und mehr auszurollen.
Speaker: Und das sind dann schon einige mehr Herausforderungen.
Speaker: Zudem zum Zeitpunkt des Weltwirtschaftsgipfels, da stand ja dann auch die Angelobung des neuen US-Präsidenten Trump an.
Speaker: Das heißt, auch das hat die Stimmung beeinflusst.
Speaker: Alle waren sehr gespannt, haben sehr viel in die USA geschaut,
Speaker: Und dann gab es ja dieses Jahr auch sehr, sehr viele Announcements aus den USA, die genau während des Weltwirtschaftsgipfels dann die Medien erreicht haben.
Speaker: Also Stargate-Projekt, das Announcement, das man plant, 500 Milliarden in KI-Infrastruktur zum Beispiel zu investieren, hat natürlich große Wellen gemacht.
Speaker: Und natürlich den Blick auf Investitionen und Infrastruktur auch in Europa in den Brennpunkt gestellt, dass man da mal sieht, okay, wie sieht es eigentlich mit den Beträgen aus, die von unserer Seite hier investiert werden.
Speaker: Dann natürlich auch das Thema Regulierung slash Deregulierung.
Speaker: Gleich in den ersten Tagen seiner neuen Amtszeit hat der neue US-Präsident diverse Executive Orders erlassen, die dann auch alte Executive Orders aufgehoben haben.
Speaker: Also wenn wir uns erinnern an die alte Executive Order des vormaligen Vice-Präsidenten Biden zu KI, die wurde aufgehoben und es wird jetzt geplant dort einen neuen AI-Action-Plan für American AI-Leadership zu machen.
Speaker: der Ende Juni publiziert werden soll.
Speaker: Also alles ein bisschen in die Richtung Deregulierung.
Speaker: Ja, das waren alles sehr, sehr interessante Gespräche und natürlich das Thema Agenti GI.
Speaker: Das war schon letztes Jahr im Herbst eines der Basu-Wörter.
Speaker: Entschuldige, was ist das genau?
Speaker: Das kenne ich jetzt gar nicht.
Speaker: KI-Agenten, also das Thema, dass man tatsächlich kleine automatisierte Programme oder Module hat, die automatisch Tätigkeiten ausführen.
Speaker: Zum Beispiel einen KI-Agenten, der dir dein E-Mail-Postfach sortiert, die E-Mails zusammenfasst und eine Bullet-Point-Liste schickt von den Inhalten.
Speaker: Also solche Themen.
Speaker: Da kann er sich gleich selbst per E-Mail schicken.
Speaker: Ja.
Speaker: Ganz genau, solche Themen sind jetzt auch sehr, sehr stark im Fokus.
Speaker: Aber wie ist dann, ich höre sozusagen ein bisschen Verunsicherung, große Ernüchterung auch, dass der Hype jetzt eben nicht schon Wahrheit geworden ist.
Speaker: Geht es jetzt dann quasi mehr einfach um die nackten Zahlen und Tatsachen, dass man so ein System halt nicht auf Luft und Liebe aufbauen kann, sondern...
Speaker: In einer kapitalistischen Welt, in der wir nun mal leben, muss es wirtschaftlich auch sein und sich rechnen?
Speaker: Ist das auch ein Gesprächsthema geworden?
Speaker: Wie stellen die sich das vor?
Speaker: Es lebt ja jetzt schon lange nur von gigantischen Investorengeldern und irgendwann wollen diese Investoren ja auch
Speaker: Return on their investment, sonst würde es BlackRock und so gar nicht geben.
Speaker: Das ist ja deren Lebensaufgabe sozusagen.
Speaker: Ist das schon Thema, dass das ein Problem sein könnte, die Wirtschaftlichkeit von KI?
Speaker: Natürlich.
Speaker: Einerseits natürlich bei den Karriereentwicklern, du sprichst an, da werden Millionen und Milliarden investiert in die Modellentwicklung, in die Infrastruktur dafür.
Speaker: Natürlich wollen die Investoren dann am Ende des Tages auch einen Return of your Investment haben.
Speaker: Und das ist natürlich dann die Frage, in welcher Zeit das absehbar möglich wird, insbesondere wo jetzt noch mehr investiert werden soll in diese Modelle und die Beträge immer höher werden, aber auch auf Organisationsebene.
Speaker: Das heißt, alle Unternehmen, die KI einsetzen, sind jetzt in der Post-Experimentierphase tätig.
Speaker: Wir haben alle ein bisschen Text erzeugt, wir haben alle ein paar lustige Bilder generiert und die Frage ist, wo können wir diese Technologie im Unternehmen einsetzen, dass sie tatsächlich Wert stiftet.
Speaker: Wir sind jetzt da, glaube ich, schon in der x-ten Krise, also wir hatten...
Speaker: Corona, dann Energiekrise, Wirtschaftskrise.
Speaker: Alle Unternehmen sind konfrontiert mit Effizienzdruck.
Speaker: Und da ist natürlich die Frage, wenn wir in KI investieren, wie viel können wir hier an Potenzial gewinnen und an Potenzial heben?
Speaker: Und das ist eine Frage, die natürlich viele Unternehmen beschäftigt.
Speaker: Auch Unternehmen, die dann teilweise in Lizenzen investiert haben, ist die Frage, wie rollen wir das aus und wie können wir das sinnvoll einsetzen über die ersten spielerischen Versuche mit dieser Technologie.
Speaker: Ja, genau, das ist es ja.
Speaker: Das ist auch das, was ich beobachtet habe in dem Hobbybereich, wenn es jetzt darum geht, meinen
Speaker: YouTube-Kanal mit irgendwas zu wurscht, mit 24 Abonnenten oder so.
Speaker: Dafür ist das ja super, keine Frage.
Speaker: Das ist aber auch keine kommerzielle Anwendung.
Speaker: Du würdest dir sonst dafür auch nicht einen Menschen bezahlen und beauftragen, dass der dir deinen Hobby-YouTube-Kanal...
Speaker: irgendwie jetzt bespricht in meinem Fall oder dir das Video schneidet oder dir was auch immer Bilder, Content generiert oder so, sondern das ist ja eine Hobbygeschichte.
Speaker: Und wenn ich dann höre zum Beispiel, dass der Meta-KI-Chef selbst sagt, er sieht die Zukunft von KI nicht in generativer KI, wozu machen wir dann den ganzen Reibach?
Speaker: Also wenn schon jemand aus der absoluten Top-Tier-Entwickler-Schiene, aus einem Unternehmen, das das größte Interesse daran hat, das wirtschaftlich zu gestalten, sagt, nee, also KI hat Stärken, werden aber andere Sachen sein, die sich durchsetzen, generative KI,
Speaker: So habe ich es zumindest verstanden, ist eher ein Spielzeug oder ist eh lieb, aber das ist nicht wirtschaftlich zu kriegen.
Speaker: Ja, also ich glaube, es ist wichtig, dass wir genau vor Augen haben, was wir mit KI meinen und auch den Blick haben, dass es nicht nur generative KI gibt.
Speaker: Weil ich glaube, natürlich durch ChatGPT und diese Tools ist KI in der Masse angekommen.
Speaker: Man kann es relativ niedrigschwellig ausprobieren.
Speaker: Jeder kann das machen.
Speaker: Das war ein großartiger Effekt.
Speaker: Aber es gibt nicht nur Generative AI, Foundation-Modelle, Sprachmodelle.
Speaker: Es gibt daneben noch einen ganz großen Block an anderen Technologien, Machine Learning, Logik- und wissensbasierte Ansätze, die auch ihre speziellen Vorteile haben und die...
Speaker: spezifische Probleme lösen können.
Speaker: Und ich glaube auch, dass wir eben diesen breiten Blick brauchen und dass man für viele Applikationen eigentlich nicht Generative AI, sondern andere Technologien braucht und dass man dort eigentlich mehr Werte heben kann im Finanzbereich, im Energiebereich, im Medizinbereich zum Beispiel.
Speaker: Also ich glaube, dass tatsächlich dort sehr, sehr viel Potenzial und sehr, sehr viele Werte zu heben sind.
Speaker: Und wie du sagst, General TVI hat natürlich seine Stärken in der Kommunikation, in Content-Generierung, in Abstimmungsthemen und so weiter.
Speaker: Aber es ist nicht das Allheilmittel für alle Probleme.
Speaker: Das heißt tatsächlich...
Speaker: Sein Problem, auch mit der richtigen technischen Lösung anzugehen, ist etwas, das wir in Zukunft stärker im Blick haben sollten.
Speaker: Und weil du Meta angesprochen hast, etwas, das natürlich auch aufkommt oder immer mehr jetzt in die Richtung geht, ist die Verbindung natürlich mit der Robotik.
Speaker: Open AI hatte ja früher mal eine Robotic Division, die sie wieder ins Leben gerufen haben.
Speaker: Es wurden auch einige Marken angemeldet, wo auch einige Hardware-Produkte dabei waren.
Speaker: Das heißt natürlich Market-Bars, Ökosystem-Gerüchte, dass es jetzt auch in diese Richtung mehr Entwicklungen geht.
Speaker: KI-Roboter, Bewegungssensorik und so weiter.
Speaker: Das heißt auch das ist ein Feld, das man beobachten sollte.
Speaker: Ja, das würde mich ja freuen.
Speaker: Das ist ja nichts lieber als das.
Speaker: Aber dann lasst uns Kreative bitte in Ruhe damit.
Speaker: Du meinst einen KI-Roboter, der quasi deine Küche aufräumt und Boden wischt.
Speaker: Ja, aber nicht ein KI-Roboter, der deine Daten verwendet und dich obsolet macht.
Speaker: Zum Beispiel, wobei auch der KI-Roboter, der in meiner Küche, der putzt für mich, wäre mir schon nicht geheuer.
Speaker: Das nicht, aber ich hätte natürlich gerne eine bessere Krebsfrüherkennung.
Speaker: Ich hätte natürlich, das ist ja kein...
Speaker: Das haben wir, glaube ich, beim letzten Mal auch schon besprochen, wenn ich mich recht erinnere, dass das so von der medialen oder von der Presse-Aussendung der Tech-Konzerne so untrennbar miteinander verbunden ist.
Speaker: Wenn du ein effizienteres, was auch immer, Buchhaltungssystem haben willst, musst du halt leider deine Persönlichkeitsrechte aufgeben oder deine Urheberrechte oder so.
Speaker: Und ich glaube, wir kommen jetzt einfach in den Bereich, wo man das einfach differenzierter betrachtet und sagt, ja, das ist ganz lustig, damit kann man rumspielen.
Speaker: Aber de facto würde man es wirtschaftlich machen wollen, müsste so ein Abo dann plötzlich irgendwie 400-500 Dollar im Monat kosten und dafür ist es dann nicht mehr lustig genug,
Speaker: dass sich das Menschen irgendwie leisten, um was auch immer man halt da so rumspielt, sich Rezepte ausspucken zu lassen oder so, wie auch immer.
Speaker: Aber das finde ich ja grundsätzlich eine positive Nüchternheit, dass man das ein bisschen differenzierter betrachtet und
Speaker: Eben sagt, ja, wir haben das jetzt ausprobiert.
Speaker: Ich finde es immer noch nicht cool, wie das gelaufen ist mit den Trainingsdaten.
Speaker: Um das nochmal festzuhalten, das wird sicher auch nochmal aufgerollt werden.
Speaker: Vielleicht kurz dazu, was steht denn noch an jetzt vom AI Act bis der vollständigen Kraft tritt?
Speaker: Einiges.
Speaker: Die Codes of Practice, wie gesagt, sollen kommen ungefähr April dieses Jahres, weil dann ab August dieses Jahres die Verpflichtungen für Modellanbieter gelten sollen.
Speaker: Das heißt, alle neuen KI-Modelle, die ab 2.
Speaker: August 2025 in Verkehr gebracht werden sollen, müssen diese Verpflichtungen erfüllen.
Speaker: wo dann auch die Themen mit Transparenz und Copyright dabei sind, die in den Codes of Practices ausgearbeitet werden.
Speaker: Das heißt, diese Trainings-Content-Summary wird dann künftig von diesen Modellanbietern zu publizieren sein.
Speaker: Alle Modelle, die bereits am Markt sind, haben noch eine längere Übergangsfrist bis August 27.
Speaker: 27, okay.
Speaker: Ich dachte 26, aber gut zu wissen.
Speaker: Also ich habe August 27 im Kopf.
Speaker: Deine Information sticht meine sicher.
Speaker: Na gut, ich kann mich auch hier.
Speaker: Das ist der Wunschvater des Gedanken.
Speaker: Du meinst, das gilt sofort und es gibt gar keine Zusammenfassung, sondern Sie müssen alles offenlegen.
Speaker: Das ist das, was ich geträumt habe.
Speaker: Also August 27 ist der Punkt, an dem der AI-Act vollständig in Kraft getreten ist.
Speaker: Richtig?
Speaker: Ja.
Speaker: Nicht ganz.
Speaker: Also August 27.
Speaker: Vielleicht fangen wir die Zeitschiene einfach noch einmal an, damit wir ein klares Bild haben von den einzelnen Verpflichtungen, weil es ist ja auch nicht so einfach, weil die einzelnen Anwendungsblöcke eben scheibchenweise dann bis August 27 in Kraft treten, aber es dann auch wieder, sonst wäre es ja wieder kein Rechtsakt, Ausnahmebestimmungen gibt für Modelle, die schon im Verkehr sind, die dann teilweise noch ein bisschen eine längere Umstellungsfrist auch haben.
Speaker: Okay.
Speaker: Also Februar 2025 verbotene KI-Praktiken und verpflichtend KI-Kompetenz in Organisationen.
Speaker: Dann August 2025 die Verpflichtungen für KI-Modellanbieter.
Speaker: Das heißt gerade alles, was in die Richtung Sprachmodell, Foundation-Modell, GeniEye geht.
Speaker: Alle Modelle, die neu ab August 2025 in Verkehr gebracht werden, müssen dann die entsprechenden Pflichten erfüllen.
Speaker: Und für Modelle, die schon am Markt sind, gilt dann eine längere Übergangsfrist bis August 2027.
Speaker: Das heißt, das würde vielleicht auch erklären, warum jetzt noch relativ viele Modelle vor diesem Stichtag in Verkehr gebracht werden.
Speaker: Also entscheiden, wer Böses denkt, nicht?
Speaker: Aber wäre zum Beispiel ein Anreiz oder eine Möglichkeit, das zu erklären?
Speaker: Ja.
Speaker: Dann haben wir August 26 als Stichtag.
Speaker: Ab August 26 gelten die Verpflichtungen für die Hochrisiko-KI-Praktiken.
Speaker: Das heißt, ein KI-System im HR-Bereich, im Bildungsbereich, im Bereich kritischer Infrastruktur.
Speaker: Dann muss die Governance für diese Themen sitzen.
Speaker: Dann haben wir August 27, wo wir ein bisschen eine verlängerte Übergangsfrist hatten für KI-Applikationen in bestimmten Produktbereichen.
Speaker: Also wo es um KI-Sicherheitsbauteile in Spielzeug, in Seilbahnen, in Schutzausrüstung, im Medizin- und in-vitro-Bereich geht.
Speaker: Die haben diese verlängerte Übergangsfrist, weil dann natürlich die bestehenden Standards angepasst werden müssen.
Speaker: Für all diese Dinge gibt es ja schon Normen, Produktstandards und dort soll das KI-Thema integriert werden.
Speaker: Und dann haben wir den allerletzten Checkpoint, das ist der August 30, wo dann tatsächlich alle auch unterschiedlichen Übergangsfristen auslaufen und alle, die dann in den AI-Act reinfallen, schlussendlich final compliant sein müssen.
Speaker: Okay, wow, das ist ja doch nochmal ein längerer Ausblick.
Speaker: Das ist ja in KI-Zeit, sind das ja Äonen.
Speaker: Jetzt noch fünf Jahre, naja, oder fünfeinhalb Jahre.
Speaker: Ja, das finde ich schon viel.
Speaker: Also, okay.
Speaker: Also da haben wir noch was vor uns.
Speaker: Wie gesagt, wir haben jetzt erst mal den ersten Schritt gemacht und wie du sagst, wir haben noch fünf Jahre vor uns, wo dann einzelne Checkpoints auch dann greifen, bis wir dann schlussendlich alles im Rahmen des AI-Acts haben.
Speaker: Bedeutet das dann auch in weiterer Folge, dass man erst
Speaker: Ende der 2020er Jahre beginnen kann zu klagen oder laufen diese Klagen dann schon auch in Europa parallel die ersten Instanzen durch und kommen dann vielleicht auch so etwa gleichzeitig zum Ende der 20er Jahre vor den EuGH und werden dann entschieden, wie ist das juristisch zu bewerten.
Speaker: Also klagen kann man immer.
Speaker: Ja gut, aber zum Beispiel, ich persönlich warte ja auf diese Zusammenfassung, diese ausreichend detaillierte Zusammenfassung der Trainingsdaten, in die ich dann einsehen kann, um zu erfahren, ob meine persönlichen biometrischen Daten ohne mein Einverständnis und meine Kenntnis genutzt wurden, um ein kommerzielles Produkt zu trainieren.
Speaker: Zum Beispiel für diesen Fall.
Speaker: Dazu zwei Sachen.
Speaker: Also ich würde jetzt nicht zu viel Hoffnung in diese ausreichend detaillierte Zusammenfassung der Trainingsdaten legen.
Speaker: Du bist ja auch in der Arbeitsgruppe, du hast sicher den ersten Entwurf gesehen.
Speaker: Also das wird nicht...
Speaker: sehr abstrakt und ausreichend detailliert heißt nicht alles.
Speaker: Es gibt dann diese einzelnen Schwellenwerte.
Speaker: Das heißt, man muss nicht alles offenlegen und die Frage ist dann tatsächlich, ob diese Daten so wichtig sind, dass sie eben diese Wichtigkeitsschwelle, dass sie da reinfallen, dass das dann tatsächlich öffentlich ist oder dass diese Daten vielleicht gar nicht so wichtig sind und dann einfach nicht Teil dieser Zusammenfassung sind.
Speaker: Also
Speaker: Hier, glaube ich, noch alles in die Arbeitsgruppe einbringen, was man kann zu diesen Ideen.
Speaker: Das einmal zu dieser Trainingsdaten-Summary.
Speaker: Jetzt zum Klagepunkt.
Speaker: Also wenn du sagst, deine biometrischen Daten, wichtig ist immer, auf welcher Grundlage.
Speaker: Und wenn wir gerade von biometrischen Daten reden, könntest du ja jetzt schon nach der Datenschutzgrundverordnung deine Rechte geltend machen, also die betroffenen Rechte.
Speaker: Anfrage, welche Daten werden über dich verarbeitet.
Speaker: Ja, echt.
Speaker: Läuft alles schon.
Speaker: Dann musst du mich auf dem Laufenden halten.
Speaker: Ist auf dem Weg nach Irland.
Speaker: Die österreichische Datenschutzbehörde hat schon ihr Bestes versucht zu einer gütlichen Einigung bei den diversen Playern.
Speaker: Und ja, jetzt warten wir weiter, was die irische Datenschutzbehörde sagt.
Speaker: Ja, ja.
Speaker: Sehr, sehr spannend.
Speaker: Also ich glaube, dazu müssen wir mal eine eigene Folge machen.
Speaker: Ja, die wird sehr trocken.
Speaker: Das hat der Datenschutz so an sich, deswegen ist er nicht beliebt, aber er ist durchaus ein privates Mittel, hier ein bisschen in diese Richtung zu gehen.
Speaker: Also Urheberrechte zum Beispiel, es gilt ja auch jetzt schon das Urheberrecht in Österreich und in allen anderen Mitgliedstaaten.
Speaker: Das heißt, sollte man hier Indizien haben oder sogar Beweise, kann man ja sich jetzt schon auf das Urheberrecht stützen.
Speaker: Allgemeiner zivilrechtlicher Schadensersatz sowieso.
Speaker: Wenn wir auf den AI-Act schauen, also das Strafkonzept im AI-Act sind im Wesentlichen Verwaltungsstrafen für die Anbieter oder für die Betreiber, wenn sie ihre entsprechenden Pflichten hier nicht erfüllen.
Speaker: Das Problem ist, dass wir, und das ist wieder ein Zeitschienenthema, dafür einmal Behörden brauchen, die dann auch diese Strafen einmal aussprechen könnten.
Speaker: Hier, die Behördenstruktur wird erst eingerichtet, das heißt, es ist Zeit bis dieses Jahr im Sommer.
Speaker: Das heißt, erst wenn wir dann eine Behörde tatsächlich haben, kann hier die Marktaufsicht beginnen und könnte es überhaupt erste Strafen geben.
Speaker: Aber das sind Verwaltungsstrafen.
Speaker: Das heißt, das würde dir jetzt als unmittelbar Betroffenen von Verletzung in vielleicht deinen Persönlichkeitsrechten, Diskriminierung und so weiter und so fort nicht wirklich helfen.
Speaker: Das heißt, du müsstest tatsächlich vor die Zivilgerichte ziehen.
Speaker: Okay, ja und das muss ich halt als Privatperson quasi tragen.
Speaker: Ich empfehle eine Rechtsschutzversicherung, eine möglichst umfassende, auch für außervertraglichen Schaden.
Speaker: Aber dann muss es eigentlich eine betriebliche Rechtsschutzversicherung sein oder reicht eine private Rechtsschutz auch?
Speaker: Das kommt jetzt wieder darauf an, was jetzt genau verletzt ist.
Speaker: Also ich würde empfehlen, sowieso, wenn man unternehmerisch tätig ist, eine betriebliche Rechtsschutz.
Speaker: Und meistens ist es dann nicht viel mehr, auch quasi diese auf den persönlichen Lebensbereich auszudehnen.
Speaker: Du bist professioneller Sprecher.
Speaker: Von daher, wenn jetzt deine Rechte verletzt werden, dann würde ich das schon wahrscheinlich im Rahmen deines Betriebes geltend machen.
Speaker: Und dann könntest du dich wahrscheinlich auf deine betriebliche Rechtsschutzversicherung stützen.
Speaker: Apropos Haftungsfragen und Schadensersatz und so.
Speaker: Die EU-Kommission hat ja gerade erst vor kurzem die AI Liability Directive gestrichen.
Speaker: Und dazu hat sich der gute Herr Axel Voss, ein EU-Abgeordneter, geäußert.
Speaker: Das möchte ich kurz zitieren, damit ich ihm keine falschen Sachen in den Mund lege.
Speaker: Er hat dazu gemeint, die Kommission hat sich aktiv für Rechtsunsicherheit, ein Ungleichgewicht in der Macht der Konzerne und ein Wild West Zugang, der nur Big Tech zugute kommt, entschieden.
Speaker: So, seine Einschätzung.
Speaker: Was sagst du dazu und kannst du vielleicht kurz umreißen, was die AI Liability Directive beinhaltet hätte, wäre sie denn gekommen?
Speaker: Ja, die Alliability Directive ist im Wesentlichen gedacht gewesen als ein Rechtsakt, der unterstützt bei der Durchsetzung von Ansprüchen.
Speaker: Wir haben die Produkthaftungsrichtlinie, vielleicht noch dazu kurz.
Speaker: Die Produkthaftung wurde novelliert, weil sie nicht angepasst war auf den digitalen Bereich.
Speaker: Das alte Produkthaftungsgesetz in Österreich bzw.
Speaker: die alte Produkthaftungsrichtlinie war mehr als 40 Jahre alt.
Speaker: Und haben Software zum Beispiel nicht umfasst.
Speaker: Die neue Produkthaftungsrichtlinie inkludiert jetzt Software und deckt damit in einem gewissen Teil bestimmte Aspekte von Softwarehaftung ab.
Speaker: Aber eben nicht alles.
Speaker: Und das bringt mich zur AI Liability Directive, die unterstützt hätte in der Durchsetzung von Rechtsansprüchen im Zusammenhang mit KI-Schadensfällen.
Speaker: Also gerade, wo es darum geht, von IP-Rechteverletzungen, Diskriminierung zum Beispiel, all diese Dinge hätten in dieser AI Liability Directive adressiert werden sollen.
Speaker: Wenn wir zum KI-Schadensfall gehen, haben wir, glaube ich, drei Probleme.
Speaker: Die KI-Softwarekette, also die Wertschöpfungskette, ist sehr, sehr fragmentiert.
Speaker: Ich habe nicht im Regelfall ein Unternehmen, das alle Komponenten herstellt, sondern im Regelfall ist das eine unterschiedliche Zusammenstückelung von Komponenten, damit ich dann zu diesem System komme, insbesondere im Bereich Gen.ai.
Speaker: Und dieses System wird dann von diversen Leuten genutzt und betrieben.
Speaker: Wenn ich jetzt ein Geschädigter bin, stehe ich vor der Herausforderung, dass ich meine Klage einbringen muss und in dieser Klage muss ich entsprechend auch zumindest unterfüttern können, dass diese Klage Merit hat.
Speaker: Also zumindest glaubhaft machen, dass hier meine Rechte verletzt wurden.
Speaker: Und da stehen Geschädigte meistens vor der Herausforderung, dass ihnen im Regelfall die Informationen fehlen oder die Beweise fehlen, dass entsprechend so, wie das im Zivilprozess notwendig ist, also schon mit einem gewissen Maß an Glaubwürdigkeit zu unterlegen.
Speaker: Und hier hätte die AI Liability Directive eben unterstützt in Beweissicherung zum Beispiel vor einem Gerichtsverfahren,
Speaker: oder mit Auskunftsansprüchen, damit derjenige oder diejenige, die geschädigt ist, dann ihre Ansprüche besser durchsetzen kann.
Speaker: Das ist der eine Punkt.
Speaker: Und wenn wir uns jetzt auf der Unternehmerseite anschauen, wir bauen in Europa sehr, sehr viel auf Applikationen von Drittlandsanbietern.
Speaker: Und tendenziell erfolgt dann in Verträgen oder Nutzungsbedingungen immer die Abwälzung von Haftung und Risiken auf den Schwächeren.
Speaker: Und wer sind die Schwächeren in der KI-Lieferkette?
Speaker: Die Startups, die KMUs, die Einzelunternehmenden.
Speaker: Die Zwischenhändler, die auf einer API aufbauen und ihre Nische irgendwie bedienen.
Speaker: Genau, und da wäre es darum gegangen, in der Haftungsrichtlinie das besser zu adressieren und Haftung besser in dieser Wertschöpfungskette zuordnen zu können.
Speaker: Und teilweise auch, je nachdem, was dann aus diesem Gesetzgebungsprozess herausgekommen wäre,
Speaker: Vielleicht Regressansprüche möglich zu machen oder einfach auch besser diese Haftungsrisiken aufzusplittern.
Speaker: Nicht, dass derjenige, der der schwächste Player in der Wertschöpfungskette ist, dann das ganze Risiko umgehängt bekommt.
Speaker: Das heißt, ich glaube schon, dass die Haftungsrichtlinie ein Vorteil gewesen wäre, gerade für diejenigen, die in der Lieferkette die Schwächeren sind, Einzelunternehmen, Startups, KMUs und so weiter.
Speaker: Und es hätte Geschädigten einfach ermöglicht, hier bessere Ansprüche durchzusetzen, teilweise auch durch Möglichkeiten der Beweislastumkehr.
Speaker: die immer natürlich widerlegt werden können von einem Unternehmen oder Anbietenden, das ist eh klar.
Speaker: Aber es hätte hier ein bisschen, glaube ich, zu einem ausgewogenen Kräfteverhältnis beigetragen.
Speaker: Also ich kann Axel Voss zustimmen, dass es jetzt schwieriger ist.
Speaker: Und warum auch?
Speaker: Das bringt mich wieder zum AI-Act.
Speaker: Der AI-Act harmonisiert.
Speaker: Das ganze Thema, also quasi wie man KI-Applikationen designt und in Verkehr bringt und nutzt für den Binnenmarkt.
Speaker: Die Haftungsrechte sind aber national und werden jetzt national bleiben.
Speaker: Das heißt, ich habe 27 unterschiedliche Gerichtsordnungen, Zivilprozessordnungen und so weiter und so fort.
Speaker: Und kann mich dann jetzt hier in diesem Patchwork-System als Geschädigter oder muss mich hier durchquälen, wenn ich meine Ansprüche geltend machen will?
Speaker: Das heißt, einzig und allein die Frage, wo klage ich?
Speaker: Wie ist die Beweislastverteilung, die unterschiedlich ist?
Speaker: Und so weiter und so fort.
Speaker: Was es natürlich schwieriger macht.
Speaker: Wir haben über deine Rechtsschutzversicherung gesprochen und diese Themen.
Speaker: Das ist natürlich auch eine finanzielle Komponente, nicht?
Speaker: Natürlich.
Speaker: Und für die Gegenseite, also diejenigen, die potenziell in Anspruch genommen werden würden, die haben natürlich auch dann die Möglichkeit, Forum zu optimieren, durch eben Sitzverlegung und so weiter und so fort, sich da den günstigeren Standort rechtsordnungstechnisch für die Durchführung von Verfahren auszusuchen.
Speaker: beziehungsweise natürlich dann das geltende Recht zu bestimmen und so weiter.
Speaker: Das heißt, ja, ich glaube schon, dass diese Liability Directive ein Vorteil gewesen wäre und es ist tatsächlich so, dass wir jetzt mehr fragmentiert sind und mehr Fragmentierung, mehr Rechtsfragmentierung beinhaltet immer mehr Kosten und mehr Hürden als natürlich Rechtsvereinheitlichung.
Speaker: Aber dann wirkt es für mich jetzt als Laien auch total widersinnig, auch aus der Perspektive der EU, das zu kippen.
Speaker: Hast du eine Info, woher das kam oder auf welcher Basis diese Entscheidung getroffen wurde, wenn es denn ja schon angedacht und eigentlich geplant war?
Speaker: Also ich glaube zwei Sachen dazu.
Speaker: Wir sehen oder zumindest kommt es mir jetzt so vor, einen riesigen Push in die Richtung Deregulierung.
Speaker: Und Deregulierung kann natürlich gut sein, weil wir müssen effizienter werden, Sachen besser synchronisieren.
Speaker: Aber bestimmte Sachen werden durch Regulierung einfacher, nämlich immer dort, wo es darum geht, zu vereinheitlichen.
Speaker: Und ich glaube quasi in diesen Deregulierungsbestrebungen und natürlich in diesem Push, Europa wettbewerbsfähiger zu machen, was gut und richtig ist und ich auch sehr unterstütze, ist diese KI-Haftungsrichtlinie jetzt einfach, ja, wurde gestrichen.
Speaker: Es ist dem FOMO zum Opfer gefallen, wenn man es jetzt verkürzt.
Speaker: Dem FOMO zum Opfer gefallen und auch, glaube ich, es ist auch ein bisschen ein Verständnisthema, weil Regulierung wird immer mit Bürokratie in Verbindung gebracht.
Speaker: Mehr Regulierung, mehr Bürokratie, mehr Compliance.
Speaker: Die Haftungsthematik ist aber quasi eine Zivilprozedurale.
Speaker: Das ist kein Materiengesetz, wo es darum geht, inhaltlich Sachen zu regeln.
Speaker: Das ist ein Verfahrensgesetz, wo es darum geht, Verfahren zu vereinfachen eigentlich.
Speaker: Und Verfahrensvereinfachung und Vereinheitlichung führt tendenziell, wenn es richtig implementiert ist, immer zu einer Beschleunigung und eigentlich zu einem Benefit,
Speaker: Für die Personen, die dann einfach davon Gebrauch machen können.
Speaker: Es ist ein komplexes Thema und ich glaube auch da teilweise fehlt im Markt ein bisschen das Verständnis, diese Dinge richtig einzuordnen, wenn man sich natürlich wehrt gegen mehr Bürokratie.
Speaker: Aber ab und zu ist Regulierung auch ein Benefit, gerade wenn es die Schwächere entstützt.
Speaker: Und ich glaube, das ist jetzt im Markt nicht so angekommen.
Speaker: Noch dazu die KI-Haftungsrichtlinie.
Speaker: Das war damals, und die Haftungsrichtlinie, der erste Entwurf ist ja auch schon älter,
Speaker: Das war ein veralterter Text.
Speaker: Es hat jetzt eine Konsultation gegeben, um tatsächlich diesen Rechtsakt so zu formen, dass er zum AI-Act passt, dass er zur Produkthaftungsrichtlinie passt, dass er auf Gen AI-Rücksicht nimmt und hier sich gut einfügt.
Speaker: Aber diesen neuen Entwurf, den neuen Text hat es noch nicht gegeben.
Speaker: Das heißt, alle haben wahrscheinlich nur auf den alten Text geschaut, waren aber auch nicht so tief in der Materie drin und wahrscheinlich deswegen auch sehr, sehr viel Ablehnung.
Speaker: Und schlussendlich wurde es gerechtfertigt, wie man das halt immer auch quasi begründet.
Speaker: Es ist länger nichts mit dem Rechtsakt weitergegangen, deswegen haben wir die Relevanz nicht gesehen.
Speaker: Als Blankostatement natürlich, warum man das gekippt hat.
Speaker: Also ich glaube, wir werden sehen, wo sich der Markt hin entwickelt.
Speaker: Ich hoffe nicht, dass wir sehr, sehr viele Schadensfälle und große Verfahren produzieren im Zusammenhang mit KI.
Speaker: Es gibt eine Datenbank, die auch KI-Schadensfälle systematisch versucht zu erfassen.
Speaker: Ich glaube, das ist auch eine wichtige Sache, die uns da ein bisschen Guidance geben wird.
Speaker: Was sind da die typischen Schäden?
Speaker: Wie sind da die typischen Konstellationen?
Speaker: Und dann, glaube ich, werden wir Stück für Stück einfach uns praktisch hier weiter handeln müssen.
Speaker: Und spätestens dann, wenn es den ersten großen Crash gibt und wir tatsächlich einen massiven Schaden und massive Probleme haben und mit den Auswirkungen konfrontiert sind, nämlich mangelnder Rechtsvereinheitlichung, 27 Jurisdiktionen, unterschiedliche Beweisregeln,
Speaker: unterschiedliche Verfahrensordnungen, dann werden wir vielleicht hier einen neuen Gedanken fassen und einen neuen Anlauf dazu nehmen.
Speaker: Mit der Lage gilt es sich jetzt einmal abzufassen, abzufinden und das Beste daraus zu machen.
Speaker: Das heißt, nur damit ich das richtig verstehe, ist dieser Push zur Deregulierung, kam der aus dem europäischen Inneren oder war das eine Auswirkung von der Trump-Wahl und dadurch dem indirekten Einfluss seiner Tech-Bros, die ihm jetzt links und rechts zur Seite stehen, die sozusagen von außen versuchen, die Deregulierung voranzutreiben und
Speaker: Egal ob ja oder nein, empfindest du da eine konkrete, spürbare Veränderung, eine Auswirkung auf den Umgang mit KI in Europa durch diese veränderte globale Situation mit Trump und Elon Musk und den Tech Bros.
Speaker: Ja, also ich glaube, wenn wir auf den AI Action Summit vielleicht kurz zurückreflektieren, wo natürlich seitens der USA und der USA-Vertreter auch sehr stark gefordert wurde, natürlich möchten sie gerne kooperieren, aber sie raten dringend ab von zu strikter oder strenger Regulierung auf.
Speaker: Und damit den Weg zur Kooperation und Innovation zu versperren.
Speaker: Also man sieht hier schon sehr, sehr stark die Aufrufe.
Speaker: Europa möge bitte nicht zu stark regulieren und diesen Pfad verlassen.
Speaker: Ja, welchen Einfluss das dann tatsächlich hat, das kann ich natürlich auch nicht sagen.
Speaker: Also es wäre hier, glaube ich, falsch, irgendwas zu unterstellen.
Speaker: Was man aber sieht, ist, dass in Europa angekommen ist, dass wir einfach an unserer eigenen Wettbewerbsfähigkeit arbeiten müssen, um hier mitzuspielen.
Speaker: Was ich glaube, eine gute Entwicklung ist, wir sollten das Kind aber nicht mit dem Bade ausschütten.
Speaker: Das heißt, es gilt hier, wie immer, die richtigen Maßnahmen zu setzen und die mit Maß und Ziel.
Speaker: Ich glaube, wir haben jetzt sehr viel Digitalregulierung gesehen, also digital.
Speaker: DSA, DMA, AI Act, Produkthaftungsrichtlinie.
Speaker: Und das ist ein Werk, das muss jetzt anfangen, miteinander zu arbeiten und zu greifen.
Speaker: Das heißt, es braucht jetzt Zeit, bis das sich synchronisiert und einspielt.
Speaker: Ich glaube, die müssen wir uns nehmen.
Speaker: Wir müssen aber auch die Institutionen und den Rahmen schaffen, damit das funktionieren kann.
Speaker: Das ist einerseits die Behörden zu schaffen, aber auch Innovationsräume mit den Sandboxes zu schaffen.
Speaker: Aber auch zu tun.
Speaker: Also in Englisch sagt er, you need to put your money where your mouth is.
Speaker: Jetzt claimen wir sehr viel, wir wollen, wir müssen dann aber auch investieren.
Speaker: Da gab es ja sehr, sehr viele Announcements auch in den letzten Wochen im Rahmen des Action Summits seitens der EU, dass hier Milliarden investiert, wenn 200 Milliarden dann Frankreich investiert.
Speaker: 100 Milliarden noch einmal, ausländische Konsortien, die wieder Milliarden investieren wollen.
Speaker: Das sind Commitments.
Speaker: Es geht jetzt tatsächlich darum, dass diese Gelder tatsächlich fließen und um die Verteilung, auch um hier Innovation zu fördern.
Speaker: Und wir brauchen dann aber auch Kompetenzaufbau und das Mindset ein bisschen.
Speaker: Weil du den AI Action Summit in Paris angesprochen hast.
Speaker: Danke, dass du mich retraumatisierst.
Speaker: Nein, so schlimm war er nicht, aber ich habe mir dazu was aufgeschrieben, auch da wieder, damit ich niemandem falsche Vorwürfe mache, aber...
Speaker: So wie ich das gelesen habe, hat wohl Mistral und die französischen KI-Anbieter, allen voran Mistral, eben schon im Vorhinein sehr stark eingewirkt und eben dafür gesorgt, dass wohl alle Sicherheitsfragen und Bezüge zu Risiken und Schäden aus dem offiziellen Programm gestrichen werden.
Speaker: Und die USA haben durchgesetzt, dass in der Abschlusserklärung weder die Haltung der UN, was ja auch eben eine bereits existierende Guideline, eine international sanktionierte Haltung dazu wäre, und noch, dass die Umweltbelastung in der Abschlusserklärung vorkommt oder sonstige existenzielle Bedrohungen durch KI für andere Märkte.
Speaker: Das haben sie auch alles bekommen und am Ende haben sie es trotzdem nicht unterschrieben, weil just because, ich weiß es nicht.
Speaker: Und die Briten haben sich dem aber ausdrücklich angeschlossen, also diesem sehr freien marktwirtschaftlichen und deregulierenden Zugang, sage ich jetzt mal.
Speaker: Mich persönlich lässt das mit dem Gefühl zurück, dass die Franzosen uns hier gerade in den Abgrund reißen und alles, was wir uns mühsam irgendwie aufgebaut haben, jetzt so den Bach runter geht.
Speaker: Wie klingt das für dich und kannst du es vielleicht auch in einen realpolitischen Kontext einordnen?
Speaker: Habe ich vielleicht zu stark emotional reagiert, als ich das gelesen habe.
Speaker: Ja, also es ist schon so, dass der Action Summit sehr positiv war.
Speaker: Also es ging tatsächlich darum, ja, wir müssen jetzt handeln, wir müssen investieren, was ja auch gut ist, um das Ökosystem voranzutreiben, auch das europäische.
Speaker: Aber natürlich die Sicherheitsfragen, die Risikofragen waren nicht im Fokus, wie du das gesagt hast, oder wurden auf Nebenveranstaltungen ausgelagert.
Speaker: Es wurde aber durchaus im Rahmen des AI Action Summits der erste AI Safety Report publiziert.
Speaker: Unter der Leitung von Joshua Benjo und diversen globalen Experten, auch unter internationaler Teilnahme, was ich glaube ein guter Schritt ist.
Speaker: Dieser Bericht beschäftigt sich sehr stark mit Risiken und Herausforderungen im Zusammenhang mit KI.
Speaker: Und ich glaube, es ist wichtig, dass wir das nicht außer Blick verlieren, nämlich einerseits kurzfristig Risikomanagement für die Applikationen, die wir jetzt schon haben, weil es geht nichtsdestotrotz bei aller Innovation auch um einen sicheren Umgang mit dieser Technologie.
Speaker: Und dann, wie du sie immer nennst, die Tech Bros.
Speaker: Das habe nicht ich geprägt, ich finde ihn nur sehr passend, den Begriff.
Speaker: Ja, also es gibt ja einige, die sagen, sie wollen AGI entwickeln for human benefit oder benefits all und auch hier sehen wir ein bisschen eine AGI-Race.
Speaker: Und das ist ein langfristiges Sicherheitsthema, das wir, glaube ich, auch adressieren müssen.
Speaker: Risiken adressieren ist nie populär und it's not fun, aber ich glaube, es ist eine notwendige Komponente, weil diese Technologie sehr viel Benefit bringen kann, aber natürlich auch einen sehr starken Impact hat.
Speaker: Du hast die Umweltaspekte angesprochen.
Speaker: Ist natürlich auch ein riesiges Thema, wenn man sich die letzten Entwicklungen anschaut in dieser Richtung und den gesamtheitlichen Blick natürlich darauf hat, weil seltene Erden brauchen wir sehr, sehr viel, insbesondere um die Infrastruktur herzustellen.
Speaker: Hier gibt es Prognosen, dass wir 2040 schon in einen Engpass kommen.
Speaker: Geil.
Speaker: Und wir sind nicht so gut im Recycling, eigentlich gar nicht.
Speaker: Das ist ein Thema.
Speaker: Wasserverbrauch, der Trinkwasserverbrauch ist um 30 Prozent gestiegen wegen Kühlung.
Speaker: Das ist auch ein Thema.
Speaker: E-Waste ist die am stärksten wachsende Gruppe an Müll mit mehr als 60 Millionen Tonnen pro Jahr.
Speaker: All das wird in Ghana und in Pakistan dann schlussendlich gedampft.
Speaker: Also wir haben hier durchaus große Themen, die auch zu tacklen sind, insbesondere wenn es um diese großen Modellentwicklungen geht.
Speaker: Und ich glaube, es gibt ja auch einen alternativen Pfad.
Speaker: Ich glaube, Deep Seek war ja auch eines der Themen, die am Anfang des Jahres angekommen.
Speaker: sehr, sehr stark einen Impact hatten.
Speaker: Ich glaube, eine Milliarde wurde an der Börse einfach mal so weggewischt, weil man gezeigt hat, man kann effizienter und kleinere Modelle produzieren mit weniger Ressourcen und Kapitalaufwand.
Speaker: Also ich glaube, es gibt alternative Modelle und alternative Wege.
Speaker: Und wir sollten auch das nicht außer Acht lassen, weil es ja schlussendlich dann darum geht,
Speaker: um unseren Planeten und die Infrastruktur, weil wir bauen sehr viele Datenzentren.
Speaker: KI braucht sehr viel Energie.
Speaker: Und auch das dürfen wir nicht außer Acht lassen, dass es hier um ein bisschen einen Ressourcenwettbewerb auch geht, nämlich tatsächlich für Land, Energie, Wasser, das wir Menschen auch brauchen, versus quasi natürlich, um diese Technologie zu stützen.
Speaker: Ja, total.
Speaker: Und deswegen finde ich es ja gerade so...
Speaker: befremdlich, dass auf so einem AI Action Summit nicht, sage ich jetzt mal, die Erwachsenen reden und sich mit Themen befassen, für die es wirklich dringend eine Lösung braucht, sondern dass man sich immer noch von diesem PR-Gag von, ich sage es jetzt einfach nochmal, Tech-Bros bezirzen lässt, bezeichnen.
Speaker: In dem Angesicht der Tatsache, dass zum Beispiel der prognostizierte Energieverbrauch von den USA von derzeit 4% des gesamten Energieverbrauchs, der für KI aufgewendet wird, in den nächsten 5 Jahren, wenn mich nicht alles täuscht, auf 6% ansteigen soll, was massiv ist.
Speaker: Es ist extrem viel Energie.
Speaker: Und im Moment sehe ich nicht den Plan, wie man das nachhaltig, umweltfreundlich und vielleicht sogar ressourcenschonend bewältigen kann, sondern ich höre eigentlich nur schon wieder Atomkraftwerke angeschlossen werden.
Speaker: Ist auch grüne Energie.
Speaker: Ja, das ist aber so ein bisschen das Prinzip von den Simpsons.
Speaker: Wir produzieren jetzt einfach mal total viel Müll und wenn wir nicht mehr wissen, was wir damit machen sollen, dann schießen wir ihn ins All und hoffen, dass er nicht zurückkommt oder verbuddeln ihn eben ganz tief in der Nordsee.
Speaker: Also das finde ich schwierig, weil ja, wir können uns diese Technologie jetzt nicht wieder wegwünschen und so, aber dann müssen wir doch zumindest schauen, dass
Speaker: dass sie uns nicht die Existenzgrundlage raubt.
Speaker: Und wie du sagst, wir können noch so viel Pariser Klimaziele verfolgen und Absichtserklärungen unterschreiben.
Speaker: Und Wien wird bis 2040 klimaneutral geil, wenn du in Pakistan und in Halbafrika irgendwie...
Speaker: nicht recycelbare Mülldeponien, ganze Länder im Endeffekt zu Mülldeponien machst.
Speaker: Das funktioniert so nicht.
Speaker: Auch das ist alles vernetzt und globalisiert.
Speaker: Und ich sehe da einfach, ich höre da einfach keine Lösungen, sondern ich höre nur eher ein Lalalala, wir wollen nicht.
Speaker: Und was kann ich mir noch alles zuhalten, damit ich mich nicht damit auseinandersetzen muss?
Speaker: Und das ist frustrierend, ehrlich gesagt, weil man kann nicht einfach kommen und mit seinem Spielzeug alles kaputt machen oder zumindest auf den Kopf stellen und dann nicht die Verantwortung für die Konsequenzen übernehmen.
Speaker: Also es funktioniert halt leider irgendwie so nicht.
Speaker: meiner bescheidenen Meinung nach.
Speaker: So rant over.
Speaker: Ich glaube, es ist ein großes Problem, auch wie du ansprichst, ein bisschen dieser Digital Divide und auch
Speaker: Die aktuelle Stimmung nicht, weil wie du sagst, es ist alles connected.
Speaker: Schlussendlich.
Speaker: Ich glaube, Covid hat uns das besser vorgeführt, als es jede Ausführung in einem Lehrbuch könnte.
Speaker: Und auch diese Technologie ist eine globale.
Speaker: Die Auswirkungen sind global, auch wenn es quasi jetzt einzelne Länder gibt, die da mehr oder weniger betroffen sind.
Speaker: Schlussendlich die Auswirkungen gehen um den Erdball.
Speaker: Und das ist, glaube ich, etwas, dem wir uns mehr bewusst sein müssen und einfach zusammenkommen, um diese Thematiken zu lösen.
Speaker: Ich glaube, einer allein oder eine Nation allein wird es nicht schaffen.
Speaker: Es braucht hier tatsächlich den globalen Dialog und das gemeinsame Zusammenwirken,
Speaker: um diese Themen anzugehen.
Speaker: Das Sicherheitsthema, das Umweltthema und schlussendlich natürlich auch das gesellschaftliche Thema, weil die Technologie hat jetzt schon Auswirkungen auf die Art und Weise, wie wir kommunizieren, wie wir lernen, wie wir interagieren.
Speaker: Und natürlich auch, wie wir arbeiten.
Speaker: Und auch das ist ein langfristiges Thema, das wir auch lösen werden müssen, weil ich glaube, die Technologie wird nicht mehr weggehen.
Speaker: Sie hat ihre Vorteile durchaus.
Speaker: Es gilt aber, das Ganze auch langfristig, ich würde sagen, gesellschaftlich, wirtschaftlich und auch für die Umwelt erfolgreich zu machen,
Speaker: damit auch wir Menschen in der Zukunft, in der Welt einen Platz haben und einen Lebensort.
Speaker: Das sind schon ziemlich niedrige Ansprüche.
Speaker: Aber ja, ja zu allem, auch wenn das ja eigentlich eher ein da ist, wo ich mich frage, wieso wir das eigentlich überhaupt erwähnen müssen, dass das nicht, das ist total absurd.
Speaker: Aber was ich zuvor noch sagen wollte zu DeepSeek oder DeepSearch, ich bin mir jetzt gerade gar nicht sicher, wie es heißt.
Speaker: Ich hatte selten so ein ambivalentes Gefühl zu so einer Sache, als dieses neue Programm ausgerollt wurde und dann Sam Altman geschrien hat, die haben wir zu unseren Daten geklaut.
Speaker: Ich wusste wirklich nicht, wie ich mich fühlen sollte, aber es war gleichzeitige sehr große Genugtuung und aber auch irgendwie total Dada-Paradox und ich weiß nicht.
Speaker: Irgendwie, das ist nicht normal.
Speaker: Ein Kommentar dazu, Karma.
Speaker: Ja, genau, man kann das auch einfach unter Karma verbuchen.
Speaker: Alles kommt irgendwie zurück.
Speaker: What goes around comes around.
Speaker: Ehe total, aber bevor das sich jetzt so in emotionalen Befindlichkeiten verliert, lass uns vielleicht auf den Boden der Tatsachen zurückkehren.
Speaker: Du bist auch im Beratungsgremium der österreichischen Bundesregierung.
Speaker: Kannst du kurz, was du natürlich erzählen darfst, kannst du einen kurzen Lagebericht abgeben, wie wird das Thema auf nationaler
Speaker: auf österreichischer Ebene behandelt und gibt es vielleicht eine unterschiedliche Meinung, eine unterschiedliche Auslegung.
Speaker: Haben wir überhaupt die Möglichkeit, irgendwas anders zu machen als der gesamteuropäische Plan, den der AI-Act vorsieht?
Speaker: Haben wir da überhaupt auf nationaler Ebene einen Spielraum?
Speaker: Also ich glaube, vom Fahrplan her wird es jetzt der nächste wichtige Schritt sein, die Organisationsstrukturen zu schaffen.
Speaker: Das heißt einerseits eine nationale KI-Behörde, beziehungsweise einfach die Zuständigkeiten an die entsprechenden Stellen zu delegieren.
Speaker: Wir waren in Österreich hier sehr, sehr flott dran und vorreitet, indem wir die KI-Service-Stelle bei der RTR eingerichtet haben als Zwischenlösung, bis diese Organisationsstruktur steht, was ich glaube ein sehr guter Schritt war.
Speaker: Ganz kurz nur die RTR für unsere deutschen Zuhörer und so ist die Rundfunk-Telekommunikations-
Speaker: Die Behörde.
Speaker: Behörde, ich weiß nicht mit R, aber ja, also die Rundfunk-Telekommunikationsbehörde.
Speaker: Genau, beziehungsweise GmbH und die zwei Behörden hängen drüber mit der COA für die Medienzuständigkeiten und die TKK als Telekom Control Commission für Post- und Telekomsektor.
Speaker: Und die RTR ist im Wesentlichen die Geschäftsstelle, die diese zwei Behörden unterstützt.
Speaker: Und in dieser Geschäftsstelle ist aktuell diese KI-Service-Stelle eingebettet, die in der Zwischenzeit Informationen bereitstellt, versucht dem Markt ein bisschen Richtung zu geben und vorbereitend dient für die Behörde, die dann kommt und auch für den Zeitplan des AI-Acts.
Speaker: Okay.
Speaker: Das heißt, da haben wir schon ein gutes Vehikel geschaffen für die Zwischenzeit, um das zu überbrücken.
Speaker: Dann geht es darum, die KI-Behördenfrage zu lösen, aber auch darum, zum Beispiel AI-Sandboxes einzurichten.
Speaker: Von europäischer Ebene kommen die AI-Factories.
Speaker: Was ist da geplant?
Speaker: Der Ausbau der bestehenden KI-Infrastrukturen.
Speaker: Und auch hier ist es so, dass es einmal fünf bis sieben gibt und Österreich natürlich auch hier mitspielen will bei den AI Factories, um natürlich mehr zu ermöglichen.
Speaker: Das heißt Zugang zu Infrastruktur, auch angebundene Services, um das nationale KI-Ökosystem zu fördern.
Speaker: Österreich grundsätzlich ist ja auch ein sehr guter KI-Standort mit natürlich einem Cluster in Wien, aber auch in Graz und in Linz.
Speaker: wo sehr viel in KI-Richtung gemacht wird und geforscht wird.
Speaker: Es wurde oder es wird jetzt eigentlich im Februar auch gelauncht, das Bilateral AI, das heißt der Zusammenschluss, das Netzwerk aller Universitäten, die sich in Österreich mit KI beschäftigen, um hier einfach mehr zusammenzuwirken.
Speaker: mehr Austausch zu fördern.
Speaker: Wir haben sehr, sehr viele KI-Talente.
Speaker: Wir haben auch eine sehr gute Grundförderung gehabt mit den KI-Programmen der AWS und der FFG.
Speaker: Ich glaube, hier gilt es, wenn wir in die Zukunft schauen, das auf jeden Fall beizubehalten und auszubauen, dass Österreich auch weiterhin ein attraktiver KI-Standort ist für KI-Entwicklungen, KI-Startups und KI-Innovationen.
Speaker: Ändert das jetzt irgendwas für dich und deine Arbeit, dass wir gerade im Regierungslimbo uns befinden und keiner weiß, wie es weitergeht von der Ausrichtung, die Parteien, welche Partei, welches Ministerium und welche Zuständigkeit bekommen oder ist das ein parteipolitisch übergeordnetes Thema, das KI?
Speaker: Also der KI-Beirat ist ein Expertengremium.
Speaker: Wir sind zwölf diverse Experten und wie gesagt, wir stehen der Bundesregierung zur Verfügung in KI-Angelegenheiten als Sounding Board, als Sparing Partner und sind natürlich kommentiert stets, auch jetzt, falls es Fragen gibt.
Speaker: Wir werden sehen, wie unsere zukünftige Regierung aussieht.
Speaker: Ich glaube, man braucht es nicht sagen, es gab da einige spannende Entwicklungen und wahrscheinlich freuen sich alle oder sehen alle dem Ergebnis gespannt entgegen.
Speaker: Es gibt jetzt natürlich auch Vorbereitungsarbeiten, weil das muss ja dann alles auch in nationale Durchführungsgesetze gegossen werden.
Speaker: Das heißt, da gehen die Arbeiten voran.
Speaker: Aber es ist natürlich schwierig, weil man dann einer neuen Bundesregierung auch nicht vorgreifen will.
Speaker: Das heißt, hier bleibt es abzuwarten für neue Impulse, dann tatsächlich neue Strategien, welche Bundesregierung wir dann haben werden, um hier dann natürlich weiter kommentiert zusammenzuarbeiten.
Speaker: Aber hätte die überhaupt irgendeine Kompetenz, da was anders zu machen, als der AI-Act vorgibt?
Speaker: Oder ist das nicht eh schon dem... Ich würde nur ein Gefühl dafür kriegen, wie viel ist so heiße Luft im Wahlkampf und wir machen dann, wenn man uns nur lässt, dann zerreißen wir das ganze Regelwerk und machen unser eigenes Ding.
Speaker: Oder kann man tatsächlich auch was...
Speaker: selbst gestalten und sagen, danke, den Teil nehmen wir uns lieber nicht.
Speaker: Dafür formulieren wir den Teil noch ein bisschen besser aus oder so auf nationaler Ebene.
Speaker: Indem der EIG eine EU-Verordnung ist, steht das Rahmenwerk in diesem Sinne.
Speaker: Es gibt aber schon Spielraum für Mitgliedstaaten, den man ausnutzen kann.
Speaker: Also zum Beispiel ein Thema, das immer wieder kommt in diesem Zusammenhang, ist die Verwendung von KI zu Sicherheitszwecken.
Speaker: Da gerade quasi, wenn es um die Aufklärung bestimmter Straftaten gibt, da gibt es hinten einen Katalog von, ich glaube es sind 16 oder 18 schwere Straftaten, da ist dann Menschenhandel dabei,
Speaker: und kriminelle Vereinigung und so weiter und so fort.
Speaker: Und hier die Möglichkeit, Ausnahmen zu schaffen, dass man vielleicht KI für die Aufklärung solcher Straftaten dann tatsächlich verwenden darf, nämlich im öffentlichen Raum.
Speaker: Also es gibt schon Spielraum, den Mitgliedstaaten hier ausnutzen können.
Speaker: Der AI-Act im Wesentlichen als Rahmenwerk ist aber gesetzt,
Speaker: Das, was es gilt in den Durchführungsgesetzgebungen zu adressieren, ist wahrscheinlich der wichtigste Punkt, die Behördenstruktur.
Speaker: Also wer quasi ist auf nationaler Ebene zuständig hier für die Überwachung, Marktüberwachung, Einhaltung.
Speaker: Dann AI-Sandboxes, diese eigentlich sehr positive Sache auch umzusetzen und den Rahmen zu schaffen, dass wir hier Innovation fördern können.
Speaker: Und dann geht es um solche Spielräume.
Speaker: Aber wie gesagt, den AI-Act wegwerfen und neu machen wird nicht möglich sein.
Speaker: Genauso wenig, wie man sagt, okay, ich nehme jetzt die verbotenen KI-Praktiken, aber die Transparenzpflichten lasse ich bleiben.
Speaker: Also in der Ebene nicht.
Speaker: Ja, okay.
Speaker: Ja, magst du vielleicht noch einen kleinen Ausblick wagen in was dieses Jahr noch passieren wird, was vielleicht auch für dich persönliche Höhepunkte oder Checkpoints sind, auf die du dich freust oder auf die du hinfieberst, weil es dann vielleicht mehr Klarheit geben sollte oder so.
Speaker: Was erwartet uns dieses Jahr noch in Sachen KI?
Speaker: Vor der Frage habe ich mich gefürchtet, weil in so einem dynamischen Umfeld, wo täglich x Modelle released werden, Announcements nur so durch die Welt fliegen von Investitionen und Infrastrukturprojekten, ist es natürlich schwierig, hier eine korrekte Prognose abzugeben oder irgendwie vorherzusehen.
Speaker: Das mache ich auch nur, um dich festzunageln zu können.
Speaker: Später in einem halben Jahr kann ich dann sagen, da, die Janett hat es gesagt, im Februar.
Speaker: Nein, entschuldige.
Speaker: Also das, was ich quasi, die Sache, wo ich sagen kann, das wird uns sicher ereilen, wenn man so möchte, sind eben, wie gesagt, der Code of Practice, der kommen wird, die Verpflichtungen für Modellanbieter, die ab August gelten werden.
Speaker: Im Sommer wissen wir dann auch, wie es mit der Behördenstruktur ausschaut.
Speaker: Wir werden mehr Klarheit haben zu AI-Factories, ob wir da vielleicht in Österreich eine bekommen wollen.
Speaker: Oder bei welcher AI Factory Österreich dann andocken kann, um hier weiter Innovation zu fördern.
Speaker: Das sind so die Sachen, die relativ sicher sind und die ich mich traue zu prognostizieren.
Speaker: Ansonsten glaube ich, wird 2025 ein sehr, sehr spannendes, dynamisches Jahr sein.
Speaker: Wir haben schon gesehen, das Jahr hat so begonnen, überraschend mit diversen Announcements.
Speaker: Was ich mir für das Ökosystem wünsche, ist, dass all diesen finanziellen Commitments dann auch Kapitalflüsse folgen und dass Österreich ja auch partizipieren kann und das österreichische Ökosystem, dass wir hier Innovation fördern können und uns auf unsere Stärken konzentrieren.
Speaker: Österreich hat sehr viele Stärken, insbesondere auch zum Beispiel im MedTech-Biotech-Bereich, dass wir diese Stärken nutzen und auch hier nicht nur Anwender sind, sondern auch Architekten zukünftiger KI-Applikationen, nämlich derartige Applikationen, die wir auch nutzen wollen.
Speaker: Ich glaube, da ist sehr, sehr viel möglich.
Speaker: Genau, sonst, was ich mir vorgenommen habe oder was mich beschäftigt dieses Jahr, ist sehr, sehr stark das Thema Implementieren.
Speaker: Also wir haben jetzt sehr, sehr viel gesprochen.
Speaker: Wir haben jetzt sehr, sehr viel reguliert.
Speaker: Wir haben sehr, sehr viel Policy und Strategy gemacht.
Speaker: Es geht aber jetzt tatsächlich um die Implementierung und ums Tun.
Speaker: Und das, was wir machen, ist es tatsächlich Unternehmen dabei begleiten, den AI-Act umzusetzen in ihrer Governance, in ihren Prozessen, in ihren Rollen und haben hier schon sehr erfolgreiche Projekte mit Unternehmen gemacht, auch im hochregulierten Bereich.
Speaker: Und die Konklusion, die ich vielleicht mit den Zuschauern oder Zuschauerinnen teilen möchte, ist, der AI-Act ist besser als sein Ruf.
Speaker: Und es ist tatsächlich einfacher, den AIAC zu implementieren, als es jetzt so scheint.
Speaker: Das Wichtige ist, damit anzufangen und sich damit zu befassen.
Speaker: Und das merken wir bei allen Projekten, dann sieht man, dass die Unternehmen schon sehr, sehr viel haben.
Speaker: Es ist ja schon sehr, sehr viel da.
Speaker: Die meisten Organisationen fangen ja nicht Greenfield an, sondern haben eine Art von Data Governance, haben eine Art von Risikomanagement,
Speaker: Da gilt es, die Teile zusammenzuführen und strukturiert weiterzumachen.
Speaker: Und das möchte ich allen Unternehmen mitgeben.
Speaker: Fangt damit an.
Speaker: Es ist nicht so schlimm, wie es scheint.
Speaker: Und es gibt sehr, sehr viele Stellen, die unterstützen euch dabei.
Speaker: Weil ich glaube, wenn man...
Speaker: diese Kuh vom Eis bringt oder beziehungsweise diesen Knoten auflöst, dann kann man einfach mit mehr Mut, mehr Entschlossenheit und mehr Drive weitermachen, ohne dass einen permanent die Gedanken plagen, oh Gott, vielleicht bin ich im Scope des AI-Acts und um Gottes Willen, was muss ich dann tun?
Speaker: Also ich glaube tatsächlich, diese Angst, diese Unsicherheit gilt es einmal quasi zu adressieren und wir sehen, dann läuft es.
Speaker: Und es funktioniert dann einfach besser mit KI-Applikationen, KI-Anwendungen und einfach das auch erfolgreich einzusetzen, weil einen dann diese Sorgen nicht mehr plagen, man genau weiß, okay, das ist die Richtung und dort stoßen wir hinein.
Speaker: Ja, sehr, sehr spannend.
Speaker: Viel zu tun, glaube ich, für dich.
Speaker: Das wird ein arbeitsreiches Jahr.
Speaker: Aber klar, natürlich, es geht um den realen Alltagskontext, um die Rechtssicherheit im betrieblichen Alltag, um die Aufgaben und Pflichten und die Verantwortung.
Speaker: wie in jedem anderen Rechtsbereich auch.
Speaker: Und ich glaube, der Wunsch oder das Bedürfnis von Unternehmen ist da sehr groß nach Klarheit und nicht, ich glaube, gefühlt oder instinktiv,
Speaker: Begreifen die Verantwortlichen in den Firmen schon, dass man sich jetzt nicht einfach auf eine Presseaussendung aus dem Silicon Valley verlassen kann, dass das alles super easy und sexy und die Antwort auf alle meine Fragen sein wird und auf meine Bedürfnisse.
Speaker: Ja, also man kann dich auch mit privatwirtschaftlichen Anfragen kontaktieren und du hilfst dann weiter als deine Anwältin.
Speaker: Und du hilfst dann nach bestem Wissen und Gewissen weiter da Licht ins Wasser.
Speaker: AI-Act dunkel zu bringen.
Speaker: Janett, vielen Dank, dass du da warst, Rede und Antwort gestanden hast und für ein gutes Gespräch zu mir ins Studio gekommen bist.
Speaker: Ich hoffe, ich lade dich jetzt hiermit wieder ein, in absehbarer Zeit für ein Update wiederzukommen.
Speaker: Hast du Lust?
Speaker: Sehr, sehr gerne.
Speaker: Ich komme immer gerne zu dir zum Plaudern auf die Couch.
Speaker: Ich versuche so gut wie möglich Rede und Antwort zu stehen.
Speaker: Aber deine Fragen sind ab und zu tricky.
Speaker: Da muss ich dann die juristischen Tricks auspacken, um mich dann ein bisschen rauszuwinden.
Speaker: Es kommt drauf an, habe ich schon gelernt.
Speaker: So ist es.
Speaker: Obwohl, das habe ich heute nicht einmal benutzt.
Speaker: Das stimmt, das hast du heute nicht gesagt.
Speaker: Nächstes Mal wieder.
Speaker: Danke, mir ist schon klar, dass du nicht die Antwort auf alle Fragen haben kannst.
Speaker: Noch nicht.
Speaker: Wir arbeiten daran.
Speaker: Excellent.
Speaker: Aber tatsächlich werde ich deine Website natürlich in die Shownotes packen, auch für Interessensvertretungen, die mit jemandem in Sachen AI Governance zusammenarbeiten wollen, wie wir es ja auch schon getan haben mit der UVA und dir.
Speaker: dass man dich auch findet.
Speaker: Und ansonsten, ja, schön, dass du da warst.
Speaker: Bis zum nächsten Mal.
Speaker: Auch an euch.
Speaker: Vielen Dank, dass ihr dran geblieben seid.
Speaker: Ich hoffe, es hat euch ein wenig den Tag versüßt oder die Nacht.
Speaker: Ich weiß es nicht, wo ihr das gerade auch hört.
Speaker: Wenn ihr Fragen habt, gerne an deeptalkatmike-rider.com.
Speaker: Und ich freue mich natürlich sehr über ein Abo oder über eine Bewertung des Podcasts auf der Plattform eures Vertrauens.
Speaker: Und über Mundpropaganda freue ich mich natürlich am allermeisten.
Speaker: Danke euch und bis bald.
Speaker: Ciao.
