Claude Code im Unternehmen 🤖: Diese rechtlichen Aspekte solltest du kennen

00:00:02: Wenn jetzt alle bei den Mitarbeiterinnen und Mitarbeitern anfangen, sich ihre kleinen eigenen Software-Systeme zu bauen dann habe ich vielleicht auch viele IT Security Risiken weil es diverse Schnittstellen gibt wo man eindringen kann.

00:00:12: Vom Grundsatz her gibt es die Unterscheidung zwischen der Idee die ein Mensch hat, die grundsätzlich nicht urheberrechtlich Schutzfähig ist und dem konkreten Ausdruck dieser Idee die Schutzfähigkeit sein kann.

00:00:21: Augustes ist wieder ein wichtiges Datum.

00:00:23: das sollten die Unternehmen eben gerade beim Hochrisikosystem tatsächlich auf einem Schirm

00:00:27: haben.

00:00:49: Hi, five Leute.

00:00:49: Hier ist Schoell und ihr wisst dann unsere Money-Mandei reden wir immer fleißig über Wachstum im Business.

00:00:54: So nun ist es ja so.

00:00:55: das meiste wachstums kommt ja in letzter Zeit dank KI Und bestimmt seid ihr da draußen auch schon fleißige am Vibekoden?

00:01:01: So sagt man ja wenn man mit KI Dinge programmiert.

00:01:03: also Claude Cote ist ja ein großes Thema für viele gerade loveable Naja und dann ist es herrlicherweise aber auch so.

00:01:09: Das eine oder andere sollte man ja rechtlich im blick behalten wenn er mit KI arbeitet.

00:01:13: Es gibt ja immer noch den AI Act.

00:01:14: Also da kommen einige Sachen auf uns zu.

00:01:17: Dann dachte ich mir hey Du kennst doch Leute, die sich damit auskennen.

00:01:20: Frag die doch mal!

00:01:21: Weil die Menschen mit denen ich da arbeite das ist WIPOC eine Kanzlei, die sie genau mit solchen Themen beschäftigt.

00:01:26: Schreibt sich YPOG falls ihr das mal nach recherchieren wollt und zwei Menschen dort kennen sich besonders gut aus nämlich zum einen liebe Caroline Raspeh diese Partnerin dort für Compliance und Internal Investigations und Compliance ist ja genau das Thema über was wir hier reden und der zweite Kollege der Liebe Benedikt Flöter der wiederum ist Partner für Technologie Recht und er kennt sich speziell mit KI aus.

00:01:45: also wenn wir die beiden zusammenpacken Wenn die nicht wissen, dann weiß das keiner.

00:01:50: Und wir haben uns heute vorgenommen, dass wir euch mal ein Stück weit an die Hand nehmen.

00:01:53: was beschäftigt Unternehmen eigentlich gerade in Sachen KI?

00:01:55: Was für Banden gibt es da?

00:01:56: Worauf sollte ich achten, dass das alles nicht nur effizient sondern auch rechtssicher ist?

00:02:00: So, net being said ihr beiden!

00:02:01: Ich bin ja mal gespannt.

00:02:02: schön, dass ihr da seid moin moin Hallo

00:02:04: Dank schon dass wir sind.

00:02:05: Ja und jetzt müsstest du natürlich erstmal hier einen Beweis liefern.

00:02:08: macht dir selber schon fleißig etwas mit KI.

00:02:09: Seid ihr auch am Vibe-Koden?

00:02:10: Gibt's irgendwie erste Webseiten?

00:02:12: wie sieht sie bei euch aus Kaolin?

00:02:13: Also mit KI ja...ich glaube da kommt heute kein Juristen mehr drum rum.

00:02:17: In der juristischen Arbeit, in der Recherche und in der Dokumentenerstellung kann man heute nicht mehr händisch machen.

00:02:22: Da möchte auch kein Mandat mehr für bezahlen zurecht.

00:02:24: Aber ich muss ehrlich sein, Webseitencoden das ist noch ein Buch mit sieben Siegeln für mich.

00:02:30: dann muss ich mich vielleicht irgendwann mal in der Freizeit mit beschäftigen.

00:02:33: Aber KI ist natürlich allgegenwärtig in unserem Alltag.

00:02:36: Okay, Benedict ist dann derjenige für den kleinen Zeit-Tastel würde ich sagen am Wochenende oder?

00:02:40: Ja also so ein bisschen techie schon immer gewesen.

00:02:42: Ich erzähle immer, ich wollte mal Ingenieurwissenschaften studieren und in der Schule irgendwie keine Ahnung.

00:02:47: kleine Dateien programmieren Webseiten, HTML und sowas haben wir irgendwie alle gemacht Und das hat sich natürlich total geändert.

00:02:52: Also es ist natürlich sehr viel mehr möglich.

00:02:53: jetzt.

00:02:54: Wir machen bei WIPOC viel legal Tech Ein, zwei kleine Zeithase für das Wochenende.

00:02:59: Zeit ist leider immer so ein bisschen zu knapp aber es ist schon krass was man mit lave will und den ganzen Tools mittlerweile machen kann.

00:03:03: Man spart sich eigentlich den ganzen Entwickler-Pipeline würde ich fast sagen.

00:03:06: Aufs Land auf dem Markt werden wir jetzt mal gucken.

00:03:08: Ich meine du weißt es ja weil du machst es selber bis sozusagen selber Anwender aber vor allem hast natürlich viele Kunden... Was ist denn das was Unternehmen gerade so beschäftigt in Sachen Karriere?

00:03:15: Was beschäftigt die da am meisten?

00:03:16: Ja es ist echt spannend also dass so ein Thema das nie aufhört und das sind so Wellen würd' ich sagen.

00:03:20: Vor zwei drei Jahren war's ja dann irgendwie Chatchabee Tea und dann kam Mid Journey Gen AI auf dem auf den Tisch und dann wurde es irgendwie ein bisschen klarer als das irgendwie auch integriert wurde in dritt Dienste wie Microsoft Copilot oder sowas und war so ein bisschen eingehickt.

00:03:33: Und was dann jetzt sozusagen die neueste Welle ist, ist eigentlich dass das Ökosystem wie sich wieder noch total öffnet und neue Frameworks entstehen also NLN und sowas kennt man ja vielleicht als Automation Pipeline.

00:03:42: Dann gibt's doch Long Docs was auch so eine offene Framework Plattform ist für verschiedene Modelle.

00:03:46: und der latest Shit sozusagen ist dann Die Cloud Suite also Cloud Chat was es ursprünglich gab und dann Code dazu was für speziell Software-Entwickler genutzt worden ist, womit man also Softwarecode Vibecoden konnte.

00:04:00: Also durch ein Promt das System anweisen, dass es den kompletten Krellcode erstellt, der nachher für die Ausführung durch den Computer erforderlich ist.

00:04:08: und im nächsten Schritt wurde dann CodeCore-Work entwickelt auf Grundlage von CodeCode.

00:04:12: Der Unterschied ist im Wesentlichen, dass bei Code so einen Terminalinterface gibt und CodeCORE hat sozusagen eine grafischere Nutzeroberfläche.

00:04:19: Und das Spannende daran ist, nicht nur seine Software selber bauen kann, sondern auch tatsächlich Agenten selber bauen können die dann Aufgaben durchführen.

00:04:26: Diese Agenten weist man dadurch an dass man ein Skill schreibt das ist letztendlich eine Textdatei wo in echter Menschensprache sozusagen drin steht was der Agent tun soll ist ja alles net schon Language und dadurch kann man dann Anweisungen machen sowas wie öffnen meine Emails beantworten alle E-Mails von meiner Oma zu Weihnachten und schreiben immer schöne Grüße rein und denken nächstes Jahr nochmal zu schreiben.

00:04:45: also so kann man relativ einfach Anweisungen an den Computer machen und damit Routine Aufgaben sehr einfach automatisieren.

00:04:52: Das Tolle ist, dass man dann sozusagen eine Textartei hat für eine spezielle Aufgabe also die Weihnachtskarte für die Oma Und dann kann man auch eine andere Textarteie erstellen wo dann drin steht Rechnungserstellung für weiß ich nicht Mandanten oder sowas und da stehen dann die Anweisung dort dafür drin.

00:05:06: Und das das Geniale ist eigentlich, dass TotKowak automatisch entscheiden kann welcher dieser Skills jetzt gezogen werden soll.

00:05:12: ob es gerade eine E-Mail an die OMA ist oder eine Rechnung an den Mandanten, ist natürlich ein wesentlicher Unterschied.

00:05:18: Und das muss man bei vielen anderen Systemen immer gewiss auch nicht... Ich schluss, ja doch weil du Oberkrieg keine Rechnungen zuhört.

00:05:25: Und dann muss man dann bei anderen Systeme immer genau auswählen welches Skillset oder welche Anweisung man jetzt eigentlich haben will und das macht hier eben der BOT alleine.

00:05:32: Das ist sozusagen das Tolle dass man damit anfangen kann viel automatisierter ganze Armeen von Agents zu dirigieren.

00:05:38: Und ich habe gestern ganz spannendes Webinar gesehen mit den Finance-Leuten von der Topic über so einem Kollektiv Und das war extrem spannend, weil dort mal gezeigt wurde wie die damit umgehen und sie bauen sich letztendlich ihre kompletten Software-Suite mittlerweile selber.

00:05:50: Gewaltcoded und dieser große Crash der vor zwei Wochen war, weil auf einmal irgendwie die Sorge war dass irgendwie jeder sich jetzt Software selber bauen kann.

00:05:58: Ein Stück weit konnte ich das ehrlich gesagt schon nachvollziehen, weil man einfach gesehen hat auch mit nicht vertieften Softwareentwicklungskennissen kann man sich eigentlich schon viel selber bauen ob das nachher dann den ganzen regulatorischen Anforderungen von IT Security entspricht.

00:06:10: Ich glaube, das ist ein Thema, das wir später einsteigen.

00:06:12: Aber genau die Frage hat mich auch beschäftigt weil mir auch mal so zugeworfen wird aus dem Netzwerk Hey!

00:06:16: Das wird darauf hinauslaufen.

00:06:18: mein CRM und mein Projektmanagement-Tool baue ich mir als Firma einfach zukünftig selber und wenn ich es in drei Monaten anders brauche dann pass' ich's einfach an Und ich brauch gar nicht mehr dieses off the shelf was mir irgendwie angeboten wird.

00:06:29: Saas is voll tot So würdest du sagen.

00:06:32: ohne dass wir jetzt schon zu tief einstellen können wir gleich später nochmal drauf eingehen Dass das so aus rechtlicher Sicht so ohne weiteres möglich ist oder stecken da nicht doch mehr Hürden drin?

00:06:39: ersten Blick so denkt.

00:06:41: Ja, also das ist alles noch nicht ausgesprochen und noch nicht final untersucht sind mit Sicherheit viele Hürden drin.

00:06:46: aber es natürlich genau ein ganz klassischer Punkt wo wir auch als Rechtsberaterin sagen wollen da soll das Recht ja nicht irgendwie im Weg stehen sondern man muss es ja irgendwie vereinheitlichen und versuchende Lösungen zu finden dass die Interessen der Nutzerinnen respektiert werden und auch umgesetzt werden können und das Ganze aber so legally compliant und so sage ich mal so rechtlich sicher wie möglich.

00:07:04: wir würden uns dann nicht hinwegstellen Sollen und sagen das recht verbietet dass diesen incentive.

00:07:08: jeder baut sich selber sein eigenes kleines agenten ökosystem und baut sie seine eigene software selber unseren erp-system Und cms und was auch immer.

00:07:17: das ist natürlich so ein großer incentive.

00:07:18: da wird man kaum sich in wegstellen können auch als unternehmen und die frage ist eher wie kriegt man das in geordnete bahnen?

00:07:23: Und dann sind wir jetzt sozusagen auch schon bei einem der wesentlichen punkte.

00:07:25: wenn jetzt alle meine mitarbeiter und Mitarbeiterinnen anfangen sich ihre kleinen eigenen softball systeme zu bauen Dann habe ich natürlich eine Vielzahl von kleinen getrennten Systemen, die gar nicht und wir harmonisiert sind untereinander.

00:07:37: Und vielleicht auch viele IT Security Risiken weil es diverse Schnittstellen gibt wo man eindringen kann.

00:07:42: Vielleicht sozusagen ohne das jetzt schon total vertiefend zu wollen aber was gerade so spannend ist ein weiteres Großer Vorteil von dem Cloud System ist halt, dass die Agents auf verschiedene Schnittstellen zugreifen können.

00:07:51: Also eine Schnittstelle in der API ist grundsätzlich von dem Anbieter vorgegeben wie Daten ausgetauscht werden können zwischen Software-Systemen und was diese Agents machen können.

00:07:59: das ist sogar ein MCP Server heißt das?

00:08:01: Das ist also eine spezielle Schnittställe beispielsweise auf Google Emails zuzugreifen oder auf Asana Workflows zuzugereifen Plattformen sonstige Arzt zu greifen.

00:08:12: Viele viele Anbieter haben sich mittlerweile daran angeschlossen an dieses MCP Server System und damit wird das System halt so wahnsinnig flexibel.

00:08:18: zugleich sind alle diese Schnittstellen, potenziell vielleicht auch ein Tor für IT Security Risiken.

00:08:23: Das muss man sich halt dann mal angucken was wir dazu lassen weil und was nicht.

00:08:26: also die komplette Unternehmenskommunikation über Prozept zu ruten ist vielleicht ein bisschen riskant los.

00:08:32: wenn

00:08:32: ich da ganz kurz reingehen darf.

00:08:33: Ich glaube dass es tatsächlich der Punkt ich glaube das Recht soll ja nicht nur um seiner selbst willnen Roadblock sein.

00:08:40: Ich glaube, das ist ja eine Gefahr die im Moment viel diskutiert wird.

00:08:43: Europa wird abgehängt wegen der Regulatorik.

00:08:45: Das geht alles nicht schnell genug.

00:08:47: und Ja wie gesagt zum Selbstzweck sollte Regulatorik nie eine Bremse sein aber jetzt ist schon mehrfach das Wort Cyber Security gefallen Und dass es glaub ich wirklich was auch nicht unterschätzt werden sollte.

00:08:58: also wir alle wissen dass Daten mit den wertvollsten Ressourcen sind Die es gibt für Unternehmen und das is einfach was.

00:09:04: Also gerade bei mir auf dem Tisch sind zwei Dreimandate wo tatsächlich Unternehmen eben auch Opfer geworden sind von Security Breaches und KI.

00:09:13: Ich sag nicht, dass unbedingt KI der Grund war aber die Angreifer werden durch KI ja auch immer besser.

00:09:18: Und tatsächlich ist eine Nichtstrukturierte Organisation, wo jeder tut was er macht Auch für ein Unternehmen und für die IT-Abteilung eines Unternehmens sehr schwer zu überwachen.

00:09:27: Man weiß nicht wo die Daten landen wie sie weitergegeben werden Was womit trainiert wird und das was wir eben sehen dass einfach die Unternehmen, also die, die zu uns kommen und fragen dürfen wir das?

00:09:39: Das ist ja eigentlich schon der Best Case.

00:09:42: Also genug denken darüber gar nicht nach!

00:09:43: Die machen einfach... Und das vielleicht sogar ohne, dass das Unternehmen es weiß.

00:09:49: Deswegen ist es absolut entscheidend, und da komme ich jetzt so ein bisschen mit meiner Compliance-Brille.

00:09:54: Dass man als Unternehmen eine klare Position bezieht zu KI.

00:09:57: also was wollen wir?

00:09:59: Was fördern wir?

00:10:00: in welchen Bahnen erlauben wir das?

00:10:02: Was sind aber auch Regeln?

00:10:03: Also man muss den Leuten ja auch regeln an die Hand geben damit sie nicht völlig lost durch diese sich ständig verändernde Welt laufen sondern dass Sie sagen okay das sind die Tools diesen hier zugelassen Das hat das Unternehmen geprüft Und das wird von mir auch erwartet dass ich das tue.

00:10:16: Aber eben auch auf Gefahren hinzuweisen.

00:10:19: Es ist wirklich hilfreich als Unternehmen auch einfach mal zu sagen, okay da hatten wir jetzt mal ein Fail oder hier mal schlechte Beispiele für Promps.

00:10:26: Oder was es auch immer sein mag?

00:10:27: Aber einfach in eine offene Kommunikation zu gehen ich glaube das alleine hilft schon Als dieser Wild-Wild West jeder macht jetzt mal Wasser will.

00:10:35: Ich glaub dass schafft man sich mit Unternehmen... ...als Unternehmen eben wirklich viele Probleme die man nicht haben möchte.

00:10:40: Wenn

00:10:40: ich jetzt einfach noch kurz ergänzen darf weil es gerade einfach so ein wahnsinnig spannendes Thema ist und wie auch wirklich viel gefragt werden ob man jetzt Kloak einsetzen darf oder nicht.

00:10:47: Das System ist halt wahnsinnig modular, man kann viele Regelungen selber vornehmen.

00:10:50: Man kann viele Einstellungen vornehmen und damit auch Risiken dann mitigieren.

00:10:53: also was Caroline absolut richtig sagt es.

00:10:55: Man sollte schon schauen dass das zentralisiert läuft und nicht so eine Schatten KI in einem Wildwuchs entsteht wo einfach jeder sich seine eigene Systeme baut.

00:11:03: Den Problemkreis kennen wir schon länger ne?

00:11:04: Also dass immer Chatchabity nicht ausrollt im Unternehmen.

00:11:07: Dann benutzt irgendwann jeder Mitarbeiter seiner eigenen Chachabity Version und das ist halt nicht so sinnvoll.

00:11:12: Und jetzt wird's glaube ich noch viel krasser weil noch mal der Inzente viel höher ist, weil man sich seine Arbeit so wunderbar automatisieren kann und jeder baut sich sein eigenes Tool Set.

00:11:19: Und da kann man halt Regelungen einführen mit Codework.

00:11:21: jetzt speziell dass man zum Beispiel sagt was wir auch machen wird ganz offen gesprochen.

00:11:25: Wir brauchen gerade ein von dem Sandbox Environment wo wir sagen da drin können wir das erstmal testen und nutzen.

00:11:29: Da haben natürlich sehr sinsele Mandatsdaten.

00:11:31: Dann darf natürlich nix dran gehen und deswegen hat ihr das vielleicht einfach einen koppelten Laptop oder sowas zum einfache ausprobieren.

00:11:36: Ich glaube, man sollte sich da so ein bisschen ran tasten an das Thema.

00:11:38: dann kann man auch sagen welche Konnektoren eigentlich verwendet werden dürfen und welchen nicht.

00:11:42: also zb darf nicht auf Unternehmensdaten zugegriffen werden sondern es darf vielleicht nur auf den privaten Space zugegriffen werden wo Daten liegen.

00:11:50: Dann kann man vielleicht auch sagen dass man die browser extension nicht verwenden darf damit sozusagen ich die Gefahr berührt das darüber dann auch Daten ausgetauscht werden, mit e-mail Prostfechern zum Beispiel und man kann auch kontrollieren sozusagen welche eigenen IT Security Vorgaben man immer macht an die Verhaltensweise der Leute.

00:12:04: Also es gibt verschiedenste Regeln, die man eigentlich einzigen kann um das Ganze so ein bisschen zu mitigieren.

00:12:09: Und

00:12:09: wenn wir für den Moment mal... Wir können ja gleich nochmal drüber reden was eigentlich sonst so die restlichen Leitplanken sind in Sachen KI des Themas Cybersecurity vertiefen.

00:12:16: Also ich habe ein Beispiel für euch.

00:12:18: Ich denke zum Beispiel gerade drüber nach, ihr könnt so ein schönes kleines Tool bauen mit dem meine Gäste ihre Daten bearbeiten können.

00:12:23: also wenn ich jemanden vorstelle in meinem Podcast auf der Webseite dann kann jetzt Caro und Benedikt sagen hier das ist irgendwie mein Bio Das ist mein Link im Profil usw.

00:12:33: Und es sind ja durchaus sensible Sachen weil da liegt er meinetwegen eure E-Mail Adresse hinter.

00:12:37: und sag mir mal den Fall ich werde jetzt Opfer von so einem Breach.

00:12:40: Was ist denn da in Sachen Cyber Security, sozusagen meine Aufgabe?

00:12:43: Also wie hafte ich und worauf sollte ich achten, dass sich auf sowas aufpasse.

00:12:47: Also das eine... Und dann gehen wir schon so ein bisschen in die Leitplanken.

00:12:49: was man bedenken sollte und was jetzt wirklich nicht neu ist es sind natürlich die datenschutzrechtlichen Regelungen und diese sind wirklich relativ strikt.

00:12:56: also wenn man als verantwortliche Stelle einen Data Breach entdeckt und wenn du dieses Tool anbietest und hostest und diese Daten verantwortest dann wärst du voraussichtlich auch verantwortlich für diese für diese Daten, die dort eingetragen werden.

00:13:10: Dann musst du das der Datenschutzbehörde gegebenenfalls melden und zwar wenn Freiheiten und Rechte von natürlichen Personen beeinträchtig oder betroffen sein können.

00:13:19: Und das Problem dabei ist, du hast eine zu seventy Stündige frisst um das zu tun und zu prüfen.

00:13:24: Das ist wahnsinnig kurz wenn man deutlich verzögert meldet sind auch Bußgelder nicht unwahrscheinlich also vor allem wenn es natürlich zu tatsächlich von größeren Schäden kamen und der Breach eben anderweitig bekannt wird.

00:13:35: Es kann ja auch immer sein dass die Betroffenen mitbekommen und zur Datenschutzbehörde gehen Und das ist, wie gesagt, es ist nothing new.

00:13:42: Aber glaube ich lohnt sich einfach noch mal zu erwähnen weil diese Notifikationpflicht wird oft übersehen.

00:13:49: Weil man is ja Opfer, man is vielleicht sogar finanziell schon geschädigt und denkt sich Ja gut also jetzt was muss ich noch alles tun?

00:13:55: Und auch wenn man sich dagegen entscheidet zu melden sollte man das dokumentieren.

00:13:59: Also man muss diesen Prüfungsschritt im Kopf machen als Unternehmen Wenn personenbezogene Daten eben betroffen sind.

00:14:04: Das wäre in dem Fall wo natürliche Personen ihre Details eintragen.

00:14:10: Gut, jetzt hast du schon gesagt es gibt so rechtliche Leitplanken also Cyber Security wäre eine.

00:14:14: was sind denn die anderen?

00:14:15: Also

00:14:15: auch was Kaboli eben schon gesagt hat das Datenschutzrecht ist natürlich insgesamt ein Leitplan kann die man sich halten soll.

00:14:20: Das ist ja auch kein sage ich mal ganz neues Thema und oftmals bezieht sich einfach die Verarbeitung von KI-Prozessen auf personenbezogene Daten.

00:14:28: Es kann sein dass Scannen von Lebensläufen weil man sich eine Bewerber-Bewerberin anschauen möchte Das sind natürlich die ganzen Gesundheitsdaten, weil man im MRT liegt und dort ein Scann vielleicht auf Toraxscan auf Krebs untersuchen werden soll.

00:14:39: Das ist natürlich die ganze Auswertungsmöglichkeiten vielleicht Mitarbeiter Performance, die getrackt werden kann.

00:14:43: also wir sehen ja hier auch in unserer Praxis wahnsinnig viele Unternehmen, die sich tolle Anwendungen ausdenken und viel Arbeit ersparen sollen.

00:14:50: Aber diese ganze Arbeit ist natürlich oftmals mit personenbezogenen Daten verknüpft.

00:14:53: Da muss man einfach schauen wie man sich absichern kann.

00:14:55: Das läuft sozusagen im allereinfachsten Fall dass man eine Einwilligung der betroffenen Person hat, dass man diese Verarbeitung durchführen kann.

00:15:00: das ist sozusagen auch dann zwingend erforderlich wenn man Patientendaten beispielsweise verarbeiten möchte.

00:15:05: aber es sind natürlich mal in anderen Kontexten.

00:15:06: wollen die Leute vielleicht nicht zwingen dass ihre Daten verarbeitet werden oder man möchte sie auf jeden fall eine Einwähligung nicht holen.

00:15:11: Dann muss man natürlich schon noch eine andere Richtfertigung findet gesetzgeberische Bestrebungen vorhanden, dass man sagt das KI-Training und KI Auswertung ein privilegierter Zweck werden soll nach der Datenverarbeitung.

00:15:23: Das ist natürlich durch, aber das Teil der sogenannten Omnibusrichtlinie und es glaube ich auch eine wirklich erforderliche Liberalisierung des Datenschutzrechts weil wir doch schon sehen und das gewisse Kritik vielleicht auch wenn man sich ja international den Vergleich anschaut ist glaube ich das Framework in Deutschland schon recht streng.

00:15:38: Ich werbe dann immer so ein bisschen damit, dass man sagen kann.

00:15:39: Wenn man das Produkt in Deutschland auf den Markt bringt, da kann man es halt auch europaweit oder weltweit auf dem Markt bringen.

00:15:44: aber wir sehen natürlich auch Tendenzen, das ist in den USA ehrlich gesagt doch.

00:15:47: Manches einfacher ist, manchmal ist es aber auch schwieriger ist.

00:15:49: Beispiel was tatsächlich vielleicht schwieriger sein könnte ist das ganze Thema um den EU AI Act der so viel diskutiert wird und da sind ja einige Vorgaben schon in Kraft beispielsweise die Pflicht Mitarbeiter zu Schulen nach Artikel vier eine KI Kompetenz herbeizuführen.

00:16:01: Das sind auch schon innerhalb dieser Risikoklassifikationen die der AI Act vorsieht.

00:16:04: Es gibt jetzt drei verschiedene Klassen der gänzlich verbotene KI-Systeme und es gibt KI Systeme mit einem Hochrisiko.

00:16:10: Es gibt KI-systeme, wo nur Transparenzpflichten erforderlich sind, dass die betroffene Person einer KI ausgesetzt wird.

00:16:16: Und davon sind verschiedene Vorgaben schon in Kraft.

00:16:19: also die Verbotensysteme sind seit letztem Jahr schon verboten und die Hochrisikosysteme werden dann aber August relevant werden und die haben sehr strenge Komplexanforderungen, die erfüllt werden müssen.

00:16:28: Wo wir da noch tiefer reingehen gibt's auch andere Bereiche.

00:16:30: klar Was sozusagen immer, dass die Fragen von IP-Rechten besteht.

00:16:34: Welche Daten werfe ich denn eigentlich in eine KI rein und welche Daten komme ich eigentlich raus?

00:16:37: Kann ich die verwenden?

00:16:38: Das ist ein Thema das auch viele unserer Mandanten sehr interessiert weil sie sich fragen wie können dann eigentlich die Inhalte, die von der KI erzeugt werden, auch vermarktet werden?

00:16:45: nachher.

00:16:46: KI-erzeugte Inhalten haben vielleicht gar keine Rechte, die daran bestehen und da sind wir sozusagen im Regelungsbereich also zwischen Datenschutz AI Act und IP recht oftmals unterwegs.

00:16:56: Jetzt hast du eben erzählt, dass es da verbotene KI gibt?

00:16:59: Was darf ich mir denn darunter vorstellen?

00:17:00: Welche KI-Systeme darf ich ja nicht einsetzen?

00:17:02: Also zum Beispiel darf man KI Systeme nicht einsätzen die Menschen manipulieren sollen.

00:17:07: also Nudging Systeme, die tatsächlich nicht nur Preisdifferenzierung sind also Dynamic Pricing kennen wir schon relativ lange das die Preise morgens günstiger sind als abends oder mittags oder wochenende.

00:17:17: Das ist nicht das Problem.

00:17:17: aber tatsächlich dass man manipulative KI Praxissen verbieten soll das ist schon nachvollziehbar.

00:17:22: Dann kann auch verboten sein, dass man Scoring-Systeme verwendet wo Personen unmittelbar dem Ergebnis des Scorings ausgesetzt sind und deswegen zum Beispiel eine Kreditvergabe nicht gewährt wird.

00:17:33: Da gibt es eine recht ausdifferenzierte Rechtsprechung vor dem Hintergrund der ganzen Schufe die er solche Daten erhebt.

00:17:39: aber von Grundsatz her soll es verboten seien das Personen unmittelbare Nachteil haben wenn sie nur einer KI Entscheidung Unterworfen sind.

00:17:45: Und dann gibt es natürlich auch diese Mitarbeiterüberwachungsthemen, die sind meistens verboten also Tracking-Systeme zum Beispiel.

00:17:50: Das ist gänzlich verboten und bei den Hochrisikosystemen ist man eher in dem Bereich unterwegs das zum Beispiel Gesundheitssysteme für HealthTech verwendet werden, reguliert sein können.

00:17:59: Dann Systeme, die in der Sicherheit oder in der öffentlichen Veröffentlichkeit Transportmittel verwendete werden, sind reguliert.

00:18:04: Also da ist man typischerweise so in den Bereichen wo Menschen durch Fehlentscheidungen der Kalie zu Schaden kommen können.

00:18:11: So eine andere interessante, wo ich ja auch gerade hellhörig wurde und das kann ich mir forschen dass viel interessiert ist IP also Intellectual Property die Rechte an dem was dort entsteht.

00:18:19: Wenn ich jetzt zum Beispiel hingehe und sage ich nehme zu unseren Podcast heute und lasse eine KI daraus irgendwie ein schönes Playbook bauen oder einen Kurs oder irgendwas in der Art da sind wir genau in dem Thema drin also das sicherlich euer Wissen drin.

00:18:30: das ist vielleicht noch mal komplexer aber dann wird ja etwas erzeugt durch KI wo quasi ja IP entsteht.

00:18:36: Was würdet ihr denn sagen, ist da so State of the Art vorgehen?

00:18:40: Brauch ich achten sollte.

00:18:41: Wo ist das reguliert und untersteht das?

00:18:43: Total spannender Bereich sind wir halt im Urheberrecht unterwegs und vor allem an der Abgrenzung was ist urheberechtlich eigentlich schutzfähig und was nicht?

00:18:51: Und vom Grundsatz her gibt es die Unterscheidung zwischen der Idee Die ein Mensch hat, die grundsätzlich nicht urheber rechtlich schutzfähig ist und dem konkreten Ausdruck dieser Idee, die schutzwähig sein kann.

00:19:02: Wenn man sich dann jetzt mal hier in diesem Bereich Playbooks bleibt oder der Podcastaufnahme, dann ist eigentlich der Inhalt der Story wie wir sie erzählen unheberrechtlich geschützt.

00:19:11: Weil wir hier ein gemeinsames Werk erschaffen also das Sprachwerk typischerweise.

00:19:15: aber die Idee dahinter steht also einen Podcast zu machen mit drei tollen Personen die Lust haben sich über spannende juristische Themen und praktische Anwendungen zu unterhalten dies nicht geschützten.

00:19:24: Und dann ist sozusagen auf dieser Grenzlinie oder auf diesem auf dieser Skala irgendwo die Frage wann ist es noch schutzfähig?

00:19:31: Und Kopie dieses Inhalts und Warn nicht.

00:19:33: Wenn du jetzt eine Kaila drüber laufen lässt, die extrahiert unsere ganzen Ideen und Gedanken, dann wäre es wahrscheinlich so dass das eher nicht geschützt ist.

00:19:40: also diese Inhalte sind nur abstraktige Ideen oder nicht geschürzt.

00:19:43: wenn du aber jetzt anfängst hier Schnipsel rauszuschneiden und Zitate zu entnehmen Dann sind die wahrscheinlich schon geschützten.

00:19:49: Es gibt da so ne Entscheidung vom OGH der sagt ab zwölf Wörtern in einer Folge kann es bereits Urlberechtsschutz geben.

00:19:55: Gibt noch Fälle wo es noch kürzer war aber das ist eine Leitlinie.

00:19:57: also man kann schnell diesen ueberrechtlich Schutz für Textwerke jedenfalls überschreiten.

00:20:01: Wenn der SKI was ganz neues erstellt, also zum Beispiel ich lasse mir einen Design Logo erstellen von der KI dann ist schon die Frage eher hat die KI eigentlich diese Schöpfung erbracht oder war ich das als Mensch selber?

00:20:11: Und da gab's jetzt gerade ne Entscheidung vom Landgericht München wo ein Designer geklagt hat weil ein Logo von jemandem anderen verwendet worden ist und er behauptet das Logo habe er selber geschaffen.

00:20:23: und da ging es genau um die Frage Hat er das eigentlich gemacht?

00:20:25: oder hat der DKI die er verwendet, hat das eigentlich geschaffen?

00:20:28: Und da hat das Gericht tatsächlich gesagt es ist kein Schutz besteht.

00:20:31: Weil er DKI verwendete.

00:20:32: und da ist dann die Frage wann ist DKI ein Werkzeug so wie ein Künstler einen Pinsel verwendeten?

00:20:37: oder Wann ist DKAI wirklich selbstständig tätig geworden sodass der Mensch dahinter kaum noch Auswirkungen auf das Ergebnis hatte?

00:20:43: Das bedeutet dass sich die Urheberpersönlichkeit nicht niedergeschlagen hat in dem Ergebnis.

00:20:48: Da wird man in Zukunft wahrscheinlich viel darüber streiten können.

00:20:49: In den USA gab's ein paar ganz spannende Fälle dazu und sie sind auch sehr anschaulich weil man in den USA für manche Rechte aus dem Urheberrecht eine Registrierung braucht beim amerikanischen Copyright Office.

00:21:01: Und dann gibt es da so richtige Entscheidungen, wo das Office gesagt hat warum manche KI-Enhalte schutzfähig sind und andere nicht... Also ganz, ganz spannend.

00:21:08: Auch so die Frage wie viele Prompte hat man verwendet?

00:21:10: Wie detailliert hat man Anweisung erteilt?

00:21:12: an das Werk ist ganz, sehr spannend zu lesen und auch sehr schön wildlich, sehr eindrücklich.

00:21:15: Aber es ist ja hochspannend weil du hast natürlich recht des Beispieles ich gerade gewählt habe ist ein bisschen speziell, weil's urheberrechtlich ist.

00:21:21: aber wenn jetzt eine Webseite zum Beispiel Bauer mit Logo mit Design und genau diese Frage aufkommt dann wird das ja wieder ne ganz andere Frage Wenn ich jetzt lerne, okay also eigentlich nämlich als erstes schon mal mit.

00:21:33: Ich sollte wahrscheinlich den Weg wie ich da hingekommen bin dokumentieren weil wenn ich perspektivisch mal aufzeigen muss wie viele prompt sich gebraucht hat um aus dem ideen webseite zu bauen das kann sozusagen relevant werden.

00:21:42: habe ich das richtig verstanden?

00:21:44: ja genau total richtig.

00:21:45: also wir werden wahrscheinlich in zukunft doch im streiten ob ein mensch einen ausreichenden input geleistet hat das ergebnis oder nicht und wir werden so viel kontent sehen weil es ja so einfaches content zu produzieren dass wahrscheinlich auch mehr konfliktfälle geben wird Wenn wir jetzt mal in das Softwarerecht bleiben und dann wieder zum Vibecoding zurückgehen, also nochmal Vibe-Coding bedeutet ich sage einen Promt, stellen mir eine Website mit drei schönen Logos für unseren Podcast hier.

00:22:05: Und dann baut ihr die komplette Website den Quellcode im HTML oder was man sonst noch alles braucht.

00:22:08: Dann ist dieser Quell-Code nach Urheberrecht auch geschützt als Softwares.

00:22:12: Also Software wird als urheber rechtlich Schutzfälliger Text gesehen weil es halt irgendwie früher mal Text war und Menschen sozusagen in Lochkarten durchaus reingestanzt haben... ...und da würde man sich genau darum streiten ob der ganze Software-Cod eine Gevibecode ist eigentlich demjenige gehört der den Code entwickelt hat oder ob er rechts frei ist letztendlich, weil es eine Maschine gemacht hat.

00:22:30: Gibt's schon viele Diskussionen darüber?

00:22:31: Analog könnte man auch sagen... ...Maschinencode, der also null und einsam besteht, ist ja auch schutzfähig und kann auch kein Mensch lesen.

00:22:38: Deswegen, wie soll das jetzt in Was Vibe gekodet ist nicht auch vielleicht schutzfähig sein?

00:22:41: Also da wird noch einiges auf uns zukommen und ich glaube In der Softwarebranche muss man dann tatsächlich einfach anfangen, dokumentieren wer was entwickelt hat wann und wie viel und reviewt hat.

00:22:49: Und dass man dadurch versucht den menschlichen Import reinzukriegen.

00:22:52: Wenn wir das mal zuspitzen Karo?

00:22:54: Was sind denn so die Pflichten, die ich als Unternehmen eigentlich habe und wie sollte ich mit diesen umgehen wenn ich mit KI Berührung hab und arbeite?

00:23:01: Genau also Benedikt hat ja gerade schon ein bisschen den Rahmen insbesondere KI-Verordnung erwähnt Und die Pflichten treten jetzt alle nach und nach in Kraft.

00:23:08: Also August ist jetzt wieder ein wichtiges Datum, das sollten die Unternehmen eben gerade bei Hochrisikosystem tatsächlich auf dem Schirm haben.

00:23:15: Und was wir eben oft sehen ist dass die Unternehmen einfach überfordert sind.

00:23:19: wo setzt sich überhaupt an?

00:23:21: Also wer soll das bei uns im Unternehmen überhaupt machen und wie kann ich damit umgehen?

00:23:24: und das was ich eben aus Kompleinssicht dann immer sage es also KI ist zwar sehr neu aber die Tatsache wie man Regulatorik im Unternehmen Umsitz, die ist ja nicht neu.

00:23:36: Also die Unternehmen unterliegen ja zahlreichen Regularien schon entweder seit sehr langer Zeit oder eben auch seit etwas kürzerer Zeit wenn man zum Beispiel an Lieferketten-Compliance und andere Themen denkt.

00:23:48: also in den letzten Jahren kam ja sehr viel mehr dazu und ich glaube um das abzuschichten muss man sich klar machen dass Man die bestehenden Strukturen durchaus nutzen kann.

00:23:58: also jedes Unternehmen das ein Compliance Management System hat, hat eigentlich schon Mechanismen an die man diese neuen Pflichten durchaus andocken kann.

00:24:07: Also vielleicht drei Sätze zu so einem Compliance management System.

00:24:11: in der klassischen... Interpretation hatten Compliance Management System sieben Elemente, das ist allen voran eine Compliance Kultur.

00:24:20: Das heißt als Unternehmen sollte man sich jetzt alles mal auf AI gemünzt wie ich vorhin schon gesagt habe irgendwie ne klare Message in Town from the Top haben.

00:24:27: was machen wir mit KI?

00:24:29: Wollen wir das nutzen?

00:24:30: Wie wollen wir das nutzen?

00:24:31: Wie unterstützen wir damit unsere Mitarbeiter und also dass es so dieses Ich muss mich dazu irgendwie verhalten.

00:24:37: das muss ich eben auch zu straffrechts compliance.

00:24:39: also ich muss meinen mitarbeiter noch sagen aber uns wird nicht bestochen ja so laufen und laufen unsere geschäfte nicht.

00:24:44: Und das ist irgendwie die compliance kultur.

00:24:46: dann kann man darunter konkrete compliance ziele.

00:24:48: dass das zweite element anbringen die sind dabei der kei auch relativ nahe liegend.

00:24:53: was ist unsere konkrete agenda zum beispiel für die nächsten jahre?

00:24:56: vielleicht rollen wir eben co pilot aus und dann arbeiten wir noch mit anderen system.

00:25:01: und was wollen wir jetzt automatisieren?

00:25:04: Und dann das ist eigentlich immer der wichtigste Teil im Compliance Management System, die Compliance Risiken zu verstehen und zu analysieren.

00:25:11: Das ist die sogenannte Risikoanalyse.

00:25:13: Da ist auch meistens das wo am meisten Zeit und Kappereien fließt.

00:25:17: Auch das ist bei KI natürlich wichtig.

00:25:19: ich muss ja erstmal verstehen... Was nutze ich denn, wo liegen die Risiken genau?

00:25:24: Die Themen, die wir eben schon angesprochen haben.

00:25:25: Also wofür arbeitet meine KI?

00:25:27: vielleicht personenbezogene Daten?

00:25:28: Wo liegt das eigentlich LLM?

00:25:30: Wo gehen die Daten hin?

00:25:32: also ich muss so eine Art Gap-Analyse machen was passiert hier eigentlich gerade um zu verstehen, wo könnten den Risiken sein?

00:25:37: Das ist oft der aufwendigste Teil.

00:25:39: aber auch da... sind die Methodiken nicht neu, also das muss ich eben auch machen wenn ich meine Lieferkette analysiere fürs LKSG.

00:25:45: Das muss sich eben auch machte wenn ich einfach generell schaue was sind meine betrieblichen Risiken gerade hier im Unternehmen?

00:25:51: Also das dritte Element Und dann entwickle ich daraus ein Programm, das ist das Compliance-Programm.

00:25:56: Das sind dann oft die Themen und das sehen wir zum Teil auch in der KI-Verordnung.

00:25:59: also man soll Maßnahmen treffen zum typengerechten Gebrauch, man sollen Qualitätsmanagement haben insbesondere zB für Eingabendaten.

00:26:06: weil das haben ja auch schon jetzt öfter angesprochen heute Oft sind ja die Ergebnisse nur so gut wie das, was ich reingebe.

00:26:13: Also die Systeme sind natürlich gut aber ich brauche eben gutes Material und das ist ja gerade für unternehmensspezifische Verwendungen oft sehr relevant.

00:26:20: und da sind wir dann wieder bei Schnittmengen und sowas worauf lasse ich das System auch zugreifen?

00:26:24: Und der zweite große neben der Risikoanalyse würde ich sagen immer die Komplexorganisation und dass es also wer kümmert sich?

00:26:31: Eigentlich heißt es nur, was sind meine Verantwortungslinien?

00:26:35: Da ist das ja auch alles parallelisiert.

00:26:38: Man könnte sagen, da brauche ich eben Datenschutzbeauftragten.

00:26:40: Jetzt kann man sich fragen, wer ist meiner Aufsichtsperson in Sachen KI?

00:26:44: Auch das verlangt die KI-Verordnung.

00:26:46: Das Einsetzen einer Aufsichtspersonen und das kann man überlegen, ist es sinnvoll beim KI zu veranlagen, gerade wenn ich ein kleines Unternehmen bin Geht das vielleicht?

00:26:57: Da gibt es aber auch durchaus Konflikte zwischen den beiden Systemen, also vielleicht nehme ich auch jemand ein anderes.

00:27:01: Und ich muss eben sicherstellen dass es auch die relevanten Eskalationswege gibt, also dass tatsächlich das Management der Company dann auch darüber informiert wird und das eben ordentlich delegiert diese Pflichten.

00:27:13: Wenn gegen die Regeln, die ich mir gegeben habe in dieser Organisation verstoßen würde, muss ich als Unternehmen auch sanktionieren.

00:27:18: Also ich muss auch konsequent sagen Das sind die Regeln, wer sich nicht dran hält.

00:27:21: Nur dann kann eine Compliance-Organisation funktionieren.

00:27:24: Dann wird da auch was

00:27:25: gemacht.".

00:27:25: Also es soll eigentlich ne beruhigende Message sein!

00:27:27: Also das sind Grundstrukturen, die selbst kleine Unternehmen in der Regel haben.

00:27:31: Man überlegt sich ja, wer ist verantwortlich?

00:27:33: In welcher Jobdescription steht was?

00:27:35: Wer berichtet an die Geschäftsführung?

00:27:36: Wozu?

00:27:37: Wie können Mitarbeiter Fehler melden und wie gehe ich mit Fehlern um?

00:27:41: Also das alles so Grundthemen... die ich schon habe.

00:27:44: Und es lohnt sich einfach, die KI-Verordnung danebenzulegen und zu sagen wo docke ich jetzt was an?

00:27:51: Dann muss ich nicht auf einer grünen Wiese... beginn.

00:27:53: und so kann man sich eben solche neuen regulatorischen system immer nehmen.

00:27:56: Und sie handhabbar machen für die unternehmen.

00:27:58: also vielleicht frage ich da jetzt die falschen weil ihr quasi bayes seid.

00:28:01: aber ist das ein thema wo ich sage, dass kann nicht alleine als Unternehmen umsetzen oder brauche ich da profis wie euch um solche sachen sauberblick zu haben?

00:28:09: also compliance maßnahmen sollten eigentlich aus dem unternehmen selber kommen.

00:28:12: ja also Weil nur dann sind sie auch überzeugend.

00:28:15: Also ich bin jetzt gar nicht hier so auf dem Sales-Pitch unterwegs, dass Sie sagen nee also Compliance geht nur mit Anwälten nie.

00:28:20: Compliance muss ja gelebt werden.

00:28:21: wie gesagt town from the top, Compliance Kultur.

00:28:23: Ich sollte mir wenn ich ein Unternehmen führe eben immer sagen, ja wie möchte ich mein Unternehmen führen und wo sind auch meine Grenzen die Mitarbeiter nicht unterschreiten sollen.

00:28:32: Und natürlich klar so was es gibt so Red Lions also strafrechtlich sollte man sich halt nie verhalten das ist völlig klar.

00:28:37: aber das muss ich trotzdem kommunizieren.

00:28:38: Also das hört sich immer so selbstverständlich an aber dass muss ich eben auch leben.

00:28:42: so klassische Vorbildwirkungen und vieles dessen können wir ehrlich gesagt als Anwälte auch gar nicht abnehmen.

00:28:48: Ich glaube trotzdem es macht Sinn, gerade bei sehr komplexen Themen oder wenn ich eben mein ganzes Business-Modell auf sowas stütze oder tatsächlich ein KI-Tool anbieten möchte und das auch verkaufen dann bin ich einer höheren Risikolage weil meine Kunden mich ja dann auch fragen würden Ja, hast du das alles geprüft?

00:29:02: Dass es fein ist.

00:29:03: Kann ich das bei mir als Plug-In machen und dann nutzen?

00:29:05: Wenn ich sage, hab ich mir noch nie Gedanken drüber gemacht... ...dann ist ja mein ganzes Businessmodell at stake!

00:29:09: Und in den Fällen würde ich eben schon sagen, dass lohnt sich durchaus das rechtlich prüfen zu lassen entweder durch Inhausexpertise oder eben durch Externe.

00:29:17: Das ist dann schon absolut wichtig weil's eben businessrelevant ist.

00:29:20: aber das merken wir auch ganz oft.

00:29:22: und vielleicht noch die Bemerkung von mir Wir können schöne Policies im Unternehmen schreiben und können sagen wie sie es machen sollten und sollte regelmäßig schulen.

00:29:31: Aber was offen gestanden, vermutlich oft passiert ist.

00:29:34: Wir schicken denen eine schöne Policy und dann landet die in der Schublade und viel mehr passiert damit nichts.

00:29:38: Aber dass eine Komplexorganisation funktioniert nur wenn sie gelebt wird und da können wir tatsächlich auch nur zu einem begrenzten Grad helfen ja.

00:29:46: aber es ist ein Punkt und da kann ich vielleicht anwendendig drüber geben wo wir auch im Moment aktiv darüber nachdenken wie kann man denn tatsächlich diesen ganzen Prozess auch für Unternehmen lebbarer und handhabbarer machen das man eben nicht nur sagt Die gespezifische Rechtsfrage habe ich dir jetzt beantwortet.

00:30:02: Oder hier gebe ich dir eine Policy und jetzt live with it, sondern wie kann man eigentlich so ein Transformationsprozess auch rechtlich mit begleiten?

00:30:09: Und ich glaube das können Anwälte durchaus aber es ist keine zwingende Notwendigkeit.

00:30:13: also die Pflichten richten sich erstmals unternehmen.

00:30:15: Ich

00:30:15: meine Benedikt vielleicht kannst du mich ja auch mal abholen was es sonst noch so gibt Weil in Vorbereitung auf unseren Podcasts hab ich ja auch mit eurer Hilfe mir das ein oder andere angucken können.

00:30:23: Und ich wurde dann so bombardiert, mit Abkürzungen!

00:30:26: NES-II, CRA, Dora... Also was ist noch so, was sich aus der Präferie im Blick behalten sollte?

00:30:33: Ja also auch an das Anknüpfen, was Caroline gerade gesagt hat muss man es glaube ich mal einen bisschen breiteren Blickwinkel öffnen, was hier so grade an regulatorischen Themen sich entwickelt und was auch der Zweck dahinter ist.

00:30:44: Also was du gerade sagtest NIST II Eine IT Security-Richtlinie CIA auch und DORA ist speziell IT Security für den Finanzsektor, also alles relativ kranulare Vorgaben wie die Sicherheit erhöht werden soll.

00:30:55: Dass wir gerade so bei IT Security viel sehen liegt vor allem daran dass einfach ganz faktisch die IT Security wichtiger geworden ist das es letztendlich auch ein Stück weit Spionage ab wäre.

00:31:04: Das ist auch Wirtschaftsspionage und das ist natürlich nicht nur sozusagen Datensicherheit von the sake of it sondern tatsächlich das ist Wirtschaftspolitik.

00:31:11: EU hat sich einfach entschieden, eine digitale Dekade einzuleuten wo die Digitalwirtschaft reguliert werden soll und da ist ganz viel IT Security drin.

00:31:20: Da gehört aber auch schon damals Datenschutz rein.

00:31:22: Und Datenschutzt kann man sich so gewissermaßen als was Foundation Layer vorstellen für die Digital Wirtschaft weil dann Menschen Daten betroffen sind.

00:31:29: Aber die KI-Verordnung und die ganzen anderen Regelungen spielen alle sozusagen in den Gesamtgerüst der Regulierung der Digitalwirtschaft rein.

00:31:37: Die Idee ist da halt eben die Resilienter zu machen sie Transparenter zu machen nachvollziehbarer zu Schon den Menschen zu dienen, da gibt es natürlich ganz viel Diskussion darüber ob hier irgendwie eine Überregulierung stattfindet oder man einfach erstmal die Technologie ausprobieren sollte.

00:31:51: Also quasi das Feuer erfinden bevor man die Brandschutzverordnung erfindet?

00:31:54: Ja ist richtig.

00:31:55: aber wir sollten glaube ich schon gucken dass hier schon irgendwie mit Augenmaß gehandelt wird und ich glaube in der Vollstreckung durchsetzen ist dann alles nicht mehr ganz so heiß gekocht.

00:32:02: Die Idee ist aber glaube ich auch schon richtig dass man klare Spielregeln aufstellt und vor allem auch die Sicherheit erhöht.

00:32:06: Und doch mal zurückzukommen auf was Caroline gesagt hat.

00:32:10: Tolles Beispiel dafür finde ich Alex sagt schon die KI-Verordnung, weil die sieht nämlich solche Pflichten vor wie Artikel vier.

00:32:15: Die KI Kompetenz für Mitarbeiterinnen herbeizuführen und eine Transparenz des KI Modells herbeitzuführen, dass man weiß wie es versteht und Data Compliance herbeizeuführen damit man überhaupt weiß was für Daten genutzt werden und wurden beim Training.

00:32:27: Und das sind eigentlich alles Aspekte die man positiv wenden sollte.

00:32:31: Das Beispiel ist herausgegriffen.

00:32:33: Die AI Kompetent macht wahnsinnig viel Sinn Wenn die Unternehmen dazu zu zwingen, dass sie ihre Mitarbeiterinnen mal ausbilden sollen wie man KI verwenden kann.

00:32:41: Aber nicht nur aus Sicherheitsbedenken.

00:32:43: das ist dann auch wieder so eine deutsche Lesart.

00:32:44: ehrlich gesagt es geht nicht um Sicherheitsbedenken es geht doch einfach vom Enablement.

00:32:48: wenn wir jetzt Schulungen durchführen was wir oft tun intern und extern natürlich dass man einfach mal erklärt wie KI funktioniert oder was man damit alles tolles machen kann Das ist ein Augenöffner.

00:32:55: für ganz viele ist es halt wie in die schule gehen macht man's halt nicht freiwillig weil man seine sein motos operandi erst mal nicht ändert es sei denn man hat eine intrinsische motivation und das haben viele einfach im arbeitsalltag dann doch nicht betrifft ihr auch nicht nur mitarbeiterinnen sondern man soll angemessene k.i kompetenz herbeiführen im unternehmen und das bedeutet dass natürlich die geschäftsführung ganz andere skills noch einmal braucht als sozusagen die ausführenden exekutive ebenen weil man einfach sagen muss Man muss verstehen im Management was KI bedeutet, was KI kann.

00:33:24: Und nur wenn das da oben eine Kompetenz herbeigeführt wird, kann sich das ganze Unternehmen ändern und ist jetzt alles ein bisschen abgedroschen.

00:33:31: aber wir schaffen es halt sonst anders nicht mehr in Deutschland mit dem ganzen demografischen Wandel und der zunehmenden Regulierung und der Zunehmendens sage ich mal Urg-Life-Bandins dann müssen wir halt alles irgendwie versuchen zu automatisieren.

00:33:40: Das ist der Weg nach vorne und das funktioniert nur.

00:33:42: wenn auf Entscheiderebene endlich mal verstanden wird wie wichtig KI ist und dass dann von oben vorgelebt und auch sozusagen umgesetzt und so muss man diese Regelungen verstehen Dann ist das ehrlich gesagt eine Strategieentscheidung, die unausweichlich ist.

00:33:55: Ich glaube dass wir da eine kurze Chance haben und ein bisschen Dungeon vom Gesetzgeber sollten immer positiv enden.

00:34:00: Okay,

00:34:01: das ist ja auch mal ein interessanter Blickwinkel darauf.

00:34:03: Aber nachvollziehbar.

00:34:04: und lass uns doch vielleicht jetzt zum Schluss weil wir jetzt die wesentlichen Dinge durch haben nochmal einen kleinen Ausblick wagen.

00:34:09: also womit rechnet ihr?

00:34:11: was werden so die nächsten Monate und Jahre bringen in Sachen Regulierung von diesem Bereich?

00:34:17: Was ist vielleicht auch hin so ein Weg hin zu einem gesamtheitlichen Transformationsprozess?

00:34:21: Was vermutet ihr da?

00:34:22: ich glaube schon dass wir sehen dass im Unternehmen viele Funktionen durch KI ersetzt werden?

00:34:27: Bewarten gerade Fliehmandanten, die wollen in der Rechtsabteilung Legal Tech einsetzen.

00:34:31: Das gab es vor zwei Jahren noch nicht aber jetzt ist natürlich irgendwie die Technologie soweit dass man sektorspezifische KI-Tools hat und wie Gen AI im weitesten Sinne.

00:34:39: Der will halt Legal Tech einsetzen und Finance möchte FinTech einsetzen und die HR Abteilungen möchte gerne lebensläufen mit Legal Tech oder anderen Tech Anbietern scannen.

00:34:47: Und im Marketing wird Gen AI schon sowieso ganz lange verwendet und ich glaube wir sehen das hier nicht nur Einzelaufgaben zunehmend mit KI gemacht werden, sondern es werden Funktionen ersetzt im Unternehmen und nicht nur ersetzt, sondern einfach automatisiert.

00:35:00: Das heißt jetzt nicht dass die ganze Leute sozusagen rationalisiert werden soll, sondern das wird ja einfach immer mehr Arbeit gemacht werden kann und der Output wird effizienter.

00:35:07: und ich glaube das ist ehrlich gesagt für den Dienstleistungssektor, der in letzten hundert Jahren nicht so eine wahnsinnige Output im Fuffen mit herbeigeführt hat wie der Industrie-Sektor.

00:35:16: Ich glaube, da ist schon ein Schritt nach vorne.

00:35:17: Und dann muss einer hergehen, dass wir wirklich einen Upgrade des Betriebssystems im Unternehmen durchführen.

00:35:23: Es geht hier weg von manueller Arbeit hin zur automatisierter Arbeit und damit muss man nicht nur sozusagen legal Themen verbinden, sondern es findet wirklich ein Transformationsprozess statt der bei Menschen anfängt.

00:35:32: Es ist ein Change Management und das besteht aus vielen Aspekten.

00:35:35: Das besteht aus Mitarbeiterführungen, das besteht Aus Mitarbeiterschulungen aber das besteht eben auch aus Umgang mit Risiken sei es IP-Risiken, sei es IT Security Risken, seies Risiken von Datenschutz.

00:35:46: Und so hat man eigentlich eine Transformations Prozesse den man ganzheitlich denken muss der aber ganz viel regulatorisch vorgespurt ist, weil eben das Datenschutzrecht schon Vorgaben macht oder weil die Gesetze Vorgabe machen.

00:35:56: Und wenn ich jetzt ein Produkt bauen will dass auf KI basiert also sage ich mal ich bin Unternehmen das BtoB SAS-Produkt verkauft und im Backend sitzt halt eine KI dann muss es ja auditierbar sein und dafür brauche ich diese ganzen Anforderungen und Nachweise dass es produktkompliment ist Weil das will wollen die Körper hören und dass sehen wir halt auch jetzt zunehmend, dass die Enterprise Kunden ganz genau nachfragen wie funktioniert das Produkt eigentlich.

00:36:17: Und alles detailliert erklärt haben wollen sonst unterschreiben sie halt den Sassvertrag nicht.

00:36:21: Das war vor zwei Jahren noch relativ egal aber die Leute gucken halt immer mehr hin.

00:36:25: Wenn ich in einem Unternehmen bin und sage Ich kaufe es ein auf der anderen Seite und versuche mein Unternehmen also AI First zu quasi automatisieren Dann muss ich wirklich schauen, dass sich ganzheitlich einen Transformationsprozess arbeitet der natürlich viel aus Policies und Regulierung und Vorgaben besteht aber eben auch aus Education und Change Management.

00:36:42: Und das ist glaube ich ein ganzheitlicherer Ansatz den man hier fahren muss und dann kann man auch auf einer stabilen compliant Grundlage sogar richtig anfangen zu skalieren weil dann hat man die Tech einmal eingebaut und dann geht es rund sozusagen und das ist ein Prozess, den wir selber natürlich treiben und beobachten.

00:36:57: Und das ist wirklich spannend, was da gerade passieren

00:36:59: kann.".

00:36:59: Ja und vielleicht nur noch ein Punkt... ich glaube dieser menschliche Faktor der ist eben an zwei Stellen weiterhin total wichtig ja?

00:37:05: Das ist wie gesagt die Education so wie es bei IT Security auch ist.

00:37:09: also die Angriffe erfolgen in der Regel immer noch über Menschen nicht unbedingt über schlechte Security-Systeme.

00:37:14: Das heißt man muss die Leute mitnehmen.

00:37:17: du hast ja eben auch von weg rationalisieren gesprochen Benedikt!

00:37:20: Ich glaub auch davor sollten wir nicht die Angst haben sondern diese Human In The Loop wird auch für KI weiter relevant bleiben.

00:37:27: Also ich glaube eine vollkommene Abnabelung von den Menschen, die die Systeme bedienen, ja das ist wahrscheinlich ne Gefahr, die irgendwann dann vielleicht auch zu Ergebnissen führt, die wir nicht mehr haben wollen.

00:37:39: Ja also dieses es als gemeinschaftlichen Transformationenprozess zu sehen, KI zu nutzen während Menschen sie erstens verstehen, bedienen können und auch kontrollieren können zu einem gewissen Moment.

00:37:51: Das ist glaube ich das Zielbild an dem man sich orientieren sollte und wo man hinkommen soll.

00:37:58: Das geht nur, wenn es ganzheitlich angeht.

00:38:00: Da bin ich auch relativ sicher.

00:38:02: Sehr

00:38:02: schön!

00:38:03: Ich fühle mich gleich ein bisschen sicherer, wenn ich mich hier wieder hinsetze und was mit KI-Schmögle weiß, sonst eine wenig fragen kann... Ihr Lieben, das wird uns bestimmt noch weiter beschäftigen und vielleicht vertiefen wir beim nächsten Mal etwas.

00:38:13: Aber für den Moment erst mal ganz herzlichen Dank.

00:38:16: Und ja, ich würde sagen jetzt legen wir mal weiter los in Sachen KI.

00:38:18: In diesem Sinne danke euch.

00:38:20: Spass gemacht, Danke Joel

00:38:24: Wow,

00:38:25: das war ein inspirierendes Gespräch oder?

00:38:27: Denk dran!

00:38:27: Jeden Freitag dem fünften Tag der Woche erscheint

00:38:30: eine neue Folge.

00:38:31: Also

00:38:31: abonnier den Podcast unbedingt damit du keine Episode verpasst und teile ihn auch total gerne mit deinen Freunden oder Kollegen.

00:38:37: Und wo wir schon über fünf Dinge sprechen Eine Fünf-Sterne Bewertung auf der Podcastplattform deiner Wahl hilft uns sehr Damit noch mehr Menschen von diesen inspirierenden Geschichten profitieren können.

00:38:46: Nimm doch kurz Zeit dafür Genauso wie für einen Besuch auf unseren Social-Media Kanälen, um Updates und exzessive Inhalte zu erhalten.

00:38:52: Die Links findest du in den Shownotes!

00:38:53: Befreuen uns nämlich über deine Anregungen und Feedback zur zukünftigen Themen und Gästen.

00:38:57: So, jetzt hören wir noch mal unseren Podcastsong

00:38:59: rein.

00:38:59: Bis zum nächsten Mal!

00:39:00: Bleib inspiriert und neugierig!

00:39:01: Dein Joel Wirklich ehrlich, was ist für dich heute unehrlich?

00:40:05: Sollen wir gewärtig sein oder einfach sein?

00:40:11: Gib mir alle.