Regulatorik & Realität - Folge 7 · Der Aufschub war nicht für euren Chatbot u.a.

00:00:00: Willkommen bei Regulatorik und Realität Folge sieben.

00:00:05: Mein Name ist Dana, neben mir Mario Pustan wie immer irgendwo zwischen Krawatte und Kapuze.

00:00:11: Kurz zur Transparenz Beide Stimmen in diesem Podcast sind synthetisch.

00:00:27: Hallo zusammen, in Folge sechs habe ich gesagt Sommerpause nicht für die Aufsicht.

00:00:32: Das war leichter gesagt als gehofft.

00:00:35: Was ist passiert?

00:00:36: Am vierundzwanzigsten Juli ist der Digital Omnibus im Amtsblatt erschienen.

00:00:41: seit dem siebenundzwannzigsten isst er in Kraft.

00:00:43: damit ist die Fundstelle da die in der letzten Ausgabe noch fehlte Verordnung EU-

00:00:53: Und die Aussage aus Folge sechs, Artikel vier sei Stand heute nicht weicher?

00:00:58: Die ist überholt.

00:00:59: Planmäßig überhohlt.

00:01:00: Genau darauf hatten wir hingewiesen.

00:01:02: Seit Montag ist Artikel vier tatsächlich weicher und trotzdem ist das für die Häuser mit denen ich spreche – die kleinere Nachricht dieser Woche.

00:01:10: Was ist die größere?

00:01:12: Dass in fünf Tagen etwas anfängt von dem viele Glauben es sei verschoben worden.

00:01:17: Es ist nicht verschoben.

00:01:20: Dann sortieren wir das!

00:01:21: Was steht jetzt

00:01:21: fest?!

00:01:23: Drei Sachen.

00:01:23: Erstens die Hochrisikofristen, Kapitel drei Abschnitte eins bis drei Rutschen auf den zweiten Dezember zwanzig siebenundzwanzig für eigenständige Systeme nach Artikel sechs Absatz zwei und auf den Zweiten August zwanzich achtundzwantig Für KI als Sicherheitsbauteil in einem regulierten Produkt.

00:01:43: Zweitens Artikel vier in neuer Fassung.

00:01:45: Und drittens der Punkt der Untergeht.

00:01:48: alles andere bleibt wo es war.

00:01:50: Alles andere heißt?

00:01:52: Die Verbote, die Pflichten für Modelle mit allgemeinem Verwendungszweck, die Governance-Struktur, die Sanktionsvorschriften und die Transparenzpflichten aus Artikel fünfzig.

00:02:01: Verschoben wurde ein Abschnitt der Verordnung nicht die Verordnung.

00:02:05: Bleiben wir kurz bei Artikel vier – was genau ist da anders?

00:02:09: Vorher Anbieter und Betreiber stellen ein ausreichendes Maß an KI Kompetenz sicher!

00:02:15: Jetzt sie ergreifen Maßnahmen, welche die Entwicklung von KI-Kompetenz unterstützen und niemand muss ein bestimmtes Niveau einer einzelnen Person garantieren.

00:02:28: Nein, sie ist umgezogen von einer Ergebnispflicht zu einer Handlungspflicht.

00:02:33: Und Handlungspflichten sind Nachweispflichten.

00:02:37: Wer sagt ich habe Maßnahmen ergriffen muss zeigen können welche und warum Sie zu den eigenen Rollen und Systeme passen.

00:02:44: diese Prüfung nimmt ihr niemand ab.

00:02:46: Und Artikel vier gilt sofort?

00:02:49: Ja ein Detail mit Folgen, Artikel vier steht in Kapitel eins und Kapitel eines wirkt mit dem Inkrafttreten also seit Montag.

00:02:57: Der zweite August ist etwas anderes das allgemeine Anwendungsdatum für den großen Rest.

00:03:07: Übersetzt, wo Pricing oder Personalauswahl als Hochrisiko einzustufen sind und das hängt am konkreten Einsatz verlängert sich der Umsetzungszeitraum um siebzehn Monate.

00:03:18: Alles was mit Kunden spricht profitiert davon nicht.

00:03:23: Dann Artikel fünfzig Was greift am Sonntag?

00:03:26: Vier Pflichten und das Entscheidende ist wen Sie treffen.

00:03:29: Das wird gerade fast überall verkürzt.

00:03:32: Absatz eins und zwei richten sich an den Anbieter Absatz drei und vier an den Betreiber Absatz eins.

00:03:40: Systeme, die direkt mit Menschen interagieren müssen so gestaltet sein dass die Person erfährt das sie mit einer KI spricht.

00:03:48: Chatbot im Portal Voicebot in der Hotline Ausnahme wenn es für eine verständige Person ohnehin offensichtlich ist.

00:03:55: Die Hinweise der Kommission sprechen Für Eine enge Auslegung.

00:03:58: Absatz zwei, synthetische Audio-, Bild-, Video- und Textinhalte maschinenlesbar markieren.

00:04:05: Bei Systemen die vor dem zweiten August in Verkehr gebracht wurden erst ab dem zweiten Dezember.

00:04:10: zwanzig sechsundzwanzig Und die Betreiberseite.

00:04:13: Absatz drei verlangt betroffene über Emotionserkennung und biometrische Kategorisierung zu informieren, Absatz vier Deepfakes offen zu legen.

00:04:23: Wenn Absatz eins und zwei beim Anbieter liegen dann kann ich als Versicherer beruhigt sein.

00:04:28: Das ist der Trugschluss dieser Woche.

00:04:29: Rechtlich stimmt es, du erfüllst diese beiden Pflichten nicht selbst.

00:04:33: Gestellt bekommst Du die Frage trotzdem weil Du das System einsetzt und beantworten kannst Du sie nur mit einer Anbieterauskunft die Du vorher eingeholt hast.

00:04:42: eine Vertrags- und Nachweisfrage keine Programmieraufgabe.

00:04:45: für Absatz drei und vier stehst Du ohnehin selbst in der Pflicht.

00:04:50: muss jetzt jeder KI Text ein Label tragen?

00:04:53: Nein und diese Fehlisart ist gerade das größere Problem als die Pflicht.

00:04:57: Artikel Fünfzig verlangt keine einheitliche Etikettierung nach festem Muster, sondern Transparenz, die zur Situation passt.

00:05:05: Der Bußgeldrahmen liegt bei bis zu fünfzehn Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes.

00:05:12: Woran kann man sich orientieren?

00:05:14: An zwei Dokumenten, die fast unbemerkt geblieben sind.

00:05:17: Am zwanzigsten Juli hat die Kommission Leitlinien zu den Transparenzpflichten veröffentlicht acht Tage vor dem Stichtag unverbindlich aber sie legen aus woran gemessen wird.

00:05:27: und seit dem zehnten Juni gibt es einen Code of Practice zur Transparens.

00:05:32: KI generierter Inhalte freiwillig unterzeichnbar von Anbietern und Betreibern von der Kommission ausdrücklich als geeignetes Instrument bewertet um Erfüllung zu belegen.

00:05:42: Was bringt ein freiwilliger Codex einem Vorstand?

00:05:46: Eine Akte, die er vorlegen kann ohne selbst etwas gebaut zu haben.

00:05:49: Für nachweisorientierte Häuser ist das meiner Einschätzung nach gerade einer der praktischsten Anknüpfungspunkte und eine Ausnahme darin lohnt den Blick.

00:05:58: Bei KI-generierten Texten zu Fragen öffentlicher Interesses entfällt die Kennzeichnung wenn ein Mensch redaktionell geprüft und die Verantwortung übernommen hat.

00:06:07: Wer mit KI schreibt und gegenzeichnet hat keine Kennzeichnungsfrage sondern eine Redaktionspflicht.

00:06:13: Was uns beide betrifft

00:06:15: Uns beide, deshalb hörst du am Anfang jeder Folge das diese Stimmen synthetisch sind und deshalb steht am Ende jede Ausgabe mein Name.

00:06:25: Und die schwierigste der vier Pflichten?

00:06:28: Keine davon!

00:06:28: Die schwierigste Aufgabe steht nicht in der Norm zu wissen welche Systeme man überhaupt hat.

00:06:34: Der Fachbereich kennt die Anwendung, die IT kennt den Vertrag und die Rolle Betreiber hat nie jemand formal zugewiesen.

00:06:41: Der erste Schritt ist deshalb kein Rechtsschritt sondern eine Liste

00:06:45: Und der Satz für diese Folge?

00:06:54: Damit zum zweiten großen Thema, das wir in Folge sechs angekündigt haben.

00:06:58: Das K?

00:06:59: I M E G

00:07:02: Das Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz.

00:07:08: Der Bundestag hat es am elften Juni beschlossen, der Bundesrat hat am zehnten Juli entschieden den Vermittlungsausschuss nicht anzurufen.

00:07:16: Die Verkündung im Bundesgesetzblatt steht noch aus – in Kraft tritt es am Tag danach.

00:07:22: Beschlossen ist auch hier nicht geltend nur diesmal mit sehr wenig Luft bis zum zweiten August.

00:07:28: Wer ist künftig zuständig?

00:07:30: Im Grundsatz, die Bundesnetzagentur soweit keine Fachbehörde zuständig ist.

00:07:35: Bei ihr entsteht ein Koordinierungs- und Kompetenzzentrum mit KI Service Desk ausdrücklich auch für kleine und mittlere Unternehmen.

00:07:42: dazu mindestens ein Reallabor für Tests unter Aufsicht

00:07:46: Und für die Versicherungswirtschaft?

00:07:48: Für KI mit unmittelbaren Bezug zu beaufsichtigten Finanzdienstleistungen bleibt die BAR fin zuständig.

00:07:55: Datenschutz und Biometrie liegen bei der Datenschutzaufsicht, KI in regulierten Produkten bei der Fachbehörde, BehördenKI der Länder bei den Ländern.

00:08:05: Für ein Versicherungshaus heißt das – Der Ansprechpartner ist nicht neu!

00:08:09: Die Frage ist neu….

00:08:11: Und die Sanktionen?

00:08:12: Der Rahmen der Verordnung reicht für verbotene Praktiken bis fünfunddreißig Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes.

00:08:21: Das liegt über der Datenschutzgrundverordnung, ein Punkt wird kritisch diskutiert und ich finde die Kritik nachvollziehbar.

00:08:27: Für Bußgeldverfahren sollen die Amtsgerichte zuständig sein.

00:08:31: bei dieser Materie und diesen Summen ist das eine bemerkenswerte Zuordnung.

00:08:36: Wann wird daraus eine Vorstandsfrage?

00:08:38: Sie ist schon eine!

00:08:40: Nur hat sie bisher niemand gestellt.

00:08:43: Solange keine Behörde benannt war, gab es keine Stelle mit Zuständigkeit.

00:08:48: Ab August gibt es Sie!

00:08:49: Dass Ihr KI einsetzt wird dabei vorausgesetzt.

00:08:53: In einer Prüfung dürfte früh die Frage auftauchen wer im Haus verantwortlich ist und welche Dokumentation vorliegt.

00:09:02: Genau da.

00:09:03: Die Pflicht ist weicher geworden, die Nachweisfrage nicht.

00:09:06: Maßnahmen ergreifen muss man belegen können.

00:09:09: Wer im Herbst gefragt wird und dann anfängt zu sammeln hat schon verloren – nicht rechtlich sondern im Gespräch.

00:09:16: Unser wiederkehrendes Format aber erst wieder eine ehrliche Ansage.

00:09:21: In Ausgabe sechs hatten wir gefragt, ob das Opting Out zum ersten Januar startet.

00:09:26: Mit zwanzig sieben und zwanziger später oder offen?

00:09:29: Die Resonanz war wieder überschaubar – und ich sage das lieber als eine Verteilung zu präsentieren die es nicht gibt!

00:09:35: Zweimal in Folge also ziehe ich eine Konsequenz.

00:09:38: Ab jetzt frage ich nicht die Allgemeinheit sondern eine konkrete Rolle mit ja oder nein.

00:09:44: Dann die drei Fragen, die gerade tatsächlich auf den Tischen liegen.

00:09:48: erste aus der IT Unser Chatbot läuft seit zwei Jahren, fällt der unter die Übergangsfrist bis Dezember?

00:09:55: Nur die Markierungspflicht aus Absatz II und dieser Irrtum ist gerade der häufigste.

00:10:00: Die Gestaltungspflicht von Absatz I hat keine Übergangsfrist – die greift ab Sonntag!

00:10:06: Beide liegen beim Anbieter.

00:10:08: Für Euch heißt das nicht selbst umsetzen sondern abfragen und die Antwort dokumentieren.

00:10:14: Zweite Aus der Leitungsrunde.

00:10:17: Artikel IV ist weicher Hochrisiko ist verschoben, können wir das KI-Thema ein Jahr liegen lassen.

00:10:24: Liegenlassen?

00:10:24: könnt ihr es – ungefragt – liegen lassen!

00:10:27: Nicht mehr.

00:10:28: Verschoben ist Kapitel drei nicht die Transparenzpflichten, nicht die Sanktionsvorschriften, nicht Artikel vier und wer schiebt sollte begründen können warum das für seine Rollen und Systeme vertretbar ist.

00:10:39: Diese Begründung ist meist mehr Arbeit als die Maßnahme.

00:10:43: Dritte Aus dem Marklergeschäft?

00:10:46: Mein Firmenkunde entscheidet erst nach den Ferien über das Opting-Out.

00:10:49: Reicht es für Januar?

00:10:51: Rechnerisch, eng, praktisch selten!

00:10:54: Nach der Entscheidung kommen Betriebsvereinbarung Tarifabgrenzung Anbieterauswahl und dann das Angebot an jeden Einzelnen in Textform.

00:11:02: Die ehrlichere Beratung ist meist bewusst auf einen späteren Starttermin gehen statt eine Frist zu reißen die man hinterher dokumentieren muss.

00:11:11: Statt des Selfchecks heute etwas anderes

00:11:14: Ja, diesmal ein Blatt Papier mit drei Spalten.

00:11:17: Spalte eins – das System, Chatbot, Voicebot, Textbausteingenerator was bei euch mit Außenwirkung läuft.

00:11:24: Spalta zwei – Anbieter und Inbetriebnahme.

00:11:27: Spalter drei – der Name der Person die dafür verantwortlich ist.

00:11:30: Wenn Spalta Drei leer bleibt habt ihr eure Aufgabe für diese Woche gefunden.

00:11:34: Kein Reflexionsergebnis eine Liste.

00:11:37: Und die drei Dinge Liste?

00:11:39: Erstens dieses Blatt bis Freitag füllen.

00:11:42: Zweitens, dem Anbieter jedes Systems zwei Fragen schicken.

00:11:45: Wie erfüllt Ihr Absatz eins und Absatz zwei?

00:11:48: Und ab wann?

00:11:48: Und habt ihr den Code of Practice unterzeichnet?

00:11:51: – die Antworten gehören in die Akte!

00:11:53: Sie sind euer Nachweis nicht seine Werbung.

00:11:55: Drittens, und das hat mit KI nichts zu tun… Die Opting-Out Entscheidung auf die letzte Leitungsrunde vor den Ferien setzen.

00:12:02: Nicht als Diskussionspunkt sondern als Terminentscheidung erster Januar.

00:12:10: Und warum bewusst später eine gute Option sein kann?

00:12:13: Weil §.

00:12:14: XX, Absatz III Betriebsrentengesetz das Angebot in Textform mindestens drei Monate vor der ersten Fälligkeit verlangt und ein häufiges Missverständnis gleich mit die Widerspruchsfrist von mindestens einem Monat läuft.

00:12:27: innerhalb dieser drei Monate.

00:12:28: sie kommt nicht oben drauf.

00:12:30: Wer im Januar starten will muss Ende September raus sein.

00:12:33: davor liegen Betriebvereinbarung Tarifabgrenzung Anbieterauswahl und Kommunikation.

00:12:39: Und was Paragraf twohundert zwölf angeht?

00:12:42: Vier Wochen Wirkbetrieb in den Fallzahlen weiterhin ruhig, aus dem Grund aus Folge sechs.

00:12:47: Der Paragraph macht keinen Lärm – er sammelt und gestern hat es jemanden in einer Kommentarspalte besser zusammengefasst als ich es könnte.

00:12:55: Die drei wichtigsten P der BRV sind Prozess Prozess und Prozess.

00:13:00: Das Produkt kam bei ihm auf Platz elf.

00:13:03: Sive hat für den GDV im Mai- und Juni fünfhundert Personalentscheider befragt, neununddreißig Prozent nennen hohen Aufwand, achtunddreißig Prozent Rechtsunsicherheit, sechsund dreißig prozent zu komplexe Regelungen, mangelndes Interesse der Beschäftigten nennen gut elf Prozent.

00:13:21: Eine Rangfolge gibt das bei der Fehlertoleranz nicht her – die Richtung schon!

00:13:26: Die drei größten Hemmnisse sind Prozessfragen.

00:13:29: Wer das ernst nimmt, diskutiert im Herbst nicht über Garantiehöhen

00:13:33: und wer das Schwarz auf Weiß will?

00:13:35: Im Newsletter von heute mit allen Fundstellen.

00:13:38: Dort läuft auch die Frage dieser Ausgabe diesmal an eine konkrete Rolle.

00:13:43: wenn sie für IT oder Compliance zuständig sind, gibt es für ihren Chatbot eine namentlich benannte Person die dafür verantwortlich ist und die Anbieter-Auskunft zu Artikel fünfzig in der Akte hat?

00:13:56: Ja oder nein reicht.

00:13:58: Und in zwei Wochen?

00:13:59: Dann liegen die ersten Tage Artikel Fünfzig hinter uns.

00:14:02: Wir schauen darauf was Aufsicht und Verbände zuerst aufgreifen und was ein Service Desk bei der Bundesnetzagentur einem Haus wert ist das die Antwort ohnehin dokumentiert haben

00:14:13: muss.

00:14:14: Bis in zwei wochen Für Mario, ich bin Dana.

00:14:16: Regulatorik und Realität.

00:14:19: Bis dann!