#27: EU AI Act: Was zählt heute schon? Strafen, Risiken & Pflichten für Unternehmen

0:00 SPEAKER_00: Jetzt gibt's aktuell einen Leak von diesem neuen Gesetz. Das hört sich im Prinzip so an wie das alte Gesetz von der Ampelregierung noch. Es ist leider auch wieder extrem kompliziert.

0:10 SPEAKER_00: Wir haben nicht eine Aufsichtsbehörde

0:12 SPEAKER_00: über KI in Deutschland, sondern ich glaube, mein letzter Stand waren 16 oder so was.

0:21 SPEAKER_01: Hallo und herzlich willkommen zu Episode

0:23 SPEAKER_01: 27

0:24 SPEAKER_01: vom Cointelligence

0:25 SPEAKER_01: Podcast

0:26 SPEAKER_01: mit euren Hosts Benny Wüstenhagen und Moritz Heininger.

0:31 SPEAKER_01: Ach, ist ja gar nicht der Benny heute.

0:34 SPEAKER_01: Wir haben nämlich heute ein Special Guest und zwar den Tobias Weigand. Das liegt daran, dass wir in den nächsten 3 Episoden uns ein paar relevante, wichtige rechtliche Themen anschauen.

0:44 SPEAKER_01: Heute geht es den EU AI Act oder die KI Verordnung, wenn man's Deutsch aussprechen möchte. Das nächste Mal schauen wir uns da ein ganz besonderen Teil dieser KI Verordnung an und zwar in Artikel 4, wo's eine sogenannte Kompetenzpflicht geht,

0:58 SPEAKER_01: geht, die deutsche oder europäische Unternehmen trifft und auch heute schon trifft.

1:03 SPEAKER_01: Und in der darauffolgenden

1:05 SPEAKER_01: Episode geht es dann das ganze Thema Urheberrecht.

1:08 SPEAKER_01: Aber da wir hier ein neues Gesicht haben, würde ich sagen,

1:11 SPEAKER_01: Tobi, stell dich doch einfach mal kurz vor.

1:14 SPEAKER_00: Sehr gerne. Erst mal vielen Dank für die Einladung, dass ich hier sein darf.

1:18 SPEAKER_00: Und ich bin Rechtsanwalt und Fachanwalt für gewerblichen Rechtsschutz und berate dementsprechend

1:24 SPEAKER_00: Unternehmen, Start ups und auch größere Unternehmen im Bereich IP und IT,

1:29 SPEAKER_00: natürlich in dem Fall auch im KI Bereich.

1:33 SPEAKER_00: Ist ein superinteressantes

1:34 SPEAKER_00: Thema, was sich da neu aufgetan hat. So wie sich,

1:38 SPEAKER_00: ja, die Technologie im Bereich KI weiterentwickelt,

1:41 SPEAKER_00: so entwickelt sich das Recht da auch weiter. Es gibt sehr große Fragezeichen

1:45 SPEAKER_00: und

1:46 SPEAKER_00: es gibt aber auch schon ein paar Antworten oder ich sag mal Pfeile in Richtung, wie die Antworten aussehen könnten.

1:53 SPEAKER_00: Und ich glaube, das schauen wir uns heute mal am Beispiel vom AI Act an. Genau. Und die EU, wie ja jeder weiß, ist Regulierungsweltmeister

2:02 SPEAKER_01: und es ist auch immer spannend zu sehen, wie die EU

2:05 SPEAKER_01: quasi weltweit

2:06 SPEAKER_01: Präsidenzen schaffen möchte, und zwar nicht, dass wir irgendwie besonders technologisch gut sind oder ganz besondere Anwendungen entwickeln, sondern indem wir die perfekte Regulierung haben und die ja dann den europäischen Markt zum Florieren bringen soll.

2:21 SPEAKER_00: Aber lass uns doch mal reingehen in diesen EU AI Act. Was das eigentlich? Was ist das, was habt ihr fürn Ziel oder für Ziele und ja, warum gibt's das überhaupt?

2:32 SPEAKER_00: Ja, der EU AI Act ist im Prinzip ein Prestigeprojekt

2:35 SPEAKER_00: der EU, weil man das 1. Land oder Territorium sein wollte, was Regeln aufstellt, wie mit KI umzugehen ist.

2:42 SPEAKER_00: Das hat den Hintergrund, dass man vor allem die Bürger schützen möchte vor Szenarien,

2:49 SPEAKER_00: dass die KI irgendwann mal böse wird, uns versklavt und

2:53 SPEAKER_00: dann wenig Spaß noch an der KI hätten sozusagen.

2:57 SPEAKER_00: Ein anderer Aspekt ist aber auch, dass man Innovation schaffen möchte. Denn die EU weiß, dass wir in Europa

3:05 SPEAKER_00: nicht die finanziellen Kapazitäten haben, die man in China oder in den USA hat.

3:10 SPEAKER_00: Und deswegen muss man oder versucht die EU

3:13 SPEAKER_00: über, ja, Regulatorien

3:16 SPEAKER_00: Innovation

3:17 SPEAKER_00: in

3:18 SPEAKER_00: in die EU, in die Unternehmen der EU zu zu bringen.

3:23 SPEAKER_00: Ein

3:25 SPEAKER_00: Auswuchs

3:26 SPEAKER_00: dessen ist Artikel 4 KI Verordnung, die Du eben schon angesprochen hast. Das schauen wir uns dann aber in der nächsten Folge konkret an. Heute liegt der Schwerpunkt, würde ich sagen, erst mal auf den

3:36 SPEAKER_00: den den Schutz der Grundrechten und die Sicherheit, wie man das gewährleisten will, was das eigentlich bedeutet und welche Voraussetzungen die

3:44 SPEAKER_00: EU uns mit dem AI Act da an die Hand gibt.

3:48 SPEAKER_01: Genau, Artikel 4 KI Verordnung, nächste Folge, da geht's ein bisschen darum, dass ihr schon mal wisst, was das überhaupt für ein Thema ist.

3:55 SPEAKER_01: Man kann ja Menschen und Unternehmen

3:58 SPEAKER_01: auf verschiedene Art und Weise motivieren, sich mit dem Thema auseinanderzusetzen. Wir

4:01 SPEAKER_01: Wir in' Podcast versuchen euch zu zeigen, was ihr mit KI für Superpowers bekommt und euch sozusagen über die Fähigkeiten

4:09 SPEAKER_01: und Möglichkeiten

4:11 SPEAKER_01: zu motivieren.

4:12 SPEAKER_01: Die EU macht das dann ein bisschen anders. Die sagt son bisschen, guckt mal, ihr müsst euren Leuten beibringen, wie sie mit KI richtig umgehen. Wenn sie's falsch machen, dann gibt's Strafen und Ärger.

4:22 SPEAKER_01: Aber die Details, wie gesagt, kommen dann in der nächsten Episode. Jetzt tauchen wir ein bisschen tiefer rein in den EU AI Act. Und zwar

4:31 SPEAKER_01: gibt's da ja sone Risikopyramide

4:34 SPEAKER_01: oder einen risikobasierten

4:36 SPEAKER_01: Ansatz.

4:37 SPEAKER_01: Genau. Was heißt das denn erst mal High Level, bevor wir in die einzelnen Risikostufen

4:41 SPEAKER_01: einsteigen?

4:42 SPEAKER_00: Ja, High Level bedeutet das einfach nur, dass man sich die KI Systeme anschaut.

4:48 SPEAKER_00: Wie gefährlich sind die möglicherweise

4:50 SPEAKER_00: für den Bürger,

4:52 SPEAKER_00: unsere Gesellschaft, die Demokratie?

4:54 SPEAKER_00: Und je gefährlicher das ist, umso höhere Voraussetzungen sind zu erfüllen, damit ich sie verwenden darf. Es gibt dann, das steht ganz oben in der Pyramide,

5:03 SPEAKER_00: die

5:05 SPEAKER_00: sogenannten

5:06 SPEAKER_00: inakzeptablen

5:07 SPEAKER_00: Risiken.

5:08 SPEAKER_00: Das sind also KI Systeme,

5:09 SPEAKER_00: wo die EU sagt, na, das ist so ein hohes Risiko, das können wir auf keinen Fall eingehen.

5:14 SPEAKER_00: Die werden strengstens

5:16 SPEAKER_00: verboten.

5:17 SPEAKER_00: Das heißt, unter keinen Umständen dürfen die benutzt werden in Europa.

5:24 SPEAKER_00: Darunter gibt's dann im Prinzip das Herzstück

5:27 SPEAKER_00: der KI Verordnung. Das ist die Hochrisiko KI Kategorie.

5:31 SPEAKER_00: Werden wir uns gleich noch angucken, was das bedeutet, aber das sind schon mal so viel vorab, das sind KI Systeme, wo man schon ein hohes Risiko sieht, dass es dazu zu Schäden kommen kann.

5:44 SPEAKER_00: Aber man muss diese

5:46 SPEAKER_00: Risiken eingehen,

5:47 SPEAKER_00: weil ansonsten würde würden verschiedene Produkte nicht mehr funktionieren und so weiter.

5:52 SPEAKER_00: Deswegen müssen die aber extrem hohe regulatorische

5:55 SPEAKER_00: Hürden einhalten, damit's eben nicht zu Schäden kommt.

5:58 SPEAKER_00: Und dann gibt's noch begrenztes und prinzipielles

6:01 SPEAKER_00: Risiko.

6:04 SPEAKER_01: Da gehen wir gleich noch näher drauf ein, was das bedeutet. Also ich sag mal, die EU im Vergleich zu den Amerikanern haben wie immer, wie wir halt so sind, auch wir Deutschen nicht den Opportunity Based Ansatz, zu überlegen, wie können wir denn bestmöglich

6:18 SPEAKER_01: unsere Industrie unterstützen, dass wir werden und irgendwie dieses KI Rennen gewinnen,

6:23 SPEAKER_01: sondern das ist eher son bisschen ein Risikominimierungsansatz,

6:28 SPEAKER_01: den die EU da wählt und

6:31 SPEAKER_01: ja, daher gibt's diese diese Risikopyramide.

6:34 SPEAKER_01: Genau. Du hast die verschiedenen oder die 4 Teile der Pyramide angesprochen.

6:41 SPEAKER_01: Lass uns doch mal mit der obersten Spitze anfangen, mit dem inakzeptablen

6:45 SPEAKER_00: Risiko.

6:46 SPEAKER_00: Was ist denn für die EU

6:48 SPEAKER_00: inakzeptabel?

6:51 SPEAKER_00: Da gibt's einen bestimmten Katalog,

6:53 SPEAKER_00: den die EU aufgeschrieben hat sozusagen, wo drinsteht, was für KI Systeme inakzeptabel sind. Viele davon klingen heute noch sehr nach Zukunftsmusik

7:02 SPEAKER_00: son bisschen. Geht ja KI Systeme, die manipulieren können, KI Systeme, die zum Beispiel Social Scoring einführen können, also dass der Staat beispielsweise

7:14 SPEAKER_00: ein KI System benutzt,

7:17 SPEAKER_01: das Verhalten seiner Bürger zu messen. Na ja, wenn wir in China schauen, ganz so viel Zukunftsmusik ist es tatsächlich nicht, ne? Weil genau das machen ja eigentlich Geht zumindest in die Richtung, ne? Ja, wenn wir irgendwie Black Mirror,

7:28 SPEAKER_01: für die Hörer, Hörerinnen, die Black Mirror kennen als Serie, da gibt's eine

7:32 SPEAKER_01: Folge dazu.

7:33 SPEAKER_01: Das ist schon irgendwie ein crazy

7:36 SPEAKER_01: Szenario, für das man natürlich KI verwenden kann. Und da sagt die EU und da muss ich vielleicht mal den EU AI doch mal loben, weil häufiger,

7:44 SPEAKER_01: ja,

7:45 SPEAKER_01: bin ich kein großer Fan davon oder äußere mich auch mal negativ dazu. Ich glaub,

7:49 SPEAKER_01: da können wir uns alle drauf einigen, dass es eine Zukunft ist, die wir nicht haben möchten. Und da würden wir, glaub ich, alle unterschreiben, dass dieses Spitze

7:57 SPEAKER_00: Spitze oder diese

7:59 SPEAKER_00: Möglichkeit der KI Verwendung auch wirklich inakzeptabel

8:01 SPEAKER_00: sein sollte.

8:03 SPEAKER_00: Genau,

8:04 SPEAKER_00: also das würde ich unterstreichen. Es gibt viele KI Systeme, die da drinstehen, wo ich sagen würde, okay, das darf nicht in Europa, in Deutschland eingeführt werden. Das macht durchaus Sinn.

8:16 SPEAKER_00: Das Problem dabei ist nur, dass man natürlich das auch möglichst konkret formulieren muss, damit die Ränder, also wo weil

8:24 SPEAKER_00: es eine

8:25 SPEAKER_00: nicht saubere Definition davon ist, dass dann vielleicht KI Systeme drunter fallen, die eigentlich was ganz anderes wollen,

8:31 SPEAKER_00: aber weil es einfach zu schwammig formuliert ist, dann trotzdem da drunter fällt. Ganz gutes Beispiel ist, es gibt einen Tatbestand, da geht es unterbewusste

8:40 SPEAKER_00: Beeinflussung.

8:41 SPEAKER_01: Was

8:43 SPEAKER_00: ich da als Beispiel immer bringe, ich weiß nicht, was ich dran erinnern kann, es gibt eine Simpsons Folge, da hat Barth eine

8:49 SPEAKER_00: Boyband gegründet,

8:51 SPEAKER_00: die einen Song performt, der, wenn man ihn rückwärts abspielt, Join the Navy heißt und dazu geführt hat, dass in der Folge eben wehrpflichtige Männer oder

9:01 SPEAKER_00: Männer im wehrfähigen Alter der Navy gejoint sind. Die wurden im Prinzip manipuliert,

9:07 SPEAKER_00: ne? Mhm. Das heißt, wenn eine KI so in den Bereich gehen würde, dann wär's verboten. Mhm. Klar, macht Sinn irgendwie. Das ist Manipulation,

9:15 SPEAKER_00: das wollen wir nicht.

9:17 SPEAKER_00: Dadurch, dass das aber sehr schwammig formuliert ist,

9:20 SPEAKER_00: bestand zumindest am Anfang große

9:23 SPEAKER_00: Gefahr, dass auch eine ganz normale

9:26 SPEAKER_00: Individualisierung

9:27 SPEAKER_00: 1 Produktes dadrunter fällt. Mhm. Weil wenn man sich vorstellt, dass ich einen Webshop erstelle,

9:34 SPEAKER_00: der dann

9:36 SPEAKER_00: je nachdem, was für ein Nutzerprofil

9:39 SPEAKER_00: hinterlegt ist, den Webshop

9:41 SPEAKER_00: irgendwie verändert, sodass ich eher angesprochen werde von diesem Webshop, dann könnte unter Umständen das auch unter dieses Verbot fallen, ne?

9:49 SPEAKER_00: Da hat die EU schon ein bisschen zurückgerudert

9:51 SPEAKER_00: und hat gesagt, nee, ganz so so wild ist es nicht.

9:55 SPEAKER_00: Aber so die richtige Grenze hat man da noch nicht gefunden. Und wir sprechen bei dem Verbot von

10:03 SPEAKER_00: von unbegrenzt

10:05 SPEAKER_00: von einem zu hohen Risiko,

10:07 SPEAKER_00: sprechen wir von bis zu 35000000

10:09 SPEAKER_00: Euro Schaden, Mhm. Den ein Unternehmen zahlen müsste, wenn es die KI einsetzt. Mhm. Das heißt, es lohnt sich schon irgendwie, trennscharfe Grenzen einzuziehen, ne?

10:19 SPEAKER_01: Wie ist das denn eigentlich? Ist es,

10:21 SPEAKER_01: wenn ich jetzt sonen TikTok Algorithmus habe, ne, und ich mein, die Chinesen versuchen ja darüber auch schon irgendwie europäische

10:29 SPEAKER_01: Werte und Einstellungen und so weiter zu beeinflussen,

10:32 SPEAKER_01: Ob Elon Musk das auf x macht,

10:35 SPEAKER_01: quasi die deutsche Politik zu beeinflussen, ja, sieht man ja auch irgendwie immer wieder.

10:40 SPEAKER_01: Wenn da keine KI dahinter liegt, weil halt einfach ein Algorithmus, der irgendwelche Sachen ausspielt,

10:46 SPEAKER_01: sozusagen

10:47 SPEAKER_01: mich beeinflussen soll. Ist das irgendwo anders im EU Gesetz oder im nationalen Gesetz geregelt oder könnte ich das quasi einfach umgehen, wenn ich das wirklich vorhabe, indem ich halt sage, ja gut, jetzt nutze ich halt hier keine KI für, aber beeinflusse dich trotzdem?

11:01 SPEAKER_00: Das ist ganz interessant. Ich hab ja gerade schon über schwammige Formulierungen gesprochen. Die Definition von KI ist so denkbar breit im AI Act angelegt,

11:11 SPEAKER_00: man heute eigentlich davon ausgehen muss, dass fast jede Software da drunter fällt. Okay. Das heißt, man könnte durchaus

11:17 SPEAKER_00: sagen, ein Algorithmus von TikTok, der dazu führt, dass es mehr Wähler in die eine oder andere Richtung gibt, möglicherweise

11:25 SPEAKER_00: schon manipulierender

11:28 SPEAKER_00: KI.

11:30 SPEAKER_01: Gut, wenn er auf Machine Learning

11:32 SPEAKER_01: beruht, was ja wieder ein Teil und Kategorie von KI sozusagen ist, dann ja.

11:38 SPEAKER_00: Ist durchaus interessanter Case, habe ich noch nie drüber gelesen, dass

11:42 SPEAKER_00: das geprüft wird oder Ähnliches, aber könnte ich mir durchaus vorstellen, dass das in Zukunft relevant werden könnte.

11:47 SPEAKER_01: Spannend.

11:49 SPEAKER_01: Jetzt haben wir darüber gesprochen, manipulierende

11:51 SPEAKER_01: KI. Wir

11:52 SPEAKER_01: Wir haben über so ein Social Scoring Thema gesprochen.

11:55 SPEAKER_00: Gibt es in der absolut verbotenen Kategorie, die Spitze der Pyramide, noch irgendwelche anderen Themen? Es gibt relativ viele Themen.

12:04 SPEAKER_00: Vieles davon spricht tatsächlich auch den Staat an.

12:08 SPEAKER_00: Fernüberwachung

12:09 SPEAKER_00: und solche Dinge

12:11 SPEAKER_00: sind problematisch.

12:13 SPEAKER_00: Das sind oftmals sehr spezifische Fälle,

12:16 SPEAKER_00: die man sich dann im Einzelfall mal angucken müsste. Aber

12:20 SPEAKER_00: für die allermeisten Unternehmen ist das jetzt aktuell noch nicht relevant. Wie ist das mit so

12:26 SPEAKER_01: Überwachungskamerasystemen,

12:28 SPEAKER_01: die permanent die Bevölkerung,

12:30 SPEAKER_01: auch natürlich das mit dem Ziel eigentlich, in Sicherheit herzustellen,

12:34 SPEAKER_01: überwacht, Bilder scannt und

12:37 SPEAKER_01: son Profiling irgendwie macht und zu schauen, keine Ahnung,

12:41 SPEAKER_01: vielleicht Straftaten vorherzusagen,

12:44 SPEAKER_01: ist das was, was unter die Kategorie fällt oder ist das dann eher bei bei Hochrisiko,

12:49 SPEAKER_01: also eine Stufe niedriger?

12:52 SPEAKER_00: Das ist, ja, das ist müsste man sich auch im Einzelfall angucken, was das für eine KI wird. Wer macht das?

12:58 SPEAKER_00: Wofür wird das verwendet,

13:00 SPEAKER_00: dann kann das unter Umständen auch in die Hochrisikokategorie

13:03 SPEAKER_00: fallen, wenn man damit zum Beispiel Straftaten aufdecken möchte,

13:06 SPEAKER_00: dann ist das durchaus denkbar, dass das erlaubt ist, aber in der Hochrisikokategorie,

13:11 SPEAKER_00: Ist aber auch durchaus denkbar, dass das schon abdriftet in dem Bereich, der verboten ist. Mhm. Grade wenn's dann in Richtung Social

13:18 SPEAKER_00: Scoring und

13:20 SPEAKER_02: ansatzlose Überwachung sozusagen geht, ne. Du bist selbstständig und willst mit KI und digitalen Tools nicht den Anschluss verlieren? Dann schau mal bei thekey Academy vorbei. Unsere Onlinelehrgänge

13:31 SPEAKER_02: mit IHK Zertifikat sind verständlich, flexibel

13:34 SPEAKER_02: und bringen dich wirklich weiter, auch ohne Vorwissen. KI. Academy,

13:38 SPEAKER_01: lernen, das zu deinem Alltag passt. Das heißt, wenn ich son, also wenn ich den EU AI GU viel versteh, es gibt irgendwie europäische Vorgabe,

13:46 SPEAKER_01: dann muss es natürlich in nationales Recht überführt werden.

13:50 SPEAKER_01: Dann werden die Länder wahrscheinlich, wenn das schon son bisschen schwammig definiert ist, das alle irgendwie vielleicht irgendwie anders interpretieren

13:57 SPEAKER_01: und definieren,

13:58 SPEAKER_01: sodass vielleicht manche Länder sagen, okay, wir machen irgendwie Flächenüberwachung,

14:02 SPEAKER_01: Straftaten vorherzusagen und andere sagen, das geht bei uns gar nicht? Nee, so wird das nicht aussehen.

14:07 SPEAKER_00: Also die

14:09 SPEAKER_00: Verordnung wird schon so umgesetzt in den einzelnen Ländern, also da haben keinen wirklichen Spielraum. Es gibt so ein paar Sachen, die länderspezifisch

14:17 SPEAKER_00: umgesetzt werden, grade was

14:19 SPEAKER_00: die über die

14:21 SPEAKER_00: Behörden, die das Ganze überwachen angeht. Mhm. Wer soll das in den einzelnen Ländern machen? Mhm. Wie sehen die Strafen aus und so? Da haben haben die Länder Spielraum, aber in dem Bereich eher nicht. Aber jetzt, was die Use, ich sag mal, Use Cases angeht,

14:34 SPEAKER_01: die EU gibt ja jetzt keine Liste an 1000 Use Cases vor und sagt, der für jede einzelne Kategorie und das ist dann komplett klar ist für die Länder, gerade bei irgendwie sonem Überwachungscase, ne.

14:44 SPEAKER_01: ne. Da könnte ja jedes Land argumentieren,

14:46 SPEAKER_01: warum es vielleicht...

14:48 SPEAKER_01: Na, also son bisschen, wie stark wird da wirklich was vorgegeben und wie stark liegt das dann quasi noch in der Interpretation

14:55 SPEAKER_01: der einzelnen Use Cases bei den Ländern? Also das

14:59 SPEAKER_00: Ja,

15:00 SPEAKER_00: also ich glaube, ich würde das gar nicht mal auf Länderebene so beschränken, sondern die Interpretation liegt bei jedem Juristen im Prinzip. Ist wie bei jedem Gesetz, was nicht so ganz klar geregelt ist.

15:11 SPEAKER_00: Das muss interpretiert

15:13 SPEAKER_00: werden von den Juristen und da kennt man ja das Sprichwort irgendwie 3 Juristen, 4 Meinungen.

15:19 SPEAKER_00: Das heißt,

15:20 SPEAKER_00: es ist nicht so ganz vorhersehbar.

15:23 SPEAKER_00: Klar,

15:24 SPEAKER_00: es gibt Fälle, die sind cryptop clear, da kann man sagen, okay, das ist auf jeden Fall verboten. Aber

15:30 SPEAKER_00: je nachdem, wie gut die Juristen auch sind, findet man immer irgendein Schlupfloch. Okay.

15:35 SPEAKER_01: Also liegt's dann irgendwo, könnte es trotzdem

15:38 SPEAKER_01: abweichende

15:39 SPEAKER_01: Regeln in gewissen Art und Weisen in den einzelnen Ländern geben, was irgendwie dann geht oder was nicht geht oder umgesetzt wird, vielleicht auch in den Staaten an sich? Nicht mal unbedingt nur für die Unternehmen, sondern vielleicht auch, was die Staaten dann am Ende irgendwie machen. Ja, durchaus, weil ja auch unterschiedliche Aufsichtsbehörden das sich anschauen. In

15:55 SPEAKER_00: Deutschland guckt sich das wahrscheinlich eine andere Behörde an als in Frankreich und dann ist natürlich klar, dass die auch unterschiedlich möglicherweise

16:04 SPEAKER_01: entscheiden. Wir haben nämlich noch ein neuen Gast für unsere,

16:08 SPEAKER_01: ja, komm mal her. Wir haben nämlich Unterstützung heute von unserem,

16:12 SPEAKER_01: ja, unserer Rechtsexpertin

16:13 SPEAKER_01: Nala.

16:14 SPEAKER_01: Also nicht wundern, wenn hier ab und zu im Bild ein 1 kleiner kleiner Hund rumläuft.

16:19 SPEAKER_02: Nali, komm mal her.

16:22 SPEAKER_02: Komm mal her. Schau mal her. Tüchtern, Leute. Tüchtern.

16:26 SPEAKER_01: So.

16:27 SPEAKER_01: Hier ist

16:29 SPEAKER_01: hier ist unsere Rechtsexpertin

16:31 SPEAKER_01: Nala,

16:32 SPEAKER_01: unser kleiner Podcasthund,

16:34 SPEAKER_01: der heut das 1. Mal auch zu Gast ist.

16:36 SPEAKER_01: Und ja, wenn Tobi irgendwas falsch sagt, dann wird er hier umgehend korrigiert. Wir haben gedacht, bei neuen Gästen sind wir immer ein bisschen vorsichtig, da muss das Qualitätsmanagement stimmen.

16:46 SPEAKER_01: Und deswegen haben wir hier bisschen Support heut.

16:49 SPEAKER_01: So, ich würd sagen,

16:51 SPEAKER_01: ah, noch ein Punkt, Du hast es grade angesprochen mit den Überwachungsbehörden, die

16:56 SPEAKER_01: die es am Ende irgendwie alles kontrollieren sollen.

16:58 SPEAKER_01: Mhm. Wie ist es denn eigentlich in Deutschland? Jetzt gibt's diesen EU AI Act. Mein Verständnis ist, der wird

17:05 SPEAKER_01: ins deutsche Recht umgesetzt, wurd der schon umgesetzt?

17:08 SPEAKER_01: Ist das noch alles im Prozess?

17:10 SPEAKER_01: Wann wird das umgesetzt? Das gilt ja schon für deutsche Unternehmen, aber ist das schon irgendwie in der deutschen Gesetzgebung?

17:16 SPEAKER_01: Und was passiert dann? Wer kontrolliert das dann im Nachgang und steht das überhaupt schon fest? Ja, also dadurch, dass es eine Verordnung ist, gilt es automatisch sozusagen.

17:27 SPEAKER_00: Es muss eigentlich nicht mehr umgesetzt werden in deutsches Recht. Gibt aber, wie ich eben schon gesagt hab, Teilbereiche, die müssen auch in deutsches Recht überführt werden, insbesondere was die Frage der Aufsicht angeht und so. Dazu gibt's allerdings auch schon einen Gesetzesentwurf.

17:41 SPEAKER_00: Der sollte auch schon längst fertig sein, ist aber etwas schwierig, weil wir hatten ja ein Regierungswechsel

17:46 SPEAKER_00: und dann wollte die alte Regierung nicht mehr weitermachen mit dem Gesetzesentwurf.

17:50 SPEAKER_00: Und die neue Regierung hat sich erst gesagt, schauen wir uns erst mal an, was die anderen gemacht haben.

17:55 SPEAKER_00: Und das dauert alles. Jetzt gibt's aktuell einen Leak von diesem neuen Gesetz.

18:02 SPEAKER_00: Hört sich im Prinzip so an wie das alte Gesetz von der Ampelregierung noch.

18:07 SPEAKER_00: Es ist leider

18:08 SPEAKER_00: auch wieder extrem kompliziert,

18:11 SPEAKER_00: denn wir haben nicht eine Aufsichtsbehörde

18:13 SPEAKER_00: über KI in Deutschland, sondern ich glaube, mein letzter Stand waren 16 oder so was.

18:19 SPEAKER_00: Es geht vor allem darum, dass es eine allgemeine Aufsichtsbehörde gibt. Das ist dann die Bundesnetzagentur,

18:25 SPEAKER_00: die das machen wird. Wenn man jetzt aber zum Beispiel in den Finanzbereich

18:29 SPEAKER_00: schaut,

18:30 SPEAKER_00: dann wird das die BaFin machen.

18:32 SPEAKER_00: Wenn jetzt irgendein

18:34 SPEAKER_00: ein Bereich mit Daten Datenschutz

18:36 SPEAKER_00: relevant ist, dann wird das Bundesdatenschutzbeauftragte

18:39 SPEAKER_00: machen oder die Landesdatenschutzbeauftragten,

18:43 SPEAKER_00: also der jeweiligen Länder. Die haben auch noch eigene Behörden. Und dann gibt's auch noch eigene Kategorien für

18:49 SPEAKER_00: Spiele, für Waffen und

18:51 SPEAKER_00: Also es es ist komplett

18:54 SPEAKER_00: komplett kompliziert

18:55 SPEAKER_00: und ich will nicht wissen, was passiert, wenn die sich untereinander abstimmen müssen in 1 Frage.

19:01 SPEAKER_01: Das dauert ewig. Okay, das heißt, es gibt die EU Verordnung, die zählt

19:06 SPEAKER_01: automatisch sofort,

19:08 SPEAKER_01: obwohl es noch keine Umsetzung im deutschen Recht gibt.

19:12 SPEAKER_01: Es gibt aber

19:13 SPEAKER_01: auch noch kleine klaren Vorgaben

19:16 SPEAKER_01: für die Aufsichtsbehörden,

19:17 SPEAKER_01: wer für was zuständig ist oder sein wird.

19:20 SPEAKER_01: Und

19:21 SPEAKER_01: irgendwo als Unternehmen muss ich ja

19:24 SPEAKER_01: wissen, was ich tun muss und wer mich überwacht. Aber ich mein, das Beste, was ich heute machen kann, ist eben diesen Podcast zu hören und zu verstehen, was der EU eigentlich ist, aber dann son bisschen quasi das EU Recht zu interpretieren und bestmöglich sozusagen

19:39 SPEAKER_01: umzusetzen, auf der sicheren Seite zu sein.

19:42 SPEAKER_01: Und die, ja, weiteren Sachen werden sich jetzt über die nächste Zeit son bisschen

19:46 SPEAKER_01: ergeben und zeigen und so Das heißt, es wird über die Zeit wahrscheinlich immer

19:52 SPEAKER_01: strenger, weil es immer mehr Kontrollen gibt und Verantwortlichkeiten

19:54 SPEAKER_01: und klare Regelungen.

19:56 SPEAKER_01: Jetzt ist es noch son bisschen, es ist nicht White White West, weil's ja schon eine Verordnung gibt. Ja. Also jetzt muss ich eigentlich die den Grundstein legen, mich schon mal irgendwie richtig aufsetzen, mir genau überlegen, wie ich diese Sachen angehe und im Zweifel werden dann ein paar Sachen in Zukunft noch ein bisschen mehr konkretisiert oder klarer für mich, dass ich sie ein bisschen anpassen kann. Das heißt aber nicht, nur weil es kein deutsches Recht gibt oder es noch gar keine Aufsichtsbehörde gibt, die vielleicht für mich zuständig ist, was ich machen kann, was ich will. Genau. Das Problem ist ja auch, wenn ich jetzt ein KI Tool einsetze und mich jetzt nicht darum kümmere, ob das mit dem AI Act konform ist

20:28 SPEAKER_00: und das dann 5 Jahre lang nutze, das dann wieder abzustellen, weil mir dann auffällt, ich darf's ja gar nicht nutzen, ist halt irgendwie blöd, ne? Mhm. Das heißt, vorher vielleicht einmal grob schauen,

20:38 SPEAKER_00: ist das denn überhaupt okay, dass ich das einsetze? Und dann

20:42 SPEAKER_00: hat man, ist man erst mal auf der sichereren Seite, sag ich mal, muss aber natürlich am Ball bleiben, zu gucken, was sich da in Zukunft ergibt.

20:50 SPEAKER_00: Das Interessante ist ja auch,

20:53 SPEAKER_00: das ist das Gleiche wie bei der Hochrisikokategorie,

20:57 SPEAKER_00: das kann natürlich geändert werden, diese Tatbestände, die da drin steht.

21:01 SPEAKER_00: Gerade in dem Hochrisikobereich

21:03 SPEAKER_00: haben wir vieles in Anlagen geregelt. Also das steht dann nicht mal im Gesetz, sondern ist einfach nur alles, was in Anlage XY steht, ist verboten.

21:11 SPEAKER_00: Oder alles, was in Anlage XY steht, ist Hochrisikokategorie.

21:15 SPEAKER_00: So, das bedeutet, das gibt dem Act natürlich Flexibilität.

21:20 SPEAKER_00: Mhm. Kommt jetzt irgendein neues KI Modell raus, was man nicht vorab sehen konnte, so. Was ja ständig passiert. Genau. Gibt es neue Fähigkeiten der KI, ja? So, dann kann man das schnell relativ schnell wieder implementieren.

21:31 SPEAKER_00: Mhm. Das heißt aber auch,

21:33 SPEAKER_00: es könnte sein, dass jetzt in' halben Jahr ganz andere Dinge Hochrisikokategorie

21:38 SPEAKER_00: sind als jetzt. Das heißt, ich kann mich nicht darauf verlassen, dass was ich jetzt mir anschaue, in 6 Monaten noch gilt.

21:46 SPEAKER_01: Ich habe auch eine gewisse Verantwortung als Unternehmen, jetzt auch gerade wenn wir wieder in Richtung Kompetenzpflicht

21:51 SPEAKER_01: kommen,

21:52 SPEAKER_01: was die nächste Sendung ist. Ich muss da schon irgendwie ein bisschen dran bleiben und da immer mal wieder reinschauen und mich quasi weiterbilden und weiterentwickeln und das Gesetz quasi verstehen,

22:02 SPEAKER_01: da auf der sicheren Seite zu sein. Ich kann nicht heute einmal reinschauen und sagen cool und jetzt mache ich das für die nächsten paar Jahre so, sondern muss mich sozusagen mit der Geschwindigkeit der KI auch weiterentwickeln, wie

22:12 SPEAKER_01: wie wir das ja auch ohnehin immer propagieren,

22:14 SPEAKER_01: dass man sich unbedingt mit der Geschwindigkeit der KI weiterentwickeln muss, weil alles, was ich heute lerne, vielleicht in 3 Monaten nicht mehr relevant ist oder weniger relevant ist. Und so ist es natürlich auch beim EU AI Act.

22:26 SPEAKER_01: Wir haben kurz noch grade über das Hochrisiko gesprochen, sind aber, glaub ich, noch nicht ganz am Ende von der Hochrisiko der zweiten Kategorie. Was steht denn da noch oder was ist denn noch Hochrisiko,

22:38 SPEAKER_01: Stand heute?

22:40 SPEAKER_01: Das

22:41 SPEAKER_00: würde ich sagen, ist auch macht durchaus Sinn, wie das da formuliert ist. Das sind insbesondere,

22:47 SPEAKER_00: wenn man das jetzt vereinfacht darstellt,

22:49 SPEAKER_00: zum einen Sektoren,

22:52 SPEAKER_00: wo hoher Schaden entstehen kann. Also denken wir an kritische Infrastruktur

22:56 SPEAKER_00: oder

22:57 SPEAKER_00: im Gesundheitswesen.

22:59 SPEAKER_00: Wenn ich da eine KI einsetze und dann ist kann die manipuliert werden von außen, ist nicht sicher oder oder

23:06 SPEAKER_00: ja, kommt einfach zu falschen Ergebnissen

23:09 SPEAKER_00: und dann hat Berlin keinen Strom mehr,

23:12 SPEAKER_00: dann ist natürlich ein extrem großer Schaden eingetreten und deswegen muss ich irgendwie mehr

23:18 SPEAKER_00: Anforderungen erfüllen, damit ich diese KI einsetzen darf, ne? Damit dieser Schaden einfach gar nicht entsteht.

23:24 SPEAKER_00: Das Gleiche ist auch bei Produkten, wo großer Schaden entstehen kann. Bei selbstfahrenden Fahrzeugen,

23:30 SPEAKER_00: Flugzeugen,

23:31 SPEAKER_00: Herzschrittmachern

23:32 SPEAKER_00: zum Beispiel, wenn jetzt eine KI in' Herzschrittmacher verbaut ist und die dann sich einfach überlegt, na ja, wäre vielleicht doch gut, wenn ich jetzt keinen Schock auslöse,

23:41 SPEAKER_00: ne, dann haben wir ein großes Problem. Das heißt, wir müssen sehr sicherstellen, dass da keine Fehler passieren. Mhm.

23:48 SPEAKER_00: Und

23:48 SPEAKER_00: diesen Ansatz geh ich auch mit, ne? Das macht total Sinn irgendwie.

23:52 SPEAKER_00: Man kann sich dann natürlich aber politisch darüber streiten, was eigentlich alles Hochrisiko sein soll.

23:58 SPEAKER_00: Kritische Infrastruktur,

24:00 SPEAKER_00: Fahrzeuge, dass die nicht,

24:02 SPEAKER_00: ja, gegen die Wand fahren, macht auch total Sinn. Ob das jetzt unbedingt im HR Bereich, was nämlich auch unter Hochrisiko

24:08 SPEAKER_00: fällt, weil also fallen kann unter bestimmten Umständen,

24:12 SPEAKER_00: weil einfach sehr viele personenbezogene

24:14 SPEAKER_00: Daten verarbeitet werden und so weiter und so fort, ob das unbedingt in diese Hochrisiko Kategorie gehört ist, würde ich sagen, ist eine politische Entscheidung, die auch noch nicht zu Ende diskutiert ist. Und wie ist das im HR Bereich? Ist quasi alles im HR Bereich kategorisch Hochrisiko?

24:30 SPEAKER_01: Gibt es gewisse Dinge, die Hochrisiko sind, beispielsweise ob eine, dass eine Entscheidung getroffen wird, welche Person eingestellt wird oder nicht oder

24:39 SPEAKER_00: wie kann ich mir das verstehen? Ja, verstehe. Ich glaube, der praktischste Use Case ist sind so Art Filter. Mhm. Das heißt, ich krieg einhundert

24:47 SPEAKER_00: Bewerbungen

24:48 SPEAKER_00: und dann filtert die KI schon mal raus, Mhm. Was

24:51 SPEAKER_00: wen ich einladen soll, wen nicht. So und dann habe ich eine automatisierte Entscheidung für oder gegen jemanden getroffen

24:57 SPEAKER_00: und das würde wahrscheinlich in dem Bereich Hochrisiko führen.

25:01 SPEAKER_00: Dürfte sie eine Bewertung,

25:03 SPEAKER_01: also dürfte sie nicht, also wenn sie nicht die Entscheidung selbst trifft, sondern sagt, lieber

25:08 SPEAKER_01: Recruiter oder liebe Recruiterin,

25:10 SPEAKER_01: hier sind 100 CVs, ich hab jeden dieser CVs bewertet,

25:14 SPEAKER_01: schau dir bitte meine Bewertung an und entscheide dann selbst, welche in die nächste Runde kommen. Wenn der Mensch die finale Entscheidung trifft sozusagen, wäre das dann oder ist das genau so was, wo Du sagst, das ist irgendwie so ein bisschen, man weiß es nicht so genau? Genau, ich glaube, das wäre zu einfach zu sagen, dann ist einfach raus, weil man dann könnte man's leicht umgehen. Also ich ich glaube,

25:36 SPEAKER_00: die Idee ist ja, dass man das also möglichst viel abdeckt und möglichst potenzielle Risiken minimiert.

25:41 SPEAKER_00: Das heißt, auch an den Rändern,

25:43 SPEAKER_00: Mhm. Zum Fall, den Du grade dargestellt

25:46 SPEAKER_00: hast, auch an den Rändern wird wahrscheinlich eher drunter fallen, als dass es nicht drunter fällt.

25:51 SPEAKER_00: Da muss man super aufpassen.

25:53 SPEAKER_01: Auch auf der anderen Seite muss man aufpassen, aber auf der anderen Seite auch, glaube ich, da mal kritisch dagegen treten. Also ich glaube,

26:01 SPEAKER_01: die KI sollte nie entscheiden, wer eingeladen wird oder nicht. Das geh ich hundertprozentig mit. Aber wenn ich der Head of Recruiting bin,

26:08 SPEAKER_01: was ist denn was ist denn heute der Prozess? Heute gibt's ein Junior Recruiter

26:13 SPEAKER_01: oder Recruiterin, die schaut sich die CVs an, die macht eine Bewertung, legt mir die vor, viele Unternehmen überhäuft

26:20 SPEAKER_01: mit Bewerbungen, die können wahrscheinlich gar nicht alle richtig irgendwie sinnvoll screenen und sagt mir dann, das sind meine Top 10 Bewerber. So und 10, ich brauch nur 5 wahrscheinlich für Interviews. Dann würde ich ja heute auch schon quasi sagen, ja okay, die anderen 90,

26:34 SPEAKER_01: wenn Du mir gesagt hast, Du hast sie angeschaut und ich vertrau dir als Mensch,

26:39 SPEAKER_01: denen gebe ich schick ich eine Absage, weil die 10, die sind schon top.

26:43 SPEAKER_01: Und jetzt macht diesen Job die KI,

26:46 SPEAKER_01: ja, auch wenn ich dann am Ende final sagen muss, die lade ich nicht ein.

26:50 SPEAKER_01: Ist das wirklich ein Problem? Also ne, das ist muss man dann son bisschen, also

26:54 SPEAKER_00: würde so was genau definiert werden im UAI Act? Wahrscheinlich auch nicht oder? Natürlich nicht. Natürlich nicht. Wobei wir ja hier einfach nur im Hochrisiko nur ist gut, aber wir sind im Hochrisikobereich.

27:06 SPEAKER_00: Das heißt, es ist ja nicht verboten. Es ist verboten, Es ist möglich.

27:10 SPEAKER_00: Es ist extrem viel administrativer Aufwand,

27:13 SPEAKER_00: den ich einhalten muss,

27:15 SPEAKER_00: Aber es es geht.

27:16 SPEAKER_00: Ich will. Es ist natürlich für Start ups oder so

27:20 SPEAKER_00: deutlich schwieriger

27:21 SPEAKER_00: dann, weil sie einfach nicht die Manpower haben oder die finanziellen Möglichkeiten,

27:26 SPEAKER_00: da irgendwie compliant zu sein. Aber es würde funktionieren

27:29 SPEAKER_00: wahrscheinlich.

27:31 SPEAKER_01: Da war beispielsweise da auch noch eine Idee,

27:33 SPEAKER_01: weil wir uns das jetzt auch gerade alles überlegt haben, ne? Wir kriegen ja auch ganz viele Bewerbungen

27:37 SPEAKER_01: und ein

27:39 SPEAKER_01: Kriterium

27:40 SPEAKER_01: oder ein Bewerbungskriterium ist, dass Du 3 Videos schickst von jeweils' Minute. In einem Video erzählst Du kurz was über dich selbst, dein Background, eine Minute,

27:49 SPEAKER_01: warum irgendwie KI für dich spannend ist und was Du schon alles machst und dann, warum Du irgendwie unbedingt so SnipKI möchtest. So.

27:56 SPEAKER_01: 90 Prozent der Bewerber und Bewerberinnen schicken diese Videos nicht, weil sie einfach irgendwo die Stellenbeschreibung sehen und auf apply klicken, ohne irgendwie einmal drüber nachgedacht zu haben. So. Diese Leute, der

28:08 SPEAKER_01: Hauptgrund, warum wir das machen, ist, natürlich kriegst Du von den Menschen ein gute guten Eindruck und die Videos schauen wir uns alle an. Aber die Leute, die nicht mal lesen, was wir gerne haben möchten sozusagen, ne

28:18 SPEAKER_01: ne und einfach auf Send klicken und dieses Video nicht mitschicken,

28:22 SPEAKER_01: die bekommen wir sofort geflaggt.

28:24 SPEAKER_01: So und den Personen antworten wir nicht mal.

28:27 SPEAKER_01: Und ob der Prozess jetzt von' KI

28:30 SPEAKER_01: durchgeführt wird oder von' Mensch, der sagt, die Person hat quasi nicht Kriterien erfüllt,

28:35 SPEAKER_01: ist meiner Meinung nach und ich bin kein Rechtsexperte

28:38 SPEAKER_01: irgendwie ein legitimer Einsatz,

28:40 SPEAKER_01: weil die Person hat ganz klar die Kriterien nicht gefüllt und die KI hat einfach nur es halt verstanden und gelesen, ja. Und alle, die ein Video schicken, die schauen wir uns auch alle an, ne. Und aber ja, Du sagst ja auch, es ist nicht verboten. Man muss es wahrscheinlich klar dokumentieren,

28:55 SPEAKER_01: im Zweifel, wenn irgendeiner später,

28:58 SPEAKER_01: gibt der grad im HR Bereich so viele Leute, die irgendwie klagen, ja, und dann sagt, ich bin nicht reingekommen, weil die KI gesagt hat, ich ich krieg den Job nicht oder der werd nicht eingeladen,

29:09 SPEAKER_01: dann musst Du wahrscheinlich für Gericht gut argumentieren können, was dein Prozess war, ne. Und dann

29:15 SPEAKER_01: ist es wahrscheinlich die Frage, wie hart sind die Kriterien?

29:18 SPEAKER_01: Und wenn man halt, glaub ich, klar nachweisen kann, okay, Du hast halt einfach ein Grundkriterium nicht erfüllt, das heißt, Du hast dich mal die halbe Werbung geschickt, dann wird man den Case höchstwahrscheinlich

29:27 SPEAKER_01: gewinnen. Aber wenn man jetzt halt sagt, na ja, gut, die KI hat dort alle irgendwie bewertet und ich hab mir dann nur 2 rausgesucht

29:33 SPEAKER_01: auf Basis der Info der KI und hab mir die ganzen anderen nie angeschaut,

29:37 SPEAKER_01: dann könnte es vielleicht potenziell werden.

29:39 SPEAKER_01: werden.

29:40 SPEAKER_00: Genau, ich bin mir auch nicht mal sicher, ob der Fall, den Du geschildert hast, tatsächlich unter Hochrisiko fällt. Das müsste man sich noch mal angucken.

29:46 SPEAKER_00: Ich glaube, wichtig zu verstehen ist, dass wenn man rauszoomt,

29:50 SPEAKER_00: geht es darum, dass automatisierte

29:52 SPEAKER_00: Entscheidungen nicht von der KI getroffen werden sollen, einfach sondern

29:55 SPEAKER_00: wenn das passiert, dann müssen auf jeden Fall hohe Hürden genommen werden.

30:03 SPEAKER_00: Im HR Bereich, das wollte ich Ihnen noch erzählen, da gibt es auch einen ganz interessanten

30:08 SPEAKER_00: Aspekt,

30:09 SPEAKER_00: auf den man vielleicht auch oder den man vielleicht im Hinterkopf

30:12 SPEAKER_00: haben sollte.

30:14 SPEAKER_00: Ist nämlich die der AI Act unterscheidet bei den Hürden, die man einhalten muss, die KI zu nutzen zwischen Anbieter und Betreiber. Mhm. Der Anbieter ist

30:23 SPEAKER_00: derjenige, der die KI entwickelt hat, OpenAI oder Ähnliches. Die müssen natürlich deutlich höhere Behörden einhalten als der Betreiber. Das sind wir, die die KI nutzen.

30:33 SPEAKER_00: Das Problem ist nur,

30:35 SPEAKER_00: der AI Act sagt jetzt, es gibt 2 Möglichkeiten,

30:37 SPEAKER_00: noch mehr, aber 2 sind die wichtigsten,

30:40 SPEAKER_00: wie der Betreiber, also wir,

30:42 SPEAKER_00: zum Anbieter werden können.

30:44 SPEAKER_00: Mhm. Das eine ist, ich

30:47 SPEAKER_00: biete die KI unter meiner Brand an.

30:50 SPEAKER_00: Mhm. Also

30:51 SPEAKER_00: wenn ich jetzt

30:53 SPEAKER_00: die Weigand Legal GPT anbieten würde beispielsweise, könnte es sein, dass ich dann zum Anbieter werde. Mhm. Wenn das dann eine KI ist, die im HR Bereich operiert, dann hab ich ein Hochrisiko KI, wo ich der Anbieter bin. Mhm. Und ich muss die ganzen Regelungen erfüllen, die eigentlich OpenAI erfüllen müsste, was ich natürlich überhaupt nicht kann. Das heißt, sobald Du ein Frontend baust, wo irgendwie da eine Brand draufsteht, die dann mit' API, mit

31:16 SPEAKER_01: mit OpenAI connected ist sozusagen, obwohl das Modell dahinter Du nicht gebaut hast, bist Du sozusagen dann auf einmal der der Anbieter.

31:25 SPEAKER_01: Wie wär das? Und das ist wahrscheinlich auch nicht ganz klar.

31:28 SPEAKER_01: Wir haben ja ganz viele

31:30 SPEAKER_01: SnipKI

31:31 SPEAKER_01: GPTs Assistenten

31:33 SPEAKER_01: für verschiedene Aufgaben, ne? Also quasi meine virtuellen Kollegen und Kolleginnen.

31:37 SPEAKER_01: Das Ganze ist innerhalb von

31:40 SPEAKER_01: ChatGPT.

31:41 SPEAKER_01: Das GPT heißt aber irgendwie SnipKI,

31:44 SPEAKER_01: keine Ahnung, E-Mail- SnipKI

31:46 SPEAKER_01: irgendwie Kalenderassistent,

31:47 SPEAKER_01: wie auch immer.

31:48 SPEAKER_01: Bin ich dann eigentlich auch schon Anbieter?

31:51 SPEAKER_00: Also das das sind 2 Punkte. Zum einen, das ist natürlich alles nicht ausdiskutiert.

31:55 SPEAKER_00: Ja. Ich bin der Meinung, das kann nicht so sein,

31:59 SPEAKER_00: weil dann würde das Ganze nicht funktionieren,

32:01 SPEAKER_00: weil man in der Regel einfach diese Pflichten, die ich da habe, nicht einhalten kann.

32:05 SPEAKER_00: Gerade,

32:06 SPEAKER_00: da kommen wir ja wahrscheinlich gleich auch noch dazu,

32:09 SPEAKER_00: die großen LLMs fallen nicht unter diese Pyramide,

32:14 SPEAKER_00: sondern sind außerhalb, da sprechen wir gleich noch drüber. Die haben auch andere Pflichten.

32:18 SPEAKER_00: Das sind dann so Pflichten wie Offenlegung der Trainingsdaten.

32:21 SPEAKER_00: Das heißt, wenn das so sein würde und Du bist Anbieter, dann müsstest Du bei der EU Kommission die Trainingsdaten offenlegen, was ja gar nicht geht, weil Du nichts trainiert hast. Ja.

32:30 SPEAKER_00: Die Idee dahinter ist einfach

32:34 SPEAKER_00: produkthaftungsrechtlich

32:35 SPEAKER_00: mehr oder weniger.

32:36 SPEAKER_00: Wenn Du ein Auto rausbringst

32:38 SPEAKER_00: und packst da deine Brand drauf und

32:42 SPEAKER_00: dann funktioniert der Motor nicht mehr, dann musst Du da halt für haften. So

32:46 SPEAKER_00: in die Richtung soll das gehen. Wenn Du eine KI rausbringst und da steht deine Brand drauf, dann musst Du halt dafür haften. Aber das funktioniert insgesamt nicht so. Und ist das immer nur, wenn's den Endkunden,

32:57 SPEAKER_01: egal ob B2C oder B2B

33:00 SPEAKER_01: quasi betrifft, also wenn der meine Produkte nutzt? Oder ist das angenommen, ich bau mir eine interne Lösung für meine Kollegen und Kolleginnen und bau mir irgendwie ein Front End, hab hintendran n 8 n und die das dann wiederum mit APIs verschiedene Modelle integriert ist.

33:14 SPEAKER_01: Beispielsweise irgendwie eine Content Automatisierung,

33:16 SPEAKER_01: ja, die meine mein Team nutzt,

33:19 SPEAKER_01: auf LinkedIn oder Social Media irgendwelche Posts zu machen. So.

33:23 SPEAKER_01: Und jetzt dieses Produkt

33:24 SPEAKER_01: dieses Produkt oder diese dieses Agentensystem, was ich gebaut habe,

33:28 SPEAKER_01: baut irgendwie Mist.

33:30 SPEAKER_01: Bin ich dann

33:31 SPEAKER_01: ein Anbieter, weil ich das Produkt mir selbst gebaut habe und verwendet habe oder

33:37 SPEAKER_01: bin ich der Betreiber, weil ich ja eigentlich nur die APIs von den

33:42 SPEAKER_01: bekannten

33:43 SPEAKER_01: Anbietern nutze?

33:44 SPEAKER_00: Oder ist es auch wieder so? Das weiß man alles noch nicht. Also das

33:48 SPEAKER_00: wird noch zu diskutieren sein, aber ich vermute, da wird's irgendwann heiß hergehen,

33:53 SPEAKER_00: weil solche Cases irgendwann geklärt werden müssen. Und dann wird man mal sehen,

33:58 SPEAKER_00: wie die einzelnen Behörden entscheiden oder wie das zivilrechtlich

34:02 SPEAKER_00: aussieht.

34:03 SPEAKER_00: Das wird auf jeden Fall superspannend werden. Mhm. Okay.

34:07 SPEAKER_01: Unsicher wegen der neuen EU KI Verordnung? Die Kompetenzpflicht

34:10 SPEAKER_01: für den beruflichen Einsatz von KI Tools ist da. SnipKI bietet die Lösung. Unsere spezielle

34:16 SPEAKER_01: Schulung, so Artikel 4, konzipiert mit Rechtsanwälten, macht dich und dein Team fit. Verstehe die rechtlichen Grundlagen und nutze KI Potenziale ohne Risiko.

34:26 SPEAKER_01: Investiere in Rechtssicherheit und Kompetenz.

34:28 SPEAKER_01: Informier dich jetzt über die Schulung auf SnipKI Punkt d e. Gut, ich würd sagen, vielleicht zur nächsten

34:35 SPEAKER_01: Kategorie,

34:36 SPEAKER_01: zur gelben Kategorie, das begrenzt oder sind wir beim Genau. Begrenzten Hochrisiko.

34:41 SPEAKER_01: Also Hochrisiko und jetzt kommt das begrenzte Hochrisiko.

34:44 SPEAKER_00: Genau, man kann das auch als begrenztes Risiko abkürzen.

34:48 SPEAKER_00: Das ist, würde ich sagen, für die meisten Unternehmen

34:51 SPEAKER_00: das Wichtigste,

34:52 SPEAKER_00: über das man jetzt schon Bescheid wissen muss. Weil auch das klingt sinnvoll,

34:58 SPEAKER_00: wenn eine natürliche Person, also Du und ich, wenn wir

35:02 SPEAKER_00: mit

35:03 SPEAKER_00: Output

35:04 SPEAKER_00: der KI in Kontakt kommen

35:06 SPEAKER_00: und nicht so genau wissen, ist das von' Menschen, ist das ein Mensch oder ist das KI,

35:12 SPEAKER_00: dann sollen wir darauf hingewiesen werden, ob das KI ist oder nicht. Also

35:16 SPEAKER_00: ganz einfacher Fall, ich schreib mit nem Chatbot von' Bank,

35:22 SPEAKER_00: Dann weiß ich, soll ich darauf hingewiesen werden, sorry, da ist jetzt kein Bankberater, mit dem Du sprichst, sondern das ist ein KI

35:29 SPEAKER_00: Chatbot,

35:30 SPEAKER_00: so. Damit ich das besser einordnen kann und vielleicht auch weiß, na ja, doch besser noch mal mit der natürlichen Person dahinter und so weiter und so fort.

35:40 SPEAKER_00: Und der 2. Punkt hier, der immer wieder angesprochen wird und der wahrscheinlich das Wichtigste ist, sind die sogenannten Deep Fakes.

35:47 SPEAKER_00: Das heißt,

35:48 SPEAKER_00: bei Deep Fakes, auch da muss ab August 20 26 darauf hingewiesen werden, dass das Ganze nicht von einem Menschen kommt, sondern von der KI. Was ist ein Deep Fake?

35:59 SPEAKER_00: Das ist tatsächlich relativ

36:01 SPEAKER_00: scharf formuliert, würde ich sagen, definiert in der KI Verordnung.

36:05 SPEAKER_00: Da geht's vor allem

36:08 SPEAKER_00: Tonaufnahmen,

36:09 SPEAKER_00: Videoaufnahmen oder Bildaufnahmen,

36:11 SPEAKER_00: entweder von Personen, Ereignissen oder sogar Gegenständen, die

36:15 SPEAKER_00: die

36:17 SPEAKER_00: so realistisch aussehen, dass der Betrachter davon ausgehen könnte, dass die echt sind. Das

36:24 SPEAKER_01: heißt auch, also ich hab eben ein Produkt und hab jetzt davon ein richtiges Foto gemacht und will dieses Produkt jetzt in verschiedenen Szenen

36:31 SPEAKER_01: Szenen

36:33 SPEAKER_01: Moodboards,

36:33 SPEAKER_01: wie auch immer

36:35 SPEAKER_01: platzieren.

36:37 SPEAKER_01: Und diese Szenen

36:38 SPEAKER_01: sind natürlich irgendwie KI generiert und die Software schafft das halt, das Produkt da sehr gut hinzustellen.

36:44 SPEAKER_01: Dann ist das eigentlich schon ein Deep Fake, weil quasi diese Umgebung aussieht wie echt, aber gar nicht echt ist.

36:52 SPEAKER_01: Da wird man jetzt so von ausgehen, ja. Okay und natürlich dementsprechend auch. Thema KI Models, ist ja mittlerweile seit dem Nano Banana Modell

37:02 SPEAKER_01: extrem gutes Bildmodell möglich, einfach einmal eine Aufnahme von' echten Model zu machen. Und wenn ich dann quasi dieses Model in verschiedenen Szenen, in verschiedenen Outfits positionieren

37:12 SPEAKER_01: möchte oder mit verschiedenen Produkten in der Hand,

37:15 SPEAKER_01: ist es nicht erkennbar, dass das durch KI passiert ist. Dann müsste ich quasi auch kennzeichnen ab

37:21 SPEAKER_01: 26,

37:22 SPEAKER_01: August 26,

37:23 SPEAKER_01: dass das quasi ein ja mit KI irgendwie generiert ist. Muss ich sagen, ist das ein DeepLake oder reicht einfach der Hinweis, dass das mit KI generiert wurde?

37:30 SPEAKER_00: Wahrscheinlich reicht einfach der Hinweis, dass mit KI generiert wurde. Auch das ist wieder ein Bereich, wo

37:37 SPEAKER_00: wahrscheinlich die EU Kommission oder der Gesetzgeber gar nicht wusste, dass das irgendwann möglich ist. Die hatten dann aufm Schirm, okay, es sollen diese Bilder vom Papst in der Gucci Jacke oder was auch immer das war, das hat ja jeder vor Augen.

37:51 SPEAKER_00: Das soll irgendwie nicht passieren,

37:53 SPEAKER_00: damit man halt nicht so viel Fake News hat und so. Ob

37:56 SPEAKER_00: der Gesetzgeber damit wirklich auch meinte, dass man ein echtes Foto, eine andere Szenerie nicht setzen soll und so.

38:05 SPEAKER_00: Aber es steht da natürlich nicht. Hintergrund,

38:08 SPEAKER_00: wann wurde damit begonnen?

38:19 SPEAKER_01: kommen wir gleich noch mal dazu, was irgendwie so halb passt, aber halb auch irgendwie auch irgendwie nicht.

38:25 SPEAKER_01: Okay.

38:26 SPEAKER_01: Gibt's noch Punkte zum begrenzten

38:29 SPEAKER_01: Risiko oder sollen wir zu dem minimalen

38:33 SPEAKER_01: Risiko kommen? Ja,

38:35 SPEAKER_00: vielleicht ist noch wichtig zu erwähnen, dass bei den Deep Fakes,

38:38 SPEAKER_00: wenn man davon ausgehen kann, dass der

38:41 SPEAKER_00: Betrachter in der Lage ist zu verstehen, dass das nicht echt sein kann. Sakripe oder so was. Ich

38:47 SPEAKER_00: zeig dann immer in den Schulungen, die ich habe, son gemorphtes Bild von mir und Angela Merkel.

38:53 SPEAKER_00: Glaube, wenn man das betrachtet, dann sieht man, das es kann nicht echt sein. Und da müsste man wahrscheinlich nicht drauf hinweisen.

39:00 SPEAKER_00: Wobei ich da auch wieder etwas einschränkend sagen möchte, die Gerichte sind mittlerweile

39:05 SPEAKER_00: trauen dem Verbraucher weniger zu, als sie das vorher getan haben. Also ich hab das Gefühl,

39:10 SPEAKER_00: man hat man hat sich eigentlich so in den Anfang der Zweitausenderjahren

39:15 SPEAKER_00: dahin entwickelt, dass man dem Verbraucher mehr zutraut, dass der Verbraucher irgendwie

39:28 SPEAKER_01: im Schnitt dann doch nicht so super

39:30 SPEAKER_00: smart sind. Es geht dann wahrscheinlich nicht den Durchschnittsverbraucher,

39:34 SPEAKER_00: sondern man muss eher an seine Oma denken. Würde meine Oma verstehen. Kann ja auch eine smarte Oma sein, aber technologisch

39:39 SPEAKER_01: war ich nicht ganz so ganz so fit.

39:42 SPEAKER_01: Das heißt aber doch, für Unternehmen gilt doch jetzt oder für Unternehmen gilt,

39:48 SPEAKER_01: dass jedes Bild, was ich heute irgendwo auf Social Media, auf meine Webseite

39:54 SPEAKER_01: hochlade, das KI generiert, ist,

39:57 SPEAKER_01: ich

39:58 SPEAKER_01: heute eigentlich schon kennzeichnen

40:00 SPEAKER_01: muss,

40:01 SPEAKER_01: wenn ich im August 20 26 nicht diese ganzen Bilder wieder austauschen möchte oder im Nachhinein diese,

40:08 SPEAKER_00: ja, diese diese Angaben mit hinzufügen möchte, oder? Ja, dazu würde ich raten und man sieht es auch jetzt schon tatsächlich.

40:16 SPEAKER_00: Also ich habe, glaube ich, letzte Woche erst einen Werbespot von,

40:21 SPEAKER_00: weiß nicht, es war irgendein

40:24 SPEAKER_00: Sportwetten

40:25 SPEAKER_00: Anbieter,

40:26 SPEAKER_00: der hat schon darauf hingewiesen, dass KI generiert ist. Aldi macht das in seinen Prospekten schon.

40:32 SPEAKER_00: Also es es fängt langsam an, dass darauf hingewiesen wird. Okay.

40:36 SPEAKER_01: Ich bin mal gespannt, wie sich das in Zukunft hin entwickelt, weil dann hast Du ja, glaube ich, überall, weil hier jeder in irgendeiner Art und Weise KI verwenden wird, irgendwo ein Tag drauf oder ein Watermark oder irgendwas, dass es KI generiert ist. Ja. Meine Hypothese ist, dass es in 5 Jahren ganz anders aussieht, sondern dass in 5 Jahren

40:53 SPEAKER_01: Du was taggst, wenn es echt ist.

40:55 SPEAKER_01: Sondern wenn Du grade... Also es wird Standard sein, dass die Sachen mit KI generiert sind. Ja. Und die Leute, wenn es was Echtes ist, wird es was Besonderes sein. Und dann werden die Unternehmen es quasi wahrscheinlich taggen. Ob das dann über irgend eine läuft oder was auch immer, dass quasi der echte Content

41:12 SPEAKER_01: dargestellt wird und eben nicht die die Fakes, die KI generierten

41:17 SPEAKER_01: Sachen. Also das ist meine Hypothese. Schauen wir mal, wo sich Schauen wir mal. Ich bin in 5 Jahren noch mal. Da müsste sich aber auch noch mal ändern, also

41:25 SPEAKER_01: aber das kannste ja noch.

41:27 SPEAKER_01: Genau. Die einfachste Kategorie,

41:29 SPEAKER_01: risikolos,

41:31 SPEAKER_01: ist

41:32 SPEAKER_01: die Sammelkategorie

41:33 SPEAKER_01: für alles, was kein Risiko hat oder gibt's da noch noch mal ganz konkret, das ist absolut risikolos oder das ist dann noch so ein bisschen common sense? Ja, das ist tatsächlich so ein bisschen common sense, was da immer genannt wird als Beispiel, das sind Spamfilter

41:46 SPEAKER_00: bei E-Mails zum Beispiel.

41:48 SPEAKER_00: Da kann anscheinend nicht viel passieren und auch in Videospielen, wenn eine KI in Videospielen eingesetzt wird, soll dann passieren.

41:58 SPEAKER_01: Jetzt hast du schon angesprochen, die EU war schon früh fleißig vor dem ganzen KI Hype vor ChatGPT.

42:05 SPEAKER_01: Das Gesetz stand eigentlich schon so mehr oder weniger und dann kam halt auf einmal generative KI, jetzt gibt's natürlich ein bisschen länger, aber den Durchbruch mit ChatGPT und die ganzen Möglichkeiten,

42:15 SPEAKER_01: die sich daraus erst mal ergeben haben. Und dann hat die Uhr son bisschen gemerkt, passt jetzt nicht mehr so ganz genau auf das, was wir uns überlegt haben und hat dann einfach gesagt, okay, wir haben jetzt hier und diese schon eine Pyramide,

42:25 SPEAKER_01: aber wir machen noch mal was Zusätzliches, was diese LLMs betrifft.

42:30 SPEAKER_00: Genau. Was war das und was ist diese diese Regelung jetzt für die LLMs? Genau, also es gibt dann eine, ich sag mal gesonderte Kategorie noch mal für die General Purpose AI, so heißt die, also

42:43 SPEAKER_00: KI mit allgemeinen Verwendungszweck

42:45 SPEAKER_00: sozusagen, weil die EU einfach gesehen hat, ja, wo sollen wir die jetzt einsortieren? Soll

42:50 SPEAKER_00: Soll das jetzt Hochrisiko sein? Passt ja nicht, wenn ich damit einfach ein Text erstelle, ne? Das heißt, dann wären die Anforderungen viel zu hoch. Man

42:57 SPEAKER_00: wollte aber auch nicht den ganzen Entwurf in die Tonne kloppen, also hat man noch mal eine neue Kategorie für die Large Language Models

43:05 SPEAKER_00: im Prinzip geschaffen.

43:08 SPEAKER_00: Und

43:09 SPEAKER_00: die hat spezifische Anforderungen

43:11 SPEAKER_00: Anforderungen für für die Anbieter insbesondere, also OpenAI zum Beispiel. Die müssen relativ viel machen. Das orientiert sich tatsächlich auch son bisschen an dem, was man bei der Hochrisiko KI machen muss.

43:22 SPEAKER_00: Ist ein bisschen bisschen weniger.

43:25 SPEAKER_00: Man muss aber auf jeden Fall

43:28 SPEAKER_00: zum Beispiel die Trainingsdaten offenlegen als Anbieter, womit

43:31 SPEAKER_00: OpenAI zum Beispiel erst mal ein

43:34 SPEAKER_00: großes Problem hat. Bin ich gespannt, ob Sie das tun werden. Und das ist heute schon im Gesetz? Das steht so im Gesetz, ja. Das heißt theoretisch

43:43 SPEAKER_01: bricht gerade jedes

43:46 SPEAKER_00: nicht Open Source Modell EU Recht, was hier zur Verfügung steht. Ja, bin ich bin mir nicht sicher, was da gerade bei der EU läuft, also was so vorgelegt wird. Es sind wahrscheinlich Vorbereitungen

43:57 SPEAKER_00: gerade dazu, dass irgendwas vorgelegt wird. Und

44:01 SPEAKER_00: dann stellt sich natürlich auch eine Frage, die man auch diskutieren kann. Wer guckt sich denn das eigentlich alles an?

44:07 SPEAKER_00: Also wer hat die Kapazität,

44:09 SPEAKER_01: sich das alles anzugucken und zu prüfen, ob das eigentlich in Ordnung ist? Braucht die EU eigentlich erst mal eine KI? Eine haben wir ja auch schon besprochen in dem früheren Podcast, eine große Stärke der KI, sind viele Daten zu analysieren, zu verstehen, zu bewerten. Wir brauchen eigentlich eine EU KI, die sicherstellt, dass die Trainingsdaten,

44:25 SPEAKER_01: die verwendet werden von den amerikanischen oder chinesischen Modellen,

44:30 SPEAKER_01: auch wirklich Uhr EU konform

44:32 SPEAKER_00: Ja, glaube, man schaltet erst mal eine 3. Entity dazwischen.

44:36 SPEAKER_00: Ja. Das heißt, die zertifiziert

44:38 SPEAKER_00: sozusagen,

44:39 SPEAKER_00: Aha. Dass das alles in Ordnung ist. Aber trotzdem müsste ja die Zertifizierung von diesem Dritten von der EU sich angeguckt werden, ob das alles in Ordnung ist, ne. Denen kann man ja nicht einfach blind vertrauen. Ja.

44:49 SPEAKER_00: Ich glaube nicht, dass die EU dafür die Kapazitäten hat. Und gibt es Regeln, die sagen, gute Trainingsdaten, schwächelt Trainingsdaten?

44:57 SPEAKER_00: Ja, das ist natürlich

44:59 SPEAKER_00: eine große Frage.

45:00 SPEAKER_00: Es gibt

45:02 SPEAKER_00: tatsächlich im AI Act Dinge, wie dass

45:05 SPEAKER_00: sichergestellt werden muss, dass Urheberrecht eingehalten wird.

45:08 SPEAKER_00: Ist schon mal schwierig, glaube ich, die schon mal sehr schwierig, genau.

45:12 SPEAKER_00: Genau und in solchen Kategorien wird dann halt gedacht, ne. Also kann man da ein Haken dran machen? Wahrscheinlich bei vielen nicht. Ich weiß aber jetzt nicht, was passiert,

45:21 SPEAKER_00: wenn die LLMs aufm Markt sind und

45:24 SPEAKER_00: diese Regeln einfach nicht eingehalten werden. Mhm. Ich die können ja nicht einfach abgeschaltet werden. Ja, na ja, da bin ich auch mal gespannt,

45:32 SPEAKER_01: was da noch alles kommt.

45:34 SPEAKER_00: Gut. In dieser Kategorie kann man vielleicht noch sagen, für den Anwender,

45:38 SPEAKER_00: also für uns als Benutzer der KI,

45:41 SPEAKER_00: gilt wieder die Pyramide. Das heißt, wenn wir das einfach nur als

45:46 SPEAKER_00: Textgenerierung

45:47 SPEAKER_00: verwenden, dann haben wir wahrscheinlich

45:49 SPEAKER_00: keine Voraussetzung

45:51 SPEAKER_00: in der Regel. Wenn wir ein täuschend echtes Bild

45:54 SPEAKER_00: erstellen würden, dann müssten wir natürlich Deep Fake

45:57 SPEAKER_00: Kennzeichnungen einhalten. Und wenn wir automatisiert

46:01 SPEAKER_00: Prüfungen bewerten lassen oder so was, dann wären wir tatsächlich im Hochrisikobereich.

46:05 SPEAKER_00: Mhm. Können wir sein. Also Prüfungen,

46:08 SPEAKER_01: Schulprüfung,

46:10 SPEAKER_01: Uni Prüfungen,

46:11 SPEAKER_01: wie auch immer, wenn ich dort KI nutze,

46:15 SPEAKER_01: muss ich auch wieder wahrscheinlich ein sehr sauberen Prozess haben,

46:20 SPEAKER_01: im Nachhinein nicht verklagt zu werden von

46:22 SPEAKER_01: Studierenden, keine Ahnung, Arbeitnehmern, die irgendwelche Tests machen,

46:26 SPEAKER_01: vielleicht befördert zu werden, wenn ich diese Auswertung mit KI mache.

46:30 SPEAKER_00: Genau, das ist auf jeden Fall ein

46:32 SPEAKER_00: heikles Thema. Das fällt unter VHR im Prinzip, wenn man rauszoomt unter automatisierte

46:38 SPEAKER_00: Entscheidung.

46:39 SPEAKER_00: Da muss man einfach ein bisschen aufpassen.

46:41 SPEAKER_00: Und wo man dabei auch aufpassen muss, ist, ich hatte ja am Anfang gesagt, wenn man

46:48 SPEAKER_00: unter seiner Brand ein KI System

46:50 SPEAKER_00: veröffentlicht, dann wird man zum Anbieter. Mhm. Aber interessanterweise wird man auch zum Anbieter, wenn man den Zweck erweitert.

46:57 SPEAKER_00: Mhm.

46:58 SPEAKER_00: Was bedeutet das?

47:00 SPEAKER_00: Die KI Systeme, also grade die Großen, müssen auch sagen, was eigentlich ihr Zweck ist. Hab ich bisher noch nicht gesehen, dass sie das getan hätten. Mhm. Wenn man ChatGPT aber fragt, ob der Zweck zum Beispiel auch in 1 Bewertung 1 Klausur liegt, dann sagt er, nee, das ist nicht mein Zweck. Ich assistiere nur und kann so was vielleicht besser einordnen oder so. Mhm. Aber ich führe keine Bewertung aus. Mhm. Das heißt möglicherweise

47:23 SPEAKER_01: Sagt es ChatGPT nur, weil es weiß,

47:25 SPEAKER_00: was die EU quasi definiert hat oder? Darüber kann man natürlich auch streiten. Wenn Du ein Tool bereitstellst,

47:32 SPEAKER_00: was alles kann,

47:33 SPEAKER_01: dann muss der Zweck irgendwie auch alles sein. Genau, ist ja wie ein Schweizer Taschenmesser quasi, ne. Es gibt natürlich sehr fokussierte KI Tools, aber grade so was wie OpenAI

47:42 SPEAKER_01: oder Claude oder der Copilot ist ja eigentlich ein Schweizer Taschenmesser ohne einen gewissen Zweck, ne. Also auch da ist wieder die Gesetzgebung son bisschen

47:51 SPEAKER_00: Ja, aber da werden die dann ganz richtig, ne. Da werden dann die großen Modelle sagen, nee, nee, wir sind raus. Nicht unser Ding. So und dann stehst Du als Lehrer da, der eine automatisierte Entscheidung

48:01 SPEAKER_00: fällt hast, bist im Hochrisikobereich

48:03 SPEAKER_00: Mhm.

48:04 SPEAKER_00: Und Anbieter

48:06 SPEAKER_00: schwierig. Okay.

48:07 SPEAKER_01: Ist auch ein ganz anderer Ansatz wie in China. In China ist es ja tatsächlich so, dass quasi jetzt also die ganzen Nationen

48:14 SPEAKER_01: KI Systeme einführen,

48:16 SPEAKER_01: grade quasi Lehrer, Lehrerinnen zu unterstützen,

48:18 SPEAKER_01: diese diese Prüfungsergebnisse

48:21 SPEAKER_01: auszuwerten oder überhaupt die Prüfung auszuwerten, ne. Wenn man mal ehrlich ist,

48:25 SPEAKER_01: ist es die,

48:27 SPEAKER_01: wenn ein Lehrer x Stunden hat in der Woche, sollte er die Zeit lieber verbringen, damit sich die Schüler und Schülerinnen zu kümmern, dem was beizubringen?

48:33 SPEAKER_01: Oder soll er die halbe Zeit damit verbringen, irgendwelche Multiple Choice Tests auszuwerten oder was auch immer, was tatsächlich vielleicht,

48:40 SPEAKER_01: wenn es eine KI macht,

48:42 SPEAKER_01: potenziell auch weniger

48:45 SPEAKER_01: subjektiv

48:46 SPEAKER_01: ist, weil jeder Jahre ja wieder was anders einschätzen würde. Und grade wenn man so nicht so Land wie China nimmt,

48:52 SPEAKER_01: gibt ja auch Zentralabis

48:53 SPEAKER_01: sozusagen

48:54 SPEAKER_01: jetzt, ist das schon, was heißt jetzt, wie alt wir sind, also seit vielen Jahren. Aber nachdem wir quasi Abi gemacht haben, wurde es quasi in den meisten Bundesländern für die meisten Fächer eingeführt. Wenn es dann eine gewisse

49:07 SPEAKER_01: objektive

49:07 SPEAKER_01: Bewertung gibt,

49:09 SPEAKER_01: die sofern die KI richtig geprompted ist, glaube ich, von der KI eher gegeben ist als bei ganz vielen verschiedenen Lehrern, die ja grade bei irgendwie Deutschinterpretationen

49:19 SPEAKER_01: wieder das Ergebnis auch anders

49:22 SPEAKER_01: würden.

49:24 SPEAKER_01: War am Anfang ein ganz anderer Ansatz in China im Vergleich zu Europa, wo ich als Lehrer dann vielleicht potenziell schon direkt mit einem Fuß im Knast bin, weil ich den Zweck erweitere. Ja, also ich sag mal, das funktioniert wahrscheinlich, ne. Du kannst wahrscheinlich

49:36 SPEAKER_00: rechtskonform

49:37 SPEAKER_00: das auch irgendwie verwenden. Du musst dich halt nur vorher hinsetzen und dir ganz genau angucken, was du darfst, was du nicht darfst und wann die Schwelle

49:45 SPEAKER_00: überschritten ist und so, aber das macht natürlich niemand. Wie willst du das denn als normaler

49:49 SPEAKER_01: Lehrer denn machen? Also Du

49:52 SPEAKER_01: Du ja irgendwie gewahre Vorgaben und im Zweifel wird's dazu führen, dass die Schule sagt,

49:56 SPEAKER_01: nee, machen wir überhaupt nicht, ist verboten, auf der sicheren Seite zu sein. Und damit bleibt dann auch wieder ein großer, ja, viel Potenzial auf der Straße liegen.

50:05 SPEAKER_01: Gut, für uns heißt das aber dieser General Purpose

50:08 SPEAKER_01: Thema, das heißt jetzt nicht, dass ich als Unternehmen kein Open AI nutzen darf oder ein Soundtrack oder den Copilot, sondern ich bewege mich quasi in der Pyramidenwelt

50:18 SPEAKER_01: mit dem risikobasierten

50:19 SPEAKER_01: Ansatz

50:20 SPEAKER_01: und

50:21 SPEAKER_01: navigiere da sozusagen

50:23 SPEAKER_00: eine KI Nutzung. Genau, außer man ist natürlich ein Unternehmen, was so eine General Purpose AI selbst trainiert und

50:29 SPEAKER_00: selbst herstellt.

50:31 SPEAKER_01: Spannend.

50:32 SPEAKER_01: Gibt es noch,

50:33 SPEAKER_01: Gibt

50:36 SPEAKER_01: es noch irgendwelche wichtigen Punkte zum EU AI Act oder der KI Verordnung, die wir noch nicht besprochen haben außer den Artikel 4, der ja in der nächsten Folge dann kommt? Ja, also ich glaube, das waren jetzt schon sehr viele Informationen. Wir sind ja teilweise auch dann schon relativ tief gegangen.

50:52 SPEAKER_00: Es gibt extrem viele weitere Fragen, die sich stellen,

50:56 SPEAKER_00: wenn man noch weiter in die Details abtaucht,

50:59 SPEAKER_00: aber ich glaube, das war jetzt schon mal ein ganz guter Überblick.

51:04 SPEAKER_00: Mal sehen. Vielleicht machen wir in 1, 2, 3 Jahren immer wieder Update Folgen Ja. Und schauen mal, wie's dann weitergegangen ist, wie sich die Themen entwickelt haben. Es bleibt spannend und das große Fragezeichen.

51:17 SPEAKER_00: Ja,

51:19 SPEAKER_00: möglicherweise kriegen wir auch noch mal ein politischen Twist irgendwie,

51:23 SPEAKER_01: dass das Ganze entschlankt wird oder Ähnliches. Mal sehen. Spätestens dann, vielleicht keine 1 bis 3 Jahre, sondern vielleicht passiert auch schon in 3 Monaten was. Man weiß ja nie in der Welt der KI und spätestens dann

51:34 SPEAKER_01: kommen wir auf jeden Fall noch mal zusammen.

51:37 SPEAKER_01: Damit sind wir am Ende dieser Episode.

51:40 SPEAKER_01: Vielen Dank fürs Zuhören. Wenn's euch gefallen hat, lasst ein Like da, kommentiert drunter,

51:47 SPEAKER_01: bedankt euch bei Tobi, gebt uns wie immer Feedback.

51:51 SPEAKER_01: Wenn ihr zu unserer Assistentin noch Kommentare habt, auch gerne drunter schreiben oder wenn ihr die Assistentin besonders toll und süß findet, dann könnt ihr sowieso liken

52:00 SPEAKER_01: und abonniert

52:01 SPEAKER_01: unsere Kanäle, egal ob das YouTube ist oder Spotify oder Apple Podcasts. Wir freuen uns auf jeden Fall auf euch in der nächsten Sendung und in der nächsten Episode geht's dann eben diesen Artikel 4 der KI Verordnung. Und bis dahin

52:16 SPEAKER_01: viele Grüße, tschau und bis nächste Woche.

52:20 SPEAKER_03: Cointelligence

52:21 SPEAKER_03: ist eine Produktion von thekey Academy in Zusammenarbeit mit SnipKI,

52:25 SPEAKER_03: bei Studio Co in Berlin. Produktion und Regie,

52:29 SPEAKER_03: Christina Manuel,

52:30 SPEAKER_03: Fuate Zebatli und Elias Frobel.

52:32 SPEAKER_03: Created Director, Lukas Shelter.

52:35 SPEAKER_03: Redaktion und Moderation,

52:37 SPEAKER_03: Benjamin Wüstenhagen und Moritz Heininger.

52:39 SPEAKER_03: Abonniere uns auf Spotify, Apple Podcasts oder YouTube.

52:43 SPEAKER_03: Danke fürs Zuhören.