#28: Artikel 4 des AI Acts erklärt: Was die Kompetenzpflicht für dich bedeutet

0:00 SPEAKER_00: Noch mal für alle Unternehmen, Unternehmer, Unternehmerinnen da draußen, seit Februar 20 25

0:05 SPEAKER_00: habt ihr eine Kompetenzpflicht.

0:07 SPEAKER_00: Auch wenn es die Aufsichtsbehörden noch nicht gibt, seid ihr heute schon haftbar,

0:12 SPEAKER_00: wenn Fehler gemacht werden.

0:14 SPEAKER_00: Und

0:15 SPEAKER_00: das Thema

0:16 SPEAKER_00: Haftung,

0:17 SPEAKER_00: Fehler,

0:18 SPEAKER_00: was kann denn eigentlich passieren? Was können mich denn dafür Strafen eigentlich treffen?

0:26 SPEAKER_00: Hallo und herzlich willkommen zur Folge 28

0:30 SPEAKER_00: vom Cointelligence

0:31 SPEAKER_00: Podcast

0:32 SPEAKER_00: mit euren Hosts

0:34 SPEAKER_00: Tobias Weigand und Moritz Heininger.

0:37 SPEAKER_00: Der Tobias war letzte Woche schon bei uns, weil er absoluter, ja, ist Rechtsanwalt und Experte für alle rechtlichen Themen rund das Thema KI.

0:47 SPEAKER_00: Und letzte Woche hatten wir eine sehr ausführliche Episode zum Thema, was ist eigentlich dieser EU AI Act beziehungsweise die KI Verordnung

0:56 SPEAKER_00: und sind da ziemlich tief eingestiegen.

0:58 SPEAKER_00: Eine Sache, die wir bisschen ausgeklammert haben,

1:01 SPEAKER_00: ist ein sehr wichtiger Artikel

1:03 SPEAKER_00: dieses EU AI Acts und der nennt sich oder dieser Artikel ist Artikel 4

1:09 SPEAKER_00: und da geht es eine Kompetenzpflicht.

1:14 SPEAKER_00: Was

1:15 SPEAKER_00: hat's denn auf sich mit diesem, ja, mit diesem Artikel?

1:19 SPEAKER_01: Ja, schön, dass ich auch in der zweiten Folge erst mal da sein darf mit

1:24 SPEAKER_01: dem KI, mit der KI Kompetenz versucht die EU son bisschen den Innovationsansatz

1:30 SPEAKER_01: in Europa zu fördern. Das heißt, wir die hat einen Artikel geschaffen,

1:36 SPEAKER_01: den Unternehmen berücksichtigen

1:37 SPEAKER_01: sollen, damit das Personal in der Lage ist, vernünftig, effizient und risikolos

1:46 SPEAKER_01: KI einzusetzen im Alltag.

1:48 SPEAKER_01: Damit ist man

1:50 SPEAKER_01: hoffentlich irgendwann in der Lage,

1:53 SPEAKER_01: flächendeckend in Europa KI einzusetzen unter den Unternehmen und man verspricht sich davon, dass wir das einfach schneller und vielleicht effektiver können,

2:01 SPEAKER_01: als das andere Kontinente tun.

2:04 SPEAKER_01: Das heißt, der Ansatz ist hier, wir geben euch eine Pflicht, damit ihr

2:09 SPEAKER_01: was tut,

2:11 SPEAKER_01: weil wir euch nicht vertrauen, dass ihr sonst das selbstständig machen würdet. Mhm. Das heißt, die Wirtschaft, ob ob ihr dann wirtschaftlich erfolgreich seid, was ja eigentlich die Motivation sein sollte, das kann man wir mal aus, sondern wir geben euch einfach so die gesetzliche Pflicht, was zu tun. Ist interessant. Das heißt, die EU sagt, liebe Unternehmen und Unternehmer und Unternehmerinnen in Europa,

2:33 SPEAKER_00: KI ist wichtig, transformativ

2:36 SPEAKER_00: und ihr müsst das verstehen.

2:37 SPEAKER_00: Also kümmert euch bitte darum

2:39 SPEAKER_00: und nicht nur bitte, sondern hier ist eure Pflicht, weil wenn ihr's nicht macht, bekommt ihr Ärger.

2:45 SPEAKER_00: Ganz interessant,

2:46 SPEAKER_00: denn eigentlich würde ja mal davon ausgehen, dass son Unternehmen, wenn es sich Gedanken macht über die eigene Zukunft und die Wettbewerbsfähigkeit

2:54 SPEAKER_00: und so mit halbwegs offenen Augen durch die Welt geht, selbst verstehen würde, dass es sehr viel Sinn ergibt, dass das eigene Unternehmen, die Mitarbeitenden

3:03 SPEAKER_00: eine gewisse KI Kompetenz

3:05 SPEAKER_00: haben. Aber da bricht die EU vor und sagt, so,

3:09 SPEAKER_00: hier ist das Gesetz und hier ist die Pflicht und ihr müsst das jetzt tun. Ja, ich glaube, die Angst besteht vor der Globalisierung,

3:15 SPEAKER_01: ne. Mhm. Weil wenn in Europa das Ganze verschlafen wird, dann kommen einfach Unternehmen ausm Ausland,

3:21 SPEAKER_01: Mhm. Die vielleicht dann KI kompetent sind und übernehmen das Ganze. Das heißt, die tatsächlich lokale Wirtschaft wird dann einfach geschluckt. Mhm. Das heißt,

3:32 SPEAKER_01: weil man dieses Risiko nicht eingehen will, dass die anderen Unternehmen oder die andere Wirtschaft der anderen Länder

3:40 SPEAKER_01: Europa übernimmt sozusagen,

3:41 SPEAKER_01: wird jetzt erst mal mit' Pflicht

3:44 SPEAKER_01: sichergestellt,

3:45 SPEAKER_01: dass das funktioniert.

3:46 SPEAKER_00: Und ich mein, wir freuen uns natürlich irgendwo über sone Gesetzgebung,

3:50 SPEAKER_00: weil es, glaube ich, vielleicht noch mal dem einen oder anderen

3:53 SPEAKER_00: Unternehmen

3:54 SPEAKER_00: die Augen öffnet. Ich glaub, die Hörer und Hörerinnen vom Cointelligence

3:58 SPEAKER_00: Podcast, die haben selbst verstanden,

4:00 SPEAKER_00: dass KI einen transformativen

4:02 SPEAKER_00: Einfluss auf Sie persönlich, aber auch das Unternehmen, die Gesellschaft und die Wirtschaft haben wird. Denen müsste man wahrscheinlich gar nicht unbedingt sagen,

4:10 SPEAKER_00: dass es diese Kompetenzpflicht

4:11 SPEAKER_00: gibt.

4:12 SPEAKER_00: Aber es gibt anscheinend noch einige und von daher lass uns mal vielleicht ein bisschen tiefer hier einsteigen,

4:19 SPEAKER_00: was

4:20 SPEAKER_00: für wen betrifft, also für wen ist das überhaupt und

4:23 SPEAKER_00: was sind da so bisschen die Rahmenbedingungen?

4:25 SPEAKER_00: Auch vielleicht

4:27 SPEAKER_00: die ja die Zeiträume,

4:28 SPEAKER_00: bis wann ich da irgendwas machen muss? Was ja heißt das denn eigentlich genau, Kompetenzpflicht?

4:33 SPEAKER_01: Ja, auch da möchte die EU möglichst flächendeckend

4:37 SPEAKER_01: abdecken sozusagen.

4:39 SPEAKER_01: Das bedeutet, sämtliche Unternehmen, die mit KI arbeiten, müssen diese Kompetenzpflicht

4:44 SPEAKER_01: einhalten.

4:45 SPEAKER_01: Das ist ganz egal, ob ich Einzelunternehmer bin oder ein riesiger Konzern. Mhm. Es ist egal, ob ich

4:51 SPEAKER_01: ein Dachdeckerbetrieb

4:53 SPEAKER_01: bin, der vielleicht Schichtpläne mit der KI entwirft oder ob ich Rheinmetall bin, die,

4:58 SPEAKER_01: weiß ich nicht, Lenkraketen damit baut, ne. Mhm. Also ist im Prinzip die ganze Bandbreite

5:04 SPEAKER_01: muss diese KI

5:06 SPEAKER_01: Kompetenzpflicht erfüllen.

5:09 SPEAKER_01: Wie genau diese Kompetenzpflicht erfüllt wird, das sagt die EU nicht, sondern die EU sagt ausdrücklich,

5:16 SPEAKER_01: dass das jedes Unternehmen selber

5:18 SPEAKER_01: entscheiden kann, wie sie die Kompetenzpflicht

5:21 SPEAKER_01: erfüllt.

5:23 SPEAKER_01: Damit

5:24 SPEAKER_01: möchte die EU möglichst viel Flexibilität geben, weil ich ja grad gesagt habe, ne. Mhm. Wenn sie jetzt eine Vorgabe machen würde, ihr müsst das und das einhalten, Mhm. Dann würde das für Rheinmetall vielleicht zu wenig sein und für den Dachdecker zu viel. Mhm. Und weil man da nicht jeden Case irgendwie abdecken konnte, hat man halt gesagt,

5:42 SPEAKER_01: ich wir geben euch an die Hand, was so vielleicht der Inhalt sein soll, was ihr was man kennen muss, aber wie ihr das umsetzt,

5:49 SPEAKER_00: ist eigentlich eure Entscheidung. Und es gibt auch eine und das ist son bisschen die Verwirrung, es gibt da auch ganz viele meiner Meinung nach ein bisschen fragwürdige Anbieter am Markt, die Werbung für ihre Kompetenzkurse

6:01 SPEAKER_00: machen, indem sie sagen, es gibt eine

6:04 SPEAKER_00: Schulungspflicht

6:05 SPEAKER_00: und dann Bilder

6:08 SPEAKER_00: zeigen, wo Leute irgendwie im Gefängnis sitzen und da irgendwie ein bisschen Angst machen wollen. Fakt ist ja, es gibt keine

6:15 SPEAKER_00: Schulungspflicht.

6:17 SPEAKER_00: Es gibt nicht mal eine Zertifikatspflicht,

6:20 SPEAKER_00: sondern es gibt eine Kompetenzpflicht.

6:22 SPEAKER_00: Das heißt, die Leute und

6:25 SPEAKER_00: natürlich müssen wir irgendwie praktisch überlegen, was ist der Unterschied zwischen der Schulung, sondern Kompetenzpflicht?

6:29 SPEAKER_00: Weil wie soll ich irgendwie als Arbeitnehmer eine Kompetenz aufbauen, wenn ich nicht irgendeine Art und Weise der Schulung

6:36 SPEAKER_00: genieße, egal ob ich mir das jetzt irgendwie selbst beibringe oder Arbeitgeber was gestellt wird. Aber es gibt, das ist, glaube ich, noch mal wichtig mitzunehmen, es gibt nicht es gibt keine Schulungspflicht,

6:46 SPEAKER_00: sondern eine Kompetenzpflicht.

6:49 SPEAKER_01: Ja, wenn ich ein wenn ich ein Start-up bin, was irgendwas im KI und

6:54 SPEAKER_01: ich dementsprechend auch nur Programmierer im KI Bereich eingestellt habe,

6:58 SPEAKER_01: dann sind die wahrscheinlich auch schon so kompetent. Dann muss ich die nicht noch extra schummeln.

7:03 SPEAKER_01: Dann kann ich wahrscheinlich zeigen, ey, die haben Informatik studiert und arbeiten da dran und so. Dann wird das wahrscheinlich irgendwie schon ausreichen, ohne dass ich eine spezifische Pflicht habe,

7:14 SPEAKER_01: ein Zertifikat vorzuweisen.

7:17 SPEAKER_00: Du hast gesagt, es trifft alle Unternehmen, egal ob klein oder groß, die irgendwie KI verwenden.

7:23 SPEAKER_00: Heißt das dann, dass es jeden einzelnen Mitarbeitenden

7:27 SPEAKER_00: in dem Unternehmen trifft, der eine gewisse Kompetenz

7:30 SPEAKER_00: haben muss? Sind es nur die Personen,

7:33 SPEAKER_00: die mit irgendwelchen KI Systemen hantieren oder nur die Personen, die die KI Systeme entwickeln?

7:39 SPEAKER_00: Und

7:41 SPEAKER_00: was zählt eigentlich als KI System und was eigentlich nicht?

7:46 SPEAKER_01: Ja, es geht es geht bei den Maßnahmen darum,

7:50 SPEAKER_01: Leute zu,

7:51 SPEAKER_01: also die Kompetenzpflicht für Leute zu schaffen, die mit KI arbeiten.

7:55 SPEAKER_01: Mhm.

7:57 SPEAKER_01: Das heißt, es ist egal, ob ich einfach nur Anwender bin von ChatGPT oder ob ich eine KI trainiere, Mhm. Weil mein Unternehmen eine KI vertreibt oder Ähnliches. Also jeder, der irgendwas mit KI zu tun hat, der soll kompetent sein, Mhm. Dass da kein Schmu läuft. Was KI ist, das hatten wir auch letzte Folge schon besprochen, das ist im AI Act definiert,

8:18 SPEAKER_01: das ist relativ schwammig und sehr breit. Mhm.

8:23 SPEAKER_01: Leider muss man davon ausgehen, dass irgendwie extrem viel unter die KI fällt. Man kann jetzt nicht sagen,

8:29 SPEAKER_01: ja, bestimmte Software

8:31 SPEAKER_01: fällt nicht runter. Also im schlimmsten Fall muss man davon ausgehen, dass auch viel Software,

8:36 SPEAKER_01: was eigentlich keine KI in unserem Verständnis sein würde, da drunter fällt. Einfach nur, weil die EU sicherstellen wollte, dass keine KI runterfällt,

8:46 SPEAKER_01: also

8:47 SPEAKER_00: darunter fällt, so.

8:50 SPEAKER_00: Und

8:51 SPEAKER_00: also jetzt Beispiel, wenn ich ein, ich kann ja ein Übersetzer nehmen, ich kann einfach ein Wörterbuch nehmen und das auch digital haben. Da ist dann relativ wenig KI drin. Ich kann aber auch jetzt ein Tool nutzen, wie beispielsweise DeepL aus Köln,

9:02 SPEAKER_00: was halt eben ja KI

9:04 SPEAKER_00: basiert ist sozusagen.

9:06 SPEAKER_00: Zählt es dann auch schon darunter? Muss ich auch eine Kompetenz haben, wenn ich einfach ein Übersetzungstool nutze?

9:11 SPEAKER_01: Also wenn Du ein Dolmetscher anrufst, dann brauchst Du keine KI Kompetenz. Wenn Du ein DeepL benutzt, würde ich schon sagen, brauchst Du eine Kompetenz.

9:20 SPEAKER_01: Man

9:21 SPEAKER_01: man kann sich natürlich fragen, wie viel Schaden eigentlich entstehen kann, Mhm. Wenn ich ja so niedrigschwellige

9:27 SPEAKER_01: Übersetzungs KIs verwende. Mhm.

9:31 SPEAKER_01: Aber das ist wieder das gleiche Thema, da konnte die EU nicht hingehen und dann differenzieren.

9:36 SPEAKER_01: Mhm. Möglicherweise passiert da nichts Schlimmes, dann brauchst Du das nicht, sondern Mhm.

9:41 SPEAKER_01: Es geht ja auch nicht nur darum, die Sicherheit zu schaffen, sondern auch, dass das effizient und vernünftig verwendet wird. Wenn

9:48 SPEAKER_02: Du Cointelligence hörst, weißt Du, KI verändert alles. Aber was bedeutet das für dich, für deine Skills, für deinen Job? Genau da kommt thekey Academy ins Spiel. Unsere Onlinelehrgänge

9:58 SPEAKER_02: helfen dir, Zukunftsthemen wie KI, digitale Zusammenarbeit oder Leadership wirklich zu verstehen. Praxisnah,

10:05 SPEAKER_02: online und mit IHK Zertifikat. Thekey.com Academy für alle, die mitdenken

10:10 SPEAKER_02: und mitgestalten wollen.

10:12 SPEAKER_00: Und

10:13 SPEAKER_00: was heißt denn eigentlich

10:16 SPEAKER_00: Kompetenz? Ist das irgendwie definiert? Kann ich das interpretieren, wie ich möchte?

10:21 SPEAKER_00: Was

10:22 SPEAKER_01: wie kann ich das verstehen? Ja, es gibt bei der KI Kompetenz gibt's relativ

10:27 SPEAKER_01: trennscharfe

10:28 SPEAKER_01: Begriffe, die reingeschrieben wurden.

10:32 SPEAKER_01: Das ist aber trotzdem immer noch Interpretation,

10:35 SPEAKER_01: die man da,

10:36 SPEAKER_01: ja, die man da vorgeben kann.

10:39 SPEAKER_01: Es stellt sich dann auch bei den Begriffen die Frage, wo eigentlich der Fokus liegen muss und so weiter und so fort. Wir wissen aber, dass wir auf jeden Fall technischen Background

10:47 SPEAKER_01: kennen müssen.

10:48 SPEAKER_01: Das heißt, jemand, der mit der KI arbeitet, muss grob verstehen, was bedeutet das eigentlich? Wie arbeitet die KI? Wie kommt sie zu diesem Output?

10:57 SPEAKER_01: Natürlich, wenn ich Lenkraketen

10:59 SPEAKER_01: für

11:01 SPEAKER_01: für Waffensysteme

11:02 SPEAKER_01: baue, dann muss ich das genauer wissen, als wenn ich nur ein Text generieren lasse, den ich bei LinkedIn poste. Mhm. So.

11:09 SPEAKER_01: Man muss auch ein grobes rechtliches Verständnis haben, also im Prinzip das, was wir hier in dem Podcast schon besprochen haben. Was bedeutet das? Was ist rechtlich erlaubt? Was ist rechtlich nicht erlaubt? Was soll das Ganze eigentlich so in die Richtung gehen? Mhm. Was sind die Risiken?

11:24 SPEAKER_01: Dann geht's auch ethisches Bewusstsein.

11:27 SPEAKER_01: Also

11:29 SPEAKER_01: gibt es Biases?

11:30 SPEAKER_01: Wie funktioniert das mit den Biases? Worauf muss ich eigentlich beim Output aufpassen,

11:34 SPEAKER_01: Mhm. Dass ich nicht irgendwelche Biases übernehme und so weiter und so fort?

11:39 SPEAKER_01: Genau und natürlich muss man aber auch wirtschaftliche

11:43 SPEAKER_01: Risiken und Chancen kennen, also wissen, wann ist es eigentlich sinnvoll, KI einzusetzen und wann nicht? Und das leitet schon in den letzten Punkt, den für mich einen der wichtigsten Punkte ist, nämlich man braucht auch Use Cases. Weil dieses ganze theoretische Wissen bringt mir einfach gar nichts, wenn ich gar nicht weiß, wie ich das in der täglichen Arbeit einwende

12:03 SPEAKER_01: beziehungsweise

12:04 SPEAKER_01: effizient

12:05 SPEAKER_01: ansetze.

12:06 SPEAKER_01: Wenn ich jetzt einfach nur Text generiere mit ChatGPT, dann bleibt das ja hinter den Möglichkeiten, die KI mir bietet, komplett zurück. Mhm. Und das bringt dann auch der EU keinen Wettbewerbs Wettbewerbsvorteil

12:18 SPEAKER_00: gegenüber den Amerika, China, wie auch immer. Das heißt, da hat die EU mal wirklich nachgedacht und hat gesagt, okay, wir machen jetzt hier nicht nur irgendwie rechtliche strikte Vorgaben,

12:29 SPEAKER_00: was irgendwie jetzt das Technische, die Grundlagen angeht, sondern er hat gesagt, okay, wir wollen, dass die Leute verstehen,

12:35 SPEAKER_00: welche relevanten Anwendungsfälle

12:37 SPEAKER_00: eben in dem eigenen Umfeld, vielleicht Beruf

12:41 SPEAKER_00: irgendwie relevant sind und da sind, quasi wirklich so die,

12:46 SPEAKER_00: ja, die die Augen zu öffnen sozusagen, dass die Leute wirklich in die Nutzung

12:50 SPEAKER_00: von KI auch kommen und eben richtiges verstehen. Also einmal, wie gesagt, das technische Verständnis,

12:56 SPEAKER_00: da musst Du wahrscheinlich verstehen, okay, was ist eigentlich generative KI und vielleicht wie funktioniert ein das mit dass es mit Wahrscheinlichkeiten Genau. Die funktioniert, dass das nächste Wort sozusagen vorhergesagt wird. Du musst jetzt aber wahrscheinlich nicht genau erklären können, wie son Transformer Modell funktioniert.

13:11 SPEAKER_00: Aber halt auch verstehen können,

13:13 SPEAKER_00: dass halt aufgrund dieser Funktionsweise,

13:15 SPEAKER_00: und da sind wir beim nächsten Thema,

13:18 SPEAKER_00: so Bias Themen,

13:20 SPEAKER_00: ja, oder Bias oder Halluzinationen

13:22 SPEAKER_00: entstehen können Großes Thema, ja. Eine KI mir quasi was ausgibt, was sich sehr sinnvoll

13:27 SPEAKER_00: anhört, aber halt komplett ausgedacht ist und faktisch falsch ist, dass ich quasi dafür

13:33 SPEAKER_00: eine gewisse,

13:34 SPEAKER_00: ja, Awareness habe, dass ich die Daten und Fakten prüfen muss.

13:37 SPEAKER_00: Auch das ganze Thema Bias,

13:40 SPEAKER_00: ist son bisschen unter Ethik, glaube ich, eben grade gesagt,

13:43 SPEAKER_00: dass zum Beispiel, wenn ich der KI sage, hey, stell mir mal ein Bild von'

13:47 SPEAKER_00: also in Englisch of the doctor, weil er da kein Geschlecht mitgegeben wird, dass die KI im Zweifel aufgrund der Trainingsdaten halt mir 4 weiße Männer zeigt

13:57 SPEAKER_00: und dass das ein Problem ist und ich dem quasi bewusst sein muss, Dann klar, das ganze Rechtliche, also was wir, glaube ich, letzte Woche in der Folge schon besprochen haben, dass man das irgendwie immer ein bisschen High Level versteht, aber insbesondere auch Artikel 4 KI Verordnung,

14:10 SPEAKER_00: ja, sollte ich irgendwie verstehen,

14:12 SPEAKER_00: was es da geht und warum ich diese Kompetenz brauche.

14:16 SPEAKER_00: Dann hat er eben am Ende diese diese Anwendungsfälle.

14:19 SPEAKER_00: Genau. Okay.

14:21 SPEAKER_00: Spannend. Jetzt haben wir gelernt,

14:23 SPEAKER_00: es gibt, also den EUI gibt es, es gibt diesen Artikel 4 KI Verordnung. Wir wissen, dass es für jedes Unternehmen, egal Größe

14:30 SPEAKER_00: des Unternehmens relevant ist. Wir wissen, dass es jeden

14:35 SPEAKER_00: Mitarbeitenden betrifft, der in irgendeiner Art und Weise mit KI hantiert,

14:40 SPEAKER_00: unabhängig

14:40 SPEAKER_00: davon, ob ich selbst KI Systeme entwickel oder einfach nur nutze. Und selbst wenn ich einfach nur Texte übersetze

14:47 SPEAKER_00: mit dem Tool wie ChatGPT

14:49 SPEAKER_00: oder eben auch mit DeepL aus Köln,

14:53 SPEAKER_01: ab wann ist das eigentlich relevant für mich?

14:56 SPEAKER_00: Das gilt schon seit Februar diesen Jahres. Okay, seit Februar 20 25 gibt es die Kompetenzpflicht.

15:03 SPEAKER_01: Genau, seitdem gibt es die Kompetenzpflicht. Es gibt allerdings noch keine Aufsichtsbehörde, die das Ganze kontrolliert. Da kommen wir später vielleicht auch noch kurz zu, aber

15:10 SPEAKER_00: die wird es jetzt auch demnächst geben, also spätestens nächstes Jahr. Okay, Heißt noch mal für alle Unternehmen, Unternehmer, Unternehmerinnen da draußen, seit Februar 20 25

15:21 SPEAKER_00: habt ihr eine Kompetenzpflicht.

15:23 SPEAKER_00: Auch wenn es die Aufsichtsbehörden noch nicht gibt, seid ihr heute schon haftbar,

15:27 SPEAKER_00: wenn

15:29 SPEAKER_00: Fehler gemacht werden.

15:31 SPEAKER_00: Und

15:32 SPEAKER_00: das Thema

15:33 SPEAKER_00: Haftung,

15:35 SPEAKER_00: Fehler,

15:36 SPEAKER_00: was kann denn eigentlich passieren? Was können mich denn da für Strafen eigentlich treffen? Und für für, ja, vielleicht auch für

15:42 SPEAKER_00: welche Cases können mich vielleicht welche Strafen treffen? Ist das überhaupt schon definiert?

15:47 SPEAKER_01: Ja,

15:48 SPEAKER_01: das ist das gleiche Thema wie mit den Aufsichtsbehörden.

15:51 SPEAKER_01: Also in dem EU AI Act stehen keine Strafen dafür drin, wenn ich die Kompetenzpflicht nicht einhalte, sondern dann steht drin, die einzelnen Mitgliedstaaten

16:00 SPEAKER_01: sollen in ihren eigenen Gesetzen schreiben, was passiert,

16:04 SPEAKER_01: wenn ich die Kompetenzpflicht nicht einhalte. Da haben wir jetzt einen Leak zu einem Gesetz,

16:10 SPEAKER_01: wo

16:11 SPEAKER_01: Deutschland wahrscheinlich

16:12 SPEAKER_01: demnächst den Weg gehen wird, dass das Ganze über das Ordnungswidrigkeitengesetz

16:17 SPEAKER_01: gelöst wird. Also das ist das Gleiche, wie wenn ich zu schnell fahre und deswegen Das hört sich erst mal nicht so schlimm Genau.

16:24 SPEAKER_01: Da können dann natürlich irgendwelche hohen Bußgelder entstehen möglicherweise.

16:30 SPEAKER_01: Über die die gewisse Höhe wird man dann sehen, wie viel das sein wird. Das wird auf jeden Fall nicht wenig sein. Die

16:38 SPEAKER_01: Höhen im AI Act sind sehr hoch, also die gehen bis zu 35000000.

16:42 SPEAKER_00: Das heißt, die EU sagt,

16:44 SPEAKER_00: Maximalstrafe,

16:45 SPEAKER_00: wenn man richtig Mist baut, was auch immer richtig Mist bauen dann bedeutet, sind 35000000

16:50 SPEAKER_01: Euro. Genau, das bezieht sich dann auf zum Beispiel verbotene KI Systeme. Mhm. Wenn man das aber als Benchmark nimmt sozusagen,

16:58 SPEAKER_01: dann

17:00 SPEAKER_01: kann es natürlich durchaus sein, dass Du für die fürn Verstoß der Kompetenzpflicht

17:05 SPEAKER_01: auch ein Bußgeld bis zu Millionenhöhe zahlen musst. Natürlich ist das dann bei den Behörden immer Abwägungssache.

17:14 SPEAKER_01: Ein großer Konzern wird natürlich wesentlich mehr zahlen müssen als jetzt ein kleines mittelständisches Unternehmen. Mhm. So, ne. Und dann geht's natürlich auch darum, wie schlimm ist der Verstoß? Also wenn ich zum Beispiel Hochrisiko KI einsetze, dann ist der Verstoß,

17:28 SPEAKER_01: weil meine

17:30 SPEAKER_01: Mitarbeitenden nicht wissen, wie ich die einsetze, ist natürlich schlimmer, als wenn ich nur ChatGPT einsetze. Mhm. Das heißt, da wird's auch variieren.

17:37 SPEAKER_01: Mhm. So. Das ist allerdings noch Zukunftsmusik, weil wir noch nicht so genau wissen, wie das Gesetz später aussehen wird.

17:44 SPEAKER_00: Was wir aber Das heißt, wenn man mal verstehen muss, ist ist im Zweifel ist die Strafe eine Ordnungswidrigkeit,

17:51 SPEAKER_00: die 35000000

17:53 SPEAKER_01: Euro kosten kann. Das ist Das ist eine teure Ordnungswidrigkeit.

17:56 SPEAKER_01: Das ist nicht klar, aber könnte durchaus so in die Richtung gehen, ja. Okay,

18:00 SPEAKER_00: verstanden.

18:01 SPEAKER_00: Und

18:02 SPEAKER_00: klar, es hat was mit der Größe zu tun.

18:05 SPEAKER_00: Heißt das, kann ich mich quasi, also ich setz mich jetzt mal in ein sehr großes Unternehmen, ne? Du hast 3 Metall gesagt, für diesen 35000000

18:12 SPEAKER_00: irgendwie Peanuts.

18:15 SPEAKER_00: Kann ich dann als große Unternehmer fast sagen, ja, die 35000000 zahlen wir, wir machen einfach weiter oder es ist dann so, dass die EU, dass ich quasi einmal die Strafe zahle,

18:24 SPEAKER_00: aber auch quasi dann nicht weitermachen kann, sondern es irgendwie überprüft wird und dann bei Weiterführen

18:31 SPEAKER_00: dieses,

18:32 SPEAKER_00: ja, dieses dieses Prozesses oder was auch immer ich eben tue, bekomme ich immer wieder diese Strafe oder wie kann ich das sehen oder verstehen?

18:39 SPEAKER_01: Ja, das ist etwas komplizierter.

18:42 SPEAKER_01: Wichtig zu wissen ist vor allem diese 35000000 habe ich nur plakativ genannt. Es gibt auch noch eine Vorschrift, die sagt, ich glaube, es sind 7 Prozent

18:51 SPEAKER_01: bei verbotener KI des Gruppenjahresumsatzes.

18:56 SPEAKER_01: Das kann natürlich wesentlich höher sein als 35. Höher, ja. Millionen, ne.

19:00 SPEAKER_01: Und

19:01 SPEAKER_01: dass dass das wirklich eingehalten wird, selbst wenn's immer gezahlt wird. Mhm. Also Du Du wenn Du hingehst, das Ordnungswidrigkeit

19:10 SPEAKER_01: begehst, Geld zahlst, wieder machst und so weiter und so fort, dann

19:14 SPEAKER_01: wirst Du wahrscheinlich irgendwann ins Gefängnis gehen müssen und also beziehungsweise dein Geschäftsführer und dann wird das Ganze erzwungen, erzwingungshaft.

19:21 SPEAKER_00: Das heißt, es ist, ich sag mal, wieder ein Auto denken, wenn ich mein Auto im Halteverbot

19:27 SPEAKER_00: stehen habe.

19:28 SPEAKER_00: Und es ist nicht so, dass dann einmal das Knöllchen drankommt und dafür darf ich jetzt 3 Monate quasi kostenlos parken. Das kommt quasi immer wieder ein Knöllchen dran und irgendwann bekomme ich richtig Probleme. Genau. Okay.

19:39 SPEAKER_00: Aber die meisten Hörer und Hörerinnen sind ja keine, nicht die die die die Konzern

19:45 SPEAKER_00: Konzerne, würde ich sagen, sondern kleine mittelständische Unternehmen.

19:49 SPEAKER_00: Das heißt aber trotzdem für mich, es gibt diese Pflicht schon seit Februar 20 25,

19:55 SPEAKER_00: Wenn

19:56 SPEAKER_00: meine Mitarbeitenden oder ich selbst Mist baue,

19:59 SPEAKER_00: kann's auch jetzt schon potenzielle

20:02 SPEAKER_00: Strafen geben.

20:03 SPEAKER_00: Es gibt aber noch nicht die Überwachungs

20:07 SPEAKER_00: Wie

20:08 SPEAKER_00: heißt das denn praktisch? Also jetzt angenommen, ich nutze Hochrisiko

20:12 SPEAKER_00: KI und hab irgend ein System,

20:15 SPEAKER_00: meine Mitarbeitenden zu überwachen und zu gucken, ob die irgendwie

20:18 SPEAKER_00: zu viel Kaffee trinken, Kaffeepausen machen und

20:21 SPEAKER_00: was auch immer, was, glaub ich, unter Hochrisiko oder verbotener KI fallen würde.

20:26 SPEAKER_00: Jetzt gibt's ja keine Aufsichtsbehörde.

20:28 SPEAKER_00: Kann ich's dann einfach trotzdem machen oder kriege ich dann erst ein Problem, wenn's die Aufsichtsbehörde gibt oder kann ich so lange machen, bis es die Aufsichtsbehörde gibt?

20:36 SPEAKER_00: Wie ist das denn? Also

20:38 SPEAKER_01: wahrscheinlich wird man erst mal Probleme,

20:40 SPEAKER_01: erst dann Probleme bekommen mit der Aufsichtsbehörde, wenn sie scharf geschaltet ist sozusagen. In dem Bereich sind natürlich auch noch andere Aufsichtsbehörden

20:49 SPEAKER_01: am Start, zum Beispiel datenschutzrechtliche

20:51 SPEAKER_01: Aufsichtsbehörden,

20:52 SPEAKER_01: die ja jetzt schon dann einschalten könnten.

20:56 SPEAKER_01: Genau, aber das verjährt ja nicht. Das heißt, wenn im nächsten Jahr die Bundesnetzagentur

21:01 SPEAKER_01: zum Beispiel als Aufsichtsbehörde dann anfängt zu arbeiten und kriegt dann 50 Beschwerden hier seit einem Jahr setzt er die und die KI ein, dann werden die dem auch nachgehen. Und

21:11 SPEAKER_00: dann ist, wenn Du es länger eingesetzt hast, ist natürlich dann die Strafe wahrscheinlich auch höher, als wenn Du es nur ganz kurz eingesetzt hast. Also ganz wichtig für mich als deutsches Unternehmen und das Gleiche gilt in Österreich, weil wir auch Hörer und Hörer in Österreich haben, ich muss mich heute an das Gesetz halten. Ich bin heute

21:29 SPEAKER_00: als Geschäftsführer,

21:31 SPEAKER_00: Geschäftsführerin verantwortlich,

21:32 SPEAKER_00: dass alle meine Mitarbeitenden,

21:34 SPEAKER_00: die KI verwenden,

21:35 SPEAKER_00: auch die notwendige Kompetenz besitzen. Das Kompetenz ist haben wir definiert,

21:40 SPEAKER_00: sonst kann ich wirkliche Probleme bekommen,

21:43 SPEAKER_00: sollte es also heute schon sehr ernst nehmen, auch wenn es diese Aufsichtsbehörden

21:46 SPEAKER_01: in dem Sinn noch nicht gibt oder nicht definiert sind. Genau und es gibt noch einen zweiten Bereich, in dem es wichtig ist, das ist nämlich der zivilrechtliche Bereich. Also wenn jetzt irgendein Schaden entsteht,

21:56 SPEAKER_01: weil,

21:58 SPEAKER_01: also plakatives Beispiel, ich habe ein selbstfahrendes Auto rausgebracht und das selbstfahrende

22:04 SPEAKER_01: Auto, da funktioniert die KI nicht, weil die falsch trainiert wurde oder Ähnliches, dann hafte ich natürlich dafür schon zivilrechtlich,

22:10 SPEAKER_01: ne. Derjenige, der den Schaden dann hat, also der

22:14 SPEAKER_01: gegen den das Auto gefahren ist oder Ähnliches, der kann dann natürlich gegen das Unternehmen vorgehen und sagen,

22:20 SPEAKER_01: Du Geschäftsführer,

22:21 SPEAKER_01: Du hast ja gar nicht dafür

22:24 SPEAKER_01: Sorge getragen oder sichergestellt, dass die Mitarbeitenden überhaupt wussten, wie sie das vernünftig

22:29 SPEAKER_01: einsetzen sollten oder trainieren sollten, dann

22:32 SPEAKER_01: haftest Du im Zweifel als Geschäftsführer dafür sogar persönlich für diesen Schaden.

22:37 SPEAKER_00: Unsicher wegen der neuen EU KI Verordnung? Die Kompetenzpflicht

22:41 SPEAKER_00: für den beruflichen Einsatz von KI Tools ist SnipKI bietet die Lösung. Unsere spezielle Schulung zu Artikel 4 konzipiert mit Rechtsanwälten

22:49 SPEAKER_00: macht dich und dein Team fit.

22:51 SPEAKER_00: Verstehe die rechtlichen Grundlagen und nutze KI Potenziale ohne Risiko. Investiere

22:57 SPEAKER_00: in Rechtssicherheit und Kompetenz.

22:59 SPEAKER_00: Informier dich jetzt über die Schulung auf SlipKI Punkt d e. Wie wird es sein mit der Kontrolle? Also wir haben ja gesagt, es gibt keine in dem Sinn Schulungspflicht.

23:08 SPEAKER_00: Es gibt auch keine Zertifikats

23:10 SPEAKER_00: Pflicht.

23:12 SPEAKER_00: Auf der anderen Seite

23:14 SPEAKER_00: als Arbeitgeber muss ich ja irgendwie auch im Zweifel, wenn was schiefgeht, nachweisen können, dass ich was getan habe. Es wird jetzt aber im Zweifel keiner kommen, der ins Unternehmen

23:26 SPEAKER_00: proaktiv reinkommt und sagt, zeigt mir mal die ganzen Schulungen der Mitarbeitenden und die ganzen Zertifikate.

23:33 SPEAKER_00: Das wird's wahrscheinlich nicht geben, sondern es ist eher, ich sag mal Cover US.

23:38 SPEAKER_00: Ich mach es lieber und hab einen Nachweis, dass ich es gemacht habe, denn für den Fall, dass was passiert,

23:43 SPEAKER_00: weil als Geschäftsführer Geschäftsführerin bin ich ja wahrscheinlich trotzdem auch irgendwie persönlich haftbar für das ganze Thema,

23:49 SPEAKER_00: ergibt es trotzdem Sinn, da gewisse Nachweise zu haben,

23:54 SPEAKER_01: auf der sicheren Seite zu sein? Genau. Also

23:57 SPEAKER_01: eine Dokumentation

23:58 SPEAKER_01: in dem Bereich ist, würde ich sagen, absolut Standard in vielen größeren Unternehmen schon. Das heißt, dass man zum einen, auch wenn man Standards und Richtlinien hat, was was man so an KI benutzt, was benutzt werden dafür, welche Cases und so weiter und so fort, dass man das dokumentiert.

24:16 SPEAKER_01: Dann können sich die Mitarbeitenden daran auch halten. Mhm. Und dann natürlich auch aufzuschreiben,

24:21 SPEAKER_01: der und der Mitarbeiter hat die und die Schulung gemacht, der und der brauchte vielleicht keine, weil er ist Entwickler

24:26 SPEAKER_01: und weiß das so.

24:28 SPEAKER_01: Ja, da hat man im Prinzip eine schöne Mappe, die just in case im Regal steht, die man dann vorzeigen kann, falls mal irgendwann

24:36 SPEAKER_01: etwas passiert. Und

24:39 SPEAKER_00: Du hattest die verschiedenen Bereiche, also wenn man so eine Schulung quasi sich für so Schulungen informiert,

24:44 SPEAKER_00: gibt's da verschiedene

24:46 SPEAKER_00: am Markt, die Elemente, die dann irgendwie drin sein müssen, wenn ich's dann auch

24:51 SPEAKER_00: quasi diese Kompetenz

24:53 SPEAKER_00: interpretiere,

24:54 SPEAKER_00: so wie Du's genannt hast, zum einen eben die ganzen Grundlagen.

24:57 SPEAKER_00: Ich brauche die

24:59 SPEAKER_00: die die den ganzen Ethikbereich,

25:01 SPEAKER_00: dass die quasi Probleme auch verstehen kann. Ich brauch den rechtlichen Teil und ich brauch irgendwie diesen anwendungsbezogenen

25:08 SPEAKER_00: Teil,

25:09 SPEAKER_00: den ich irgendwie meinen

25:11 SPEAKER_00: Mitarbeitern beibringen muss.

25:14 SPEAKER_00: Verstanden.

25:16 SPEAKER_00: Gibt da viele Schulungen. Ich glaub, das Wichtige ist,

25:20 SPEAKER_00: dass also unserer Meinung nach, auch wenn wir sone Schulung im Angebot haben, ja, die übrigens hier von Tobi mitkonzipiert

25:27 SPEAKER_00: wurden,

25:30 SPEAKER_00: Man sollte, glaube ich, als Unternehmen die Motivation haben, seinen Kollegen und Kolleginnen das unabhängig von soner Kompetenzlicht beizubringen, weil's einfach mal eine Verantwortung fürs Unternehmen ist.

25:39 SPEAKER_00: Ja, und

25:42 SPEAKER_00: wir sehen das auch, wenn wir mit Unternehmen sprechen,

25:45 SPEAKER_00: dass es je nachdem, mit wem man spricht im Unternehmen, es unterschiedliche Motivationen gibt. Wenn man jetzt mit' Geschäftsführung

25:52 SPEAKER_00: spricht, im IC Level oder

25:54 SPEAKER_00: Head of Marketings,

25:56 SPEAKER_00: Die haben immer oder fast immer ganz klares Verständnis, wir müssen unseren Leuten was beibringen und

26:02 SPEAKER_00: das geht viel eigentlich darüber hinaus viel mehr, als man in soner Kompetenzschulung die Noten beibringen muss. Weil jetzt sind wir mal ehrlich, unsere Kompetenzschulung geht 2 Stunden lang, was relativ lang ist, manche gehen sogar eine Stunde, die am Markt sind, bin ich selbst nach soner 2 Stunden Schulung, wie wir sie anbieten,

26:18 SPEAKER_00: irgendwie

26:19 SPEAKER_00: so weit, dass ich wirklich KI sinnvoll anwende und

26:23 SPEAKER_00: KI first denke und wirklich ein Impact mit KI auf mein Unternehmen haben werde?

26:28 SPEAKER_00: Wahrscheinlich nicht, ne. Aus dem Grund sind oft die Ansprechpartner für diese Artikel 4 KI Verordnung,

26:34 SPEAKER_00: die Compliance Abteilung, ja, die Head of ITs und so weiter, die halt wirklich sagen, okay,

26:38 SPEAKER_00: wir wollen, dass den Leuten einmal die Grundlagen beibringen und wir wollen halt irgendwie eine Nachweis, eine Dokumentation, dass wir es gemacht haben, auf der sicheren Seite zu sein.

26:46 SPEAKER_00: Aber ich glaub, dieser Artikel 4 KI Verordnung

26:49 SPEAKER_00: kann nicht alles sein und das Wichtige ist, glaube ich, dass die Unternehmen nicht denken, so, jetzt habe ich das irgendwie getan. Jetzt habe ich meine Pflicht erfüllt

26:57 SPEAKER_00: und damit hör ich auf, weil damit bin ich immer noch nicht weit genug gesprungen, weil alle anderen, meine mein Wettbewerb springt im Zweifel zwei- dreimal so weit, indem er halt wirklich

27:08 SPEAKER_00: fokussiert darauf ist, wie ich ein KI First Mindset in der Company hinbekommen muss. Aber klar, es gibt diese diese Kompetenzschulung,

27:17 SPEAKER_00: es gibt die KI Verordnung, die gibt mir als Unternehmer was in die Hand. Aber ich glaub, die wichtige Message ist, es ist nicht genug, nur das zu tun.

27:25 SPEAKER_01: Genau. Und die Frage, ob allein sone Kompetenz schlicht rechtlich schon genug ist oder nicht, ist ja auch total schwammig, ne? Mhm. Weil wir keine wirkliche Vorgabe haben,

27:35 SPEAKER_01: weiß nicht, jeder Mitarbeiter muss 2 Stunden Schulung oder so

27:39 SPEAKER_01: bekommen, das gibt's ja nicht. Das heißt, da kann man auch diskutieren,

27:43 SPEAKER_01: ist das jetzt genug oder nicht?

27:46 SPEAKER_01: In der Regel ist sone Grundlagenschulung

27:50 SPEAKER_01: ein gutes Tool,

27:51 SPEAKER_01: ein gewisses Level zu schaffen und dann muss jedes Unternehmen noch mal für sich und wahrscheinlich auch für jeden Bereich im Unternehmen schauen, macht's trotzdem Sinn, dass die noch weitere Schulungen darüber hinaus bekommen oder sich irgendwie anders fortbilden?

28:04 SPEAKER_01: Weil wie gesagt,

28:06 SPEAKER_01: ein 1 Marketingabteilung

28:07 SPEAKER_01: ist wahrscheinlich was ganz anderes als irgendwelche IT Anwender. Mhm.

28:12 SPEAKER_01: Das

28:13 SPEAKER_01: einheitlich

28:14 SPEAKER_01: irgendwie

28:15 SPEAKER_01: hinzubekommen, ist schwierig und deswegen muss man den Bedarf vielleicht auch gegebenenfalls im Unternehmen anpassen, je nachdem, was der Mitarbeitende grade macht. Mhm. Was müssen wir noch alles wissen zum Artikel 4 KI Verordnung?

28:28 SPEAKER_01: Ja, also

28:30 SPEAKER_01: wir haben ja viel darüber gesprochen,

28:33 SPEAKER_01: was KI Kompetenz eigentlich ist. Mhm.

28:36 SPEAKER_01: Können wir ganz kurz noch sagen, was

28:39 SPEAKER_01: aus unserer Sicht oder aus meiner Sicht so die Best Practices sind, damit ich

28:44 SPEAKER_01: sinnvoll

28:45 SPEAKER_01: KI im Unternehmen implementieren kann.

28:49 SPEAKER_01: Das ist zum einen, das habe ich eben schon angesprochen, Standards und Richtlinien,

28:53 SPEAKER_01: denn wir wissen aus vielen Studien sehr genau, dass, wenn es keine Standards und Richtlinien gibt, die Mitarbeitenden hingehen und einfach irgendeine KI irgendwie verwenden.

29:02 SPEAKER_01: Das heißt, ob das jetzt datenschutzkonform

29:04 SPEAKER_01: ist, ob irgendwelche Geschäftsgeheimnisse

29:19 SPEAKER_00: gibt hoffentlich nicht so viele Unternehmen, aber es gibt ein paar, die sagen, nein, bei uns gibt's keine KI.

29:23 SPEAKER_00: So, ihr dürft keine KI verwenden.

29:26 SPEAKER_00: Jetzt sieht die Realität, wie Du sagst, anders aus. Es gibt ein ganz großes Thema ist Schatten KI. Das heißt, jeder,

29:33 SPEAKER_00: Ganz viele Leute nutzen einfach KI. Da nutzen sie den privaten ChatGPT Account. Da ist im Zweifel nicht ausgestellt, dass nicht auf den Daten gelernt werden kann und so weiter und so fort. Das heißt, was übrigens ein 1 Thema ist, warum oft bei Studien rauskommt, dass Unternehmen keinen positiven ROI haben

29:50 SPEAKER_00: als Gesamtunternehmen,

29:52 SPEAKER_00: weil halt der positive ROI

29:54 SPEAKER_00: bei den Kollegen und Kolleginnen ist, die es privat nutzen und jetzt im Homeoffice 3 Stunden früher Feierabend machen, dann wird's auch eben auf Gesamtunternehmensebene

30:03 SPEAKER_00: nicht gemessen. Aus dem Grund braucht es diese Guidelines und Richtlinien, Schulungen, damit ich auch als Unternehmen wirklich davon profitiere.

30:10 SPEAKER_00: Aber

30:11 SPEAKER_00: angenommen, also der der Fall, ich sag als Unternehmen, es gibt bei uns kein KI, keiner darf's nutzen. Jetzt machen's die Mitarbeitenden aber trotzdem

30:19 SPEAKER_00: und bauen Mist.

30:21 SPEAKER_00: Kann ich dann als Geschäftsführung sagen,

30:24 SPEAKER_00: ich hab's ja gesagt, das darf man nicht und damit bin ich jetzt fein raus oder bekomme ich dann trotzdem Probleme, weil die Leute das gemacht haben? Ja, die Frage ist, ob du deine Kompetenz,

30:32 SPEAKER_01: also die Pflicht, dass deine Mitarbeitenden KI kompetent sind,

30:36 SPEAKER_01: dann eingehalten hast. Wahrscheinlich schon,

30:39 SPEAKER_01: weil es ja niemanden gibt, der KI offiziell benutzt. Das heißt, wenn du gesagt hast, es benutzt keiner KI, deswegen muss ich auch niemanden schulen,

30:48 SPEAKER_01: okay, dann kannst du dich möglicherweise exkulpieren.

30:51 SPEAKER_01: Ob das dann irgendwie arbeitsrechtlich noch mal andere Thematiken

30:55 SPEAKER_01: tangiert...

30:57 SPEAKER_00: Dass es überhaupt keinen Sinn ergibt, ist glaube ich auch klar im

31:01 SPEAKER_01: Endeffekt. Profile

31:02 SPEAKER_00: wird es am Markt nicht mehr geben, die Genau, aber das heißt umgedreht,

31:06 SPEAKER_00: wenn ich quasi KI

31:09 SPEAKER_00: erlaube,

31:10 SPEAKER_00: was ich hoffentlich tue als Unternehmen,

31:12 SPEAKER_00: muss ich die Leute befähigen dazu,

31:15 SPEAKER_00: sollte dann aber auch gewisse Vorgaben haben für das Unternehmen, was eben geht und nicht geht. Dann habe ich nämlich einmal meine meine Kompetenzpflicht

31:23 SPEAKER_00: erfüllt, indem die Leute Leuten beigebracht habe,

31:26 SPEAKER_00: ja, wie das alles funktioniert und was sie achten müssen. Auf der anderen Seite habe ich klare Vorgaben gemacht und wenn die Leute dann gegen meine Vorgaben noch verstoßen, dann

31:35 SPEAKER_00: habe ich erst mal als Geschäftsführung wahrscheinlich alles getan, was ich tun kann und bin dann wahrscheinlich

31:40 SPEAKER_01: auch raus. Genau, das

31:43 SPEAKER_01: würde ich so unterschreiben,

31:44 SPEAKER_01: wobei für mich gar nicht so sehr der Schutz im Vordergrund steht, sondern tatsächlich auch die Wirksamkeit der KI. Wenn

31:51 SPEAKER_01: ich mir, wenn ich einen Mitarbeitenden habe, der sich dezidiert anschaut, für den und den Case macht das und das Tool am meisten Sinn, Mhm. Weil's am effizientesten ist oder am günstigsten oder was auch immer,

32:04 SPEAKER_01: dann sollen die Leute auch das benutzen und nicht was anderes, ne. So kannst Du natürlich dann auch viel mehr steuern, Mhm.

32:11 SPEAKER_01: Ja, wie ressourcensparend

32:13 SPEAKER_01: dein Unternehmen agiert und wie effizient und gut letztlich, ne? Man kann sie auch

32:19 SPEAKER_00: beliebig spitz oder breit fassen, diese diese Vorgaben. Genau. Also ich glaub, was ganz wichtig ist, ist das ganze Thema

32:26 SPEAKER_00: Datenschutz,

32:27 SPEAKER_00: ja, dass ich halt in irgendwie Systeme,

32:29 SPEAKER_00: die auf irgendwelchen, selbst ChatGPT,

32:32 SPEAKER_00: ja, dass dort ausgestellt ist, dass auf Daten gelernt wird, dass das ganz wichtig ist.

32:37 SPEAKER_00: Oder ich halt irgendwelche Enterprise Accounts hab, wo das ohnehin nicht so ist. Aber vor allem, welche Unternehmensdaten reingegeben werden können allgemein,

32:44 SPEAKER_00: ne, unabhängig vom Tool und welche nicht. Das ist, glaub ich, sehr wichtig. Also also

32:49 SPEAKER_00: wir sehen, dass die Unternehmen eigentlich am erfolgreichsten sind, die ganz

32:53 SPEAKER_00: klar von oben definieren,

32:55 SPEAKER_00: wir wollen KI. KI ist absolut wichtig. Wir wollen irgendwie ein KI First Mindset haben und wir haben eine KI Strategie. Wir haben Guidelines für die Mitarbeitenden, dass die Mitarbeitenden noch ein Rahmen haben, in dem sie sich sicher fühlen,

33:08 SPEAKER_00: weil viele haben ja auch irgendwie dann das Problem, ja,

33:11 SPEAKER_00: darf ich irgendwie zeigen, dass ich hier KI genutzt hab? Werde ich dann irgendwie

33:15 SPEAKER_00: das irgendwie negativ gesehen vom Chef oder meiner Chefin?

33:19 SPEAKER_00: Aber auch diese Freiheit zu lassen und das eben im Rahmen dieser dieser

33:23 SPEAKER_00: dieser Vorgaben,

33:25 SPEAKER_00: die besten Tools auszuprobieren,

33:26 SPEAKER_00: ne? So lang ich halt, ne, ich finde ein neues Tool und das soll ich ausprobieren dürfen, aber ich muss halt wissen, was da rein darf und was nicht rein darf. Und dieser Top Down und gleichzeitiger Bottom-up Ansatz

33:53 SPEAKER_01: die mit der KI arbeitet, die Möglichkeit gibt, verschiedene KI Tools zu testen, damit sie dann nachher sagen, welches KI Tool eigentlich in die Richtlinie geschrieben werden soll,

34:02 SPEAKER_01: weil sie ja letztlich damit arbeiten. Es macht ja keinen Sinn, wenn das Ski Level vorgibt, ihr müsst damit arbeiten

34:08 SPEAKER_00: und die Mitarbeitenden finden das Tool dann aber doof. Mhm. Also es muss auch son bisschen, ich sag mal, ein lebendes Dokument sein. Es ist jetzt nicht so und das macht's auch son bisschen fairerweise auch ein bisschen schwer für viele IT Abteilungen und auch Compliance Abteilungen, weil vorher hast Du halt gesagt, okay, wir nutzen jetzt irgendwie dieses Tool für die nächsten 5 Jahre und das sind die Regeln und fertig und dann schauen wir in 5 Jahren mal wieder rein, was es ein neues am Markt gibt. Eigentlich ist das ein

34:32 SPEAKER_00: lebendes Dokument, was sich kontinuierlich weiterentwickeln muss, wahrscheinlich

34:37 SPEAKER_00: maximal

34:38 SPEAKER_00: alle 6 Monate

34:40 SPEAKER_00: noch mal wirklich kritisch überprüft werden muss, praktisch wahrscheinlich sogar alle 3 Monate. Klar kann ich nicht als IT unternehmensweit alle 3 Monate neue Tools einführen,

34:48 SPEAKER_00: aber eben potenziell in verschiedenen Abteilungen für verschiedene Aufgabenbereiche,

34:52 SPEAKER_00: für verschiedene Leute

34:54 SPEAKER_00: da zumindest die Flexibilität da sein muss, dass es eben ja möglich ist. Ja. Ja. Das das ist ein guter Punkt. So

35:02 SPEAKER_01: wie son Standard oder Richtlinien ein lebendes Dokument ist, was immer wieder irgendwie aktualisiert werden muss, so wissen wir bei der KI

35:10 SPEAKER_01: Kompetenzpflicht

35:11 SPEAKER_01: natürlich auch, dass so

35:14 SPEAKER_01: Schulungen beispielsweise oder sich selber was beibringen, dass das kontinuierlich

35:18 SPEAKER_01: oder wenigstens alle 6 Monate oder so stattfinden soll.

35:22 SPEAKER_01: Weil eine Kompetenz, die ich mir jetzt zum jetzigen Zeitpunkt aufbaue, ist vielleicht in 6 Monaten gar nichts mehr wert. Ja. Das heißt,

35:31 SPEAKER_01: der auch so interpretier ich das, der EU Gesetzgeber

35:34 SPEAKER_01: sieht, dass das entweder ein kontinuierliches Lernen sein muss oder wenigstens ein halbjähriges,

35:41 SPEAKER_01: quartalsmäßiges,

35:42 SPEAKER_01: jähriges. Also wie auch immer, aber man muss am Ball bleiben. Mhm. Okay.

35:47 SPEAKER_00: Haben wir sonst noch was vergessen?

35:51 SPEAKER_01: Wir können in viele Details noch weiter reingehen.

35:54 SPEAKER_01: Mir macht das großen Spaß, darüber zu sprechen, aber ich vermute,

35:58 SPEAKER_01: für son groben Überblick ist das jetzt schon mal ganz gut gewesen. Also ich hab die Message ist, jeder Unternehmer,

36:06 SPEAKER_00: Unternehmerin,

36:07 SPEAKER_00: Geschäftsführer, Geschäftsführerin,

36:09 SPEAKER_00: egal

36:10 SPEAKER_00: welcher Größe des Unternehmens ist,

36:13 SPEAKER_00: hat eine Kompetenzpflicht

36:15 SPEAKER_00: für die alle Mitarbeitenden mit die mit KI hantieren und das Ganze schon seit Februar 20 25

36:21 SPEAKER_00: mit potenziell hohen Strafen.

36:24 SPEAKER_00: Aber unserer Meinung nach sollte die Motivation,

36:28 SPEAKER_00: KI ins Unternehmen zu zu treiben, eine Kompetenz bei den Mitarbeitenden herzustellen,

36:33 SPEAKER_00: nicht dieser EU AI Act sein, sondern einfach mein unternehmerisches

36:38 SPEAKER_00: Verständnis

36:39 SPEAKER_00: darüber, dass ich mich am Markt differenzieren

36:41 SPEAKER_00: muss und dafür eben KI nutzen kann. Und zwar einmal für, ja, effizientere

36:47 SPEAKER_00: Erledigungen von Aufgaben, aber vor allem auch, und das ist wichtig und das versuchen wir ja immer zu propagieren,

36:53 SPEAKER_00: zu verstehen, was ich durch KI für Superpowers

36:55 SPEAKER_00: bekomme und jetzt heute damit alles machen kann, was ich vorher vielleicht nicht machen konnte.

37:00 SPEAKER_00: Aber es gibt doch eben diesen diese KI Verordnung und an die muss ich mich halten. Und auch für die, die es vielleicht noch nicht

37:07 SPEAKER_00: verstanden haben,

37:09 SPEAKER_00: hoffentlich

37:09 SPEAKER_00: durch den

37:11 SPEAKER_00: EU Push,

37:13 SPEAKER_00: ja, findet da ein kleiner Mindset Change statt.

37:16 SPEAKER_00: Damit sind wir am Ende dieser Episode.

37:20 SPEAKER_00: Die 2. Von 3,

37:22 SPEAKER_00: ja, Episoden zu rechtlichen Themen. In der nächsten Episode erwartet euch dann das ganze Thema Urheberrecht,

37:29 SPEAKER_00: was auch superspannend

37:30 SPEAKER_00: ist, also auch ganz

37:32 SPEAKER_00: wichtig, dass ihr da wieder einschaltet.

37:34 SPEAKER_00: Wenn euch der Podcast gefallen hat heute mit Tobi und mir, liket, kommentiert, abonniert den Podcast. Ganz wichtig, dass ihr die nächste Folge auch nicht verpasst.

37:43 SPEAKER_00: Und

37:44 SPEAKER_00: bis dahin

37:45 SPEAKER_00: viele liebe Grüße und wir sehen uns nächste Woche. Tschau.

37:50 SPEAKER_03: Cointelligence

37:51 SPEAKER_03: ist eine Produktion von thekey Academy in Zusammenarbeit mit SnipKI.

37:55 SPEAKER_03: Produziert bei Studio Co in Berlin.

37:57 SPEAKER_03: Produktion und Regie, Christina Manuel, Fuate Watli und Elias Robe.

38:05 SPEAKER_03: Redaktion und Moderation Benjamin Wüstenhagen und Moritz Heininger.

38:09 SPEAKER_03: Abonniere uns auf Spotify,

38:11 SPEAKER_03: Apple Podcasts oder YouTube.

38:13 SPEAKER_03: Danke fürs Zuhören.