#68: KI-Agent schreibt Kunden: So behältst du die Kontrolle!

0:00 SPEAKER_00: Wir haben einen KI Agenten erlaubt, unseren Kunden zu schreiben. Dann hat er eine interne Nachricht sein echte ökonomische. Und

0:08 SPEAKER_01: das ist leider kein hypothetisches Beispiel.

0:11 SPEAKER_00: Die technische Ursache war schnell gefunden.

0:14 SPEAKER_00: Die unangenehmere

0:15 SPEAKER_00: Frage war, wer hat eigentlich entschieden, dass der erkennt, dass das darf?

0:28 SPEAKER_00: Willkommen zurück zu Co Intellingence, eurem KI Lernpodcast.

0:31 SPEAKER_00: Heute wieder mit Magdalena Beilmann und mir Benjamin Wüstenhagen.

0:36 SPEAKER_00: Wir sind nach wie vor in der Sommeddition

0:39 SPEAKER_00: Folge 68

0:41 SPEAKER_00: und wir haben zuletzt vor 2 Folgen miteinander gesprochen, Maggie, nämlich

0:46 SPEAKER_00: zur Folge 66, da gab's viel gutes Feedback.

0:49 SPEAKER_00: Scheinbar ging es vielen anderen Menschen auch so, dass KI die Arbeit nicht wegzaubert,

0:54 SPEAKER_00: sondern den Bottleneck verschiebt

0:56 SPEAKER_00: und heute soll's darum gehen, wer hat das letzte Wort, wenn KI mitarbeitet?

1:03 SPEAKER_01: Für eine Bestätigung, dass wir nicht alleine sind mit dem Problemchen.

1:09 SPEAKER_01: Okay, sprechen wir über

1:12 SPEAKER_01: KI Output und wie

1:14 SPEAKER_01: der unter anderem

1:16 SPEAKER_01: neue Arbeit erzeugen kann oder auch

1:19 SPEAKER_01: neue Fehler,

1:20 SPEAKER_01: denn das ist auch uns das ein oder andere Mal passiert

1:24 SPEAKER_01: Und vor allem darüber,

1:27 SPEAKER_01: ja, wie verschiebt sich die Verantwortung? Auch darüber haben wir ja schon ein paarmal gesprochen in einigen Folgen

1:33 SPEAKER_01: und

1:34 SPEAKER_01: das wurde bei so einigen Agenten, die wir gebaut haben, recht deutlich, wo die Verantwortung

1:41 SPEAKER_01: bei uns liegt.

1:43 SPEAKER_00: Du hast ja son paar Beispiele mitgebracht.

1:46 SPEAKER_00: Führ uns doch mal durch,

1:48 SPEAKER_00: wo das der Fall war.

1:51 SPEAKER_01: Sprechen wir mal über

1:54 SPEAKER_01: den ersten Agenten, der bei uns ein bisschen

1:56 SPEAKER_01: aus dem Ruder gelaufen ist, würde ich's mal betiteln.

1:59 SPEAKER_01: Wir haben Anfang des Jahres über

2:02 SPEAKER_01: OpenClaw gesprochen,

2:03 SPEAKER_01: auch remote lustigerweise. Jetzt sind wir wieder hier. Ja.

2:06 SPEAKER_00: In' ähnlichen Setup. Es war es war noch schlechter beleuchtet als jetzt.

2:10 SPEAKER_00: Alles Also, wir sehen, ja, wir können gern zurückgehen auf die OpenClaw Folge. Das war wahrscheinlich

2:16 SPEAKER_00: die am schlechtesten produzierte Folge, aber auch heute wird's nicht ganz so gut wie im Studio, aber nur noch gut genug.

2:23 SPEAKER_01: Nächste Woche dann auch wieder mit anständigem Setup, ne?

2:27 SPEAKER_01: Ja, unser erster

2:28 SPEAKER_01: Agent mit direkter Kundenkommunikation

2:31 SPEAKER_01: haben wir

2:33 SPEAKER_01: Anfang früher diesen Jahres gebaut

2:36 SPEAKER_01: und

2:37 SPEAKER_01: der hat dafür gesorgt, dass eine interne Nachricht, die eigentlich nicht für unsere Kunden gedacht war,

2:43 SPEAKER_01: an

2:43 SPEAKER_01: ein paar wenige unserer Kunden rausgesendet wurde.

2:47 SPEAKER_01: War,

2:48 SPEAKER_01: würde ich sagen, keine Kleinigkeit,

2:50 SPEAKER_01: weil es einfach

2:52 SPEAKER_01: unsere Außenwirkung

2:54 SPEAKER_01: beeinflusst.

2:56 SPEAKER_01: War dadurch auch ein wenig peinlich, ehrlich gesagt.

2:58 SPEAKER_01: Vielleicht kannst Du mal erzählen, wie es dazu gekommen ist.

3:02 SPEAKER_00: Ja, wir hatten

3:04 SPEAKER_00: intern... Interne Hinweise

3:06 SPEAKER_00: für den Agenten und der hat das als Arbeitsanweisung

3:09 SPEAKER_00: aufgefasst. Das waren auch die sehr frühen von OpenClaw.

3:12 SPEAKER_00: Man erinnert sich, das war son organisches System,

3:15 SPEAKER_00: von dem jetzt mittlerweile niemand mehr spricht

3:19 SPEAKER_00: und deshalb wurde schon einfach falsch interpretiert und dann gingen irgendwie so kryptische Sachen an unsere Kunden raus, weil wir halt auch recht,

3:26 SPEAKER_00: ja,

3:27 SPEAKER_00: naiv würde ich sagen, das ganze Ding mit dem Kommunikationssystem

3:30 SPEAKER_00: verbunden haben,

3:32 SPEAKER_00: wo auch die Kundenkommunikation

3:34 SPEAKER_00: möglich war.

3:36 SPEAKER_00: Und wir hatten einfach diese Autonomie zu früh eingeräumt, ohne es vorher vernünftig getestet zu haben.

3:44 SPEAKER_00: Glücklicherweise

3:45 SPEAKER_00: waren jetzt keine personenbezogenen Daten dabei. Also, das war jetzt nicht ganz so schlimm, wie Du es gleich gerade

3:50 SPEAKER_00: an die Wand gemalt hast, wobei wir haben da manchmal verschiedene Auffassungen.

3:54 SPEAKER_00: Dennoch,

3:55 SPEAKER_00: der Agent war sehr proaktiv,

3:58 SPEAKER_00: nicht nur produktiv, sondern proaktiv und

4:00 SPEAKER_00: ein bisschen proaktiver als unser eigentlicher Freigabeprozess gewesen wäre.

4:06 SPEAKER_01: Man weiß ja, dass ich gerne mal etwas dramatisch bin in meiner Darstellung.

4:11 SPEAKER_01: Aber letztendlich, man muss ja sagen, aus all dem Unangenehmen

4:16 SPEAKER_01: haben wir ja was gelernt.

4:18 SPEAKER_01: Kommen wir mal zum Positiven.

4:20 SPEAKER_01: Wir haben nämlich

4:22 SPEAKER_01: noch gar nicht so lange her

4:25 SPEAKER_01: quasi ein Agenten gebaut, der technisch

4:28 SPEAKER_01: sehr, sehr ähnlich funktioniert, auch wieder mit direktem Kundenkontakt.

4:32 SPEAKER_01: Und haben den auch auf Basis von diesem

4:35 SPEAKER_01: ersten Agenten gebaut,

4:38 SPEAKER_01: allerdings dann mit den richtigen Regeln.

4:41 SPEAKER_01: Nämlich erst mal

4:43 SPEAKER_01: nicht sehr autonom, auch wenn dir das vielleicht nicht so gefällt.

4:47 SPEAKER_01: Und' längeren Testphase

4:49 SPEAKER_01: und ganz, ganz klaren Regeln,

4:51 SPEAKER_01: dass nichts an irgendeinen Kunden rausgeht, wenn nicht ein klarer Haken drangesetzt wird und das übersprungen wird, wenn nicht 100 Prozent sicher und switneybar ist, dass

5:03 SPEAKER_01: eben an genau diesem Kunden rausgehen soll.

5:06 SPEAKER_00: Ja, da vielleicht auch vielleicht für euch, wir das gemacht. Wir haben sozusagen so aufgesetzt, dass es immer in' spezifischen

5:12 SPEAKER_00: Slack Kanal... Kann man sicherlich auch in Teams aufsetzen... In dem Slack Kanal gibt's ein Post.

5:18 SPEAKER_00: Da steht dann ganz genau drin, was dieser Agent jetzt an den Kunden schicken würde und dann muss ein echter Mensch in Slack mit einem Emoji reagieren

5:28 SPEAKER_00: und diese Reaktion wird dann wieder ausgelesen und wenn dann diese Reaktion da war, dann geht genau dieser Text raus beziehungsweise man kann da noch reingehen, kann seine Korrekturen reinschreiben und dann geht der korrigierte Text raus, sodass...

5:41 SPEAKER_00: Ja, das lässt sich immer durch einen Menschen noch mal durchgeht und wir uns einfach sparen, das selber zu schreiben.

5:48 SPEAKER_00: Ich allerdings

5:49 SPEAKER_00: hab so ein bisschen meine Zweifel, wenn das jetzt jedes Mal das Gleiche ist und ich jedes Mal denselben Text freigebe

5:55 SPEAKER_00: und das Gefühl habe, ja,

5:57 SPEAKER_00: das war schon zum fünfzigsten Mal so, dann war ich vielleicht gar nicht mehr so wenig, dann kann ich auch einfach Copy and Pastement und Text machen und brauch keine Agenten.

6:06 SPEAKER_01: Ich glaube, das Wichtige ist, die Testphase wirklich zu beschränken und das haben wir bei genau diesem Agenten, über den wir gerade sprechen, gemacht.

6:14 SPEAKER_01: Ich glaube, da lief die Testphase

6:16 SPEAKER_01: über 2 Wochen und in denen

6:19 SPEAKER_01: wurde wirklich

6:20 SPEAKER_01: akribisch drauf geachtet von' Menschen,

6:23 SPEAKER_01: was kann eventuell noch optimiert werden, was läuft eventuell falsch.

6:28 SPEAKER_01: Und nach diesen 2 Wochen wurde dann auf volle Autonomie umgestellt, sprich dieser Agent

6:34 SPEAKER_01: geht nicht mehr durch menschliche Hände.

6:37 SPEAKER_00: So, letztlich unser gemeinsames Ziel ist die Autonomie,

6:41 SPEAKER_00: nur diesmal mit' bewussten Freigabeentscheidung.

6:45 SPEAKER_00: Und wir hatten das auch schon in Folge 61, da

6:47 SPEAKER_00: da hatten wir das ganz witzig so beschrieben, dass wir sagen, jeder Agent braucht einen Menschen, der sich ihn kümmert.

6:53 SPEAKER_00: So ein bisschen hatte ich auch da das Gefühl.

6:56 SPEAKER_01: Kann man so sagen. Ja,

6:58 SPEAKER_00: nur...

6:59 SPEAKER_00: Man muss halt dazu sagen, dass der Mensch auch klare Grenzen braucht, Kontrollpunkte und natürlich auch ein Eskalationsweg.

7:05 SPEAKER_00: Den Eskalationsweg

7:07 SPEAKER_00: nutzt der Agent dann zum Menschen hin.

7:10 SPEAKER_00: Also, Frage ist halt, wie viel muss das System bewiesen haben, bevor man den menschlichen Haken in dem Fall entfernt und

7:17 SPEAKER_00: wer darf das auch entscheiden, ob dieser menschliche Haken wegkommt? Waren das deine Entscheidung? Wem hast Du das überlassen?

7:23 SPEAKER_01: In dem Fall war es meine Entscheidung, weil ich diesen Agenten gebaut hab und

7:28 SPEAKER_01: dann letztendlich auch kontrolliert habe und dann irgendwann in die Autonomie geschickt hab.

7:34 SPEAKER_00: Sprich, wenn jetzt... Wenn's ein da Fuck up gibt, dann ist es deine Schuld?

7:38 SPEAKER_01: Im würdvoll ist es dein.

7:42 SPEAKER_00: Fingerpointing.

7:46 SPEAKER_00: Ja. Dennoch,

7:46 SPEAKER_00: ne, es darf nicht zu' Ritual verkommen, aber

7:52 SPEAKER_00: Ja, ich ging es weiter in unserer Autonomie Agenten Saga.

7:57 SPEAKER_01: Wir haben jetzt noch einen Agenten grade laufen, der absolut

8:01 SPEAKER_01: nicht autonom

8:03 SPEAKER_01: ist.

8:05 SPEAKER_01: Kurz das... Warum gibt's diesen Agenten überhaupt?

8:09 SPEAKER_01: Wir

8:10 SPEAKER_01: haben ein recht hohes Supportvolumenaufkommen

8:16 SPEAKER_01: für manuelle Freischaltung von Kursen

8:19 SPEAKER_01: Und

8:20 SPEAKER_01: das wollten wir gerne

8:22 SPEAKER_01: lösen, verringern und haben deswegen eine automatisierte

8:25 SPEAKER_01: Freischaltung gebaut

8:27 SPEAKER_01: plus dann aber auch eine automatisierte Kundennachricht,

8:30 SPEAKER_01: damit Menschen

8:31 SPEAKER_01: Menschen auch eine Information darüber bekommen, dass etwas freigeschaltet wurde.

8:35 SPEAKER_01: Und

8:36 SPEAKER_01: das läuft auch momentan noch komplett über einen manuellen Haken und diese Testphase läuft auch länger.

8:42 SPEAKER_01: Einmal,

8:43 SPEAKER_01: weil es da einen Produktzugang geht

8:46 SPEAKER_01: und auch wieder diese Außenwirkung betroffen ist. Also da haben wir jetzt 2 Parts,

8:52 SPEAKER_01: die dafür sorgen, dass ich diesen Test ein bisschen länger ziehe. Plus die Datengrundlage ist da einfach nicht so groß, weil das nichts ist, was jeden Tag 20 Mal passiert

9:02 SPEAKER_01: und dementsprechend

9:04 SPEAKER_01: mache ich dann lieber noch ein bisschen mit.

9:06 SPEAKER_01: Und ist das auch wieder in Slack gegeated für dich? Ja, das ist auch wieder ein dedizierter Slack Channel, in denen diese Nachrichten laufen.

9:15 SPEAKER_01: Einmal hier, das und das soll freigeschaltet werden,

9:18 SPEAKER_01: weil da da da und diese Kundennachricht würden wir rausschicken.

9:25 SPEAKER_00: Ja, also auch da ist es wieder diese Schutzfunktion

9:29 SPEAKER_00: und hoffentlich nicht das Ritual, dass man einfach nur seinen Haken setzt, egal, was da steht.

9:36 SPEAKER_00: Für mich ist halt immer son bisschen die die die wesentliche Frage, ist dieser Haken dann auch eine Kontrolle

9:42 SPEAKER_00: oder ist das einfach nur, ja, ein Ritual, ein gutes Gefühl? Und ich glaube, wenn's dann zu' Ritual wird, dann kann man aus meiner Sicht den Menschen, den Menschen, dem Agenten in dem Fall auch mehr Autonomie geben.

9:55 SPEAKER_00: Noch ein, ja, ein weiteres Beispiel,

10:00 SPEAKER_00: wo wir keinen... Also keine Rückmeldung haben, aber sozusagen das Nichtmelden zu' Risiko wird. Was hat's damit auf sich?

10:07 SPEAKER_01: Wir

10:08 SPEAKER_01: haben einen

10:10 SPEAKER_01: Wächter

10:11 SPEAKER_01: für unser Supportsystem

10:13 SPEAKER_01: gebaut.

10:14 SPEAKER_00: Das ist auch witzig. Also 1 1 1 KI, die die andere KI kontrolliert.

10:18 SPEAKER_01: Ja, ich mein,

10:20 SPEAKER_01: kommt ja ein paarmal vor in unserem Arbeitsalltag,

10:22 SPEAKER_01: irgendwie so KI Pingpong spielen wir ab und zu mal ganz gerne,

10:26 SPEAKER_01: was meiner Meinung nach auch einfach zu besseren Ergebnissen führt,

10:30 SPEAKER_01: Aber in dem Fall überwacht

10:33 SPEAKER_01: das System

10:34 SPEAKER_01: Intercom in unserem Fall,

10:36 SPEAKER_01: alarmiert uns, wenn

10:38 SPEAKER_01: wirklich sehr dringende Supportanfragen

10:41 SPEAKER_01: reinkommen.

10:42 SPEAKER_00: Genau, Intercom ist ist... Also haben wir schon ein paarmal in den in den

10:46 SPEAKER_00: den Folgen vorher... Intercom ist unser System für den Kundensupport, gibt viele, aber das ist das, was wir zurzeit nutzen.

10:52 SPEAKER_01: Und auch der Wächter

10:54 SPEAKER_01: schreibt dann letztendlich wieder eine Slack Nachricht in' eigenen Channel und

10:59 SPEAKER_01: verlinkt das jeweilige Ticket,

11:01 SPEAKER_01: schlägt auch vor, wie darauf reagiert werden sollte

11:04 SPEAKER_01: und dann liegt's am Menschen,

11:07 SPEAKER_01: zu entscheiden, ob das auch wirklich passieren soll. Letztendlich also ein Agent in dem Fall, der überhaupt nicht nach außen wirkt und deswegen

11:14 SPEAKER_01: war er auch von Anfang an aktiv.

11:18 SPEAKER_00: Und da ist sozusagen das...

11:19 SPEAKER_00: Der Punkt, dass die KI

11:23 SPEAKER_00: die Komplexität verringert

11:25 SPEAKER_00: und einfach Aufmerksamkeit entlastet, wenn wir irgendwie, keine Ahnung, 100 offene Tickets haben und 3 sind wirklich wichtig, dann werden hoffentlich diese 3 nach oben gespült und noch mal gezeigt, da sollten wir uns drum kümmern.

11:38 SPEAKER_00: Und das Urteil darüber, was dringend ist, ist natürlich trotzdem in Regeln und Schwellenwerten. Also das heißt, wir legen fest, was sind die Schwellenwerte, was sind die Regeln,

11:47 SPEAKER_00: dann genau diese Dringlichkeit zu bekommen.

11:52 SPEAKER_00: Dennoch brauchen diese Regeln natürlich einen Owner und müssen nachkalibriert

11:55 SPEAKER_00: werden.

11:58 SPEAKER_00: Ja, echt... Der Wächter arbeitet zuverlässig, aber wir müssen trotzdem zuverlässig kontrollieren,

12:04 SPEAKER_00: was der Wächter nicht sieht. Denn wenn in den 50 Tickets oder 100 Tickets 3 hervorgehoben werden, die aber die falschen Tickets sind, dann hat uns das Ganze auch nichts gebracht und genauso ist es auch andersrum. Wir hatten das erst gestern. Ich hatte son kleinen Mini Agenten aufgesetzt,

12:19 SPEAKER_00: als es als es grad nicht Sommer war, als es busy war und

12:23 SPEAKER_00: zu schauen, wann unsere Webseite down ist, habe ich geguckt, okay, wenn sich so und so viel in so in so 1

12:28 SPEAKER_00: Zeitspanne kein

12:29 SPEAKER_00: kein Mensch anmeldet,

12:31 SPEAKER_00: dann muss ja irgendwas down sein und hab die Durchschnittswerte genommen von den Wochen davor

12:38 SPEAKER_00: und dann gab's son Alert Channel und da kamen jetzt Alerts rein, oh, Website ist down,

12:43 SPEAKER_00: weil halt in dem definierten Zeit... In dem definierten Zeitraum keine Anwendungen reinkamen.

12:48 SPEAKER_00: Aber das war ganz normal, denn es war warm und alle Menschen liegen am See oder verstecken sich hinter der Klimaanlage,

12:55 SPEAKER_00: aber keiner hat Bock, online zu sein.

12:58 SPEAKER_00: Und so kam es, dass die Webseite nicht dauernd war, aber dennoch sich jemand registriert hat. Und oh Wunder, da gab's dann die Frage, wer ist dafür verantwortlich? Wer hat das eingerichtet?

13:08 SPEAKER_00: Wer kümmert sich drum? Auch hier, ne, die Agenten brauchen eine klare Zuordnung

13:14 SPEAKER_00: und wir sind mittlerweile übergegangen.

13:16 SPEAKER_00: Ein Cockpit zu haben wir unser Unternehmen und da gibt's ein Tab.

13:19 SPEAKER_00: Da sind hoffentlich alle Agenten,

13:22 SPEAKER_00: aber ein Großteil der Agenten aufgelistet.

13:25 SPEAKER_00: Steht auch jeweils der Gesundheitsstatus

13:27 SPEAKER_00: dessen und dann demnächst auch der Verantwortliche oder die Verantwortliche.

13:32 SPEAKER_01: Sehr schön erklärt. Ja, so haben wir bei jedem System und jedem Agenten

13:38 SPEAKER_01: auch andere

13:39 SPEAKER_01: Risiken letztendlich.

13:41 SPEAKER_01: Bei manchen Systemen müssen wir darauf achten, dass nichts Falsches rausgeht, dass nichts irgendwie rausgesendet wird und bei anderen...

13:48 SPEAKER_01: Dass wir nicht irgendwas übersehen letztendlich.

13:51 SPEAKER_01: Genau, das ist bei dem Wächter ja die Gefahr. Du sagst, die Aufmerksamkeit wird entlastet,

13:57 SPEAKER_01: was eben auch dafür sorgen kann, dass uns das durch die Finger rutscht.

14:01 SPEAKER_01: Auch da darf man sich halt nicht 100 Prozent drauf verlassen, dass KI alles regelt.

14:07 SPEAKER_00: Fabian, eine automatisierte Prüfung verschiebt die Verantwortung, aber sie löscht sie nicht, ne?

14:15 SPEAKER_00: Was genau? Wir hatten in der letzten in der letzten Episode,

14:18 SPEAKER_00: da hatte Natalie das erwähnt,

14:20 SPEAKER_00: dass es für sie eine sone Epiphanie war,

14:23 SPEAKER_00: als Produktmanagerin

14:24 SPEAKER_00: in' Hackathon

14:25 SPEAKER_00: mit KI in der Lage zu sein, ja, Code zu schreiben. Also wir sind da zusammengekommen,

14:31 SPEAKER_00: hatten so eine Hack Week

14:33 SPEAKER_00: und hatten auch ein Hackathon und da gab's viele, viele Einzellösungen.

14:39 SPEAKER_00: Auch da sind wir schnell vorangekommen,

14:42 SPEAKER_00: aber die Frage ist jetzt, wie kriegt man das Ganze von der Einzellösung zum System?

14:46 SPEAKER_01: Ja, das ist jetzt genau

14:48 SPEAKER_01: die Entwicklung, die wir vom ersten Hackathon

14:51 SPEAKER_01: zum

14:52 SPEAKER_01: zweiten Hackathon

14:54 SPEAKER_01: hinlegen müssen.

14:55 SPEAKER_01: Der 1. Gruppenweite Hackathon war super. Es wurden super viele Menschen

15:00 SPEAKER_01: auf die Idee von KI und Vibecoden gebracht

15:04 SPEAKER_01: und ich glaube, dass das auch an vielen einzelnen Schreibtischen

15:09 SPEAKER_01: schon

15:10 SPEAKER_01: super viel gebracht hat

15:12 SPEAKER_01: und

15:13 SPEAKER_01: sich da Menschen einzeln weiterentwickelt haben,

15:16 SPEAKER_01: Aber es ist halt noch nicht so superviel darüber hinausgegangen und genau das wollen wir jetzt bei den nächsten Hackathons schaffen,

15:23 SPEAKER_01: dass auch wirklich

15:25 SPEAKER_01: unternehmensübergreifend

15:26 SPEAKER_01: oder teamübergreifend

15:28 SPEAKER_01: mehrere Menschen von einem einzelnen Produkt oder System

15:32 SPEAKER_01: profitieren können.

15:34 SPEAKER_00: Ja, jetzt bist Du jetzt bist Du auf den gruppenweiten Hackathon raufgegangen. Ich

15:37 SPEAKER_00: Ich weiß schon... Ich war jetzt erst noch bei unserer Hack Week, die wir intern

15:40 SPEAKER_00: gemacht haben. Da gibt's auch eine eigene Folge zu, glaube ich, vor ein paar Wochen.

15:45 SPEAKER_00: Ähnliches Thema da, aber da da hatten wir schon das geschafft, dass sozusagen

15:49 SPEAKER_00: mehrere Menschen dann an Themen gemeinsam gearbeitet haben und da auch wechselnde Gruppen hatten. Aber ja, wir haben auch in der Gruppe son Hackathon gemacht

15:56 SPEAKER_00: und

15:58 SPEAKER_00: da gibt es tatsächlich jetzt schon auch die Ersten, die sagen, ich möchte das gern mit anderen teilen und andere Menschen, die es von außen gesehen haben, sagen, ich will das auch übernehmen, weil da kommt dann schnell auch die Frage rein, wie schön, dass man dann ein Hackathon macht,

16:12 SPEAKER_00: wie gieße ich das Ganze in eine vernünftige Strategie für das Unternehmen oder auch für die Gruppe und wie schaffe ich es eben, dass aus diesem Einzelwerkzeug

16:20 SPEAKER_00: auf dem einzelnen Schreibtisch ein System wird und welche Policies brauche ich dafür auch?

16:25 SPEAKER_00: Sprich,

16:27 SPEAKER_00: wenn ich damit arbeite mit dem KI Kram, merke ich auch,

16:31 SPEAKER_00: ja, wie sie Organisationen dadurch verändern. Nicht nur das eigene Arbeiten, das eigene Verhalten, sondern auch die Arbeitsweise in Organisationen.

16:39 SPEAKER_01: Ja, letztendlich ist es ja bei Hack Week,

16:42 SPEAKER_01: die wir teamintern oder unternehmensintern

16:45 SPEAKER_01: und Hackathon,

16:47 SPEAKER_01: was gruppenweit ist,

16:49 SPEAKER_01: dasselbe Ziel, was wir haben. Einfach, dass wir mit dem

16:54 SPEAKER_01: Output,

16:56 SPEAKER_01: den wir entstehen lassen,

16:58 SPEAKER_01: mehr Menschen

16:59 SPEAKER_01: erreichen.

17:00 SPEAKER_01: Dass das ganze Unternehmen davon profitiert, dass

17:03 SPEAKER_01: unternehmensübergreifend

17:04 SPEAKER_01: andere Teams davon profitieren.

17:08 SPEAKER_00: Wenn Du jetzt... Du bist ja auch gerade dabei, irgendwie neue Agenten aufzusetzen und brainstormst die ganze Zeit, wie Du deine Prozesse noch weiter

17:15 SPEAKER_00: KI mäßig aufbauen kannst.

17:18 SPEAKER_00: Was sind so für dich die Regeln, die Du unseren Zuschauern, unsere Zuhörer mitgeben kannst,

17:23 SPEAKER_00: die sich bei dir

17:25 SPEAKER_00: irgendwie bewährt haben im letzten halben Jahr?

17:29 SPEAKER_01: Oh, letztendlich

17:30 SPEAKER_01: ist es, glaube ich, eine Lernkurve einfach.

17:34 SPEAKER_01: Das muss ich jetzt nach

17:36 SPEAKER_01: sehr vielen Monaten

17:38 SPEAKER_01: KI so sagen. Es werden einige Fehler passieren,

17:42 SPEAKER_01: trotzdem muss man irgendwo starten und Experimente machen, sich trauen.

17:47 SPEAKER_01: Letztendlich

17:48 SPEAKER_01: ergibt's wahrscheinlich Sinn, wenn man

17:50 SPEAKER_01: erst mal mit'

17:51 SPEAKER_01: MVP,

17:52 SPEAKER_01: mit' mit' kleinen Produkt startet,

17:56 SPEAKER_01: das Risiko möglichst gering zu halten

17:59 SPEAKER_01: und aus den Fehlern, die bei diesem ersten Produkt

18:03 SPEAKER_01: zwangsläufig

18:04 SPEAKER_01: passieren werden,

18:06 SPEAKER_01: lernt und das nächste Produkt, die nächste Optimierung

18:10 SPEAKER_01: einfach dagegen

18:11 SPEAKER_01: wieder vorbereitet.

18:14 SPEAKER_00: Ich würde so mitnehmen, also

18:17 SPEAKER_00: man muss aus meiner Sicht klar haben, was das System selber entscheiden darf. System in Anführungszeichen.

18:22 SPEAKER_00: Wann muss ein Mensch dazu geholt werden und wer darf das Ganze auch stoppen

18:26 SPEAKER_00: oder eben auch weiterentwickeln?

18:30 SPEAKER_00: Aber ja, die Lernkurve, die kann ich bestätigen. Das ist halt nicht auf.

18:35 SPEAKER_01: Ich find's tief nicht. Auch wir sind noch nicht fertig.

18:37 SPEAKER_00: Nee, vielleicht auch als Fehler Frustrationstoleranz.

18:40 SPEAKER_00: Wir hatten das jetzt in den letzten Tagen. Da haben wir uns auch dran gemacht, ein paar neue Dinge zu zu automatisieren.

18:47 SPEAKER_00: Die Kollegin, die bei uns im Support ist, war im Urlaub,

18:50 SPEAKER_00: sprich,

18:52 SPEAKER_00: ich bin... Ich hab mich dann auch dabei erwischt, dass ich ab und zu mal ein Ticket kloße, sagen zu können, ich mache auch mal Support Tickets zu und

19:01 SPEAKER_00: war dann tierisch angenervt

19:04 SPEAKER_00: von der Oberfläche, die wir intern haben in diesem Admin Panel und dachte, das kann das doch scheiße, das muss man doch nicht anders machen. Und dann war der 1.

19:12 SPEAKER_00: Impuls, okay, wir bauen jetzt ein neues Admin Panel mithilfe von KI,

19:17 SPEAKER_00: aber dann hätten wir weder

19:19 SPEAKER_00: die Verantwortung verschoben von uns zu den Entwicklern, die die ganzen Pull Request freigeben

19:24 SPEAKER_00: müssen und dann dies anderes tun als Pull Requests weiterzugeben.

19:28 SPEAKER_00: Pull Request ist das, wenn ich jetzt irgendwie Code committe und noch ein echter Mensch raufschaut,

19:33 SPEAKER_00: dass das alles kein Blödsinn ist und wir haben die Regel intern, dass bei uns 2 echte Menschen raufschauen, bevor wir irgendwas

19:38 SPEAKER_00: in Produktion nehmen.

19:40 SPEAKER_00: Und dann kam die 2. Idee, warte mal ganz kurz,

19:43 SPEAKER_00: bevor wir jetzt ein komplett neues

19:45 SPEAKER_00: Admin Panel bauen, können wir auch

19:47 SPEAKER_00: probieren, es identisch zu lösen.

19:50 SPEAKER_00: Und

19:51 SPEAKER_00: Du warst mein armes Versuchskaninchen

19:54 SPEAKER_00: und hast bestimmt 15 Mal gesagt, geht immer noch nicht.

19:58 SPEAKER_01: Oder bin.

20:00 SPEAKER_01: Ja. Ja. Ich erinner mich, dass ich vor der Podcastfolge erst wieder ein Feedback geschickt hab.

20:05 SPEAKER_01: Diesmal ging's aber, diesmal ging's. Ja, ist genau son tolles Beispiel. Du hattest eine super Idee, wie man etwas über KI löst und

20:14 SPEAKER_01: hast es da reingeprompted

20:16 SPEAKER_01: in

20:16 SPEAKER_01: Codecs oder Code, was auch immer.

20:19 SPEAKER_01: Und ich war diejenige,

20:21 SPEAKER_01: die manuell ausprobieren durfte, ob das dann auch wirklich funktioniert, was da rauskommt.

20:26 SPEAKER_01: Das war ein Pingpong, der jetzt über ein paar Tage ging und

20:30 SPEAKER_01: teilweise auch kräftezehrend war, ehrlich gesagt.

20:34 SPEAKER_00: Ja

20:36 SPEAKER_00: und auch dieses Pattern,

20:38 SPEAKER_00: ich weiß noch nicht, welche... Was die beste Lösung dafür ist, ne? Also

20:41 SPEAKER_00: irgendwie brauchst Du ja manchmal ein zweites paar Augen, was sich so was anguckt. Ja, gerade wenn man jetzt nicht nur in seinem eigenen System umarbeitet, sondern

20:47 SPEAKER_00: sondern auch schauen will, ist das für die wirklichen Anwender.

20:51 SPEAKER_00: Du bist dann so eher die die Betatesterin für den Rest des Teams,

20:56 SPEAKER_00: was es dann später machen darf bei dir im Team. Aber ähnliche Patterns haben wir auch in anderen Bereichen, ne, wo wir interne Systeme bauen

21:05 SPEAKER_00: und wenn die Menschen noch nicht selber daran mitbauen können oder wollen oder

21:11 SPEAKER_00: warum auch immer, dann kann das auch relativ schnell zu 1 hohen Frustration führen,

21:16 SPEAKER_00: die man so in seinem Tunnel, während man irgendwie die Software vorantreibt

21:19 SPEAKER_00: oder die Automation vorantreibt, gar nicht so sieht.

21:23 SPEAKER_00: Auch ein Learning, was ich in den letzten Monaten gemacht habe.

21:27 SPEAKER_01: Das ist gut.

21:28 SPEAKER_01: Und letztendlich mussten wir feststellen,

21:30 SPEAKER_01: dass die QA, also die Qualitätsabnahme

21:32 SPEAKER_01: mit KI, einfach an manchen Stellen noch nicht so funktioniert, dass sie ein Menschen ersetzen könnte.

21:37 SPEAKER_01: Also mit Sicherheit kann man da vielleicht

21:41 SPEAKER_01: bei manchen Ideen erst mal noch eine andere KI drauf ansetzen,

21:44 SPEAKER_01: die richtigen Berechtigungen geben und

21:48 SPEAKER_01: dann testet ein, zweimal eine KI, bevor ein Mensch das tut,

21:51 SPEAKER_01: aber in manchen Bereichen geht das halt auch einfach nicht.

21:55 SPEAKER_00: Wenn Du so

21:57 SPEAKER_00: reflektierst, was im letzten Jahr passiert ist und dir überlegst, wo wir wo wir im nächsten Jahr stehen, glaubst Du, die haben nach wie vor diese menschlichen Dates

22:04 SPEAKER_00: oder glaubst Du, das werden Agenten unter sich selbst ausmachen können?

22:09 SPEAKER_01: Ich glaube, es kommt auf die Aufgabe und den Bereich an. Ich glaube, dass es schon definitiv

22:15 SPEAKER_01: Fälle gibt, in denen

22:17 SPEAKER_01: Agenten

22:18 SPEAKER_01: unter sich arbeiten

22:20 SPEAKER_01: und dann wirklich ein Agententeam

22:23 SPEAKER_01: sich das hin- und herspielt

22:25 SPEAKER_01: und

22:26 SPEAKER_01: es dann eher eine Teamleitung

22:28 SPEAKER_01: gibt in menschlicher Form.

22:31 SPEAKER_01: Aber es gibt auch sicherlich Bereiche,

22:34 SPEAKER_01: da ist ein Developer beispielsweise näher dran.

22:39 SPEAKER_00: Ich beide.

22:41 SPEAKER_00: Und was was für mich jetzt immer klarer wird in dem ganzen KI Thema ist, dass die Technik wird immer weniger wichtig aus meiner Sicht. Also das ganze Thema, wie prompt ich was oder nutze ich jetzt Codex oder Claude oder Kimi oder keine Ahnung was.

22:53 SPEAKER_00: Was aber wichtiger wird, je stärker das in Organisationen

22:58 SPEAKER_00: in,

22:59 SPEAKER_00: ja, im eigenen Arbeitsablauf

23:01 SPEAKER_00: verankert wird, desto mehr muss man sich halt Gedanken machen, wie genau, welche Regeln stelle ich auf? Welche Horistiken habe ich? Wie kann ich meine Lernkurve effizient gestalten?

23:12 SPEAKER_00: Und das ist eigentlich so für mich das, was ich jetzt immer mehr mitnehme

23:16 SPEAKER_00: und wir auch deswegen die Motivation haben, diesen Podcast weiter zu machen. Nicht nur, weil das neueste Modell morgen rauskommt,

23:23 SPEAKER_00: sondern weil wir sozusagen unsere eigenen Lernkurve

23:26 SPEAKER_00: hier weitergeben wollen. An euch, hoffe,

23:29 SPEAKER_00: euch gefällt das. Wenn es so ist, lasst gern jederzeit ein Like da, kommentiert das Ganze,

23:35 SPEAKER_00: sprecht über uns. Meggie, lasse aber die letzten Sätze bei dir

23:40 SPEAKER_00: für deine letzten Wir

23:42 SPEAKER_01: machen den Podcast nicht nur, weil wir dokumentieren möchten,

23:45 SPEAKER_01: was unsere

23:47 SPEAKER_01: Lernreise so bringt, sondern weil wir auch den Austausch schätzen und

23:52 SPEAKER_01: es sehr, sehr

23:54 SPEAKER_01: schön finden, spannend finden, wenn wir Kommentare von euch bekommen.

23:58 SPEAKER_01: Sei es, dass es euch ähnlicher geht oder dass ihr ganz andere Erfahrungen gemacht habt,

24:03 SPEAKER_01: Tipps, Tricks,

24:05 SPEAKER_01: irgendwas. Wir freuen uns über euer Feedback.

24:11 SPEAKER_00: So, lass ich stehen.

24:12 SPEAKER_00: Vielen, vielen Dank und bis zum nächsten Mal.

24:15 SPEAKER_01: Co-Intelligence ist eine Produktion von The Key Academy in Zusammenarbeit mit SnipKI und produziert im Constellation Studio in Berlin. Redaktion und Moderation Benjamin Wüstenhagen,

24:25 SPEAKER_01: Moritz Heininger.

24:26 SPEAKER_01: Und ich, ich bin eine KI, falls ihr das nicht schon längst erraten habt, einfach nur eine Stimme aus dem Algorithmus.

24:32 SPEAKER_01: Aber hey, immerhin eine mit gutem Timing. Wenn ihr mehr darüber erfahren wollt, abonniert diesen Podcast, keine Folge zu verpassen. Danke fürs Zuhören und bis zum nächsten Mal.