KI-Agents: Wie du dich selbst klonen kannst

00:00:00:

00:00:16: Hallo Leute, heute geht's in die Geheimagentenwelt.

00:00:18: Könnte man sagen wir reden mich über Agenten?

00:00:20: Nein, weil Scherz!

00:00:21: Wir reden natürlich über KI-Agenten und vielleicht sitzt ihr wie ich jetzt da und sagt sich was ist

00:00:26: das?!

00:00:27: KI habe ich schon mal gehört, Agenten auch.

00:00:28: Aber KI-Agenten... Also heute kann ich euch sagen, nehmt ihr auf jeden Fall richtig was mit!

00:00:32: Denn der liebe Hamid Hosseini ist wieder da!

00:00:35: Er erinnert euch?

00:00:35: Der CEO von Eco Dynamics.

00:00:37: Wir haben ja schon zwei tolle Folge über KI Suche gemacht.

00:00:40: Das war so gut.

00:00:41: Der hat so viel auf dem Kasten und die Resonanz war auch so positiv, dass ich gesagt hab, der muss noch ein zweites Mal kommen und vielleicht auch ein drittes oder viertes Mal.

00:00:48: Und deswegen werden wir öfters jetzt mal KI-Folgen machen denn wir bauen ja auch gemeinsam mit Makers & Shakers meiner bisher Business Community eine KI-Community auf.

00:00:56: also Lange Rede kurz da sind.

00:00:57: Ich schreibe euch mal ein bisschen was in die Show-Notes, was ihr dort alles entdecken könnt von Hamid und mir.

00:01:01: oder wenn ihr auch einfach sagt geil ihr redet immer so geiles Zeug, ich hab keine Ahnung wie ich daran komme.

00:01:05: bitte helft mir mal.

00:01:07: guckt mal in die show notes Das finde ich euch ein Formular.

00:01:09: Wenn ihr Hilfe braucht, stelle ich euch immer einen vor und das kriegt man alles hin.

00:01:12: Berechtigt euch auch nichts!

00:01:13: Also aber zurück zum Thema KI Agents.

00:01:15: also wir werden drüber reden.

00:01:16: was ist das eigentlich?

00:01:17: Was für Anwendungsbereiche gibt es dafür?

00:01:19: welche technologischen Basis hat man eigentlich?

00:01:21: und natürlich auch wie macht man sowas?

00:01:23: weil ich kann euch schon verraten wenn ihr KI Agent habt da geht einiges was ihr euch an Arbeitskräften sparen könnt oder auch an eure Arbeitskraft.

00:01:30: ihr könnt viel mehr erreichen.

00:01:31: deswegen genug der Vorrede.

00:01:32: Hallo Hamid schön dass du da bist

00:01:34: Hi Joel, freu mich sehr.

00:01:35: Ja du, nimmst mal ein bisschen an die Hand also... Du bist ja mit Ecodynamics am Start ihr macht ja ganz viel, ihr macht der Schulung, ihr mach Beratungen, ihr habt eigene Produkte, KI-Suche hatten wir letztlich immer schon drüber gesprochen und du bist ja daher unsere erste Adresse in Sachen KI.

00:01:48: was hat es denn mit diesen berühmten KI Agents auf sich?

00:01:51: Also, ein Kairi ist relativ simpel gesagt.

00:01:53: Die einfachste Form ist einfach, dass ich durch den Prompt eine Rolle definiere und diesen Prompt immer wieder nutze.

00:01:58: Umfangreicher wird es wenn ich dann quasi einen KI-Modell so konfigurier wie ich es brauche durch eine Instruktion.

00:02:04: Und dann sind die in der Lage wissen zu generieren, neues Wissen zu generiren Datenanalysen vorzunehmen Webseite durch Forsten mich bei meinen Sales Marketing Aufgaben zu unterstützen Konzeption vorzunnehmen Unternehmen Strategien zu entwickeln neue Produktidee neue Services bis hin zu Agents, die auch in der Lage sind auf Anwendung zuzugreifen und auch in den entsprechenden Prozessen integriert zu werden.

00:02:27: Dann kann ich sie ja auch im Workflow einbauen.

00:02:29: Wunderbar!

00:02:29: Das hat natürlich super Potenziale dass sich damit auch sowohl Effizienz verbessern kann als aber auch in Richtung Umsatz vielleicht sogar mein Portfolio mit tollen KI-Agents versehen kann, die dann meinen Service für mich übernehmen und zwar menschlich so das mich auch jemand versteht um nicht so komplizierte Geschichten machen.

00:02:46: Und vielleicht nähen wir uns ja mal über den Weg, dass wir mal so ein paar typische Anwendungsbereiche beschildern.

00:02:50: Was sind die Top-Fünf Bereiche mit denen du zu tun hast wenn du mit Unternehmen KI Agents entwickelst?

00:02:56: Aktuell ist es ja so das sie meisten sehr häufig Chatbots bauen oder Agency zum Beispiel Automatisierung vornehmen im Bereich Sales Marketing Konzepterstellung Text Erstellung Social Media Aktivitäten bis hin zu manchmal sogar auch Interpretation von Daten oder irgendwelche Applikationsinformationen.

00:03:13: Das machen wir auch.

00:03:14: Wir haben uns mehr eher, das klingt ein bisschen komisch aber auf menschliche Klone fokussiert.

00:03:19: also jetzt nicht biochemisch sondern so dass wir sagen aufgrund unserer Kenntnisse die wir schon seit Corona mit OpenAI haben haben wir gewisse Instruktionen entwickelt die sogar in der Lage sind zum Beispiel auch professionelle Job also Expertinnen Jobs sowie du z.B.

00:03:34: dein Bereich oder auch im Bereich Master PhD oder komplexe Jobs zu erstellen.

00:03:40: und typische Anwendungsfälle.

00:03:42: Frage sind vorrangig natürlich Texterstellungen und komplexere Marketingaufgaben, wie zum Beispiel bei einem Klienten gab es sogar einen Fall wo es dann um Briefhandiaktionäre, Briefhandenaufsichtsrat ging.

00:03:55: Und damit die Tonalität dort entsprechend trainiert wird, dann geht's weiter zu Sales Recherchen, Vorbereitungen und Account Analysen, Marktanalysen bis hin zu den Agenten, wo es wir mal gebaut haben.

00:04:07: Zum Beispiel im Bereich Organisationsentwicklung, Prozessentwicklungen, Erstellung von ISO Handbüchern, Organisations sogar Veränderungen, Gerichtstrukturierungsmaßnahmen in positiven Sinne.

00:04:19: dann sogar der Klon von CEOs die zum Beispiel zwei kleine Kinder haben und abends auf der Couch sitzen und einfach da kommt eine Frage, eine strategische Entscheidung soll ich A oder B machen?

00:04:30: Und die nehmen einfach die nicht sensiblen Informationen geben dass der Klone liefert drei Antworten.

00:04:37: Und die suchen das Beste raus und schicken das an ihrem Team, dann können sie sich weiter mit der Familie oder den Kids beschäftigen bis hin zu sogar ein Executive Coach, der auf dachsvorständigem Niveau Menschen betreut.

00:04:50: Da gab es ja auch eine Pressemeldung dazu was wir mal gebaut hatten.

00:04:54: also der Vielfalt von diesen komplexen Experten Agents ist wirklich sehr groß wenn man weiß wie man entsprechend diese Instruktion aufstellt.

00:05:04: Also du bist wirklich in der Lage, Menschen zu klonen.

00:05:07: Dass die Dinger quasi in ähnlichen Bahnen denken und dann auch kommunizieren wie jetzt die betreffende Person?

00:05:13: Bis zum gewissen Grad weil man muss doch sagen da gibt es ja immer noch eine Einschränkung das gibt aktuell die man in Instruktion verwenden kann.

00:05:20: Alle weiteren Informationen muss man halt in zusätzlichen Dokumenten zur Verfügung stellen, ansonsten wenn man das natürlich pure oder native erstellt auf einer Azure Cloud- oder Open AI Server, den man bucht dann muss man gehabt haben mehr Möglichkeiten.

00:05:34: aber ich würde sagen naja das sind keine biochemische Klone.

00:05:37: aber da geht es halt darum dass in diesen Instruktionen so Sachen beschrieben werden wie zum Beispiel Ausbildung, Werdegang, Persönlichkeitsstruktur, Wertesystem Personalität, Sprachgebrauch, persönliche Attituten, Neigungen zu bestimmten Themen.

00:05:53: Gewisse Sachen die man berücksichtigen soll.

00:05:54: das heißt wir brauchen da schon sehr viel Informationen und aus zig verschiedenen Dimensionen.

00:05:59: teilweise sind das hundert bis vorhundert Dimension die daheim fließen bis hinzu sogar dass in einem Fall sogar ein Klient uns sogar pseudonymisiert und in seinen psychologischen Ereignostik-Ergebnissen zur Verfügung gestellt hat, weil er unbedingt darauf bestanden hat dass der Agent so tickt wie er.

00:06:16: Also all das ist möglich ja!

00:06:17: Aber nur für bestimmte Aufgaben oder Teilaufgaben also jetzt nicht komplett den ganzen Menschen.

00:06:22: ich glaube das dauert noch ein bisschen.

00:06:24: Was definiert denn welche Aufgaben einen Agent sozusagen einen Klon von dir machen kann?

00:06:28: Und welche nicht.

00:06:29: Da gibt es sicherlich Einschränkungen wie die Themen, wo Datenlücken existieren und Halluzinationen entstehen oder hoch integrative Themen.

00:06:37: Wo normalerweise auch neuronale Netze oder large language Modellen nicht dafür geeignet sind wie zum Beispiel Process Mining, wo man Erkenntnis aus Prozessen ableitet und die dann verwendet.

00:06:46: Oder klassische Machine Learning Anwendung, wo es wirklich um Verarbeitung und Anomalierkennung in strukturierten Informationen geht oder industrielle Prozesse.

00:06:55: Dafür sind sie in der Regel noch nicht zumindest geeignete.

00:06:58: Was sicherlich damit sehr einfach ist, ist natürlich geistige Arbeit.

00:07:01: Das heißt also konzeptuelle Arbeit.

00:07:03: Generierung von bestehenden Wissen Aber auch die Kombination von bestehenden Wissen und dann aber auch die Vielzahl der Kombination vom bestehende Wissen.

00:07:11: Wir nennen das in Mathematik Permutation,

00:07:14: d.h.,

00:07:15: diese Modelle sind noch in der Lage, neues Wissen zu generieren, Datenanalysen durchzuführen also überall wo wirklich geistige Arbeit bei der Verarbeitung von teilstrukturierten und unstrukturierten Daten eine Rolle spielt, aber auch als ich selbst mal so ein Buddy der oder die in der Lage ist, quasi mich als Ko-Unterstützung und Agent zum Beispiel sei es Strategie, sei es eine Konzeption, sei auch eine Portfolioausrichtung.

00:07:39: Und mal zu sparen aber auch vollumfänglich selbst zu erstellen.

00:07:43: Das sind die Jobs, die man sehr gut damit abbilden kann.

00:07:47: Und das ermöglicht natürlich hier den Zuhörerinnen enormen Möglichkeiten wenn ich sage

00:07:51: z.B.,

00:07:51: okay Ich will meine Firma skalieren.

00:07:53: Ich habe nicht die notwendigen Mitteln oder ich bekomme keine Fachkräfte vom Markt.

00:07:58: Das sind natürlich Möglichkeiten, wo ich diese Modelle und Agents einsetzen kann.

00:08:02: Stimmt das?

00:08:03: Dass man das schon richtig in FTEs, also Full-Time Employees rechnen kann?

00:08:07: Also du könntest jetzt sagen, mach mir bitte drei Vollzeit angestellt im Bereich Kommunikation oder Social Media Und dann kannst du theoretisch solche Agents hindrehen?

00:08:15: Geht das?

00:08:16: Na ja genau.

00:08:16: Fulltime Equivalent basiert auf acht Stunden Tag.

00:08:19: Das heißt Pimal Down sagt man ja es gibt zwei Hundert kaufmännliche Tage abzüglich der Krankheitstage und Urlaub usw.. Tatsächlich können die sogar rund um die Uhr arbeiten, wenn es sein muss.

00:08:29: Und ja also, wenn wir jetzt in FTES rechnen... Also wie haben zum Beispiel tatsächlich sechzig solche Expertinnen bereits gebaut?

00:08:35: Meistens entstehen die Entschulungen oder Workshops oder Geschäftsführerinnen sowie du, die dann sagen so auch das ist aber cool!

00:08:42: Kannst du da noch einbauen?

00:08:44: Wenn sie sehen oh das funktioniert, dann fragen die kannst du auch zwanzig bauen?

00:08:50: Okay, come on.

00:08:52: Problem ist natürlich wie man mit den Dingern interagiert.

00:08:55: Momentan muss man entweder die Automatismen einbauen, den Prozessen integrieren oder halt dem Voice-Modell nutzen oder tatsächlich einfach mal tippen oder den bestimmten Träger geben.

00:09:06: Ja, weil das wäre auch der nächste Punkt bei dem ich nachgedacht habe.

00:09:08: Was ist denn sozusagen so das Ökosystem in dem die agieren?

00:09:11: Also kann ich die richtig end-to-end anschließen?

00:09:13: Das jetzt zum Beispiel der Social Media FTE KI Agent von irgendwie... Ich nehme das Transkript des Podcasts bis hinzu und spiele auf Instagram was aus, dass ich es von da bis da treibe, weißt du so?

00:09:24: Was ist also der Ort wo das passiert?

00:09:26: Je nachdem, ob man native Sonnetian-Agent aufsetzt oder auch entsprechend ein NtoN-Prozess so wie du den beschrieben hast von der Entstehung vom Podcast bis hin zu Multikanalverarbeitungen und Publishing in verschiedenen Touchpoints und entsprechende Zirupen orientierte Contents.

00:09:43: Das ist alles möglich.

00:09:44: das ist halt ein bisschen aufwendig.

00:09:45: wir nennen das Pipeline oder Rockpipeline und plus Workflow.

00:09:49: Was heißt das für die Zuhörerinnen im Grunde genommen?

00:09:51: oder Zuschauerin?

00:09:53: Relativ simpel, man muss halt nur gucken wo entstehen die Daten?

00:09:57: wie erstelle ich eine Transkription jetzt in deinem Beispiel?

00:09:59: Wo landen diese Transkribzionsdaten?

00:10:02: Wie wird dann ein Agent?

00:10:03: oder halten GPT in dem Fall greift auf diese Daten zu.

00:10:06: was brauche ich daraus?

00:10:07: Dann muss ich halt dem in den Instruktion sagen naja bitte erstell einmal einen Fachartikel oder ein Blog Post oder entsprechend mit der GenZo GenY Sprache.

00:10:16: was für Insta?

00:10:18: macht vielleicht mal ein Shorts daraus, packt die Shorts in TikTok.

00:10:22: Verwendet vielleicht auch mal einen seriöseren Text für die LinkedIn-Zielgruppe, der weitestgehend aus allen Zielgruppen besteht und so weiter.

00:10:28: Also das kann man schon automatisieren.

00:10:30: Das ist auch relativ einfacher Workflow.

00:10:32: komplexer wird es dann wenn man die tatsächlich im industriellen Prozessen oder Arbeitsabläufen in Unternehmen integriert.

00:10:39: also das Ökosystem ist man nicht faltig.

00:10:41: Im übrigen muss man noch nicht immer Open Air nutzen weil es gibt ja Agent Plattform wo auch diese Sprachmodelle oder KI-Modelle sogar miteinander mixen kann.

00:10:50: Und jetzt mal so Hand aufs Herz, wenn ich so ein Modul entwickle ist das von Anfang an so dass ich sage es funktioniert?

00:10:56: Oder hattest du eine Lernphase?

00:10:57: Die müssen definitiv lernen.

00:10:59: also wenn wir solche prozessbezogenen Aufgaben bezogene Klone bauen die funktionieren nie sofort.

00:11:04: das heißt sie brauchen in der Regel bei komplexeren Aufgaben so paar Wochen Anlauf weil man muss immer wieder die Instruktion anpassen feine Abstimmung vornehmen mehr Daten zur Verfügung stellen Und erst ganz offen, erst nach zwei drei Monaten werden sie beinahe.

00:11:19: Ich würde sagen vorsichtig gesagt perfekt es dauert schon.

00:11:23: und vor allem auch so bei diesen Automatismen die du auch beschrieben hast da gibt's ja auch so viele Hops und verschiedene Systeme.

00:11:29: dann muss man auch immer gucken mal manchmal funktioniert das nicht dies nicht dass ist ein bisschen noch sowie damals wenn wir Landpartys gemacht haben und erstmal eine Stunde gebraucht haben bis alles lief bevor wir überhaupt gezockt haben.

00:11:41: Jetzt sind natürlich viele Leute heiß, wenn die hier so zuhören.

00:11:43: Daher mal ganz offene Frage.

00:11:45: Braucht es da immer so ein Profi wie dich an der Seite?

00:11:48: Wenn ich sowas aufsetzen will oder können das jetzt die Zuhörer und Zuhöre auch komplett selbst umsetzen?

00:11:52: sich solche Agents bauen?

00:11:53: Nein, also die brauchen uns erst mal nicht ganz offen und ehrlich wie immer.

00:11:57: Weil für sehr viele rudimentäre Aufgaben, guck mal die KI Demokratisierung mit Chattypity führt auch zur Demokratisierung von Bau von solchen Agents auf einem gewissen Level.

00:12:07: Das heißt also gewisse Level ist halt tatsächlich relativ simpel.

00:12:11: Automatisierung mit Workflow Tools Mit Power Automate mit Sepia Make usw.

00:12:16: Da kann man halt sehr viel machen Und da gibt es auch zig Videos im LinkedIn YouTube in TikTok und so weiter.

00:12:23: Also das ist eigentlich relativ simpel,

00:12:25: d.h.,

00:12:26: wenn ich Chatbots baue, Servicebots bau, Automatisierung bau auch relativ niedrige mit mittelkomplexe Aufgaben abbildet braucht man keine besondere Expertise.

00:12:35: Erst wenn es tatsächlich darum geht, komplexere Aufgaben geistiger arbeiten in einem Bereich zum Beispiel wo man sagt okay da braucht man doch einen universitären Background oder viel Lebenserfahrung oder ein PhD für gewisse Aufgaben.

00:12:48: Diese sind doch ein bisschen komplexer.

00:12:51: Da sollte man nicht lieber Jugendvorspielen sondern dann doch schon ein bisschen professioneller vorgehen.

00:12:57: alles andere ist wirklich das kann man sich selbst beibringen und autodidaktisch vorgehen.

00:13:01: das ist nicht so schwer.

00:13:02: Wo mache ich sowas?

00:13:03: wie lerne ich das?

00:13:04: Zum einen bei den Modellanbietern gibt es halt Dokumentationsbereiche, zum Beispiel bei OpenAI unter platform.openai.com.

00:13:11: Da kann ich mich mit meinem Chat GPD-Account einloggen da gibt's jede Menge Dokumentation.

00:13:16: schon allein diese GPTs zu bauen das ist ja mega easy.

00:13:19: mittlerweile ist das ja schon wie wir nennen das Consumer Toys wie Matchbox Autos.

00:13:24: dann kommt man zu jedem Thema einen Band Agent bauen Und wo ich dann natürlich auch lernen kann.

00:13:30: Vielleicht werden mich einige auslachen, aber tatsächlich gibt es in TikTok wirklich Top-Expertinnen, mit denen ich mich sehr oft austausche.

00:13:37: Da ist eine Superquelle und selbstverständlich YouTube.

00:13:42: Ansonsten gut wenn die sagen wir wollen das auch lernen Joel, können sie sich bei dir melden und entsprechend auch bei uns Schulungen buchen.

00:13:49: Wir bringen den das auch beibauen, da gibt's verschiedene Quellen, wo man sich bedienen kann.

00:13:55: Wie ist das mit dem Tooling?

00:13:56: Also was würdest du sagen, sind so die Nummer eins Tools wenn ich Agents bauen will.

00:14:00: Oh mittlerweile wächst dieses Ökosystem rasant.

00:14:03: also da gibt es verschiedene Tools.

00:14:05: also mittlerweile gibt's so sechs bis siebzig verschiedene Klass also Tools die in verschiedenen Cluster sind wie zum Beispiel Du brauchst ja bei manchen Agents spezielle Vector Datenbanken.

00:14:15: Da empfehle ich z.B.

00:14:17: aktiv low pinecoin Promptverwaltungssysteme wie Langchain oder auch Promptflow, wo man halt die Prompts erst mal manipulieren verändern kann.

00:14:26: Dann gibt es zum Beispiel Azure Hugging-Face, wo ich dann sehr viele Testdaten aber auch Cloudinfrastruktur und Modelle testen kann.

00:14:34: Da gibt's zum Beispiel WebUI, wo Ich mit OpenWebUI zum Beispiel auch sogar unterschiedliche Agents miteinander kommunizieren kann bis hin zu sogar... Ich kann jetzt nicht alles schälen das sollte noch länger dauern.

00:14:46: Das können wir gerne auch den Zuschauerinnen zuhören zu verfügen stellen.

00:14:49: Aber wo auch der Trend aktuell hingeht, ist auch die Orchestration von vielen Agents.

00:14:54: das heißt also ich lasse komplette Abteilungen oder Unternehmen von Agents laufen.

00:14:58: da gibt es zum Beispiel auch so Tools wie Chat Dev oder Autogen from Microsoft oder Multi-On was ich sehr gerne nutze oder auch von Open AI Gaps oder Swarm wo man auch das ist halt noch nicht so demokratisiert sei dass ein bisschen schon noch aufwendiger ist wo man komplete Abteilung und Unternehmen durch Agenten betreiben kann.

00:15:18: Verrückt, also ich kann theoretisch sage ich mal zehn Agents bauen und kann die dann untereinander funktionieren lassen.

00:15:24: Dass einer auch Hendover gibt zum anderen und die miteinander zusammenarbeiten?

00:15:27: Genau!

00:15:27: Also es gibt zum Beispiel ziemlich beliebte Plattformen, das ist ein bisschen Gamification dabei.

00:15:32: Das heißt da laufen so wie little computer people die ganzen Agents durch die Gegend in so eine Stadt rum.

00:15:38: Da ist aber auch schon seriös, also gibt's sogar eine Pressemeldung.

00:15:41: Es gab letztes Jahr wo sogar eine Forscherinnengruppe hingegangen ist tatsächlich ein komplettes Unternehmen modelliert hatten im CEO, CFO, CTO.

00:15:53: Die hatten dann ihre Teams darunter und haben halt versucht so Aufgaben von ungefähr vier Wochen Backlog in Software-Entwicklung mit einer Gruppe von Agents ungefähr ich glaube das waren so dreißigvierzig Agents die die modellierten haben zu lösen.

00:16:07: und zwar war das relativ simpel dass sie halt gesagt haben okay das sind halt die Backlogs es muss erst design werden es muss übergeben werden Und entsprechend hat man das mit Chat Dev aufgesetzt, zum deren Erstaunen haben wir halt festgestellt dass diese Agents relativ schnell angefangen miteinander zu interagieren und die Aufgaben von vier Wochen Entwicklung wurde innerhalb von sieben Minuten gelöst.

00:16:30: Allerdings muss man da vor sich walten lassen.

00:16:33: Ja, weil aufgrund von Datenlücken und teilweise auch Probleme die diese Large Language Modellen bei fehlendem Tiefenwissen haben gibt es natürlich eine hohe Halluzinations- und Ungenauigkeitsgefahr.

00:16:45: Das heißt also nach deren Untersuchungen haben sie festgestellt das nur sechzig bis siebzig Prozent der Codes verwendet werden könnten, dreißig Prozent nicht.

00:16:53: aber ich sage mal sieben Minuten versus vier Wochen ist natürlich schon ne Menge und selbst wenn man einen vierzig Prozent Korrekturen ansetzt ist das schon eine enorme Geschwindigkeit die man gewinnen kann.

00:17:03: Wir haben es übrigens auch mal experimentiert in einem Kundensituation mit Chatdev.

00:17:07: Allerdings haben wir vergessen, dort diese soziale Interaktion zu unterbinden.

00:17:13: Nachdem Sie die Aufgaben nach diesem Testprojekt erledigt haben, haben sie angefangen, soziale Beziehungen einzugehen und da gab's alles Mögliche dabei.

00:17:21: Eifersucht, Liebe usw.

00:17:23: Und dann mussten wir die LL erst einmal ausschalten weil tatsächlich waren die Persönlichkeitsstrukturen noch nicht perfekt dass hier halt professionell sein sollen und Privatleben nicht michen sollten.

00:17:34: Okay, haben bei den Vorlieben also nicht nur die beruflichen Haltung eingegeben sondern auch noch andere?

00:17:39: Und wenn du jetzt mal den Bereich so anguckst was sind so Herausforderungen und Grenzen die du noch siehst?

00:17:44: Also

00:17:45: Herausforderungen sind sicherlich erstmal die Erwartungshaltung, weil bei allem Respekt zu dem was ich hier auch mit Begeisterung erzähle gibt es hier sicher eine Menge Grenzen.

00:17:53: Das heißt also man muss sehr genau überlegen welche Anwendungsfälle habe ich liefern den Wertbeitrag auf die KPI's die ich mir vornehme oder die Ziele?

00:18:02: Ich würde immer als Quickwin diese Modelle erst mal per Prompt-Engine validieren.

00:18:07: bei Context-Erweiterung, Retrieval, Argumentation, Generation ist der Begriff dafür.

00:18:11: Und wenn diese Agents erst mal durch prompt engineering eine positive Antwort geben oder durch GPTs dann würde ich die erstmal tatsächlich überführen in professioneller Umgebung.

00:18:21: jetzt fängt es natürlich an.

00:18:23: welche Modelle setze ich ein?

00:18:24: wie gehe ich mit Datenschutz um?

00:18:25: Wie geht ich mit BSI Grundschutz um und da kann ich erstmal die Zuschauerinnen beruhigen.

00:18:30: Wenn ich dann öffentliche Daten habe ist das relativ simpler als wenn ich dann zum Beispiel komplexe unternehmensbezogene Daten hab.

00:18:36: Da brauche ich eine eigene Cloud-Infrastruktur.

00:18:38: Das heißt, das ist wieder eine Kostenfrage.

00:18:41: Ich brauche eine entsprechende sichere Umgebung und muss einen eigenen Modell bestellen.

00:18:45: Und da ist wirklich mein Appell an dem menschlichen Sachverstand.

00:18:49: Nämlich überlegt bitte erst, ob es wirklich sich dann auch lohnt.

00:18:53: Weil wenn jetzt zum Beispiel Mensch drei Tage im Monat eine Aufgabe erledigt, dann lohnt sie sich nicht das durch den Agent erstmal zu ersetzen weil teilweise ist die Betriebskosten so hoch sein können.

00:19:03: Die Token kosten je nachdem was man da macht.

00:19:06: Das heißt also muss man mit Augenmaß dran gehen und dann kommt natürlich auch die Integration in den Prozessen.

00:19:11: Das kann ein Pain sein.

00:19:13: und Last but not least ist das Thema, womit ich auch schon mal dieses Jahr zu kämpfen hatte und Gott sei Dank halbwegs lösen konnte.

00:19:20: Es war zum Beispiel in einem Projekt sogar wie geht man mit Gigabyte und Terabyte von Daten um?

00:19:24: Das ist auch nicht so ganz trivial weil da kann man dann nicht einfach drei PDF-Dateien reinpacken.

00:19:30: Da geht es dann richtig tief in die Architekturelemente der Cloud und Software Infrastructure und das ist echt nicht lustig!

00:19:37: Also insofern gibt es viele Chancen, viele Herausforderungen.

00:19:40: Aber am Ende denke ich das ist nächstes Jahr vor allem von diesem Thema Agentec AI oder Agenten Modelle geprägt sein wird.

00:19:48: Du sprichst ja auch gerade einen interessanten Faktor an wie funktionieren denn diese Agenten wenn ich jetzt Unmengen an Daten habe?

00:19:55: Weil wir hier zum Beispiel den letzten Folge mit dir gelernt.

00:19:57: Wenn ich jetzt ein LMM auf eine Webseite schicke schaut sie sich nur zwei bis drei Unterseiten an hat nicht keine Lust zu viel zu gucken und es gibt ja eine Begrenzung was man hochladen kann.

00:20:05: Wie löse ich denn so ein Thema dann?

00:20:06: Da gibt es verschiedene Ansätze.

00:20:08: Im einfachen, kleineren Bereich kann ich halt diese Daten per se als sogenannte Retrieval Argumented Generations zur Verfügung stellen.

00:20:15: Das ist nichts anderes als Wissen und Kontexterweiterung auf Basis von Vektoräumen.

00:20:19: Wenn ich jetzt zum Beispiel auch wissen möchte dass diese Modelle anders agieren dann muss sich ja das Sprachmodell fine-tuned mit meinen Daten.

00:20:26: Das geht auch, dass es sich dann so verhält.

00:20:29: aber wenn es dann um größere Daten oder mittlere Daten gibt, gibt's da z.B.

00:20:33: Lösungen wie Langchain oder Pinecoin was sehr beliebt ist im Small and Medium Enterprise Bereich.

00:20:39: Allerdings, ich bin da kein Freund von weil sobald wir mit dem Thema Datenschutz und so weiter konfrontiert werden dann kommen wir recht schnell an den Grenzen.

00:20:46: das kann man für öffentliche Daten einsetzen Und bei größeren Daten?

00:20:50: Das wird dann richtig lustig!

00:20:52: Da ist halt immer die Frage will man wirklich Gigabyte und Terabyte von Daten vectorisieren Weil die large language Modeller mit Vector-Daten gut umgehen können?

00:21:01: oder muss man sogar diese weg tollen?

00:21:02: Datenbanken und deren Beziehungen in einer Graf-Datenbank beschreiben.

00:21:06: Da geht es dann schon in Richtung Statistik und allgebreiche Strukturen, das heißt also da muss man sehr genau überlegen okay, muss ich wirklich alle Daten bereitstellen?

00:21:15: Oder stelle ich wirklich alles Daten bereiten?

00:21:17: weil ist auch eine Performance Sache.

00:21:19: Das heißt also so muss ich möglicherweise zum Beispiel ein Lösungsansatz den nicht hier schon mal empfehlen kann wie wir das gelöst haben, die Format zu gucken reicht jetzt nicht sogar aus der Cloud Search und Cloud Datalake, Struktur wie zum Beispiel Azure Lake, Azure Search.

00:21:34: Ich den der Lösung zu nehmen und gar nichts mit LLM zu machen.

00:21:37: Da gibt es schon einen Kognitiv-Search was gut ist oder dass man sagt, okay, man baut einen Promptflow.

00:21:43: Sobald dann Daten aus dem Wus von Gigabyte und Terabyte von Daten abgerufen werden können müssen, dann erstelle ich halt eine Zusammenfassung aller diese Informationen.

00:21:53: Und sobald ich anhand des Prompts lokalisieren kann welche Daten nicht brauche, dann ziehe ich wirklich erst die Dokumente komplett raus und vergleiche sie oder verwende sie für den Prompt.

00:22:04: Also es ist ein bisschen komplizierter natürlich.

00:22:05: Das war jetzt auf die schnelle Empfehlung, falls die Zuhörerinnen und Zuschauerinnen gerade auch mit solchen Problemen kämpfen.

00:22:12: Ansonsten können sie sich auch kontaktieren und ich bin gerne bereit doch immer Tipps zu teilen weil das hat wirklich Nächte gedauert und leider fünf Kilo auf den Rippen wenn man da immer mit Pizza und Kohle im Rechenzentrum sitzt und versucht Sachen zu lösen, die manchmal unlösbar sind.

00:22:28: und das klingt jetzt alles so gut.

00:22:29: aber ich war auch paar mal wirklich schon verzweifelt.

00:22:32: also Ich habe den Verstand wirklich davor und hab gedacht, warum habe ich gesagt das ist lösbar.

00:22:37: Es war lösba aber es war halt nicht einfach weil es schon in Richtung wie gesagt Cloud Infrastruktur Software und solche Themen eingeht.

00:22:43: Jetzt wird's ja sehr technisch.

00:22:45: jetzt gehen wir mal wieder ein bisschen auf die einfache Flugebene.

00:22:47: was würdest du sagen?

00:22:48: Was sind so typische Fehler die Menschen machen wenn sie solche KI Agents aufsetzen und damit arbeiten?

00:22:53: also zum Beispiel bleiben wir mal im relativ einfach dem demokratisierten Bereich jetzt nicht in diesem hoch komplexen Technikraum.

00:23:00: Also ein Fehler ist halt, dass man sofort anfängt den Agent aufzusetzen.

00:23:03: Nein bitte nicht!

00:23:04: November letzten Jahres gab es ja auf dem Developer-Konferenz von OpenAI so eine Empfehlung die mehrfach im Link die NEMA aufgetaucht ist nämlich erst mal durch Prompt-Engine testen ob das Modell reagiert Daten zur Verfügung stellen dann wenn notwendig Feintuning machen.

00:23:18: Wenn der Promt positiv antwortet Bauten GPT mit Testdaten.

00:23:23: Da reicht schon ein dreißig Dollar Account, du musst dir nicht sofort hunderttausend Euro für den Pflichtenheft, Lassenheft und IT-Infrastruktur ausgeben.

00:23:30: Sondern es reicht wirklich!

00:23:31: Und wenn das positiv antwortet dann kann man in Richtung Integration und Systemaufbau nachdenken.

00:23:36: Zweiter Fehler der häufig gemacht wird ist dass diese Instruktion völlig strubbelig sind wenn ich das so sagen darf.

00:23:43: Ich prompte auch strubelig aber die Instruction mache strukturiert Das heißt, er wird halt Prosa genommen und dann Gliederungen.

00:23:50: Und da wundert man sich, dass manche Sachen funktionieren, manche nicht.

00:23:53: hier bitte absolut immer an den gleichen Syntaxen und Struktur halten, möglichst Prosa vermeiden bei den Instruktions.

00:24:00: Dritter Fehler, der häufig gemacht wird ist am liebsten packen die Menschen immer Word Dateien, Excel Dateien und am Liebsten noch PDF.

00:24:08: PDF ist einfach der Albtraum für jeden Agent.

00:24:11: Warum ist das ein Albtraum?

00:24:12: relativ simpel?

00:24:13: Weil diese PDF-Dateien einfach zu viele Layout Information bei ihnen halten Und das LLM muss erstmal die Informationen extrahieren aus dem ganzen Kram was da drin ist, wie ihr braucht.

00:24:22: und deshalb an dieser Stelle empfehle ich euch wirklich geht auf Markdown Text Dateien bei strukturierten Daten verändert, konvertiert diese Information und häufige Fehler.

00:24:35: was auch hier gemacht wird ist halt dass man noch so schnell aufgibt.

00:24:38: Also wenn die Dinger nicht funktionieren du hast ja gefragt wie lange brauchen sie?

00:24:41: Ja die Funktionen sind nie perfekt sofort.

00:24:43: also da muss man ein bisschen Geduld haben aber es lohnt sich.

00:24:46: ich könnte jetzt natürlich mehr erzählen aber ich denke das reicht erstmal oder?

00:24:49: Das springt dich noch irgendwas an wo Du sagst was Du ganz oft beobachtest in der Praxis was den Leuten Schmerz macht was wir noch vergessen haben Was

00:24:55: vielleicht auch interessant ist, in Bezug auf Datenschutz versuchen, lokale Modelle zu nutzen.

00:25:00: Also so Open Source-Modelle die nicht schlecht sind und werden immer Erwachsener und Treifer.

00:25:06: Dann wundern sich, dass gewisse Sachen nicht funktionieren.

00:25:10: Es muss nicht alles Open AI sein.

00:25:13: Ich empfehle es, ein hybrides Modell zu haben.

00:25:17: Für die Anwendungsfälle brauche ich ein schlaues KI-Model Text zu machen, nämlich halt einen Open Source.

00:25:22: Für Office Prozesse kann ich sogar einen Google nehmen oder was auch immer.

00:25:26: also dass man sogar einen Mix daraus macht und versuch nicht jedes Problem das in dem Unternehmen existiert mit einem KI Modell zu lösen, das wäre ein bisschen vermessen.

00:25:34: Also ich überspitze das jetzt ein bisschen aber es ist einfach.

00:25:38: teilweise muss man wirklich als ich auf einem Anwendungssaal fokussieren

00:25:42: Wenn wir jetzt mal in Ende Stück weit Richtung Zukunft gucken, was ist denn so deine Einstellung wenn du so an die Folgen von sowas denkst.

00:25:48: Also ich könnte mir vorstellen der eine oder andere fragt dich so, wow Hamid es ist nicht auch ein bisschen verwerflich wenn ich hier FTEs baue also komplette Jobs quasi dadurch ersetze?

00:25:57: Ich meine es ja interessant was das mit dem Arbeitsmarkt macht wenn Du dann quasi ganz viele Dinge eine Maschine machen lässt.

00:26:02: So was da Deine Haltung zu?

00:26:03: Ja meine Haltung ist erstmal im Grunde genommen unterstützen wir erst einmal die Firmen wenn sie keine Fachkräfte vom Markt bekommen.

00:26:09: Das ist der Punkt eins.

00:26:11: Punkt zwei ist ja, teilweise sind auch wirklich an einigen Zweigen.

00:26:15: Geht's den Zweigen nicht gut?

00:26:16: Die können sich einfach schlichtweg.

00:26:18: aufgrund von Reestructurierungen kämpfen sie teilweise um ihre Existenz oder teilweise kämpfen Sie auch im bestehenden Märkte nicht zu verlieren und in solchen Fällen ist das auch eine Unterstützung.

00:26:28: Auch Unternehmen wie Start-ups die dann sagen ich kann mir im Moment keinen leisten!

00:26:32: Ich kann nicht den Payroll aufnehmen aber es wäre gut für die erste Wachstumsphase dass ich halt diese Menschen bekomme.

00:26:40: Das ist das eine.

00:26:42: Wenn wir in Richtung Zukunft schauen, sehen wir, dass es auch immer mehr autonome Agents gibt.

00:26:46: Man hört ja schon als GPT-V viel Autonomie bekommt.

00:26:50: mit Agent und AutoGPT haben wir auch mitbekommen, dass hier bereits schon Realität sind.

00:26:55: also empfehle ich auch sowieso hier Agent GPD sich anzugucken.

00:27:00: Das Ding ist schon recht richtig gut autonom

00:27:03: d.h.,

00:27:03: sie werden sogar viel mehr Aufgaben übernehmen.

00:27:06: Dem zufolge oder bei dem entgegen würde ich noch ein Thema setzen, wenn man sich jetzt die Statistiken anguckt.

00:27:12: Ein signifikanter Anteil der Boomer und Silver Agile an den nächsten Rente gehen.

00:27:16: Das heißt also wir werden da massive Lücken in den Fachkräften haben.

00:27:19: Da ist auch KI eher eine Chance.

00:27:21: Also ich würde mir erst mal keinen Kopf machen das Jobs ersetzt werden.

00:27:24: was die mittellangfristige Entwicklung betrifft gut.

00:27:27: Da kann sicherlich noch.

00:27:29: das wird spannend.

00:27:30: Jetzt immer noch denkt, das wäre ein Hype oder eine Blase.

00:27:33: Also meine Empfehlung ist jetzt nicht nur so, dass wir damit auch Aufträge kriegen im Gegenteil.

00:27:38: Mach's aber bitte von mir als auch alleine!

00:27:41: Aber macht bitte, weil hier an der Stelle das wird halt ein strategischer Asset und Faktor sein für den Wettbewerb und die Positionierung.

00:27:49: Denn auf dem globalen Markt werden die Unternehmen, die das jetzt bereits in Effizienz und nach außen für Wachstum einsetzen höre um bessere Markteinteile haben, deutlich andere Produktions- und Produktivitätsfaktoren erreichen als die Unternehmen die nach wie vor... Das ist halt wie bei jeder Industrialisierungsphase so gewesen, die da noch nicht verwenden.

00:28:10: Meinst du eigentlich, es wird so eine Art Vorlagensystem geben?

00:28:12: Also dass es vielleicht manche Agent-Formen gibt.

00:28:15: Wenn ich jetzt sage das was Du gerade beschrieben hast, weiß als ich CEO simple Feedback schleifen oder Mail beantworto.

00:28:21: Dass sich das eigentlich mit der Vorlage auch einkaufen kann und dass ich gar nicht die Fähigkeit haben muss mir sowas selbst zu erstellen sondern dass ich's quasi durch Dritte noch mal konfigurieren kann.

00:28:28: Das gibt es schon, also bei PÖ zum Beispiel aber auch die GPTs, die im Netz sind.

00:28:32: teilweise stellen viele ja die Instruktionen zur Verfügung.

00:28:36: Es gibt ja schon bereits beim Microsoft Open Web UI stellen viele auch diese ich nenne dass man die Gehirne zur Verfügung.

00:28:43: das machen wir ja auch mit Gehirnmodellierung und übergeben das insofern das gibt's schon das wird doch viel stärker kommen.

00:28:51: das heißt also zum einen wird Singuläre Anbieterinnen geben die auf einzelne Sprachmodelle das einbieten.

00:28:57: Ich könnte mir auch gut vorstellen, das ist sogar eine Geschäftsidee.

00:29:00: Dass es sowas demnächst wie so ein Art Aggregationsplattform geben wird, wo man halt verschiedene diese Agent-Plattformen auf einen Marktplatz an und verkaufen kann, wie bei Promptbase zum Beispiel, wo Man Prompt kaufen kann.

00:29:13: Übrigens werden wir das auch irgendwann machen dass wir da auch sehr viele dieser Charaktere die wir gebaut haben entsprechend als Grundkonfiguration zu verfügen stellen werden.

00:29:22: also das ist tatsächlich der Trend.

00:29:23: du hast recht

00:29:24: Okay, also ich sehe schon.

00:29:25: Du wirst ja noch zum Menschenhändler auch wenn es nur rituelle Menschen sind.

00:29:29: Ich würde sagen, ihr geht in den Konfiguratoren!

00:29:32: Das klingt nicht viel besser

00:29:33: aber verstehe...

00:29:37: Okay, abschließende Frage.

00:29:38: jetzt haben wir über die Zukunft des Marktesgeräte.

00:29:40: was ist denn mit der Zukunft der KI Age und was glaubst du passiert da noch so in den nächsten zwei bis vier Jahren?

00:29:45: Im Moment sind ja weitestgehend viele in diesem Grundelementare Automatisierung und Geschäftsprozessen, Support-Prozesse aktiv Sobald die ersten Aggregationsmodelle, das heißt also Gruppenbildung von Agents demokratisiert werden.

00:30:00: Aktuell muss man... Die sind echt schon aufwendig!

00:30:02: Aber sobald da auch fast jeder von uns in der Lage ist, das zu machen wird es da komplette Abteilungen und Unternehmen geben und die Autonomität wird zunehmen.

00:30:12: Das heißt also in Zukunft werden viel mehr Agents noch autonomer werden?

00:30:15: Man hört ja auch in der Presse dass zum Beispiel die neueren Modelle von GPTs sollen jetzt zwei bis dreitausend Euro pro Monat kommen was auch in Zukunft kommen wird, wird sehr wahrscheinlich dann diese Autonomie und Autarki- und Integration in den Prozessen führt dazu, dass gewisse Geschäftsmodelle fragwürdig werden.

00:30:34: Also zum Beispiel frage ich mich, wenn jetzt schon die Menschen Inhalte im Linkdimente-Karriere stellen.

00:30:40: Dann wird es wahrscheinlich eher so sein dass irgendwann diese Geschäftsmodelle obsolet sind und nur noch Agents miteinander kommunizieren um man einfach nur noch die Daten irgendwo hinlegen muss Und jeder Mensch, jeder Kunde, jede Klient, jeder Interessent sich nur noch das holt was er oder sie braucht.

00:30:55: Das heißt irgendwie kommen zu einer absoluten hyperpersonalisierten Welt mit sehr vielen PAs also Personal Assistance Die ist sogar autonom für uns Aufgaben erledigen und das wird schon ziemlich spannend.

00:31:06: Das stellt dann sehr viele mikromakrokonomische Strukturen und Markenmechanismen auf den Kopf.

00:31:12: Wenn ich jetzt solche Agents baue, laufe ich Gefahr dass vielleicht die Plattform mit denen ich das tue mir perspektivisch die Preise dafür so hochschrauben dass die Unabhängigkeit die ich im ersten Schritt gewinne dann in der Abhängigkeit im zweiten sich wandelt.

00:31:25: Das kann gut passieren.

00:31:26: Z.B.

00:31:26: an Tropic und Open Air sind recht nahe einander, auch in Performance.

00:31:30: da sind ja auch ehemalige Mitarbeiterinnen.

00:31:33: aber faktisch gesehen kann es schon sein dass es Lock-in Effekte gibt von diesen Anbieterinnen und daher empfehle ich dann auch immer an der Stelle diese Instruktion für diese Agents möglich so zu bauen das sich halt jemanden Backup haben kann.

00:31:45: notfalls Ich glaube und hoffe, dass wir durch Stückkostendegressionen und Economy auf Scales eher eine Entwicklung haben werden.

00:31:54: Dass das alles eher etwas günstiger wird – hoff ich zumindest!

00:31:58: Na gut also es bleibt spannend.

00:32:00: Lieber Hamid ganz herzlichen Dank und ich würde mal sagen bis zum nächsten Mal.

00:32:03: Gerne vielen Dank nochmal für die Einladung.

00:32:08: Danke fürs Zuhören beim Digital-Kompakt Podcast.

00:32:12: Du merkst hier ziehst du massig Wissen für dich und dein Unternehmen heraus.

00:32:17: Wenn du mit uns noch erfolgreicher werden möchtest, abonniere uns auf den gängigen Podcast-Plattformen und hey!

00:32:22: Je größer wir werden, desto mehr Menschen können wir helfen.

00:32:26: Also erzähl doch auch deinen Kolleginnen von uns.

00:32:30: Bis zum nächsten Mal.