Ein KI-Experte erklärt DeepSeek und den Hype darum

00:00:00: Digital kompakt.

00:00:01: Heute aus dem Bereich künstliche Intelligenz mit einem Moderator Joel Kaczmarek.

00:00:07: Los geht's!

00:00:15: Hallo Leute, heute tauchen wir mal wieder in die Welt der KI ab denn ihr habt ja sicherlich mitbekommen dass es da ein spannendes Tool aus Asien mit dem schönen Namen Deepsea gibt was die ganze Welt gerade einen Aufruf versetzt also riesige Effekte an der Börse viele Fragen, was das denn nun eigentlich für den Markt bedeutet.

00:00:32: Und ich habe einen Dude, den ich immer anrufe wenn ich in Sachen KI etwas wissen möchte und das ist mein lieber Freund der gute Hamid Hosseini!

00:00:40: Hamid hat mit Eco Dynamics nämlich eine KI-Beratung und macht auch ganz viele Produkte in dem Bereich.

00:00:44: Zum Beispiel kann er dir dabei helfen, wie dein Unternehmen besser gefunden wird von KIs also sprich ihn unbedingt mal an wenn du sowas brauchst oder auch Agents oder oder oder.

00:00:52: Also Hamid ist wirklich eine Wundertüte an wissenden Sachen.

00:00:54: KI war am MIT bei Y Combinator kennt Open AI sehr gut und ich habe mir gedacht okay wen soll dich fragen?

00:01:01: Wenn nicht Hamid was es denn mit diesem Deep Seek auf sich hat und was das eigentlich bedeutet.

00:01:05: Und nett wie er ist ist er auch meiner Einladung gefolgt.

00:01:07: von daher lieber Hamid schön dass du da bist.

00:01:08: hello.

00:01:09: Hallo Joel, vielen Dank für die Einladung.

00:01:11: Ich freue mich schon auf unser Gespräch!

00:01:13: Ja

00:01:13: dann zähl doch erst mal ganz kurz für uns geneigte Linder, für uns normalsterbliche was hat es dir mit diesem Deep-Sieg eigentlich genau auf sich?

00:01:20: Nun, also wie die anderen Sprachmodelle oder KI-Modelle ist die Psyk auch schon länger.

00:01:27: Also schon seit ein paar Jahren haben sie daran gearbeitet, dass es schon ein Modell das in der Grundversion VIII und in Reasoning-Model R I schon erstaunliche Ergebnisse gezeigt hat und quasi seit Dezember so ein bisschen den Nerds und die Community in Atem gehalten hat Und seit es dann das Reasoning-Modell rauskam, auf einmal so ein bisschen die Regeln in der KI-Welt durcheinander gewirbelt hat und ist quasi ein chinesisches Modell.

00:01:57: Anhand der Performanceergebnisse was man da sieht lässt sich durchaus auch schon mit den Open AI Modellen zum Beispiel das Reasonning-Model schon vergleichen.

00:02:05: Um unsere Line alle mitzunehmen, was ist ein Reasoningmodell?

00:02:08: Naja, reasoning ist jetzt auch noch vorsichtig ausgedrückt.

00:02:10: Sind so Denkvorgänge.

00:02:12: Das kennt man von Prompt-Engineering wenn man zum Beispiel Chain of Thoughts verwendet also wo man einzelne Prompts oder einzelne Schritte in Teilschritten aufsetzt.

00:02:21: das relativ ähnlich dass zb die Modelle in der Lage sind anhand der Befehle oder Prompts die man dort eingebt quasi daraus nochmal entsprechende Interpretationen abzuleiten die Ergebnisse zu generieren diese Ergebnisse wiederzuverwenden und daraus iteration durchzuführen.

00:02:38: Das heißt, dass eigentlich das was wir in der Regel beim Prompt-Engine selber durchführen und mit dem Modelldurchinteraktion ausführen ist reasoning so, dass es versucht ein Stück weit zusammen mal elementare Denkschritte quasi nachzubilden.

00:02:52: Also zum einen das bestimmte Bestände des Ergebnisses erneut zu verwenden und daraus wieder Ableitungen zu machen oder einfach Dinge in einzelnen Schritten auszuführen, weil da gibt es ja immer so Einschränkungen mit Ausgabe- und Topenfenster.

00:03:05: also das kennt man hier auch eigentlich wenn man schon länger mit den KI Modellen gearbeitet hat.

00:03:09: Und deshalb ist auch teilweise so dass diese Reasoning oder Denkvorgänge durchaus auch bei den größeren Modellen für komplexe Vorgegeberechnung usw.

00:03:18: eingesetzt werden.

00:03:19: okay

00:03:19: So, jetzt fühlt es sich ja für den Normalsterblichen an als wenn dieses Diebsieg sowie Phönix aus der Asche auferstanden ist.

00:03:25: Keiner hat's irgendwie kommen sehen.

00:03:27: Hoppala was is denn da?

00:03:28: Also hattest du das schon so eine Weile auf dem Schirm

00:03:31: Etwas, also ich habe schon Mitte des Jahres ein bisschen was davon gehört.

00:03:36: Aber das hab' ich nicht so erstmal ehrlich genommen weil bis dato waren ja die Modelle die aus Asien kamen jetzt nicht so dass man sagen kann die halten mit den US-Modellen mit.

00:03:48: Ehrlich gesagt habe ich nichts kommen sehen.

00:03:50: Also als ich im Dezember das erste Mal das VIII-Model benutzt hab dachte so wow!

00:03:56: Und dann, als das Reasoning-Modell kam... Oh oh!

00:04:01: Das war schon wirklich echt ein Aha-Moment.

00:04:03: Ist denn an Diepsik irgendetwas anders als bei OpenEye?

00:04:07: Also funktioniert es in der Grundsache irgendwie unterschiedlich weil was ich so gelesen habe scheint's ja sozusagen zu sein dass man eine ganz andere Methodik verwendet die zwar länger braucht zum Anfahren sage ich mal bis das Modell auf einer Flughöhe ist, die gut ist, dass dann aber viel mehr Ressourcen spart und nach hinten raus viel besser zu sein scheint.

00:04:21: Habe ich das richtig vermut oder gelesen?

00:04:25: Ich empfehle den Zuhörerinnen, dass auf jeden Fall das Research-Papier zu lesen.

00:04:28: Das ist stückweit, das ist schon spannend!

00:04:31: Es wird viel vermutet, man geht davon aus, dass es möglicherweise ein Open Source Modell ... gegebenenfalls auch Lama verwendet wurde, um das Modell quasi mit einer API mit Open AI Daten quasi zu trainieren und auch zu quasi destillieren.

00:04:48: Was destillierend ist, werde ich gleich erklären aber es ist eigentlich an sich nicht so sehr anders, weil grundsätzlich dass das Model ja sehr... Den Anschein nach mit Informationen und Parametern Daten von OpenAI trainiert wurde.

00:05:03: Es war auch ziemlich lustig, weil vor vier, fünf Tagen als man DeepSync R-I benutzt hat es gerade rauskam und dann gefragt so naja worauf basiert dein Grundmodell?

00:05:11: Er hat gesagt GPT-IV ich bin ein Modell vom OpenAI.

00:05:14: einen Tag später hieß das dann naja Ich bin oft so ein ähnliches Modell wie GPT IV aufgebaut Und dann, so gestern vorgestern hieß es da ... Nee nee ich bin die Psyche.

00:05:25: Ich bin eigentlich von einem ganz anderes Unternehmen und wenn man zum Beispiel die AP nutzt, da gab's auch einen schönen LinkedIn-Post.

00:05:31: Ich war heute oder gestern, da hat man auch gesehen das hat mir mein Kollege Hennig zu verfügen gestellt Da hat mal auch gesehen dass das sogar die AP Nutzung relativ ähnlich ist.

00:05:40: aber die... Es ist schon so, dass es eigentlich fast schon sehr viel an Open AI erinnert.

00:05:46: Dennoch muss man dazu sagen, an manchen Stellen ist es auch besser.

00:05:49: Und die haben auch... Wenn man das Papier liest, stellt man fest also nicht schlecht, ja?

00:05:55: Also teilweise die Methoden und Verfahren, Algorithmen, in denen sie sich implementiert haben.

00:05:59: Das ist schon eigentlich sogar ein Geschenk an die KI-Welt weil manche Dinge, die da gemacht haben sind durchaus anders.

00:06:06: Also

00:06:06: heißt das so, dass wir im Prinzip auch geklaut haben bei OpenAI wenn du sagst, Sie haben die im Prinzip angezapft und Daten von dort genommen.

00:06:12: Ist das sozusagen legitim das so zu tun?

00:06:15: Na ja, also was heißt Clown?

00:06:17: Ich möchte auf keinen Fall jetzt die Behauptung hier im Raum stellen dass irgendwelche Source-Codes oder sowas geflossen ist.

00:06:24: Da sollen sich andere drum kümmern.

00:06:26: Was aber de facto möglich ist es schon das man durch solche Applikation Programming Interface in dieser Ablichtschnittstellen im Grunde genommen mit diesen Modellen interagiert und dann kann man den Promts schicken, Aufgaben schicken und unterschiedliche Aufgaben stellen.

00:06:42: Zum Beispiel könnt ihr jetzt einfach durch ein Alphabet gehen.

00:06:44: So nach dem Motto erklären wir alles sein Wissen was mit dem Buchstaben A beginnt oder überall wo du mathematisch regeln kannst, oder was du über Physik gelernt hast.

00:06:54: Und dann kann ich das so lange laufen lassen wie ich halt alle Informationen rausbekomme und nach der Interaktion kann ich ja ein neues Modell trainieren.

00:07:02: Das weiß ich nicht ob man es als Clown bezeichnen kann aber man kann zumindest sehr viel Information abzapfen und neben den algorithmen Regeln Durchaus sehr spannend aufgesetzt haben ist.

00:07:12: vor allem auch kommt jetzt das Desilationsverfahren noch dazu.

00:07:16: Desilieren kann ich relativ einfach erklären, dass es eigentlich nichts anderes ist.

00:07:20: Stell dir vor Joel du bist jetzt mein Lehrer und ich bin ein Schüler.

00:07:23: So, jetzt hast du jede Menge Erfahrungen und Wissen.

00:07:26: Und jetzt musst du das quasi in meinem Kopf pressen irgendwie.

00:07:31: Du musst jetzt mir einfach viele Dinge erklären damit ich das dein Wissen auch lerne so dass quasi im Grunde genommen wird durch die Destillation Informationen die möglicherweise nicht wichtig sind weil du ja studiert hat als Lehrer sehr viele zusätzliche Informationen gelernt hast.

00:07:46: Die sind aber erst mal für mich irrelevant.

00:07:48: Aber damit ich halt mich entwickle bringst du mir das wichtigste bei.

00:07:52: Und das Wichtigste ist quasi auch, worauf es ankommt wenn die Modelle aktiv werden und dadurch braucht man weniger Kapazitäten, weniger Ressourcen.

00:07:59: Durch diese Destillationsverfahren müssen auch die Modellen teilweise nicht so groß sein.

00:08:04: Das haben sie schon auch hier anscheinend angewandt.

00:08:08: Wo ist jetzt ein Diepsik anders als den Open AI?

00:08:10: Wenn du sagst, es gibt schon kleinere Unterschiede...

00:08:13: Also zum einen was super spannend ist, ist halt diese Chain-of-Sort Ansatzin sie verwendet haben um z.B.

00:08:20: dem Modell die Denkschritte zu erklären.

00:08:22: das heißt also normalerweise wenn wir Chain of Sort als User verwenden dann erklären wir die Schritte oder die einzelnen und das Modell muss sich dann einzeln aber arbeiten, usw.

00:08:32: Und jetzt passiert es interessanterweise.

00:08:34: im Rahmen des Trainings haben wir das auch eingesetzt um mit dem Modell quasi ein Stück weit selbstkritisch mit den Antworten umzugehen oder in Vorfeld zu überlegen bevor ich eine Antwort generiere woraufs ankomme.

00:08:47: was sagt meine PoliSie?

00:08:49: also die Regeln sind die Inhalte gut oder schlecht?

00:08:52: und so weiter und dann generiert diese Antwort Das sieht man ja wenn man DeepSync benutzt dass er sagt oh der User fragt zum Beispiel nach folgendem, am besten mache ich das.

00:09:01: Und bevor ich das tue, mach' ich das nächste.

00:09:04: Aber ich muss natürlich aufpassen, dass sich meine Regeln irgendwie beachte.

00:09:08: und das zweite was hier super spannend ist, ist tatsächlich dieses Reinforcement Ansatz den die hier angewandt haben.

00:09:15: Es ist super spannend nämlich im Grunde genommen bei diesem Reinforcement Learning oder auch bei diesen neuen Algorithmen, denen die da auch eingesetzt haben, mal der bestehendes Wissen und bestehende Regeln mit den neuen Regeln abgeglichen werden.

00:09:32: Das heißt, man guckt wie oft macht das Modell Fehler?

00:09:34: Das Modell versucht sich selbst zu verbessern um möglichst auch diese Fehlertoleranz zu minimieren beim Training.

00:09:41: Und last but not least also dieser Group Relative Optimization bzw.

00:09:46: Group Relativ Policy Optimisation steht auch in dem Paper super spannend wird jetzt ein bisschen nerdy einfach erklärt was macht diese Algorithmus?

00:09:54: wie gesagt versucht alte Regeln mit neuen Regeln abzugleichen, aus den alten Regeln quasi nur das Wichtigste zu übernehmen was das Modell effizienter macht.

00:10:02: Und dadurch kann ich natürlich auch die Regeln nur noch auf das, was sich wirklich braucht und nämlich auf die Anwendungsfälle ohne dass halt diese Vortreining, was vorher stattgefunden hat einfach jetzt nicht einsetzen.

00:10:14: Und last but not least natürlich Modellverkleinerung durch die Destillation als er vorhin erklärt,

00:10:18: d.h.,

00:10:18: all die Parameter die unnötig sind weil man Ich habe ja mal ein Beispiel, das weiß ich.

00:10:23: Wenn ich jetzt sage Landeshauptstadt in NRW ist Düsseldorf.

00:10:27: DüsselDorf ist eine schöne Stadt was in NR W ist und es auch Landeshauptstadt.

00:10:32: da hab' ich auf verschiedene Sätze indem ich eigentlich die gleiche Austage treffe.

00:10:36: Jetzt kann ich natürlich aus diesen hundert Setzen einen Satz bilden was alle Informationen beinhaltet und das ist auch so etwas ähnlich wie eine Destillation dass ich halt nur wirklich das notwendigste lerne.

00:10:45: also wie gesagt wir unsere Lehrer-Fühlerbeispiel.

00:10:47: Würdest du denn sagen, dass einer dem anderen voraus ist?

00:10:50: Also gibt es irgendwie jemanden der die Nase vorn hat oder ist man da relativ parbi.

00:10:54: Na ja!

00:10:54: Die Ergebnisse, die Benchmarks zeigen oder auch die eigentlich nennen wir das ja unsere KI-Welt Evaluation oder so abgekürzt eVolts zeigen schon, dass in vielerlei Bereichen, in Mathematik und viele Aufgaben da gibt es ja immer so Sets wie man diese Evaluation durchführt.

00:11:11: Da gibt's immer so Promzests die man an diesen Modellen schickt und guckt wie die Modelle antworten.

00:11:16: Immer wieder auch das wiederholt damit dann eine gewisse Heuristik da ist.

00:11:20: Und tatsächlich hat das Modell zum Beispiel das O-One Modell in einigen Bereichen sogar übertroffen.

00:11:25: und wenn man sich das überlegt, dass das innerhalb dieser größten Zeit Die Kosten streiten sicher die Experten derzeit.

00:11:32: Ich glaube auch nicht, dass sie das mit fünf sechs Millionen Euro oder Dollar trainiert haben.

00:11:36: Wenn man sich die Benchmark anguckt, dann sieht man schon, dass es schon echt teilweise auch O-One Ott performt.

00:11:42: und jetzt kommt lieber Joel dazu, dass das auch noch Open Source ist.

00:11:46: Also das heißt, dass man immer so geschützt hat.

00:11:51: Das steht zur freien Verführung und wenn man ihn dagegen fässt ist es eine KI- und Data Science Community.

00:11:56: Da sieht man mittlerweile, dass die Leute anfangen schon daraus neue Modelle abzuleiten Feintuning oder neue angepasste Sachen zu machen.

00:12:05: also das ist schon sehr interessant.

00:12:08: Was steckt denn eigentlich hinter die Psykfen-Unternehmen?

00:12:11: Also wer macht das, man darf ja bei chinesischen Unternehmen gefühlt immer davon ausgehen dass der Staatskonzern mit hinterhängt oder der Staat.

00:12:17: Daten sind dann wieder ein sensibles Thema.

00:12:19: Wer macht das eigentlich?

00:12:21: Also ja, das ist eine sehr gute Frage.

00:12:23: In der Regel also da auch wage ich jetzt nicht diese Frage Fallabschlüsse zu beantworten weil häufig ist ja das Wirtschaftssystem in China so dass es dann meistens Public Poverty und Ventureships stattfinden und sich auf die großen Plattformen anguckt usw.

00:12:39: Das ist schon recht komplex.

00:12:40: aber dennoch ist es so dass wir hier das wird ja erzählt das sind ja Hedge Form Manager und so weiter.

00:12:47: Also da gibt es tatsächlich auch Interessen, nämlich hier man sagt halt das die Headphone Manage.

00:12:53: also was ich so recherchiert habe, dass sie möglicherweise einfach aufgrund dessen, dass die sehr gute Mathematikerinnen an Bord haben.

00:12:59: Angefangen haben als Idee dieses Projekt zu machen und es war auch nicht Zeitprojekt sondern das waren schon ernstes richtiges Projekt was sie da eingegangen sind.

00:13:08: Und auf der einen Seite wenn man sich das Paper durchliest also so jede Menge Namen Also ich hab einige auf Spaß mal so stichprobenmäßig recherchieren und das war schon spannend.

00:13:19: Das waren unter anderem Top Mathematikerinnen darunter, die wirklich krasse Postulationen erstellt haben.

00:13:25: Also Postulate sind ja so... auch teilweise Beweise.

00:13:29: und wo ich gedacht habe, okay auf dem Niveau haben da Leute gearbeitet.

00:13:33: Tatsächlich ist der Kopf dahinter so was ich bisher erfahren hat Der Wang Wenfeng Und das ist ein Visionär, der das ganze Thema vorangetrieben hat.

00:13:44: Er ist in den Wagen in Zanjiang in Guangdong aufgewachsen hat.

00:13:57: und hat dann halt relativ schnell auch angefangen, in diesem Umfeld sich auszutoben.

00:14:03: Und ich denke mit den Namen die wir genannt haben, die können wir auch dann im Transkript zu verfügen stellen.

00:14:08: Danach und nach können die Menschen selbst nochmal die Details forschen.

00:14:13: Wie gesagt der als Visionär irgendwann angefangen hat, als in diesem Unternehmen umfällt quasi das Ganze voranzubauen.

00:14:21: Crazy!

00:14:22: Wenn man jetzt irgendwie mal feststellt was du eben beschrieben hast dass dieser früher Aufschlag schon deutlich besser als manches, was Open AI macht.

00:14:30: Darf man davon ausgehen dass das auch jetzt nochmal im Verhältnis sich weiterentwickelt?

00:14:34: Also werden die jetzt signifikant besser als ein Open AI sein.

00:14:36: oder ist es so wie bei so einen Brummis auf der Autobahn und so eine Rennen wo jeder mal kurz die Nase vormaht und dann gleich sieht's wieder aus.

00:14:44: Na ja also ich sag mal jetzt bei O-One Modell zeigen die Evols, dass es besser ist.

00:14:49: Das Problem mit den Evaluationen Das ist ja immer in einem sehr definierten Rahmen diese Tests durchgeführt werden.

00:14:59: Fakt ist, das Modell hat an einigen Bereichen besser.

00:15:02: Auf der anderen Seite muss man sicherlich mal gucken, wie ist das wirklich in alltäglichen Praxis?

00:15:06: Also ich habe das jetzt immer wieder mal getestet und abgesehen.

00:15:10: Wow!

00:15:10: An manchen Stellen ist es wirklich gut.

00:15:12: Bei manchen Sachen die ich zum Beispiel von Antropic OpenAI oder auch den anderen Modellen kenne, hab' ich halt festgestellt... naja, das ist halt noch nicht so der Hax ein bisschen.

00:15:22: Zum Beispiel bei V-III habe ich Schwachprobleme gesehen, bei R-I hab', ich hat festgestellt wenn ich da die komplexen Probleme hatte, Promchallenge gemacht, O-One, mathematische komplexe Fragen gestellt.

00:15:34: Dann DeepSeq abgesehen.

00:15:36: Okay, da gibt es doch ein bisschen Unterschied aus der Praxis.

00:15:39: oder halt Prozessentwicklung, Organisationsentwicklungen.

00:15:42: Da habe ich halt gesehen dass deepseq dort etwas hackt.

00:15:46: so jetzt aber wenn wir uns mal ob mehr als Businessmodell vergleichen mit deepseek.

00:15:51: kannst du dir vorstellen das ist ja schon in durch die Kooperation mit Microsoft durch dieses Ökosystem, was drumherum entstanden ist, ähnlich wie bei Lama oder auch an Tropic.

00:16:01: Es ist ja so, dass er nicht nur ein Sprachmodell oder ein KI-Modellist, sondern darum herum hat sich schon ein Netzwerk gebildet.

00:16:07: Du kennst dich ja bestens mit Netzwerkeffekten und Plattformen aus.

00:16:11: Insofern weißt du es selbst, wie mächtig da ein Plattform sein kann?

00:16:15: Weil man sagt in der Plattformakonomie auch, Plattform always beat products.

00:16:20: Das heißt, ein Ökosesystem kann so stark sein, das es möglicherweise noch darauf ankommt, dass die Features putzen.

00:16:26: Eigentlich muss man bei KI sagen dadurch das die Modelle ja immer gezielt und punktuell eingesetzt werden ist die Frage halt eine Frage die in Zukunft entschieden wird ob spezielle und allgemeine Fälle durch den Ökosystem und Netzwerk besser vorankommen oder durch einzelne singuläre Anwendungsfälle.

00:16:42: Ja, ich überleg grad.

00:16:43: was heißt es denn auch für die bestehenden Player?

00:16:45: Also das Rauch stehe ja erstmal fleißig an der Börse.

00:16:47: Also Microsoft-Aktien natürlich runter weil man vermutlich als Anleger dachte okay das wird sich jetzt negativ aufs Open AI Geschäftsunnel auswirken und Microsoft als großer Shareholder ist da betroffen war auch Nvidia zum Beispiel sehr stark heruntergegangen, die Chips herstellen wo man halt irgendwie auf die Wette ging dass die KI-Zeiten oder der KI-Fokus halt einfach großen Absatz mit sich bringen würde.

00:17:07: Was sind so die Folgen die sich für den Markt dann einstellen?

00:17:10: Also das ist eine gefälligte Frage, ne?

00:17:13: Das kennt ihr ja schon an die Investment-Empfehlung.

00:17:16: Also vielleicht der Disclaimer bitte kauft nicht irgendwas oder verkauft nicht.

00:17:19: Da ich hab das keine Investmentgeschichte so.

00:17:22: Wir betrachten es ja an der Stelle jetzt so fachlich.

00:17:24: Faktisch gesehen Adjoel hast du super schön gefragt nämlich im Grunde genommen ist es ja so dass Meine Beobachtung ist, die Kapitalmärkte sind entkoppelt von der Realität teilweise.

00:17:36: Ist ja auch okay weil wir einfach aufgrund der Psychologie irgendwas machen.

00:17:41: Egal ob sie jetzt sagen was weiß ich das geht zu Grunde und wir verkaufen oder besetzen auf Putz oder machen auf Calls oder was auch immer.

00:17:50: also im Grunde genommen.

00:17:51: Ich denke dass es eine nervösere Aktion war weil man sofort gedacht hat diese Launcieren von diesen fünf sechs Millionen Dollar Und dann auch mit diesem kleineren Chips und weniger Ressourcen usw.

00:18:04: Führt halt dazu, oh mein Gott!

00:18:05: Okay?

00:18:06: Dann haben wir eine Überkapazität also brauchen die nicht.

00:18:08: möglicherweise alle haben gedacht, okay muss man verkaufen, da sind jetzt ja keine Spirale.

00:18:12: So ich glaube aber jetzt mal rein fachlich gesehen dass diese Open Source Bewegung das war eigentlich fast schon ein Geschenk an die Semiconductor Industry.

00:18:20: bitte ist kein Investment Empfehlung.

00:18:22: Also ich denke nur fachlos gesehen weil je mehr wir jetzt Open Source Modeller haben umso mehr Cloud und so weiter werden wir auch brauchen oder GPUs.

00:18:33: Insofern, ich denke dass da auch wieder eine gewisse Entspannung folgen sollte.

00:18:39: Ja

00:18:40: ich habe bei Pip Klöckner irgendwie eine Analyse auf LinkedIn gesehen, dass er so Charts sich angeguckt hat und mal geguckt hat das wohl ganz viele Chips von Nvidia nach Singapur gegangen sind.

00:18:49: Und dann war die Frage wo gehen sie denn von dort aus hin?

00:18:51: Dass so die geheime Vermutung war ob die nicht von Singapore direkt nach China gehen?

00:18:56: also was du auch gerade in den fünf sechs Millionen beschrieben hast das macht es ja so unglaublich.

00:19:01: Da sind ja im Vergleich bei OpenAI Milliarden reingeflossen und wo aus der Rechnerkapazitäten bis zu der Arzt kommt.

00:19:07: Also glaubst du, dass es da einfach so eine gewisse Dunkelziffer gibt die man nicht sieht?

00:19:10: oder ist dieses Modell wirklich so krass viel effizienter?

00:19:13: Nein ich glaube das sie durchaus viel mehr investiert haben.

00:19:17: Ich lese meistens die Post von den auch Kolleginnen die jetzt auch aus dem Maschinenraum kommen.

00:19:22: Das zum Beispiel was ich empfehlen kann war der Linkenbeitrag vom Philipp Schmidt von Huggingface, der dort wirklich einen coolen Beitrag gebracht hat und erzählt halt so naher.

00:19:31: Also der Betrag kann nicht stimmen.

00:19:32: die GPU Ressourcen kann ich stimmen und hat das ein bisschen relativ wertfachtlich.

00:19:36: also ich glaube schon dass es deutlich mehr gekostet hat aber auch dass das weniger ressourcen verbraucht hat.

00:19:42: und ich denke schon was jetzt diese ganze Chip Bewegung usw.

00:19:46: betrifft das Grenz ja schon An, weiß ich nicht.

00:19:49: Muss man gucken wie weit da die Fakten belastbar sind oder eher Gerüchte oder so.

00:19:53: aber faktisch gesehen?

00:19:55: Ich glaube dass sie mehr Ressourcen gebraucht haben und mehr Geld auch eingesetzt haben.

00:19:59: Ich glaube dann nicht so ganz daran.

00:20:00: das ist so ein bisschen und hinzukommt lieber Joel und lieber zu hören.

00:20:04: Das ist natürlich auch das Zitrationsverfahren.

00:20:07: Guck mal!

00:20:08: Jetzt nehmen wir wieder unser Lehrer-Schülerbeispiel.

00:20:10: du bist jetzt Lehrer und hast halt studiert.

00:20:12: Du guck mal was hat sich fünf sechs sieben Jahre lang auf Lärm studiert und nun hast du eine Menge... gelernt.

00:20:18: Jetzt sitze ich aber vor dir und so bewillst mir etwas, was ich Deutsch-Materialskunde beibringen.

00:20:22: Da bringst du nur das bei, obwohl du aber deutlich mehr investiert hast in deinem

00:20:26: Studio.".

00:20:27: Das war sowas ähnliches als Beispiel.

00:20:29: Wenn ihr jetzt Sem Ordmann wärst also der CEO von OpenAI?

00:20:34: Was würdest du machen?

00:20:34: Was für Gedanken würden wir jetzt gerade durch den Kopf gehen?

00:20:37: wie würdest du auch reagieren?

00:20:38: Was wäre so dein Blick auf die Welt?

00:20:39: Na ja gut!

00:20:39: Ich meine er hat sich selbst schon geäußert ne da hatte er das Schreigen gebrochen Und hat ja schon gesagt, dass es sehr stark davon ausgeht.

00:20:46: Das ist eine recht unschöne.

00:20:50: Ich versuche mal ein bisschen diplomatisch auszudrucken... Geschichte war, dass sie da eher die Modelle verwendet haben und daraus durch die Destillationsverfahren.

00:20:58: Und auch durch weitere Verfahren das quasi nachgebaut haben.

00:21:03: auf der anderen Seite kann man natürlich auch sagen naja also seid doch mal froh, dass sich Chinesen da auch mal ein paar wirklich coole Ansätze in Bezug auf die Training der Modelle entwickelt haben, die euch wiederum helfen können.

00:21:14: Also ich kann mir gut vorstellen, dass es jetzt auf jeden Fall ihn unter Druck setzt.

00:21:18: Wenn nicht er wäre würde ich schon sehr genau überlegen okay kann man überhaupt ein Stück weit diese Resilationsverfahren vermeiden, muss?

00:21:25: eher würde ich sagen nein es ist fast unmöglich.

00:21:28: Muss sich die Modelle weiterentwickeln in der Art und Weise wie ich das bisher gemacht habe?

00:21:33: Ich würde sagen Nein, ich würde jetzt eher das eher auch als Geschenk nehmen, diese Optimierung dieser Art und Weise wie sie die Modellen trainiert haben.

00:21:40: also insofern... Und ich würde doch von an seiner Stelle vor allem auch mehr auf das Ökosystem setzen und vor allem noch transparente und ethische Ansätze weil wenn man diepsich so mal paar.

00:21:51: Wenn man so Fragen stellt, in Bezug auf die geopolitisch-regionale Geschichten.

00:21:56: Dann sagt die Psyk, ich hab keine Ahnung, ich weiß nicht, ich rede nicht mit dir darüber.

00:21:59: Also das ist halt auch immer so eine Sache.

00:22:02: und was ich auch nicht weiss, das wird sich mit der Zeit herausstellen.

00:22:05: Auch das wäre etwas wo Sam Haltmann sich überlegen kann ob da nicht eher mehr Geschichte ist, die ja den Unternehmen voraus ist es halt natürlich Security.

00:22:13: Keine Ahnung ob dieses Modell nicht nur Bias hat oder irgendwelche auch Security Issues Das wird sich halt raus stellen.

00:22:20: Wenn du jetzt Anwender wärst oder Anwänderin, was würdest du sagen?

00:22:25: Sollte man jetzt im großen Stil seine Anwendung umstellen auf kostenlose Nutzungen bei DeepSeek.

00:22:29: Oder schieße ich mir da an irgendeiner Stelle in den Fuß?

00:22:32: bist Du eher der Verfechter von Ökosystemen?

00:22:34: denke OpenAI gelerntes Modell westliche Werte vielleicht auch das ein oder andere Security Thema was mehr drin hängt.

00:22:41: also Was würde es du als Anwanderer in Sicht machen?

00:22:42: Naja, sagen wir mal Anwenderinnen.

00:22:44: Also das eine ist ja schon als Open Source.

00:22:46: sehr viele Unternehmen die das GDPR Thema BSI Grundschutz also DSGVO und all diese Auflagen haben es natürlich super weil sie können das jetzt einfach in den Rechenzentren betreiben.

00:22:57: wunderbar ne?

00:22:58: Ich würde generell einfach fallweise vorgehen und das ist jetzt wirklich neutral und unparteiisch obwohl man ja weiß dass ich sehr viel mit Open Air Gramm mache.

00:23:07: aber faktisch gesehen würde ich wirklich den Kundenkundinnen empfehlen einfach mal fallweise zu gucken, performt das Modell für die Aufgabe gut.

00:23:16: Ich würde es vorher testen evaluieren wenn die Evaluationen testgut sind und positiv antworten.

00:23:22: Why not?

00:23:23: Dann halt einfach das Sync erstmal in einem geschlossenen Bereich quasi im RZ oder lokal hosting Und dann würde ich auf jeden Fall wegen Security nochmal das Syncs beobachten und dann durchaus operativ einsetzen.

00:23:37: Ökosystem würde ich dann machen, wenn ich natürlich davon partizipieren kann.

00:23:41: Dass das bereits so viele Services drumrum gibt wie bei einen Tropic Open AI Lama.

00:23:47: und wenn ich sage okay, ich muss gewisse Sachen nicht mehr selber machen sondern greif halt einfach auf diese App Stores usw.

00:23:53: Und da kennst du dich ja genauso gut aus mit dem Plattformansetzen.

00:23:57: nämlich was ist eine Api?

00:23:58: Apis hier nichts anderes als eine Programmierungsstelle.

00:24:01: Das ist auch nicht nur für Nerds oder Programmierer oder Techies?

00:24:05: Nein, im Gegenteil.

00:24:06: Wir nennen das ja inverse Strategie.

00:24:09: Das heißt erhalte einen Wert den du nicht kennst vom Menschen die du nicht kennst für die Kunden die du dich kennst.

00:24:16: Was heißt also eine Grunde genommen?

00:24:17: Geöffnet ist ein Plattform deine Api.

00:24:20: da kommen irgendwelche coole Leute die entwickeln irgendwelches Software die verwenden sie verkaufen.

00:24:26: jetzt gehen wir von Salesforce und Android Apple Und Google, APIs.

00:24:32: Insofern in solchen Fällen lohnt sich dann auf ein Ökosystem ansetzen.

00:24:36: Spannend!

00:24:36: So jetzt hast du auch noch mal bisschen Big Picture-mäßig auf die andere Seite des Teichs gucken.

00:24:40: also es hat sicher an den USA auch parallel ganz viel getan.

00:24:43: Also vielleicht mal einen Schritt über dem wir auch nochmal reden könnten.

00:24:45: bei OpenAI hat man ja dieses Agent-Model irgendwie und das ganze Thema Automatisierung vorgestellt.

00:24:51: Magst du uns mal so ein bisschen erklären und abholen was damit auf sich hat?

00:24:53: Genau, also der Operator, den meinst du denn?

00:24:56: Der, der vor kurzem Raus kam.

00:24:58: Genau!

00:24:58: Der Operator ist im Grunde genommen ein Browser-basiertes Agents was hier in der Lage ist.

00:25:04: Ihr habt das Browser Modell.

00:25:05: ja da gibt es auch einen schönen YouTube Video.

00:25:07: in dem Demo erklären die das sehr schön.

00:25:09: Das heißt dass wird einfach eine Instanz generiert.

00:25:12: dann sieht man halt wie das Modell mit dem Browser agiert und einfach erklärt ist es so?

00:25:18: Wir kennen das schon von GPTVO.

00:25:20: Da kann man Bilder reintun und erkennt die Bilder,

00:25:22: d.h.,

00:25:23: das Modell macht ihm ein Screenshot.

00:25:25: Und anhand der Screenshots erkennt er halt was muss ich wo eingeben?

00:25:28: Wo sind die Knöpfe, die ich drücken muss?

00:25:30: Was sind die Regler?

00:25:32: Welche Eingaben würden verlangen?

00:25:34: Und je nachdem wie ich das Modellen instruiere welche Rolle gebe.

00:25:38: also wie ist es prompt für die Interaktion?

00:25:40: weiß es zum Beispiel was es tun soll?

00:25:42: Und dann geht das Schritt für Schritt durch.

00:25:44: Dann füllt die Sachen aus, wenn ich eine Password habe, brauche man muss dann der User oder die Userin die Kontrolle übernehmen, die Passworder, die Kreditgarten-Daten usw.

00:25:53: eingeben und dann wird einfach die Aufgaben auswirkt.

00:25:56: als Beispiel.

00:25:56: Wenn ich zum Beispiel eine Kinokarte buchen will, dann sage ich mir einfach geh zu UCI Ufa aber auch immer Bucht mir bitte zwei Karten von Abendvorstellungen in den vergangenen Jahren und nimm bitte die besten Plätze.

00:26:09: Ich sehe irgendwie am liebsten auf Plätze, die ganz mittig sind oder bis Mitte hinten.

00:26:14: Und das macht das Modell.

00:26:15: Das heißt so sucht man nach der Website, die Website wird aufgerufen, macht immer das screen screenshots geht da rein.

00:26:21: Irgendwann musst du dich einloggen und wenn ich eingeloggt hast dann sucht die Vorstellung für dich raus.

00:26:26: habe uns kommuniziert links mit dem Modell und es ist erstaunlich.

00:26:30: also ich hab's getestet und das war wirklich so.

00:26:33: es konnte sofort auch die besten Plätze erkennen die da frei waren hat mich auch gefragt wo sie ein bisschen gehackt haben natürlich die Logins um die Zahlung.

00:26:41: Die muss sich auch okay weil Issus, was ich nicht wusste, dass man sowas nicht in Deutschland für Banken einsetzen darf.

00:26:54: Ich war geblockt also das war ein bisschen unangenehm bis ich dann recherchiert habe, dass anscheinend solche Agents oder Operatoragents in Deutschland oder Europa nicht erlaubt sind.

00:27:05: keine Ahnung warum.

00:27:06: da muss ich noch recherchieren?

00:27:08: Ich vermute es ist so ein Mix zwischen Lobby und Technik.

00:27:11: ja Das wäre vielleicht noch mal jemand, der im Bankingumfeld ist.

00:27:15: Kann da ja eine Podcast-Folge was dazu sagen?

00:27:19: Und wie fällt sich das mit dem ganzen Thema Video?

00:27:20: weil da hat ja Open AI zuletzt auch nochmal Fahrt aufgenommen dass es mittlerweile nicht nur Bilder generieren kann sondern ein komplettes Video.

00:27:27: und also was ich bis dato so gesehen habe war schon sehr krass!

00:27:30: Also ich hab da immer ein paar Posts zu Sora abgesetzt, du meinst Sora ne?

00:27:34: Also...und das ist ein mega cooles Modell Da gibt's ja mittlerweile auch Alternativmodelle Und da gab es ja auch die Psyk, ich hab das habe ich den Namen vergessen.

00:27:44: Auch ein Videomodell oder Multimodales-Modell.

00:27:47: also jetzt bleiben wir aber bei Sora.

00:27:48: Bei Sora ist es so, also ich wirklich ... Ich habe bei mir im Link in diesen goldenen Retrieverwelten erstellt Und da muss ich dazu sagen, es hat wirklich echt lange gebraucht.

00:28:00: Der Promf war klar aber ich musste mindestens zwanzig Videos produzieren bis eins davon gut wurde.

00:28:06: ja also diese Geschichten die da erzählt werden.

00:28:08: das One-Shot ne ne ne das ist nicht mal View-Shout das sind sehr viele Shots und sehr viel Geduld.

00:28:14: teilweise denkt man so was soll das?

00:28:16: Aber wenn wir von zwanzig versuchen oder so, dann wird ein Video wirklich top.

00:28:21: Und in der Regel, wenn ich einen Bild oder Video habe, kann ich auch damit weiter machen.

00:28:25: Man kann sich Sequenzen erstellen und so weiter.

00:28:27: Dann ist es eigentlich in der Regel leichter.

00:28:28: aber die Dinger, die da gezeigt werden, glaubt mir das sind meistens vielleicht sogar dreißig, vierzig, fünfzig Versuche bis sie wirklich so aussehen.

00:28:36: Also es ist so... Ich glaube, da muss man noch ein bisschen warten bis diese Dinge perfekt sind.

00:28:41: Okay, aber es tut sich was!

00:28:42: Und dann gab's ja im USA natürlich dieses gigantische Projekt Stargate, also als Serien-Liebhauer.

00:28:48: Der hat sich vor dieser Serie sehr geliebt, da habe ich den Namen beschwunden.

00:28:51: Wo ja die US-Regierung sagt, siebenhundert Milliarden investieren mir und Oracle OpenAI.

00:28:56: Und hilft mir hier wie hieß der Asiate Softbank?

00:28:59: Dürfen quasi oder sind diejenigen, die das da koordinieren und

00:29:02: steuern?".

00:29:03: Was hältst du so davon?

00:29:04: Hast du schon erste Eindrücke gewonnen, was das eigentlich bedeutet.

00:29:07: Weil es sind ja unfassbare Summen wenn man sich mal den deutschen Markt im Vergleich anguckt.

00:29:12: also die Amerikaner ist schon soweit voraus.

00:29:14: jetzt dieses Investment?

00:29:15: wie würdest du so einordnen?

00:29:16: ich glaube es in fünfhundert Milliarden.

00:29:18: und bei den fünfhundert Milliarden ist es schon so dass da die einzelnen Sommer Ja, ob das jetzt ein Konsortium ist oder wie auch immer für einen Modell dahinter ist.

00:29:29: Die bringen ja schon einen signifikanten Beitrag mit und ich glaube schon dass es eine ernsthafte Ansage ist.

00:29:37: Ich bewerte das so, dass sie für sich erkannt haben die US-Amerikaner.

00:29:42: Das ist einfach eine Investition in Zukunft.

00:29:47: wie sie auch in diese Rede gesagt haben, zum Beispiel Gesundheitswesen, Bioforschung, Zellforschungen oder auch andere Bereiche.

00:29:57: Insofern hat hier nicht nur eine Auswirkung, dass wir davor sitzen und irgendwie komische Sachen prumpen, sondern möglicherweise kann es sogar dazu führen, dass Wir tödliche Krankheiten heilen können.

00:30:08: oder das heißt so, Das hatte auch einen gesellschaftlichen Beitrag.

00:30:12: Die machen das nicht nur deshalb, sie machen es auch damit sich dem Wandel des Landes vorantreiben.

00:30:21: Manche sagen doch, dass war alles klar und besonders gut, wenn das alles vorher klar war, warum hat keiner darüber berichtet?

00:30:28: Noch interessant fand ich dann nachdem diese Meldung kam, da hat sich jeder zu Wort gemeldet.

00:30:33: War auch schön!

00:30:34: Ich denke so okay wir können jetzt alle reden aber eigentlich müssen wir jetzt handeln und was bedeutet für uns aus meiner Sicht europaweit eine Initiative brauchen, die so eh nicht gelagert ist und idealerweise auch wirklich mit wirklich waschechten Expertinnen, die sich in dem Umfeld auch ausgehen.

00:30:52: Egal ob das jetzt im Bereich Infrastruktur oder Grundlagenforschung ist – weil Grundlagen-Forschung sind das A und O. Das haben wir ja bei DeepSeek ja vorhin besprochen.

00:31:00: Wir sind ja Top-Menschen, Mathematikerin, die da diese Grundlagen Forschung gemacht haben.

00:31:05: Und das kostet halt alles Geld!

00:31:07: Und hoffentlich nicht wie manche Projekte, ich will jetzt keinen Namen nennen, wo man viel investiert hat, viel vorhatte und am Ende des Tages nur Lobbyismus oder sonstwas daraus kamen.

00:31:17: Das ist halt eine Sache, das machen die Amerikaner besser als wir.

00:31:21: Und da müssen wir wirklich auch das gleiche machen und ich glaube, die Finanzen könnte auch die EU aufbringen.

00:31:27: Und es bedeutet eigentlich müssten wir auch solche ähnliche Initiativen in die Wege leiten und ein bisschen mutiger werden.

00:31:34: Ja, ich hab immer guckt du hast rechts von fünfhundert Milliarden.

00:31:36: Ich weiß gar nicht wie oft die siebenhundert kamen.

00:31:38: Wie hast du das so mit der ganzen Achse zu Elon Musk irgendwie wahrgenommen?

00:31:41: Weil er ist ja so ein Ängstvertrauter von Trump aber gleichzeitig ja mit OpenAI total überworfen weil er daher anscheinend durchregieren wollte.

00:31:50: man ließ ihn nicht und dann ist man ja da.

00:31:52: durchaus verstritten würde ich sagen also OpenAI macht auch ganz viel Public dazu.

00:31:56: Sie haben ganz viele geteilt die E-Mails die da irgendwie rausgegangen sind und der hat ja eigentlich sein eigenes KI Projekt auch mit diesem X AI.

00:32:04: Also ist ja eigentlich auch eine ulchige Entwicklung, dass dann gerade diese Konstellation zustande kam.

00:32:08: Hast du da so ein bisschen drauf geschaut?

00:32:10: Ja das sind jetzt... So Sachen, sagen wir das könnte vielleicht Sozial- und Verhaltensforscher besser bewerten.

00:32:16: Fachlich gesehen ist es so dass Maske am Anfang ja auch mit diesem Team war und die haben sich aus unterschiedlichen Gründen irgendwann getrennt seit sie's hier aus Open Air rausgegangen war auch übrigens maßgeblich dafür verantwortlich dass Elias Satske war quasi von Google zu Open AI gingen.

00:32:36: Dieser Streitpunkt ist natürlich schon so, dass aufgrund der Entwicklung die OpenAI gemacht hat und der technologischen Entwicklung.

00:32:43: Ist das schon eine enorme Geschichte, die entstanden ist?

00:32:46: Und ich will mich auch nicht äußern zu dem ganzen Hintergrund, wer wenn mag und wen nicht leiden kann.

00:32:53: Fakt ist halt durch diese Änderung des Gesellschaftsstrukturen, der Gesellschaftsstruktur von OpenAI quasi Non-Profit in Richtung Profit war halt auch etwas, was er dann wiederum als gefundenes Fressen gesehen hat und dagegen auch rechtlich vorgehen wollte.

00:33:09: Und es geht auch gerade dagegen vor.

00:33:12: Insofern denke ich das wird halt spannend, um zu gucken wie sich das alles entwickelt.

00:33:17: Er entwickelt ja auch selbst Grog.

00:33:21: jetzt kein schlechtes Modell.

00:33:22: Ich vermute, was ich so im Moment höre aus der fachlichen Welt und aus der KI-Welt, dass da auch sehr bald ein ziemlich großes Modell von ihm erscheinen wird.

00:33:32: Es sind enorme Investitionen geflossen.

00:33:34: Er hat ja auch relativ in einer kurzen Zeit viel Geld bekommen – die zehn Milliarden Euro.

00:33:39: Das ist unvorstellbar.

00:33:41: Insofern du merkst, ich kann nur aus der Fachlichen Seite das

00:33:45: beurteilen.".

00:33:45: Ja, hey Hamid.

00:33:46: Mega!

00:33:47: Vielen Dank also ganz viel gelernt und dann auch noch Markteinschessungen und trotzdem den Anstand gewahrt finde ich super.

00:33:53: Dann ganz ganz herzlichen Dank und bis zur nächsten KI-Austausch mit dir.

00:33:57: Sehr

00:33:57: gerne hat mich sehr gefreut.

00:33:58: vielen Dank Joel.

00:34:01: Danke fürs Zuhören beim Digital Compact Podcast.

00:34:05: Du merkst hier ziehst du massig Wissen für dich und dein Unternehmen heraus.

00:34:10: Wenn du mit uns noch erfolgreicher werden möchtest, abonniere uns auf den gängigen Podcast-Plattformen und hey!

00:34:16: Je größer wir werden, desto mehr Menschen können wir helfen.

00:34:20: Also erzähl doch auch deinen Kolleginnen von uns.

00:34:24: Bis zum nächsten Mal.