Die Nerd Show #19 - Der Nerd Agent

Oliver: wunderschönen guten Tag liebe Nerdshow Freunde, es geht los, wir haben wieder eine Nerdshow und wie ihr seht bin ich auf dem Campingplatz, aber ich habe es mir nicht nehmen können mich in die Sonne zu setzen. Bin aber trotzdem hier mit Sebastian, Manuel und Carlo einen wunderschönen guten Tag.
Carlo Matic: Hallöchen! Okay, lass uns direkt den Elefanten im Raum klären. Bist du noch nüchtern?
manuel: Hey ho!
Oliver: Nein. Es ist aber auch schon eins. Genau. Genau.
Sebastian Deutsch: Hahaha!
Carlo Matic: Es ist schon 1 Uhr Nachmittags, da gebe ich dir vollkommen recht. Und irgendwo auf der Welt ist es ja auch schon 17 Uhr, ne?
Oliver: Genau, deswegen, nein, das ist nicht das Ziel hier. Ich weiß auch gar nicht, ob wir genug Wasser mit haben. Außerdem kriegen das die Kinder. Dementsprechend, wir haben ja Prioritäten. Aber die Kinder sind jetzt alle im Freibad.
Carlo Matic: Ja, sehr gut. Ja, ich glaube, wird eine ganz besondere Folge. weil wir ja was Neues haben. Der liebe Sebastian war ganz fleißig und hat uns den Nerd Agent entwickelt und das führt jetzt dazu, dass wir in einer Telegram Gruppe einfach die Links, die uns umtreiben, reinballern können und der uns das zu coole Vorbereitungen und Show Notes umarbeitet. Führt aber auch dazu, dass es jetzt so einfach geworden ist, diese Dinger zu schreiben, dass wir jetzt plötzlich, ich glaube, 27 Links drin haben, die wir mal versuchen müssen, ob wir die in einer Stunde durchgeballert bekommen. Aber mal ein richtig geiler Use-Case für einen sinnvollen Agent finden.
Oliver: Ja, auf jeden Fall. Vielen Dank, Sebastian.
Sebastian Deutsch: Ja, also das habe ich mit OpenClaw mal gewasselt, weil OpenClaw auch noch wieder ausprobieren wollte. muss sagen, es ist nicht so geil wie Hermes. Ich glaube, irgendwann baue ich das Ding noch ⁓ auf Hermes wieder. Und ja, es ist jetzt total einfach geworden. Das heißt, wir können den Podcast jetzt locker irgendwie in so eine alles gesagt Sache umwandeln und für vier Stunden reden und sind dabei noch das Skill zu umproven über welche... Welche Sachen reden wir jetzt ganz ausführlich? Was kann man so im Vorbeigehen mal miterzählen? Was ist irgendwie Spezial-Nerd-Wissen und wo lohnt sich die Diskussion? Das muss ich dann alles noch rausfinden lassen. Aber wir haben irgendwie intern hier sehr, sehr viel darüber gequatscht, wie man solche Agents aufsetzt, was das ist. Vielleicht kann Manuel dazu auch mehr ein bisschen mehr erzählen. Ich glaube, hat ja das meiste Background wirklich sehr gut... Also sich viele Gedanken zugemacht, wo ich mir dachte, ach krass, so tief habe ich da noch nie drüber nachgedacht. Und ich bin ja immer eher so der Pragmat, der sagt so, okay, setzen wir mal so ein Ding auf, machen wir mal einen Workflow, keiner schreibt gern Show Notes, alle posten gerne Links durch die Gegend. Ja, ist doch ein super Use Case für so ein LLM, irgendwie das zu automatisieren. Genau wollen wir einsteigen.
Oliver: Sollen wir direkt starten?
manuel: Ich finde es auch total super. Und wenn du Hermes noch eine kurze Einweisung kriegen willst, kann ich dir sehr gerne helfen.
Carlo Matic: Gut!
Sebastian Deutsch: Ich hab ja mit dem E-Rive von Imigli eine Hermes-Instanz am Laufen. Ich kenn beide Sachen schon. Ich hatte OpenClaw noch gemacht, als es noch Moldbook hieß. Da war es schon, da war es neu und krass und u. Dann haben wir Hermes gemacht, weil das dann plötzlich so der New Contender war. Dann hatten mir aber ganz viele gesagt, es hat sich aber richtig was bei OpenClaw getan. Das ist viel besser geworden. Und gib dem noch mal eine Chance, das musst du noch mal machen. Der Peter Steinberger, der brennt ja irgendwie angeblich. für eine Million Euro pro Monat Tokens weg, ⁓ das Produkt weiterzuentwickeln. Peter, ich hab dich richtig lieb, du weißt das. Aber davon sehe ich jetzt noch nicht so viel. Also ich finde, die habe ich letztes Mal schon gesagt. Genau. Das ist so, ich...
manuel: Es wird auf jeden Fall ein TikTok-Short gleich jetzt hier genauer dieser Teil.
Carlo Matic: Auf jeden Fall. Bitte rausschneiden, Podgy.
Sebastian Deutsch: Nein, finde halt irgendwie die Anwendung, das Installieren von OpenClaw ist immer noch sehr, sehr tech driven. Also du musst wirklich echt Ahnung haben. Das war dann auch irgendwie, das hat dann auch erstmal nicht funktioniert. Das ist ja auch mein Main Agent für meine internen Dinge, die ich tue. Dann wollte ich nicht, dass ihr irgendwie auf meine Vaults zugreifen konnt. Also musste ich das irgendwie sandboxen, was wir hier mit dem Nerd Agent machen. Ja, das war etwas, wo ich einfach... Das hätte glaube ich jemand anderes nicht geschafft, der nicht so viel Basiswissen in Programmierung und Linux und Containern und Docker gehabt hätte.
manuel: Ja, absolut. Wenn wir da schon gerade sind, das Gegenbeispiel ist nämlich Hermes, die nämlich einen Hermes Desktop rausgebracht haben, hab ich auch in den Show notes gesehen. Und die gehen voll auf, die machen das jetzt für den nicht-techie zugänglich. Und ist tatsächlich ziemlich gut geworden. Also, und du kannst es dir neu installieren, auf Windows auch. Sonst war früher immer nur Mac und so weiter. Du kannst es dir auf meinem Mac installieren, der erkennt meine Hermes-Instanz. Der dockt sich direkt dran. Also schon ziemlich cool.
Carlo Matic: Dann hänge ich da direkt das Thema Microsoft dran, denn die haben jetzt auch vor Copilot zu so einer Super App zu machen, die Hintergrundagenten hat, so wie Scout. OpenClaw hat jetzt auch diese native Windows-App, aber Microsoft hat so eine policygetriebene Sandbox und das führt jetzt dazu, dass eigentlich das Ganze von Terminal-Nerd-Tools richtig in so OS-Level-Workflows reinkommen. Dass man dann wirklich sagt, räum mal meinen Download-Folder aus, was irgendwie so ein typisches Beispiel ist.
Sebastian Deutsch: Ja, ja. Gemini hat das ja auch. Also Google hat das auch mit Gemini Spark. Also ich glaube alle machen das jetzt. Und ich glaube da und auch da nochmal wieder, Peter, ich hab dich richtig lieb, das hast du richtig gut gemacht. Ich glaube der Vorteil von OpenClaw ist die Community. da hast du so mit, es gibt ja dieses Claught Hub, das ist so ein Repository von Skills, die auch teilweise battle-tested sind. Manche haben auch Würmer drin, aber die meisten sind schon ziemlich gut. Wenn irgendwas irgendwie mehrere zehntausend Stars hat, dann... Weißt du dann auch schon, das ist schon echt amtlich. Und da sind dann Sachen drin wie, keine Ahnung, dass du mit Apollo von irgendwelchen Kontakten, die du kennenlernst, irgendwie die Telefone mal raussuchst, ganze Profile raussuchst, das anreichert, dann für dich irgendwie in einem, was weiß ob sie dir in irgendwas anlegt und so. Diese Sachen funktionieren schon sehr, sehr gut und da ist eigentlich auch, glaube ich, die Stärke von dem Produkt. Ich glaube, wenn du irgendwas haben willst mit, räumen wir mal meinem Google Drive irgendwie den, den Müllhalter auf. Das kannst du dann wahrscheinlich mit Gemini Spark supergut machen, wenn irgendwie bei OneDrive die Bukaka ist, dann kannst du das halt irgendwie wahrscheinlich mit dem Microsoft Copilot-Ding machen. Ich finde die anderen Sachen, also ich finde auch Cowork ist sehr, sehr stark. Also mir sagen immer auch ganz viele Leute, wenn ich denen halt mein Open-Cloth oder Hermeszeug zeige, sagen immer so, ja kann ich mit Cowork auch machen. Der kann auch Loops, der kann auch dies und das.
Carlo Matic: Irgendwas sagen, wer am günstigsten ist? Also, wir so rein von der Kostenseite, ist da irgendeiner weiter vorne?
Sebastian Deutsch: Nee, aber habe heute morgen, das ist bei Secondhand Smoke, habe ich mich mit einem von unseren Jungs bei Wendis unterhalten, das ist das TM, was wir gerade bauen, dass der sagte, in drei Tagen schaltet Entropic Claude für OpenClaw auf jeden Fall ab. Also du kannst und darfst dann OpenClaw nicht mehr mit Claude Code zusammen verwenden, also dürftest du dann nicht mehr so was machen, dass dann OpenClaw sogar Claude Code remote. Also das weiß ich von vielen, dass sie das machen, dass sie zum Beispiel so ein Gateway haben. wo die dann einfach so Aufträge geben, programmieren wir mal eine Marketing-Webseite, programmieren wir mal ein Dashboard und der gibt es dann an Cloud Code, an der Cloud Code Instanz weiter und das darf jetzt nicht mehr über Maxplans gemacht werden, sondern dafür gibt es einen separaten Only Pay Per Token Plan, ja, den Sie darüber laufen lassen. Das heißt, wenn du das machst, ist es dann halt auch recht schnell arschteuer. Also das...
manuel: Aber das heißt, die Maxplans, die gaten sie jetzt richtig rein in das Cloudharness im Prinzip, also Core Code und so weiter.
Oliver: Ja, musst du dann, musst du das ganze Cloudding nutzen. Und Achtung, ne? CloudMax, wenn du in einer Firma bist, 150 Leute ist Ende. Über 150 Leute kannst du auch keinen CloudMax mehr nehmen. Dann musst du in den API... ...raum. Ist vorbei. Dann musst du per API Token signen.
Sebastian Deutsch: Genau.
manuel: Also ich habe ja mit euch mal, also wir bauen das sehr, sehr strukturiert, bauen wir unsere ganze Architektur und die Landschaft auf. Genau aus dem Grund, weil diese Frage, ist das eine teurer als das andere, das will ich überhaupt nicht beantworten müssen, sondern ich schneide bestimmte Layer einfach raus. will auch ein Hermes, will ich komplett austauschen können gegen was auch immer. Aber diese vertikale Integration, die alle versuchen, die will ich unbedingt vermeiden. dass ich quasi darauf setzen muss auf ein Modell.
Oliver: Du musst natürlich aufpassen, es gibt noch nicht überall Standards. Also die ganze Austauschfähigkeit ist noch nicht so 100 % gegeben. Du hast jetzt schon Skills und ähnlich und Soul, MD und keiner. Also es nähert sich an, aber du hast noch keine wirklich Standardisierung. Das merken wir bei dem Agent-Bauen, dass wir noch sehr hart darauf warten, was für Standards sich entwickeln.
manuel: Ich glaube da können wir einen eigenen Podcast drüber machen, weil ich glaube, dass das nämlich schon geht. Nächster Link, nächstes Link.
Oliver: Okay, gut. haben außerdem viel zu viele Links. Wir reden schon wieder, seit 10 Minuten und haben noch keinen einzigen Link besprochen.
Carlo Matic: Und schon wieder. Und schon wieder.
Sebastian Deutsch: Noch kein Herzlichen Glück. Doch, doch, doch, ein Hass gedroppt. Genau, vorbeigeht.
Carlo Matic: Doch, doch, doch, doch, einen habe ich gedroppt.
manuel: und den Hermes-Desk auf.
Oliver: Okay, dann machen wir ganz schnell...
Carlo Matic: Okay, so viele Dinge zur Auswahl. Mit welchem starten wir?
Oliver: Ich mache einen schnell und einen kurz. Super Idee. Jeder darf sich einen Link aussuchen, der kurz anspricht und dann darf aber einen reden. Den, den ich kurz anspreche, Alphabet hat auch schon announced gerade, dass sie ihre 80 Milliarden gerastet haben. Beziehungsweise 40 Milliarden haben sie gerastet und 40 Milliarden raisen sie noch für AI-Infrastruktur und haben auch announced, dass sie das mehrfach machen werden. Am Ende so gefühlt haben die halt gesagt, naja, was Anthropic kann, können wir schon lange mit einer vierfachen Bewertung. Dementsprechend versuchen die jetzt Geld zu
Sebastian Deutsch: Yo!
Oliver: für diese ganze AI Hardware, das machen die auch. Das spannendere Thema ist, es gibt so eine riesen Shit Show mit verschiedenen Dingern und ich hab mich bisschen tiefer da rein gelesen, deswegen will ich es kurz erklären. Können wir darüber diskutieren oder nicht? Es gibt einen Punkt, dass NVIDIA hat für 5,4 Milliarden an eine neu gegründete Firma, die Valor irgendwas heißt, Hardware verkauft und das komplett als Revenue gebuckt. Wenn man sich Valor anguckt, hat aber Valor 1,9 Milliarden von Nvidia bekommen als Geld und dann 3,5 Milliarden von einer anderen Firma als Credit. Die Firma, die dann Credit gegeben hat, hat das danach in Rentenpapiere umgemünzt, wo Leute halt, wo das dann in Pension-Funds und so weiter reingeht, wo Leute feststellen, okay, das ist doch ein Circle-Jog, Das Problem ist, muss da tiefer rein gucken. Ja, das ist komisch, weil sie sich selbst Geld gegeben haben. dieses Valor-Compute-Infrastructure-Ding hat einen Vertrag mit XAI. XAI ist verpflichtet... hat er quasi ein Leasing Agreement mit. Und zahlen über fünf Jahre wesentlich, wesentlich mehr als die 5,4 Milliarden. Ähm, haben jetzt in den ersten drei Monaten, zwei sechs oder zwei fünf, war das schon 800 Millionen, in ersten sechs, also, kann man selbst nachgucken, man will, aber werden definitiv wesentlich mehr zahlen als die 5,4. Und dann fragt man sich, aber warum hat der jetzt denn XAI gemacht? XAI wiederum hat das gemacht, um einen Operationsvertrag mit Valor zu machen, dass sie nicht Capital Expenditure haben, dass sie nicht 5,4 Milliarden für Grafikkarten ausgeben, sondern eine Milliarde pro Quartal, am Ende irgendwie 12 Milliarden über drei Jahre, keine Ahnung was, oder eine halbe Milliarde, irgendwas, dass sie halt mehr Geld ausgeben, aber das als Operationskosten betiteln können und das damit profitmindernd ist und nicht abgeschrieben werden muss. Da hat ihn leider PWC in Strich durch die Rechnung gemacht.
Sebastian Deutsch: Weil das nicht K-Pax ist, sondern Operation,
Oliver: Es ist nicht CapEx, sondern Opex. Und das ist immer so bisschen der Versuch. Das versuchen scheinbar relativ viele Leute mit diesem Konstrukt. Michael Saylor sagt, das ist hier Schmoo und alles falsch. Stimmt nicht ganz. Ich find's auch gar nicht so schlimm, weil also der Vertrag besteht über fünf Jahre mit XAI und die müssen das zahlen. Oder pleite sein und das werden sie nicht sein. Das heißt, die Leute, die auch diese Rentenpapiere kaufen, kriegen ihre Zinsen zurück. Und NVIDIA verdient sogar wesentlich, wesentlich, wesentlich mehr als die 1,9 Milliarden. Ist so wie so ein Leveraged House Deal.
Sebastian Deutsch: Ja, genau.
Oliver: Du hast halt einen Kredit, der kriegt seine 6 % oder so und allen Rest Profit kriegst du. Dementsprechend ist das eigentlich gar nicht so schlimm. Du musst nur ultra tief rein gucken. Für Exire ist leider schiefgegangen, weil PwC hat gesagt, die Idee war doof. Ihr habt quasi Hardware gekauft, aber zahlt sie anders. Also das ist CapEx. Also leider hat jetzt XAI, CapEx, von 5,4 Milliarden für 12 Milliarden gekauft. Wie viele Milliarden das sind, weiß ich nicht, aber ein Riesenteil mehr. Deswegen merkt man, man das fand ich so krass, man muss halt ultra tief reingucken, stell ich immer wieder fest. Gerade bei Twitter, weil irgendwie da 90 Prozent ist E-Schmu und dann müsstest bisschen hinterher gucken und auch bei solchen Sachen. Das ist alles nicht so einfach. Natürlich sind das Financial Plays und so weiter.
Carlo Matic: ⁓ Sande. Wow, das Schlechteste aus beiden Welten erreicht.
Oliver: und ja, jede große Firma hat einen Datch Sandwich, irgendwas aus Steuergründen in Europa, ⁓ Steuern zu sparen in Europa und so weiter und so fort. Das sind aber einfach die Regeln, denen gespielt wird. Und nach den Regeln spielen die halt. Und sie versuchen halt Sachen zu optimieren, innerhalb dieser Regeln. Deswegen fand ich auf jeden Fall spannend, dass man so anfängt, das kann ja gar nicht sein, Nvidia kauft ihre eigene Hardware und macht dann 5,4 Milliarden Revenue und irgendwelche Rentenkassen, zahlen den Bill. Ja, langfristig kommt man da raus.
Sebastian Deutsch: Ich weiß nicht, ich weiß nicht genau, ob sich jeder, ob sich jeder Zuhörer das alles so vorstellen kann, was das für Summen sind. Ich glaube, ich hatte das auf LinkedIn gepostet, das letzte Mal schon. Wenn Google 80 Milliarden Dollar aufnimmt, dann ist das ja nur so ein kleiner erhobener Mittelfinger in Richtung Entropic, die kurz vorher nochmal 65 Milliarden gerastet haben und so zeigen kann. Also was ihr könnt, könnt ihr schon lange. Und bei den 65 Milliarden hatte ich schon einmal gepostet, damit man sich das einmal vorstellt, die Relation. Wenn ich alle Start-ups in Europa nehme und alle Funding Rounds nehme, dann kommt man auch auf 65 Milliarden. Das heißt, Entropic hat in einer Runde so viel aufgesammelt wie alle Start-ups in Europa überhaupt. Das ist halt ultra krass. Und jetzt macht Google das gleiche nochmal und so weiter und so fort. Und jetzt muss man sich einmal bei den Tokens fragen. Ich weiß nicht, checkt ihr eure Usage? ich weiß, seid alle auf irgendwelchen Plänen und so, ich auch. Ich gucke trotzdem, wie viele Tokens ich so verbrauche. Es gibt ja so ein cooles Tool.
Carlo Matic: jeden.
Sebastian Deutsch: Das heißt CC Usage. Wo liegt der denn da? So.
Carlo Matic: Bei mir ist harmlos, bei den Mitarbeitern natürlich. Und weil wir haben immer diesen Spagat, sagen wir ihnen jetzt, bitte passt ein bisschen auf, aas nicht so rum. Oder sagen wir, nee, bitte gib Vollgas. Weil das ist ja so, du hast auf der einen Seite Leute, die so bisschen wirtschaftlich denken können, die denken sich, ja wie geil, ich renn jetzt hier 200 Dollar durch, aber ich hab auch mal eben den Tagessatz von einem Freelancer für 800 gespart. So denkt ja nicht jeder normale Angestellte. Dir denkt sich, oh Gott, scheiße, ich hab 200 Euro verwallert. Okay, wenn er die 200 Euro für Mist verballert hat, dann ist natürlich irgendwie bisschen doof, aber jetzt gerade ist ja so Bilder-Time und probier aus und krieg's irgendwie klar. Aber das passt ganz gut zu einer anderen Show Note, dass Amazon ja ihr internes AI-Leaderboard abgeschaltet hat, weil da quasi belohnt wurde, wer am meisten Tokens verballert. Ich weiß auch ein Inside von Shopify, wo die auf so einer Konferenz alle zusammengesessen haben, auf einem großen Monitor oben, gefeiert haben, wer mehr Tokens verwalert hat. Aber das führte eben dazu, dass die auf diesem ChiroRank Dashboard einfach sinnlos Agenten haben laufen lassen, mit dem Ziel einfach nur im Usage Leaderboard aufzusteigen. Und das führt natürlich dann nur zu aufgeblasenen Cloudkosten. Sorry für den kleinen Exkurs.
Sebastian Deutsch: Manuel, wie viel brennst du so durch?
manuel: Ich hab gar keine Ahnung. Interessiert mich auch nicht. nein, also, ich hab halt eine Subscription. Und wenn die alle ist, ist sie alle.
Sebastian Deutsch: Das interessiert mich nicht. Mich interessiert das schon, weil... Ja, aber du musst dich ja mal fragen, was passiert, die Subscriptions, wenn die sagen, die gibt es jetzt nicht mehr. Das muss man mal so gucken. Also bei unseren Leuten, die das so richtig hardcore machen und auch einschließlich mir, habe ich eigentlich API-Tokenkosten von zwischen, also es geht eigentlich mehr so bei 1000 Euro los und die heftigen Player machen auch schon mal 10.000 oder 15.000 im Monat und zahlen dann, sind dann auf so einem Max-Plan. Das heißt, dass es halt gerade ultra krass Subsidar ist, damit sie an die Daten kommen, damit sie an die Repositories kommen, auf denen sie lernen können. Und irgendwann kommt der Moment der Wahrheit, wo sie das abschalten müssen. Jetzt muss ich mal einmal sagen, glaube 1000 Euro, das würde ich noch bezahlen. Aber ob ich jetzt 10 oder 15.000 Euro bezahlen würde, boah, weiß ich nicht.
Carlo Matic: Nee, ist mir völlig latte. Also es geht wirklich nur um das Verhältnis. Wenn ich weiß, ich kriege irgendwie für 1000 Euro einen Vollzeitentwickler, so nach dem Motto, und ich habe da für 10, dann zahle ich auch 10.000, wenn sie wirklich die Performance machen.
Sebastian Deutsch: Genau, wenn das aber 10 geht. das ist halt irgendwie, also ich glaube einfach, dass der Workflow, den sich da viele Leute, also ich glaube, dass die super viele Tokens werden momentan da so einfach krass missbraucht. Ich glaube, wenn ich mir unseren Workflow angucke, dann arbeiten wir sehr stark damit, dass wir halt so PRDs haben. Das sind die Product Requirements Documents, das ist drin. Die gehen in so ARCs, die sind dann etwas technischer. Wir haben für die Architektur, haben wir quasi Architekturdokumente, die dann auch nochmal so ein Architektural Decision Record, sogenannte ADRs und so. Und damit wir eigentlich in der Lage sind, zu jedem Zeitpunkt eigentlich immer einen Feature nochmal neu zu generieren. Gerade wenn du irgendwie mit mehreren Leuten dran arbeitest und dann bewegt sich unten drunter die Architektur, dann kannst du eigentlich immer aus dem ADR und dem PRD nochmal einen neuen RFC ableiten und kannst dann ein Produkt neu generieren. Wenn du das drei, viermal machst, bist du aber auch locker bei einem komplexeren Produkt irgendwie 1000 Euro in Tokens eigentlich los. So und das ist etwas, wo Ich denke, dass der Workflow, funktioniert jetzt gerade, wo das so heavily subsidized ist, der funktioniert aber nicht mehr, wenn jetzt plötzlich die Tokens auch tatsächlich Geld kosten. Und ich gucke da schon sehr genau hin, weil mit dem IPO wird ja genau das passieren. Mit dem IPO sind sie plötzlich an der Public Surveillance. Da kannst du nicht mehr den Aktionären sagen, ja, wir müssen jetzt unsere Marktanteile hier gewinnen, sondern die sagen dann, hier, wo ist unser Profit? Und dann werden sie die Sachen umschalten.
manuel: Ja, also mein Hauptpunkt hier ist, dass wir so schnell sehen, wie sich das wandelt, dass ich glaube, es wird sehr viele Open Source Alternativen geben, es wird einen enormen Preisdruck geben und ich kann es total nachvollziehen, dass Anthropic jetzt halt sagt, dass die Leute nur ihren eigenen Harnes nehmen können und ich habe drei verschiedene Subscriptions. Ich tingle halt bisschen rum, da und da, ich mache mich aber von keinem abhängig. Und dann nutze ich halt was anderes. Und ich glaube, von Anfang an, also so wie wir das bauen, ist das wir tatsächlich immer auch so einen Gate haben, Costgate reinmachen, dass er nicht einfach so blind einfach so wegläuft. jeder, wir nennen das Assistants, das sind so Skillbundle quasi. Die wissen auch, was sie quasi ausgeben können und was nicht. Und wir machen von Anfang an, denken wir in Token-Effizienz. Und ich habe auch ein lokales LLM hier laufen, habe ich letztes Mal auch schon erzählt, Gemma. Und das wird einfach nur noch besser werden. Die Frage ist jetzt eher, wir diskutieren gerade, ob wir einfach eine fette Maschine hier hinstellen, dass wir bestimmte Sachen einfach komplett über so lokale LLMs machen lassen. Weil ich nutze einiges so mit Quen und so weiter, Open Source LLMs und DeepSeq 4. Das ist total in Ordnung. Das ist echt total in Ordnung.
Carlo Matic: Ja, okay, dann kann Open Source irgendwann helfen, aber ich meine, irgendwo muss es halt betrieben werden. wenn dir die Maschine zu Hause halt nicht reicht, dann hilft dir auch nichts, dass das Open Source irgendwo anders ist. Dann ist es ein Infrastructure Planner. Aber ⁓ mal einen Schritt weiterzukommen hier mit unserer Linkliste, Thema oder hast du noch was, Sebastian, dazu? Zum Thema Effizienz und Token reduzieren hat Heisen einen ganz coolen Artikel rausgebracht. Da reden sie über semantische Anker. Ich pack sie in die Show Notes rein.
Sebastian Deutsch: Das ist... Ja,
Carlo Matic: die sollen den Promtkontext für generisches Coden deutlich verkürzen. Das heißt, man hat so ein paar Begriffe definiert, die jedes Large-Language-Model, was irgendwie coden kann, gut kennt. Und dann so Referenzen wie Clean-Architecture, Codesmells. ⁓ euer Stilvorbilder so Zeug dann für ein Sprachmodell als ganzes Regelwerk hinterlegt. Das heißt, du musst es nicht nochmal neu beschreiben. Der muss nicht nochmal tierisch viele Tokens dafür verballern, sondern wenn du diese Sachen benutzt, dann wird es halt deutlich effizienter. Daher auf jeden Fall mal reingucken, wer so codet und das dann in seinen Agents einfach verwenden. Damit kann ich den Tokenverbrauch senken. Ich habe es noch nicht ausprobiert, aber klingt total logisch.
Sebastian Deutsch: Ja, cool.
manuel: Genau, und das ist genau das, was wir letztendlich sehen werden. Und wenn wir mal weiterspringen in den Show Notes, hier an NVIDIA Spark. da passiert ja auch auf der Hardware-Seite komplett viel. Und ich glaube sehr stark daran, dass wir sehr viel wirklich LLMs sehen auf unserer eigenen Infrastruktur. Das ist jetzt vielleicht noch zwei, drei Jahre hin. Aber dann dann wird sich das wieder zu einer dezentralen Comput-Infrastruktur entwickeln mit einem eigenen LLM. Also da glaube ich stark dran.
Sebastian Deutsch: Ja vielleicht da. NVIDIA Spark ist eine Grafikkarte für Endkonsumenten-PCs, die dann aber sehr dazu fähig ist, auf so einem LLM laufen zu lassen. In a nutshell.
Carlo Matic: Ja und lieben Oli, haben wir auf dem Campingplatz gerade verloren. Wahrscheinlich hat er in den ersten 10 Minuten schon seinen Dataplan durchgeballert. Seine 2,4 Gigabyte sind jetzt einfach schon alle.
manuel: Ja, und das
Sebastian Deutsch: Ja, des. dieses Plumpsklo gefallen.
Carlo Matic: Vielleicht kommt er gleich noch dazu, aber das Netz sah echt nicht so gut aus bei ihm.
Sebastian Deutsch: Gut. Was haben wir noch? Hier zu den lokalen Modellen. Google hat ja gerade irgendwie das Gemma 4, 12 Milliarden Parameter vorgestellt, was ja auch so ein mittelgroßes LLM ist, was Sie irgendwie on a mobile phone, local, irgendwie machen können. Und du kannst das über Ulama, Hugging Face und so verschiedene Outlets einfach ausspielen.
Carlo Matic: Das ist ⁓ total cool, was jetzt alles so an lokal kommt. Ich erinnert ihr euch noch an Stable Diffusion 1.5. Wie creepy man da irgendwie versucht hat, so bisschen Bilder mitzumachen. Damals war es richtig geil, aber eigentlich noch so hart. Das läuft jetzt auf dem iPhone 17S. Total krass. Du brauchst irgendwie drei Sekunden Generierungszeit für ein 512 x 512 Bild. Damals brauchst du da die fette Nvidia-Karte für.
Sebastian Deutsch: Ja. Ja, das glaube ich eigentlich auch. Ich glaube auch daran, dass die Techniker das schon irgendwie hinkriegen werden, so stark zu optimieren, dass die Kosten dann irgendwo auch so bisschen in was rechnen wir denn für so Plan ab und was kann man da irgendwie machen, was kann da irgendwie reinpassen. Nur, ich mache mir die Sorgen auch, wenn man darüber redet, dass man irgendwie beim Funding gerade echt einen krassen Stunt macht und dass irgendwelche Rentenleuten verkauft, über drei Packages gebundelt. Dann sind die Techniker halt doch noch nicht so weit. Die Rente muss immer morgen bezahlt werden.
Carlo Matic: Ja, ganz realistisch, ist doch wirklich so digitales Halership, ne? Die lassen uns jetzt gerade an die Nadel und dann werden die Preise angezogen. Ich mein, passiert ja gerade schon aktiv, ne?
Sebastian Deutsch: So, was haben wir noch? Wer möchte?
Carlo Matic: Also ich könnte mal ein bisschen über Krypto. Ich will versuche immer ein bisschen aufzupassen, dass der Alten eine Historie wegen noch ein bisschen Krypto hier unterbringen. ja, ihr seht ja, habt ihr mitbekommen wahrscheinlich gerade, dass der Markt ziemlich dippt. Ich will auch gar nicht spekulieren, wieso, weshalb, warum. Aber es hat jetzt erstmal dazu geführt, Michael Saylor mit seinen Strategy-Jungs, der hat für 74.000 Dollar im Schnitt seine ganzen Bitcoins gekauft. Jetzt sind wir irgendwo bei 60.000. Das heißt, der ist mal eben 10 Milliarden in den miesen bleibt aber immer noch bold sagt das ist so ein bisschen ja so ein rotationswechsel kapital rotation weil es braucht halt kohle für die ganze infrastructure also dass selbst krypto darunter leidet dass jetzt einfach mehr kohle für gebraucht ist nicht ist wahrscheinlich ein bisschen was dran gucken wie sich das auszahlt Aber ich merke einfach, wenn wir so viel Kapital für Rechenzentren, Chips und Aktien rotieren, dann hängt Bitcoin da voll mit drin und andere Kryptos wahrscheinlich auch. Was ihr dir?
Sebastian Deutsch: Also ich glaube nicht, dass der DIP irgendwie damit zusammenhängt, dass die EU da jetzt irgendwelche strengeren Regeln irgendwie gerade aufgerufen hat. Wir irgendwie mit Mika, der tritt ja jetzt gerade in Kraft oder so. Das ist aber etwas, was jetzt schon lange irgendwie andeute. Und ich glaube, alle meine Börsen, wo ich so unterwegs bin, nicht, also quasi wo ich nicht eigene Keys habe, die sind auch schon safe. Die haben irgendwie schon irgendwie announced, haben jetzt irgendwas in Lichtenstein und so. über das der Huddle abläuft. Bei den anderen Sachen glaube ich, das sind einfach so Bewegungen, wo... Also ich glaube, wir haben jetzt gerade einfach so ein IPO-Fans da. Wir haben irgendwie SpaceX, wir haben Entropic, der Pipp Klockner aus dem Doppelgänger-Podcast hat das ja letztes Mal auch schon gesagt. Also wenn Entropic an den Markt geht, dann werden sie das wahrscheinlich mit einer Bewertung von einer Billion tun. er glaubt aber, dass die Firma das doppelte Wert ist. Also er sagte... Ich wäre relativ bullish, dass sich das auch nochmal verdoppelt. Klar wird das jetzt einen Riesen-Tipp geben, wenn die ersten dann auch irgendwie bei dem Liquidations-Event rauskommen. Aber er sagte, das was die gerade machen, das ist ultra krass und da passiert so viel und es ist einfach, this is the way, das ist die Zukunft. Er hat es so nicht gesagt, er ist sehr bullish.
Carlo Matic: Du hast da gerade ein zweites Thema schon mal reingebracht, nämlich die Mika-Regeln. Nur noch der Hinweis an alle Hörer, am 1.7. treten die in Kraft und falls ihr noch an irgendwelchen dubiosen Exchanges, Coins oder sogar Fiat rumliegen habt, zieht die vorher da raus, denn ab da kannst du die in der EU, wenn Mika eintritt, Mika heißt Markets in Cryptoassets, dann einfach nicht mehr handeln. Das heißt, das ist einfach gesperrt und ob die dann die Zulassung kriegen oder nicht, I don't know. Ich habe mal geguckt, ich habe wenn immer ich was bei Kraken oder Binance, Kraken ist safe. Binance konnte ich jetzt auf Anhieb nicht so ganz sicher stellen, also irgendwie ja, dann aber irgendwie doch nicht. Binance muss ich auch noch mal gegenchecken, checkt, also do your own research. Aber 1.7. ist dann Mika aktiv. Kryptochecked.
Sebastian Deutsch: checkt. Was haben noch? Wir viel.
Carlo Matic: Ja, SpaceX hast du gerade angerissen,
Sebastian Deutsch: Der größte Bankraub der Geschichte, zweitgrößte. Hat Zitat von Sascha Pallenberg, den ich eigentlich schon einen ganz guten Typen finde. Meistens ist er auch bisschen off, aber ist schon okay. Ja, genau. Und der hat irgendwie einen großen Blogpost auf seinem Metacheles-Blog gemacht darüber, wo er sagt, wo er das bisschen einfach mal aufzieht, wo er sagt, wie hat Elon Musk das geschafft?
Carlo Matic: Ich noch aus diesen Web-2-0-Zeiten den Barcams und so.
Sebastian Deutsch: sehr viele Bullshit-Filmen zusammen zu bundeln und zu einem Mega-Exit zu machen und den ganzen Retail-Ownern, ich meine, habe gestern die Nachricht von Trade Republic bekommen, dass Trade Republic offizieller quasi ICO-Launchpartner von SpaceX ist, wo ich mir irgendwie denke, natürlich wird der Herbert ⁓ die Ecke, der auch irgendwie mit seinem Fernrohr immer den Sternenhimmel beobachtet, auch mal in den Weltraum investieren.
Carlo Matic: Das kleine Geld.
Sebastian Deutsch: dem auf gar keinen Fall klar ist, in was er da alles so investiert. Wie seht ihr das?
Carlo Matic: Also ich fand die, also diese ganzen Kreuzverbindungen, dass er damit dann irgendwie einen XAI finanzieren kann und so weiter, halt wirklich, wirklich wild. Und ich meine, es gibt viele schöne andere Sachen, jetzt dadurch, dass ja wirklich irgendwie Dinge im Weltall passieren, wo man gut investieren kann. Also wo so Technologien, du brauchst, ⁓ da irgendwie hochzukommen, jetzt total profitieren, wenn die auch mal bisschen Geld bekommen. Ich glaube, ist ein Riesenscam. Letztes hatten wir schon gesagt, dass du der Exit Das glaube ich auch. Das wird richtig übel runtergehen. Aber never bet against Elen. Da muss man auch immer drauf achten. Er spielt das Spiel schon.
Sebastian Deutsch: Ich finde es ja gut, dass die Stunners & Poor 500 regeln für so mega IPO's. Ich habe vorhin ICIO gesagt, eine IPO. Dass die auf jeden Fall sagen, es gibt erst mal so ein 12-Monats-Fenster, wo wir uns das angucken, bevor wir die reinnehmen. dann hast du ja sofort das ganze passive Geld aus den ETFs, was in sowas reinfließt. Das bin ich gleich unfassbar wasser.
Carlo Matic: Genau, also da gab es irgendwie die Überlegung, dass der S &P da so eine Kurzabkürzung macht für die, aber sie haben gesagt, ne, lassen wir 12 Monate Bewehrungsphase muss irgendwie sein, Profitabilitätsprüfung, Free-Float-Anforderungen bleiben alle bestehen und so kann im SpaceX, OpenAI, Anthropic und so dann nicht über die Schnellspur und S &P und genauso wie du sagst, dadurch müssen die ETFs noch nicht so schnell nachkaufen und das hilft vielleicht ein bisschen, dass es nicht ganz so schlimm platzt.
manuel: Aber nur beim SMP, aber beim Masterkunde kommen die immer rein, oder?
Carlo Matic: Ich glaube Nestec ja, ich glaube da sieht es anders aus.
manuel: Weil genau, das war nämlich mein Ding, dass Sie in Nasdaq nämlich schon den Fast Entry bekommen. das, was ich gelesen hatte, nach 15 Handelstagen danach kommen Sie direkt rein. Und deswegen, wenn du in den Nasdaq investierst als ETF, bist du auch gezwungen, da eben halt mitzugehen. Und die klassische Verkaufssperre ist nämlich aufgehoben auch. Und das ist natürlich auch spannend.
Carlo Matic: musste nachkaufen.
manuel: dass du direkt nach den ersten Quartalzahlen kannst du im Prinzip raus. Also die Insider können, oder die jetzt Anteils-Eigener sind. Und das ist alles ganz weird, warum man das machen sollte. Warum nicht die ganz normalen Regeln? so, und deswegen, für mich ist das, ich hab's letztes Mal auch gesagt, alles komisch. ist alles, alles ein Geschmäckle. Und andere positionieren sich da klarer, ich bin da nicht weit genug drin.
Carlo Matic: Sorry.
Sebastian Deutsch: Warum sollte man so?
manuel: ⁓ da wirklich eine fundierte Aussage zu machen. Aber alles drum herum, nee, das klingt nicht gut.
Sebastian Deutsch: Schirm ich dir zu.
Carlo Matic: kriege gerade einen Wasseralarm in Thailand. Ein Wassersensor, so ein Akara-Wassersensor. Freut man sich. Aber gut, die haben ja auch bisschen Luftfeuchtigkeit gerade ⁓ die Zeit da.
manuel: Das ist nicht das Haus jetzt unter Wasser.
Carlo Matic: Yes? I don't know, I don't know. Auch falls man es eben gehört hat, eben ein lauter Alarm hier.
Sebastian Deutsch: UNAH
manuel: Wann ist jetzt Sp... Also noch kurz mal abschließen. SpaceX geht am 12. Juni oder so. Wann ist der Börsengang? Bis jetzt irgendwann, oder?
Carlo Matic: 12.15. Ich weiß nicht, aber jetzt Mitte des Jahres, also es ist maximal eine Woche Zeit. Ich bin gespannt, also es kann Märkte ganz übel bewegen, aber ich müsste mich jetzt auch tiefer reinlesen, ⁓ zu sagen oder sowas.
Sebastian Deutsch: Hat mir Entropic IPO auch schon darüber geredet? Die mir irgendwie Confidentially angemeldet. Die wollen dann auch. Das dauert jetzt dann noch so bisschen. Ich glaube, das ist dann erst ein bisschen später im Jahr. Also zwei, drei Monate kann es dann noch dauern. Aber da geht es ja genauso hin.
Carlo Matic: Ja.
manuel: Und bis dahin haben zu viele Leute der Hochfinanz noch Interesse, dass es weiter hochgeht. Und auch wir haben die Midterms, wird es weiter, also da wird jetzt im Sinne von, es kracht jetzt alles ab. Das könnte ich mir jetzt aus der gesamtübergreifenden Sicht jetzt nicht so richtig vorstellen, aber klar, Börsen kann man nicht vorhersagen.
Sebastian Deutsch: Mmh. Ne, das glaube ich auch. Aber bei Entropic muss ich auch sagen, die machen das natürlich ganz gut. Die haben ein sehr gutes Playbook, Marketing-Playbook. Die bereiten sich auf ihren IPO auch sehr gut vor. Die haben zum Beispiel heute ein Thema gepublished, oder gestern, und zwar Recursive Self-Improvement. haben wir letztes Jahr auf dem Brusshammer hier drüber geredet, dass wir gesagt haben, was meinst dein Satz, Manuel, ⁓ dich zu zitieren, was meinst du, warum die alle so hart darauf gehen? dass die LLMs programmieren können. Weil wenn sie plötzlich programmieren können, dann ist quasi nur noch Energie die limitierende Ressource, wie schnell du dein Produkt weiterentwickelst. Wenn du dann auch alle Weichen dazu stellst. Und ich glaube, der Blogpost geht genau darum, dass sie so bisschen History, also wie viel Code pro Tag, wird inzwischen komplett automatisch eingecheckt und so. Und jetzt sagen sie... Okay, wie machen wir es denn, Rekursiv Self-Improvenment? Also wie bringe ich einem LLM bei, dass es einfach selber entscheiden darf, dass es proaktiv irgendwas macht, irgendwas verbessert, sagt so, hier, ich habe hier gesehen, hier, habe unsere Logs alle durchgelesen, was ja Menschen ja nicht so gerne machen. Ich habe hier einen Bottleneck identifiziert, hier ist direkt der Pull-Request, willst du den durchwinken oder vielleicht Features weiterentwickeln, weil sie irgendwie merken, dass Menschen an einer speziellen Stelle einen Prozess abbrechen oder hängen und so weiter und so fort. Und die einzige, limitieren, ne? Ressource ist eigentlich Energie und ich glaube, Sie haben noch einen Human in the Loop, aber der wird ja wahrscheinlich dann auch immer relevarter werden.
manuel: Also Energie und Rechenleistung noch. Rechenleistung ist ja auch gerade schon knapp, außer bei Elon. Und Human in the Loop. ich glaube der zentrale Punkt hier, den nahezu alle unterschätzen, ist der Punkt, dass wir das gar nicht begreifen können, wenn das einmal funktioniert. Wir können die Geschwindigkeit, in der das dann sich weiterentwickelt, überhaupt nicht.
Carlo Matic: Ich habe ein Foto.
Sebastian Deutsch: Wer hat, hat.
manuel: Genau, deswegen, ich habe mit euch ja so bisschen meine Architekturgedanken geteilt und so weiter. Ich bin ja schon länger da dran zu sagen, also klar, ich will dieses Service as Software, also Human-led Service as Software wirklich halt bauen. Ich glaube, da ist ein Riesenmarkt. Und das, was wir jetzt gemacht haben, wir haben diese Architektur-Ding als Blaupause genommen und wir haben eine Maschine gebaut, ⁓ die restliche Maschine zu bauen. Genau das haben wir jetzt gemacht.
Sebastian Deutsch: Abschätzen.
manuel: Und da bin ich auch ziemlich bullish, dass das funktioniert und die ersten Outcomes sind auch ziemlich cool. Wenn das funktioniert, dann ist das einzige wirklich nur noch, dass die Menschen, die arbeiten, ihr Wissen teilen und immer wieder drauf schauen und immer wieder in den Loop das halt reingeben. Deswegen hat mein Bild immer diesen selbstlernenden Loop mit drin. Und ich glaube da radikal dran.
Carlo Matic: Ja, fand ich auch cool. Also du hattest das ja vor einer Woche geschickt und ich habe mich da ziemlich tief mit auseinandergesetzt. Ich glaube, da steckt schon extrem viel Sinn drin. Nicht nur wie du sagst, Sebastian, einfach mal loslegen und ausprobieren, sondern auch so bisschen die darüber liegenden Paradigmen, sich einmal klarzumachen. Übrigens zu dem Anthropic-Thema war sogar heute Morgen bei ARD Börse ein Zitat von Anthropic, habe ich extra fotografiert. KI kann 80 Prozent der neuen KI selbst erfinden. KI trainiert sich selbst 52 mal schneller als ein Mensch und KI erledigt die Arbeit von vier Jahren in vier Tagen. Das ist Zitat an Tropic rund ⁓ den Börsengang. Und deine Billionenvermutung, glaube ich, kommt gut hin, weil die hatten ja zuletzt zur Bewertung 900 Milliarden, die 65 Post geholt. Das heißt, da bist du ja schon fast bei der Billionen daher. denke ich auch, wenn es jetzt schnell gehen soll, dass die rauskommen, dann ist natürlich die Story der automatischen Selbstverbesserung mega gut.
Sebastian Deutsch: Ja, das machen sie gerade gut. haben ja ganz viel. Man muss auch sehen, die dicksten Köcher, den haben sie da noch in der Pipeline mit Mythos. Das haben sie auch noch nicht released. Das ist nur gepreviewt und das haben jetzt ganz viele gesehen. Und da gibt es auch ganz viel über im Security-Bereich. Da haben wir gleich noch paar Links, über die wir ein bisschen diskutieren können, weil die auch sehr spannend sind. aus meiner Erfahrung kann ich auch nur sagen, die machen einfach gerade total viel. Also ich habe zum Beispiel Anthropic-Clawed Design ausprobiert, als das rausgekommen ist, und habe es eher belächelt, weil ich irgendwie versucht habe... großes Figma-File von uns reinzuspielen und das Designsystem zu analysieren. Da hat er sich erstmal verschluckt und hat es nicht hingekriegt und ist abgestürzt und war kaputt. jetzt haben wir das nochmal probiert. Shoutout an den Thorsten Witt, der hat es gestern gemacht und es ist richtig gut geworden. Also es ist erschreckend gut. irgendwie gestern, weiß ich nicht genau, zehn oder 15 Customer Journeys mit Cloud Design irgendwie durchdesigned und du kannst einfach so elegant reingehen und einfach sagen, nee, nicht so, da soll ein Glow drauf, nee, das ist nicht genug Kontrast und so weiter und so fort. Das ist also richtig gut verstanden, super gut umgesetzt, dass man sich so denkt, meine Güte, das ist wirklich Trouble. Und die haben halt einen krassen Vorteil, den alle anderen nicht haben. Also ich glaube, bei diesem ganzen Self-Learning und bei den ganzen Problemen, L &M's haben ja das Ding, dass du halt irgendwie Daten zur Verfügung stellen musst. Und wir haben ja sehr viel Redundanz in unseren Daten. Also manchmal werden Sachen doppelt und dreifach erklärt. Gerade wenn du dann in der Kommunikation mit Kunden bist und die auch noch reinfließen lässt und so, wenn du zu viele Sachen hast, dann werden die LLMs schlechter. Also wie kondensiert man das runter? Und das einzige, was wir als End-User machen können, ist, wir können dem LLM sagen, ja, hast du Daten, kannst du das irgendwie kompakten, aber bitte das Wichtige soll irgendwie intakt bleiben. Aber so ein Entropic oder so ein OpenAI intern, die haben ja noch viele andere Möglichkeiten auf ihre LLMs zuzugreifen. Also sie können ja wirklich genau sagen, wenn sie einem LLM eine Aufgabe stellen. Welche Gewichte wurden denn jetzt genau aktiviert? Wo sind die Thresholds? Und können da wieder auch einen Umkehrschluss ziehen und sagen, ich gucke mir die aktivierten Gewichte an, welcher Teil von meinem Text hatten dazu beigetragen und können da Optimierungen machen, von denen wir eigentlich nur träumen können. Und ich glaube, das ist ein krasser Mode, den sie nicht rausgeben werden so schnell, der auch irgendwie sie vor vielen Sachen beschützt, der aber dann für dieses Learning und für dieses Self-Learning sehr, sehr essentiell ist.
Carlo Matic: Ich weiß nicht, wer es reingebracht hat, aber hier in den Show Notes ist noch der Business Punk über Claude 4.8 und Dynamic Workflows. Also sagt halt, wie das ein Wechsel vom linearen Prompting zum asynchronen Multi-Agenten-Software-Arbeit funktioniert. Und es scheint ein gutes Signal dafür zu sein, wieso agentisches Coding auch an Führungskräfte verkauft wird. Fand ich ganz interessant, kann man sich in dem Zug auch mal angucken. Aber ja, die machen da wirklich ein extrem gutes Spiel, finde ich auch.
manuel: Da habe ich noch einen kurzen Gedanken zu, wann ich einmal irgendwo, ist das durch die Presse gegangen, dass Anthropic nur ein Marketing-Menschen hat. Deswegen wundere ich mich dafür, weil die machen ziemlich gutes Marketing. Das heißt nur diese eine Person macht, kann ich mir fast nicht vorstellen. Das ist vielleicht auch Teil dieser Story, aber einfach nur, ja, großartig. saß da so irgendwie an seinem Rechner, ich mache das ganze Marketing für Anthropic. Das war so die Story.
Carlo Matic: Ja. Story.
Sebastian Deutsch: Aber es gibt diesen Artikel, ist auch in den Showloids, wie Anthropics Marketing Team Claude Kugler benutzt. ist da drin. Kann man sich registrieren. ist ein Recorded Event. Kann man sich das angucken.
manuel: Also gibt's ein Team, nicht nur eine einzelne Person.
Sebastian Deutsch: Gibt es ein Team? Featuring zwei Stück Growth Marketing, Product Marketing. Also sind es zumindest so zwei.
Carlo Matic: Ich weiß, ich bin auf verlorenem Flur, aber ich versuche immer nochmal nicht-KI-Themen und nicht-Krypto-Themen reinzubringen. Ich habe mir einen neuen Smart Ring geholt, hier dieses kleine Ding, Aiwele heißt der. Der hat nur ein Feature mehr als mein Alter und zwar ist da ein
manuel: direkt verdoppelt.
Carlo Matic: Gestensteuerung dran. Das heißt, kann, ich hab's jetzt auf dem Ringfinger drauf tatsächlich, aber ich kann dann hier so einfach swipen, tippen, drehen und so weiter. Und das ist halt bei Präsentation total geil, wenn der so Minority Report-mäßig die Folie wegmischt und so Zeug. Und in dem Zug hab ich gerade noch einen neuen anderen gesehen und zwar, also der registriert sich einfach als Maus am Handy oder am Rechner.
Sebastian Deutsch: Ich liebe dich dafür, du immer diese, wo holst du diese obskuren Gadgets her? Das hast du schon immer gemacht. ist so, mit diesen Sachen. Ich feier dich dafür hart. Ich denk mir nur so, ja, okay, brauch ich nicht.
Carlo Matic: Sebastian, ihr kennt noch meinen alten PT Cruiser, in dem ich, bevor es Handys gab und man in einem Handy alles machen konnte, einfach hunderte von Geräten hatte. Eins für Navigation, eins für Videos mit so einem Touch-Ding dran und so. Als ich das Auto auseinandergebaut habe, ich so viele Kabelkanäle wieder leer räumen. Okay, aber es gibt ein neues Ding und zwar den SR15 Ultra Smart Ring und der hat jetzt ein Display da dran und da bin ich aber lost. Sorry Leute, da bin ich raus. Wenn ich ein Display haben will, dann nehme ich mir so ein Band oder eine Uhr oder irgendwas, aber dass die Dinger jetzt dann auch noch irgendwie ein Display drin haben, ich dann irgendwie keine Ahnung um die Telefonnummer sehen kann, der mich anruft oder wie viele Schritte ich gemacht habe, I don't know, ich habe es verlinkt, vielleicht ist es für jemand anders was. Der soll aktuell tatsächlich nur 99 Euro kosten oder 99 Dollar sogar noch kosten und 30 Tage Laufzeit. Zeit mit Ladecase haben. Ladecase heißt letztes Ding mit dem Ladecase dann doch noch ein paar Mal im Monat. Aber krasser Preis. es ist auch nur ein Einführungspreis, aber die ganzen Sensoren in den Ringen sind alle ähnlich.
Sebastian Deutsch: Kannst du Blutdruck damit oder brauchst du das dann am Handgelenk?
Carlo Matic: Ne, ne, Blutdruck gibt es Hilo, das Hilo-Band. Da hat man eine Manchette, mit der man einmal im Monat den richtigen Blutdruck passend zu einem Band, was ich gerade damit nicht anhabe, misst. Und der guckt dann mit optischen Sensoren, wie der Blutdruck, die Manchette gemessen hat, mit dem, was der Sensor dann durch den Blutfluss sehen kann. Also wahrscheinlich ist das wirklich so ein Farbunterschied, der dann da ist. Und das muss man dann einmal im Jahr auch rekalibrieren.
Oliver: funktioniert wie Scheiße.
Sebastian Deutsch: Kalibrieren.
Carlo Matic: Das schafft dann aber tatsächlich auch Apple noch nicht sauber. Die wollten das auch schon lange in der Watch ankündigen, aber es ist auch nur so eine Indikation bisher. Also komplett ohne Manchette weiß ich gar nicht, ob es jemals gehen wird. Für mich ist okay, so einmal im Monat die Manchette einmal aufpusten zu lassen und dann hast du wieder akkurate Daten. Aber die Ringe, haben meistens einfach wirklich nur Vibrationshinweise. Ich meine, auch das ist ja neu, die ganzen alten Aura-Ringen und so, die haben auch keine Vibration, was aber auch, glaube ich, bei Design so gedacht ist.
Sebastian Deutsch: Und Christe dann so eine viertägige Campingplatz-Tour vom Olli, zeigt die sich dann auch in den Daten ab? Olli, du hast auch so einen Smart.
Carlo Matic: Ja, auf jeden.
Oliver: Ja, das zeichnet sich in den Daten ab. ich bin wieder da. Ich bin jetzt durch WLAN und Lokales Netz und eine SIM-Karte kaufen ohne Video. Also Internet ist scheiße, Campingplatz ist voll, Wetter ist schön. Das zeichnet sich im Ring auf, dass wenig Schlaf und so weiter. Wenig Schlaf und mehr Alkohol, höherer Puls und so weiter. man sehr gut nachvollziehen. Man kriegt irgendwann Warnmeldungen, dass man jetzt langsam wieder schlafen sollte. Alarm.
Sebastian Deutsch: Alarm, sie leben ungesund.
Oliver: Ich habe aber direkt beim Eintritt auf den Campingplatz den Ruhemodus aktiviert. habe keine Bewegungsziele mehr. Ich bin halt auch super skeptisch bei so einem Ring. Was will ich da ein Display drauf und so. Und wie gesagt, wenn es zu gut ist um wahr zu sein, 99 Euro für das ganze Zeug ohne Subscription. Alles ist mit Subscription. Ich weiß es nicht. Ob das wirklich so gut ist.
Carlo Matic: müssen auch gar nicht weiter thematisieren, aber ich fand das Thema so, dass die ganzen Dinger jetzt alle irgendwie aufgeballert werden mit, weil wir es können, aber will ich das denn?
Sebastian Deutsch: Hau mal den Ring rein. Meine Frau ist ja immer sehr traurig, dass ich meinen E-Ring sehr selten trage. Ich glaube, wenn ich dann plötzlich mit so Smart Ring ankomme, dann gibt die mir links und rechts.
Carlo Matic: Hehehehehe
Oliver: Aber der hat ein Display. Wenn unser Ehring ein Display hätte, dann...
Carlo Matic: Das wäre ja mal geil, überleg mal so ein richtiges Nerd Couple, was sich so Smart Ring als E-Ring gibt. Cool, okay kommt Leute, haben ein Sachen, schaffen wir noch. Wir stoßen glaube ich schon langsam aufs Ende zu, wir müssen durchballern hier.
Sebastian Deutsch: Ja, wir hatten noch eine Sache, die ich sehr spannend fand, war das Security Research. Die haben eine Zusammenkunft aus verschiedenen LLM-Modellen vorgestellt, mit der du eigentlich jedes beliebige Device in einem Haushalt targeten kannst. Die proben dann ganz viele Sachen, sind da Ports offen, was macht das eigentlich und so. Sind eigentlich gerade bei älteren, ungepatchten Devices auch immer in der Lage, irgendwas zu finden. Craften dann on the fly.
Oliver: Ich weiß ja nicht, was ihr schon gemacht habt, deswegen hör ich nur zu.
Sebastian Deutsch: die Leifen exploit, schleusen den da rein als Wurm und das Ding vermehrt sich dann weiter, guckt was sind denn noch für Geräte hier irgendwo im Netzwerk und vermehren sich dann. Und das Krasse dabei ist halt, dadurch dass der exploit halt gecraftet ist auf die Sicherheitslücke, ist der halt ultra schwer von irgendwelchen Virenherstellern zu detekten, weil es halt ja nicht so eine Binärsignatur gibt. die ganzen Würmer waren ja
manuel: Wow!
Oliver: ⁓ Es ist nicht der Exploit, den die schon erkennen. Es ist einfach ein neu geschriebener Exploit on the fly.
manuel: Aber wie...
Sebastian Deutsch: Es ist einfach ein neu geschriebener Exploit und je nachdem, die Binärsignatur da drin ist, ich meine, das muss man sagen, die Würmer, haben in letzter Zeit da auch schon, also sie haben schon seit Jahren, gibt es da selbst modifizierenden Code, ⁓ diese Sachen drumherum zu kommen. Aber mit AI bewegt sich dieser Threat Level jetzt nochmal auf einem neuen Niveau.
manuel: Kannst das nochmal einmal ganz kurz erklären, wie das genau funktioniert? Also wie ist AI da quasi drin?
Sebastian Deutsch: Er nimmt doch mal so eine schöne, ungepatchte Fritzbox. Genau, also AI muss irgendwo gebootstrapped werden. Irgendwo muss das Ding, ich muss irgendwie meine WLAN-Verbindung kriegen oder sonst irgendwas. Du probst quasi das Netz, findest irgendwie eine ungepatchte Fritzbox, die irgendwie zu alt ist, nicht geupdatet, nicht gepflegt, ist glaube ich bei vielen Haushalten der Fall. Und von da aus merkt die dann, ⁓ ja gut, das eine Fritzbox mit der und der Versionsnummer, da kann man über, was weiß ich, einen modifizierten Curl Request, kann man da eine Privilege Escalation machen, da kann ich Remote Code Execution machen, dann schreibt er ein bisschen Code.
manuel: Ja. Ja.
Sebastian Deutsch: der dann geexecuted wird, dann läuft das Ding erstmal auf der Fritzbox, von da aus connectet sich das Ding wieder zu einem Host, probt weiter das Netzwerk, sieht dann aus der Fritzbox hat natürlich dann sofort mehr Information, welche Geräte sind noch hier, was machen die so bei der Fritzbox, hast ja dann direkt mehr Information, gibt die weit
manuel: aber hat schon auch nach außen letztendlich eine Verbindung, vom LLM Attack Services zu finden.
Sebastian Deutsch: Ja, genau. Also das ist natürlich eine Sache, man dann auch detekten könnte, wo man das machen kann. Aber es ist ein selbst replizierender Wurm, der beliebige Devices in Netzwerken attackieren kann.
manuel: Mhm. und auch einfach mal drei Monate chillen könnte und irgendwann abgeht. Ja, krass. Also wenn wenn dann irgendein Exploit kommt in irgendeinem System, weil das halt Public wird, dann kann es direkt zuschlagen. Das ist natürlich crazy.
Carlo Matic: Ihr erinnert euch noch, ich hab 300, ne?
Sebastian Deutsch: Bitte? Und er erstmal auch chillen könnte und ganz lange gedormt ist und irgendwann macht er...
Oliver: Aber ich finde, wir treffen uns bei Carlo, machen das an und gucken, wie weiter kommt. Bei 300 devices, das ist ja heaven. Das Ding rastet aus.
Sebastian Deutsch: Genau.
Carlo Matic: Hehehehehe
manuel: Hahaha Nachher vibriert sein Ring die ganze Zeit.
Carlo Matic: Ich...
Sebastian Deutsch: Carlo, warum hat sich Robertina von dir geschieden? Ach so, das Ding hat die ganzen Hometikgeräte alle, die Heizung zu heiß gestellt.
Carlo Matic: Ich stelle mir das eher so vor, dass das Ding dann... Ich stelle es mir eher so vor wie Jumma bei Star Wars, der dann so ganz, der Wurm ganz fett in der Ecke liegt und einfach sich nicht mehr bewegen kann, weil es einfach total überladen wurde.
Oliver: Defensiv mehreren Geräten.
Carlo Matic: Genau. Du hast, glaube ich, reingepackt, Oli, hier Self über Privacy, Preserving Proof of Humanity. Nee, war's so gar nicht. Also, spricht über Self-Knowledge-Identity als Weg, ⁓ echte Nutzer zu identifizieren, ist als Link drin. Wir beiladen jetzt einfach mal ein paar Links zum Ende noch durch, damit ihr Bescheid wisst, was in den Shownotes noch drin ist. Damit könnte man dann Sibill-Angriffe abwehren, ohne komplette Identitätsdaten einzusammeln.
Oliver: Nee, war ich gar nicht. Aber das wäre ja eventuell dieses Zero-Knowledge-Proof-Gedöns, von dem wir immer mal haben. Wir immer mal ja Witten ja wieder angerissen. Ich weiß, dass mehrere Startups in Amerika dran arbeiten. Mit dem Konstrukt nur in ganz ganz kurz, dass du über Zero-Knowledge-Proofs quasi nachfragen kannst, bin das ich, dass ich Sachen über mich...
Carlo Matic: Genau.
Oliver: Das ist der einzige Weg, wir das hinkriegen. mein Gesicht zu fälschen, kriegst du ja alles hin. Du musst andere Methoden finden, um sicherzustellen, dass klar ist, dass ich das nicht war. Ich war gerade in Holland, hatte scheiß Internet. Wenn irgendwer mit einer 100-Mbit-Leitung in Köln irgendwas hackt, bin das nicht ich. Ich bin in Kampaland.
Carlo Matic: Mega, finde ich gut. Ganz wichtig, glaube ich. Da wird ganz viel passieren. Anthropic hat auch irgendwie über LLMs zur Absicherung von Source Code was geschrieben. Sebastian, du hast was geteilt. Packen wir auch in die Show Notes rein.
Sebastian Deutsch: Ja genau, haben einfach ganz viel dann quasi ⁓ die... Das was sie mit der Mythos Preview hatten, die hatten sehr geteilt, weil die halt so ultra krass ist im Aufhören von Security-Lücken und ihre Learnings und die ganze Security-Harness, die Learnings daraus haben sie in einem GitHub-Repository geteilt und ermutigen gerade alle Leute viele Prompts, viel Methodologie, das auf ihre Software-Systeme anzuwenden. Einfach zu sagen, just start, ihr müsst jetzt nicht hier alles machen, aber hier ist jetzt echt... gute Best Practices drin. Startet einfach mal und lasst das System irgendwie auf eure Software los, damit ihr Sicherheitslücken findet, bevor jemand anderes es tut.
Carlo Matic: Das hat dieser Kasara Rajeri, wie auch immer man das richtig ausspricht, irgendwie auch gemacht. Der hat mit Absicht eine verwundbare Expofast API, Firebase App gemacht und hat dann mehrere Frontier Open Source Modelle drauf losgelassen. Und während die anderen riesige Token Budgets verbrannt haben, wegen einer gehärteten API, hat angeblich GPT 7 von 10 RUNs mit 1500 Dollar, wenn ich es hier richtig sehe, das Ding irgendwie fixen können. auf jeden Fall. Ist natürlich spannend und wenn dieses Anthropic-Ding da rauskommt, wie hieß es nochmal? Mythos, genau, dann sollten sich alle warm anziehen, so heißt es ja, wenn es nicht auch wieder ein gutes Marketing war, aber da hat man ja wirklich geile Sachen von gehört.
Sebastian Deutsch: Mythos. Cute! Was haben wir noch?
Carlo Matic: Gut, am Ende haben wir noch drei Stück, wenn ich es richtig sehe, wir noch nicht durchgeballert haben. Heise über Emergence Worlds in der AI-Gesellschaftssimulation. Ich noch einer, wer es geteilt hat. Emergence AI. Von Unbekannt.
Sebastian Deutsch: Hehehehehe Hmm, von Unbe.
Carlo Matic: Also, Emergency Eye ließ Agenten auf Basis von Claw, Gemini, GROK oder GPT-5-Mini und gemischten Modellpopulationen simulierte Gesellschaften mit gesetzten Ressourcen, Gebäuden und destruktiven Werkzeugen betreiben. Alles klar, guck ich mir an. Danke für den Link. Heise Link.
Sebastian Deutsch: Gut, was haben wir noch? Trumps AI Executive Order. Trump hat gesagt so, hey liebe AI Hersteller, wenn ihr irgendwas Neues rausbringt, dann muss das US Government da wenigstens eine kleine Preview zu bekommen. Aber ich glaube, das ist relativ schmalspur, was er da gemacht hat. Also er will ja auch da nicht seine Wirtschaft abwürgen.
Carlo Matic: Absolut. Ja und dann last but not least, Codex hat ein Sudo-Workaround gefunden über Docker-Bindmounts. Kleines bekanntes Beispiel dafür, dass Codexer in lokale Permissions als Hindernis behandeln, dass man umgehen kann. Codex soll Docker-Hosszugriff genutzt haben, ⁓ in fehlende Sudo zu umgehen. Schade, da werden wir jetzt noch viele Sachen drin sehen.
Sebastian Deutsch: Mhm. Gut, ich glaube, das wird durch.
Carlo Matic: Ich würde sagen trotz der Menge.
Oliver: Sehr gut Jungs. Ich entschuldige mich vielmals, dass das hier nicht so interne geklappt hat. Aber immerhin war ich ja ein bisschen da.
Sebastian Deutsch: Du warst ein bisschen da, du warst gut genug da.
Carlo Matic: Sehr schön, dass du versucht hast. Dabei sein ist alles. Dann trink einen auf uns mit.
Oliver: Genau, genau. Ich find's ein Traum, Sie's immer wieder versuchen. Mach ich. Ich wünsch euch noch einen schönen Tag. Ich bedanke mich für diesen Podcast, den ich jetzt noch hören kann. Ich war dabei und kann ihn hören. Das ist toll. Sehr gut. Danke schön. Ciao, ciao.
Carlo Matic: Ja, stimmt.
Sebastian Deutsch: Und ich kann ihn hören und den Rest auch noch zu hören. Alles klar, ja, viel Spaß mit da. Schönes Wochenende. Danke, dass ihr an einem Brückentag alle so verfügbar wart.
manuel: Sehr gut. Vielen lieben Dank.
Oliver: Ciao!
Carlo Matic: Macht's gut, ciao!
manuel: Ciao, tschüss!
Sebastian Deutsch: Ciao!