TRANSKRİPT 🔗
WEBVTT
00:00:00.000 --> 00:00:05.599
Willkommen bei Hybrid Systems, KI, dem Podcast, in dem wir KI wirklich bauen.
00:00:06.400 --> 00:00:14.000
Wir arbeiten mit dem Dach-System, denken, anwenden, coden und handeln.
00:00:27.440 --> 00:00:32.479
Liebe Zuhörer, heute eine neue Episode bei Hybrid Systems.
00:00:32.719 --> 00:00:46.560
Wir beschäftigen uns jetzt wieder mit Agents, und seit ein paar Wochen gibt es einen neuen Agent neben Klobot, und dieser Agent heißt Hermes, wie der Götterbote.
00:00:46.960 --> 00:00:47.759
An der Stelle.
00:00:48.000 --> 00:00:59.280
Tim, hallo erstmal, und wie bist du an Hermes herangegangen, beziehungsweise was ist Hermes und was ist der Unterschied zu Klobot?
00:00:59.600 --> 00:01:04.000
Kannst du aus deinen jetzigen Erfahrungen ein bisschen was berichten?
00:01:05.519 --> 00:01:06.719
Ja, hallo Klaus.
00:01:07.359 --> 00:01:14.319
Ja, Hermes ist im Prinzip die, ich sag jetzt einfach mal, Weiterentwicklung, wobei das wäre eigentlich falsch.
00:01:14.400 --> 00:01:19.439
Es ist ein eigenständiges Programm, es hat mit dem Open Clore eigentlich nichts zu tun.
00:01:19.760 --> 00:01:22.799
Ich sage einfach mal, es ist die bessere Version von Open Claw.
00:01:22.879 --> 00:01:27.120
Es verbessert sich selbstständig, es reduziert den Kontext selbstständig.
00:01:27.439 --> 00:01:34.640
Meiner Erfahrung nach ist es auf jeden Fall einfacher, damit zu arbeiten und man kann auch wirklich langfristig gesehen besser damit arbeiten.
00:01:34.959 --> 00:01:38.159
Und auch gerade die Installation ist um einiges einfacher geworden.
00:01:38.239 --> 00:01:44.400
Also Open Claw hat ja gerade am Anfang wirklich echt Nerven gekostet, bis man das mal installiert hatte.
00:01:44.959 --> 00:01:51.840
Und ich habe Hermes das erste Mal ausprobiert und das war keine fünf Minuten.
00:01:51.920 --> 00:01:53.439
Nach fünf Minuten war das installiert.
00:01:53.760 --> 00:01:56.480
Also das fand ich super.
00:01:56.640 --> 00:02:15.520
Und auch der im Alltag, also wenn du dir das dann anguckst, der Kontext ist voll, wo Open Claw eigentlich dann anfängt zu halluzinieren, da fängt er automatisch, ohne überhaupt zu fragen, fängt er an, sich seinen Kontext zu reduzieren, Markdown-Dateien zu erstellen und so weiter.
00:02:17.840 --> 00:02:20.800
Ja, Tim, danke erstmal für die Einschätzung.
00:02:20.960 --> 00:02:56.719
Vielleicht für unsere Zuhörer, die Hermes noch nicht kennen, es ist auf GitHub zu bekommen und es ist ein Produkt von News Research, einem Institut, sage ich jetzt mal, oder einer Verbindung von Entwicklern, die sich zum Ziel gemacht haben, Open Source-Technologie zu verbreiten im LLM-Bereich, im AI-Bereich, im KI-Bereich.
00:02:58.240 --> 00:03:06.719
Wenn man sich die Seite anguckt, Tim, in Bezug auf Hermes Agents, dann sagt die GitHub-Seite bzw.
00:03:07.039 --> 00:03:12.319
die Hermes Agent-Seite, es ist die Version 0.10.0.
00:03:12.719 --> 00:03:17.840
Das hört sich ja an, als ob das erstmal ein komplettes Alpha-Produkt hat.
00:03:18.560 --> 00:03:28.879
Wie ist dort deine Erfahrung in Bezug auf diese Alpha-Methodik oder den Zustand dieses Systems?
00:03:29.840 --> 00:03:31.599
Ja, das ist ähnlich wie bei Open Claw.
00:03:31.680 --> 00:03:36.159
Wir haben bei Open Claw ja auch den Zustand, dass wirklich täglich fast Updates kommen.
00:03:36.240 --> 00:03:37.840
Das ist bei Hermes ähnlich.
00:03:38.000 --> 00:03:55.840
Da muss man auch wirklich hinterher sein, auch bei OpenClaw, dass man wirklich regelmäßig am besten täglich auch wirklich sich die Updates zieht, dass man keine Sicherheitslücken hat und tatsächlich ist es so, es funktioniert in gewisser Weise meiner Meinung nach wirklich besser wie Open Claw.
00:03:56.159 --> 00:04:06.800
Es hat immer noch seine Kinderkrankheiten, also es ist noch nicht komplett ausgereift und da wird noch einiges passieren, aber ich finde auch den Wandel ganz interessant.
00:04:07.120 --> 00:04:12.879
Wir waren jetzt hier mit Open Claw, was Peter Steinberger ja herausgebracht hat.
00:04:13.439 --> 00:04:20.240
Das war so, ja, nochmal ein neuer Meilenstein, nochmal eine neue Richtung und jetzt ziehen alle nach.
00:04:20.319 --> 00:04:25.199
Jetzt gibt es ähnliche Produkte, die es dann auf den Markt geben wird.
00:04:25.360 --> 00:04:26.800
Das ist schon sehr interessant.
00:04:26.959 --> 00:04:41.040
Und ich meine, wenn wir jetzt gucken, was war vor vier, fünf Wochen mit Open Claw, was für Probleme hatten wir, die jetzt zum Beispiel mit Hermes teilweise gar nicht mehr da sind, dann bin ich sehr gespannt, was die nächsten Wochen noch alles kommen wird.
00:04:43.040 --> 00:04:59.600
Tim, kannst du vielleicht noch ein bisschen weiter ausführen, inwieweit du auf welchen Geräten oder Maschinen du bis jetzt Hermes verwendet hast, beziehungsweise wie Hermes bestimmte Sachen steuert.
00:04:59.759 --> 00:05:11.040
Und verwendest du das im Zusammenhang Hermes mit Open Claw zusammen oder wie ist dein Setup?
00:05:12.560 --> 00:05:20.240
Ja, also tatsächlich haben wir jetzt fast gar kein Open Claw mehr im Einsatz, sondern alles auf Hermes umgestellt.
00:05:20.639 --> 00:05:23.360
Beziehungsweise sind noch dabei.
00:05:23.439 --> 00:05:29.680
Wir haben jetzt, glaube ich, noch zwei Geräte, wo Open Claw installiert ist, wo wir jetzt noch die Umstellung machen müssen.
00:05:30.240 --> 00:05:32.240
Aber ansonsten läuft jetzt erstmal alles auf Hermes.
00:05:32.319 --> 00:05:35.920
Wir haben das jetzt eine ganze Zeit getestet, einige Wochen lang.
00:05:36.319 --> 00:05:38.560
Und es hat sich wirklich auch im Alltag bewährt.
00:05:38.639 --> 00:05:43.519
Es hat, wie gesagt, Vorteile und macht gewisse Dinge besser wie Open Claw.
00:05:43.600 --> 00:05:49.439
Deswegen ist das gerade das, was wir nutzen, das, was wir langfristig jetzt erstmal nutzen werden.
00:05:49.839 --> 00:05:51.680
Wobei langfristig ist auch immer so eine Sache.
00:05:51.920 --> 00:05:56.720
Das kommt jetzt wirklich darauf an, was passiert in den kommenden Wochen, was kommt Neues an
Load full transcript
Updates raus.
00:05:56.879 --> 00:06:08.800
Vielleicht kommt wieder ein ganz anderer Anbieter, ein ganz anderer, ja, ganz anderes Programm zusätzlich raus oder vielleicht wird Open Claw nochmal in gewisser Weise verbessert.
00:06:08.959 --> 00:06:20.639
Also da muss man schauen, da muss man auch wirklich hinterher sein, gucken, dass man wirklich up-to-date ist, dass man weiß, was gerade so passiert, damit man da nichts verpasst und damit man auch wirklich gut unterwegs ist.
00:06:21.839 --> 00:06:43.439
Wenn man das Ganze nochmal sich von der Seite der Large-Language-Modelle ansieht, ist es ja so, dass wir beide als Hauptthema Oyama einsetzen, sei es als lokale Cloud-Version.
00:06:45.120 --> 00:06:49.839
Wie siehst du da den Zusammenhang in Bezug auf Hermes, Tim?
00:06:51.759 --> 00:07:02.079
Ja, ich meine, so wie wir das ja auch schon immer gesagt hatten, Oyama oder Olama ist halt einfach so das beste, meiner Meinung nach, das hat das beste Preis-Leistungsverhältnis.
00:07:02.160 --> 00:07:06.639
Also ihr könnt da wirklich mit 20 oder 100 Dollar im Monat sehr, sehr, sehr viel machen.
00:07:06.959 --> 00:07:13.920
Also die 100 Dollar-Version braucht eigentlich fast, brauchen die meisten nicht, weil da muss man wirklich sehr, sehr intensiv das Ganze nutzen.
00:07:14.079 --> 00:07:15.360
Dann braucht man das auch.
00:07:15.519 --> 00:07:21.040
Aber ansonsten kann man da mit 20 Dollar im Monat sehr weit kommen und auch die Modelle, die man darüber laufen lassen kann.
00:07:21.120 --> 00:07:30.480
Also wir reden hier teilweise von Cuban 3.5 Coder mit 480b, was da drauf läuft.
00:07:30.639 --> 00:07:40.800
Oder auch jetzt das seit heute oder seit gestern geht ja jetzt das Kimikar 2.6, was neu rauskam, was mit Claude 4.6 mithalten soll.
00:07:40.879 --> 00:07:46.560
Also das ist schon eine Nummer und wie gesagt, preis-leistungsmäßig gibt es nichts Besseres.
00:07:46.639 --> 00:07:51.439
Ich meine, wir haben, Klaus, wir haben das ja auch schon ausprobiert mit Claude, API-Keys.
00:07:52.240 --> 00:07:58.319
Das kann man machen, das ist auch teilweise besser gewesen, wie jetzt Kimika 2.5.
00:07:59.120 --> 00:08:00.240
Ist aber auch teurer.
00:08:00.319 --> 00:08:05.040
Also da waren innerhalb von zwei, drei Wochen gleich mal ein paar tausend Dollar weg.
00:08:05.360 --> 00:08:07.279
Das muss man immer im Hinterkopf behalten.
00:08:07.439 --> 00:08:19.120
Und deswegen, ja, entweder ich habe mein Sprachmodell lokal installiert, aber wenn ich wirklich große Sprachmodelle haben möchte, dann Oyama Claude.
00:08:21.040 --> 00:08:32.879
Wenn man sich das Ganze nochmal von vorne anguckt und man schaut sich das Ganze an, wie man Hermes installiert, ein Setup macht.
00:08:33.039 --> 00:08:35.840
Du hast es schon gesagt, Tim, es ist sehr, sehr einfach.
00:08:36.480 --> 00:08:48.559
Und wenn es sich dann nach ein paar Minuten Installation automatisch installiert hat, kommt es einem vor, als wäre man in einem Game von 1980.
00:08:49.039 --> 00:09:00.639
Also eine Grafik, die basiert auf Schrift, die eine einfach nur Schrift, die das Ganze darstellt.
00:09:00.720 --> 00:09:04.480
Also wir sind in einem Spiel von 1980.
00:09:06.080 --> 00:09:14.480
Nichtsdestotrotz, denke ich mal, ist es so, dass Hermes hinter dieser Schrift einfach sehr, sehr viel zeigt.
00:09:15.039 --> 00:09:27.120
Und Tim, kannst du vielleicht nochmal beschreiben, wenn Hermes funktioniert und es läuft, wie es selber protokolliert, wie es etwas darstellt.
00:09:27.840 --> 00:09:32.559
Und wie sieht das im Gegensatz zu Clobot aus an der Stelle?
00:09:33.120 --> 00:09:34.960
Ja, das fand ich auch sehr interessant.
00:09:35.039 --> 00:09:41.519
Also, das war jetzt auch das erste Mal, dass ich wirklich den Agenten auch übers Terminal angesteuert habe.
00:09:42.000 --> 00:09:44.480
Mache ich mittlerweile auch fast gar nicht mehr.
00:09:44.879 --> 00:09:48.879
Bin da wieder komplett auf Telegram gewechselt oder auf Discord.
00:09:50.480 --> 00:09:59.279
Bei Open Claw tatsächlich habe ich es gar nicht mehr so richtig im Kopf, weil Open Claw wirklich von Tag 1 nur über Telegram angesteuert wurde oder über Discord.
00:09:59.679 --> 00:10:09.120
Und tatsächlich jetzt mit Hermes, da haben wir die ersten Tage das dann auch nur über das Terminal angesteuert, weil das einfach so cool zu sehen war.
00:10:09.440 --> 00:10:11.679
Du hast gesehen, okay, der Kontext wird voller.
00:10:11.840 --> 00:10:17.039
Und dann macht er die nächste Aufgabe und dann sagt er, ach, mein Kontext ist zu voll, ich muss den erstmal reduzieren.
00:10:17.120 --> 00:10:22.799
Und dann, also du siehst wirklich jeden Schritt, den er macht, das siehst du über Telegram zum Beispiel nicht.
00:10:23.200 --> 00:10:28.320
Finde ich ein bisschen schade, wobei ist auch gut, weil dann kriegt man nicht so viel Benachrichtigung.
00:10:28.639 --> 00:10:35.039
Aber das war schon echt faszinierend, immer dazu zu gucken, wenn er da im Terminal sagt, was er gerade macht, wo er gerade unterwegs ist.
00:10:35.200 --> 00:10:37.360
Also das haben die echt gut hingekriegt.
00:10:38.480 --> 00:10:52.159
Was ja auch sehr, sehr schön ist, ist nochmal zu sehen, er versucht etwas und erklärt dann während des Versuches, ah, da ist ein Fehler, also muss ich umstellen auf etwas.
00:10:52.399 --> 00:11:00.480
Das heißt, dieses komplette Logging ist in dieser alten 80er Jahre Spielewelt drin.
00:11:01.120 --> 00:11:10.639
Wenn man jetzt nochmal das Ganze betrachtet in Bezug auf die Möglichkeiten, auf welchen Rechnern wir das alles installiert haben.
00:11:11.279 --> 00:11:25.919
Tim, ich habe es unter WSL, unter Windows, also unter dem Linux von Windows installiert, ich habe es auf einem Mac Mini installiert, ich habe es auf einem Hostinger VPS installiert.
00:11:27.039 --> 00:11:31.919
Wie sind da deine Installationen, die du im Moment getätigt hast?
00:11:32.159 --> 00:11:35.360
Auf welcher Plattform hast du es ausprobiert?
00:11:36.240 --> 00:11:39.440
Also tatsächlich jetzt wirklich nur in
Entwicklungsumgebungen.
00:11:39.519 --> 00:11:49.519
Also das heißt, wir sind da fast nur auf Mac-Geräten unterwegs, also MacBook, iMac, Mac Mini oder mehrere Mac Minis tatsächlich, wo es jetzt drauf läuft.
00:11:50.159 --> 00:11:55.279
Der nächste Schritt, und das ist das, wo wir wirklich noch genau schauen müssen.
00:11:55.360 --> 00:12:11.919
Wir haben ja auch auf Servern in Containern Open Clore-Agenten teilweise installiert, die mit einem lokalen LLM verbunden sind, um dann wirklich Monitoring-Aufgaben zum Beispiel von Servern oder von Server-Clustern zu übernehmen.
00:12:12.240 --> 00:12:21.200
Das ist auch nicht so einfach, weil man muss da wirklich gut aufpassen, dass der nicht zu viele Zugriffsrechte kriegt, dass der nicht machen kann, was er will.
00:12:21.279 --> 00:12:29.919
Also der ist dann wirklich in seiner Sandbox drin und hatte auch wirklich nicht so viele Möglichkeiten, was er machen kann.
00:12:30.080 --> 00:12:34.240
Aber es funktioniert aktuell sehr gut und auch stabil mit Open Claw.
00:12:34.639 --> 00:12:51.759
Und da weiß ich noch nicht, also ich habe es auch noch gar nicht probiert, das durch einen Hermes-Agenten zu ersetzen, das ist jetzt das, was als nächstes ansteht, ob da die Performance besser ist, ob es noch besser funktioniert oder nicht und ob es da vielleicht Schwächen gibt.
00:12:52.799 --> 00:13:03.919
Wenn man sich das anguckt, er holt sich auch automatisch als Hermes entsprechende Rechte, die er vom Klobot bekommen kann.
00:13:04.720 --> 00:13:27.279
Das heißt, er kann sich mit Secure Socket Shell auf einen anderen Rechner aufschalten, kann dort mit Klobot kommunizieren und kann die Sachen, die Klobot benutzt hat, zum Beispiel eine Nextcloud für die Speicherung von Daten oder ein GitHub sich selber wieder einrichten.
00:13:28.080 --> 00:13:34.639
Hast du da schon Erfahrungen gesammelt, Tim, die weitergehend sind in diesem Bereich?
00:13:35.279 --> 00:13:36.240
Ja, tatsächlich.
00:13:36.399 --> 00:13:46.159
Also wir haben so ein iMac, der ist jetzt auch schon vier, fünf Jahre alt, läuft auch mit einem M1-Prozessor, läuft auch wirklich super.
00:13:46.240 --> 00:13:57.120
Also ist echt ein tolles Gerät, aber der wird nicht mehr wirklich intensiv genutzt, sondern tatsächlich aktuell, um große Dateien zu übertragen.
00:13:57.279 --> 00:14:14.480
Gerade wenn wir jetzt von den Festplatten große Daten transferieren müssen, Videos oder einfach sehr große Datenmengen, wo es dann um 50, 200, 300 Gigabyte auf einmal geht, da kommt dann immer der iMac zum Einsatz, weil den kannst du dann, den brauchen wir so in der Praxis nicht.
00:14:14.720 --> 00:14:24.240
Was wir da jetzt gemacht haben, wir haben auch den iMac jetzt verwendet, um da mal, wie gesagt, einfach Hermes drauflaufen zu lassen.
00:14:24.399 --> 00:14:31.759
Der verbindet sich oder hat eine Verbindung zu allen anderen Mac Minis im Netzwerk, im gleichen Netzwerk.
00:14:32.559 --> 00:14:36.799
Er hat nicht die Möglichkeit, dort zu schreiben, aber er hat die Möglichkeit, alles zu lesen.
00:14:36.879 --> 00:14:49.120
Das heißt, ja, gerade was das Thema Auslastung angeht und auch das Thema angeht, was passiert gerade, was wurde überhaupt gemacht, wurde es richtig gemacht.
00:14:50.000 --> 00:14:58.159
Wenn ein neuer Code entstellt wurde oder jetzt eine Änderung stattgefunden hat, dann findet dort sozusagen automatisiert nochmal der Review-Prozess an.
00:14:58.240 --> 00:15:07.279
Das heißt, er guckt nochmal mit einem anderen Sprachmodell über den erstellten Code rüber und findet eventuell Fehler, gibt nochmal Hinweise.
00:15:07.600 --> 00:15:09.600
Und das funktioniert auch echt, echt gut.
00:15:10.559 --> 00:15:13.679
Und tatsächlich besser, wie ich es erwartet hatte.
00:15:13.919 --> 00:15:18.000
Also beziehungsweise besser, wie ich es mir mit einem Open Clore-Agenten vorstellen konnte.
00:15:19.279 --> 00:15:38.399
Also das heißt, im Endeffekt, wenn man sich das nochmal zusammenfasst, was wir im Moment alles an Erfahrungen gesammelt haben, ist einfach so, dass wir sehr, sehr viel, was man früher mit Clown gemacht hat, mit Hermes macht.
00:15:38.960 --> 00:15:50.720
Und ich denke mal, das, was wir in Zukunft machen werden, is immer weiter agenten auszuprobieren anders in unserem produktiven Process or in the erstellungsprozess.
00:15:51.919 --> 00:16:09.279
I think that man of the Möglichkeit of our infrastructure schafft, Testsysteme macht, verschiedene agents prüft, gegeneinander absichert.
00:16:10.000 --> 00:16:16.320
So that man nicht eine Produktionsmaschine beschädigt.
00:16:16.639 --> 00:16:18.080
Siehst du das genauso, Tim?
00:16:18.480 --> 00:16:19.279
Ja, auf jeden Fall.
00:16:19.360 --> 00:16:21.759
Das ist auch für mich ein ganz wichtiger Punkt.
00:16:21.840 --> 00:16:36.480
Also wir können auch tatsächlich bei uns aufgrund der Größe und aufgrund der Anzahl der Projekte gar nicht hingehen und sagen, okay, ich habe ein Gerät, wo alles drüber läuft.
00:16:36.639 --> 00:16:45.360
Weil das ist schon, wir haben das manchmal auch probiert, dass wir gesagt haben, okay, das kleine Projekt kann man jetzt auf den auch noch mit draufschmeißen.
00:16:45.679 --> 00:16:55.200
Und irgendwann weiß er nicht mehr, über was wir sprechen oder versteht Dinge falsch, versucht dann im falschen Projekt Änderungen vorzunehmen, was wir eigentlich gar nicht wollen.
00:16:55.519 --> 00:16:59.360
Deswegen muss man da wirklich gut aufpassen, wie man was macht.
00:16:59.440 --> 00:17:02.320
Man muss auch gucken, was er tut.
00:17:02.480 --> 00:17:07.119
Nicht, dass er da wirklich mal was gravierende Fehler macht oder gravierend etwas falsch macht.
00:17:07.440 --> 00:17:12.640
Aber ja, wenn man das alles beachtet, ich meine, man muss ihn auch konfigurieren.
00:17:12.720 --> 00:17:20.319
Man muss ihm genau sagen, wie er sich verhalten soll, wie oft er Backups oder wie oft er Updates sich selber ziehen soll.
00:17:20.640 --> 00:17:23.279
Und er lernt ja auch mit.
00:17:23.359 --> 00:17:26.880
Das ist ja auch so die große Änderung im Vergleich zu Open Claw.
00:17:27.039 --> 00:17:28.480
Er verbessert sich selbst.
00:17:28.640 --> 00:17:37.119
Er wird von alleine seine Fehler erkennen und auch gleichzeitig anfangen, die nicht mehr zu wiederholen.
00:17:37.200 --> 00:17:40.559
Also dass er wirklich einen Lernprozess auch abbildet.
00:17:42.480 --> 00:17:52.960
Ja, Tim, ich denke mal, wir haben einen kleinen Einblick in Bezug auf das Agentensystem Hermes unseren Zuhörern gerade gebracht.
00:17:53.200 --> 00:18:00.720
Und wir werden auch in weiterer Zukunft über Hermes, Open Claw oder weitere Agenten noch berichten.
00:18:00.960 --> 00:18:12.559
Und unsere weiteren Erfahrungen, die wir gemacht haben in Bezug auf Hermes, werden wir natürlich unseren Zuhörern weitergeben in den nächsten Episoden.
00:18:12.960 --> 00:18:16.880
Und ich denke mal, das ist auch ein gutes Schlusswort an der Stelle.
00:18:17.039 --> 00:18:25.519
Euer Tim, hast du noch irgendwelche Punkte, die du unbedingt unseren Zuhörern noch mitteilen möchtest?
00:18:26.480 --> 00:18:27.759
Ja, vielen Dank, Klaus.
00:18:28.079 --> 00:18:28.960
Tatsächlich nicht.
00:18:29.119 --> 00:18:44.160
Das Einzige, was ich noch sagen kann, ist wirklich, beschäftigt euch damit, schaut euch das im Detail an, versucht up to date zu bleiben, dass ihr das nicht verpasst, weil es passiert sehr, sehr viel und es wird auch in den nächsten Wochen und Monaten sehr viel in dem Bereich passieren.
00:18:44.480 --> 00:18:54.640
Und ihr verliert da wirklich kostbare Zeit, wenn ihr diese ganzen Tools und diese ganzen Neuerungen nicht mitbekommt und nicht verfolgt.
00:18:55.359 --> 00:18:57.359
Aber dafür habt ihr uns ja auch.
00:18:58.240 --> 00:18:59.200
Absolut.
00:19:00.160 --> 00:19:01.920
Bis dann, bis bald.
00:19:03.119 --> 00:19:03.920
Euer Klaus.