Der Hermes Agent hat lokale KI für immer verändert: So führen Sie ihn selbst aus

@leopardracer
ENGLISCHvor 1 Monat · 03. Juni 2026
341K
344
40
23
990

TL;DR

In Kombination mit Qwen 3.6 ermöglicht der Hermes Agent Benutzern das lokale Ausführen persistenter, selbstlernender KI-Agenten. Dies eliminiert Abonnementkosten und Datenschutzbedenken, während sich das System kontinuierlich verbessert.

Hier ist, was sich geändert hat, warum es wichtig ist, und die vollständige Schritt-für-Schritt-Anleitung, um Hermes Agent in etwa 30 Minuten auf deinem eigenen Computer auszuführen.

Im Mai veröffentlichte NVIDIA einen Blogbeitrag, der eigentlich mehr Aufmerksamkeit verdient hätte, als er bekommt.

leopardracer - inline image

Die Schlagzeile dreht sich um Hardware: Hermes Agent auf RTX-PCs und der neue DGX Spark Workstation. Die eigentliche Geschichte darunter ist jedoch viel größer.

Drei Dinge sind gerade zusammengekommen, die zusammengenommen das bisher Mögliche verändern:

  1. Hermes Agent (Nous Research) – ein Open-Source-Agent-Framework, das eigene Fähigkeiten aus Erfahrung erstellt und verfeinert. In drei Monaten über 140.000 GitHub-Sterne. Laut OpenRouter derzeit der meistgenutzte Agent der Welt.
  2. Qwen 3.6 (Alibaba) – ein neues Open-Weight-Modell, bei dem die 35B-Version die letztjährigen 120B-Modelle übertrifft, und die 27B-Version entspricht dem, was früher 400B Parameter erforderte. Läuft mit etwa 20 GB Speicher.
  3. DGX Spark (NVIDIA) – eine tischgroße Workstation mit 128 GB einheitlichem Speicher und 1 Petaflop KI-Leistung. Entwickelt, um Agenten kontinuierlich, 24/7, lokal laufen zu lassen.

Kombiniere diese drei, und du bekommst einen persönlichen KI-Agenten, der auf deinem Schreibtisch lebt (nicht in einem Rechenzentrum), kontinuierlich läuft (nicht Sitzung für Sitzung), aus deinen Arbeitsabläufen lernt und seine Fähigkeiten ansammelt, niemals deine Daten irgendwohin sendet und nach der Hardware-Anschaffung etwa 0 €/Monat Betriebskosten verursacht.

Die Debatte darüber, „wohin die KI geht“, geht normalerweise davon aus, dass die Antwort die Cloud ist. Dies ist die erste glaubwürdige Antwort, die sagt: eigentlich vielleicht nicht.

Dieser Artikel behandelt zwei Dinge: (1) warum Hermes speziell wichtig ist – was es strukturell von jedem anderen Agent-Framework unterscheidet, von dem du je gehört hast – und (2) die vollständige, aktuelle Schritt-für-Schritt-Anleitung, um es selbst auf deinem eigenen Rechner in etwa 30 Minuten auszuführen.

Wenn du nur die Einrichtungsschritte möchtest, springe zum Abschnitt „Wie man es tatsächlich ausführt“. Wenn du zuerst das Warum willst – den Teil, der die Einrichtung lohnenswert macht – lies weiter.

Was Hermes tatsächlich tut (der entscheidende Teil)

Die meisten „KI-Agenten“, von denen du gehört hast, sind Wrapper um einen LLM-Aufruf. Du gibst ihnen eine Aufgabe, sie erledigen sie, du gibst ihnen eine weitere Aufgabe, sie beginnen von vorne. Sie vergessen, was gestern funktioniert hat. Sie werden nicht besser. Sie sind nützlich, aber sie sind keine echten Agenten im eigentlichen Sinne – sie sind Funktionen mit Persönlichkeiten.

Hermes ist in einer spezifischen, technischen Hinsicht anders: es schreibt seine eigenen Fähigkeiten.

Wenn Hermes eine komplexe Aufgabe erledigt – sagen wir „recherchiere fünf Wettbewerber und erstelle einen Vergleich“ – gibt es dir nicht einfach die Ausgabe. Es speichert die Vorgehensweise als Skill-Datei auf der Festplatte. Wenn du das nächste Mal etwas Ähnliches anfragst, beginnt es nicht von vorne. Es öffnet seinen eigenen Skill, führt ihn aus und verbessert ihn basierend auf dem, was funktioniert hat und was nicht.

Das ist keine Marketingbehauptung. Nous Research liefert eine Infrastruktur, die DSPy + GEPA (Genetic-Pareto Prompt Evolution) verwendet, um Hermes‘ eigene Fähigkeiten, Tool-Beschreibungen und System-Prompts automatisch zu optimieren. Mutationen werden bewertet. Die besten werden übernommen. Die Verbesserungen sind messbar.

Unabhängige Benchmarks bestätigen dies: Agenten, die auf Hermes mit über 20 selbst erstellten Fähigkeiten laufen, erledigen ähnliche zukünftige Aufgaben etwa 40 % schneller als frische Instanzen. Das ist nicht „40 % bessere Ausgabe.“ Es ist „40 % weniger Zeit und Tokens für das gleiche Ergebnis.“

Das Schlüsselwort in der Architektur ist persistent. Hermes läuft kontinuierlich auf deinem Laptop, auf einem Server, auf dem DGX Spark – und sein Speicher und seine Fähigkeiten sammeln sich an. Nach einem Monat Nutzung ist dein Hermes wirklich anders als jeder andere. Es kennt deine Codebasis. Es kennt deine Konventionen. Es weiß, wie du Dinge erklärt haben möchtest.

Optisch sieht der Unterschied so aus:

leopardracer - inline image

Oben: Ein typischer Chatbot verliert alles zwischen den Sitzungen. Unten: Hermes schreibt Fähigkeiten aus Erfahrung und baut ein Gedächtnis deiner Muster auf. Die Fähigkeiten wachsen.

Es gibt auch eine Gedächtnisarchitektur, die erwähnenswert ist: Hermes verwendet ein Drei-Ebenen-System. Persistent notes (deine Vorlieben, Projektkonventionen, wer wer in deinem Arbeitsleben ist), durchsuchbare Sitzungshistorie (alles, was passiert ist, für den Abruf indexiert) und prozedurale Fähigkeiten (die tatsächlich erlernten Arbeitsabläufe). Dieses Drei-Ebenen-Modell versuchen andere Frameworks seit zwei Jahren hinzubekommen. Hermes hat eines geliefert, das funktioniert.

Wie Hermes aufgebaut ist

Hier ist die Architektur in einem Bild:

leopardracer - inline image

Du kommunizierst mit Hermes über die CLI oder Messaging-Gateways. Hermes orchestriert die Arbeit – Planung, Aufruf von Tools, Schreiben von Skills – und ruft einen lokalen Modell-Server für die Inferenz auf. Alles wird in ~/.hermes/ auf deiner Festplatte gespeichert.

Die drei Dinge, die im Diagramm auffallen:

Eins: Der lokale Modell-Server ist ein separates Teil von Hermes selbst. Hermes ist die Orchestrierungsebene – der Planer, Tool-Ausführer und Skill-Autor. Das Modell (Qwen 3.6 in der empfohlenen Einrichtung) übernimmt das eigentliche Denken. Sie sind über eine OpenAI-kompatible API auf localhost verbunden.

Zwei: Die Skills und das Gedächtnis leben in ~/.hermes/. Einfache Markdown-Dateien auf der Festplatte. Du kannst sie lesen. Du kannst sie bearbeiten. Du kannst sie sichern. Wenn Anthropic, OpenAI oder irgendein anderes Unternehmen morgen seine Bedingungen ändert, ändert sich hier nichts – es gehört dir.

Drei: Die Gateways sind optional, aber transformativ. Sobald du Hermes mit Telegram oder Slack verbindest, hörst du auf, es als „ein CLI-Ding auf meinem Laptop“ zu betrachten, und beginnst, es als „meine persönliche KI, der ich von überall eine Nachricht schicken kann“ zu sehen.

Warum Qwen 3.6 dies möglich macht

Hier ist der Teil, der in der Ankündigung untergeht: Hermes ist modellunabhängig. Du kannst es auf GPT, Claude oder jedes lokale Modell ausrichten. Aber es gibt einen Grund, warum NVIDIAs Blogbeitrag es speziell mit Qwen 3.6 koppelt.

Bis vor sehr kurzer Zeit bedeutete das Ausführen ernsthafter agentischer Arbeitsabläufe lokal, einen von zwei Kompromissen zu akzeptieren:

  • Ein kleines, schnelles Modell verwenden und zusehen, wie der Agent bei mehrstufigen Aufgaben stolpert
  • Ein großes, intelligentes Modell verwenden und akzeptieren, dass ein Inferenzzyklus 90 Sekunden dauert

Qwen 3.6 hat die Mathematik geändert. Das 35B-Modell übertrifft Modelle der vorherigen Generation mit 120B Parametern bei etwa einem Drittel des Speicherbedarfs. Das 27B dichte Modell erreicht die Genauigkeit älterer Modelle mit 400B Parametern. Wir sprechen von einer 16-fachen Verbesserung der Effizienz pro Intelligenzeinheit in weniger als einem Jahr.

Was das in der Praxis bedeutet: Ein Modell, das intelligent genug ist, um zu planen, Aufgaben zu zerlegen, eigene Fähigkeiten zu schreiben und sich selbst zu korrigieren, passt jetzt in 20 GB Speicher. Das ist eine High-End-Verbraucher-GPU. Es ist auch genau das, was ein einzelner DGX Spark bequem hält, mit Platz für den Agenten selbst.

Das ist die Lücke, die sich geschlossen hat. Letztes Jahr erforderte ein „sich selbst verbessernder lokaler Agent“ Rechenzentrums-Hardware. Dieses Jahr nicht mehr.

Was das für normale Menschen bedeutet

Die meisten Berichte über diese Ankündigung behandeln sie als Unternehmensnachricht. Das ist sie nicht. Es sind Verbraucher-Infrastruktur-Nachrichten. Hier ist, was es bedeutet, je nachdem, wer du bist.

Wenn du Wissensarbeiter bist: Innerhalb von 12 Monaten wirst du die Wahl haben zwischen einem Cloud-Agenten-Abo (30 $/Monat?) und einem vergleichbaren lokalen Agenten auf deiner eigenen Hardware (0 $ laufende Kosten nach der Einrichtung). Für datenschutzsensible Arbeiten – Beratung, Gesundheitswesen, Finanzen, Recht – wird es zur offensichtlichen Wahl.

Wenn du Entwickler bist: Hermes ist Open Source unter der MIT-Lizenz. Du kannst es heute auf deinem vorhandenen Laptop installieren und mit LM Studio oder Ollama mit Qwen 3.6 kombinieren. Kein DGX Spark erforderlich. Bei der Hardware-Frage geht es um Lebensqualität, nicht um Fähigkeiten. Beginne mit dem, was du hast.

Wenn du Gründer oder Betreiber bist: Das setzt den gesamten SaaS-agentischen Markt unter Druck. Tools, die „KI-gestütztes X“ für 20 $/Monat verkaufen, konkurrieren jetzt mit einem lokalen Agenten, der dasselbe kostenlos macht. Die verteidigungsfähigen SaaS-Angebote sind diejenigen mit Netzwerken, Daten oder Arbeitsabläufen, die nicht lokal repliziert werden können. Die verwundbaren sind diejenigen, die nur „Claude mit einem neuen Anstrich“ sind.

Wenn du in der Sicherheits- oder regulierten Branche tätig bist: Die Datensouveränitäts-Geschichte für KI ist gerade enorm stärker geworden. Jemandem zu sagen „Du kannst KI für diese Arbeit nicht nutzen, weil sie Daten an OpenAI sendet“ hört auf, eine Einschränkung zu sein, wenn ein vergleichbarer Agent vollständig vor Ort läuft.

Jetzt der Teil, den die meisten Berichte auslassen. Wie man das tatsächlich selbst ausführt.

Wie man es tatsächlich ausführt (die vollständige Einrichtung)

NVIDIAs Blogbeitrag sagt: „Besuche das GitHub-Repo, kombiniere es mit einem lokalen Modell, und los geht‘s.“ Dieser Satz überspringt etwa sechs echte Entscheidungen und drei potenzielle Fallstricke. Hier ist die tatsächliche Einrichtung, in einfachem Deutsch, mit den genannten Stolperfallen.

Was du brauchst

Ehrliche Hardware-Realität, bevor du beginnst. Hermes kann mit einer Remote-API (Anthropic, OpenAI, OpenRouter, Nous Portal) laufen, aber das macht den größten Teil des Sinns zunichte. Für die lokale Einrichtung, auf die sich diese Anleitung konzentriert:

Deine Hardware - Realistische Erfahrung

8 GB RAM, integrierte Grafik - Wird kämpfen. Verwende stattdessen die Cloud-API.

16 GB RAM, Mid-Range GPU (RTX 3060/4060) - Funktioniert mit kleineren Modellen. Langsamer, aber nutzbar.

MacBook Pro M3/M4 mit 32 GB+ Unified Memory - Läuft Qwen 3.6 27B flüssig. Wirklich produktiv.

Desktop mit RTX 3090/4090 - Der Sweet Spot. Führe Qwen 3.6 35B mit nahezu Cloud-Qualität aus.

NVIDIA DGX Spark oder RTX PRO Workstation - Das, was der NVIDIA-Beitrag verkauft. Für die meisten übertrieben.

Die ehrliche Linie: Wenn du Qwen 3.6 27B oder größer lokal ausführen kannst, wirst du eine großartige Hermes-Erfahrung haben. Wenn nicht, nutze den Cloud-API-Pfad (der deutlich einfacher ist). Springe zum Abschnitt Cloud-API am Ende, wenn das dein Weg ist.

Du brauchst auch:

  • macOS, Linux oder Windows 11 mit WSL2 (Hermes benötigt eine Unix-Umgebung; Windows-Benutzer führen es innerhalb von WSL2 aus)
  • Mindestens 20 GB freien Festplattenspeicher für das Modell
  • 30 Minuten ununterbrochene Zeit

Schritt 1. Installiere deinen lokalen Modell-Server (15 Minuten)

Der nicht-technischste Weg ist LM Studio. Der technischste Weg ist Ollama. Beide funktionieren. Wähle einen.

Option A: LM Studio (empfohlen für Nicht-Entwickler)

  1. Gehe zu lmstudio.ai und lade das Installationsprogramm für dein Betriebssystem herunter
  2. Installiere es wie jede andere App
  3. Öffne LM Studio und gehe zum Discover-Tab
  4. Suche nach Qwen 3.6 27B (oder 35B, wenn deine Hardware es schafft)
  5. Wähle die Q4-Quantisierungsversion – sie ist der Sweet Spot aus Größe und Qualität
  6. Klicke auf Download. Warte 10–15 Minuten
  7. Nach dem Herunterladen wechsle zum Developer-Tab (heißt in älteren Versionen „Local Server“)
  8. Klicke auf Load Model und wähle das soeben heruntergeladene Qwen 3.6-Modell aus
  9. Wichtig: Aktiviere in den Einstellungen „Serve on Network“ (sonst können WSL2-Benutzer es nicht erreichen)
  10. Klicke auf Start Server – standardmäßig läuft es auf http://localhost:1234

Überprüfe, ob es funktioniert: Öffne deinen Browser und gehe zu http://localhost:1234/v1/models. Du solltest eine JSON-Antwort sehen, die dein geladenes Modell auflistet.

Option B: Ollama (empfohlen für Entwickler)

  1. Gehe zu ollama.com und lade das Installationsprogramm herunter
  2. Installiere es
  3. Öffne ein Terminal und führe aus:
text
1ollama pull qwen3.6
2ollama serve
  1. Dies startet Ollama auf Port 11434 und lädt das Qwen 3.6-Modell herunter

Kritische Ollama-Einstellung, die jeden ausbremst: Ollama verwendet standardmäßig ein sehr kleines Kontextfenster (oft 4K Tokens). Hermes benötigt mindestens 64K. Setze dies vor dem Ausführen:

text
1export OLLAMA_HOST=0.0.0.0
2ollama run qwen3.6 -c 65536

Das -c 65536 setzt den Kontext auf 64K. Ohne dies wird Hermes das Modell beim Start ablehnen, da der System-Prompt und die Tool-Schemata allein das kleinere Fenster füllen.

Schritt 2. Installiere Hermes Agent (5 Minuten)

Hermes liefert ein Einzeiler-Installationsskript. Führe in deinem Terminal aus:

text
1GitHub → NousResearch/hermes-agent → scripts/install.sh

Wenn du Windows verwendest, führe dies innerhalb von WSL2 aus (öffne zuerst Ubuntu/Debian aus dem Startmenü).

Das Skript:

  • Lädt die Hermes-CLI auf deinen Rechner herunter
  • Richtet ein lokales Datenverzeichnis ein (normalerweise ~/.hermes/)
  • Installiert erforderliche Abhängigkeiten (Node.js usw.), falls nicht vorhanden

Wenn es fertig ist, lade deine Shell neu:

text
1source ~/.bashrc # oder ~/.zshrc, je nach Shell

Überprüfe die Installation:

text
1hermes --version

Wenn du eine Versionsnummer siehst, ist alles gut.

Schritt 3. Verbinde Hermes mit deinem lokalen Modell (5 Minuten)

Hier winken viele Einrichtungsanleitungen nur herum. Hier ist der genaue Ablauf.

Führe aus:

text
1hermes model

Du siehst ein Menü mit Anbietern. Scrolle ganz nach unten und wähle „Custom endpoint (self-hosted / vLLM / etc.)“.

Dann:

  • URL: Wenn du LM Studio verwendet hast, gib ein: http://localhost:1234/v1. Wenn du Ollama verwendet hast, gib ein: http://localhost:11434/v1
  • API-Key: Drücke Enter, um zu überspringen (lokale Server benötigen keinen)
  • Modellname: LM Studio: der genaue Dateiname des geladenen Modells (siehe in LM Studios „My Models“-Tab) Ollama: qwen3.6 (oder was auch immer du gezogen hast)

Das war‘s. Hermes ist nun so konfiguriert, dass es dein lokales Modell verwendet.

Wichtig: Die Anforderung des 64K-Kontextfensters

Hermes benötigt mindestens 64K Tokens Kontext. Das erwischt beim ersten Mal jeden. Wenn du beim Start einen Fehler wie „Model context too small“ siehst, liegt die Lösung auf der Seite des Modell-Servers, nicht auf der Hermes-Seite:

  • LM Studio: Erweitere beim Laden des Modells die erweiterten Einstellungen und setze die Kontextlänge auf 65536+
  • Ollama: Übergib -c 65536 beim Ausführen des Modells
  • llama.cpp: Verwende --ctx-size 65536

Ohne dies funktioniert nichts anderes. Überspringe es nicht.

Schritt 4. Starte deine erste Hermes-Sitzung (5 Minuten)

Führe in deinem Terminal aus:

text
1hermes

Dies startet die interaktive Hermes-Sitzung. Beim ersten Ausführen stellt Hermes ein paar Onboarding-Fragen – bestätige deine Modellauswahl, verbinde optional ein Gateway (Telegram, Discord, Slack usw.; du kannst es vorerst überspringen), und schon bist du drin.

Probiere eine erste Aufgabe, die Hermes‘ tatsächliche Fähigkeiten trainiert:

„Recherchiere den aktuellen Stand der agentischen KI-Frameworks im Jahr 2026, mit Fokus auf das Open-Source-Ökosystem. Speichere, was du lernst, als Fähigkeit, damit wir beim nächsten Mal darauf aufbauen können.“

Beobachte, was passiert. Hermes wird:

  1. Die Frage in Unteraufgaben zerlegen
  2. Bei Bedarf Unter-Agenten für parallele Arbeit spawnen
  3. Das Web durchsuchen, Quellen lesen, synthetisieren
  4. Eine strukturierte Antwort erstellen
  5. Die zugrunde liegende Vorgehensweise als Fähigkeit auf der Festplatte speichern – sichtbar unter ~/.hermes/skills/

Dieser letzte Schritt macht Hermes anders als einen Chatbot. Wenn du Hermes das nächste Mal bittest, eine verwandte Rechercheaufgabe durchzuführen, wird es die gerade erstellte Fähigkeit finden und wiederverwenden.

Gib /exit ein, wenn du fertig bist.

Schritt 5. Überprüfe, ob die Magie tatsächlich passiert ist

Hermes‘ Wertversprechen ist die sich selbst verbessernde Schleife. Überprüfe, ob sie funktioniert:

text
1ls ~/.hermes/skills/

Du solltest eine oder mehrere .md-Dateien sehen – das sind Hermes‘ erlernte Vorgehensweisen. Öffne eine in einem beliebigen Texteditor. Du wirst einen strukturierten Arbeitsablauf mit Schritten, verwendeten Tools und Notizen dazu sehen, was funktioniert hat.

Das ist das Killer-Feature. Nach einem Monat Nutzung wird dieses Verzeichnis 20–50 Fähigkeiten enthalten, jede einzelne erfasst, wie Hermes gelernt hat, eine bestimmte Art von Aufgabe für dich zu erledigen. Diese Fähigkeiten machen jede nachfolgende Aufgabe schneller und genauer.

Das „sich vertiefende Modell davon, wer du bist“, das in NVIDIAs Beitrag erwähnt wird, lebt in ~/.hermes/memory/ – deine Vorlieben, deine Projekte, deine wiederkehrenden Muster. Öffne auch diese Dateien. Sie sind einfaches Markdown. Du kannst sie selbst lesen und bearbeiten, wenn du möchtest.

Optional: Ein Gateway verbinden

Das weniger erwähnte Feature: Hermes kann über Messaging-Apps erreicht werden. Führe aus:

text
1hermes gateway

Du siehst Optionen für Telegram, Discord, Slack, WhatsApp, Signal und E-Mail.

Am einfachsten einzurichten ist Telegram:

  1. Suche in Telegram nach @BotFather und erstelle einen neuen Bot. Du erhältst einen Token.
  2. Füge den Token ein, wenn Hermes danach fragt.
  3. Fertig. Du kannst deinem Bot jetzt von Telegram aus eine Nachricht senden, und Hermes wird antworten – lokal auf deinem Rechner laufend, mit deinem lokalen Modell.

Dies ist der Moment, in dem sich die Einrichtung nicht mehr wie „ein CLI-Ding auf meinem Computer“ anfühlt, sondern wie „meine persönliche KI“. Du kannst ihr von deinem Handy aus eine Nachricht schicken, während dein Laptop zu Hause die Arbeit erledigt.

Was schiefgehen kann (die 5 häufigsten Einrichtungsprobleme)

Problem 1: Fehler „Model context too small“ beim Start.

Lösung: Setze den Kontext auf deinem Modell-Server auf mindestens 64K (siehe Schritt 3). Dies ist der mit Abstand häufigste Fehler.

Problem 2: Hermes kann keine Verbindung zu deinem lokalen Modell herstellen.

Lösung: Überprüfe, ob dein Modell-Server läuft und erreichbar ist. Teste mit curl http://localhost:1234/v1/models (LM Studio) oder curl http://localhost:11434/v1/models (Ollama). Wenn du JSON zurückbekommst, ist der Server in Ordnung – überprüfe deine Hermes-URL-Konfiguration erneut.

Problem 3: WSL2 kann einen auf Windows gehosteten Modell-Server nicht erreichen.

Lösung: Aktiviere unter Windows 11 22H2+ den gespiegelten Netzwerkmodus von WSL2. Oder führe deinen Modell-Server innerhalb von WSL2 statt auf dem Windows-Host aus.

Problem 4: Hermes ist langsam.

Lösung: Fast sicher das Modell, nicht Hermes. Probiere ein kleineres Modell (Qwen 3.6 8B statt 35B) oder eine aggressivere Quantisierung (Q4 statt Q6). Wenn du nur eine CPU hast, erwarte Langsamkeit – diese Arbeitslast möchte eine GPU.

Problem 5: Hermes „vergisst“ Dinge zwischen den Sitzungen.

Lösung: Überprüfe, ob ~/.hermes/ tatsächlich Dateien enthält. Wenn es leer ist, war deine Installation nicht korrekt abgeschlossen. Führe das Installationsskript erneut aus.

Die Cloud-API-Abkürzung (wenn deine Hardware kein lokales Modell schafft)

Wenn dein Rechner wirklich kein 27B+-Modell ausführen kann und du Hermes trotzdem ausprobieren möchtest:

  1. Überspringe Schritt 1, 3 und die „Kontext“-Hinweise
  2. Führe nach der Installation von Hermes (Schritt 2) hermes model aus
  3. Wähle einen Cloud-Anbieter – OpenRouter, Nous Portal oder Anthropic sind am reibungslosesten
  4. Füge deinen API-Key hinzu
  5. Der Rest der Einrichtung ist identisch – Hermes läuft immer noch lokal auf deinem Rechner, ruft aber ein Cloud-Modell für das Denken auf

Dies kostet pro Token statt 0 €, aber du bekommst das Agenten-Erlebnis (Gedächtnis, Fähigkeiten, Selbstverbesserung) auf Hardware, die die Modelle nicht lokal ausführen kann.

Die ehrlichen Bedenken

Drei Dinge, über die du nachdenken solltest, bevor du annimmst, dass dies über Nacht alles verändert.

Selbstverbesserung hat Fehlermodi. Dieselbe Schleife, die Hermes besser macht, kann es auch seltsamer machen. Ein Agent, der seine eigenen Prompts optimiert, kann sich leise von deinen eigentlichen Zielen entfernen. Nous Research liefert Schutzmaßnahmen – Regressionstests, Bewertungsgatter, „blockiere schlechte Mutationen“-Workflows – aber diese Schutzmaßnahmen erfordern aktive Wartung. Wenn du Hermes bereitstellst und nicht mehr darauf achtest, bemerkst du vielleicht nicht, wenn es anfängt, subtil falsch zu liegen.

Sicherheit ist eine echte Frage. Agenten, die ihre eigenen Fähigkeiten schreiben, MCP-Server installieren und Code auf deinem Rechner ausführen, sind eine neue Angriffsfläche. Skill-Vergiftung, Prompt-Injection durch abgerufene Inhalte, bösartige Tools – das sind keine theoretischen Bedenken. Behandle den Agenten wie ausführbare Software, nicht wie einen freundlichen Assistenten.

Die Hardware-Geschichte ist noch rau an den Kanten. DGX Spark ist ein echtes Produkt, aber es ist auch teuer, lieferengpässe, und die meisten Rezensenten haben noch kein Exemplar in die Hände bekommen. Die Hermes-auf-Laptop-Geschichte ist heute in Ordnung; die Hermes-auf-DGX-Spark-Geschichte wird ein Quartal brauchen, um zu reifen.

Keines davon untergräbt die größere These. Es sind nur die Fußnoten, die jeder ehrliche Praktiker kennen sollte.

Was ich an diesem Wochenende tatsächlich tun würde

Wenn du neu bei Hermes bist und anständige Hardware hast, hier ist der Weg, den ich nehmen würde:

  1. Installiere LM Studio + Qwen 3.6 27B – 15 Minuten
  2. Installiere Hermes – 5 Minuten
  3. Konfiguriere Hermes für LM Studio – 5 Minuten
  4. Setze das Kontextfenster auf 65536 (der Stolperstein) – 1 Minute
  5. Führe deine erste Aufgabe aus – 5 Minuten
  6. Dann ignoriere eine Woche lang alles andere. Nutze Hermes täglich für echte Arbeit. Beobachte, wie sich das Skills-Verzeichnis füllt.

Versuche noch nicht zu optimieren, anzupassen oder Gateways hinzuzufügen. Der ganze Sinn von Hermes ist die Selbstverbesserungsschleife – und die setzt nur ein, wenn du es über einen längeren Zeitraum für echte Aufgaben nutzt. Verbringe deine erste Woche damit, es zu nutzen, nicht damit, es zu tunen.

Bis zur zweiten Woche wirst du wissen, ob dies das Agent-Framework ist, das deine Arbeitsweise verändert, oder ob deine Hardware / dein Anwendungsfall nicht ideal ist. Beide Ergebnisse sind nützliche Daten.

Das Gesamtbild

Zwei Jahre lang war die vorherrschende Erzählung: KI wird besser, indem sie größer wird, und größer bedeutet Cloud. Die Implikation ist, dass ernsthafte KI woanders lebt und deine Aufgabe darin besteht, sie aufzurufen.

Hermes + Qwen 3.6 + DGX Spark ist die erste glaubwürdige Gegenerzählung. Ernsthafte KI kann auf deinem Schreibtisch leben. Sie kann sich selbst verbessern. Sie kann kontinuierlich laufen. Sie kann Dinge über dich wissen, die du niemals in ein Cloud-System geben würdest. Die Kompromisse, die lokale KI früher zu einem Hobbyprojekt machten – langsamer, dümmer, fummeliger – verdampfen Viertel für Viertel.

Das tötet Cloud-KI nicht. Die hochmodernen Modelle werden weiterhin in Rechenzentren leben. Das schwierigste Denken wird immer noch in großem Maßstab stattfinden. Aber für die 80 % der agentischen Arbeit, die aus Musterbefolgung, Workflow-Ausführung und Kontextspeicherung bestehen, wandert das auf deinen Rechner.

Was bedeutet, dass sich nachgelagert eine Menge ändert. Der Wettbewerbsgraben für „KI-gestützte SaaS“ wird dünner. Die Datensouveränitäts-Geschichte für Unternehmen wird einfacher. Die Privatsphäre-Basislinie für Einzelpersonen wird höher. Die Kosten für den Betrieb eines Agenten gehen von „pro Anfrage“ zu „amortisiert über bereits vorhandene Hardware“.

Diese Ankündigung ist ein einzelner Datenpunkt. Aber die Entwicklungskurve, auf der sie sitzt, ist die wichtigste in der agentischen KI im Moment – und fast niemand außerhalb von Hacker News liest sie so.

Das ist der Teil, den dir niemand erzählt.

**Wenn dies nützlich war – folge meinem Telegram-Kanal:

https://t.me/+ygATQAt9sUM1N2U6**

Mit einem Klick speichern

Virale Artikel mit YouMind per KI tief lesen

Speichere die Quelle, stelle gezielte Fragen, fasse die Argumentation zusammen und verwandle einen viralen Artikel in wiederverwendbare Notizen in einem einzigen KI-Arbeitsbereich.

YouMind entdecken
Für Creator

Verwandle dein Markdown in einen sauberen 𝕏-Artikel

Wenn du eigene Langtexte veröffentlichst, wird die 𝕏-Formatierung von Bildern, Tabellen und Codeblöcken mühsam. YouMind macht aus einem ganzen Markdown-Entwurf einen sauberen, sofort postbaren 𝕏-Artikel.

Markdown zu 𝕏 testen

Mehr Muster zum Entschlüsseln

Aktuelle virale Artikel

Mehr virale Artikel entdecken