Đây là những gì đã thay đổi, tại sao nó quan trọng, và hướng dẫn từng bước hoàn chỉnh để chạy Hermes Agent trên máy tính của bạn trong khoảng 30 phút.
Vào tháng 5, NVIDIA đã đăng một bài blog lẽ ra phải gây được nhiều tiếng vang hơn.
Tiêu đề nói về phần cứng Hermes Agent chạy trên PC RTX và máy trạm DGX Spark mới. Câu chuyện thực sự bên dưới còn lớn hơn nhiều.
Ba điều vừa hội tụ, kết hợp lại với nhau, thay đổi những gì khả thi:
- Hermes Agent (Nous Research) một framework agent mã nguồn mở tự tạo và cải tiến các kỹ năng từ kinh nghiệm. Đã vượt mốc 140.000 sao GitHub trong ba tháng. Hiện là agent được sử dụng nhiều nhất thế giới, theo OpenRouter.
- Qwen 3.6 (Alibaba) một mô hình trọng số mở mới, trong đó phiên bản 35B vượt trội so với các mô hình 120B của năm ngoái, và phiên bản 27B ngang bằng với những gì từng cần tới 400B tham số. Chạy trên khoảng 20GB bộ nhớ.
- DGX Spark (NVIDIA) một máy trạm cỡ bàn với 128GB bộ nhớ hợp nhất và 1 petaflop hiệu năng AI. Được thiết kế để chạy agent liên tục, 24/7, cục bộ.
Kết hợp ba thứ này, bạn có một agent AI cá nhân sống trên bàn làm việc của bạn (không phải trong trung tâm dữ liệu), chạy liên tục (không phải từng phiên một), học hỏi từ quy trình làm việc của bạn và tích lũy khả năng, không bao giờ gửi dữ liệu của bạn đi đâu cả, và chi phí vận hành sau khi mua phần cứng là khoảng $0/tháng.
Cuộc trò chuyện về "AI sẽ đi về đâu" thường cho rằng câu trả lời là đám mây. Đây là câu trả lời đáng tin cậy đầu tiên nói rằng: thực ra, có lẽ là không.
Bài viết này đề cập đến hai điều: (1) tại sao Hermes cụ thể lại quan trọng, điều gì khác biệt về mặt cấu trúc so với mọi framework agent khác bạn từng nghe, và (2) hướng dẫn từng bước hoàn chỉnh, hiện tại để tự chạy nó trên máy của bạn trong khoảng 30 phút.
Nếu bạn chỉ muốn các bước thiết lập, hãy chuyển đến phần "Cách thực sự chạy nó". Nếu bạn muốn biết lý do trước - phần làm cho việc thiết lập trở nên đáng giá - hãy đọc tiếp.
Hermes thực sự làm gì (phần quan trọng)
Hầu hết "AI agent" bạn từng nghe đến chỉ là lớp bọc quanh một lệnh gọi LLM. Bạn giao cho chúng một nhiệm vụ, chúng làm xong, bạn giao nhiệm vụ khác, chúng bắt đầu lại từ đầu. Chúng quên những gì đã hiệu quả hôm qua. Chúng không trở nên tốt hơn. Chúng hữu ích, nhưng không thực sự là agent theo bất kỳ nghĩa nào - chúng chỉ là các hàm có tính cách.
Hermes khác biệt theo một cách cụ thể, mang tính kỹ thuật: nó tự viết các kỹ năng của chính mình.
Khi Hermes hoàn thành một nhiệm vụ phức tạp, ví dụ "nghiên cứu năm đối thủ cạnh tranh và tạo ra một bảng so sánh", nó không chỉ đưa cho bạn kết quả. Nó lưu quy trình dưới dạng một tệp kỹ năng trên ổ đĩa. Lần sau bạn yêu cầu điều gì đó tương tự, nó không bắt đầu lại. Nó mở kỹ năng của chính mình, chạy nó, và cải thiện nó dựa trên những gì hiệu quả và không hiệu quả.
Đây không phải là một tuyên bố tiếp thị. Nous Research cung cấp cơ sở hạ tầng sử dụng DSPy + GEPA (Genetic-Pareto Prompt Evolution) để tự động tối ưu hóa các kỹ năng, mô tả công cụ và lời nhắc hệ thống của chính Hermes. Các đột biến được đánh giá. Những cái tốt nhất được thăng cấp. Những cải tiến có thể đo lường được.
Các điểm chuẩn độc lập xác nhận điều này: các agent chạy trên Hermes với hơn 20 kỹ năng tự tạo hoàn thành các nhiệm vụ tương tự trong tương lai nhanh hơn khoảng 40% so với các phiên bản mới. Đó không phải là "kết quả đầu ra tốt hơn 40%". Đó là "ít thời gian và token hơn 40% để có cùng kết quả."
Từ khóa trong kiến trúc là bền vững. Hermes chạy liên tục trên máy tính xách tay của bạn, trên máy chủ, trên DGX Spark và bộ nhớ cũng như các kỹ năng của nó tích lũy dần. Sau một tháng sử dụng, Hermes của bạn thực sự khác biệt so với của bất kỳ ai khác. Nó biết codebase của bạn. Nó biết các quy ước của bạn. Nó biết cách bạn thích mọi thứ được giải thích.
Về mặt hình ảnh, sự khác biệt trông như thế này:
Phía trên: một chatbot điển hình mất tất cả giữa các phiên. Phía dưới: Hermes viết các kỹ năng từ kinh nghiệm và xây dựng bộ nhớ về các mẫu của bạn. Khả năng được tích lũy.
Cũng có một kiến trúc bộ nhớ đáng đề cập: Hermes sử dụng hệ thống ba lớp. Ghi chú bền vững (sở thích của bạn, quy ước dự án, ai là ai trong công việc của bạn), lịch sử phiên có thể tìm kiếm (mọi thứ đã xảy ra, được lập chỉ mục để truy xuất), và kỹ năng thủ tục (các quy trình làm việc thực tế đã học). Mô hình ba lớp này là thứ mà các framework khác đã cố gắng hoàn thiện trong hai năm. Hermes đã đưa ra một mô hình hoạt động.
Hermes được xây dựng như thế nào
Đây là kiến trúc trong một bức tranh:
Bạn nói chuyện với Hermes thông qua CLI hoặc các cổng nhắn tin. Hermes điều phối công việc - lập kế hoạch, gọi công cụ, viết kỹ năng - và gọi một máy chủ mô hình cục bộ để suy luận. Mọi thứ được lưu trữ vào ~/.hermes/ trên ổ đĩa của bạn.
Ba điều cần chú ý trong sơ đồ:
Một: máy chủ mô hình cục bộ là một phần riêng biệt với chính Hermes. Hermes là lớp điều phối - người lập kế hoạch, người chạy công cụ và người viết kỹ năng. Mô hình (Qwen 3.6 trong thiết lập được khuyến nghị) thực hiện việc suy nghĩ thực tế. Chúng được kết nối thông qua một API tương thích với OpenAI trên localhost.
Hai: các kỹ năng và bộ nhớ nằm trong ~/.hermes/. Các tệp markdown đơn giản trên ổ đĩa. Bạn có thể đọc chúng. Bạn có thể chỉnh sửa chúng. Bạn có thể sao lưu chúng. Khi Anthropic, OpenAI, hoặc bất kỳ công ty nào khác thay đổi điều khoản của họ vào ngày mai, không có điều nào trong số này thay đổi - chúng là của bạn.
Ba: các cổng là tùy chọn nhưng mang tính biến đổi. Một khi bạn kết nối Hermes với Telegram hoặc Slack, bạn sẽ không còn nghĩ về nó như "một thứ CLI trên máy tính xách tay của tôi" nữa mà bắt đầu nghĩ về nó như "AI cá nhân của tôi mà tôi có thể nhắn tin từ bất cứ đâu."
Tại sao Qwen 3.6 làm cho điều này khả thi
Đây là phần bị bỏ qua trong thông báo: Hermes không phụ thuộc vào mô hình. Bạn có thể trỏ nó vào GPT, Claude, hoặc bất kỳ mô hình cục bộ nào. Nhưng có một lý do tại sao bài blog của NVIDIA lại ghép nối nó cụ thể với Qwen 3.6.
Cho đến rất gần đây, việc chạy các quy trình agent nghiêm túc cục bộ có nghĩa là chấp nhận một trong hai sự đánh đổi:
- Sử dụng mô hình nhỏ nhanh và xem agent lúng túng với các tác vụ nhiều bước
- Sử dụng mô hình lớn thông minh và chấp nhận rằng một chu kỳ suy luận mất 90 giây
Qwen 3.6 đã thay đổi bài toán. Mô hình 35B vượt trội so với các mô hình 120B tham số thế hệ trước với mức dung lượng bộ nhớ chỉ bằng một phần ba. Mô hình dày đặc 27B ngang bằng độ chính xác của các mô hình 400B tham số cũ hơn. Chúng ta đang nói về một cải tiến hiệu suất gấp 16 lần trên mỗi đơn vị thông minh trong vòng chưa đầy một năm.
Điều đó có nghĩa là gì trong thực tế: một mô hình đủ thông minh để lập kế hoạch, phân rã nhiệm vụ, tự viết kỹ năng và tự sửa lỗi giờ đây nằm gọn trong 20GB bộ nhớ. Đó là một GPU tiêu dùng cao cấp. Đó cũng chính xác là những gì một DGX Spark duy nhất có thể chứa thoải mái, vẫn còn dư chỗ cho chính agent.
Đây là khoảng cách đã được thu hẹp. Năm ngoái, "agent cục bộ tự cải thiện" yêu cầu phần cứng trung tâm dữ liệu. Năm nay thì không.
Điều này có nghĩa là gì đối với người bình thường
Hầu hết các bài đưa tin về thông báo này đều coi nó như tin tức doanh nghiệp. Không phải vậy. Đó là tin tức về cơ sở hạ tầng tiêu dùng. Đây là ý nghĩa của nó tùy thuộc vào bạn là ai.
Nếu bạn là một nhân viên tri thức: Trong vòng 12 tháng, bạn sẽ phải lựa chọn giữa việc đăng ký dịch vụ agent đám mây ($30/tháng?) và chạy một agent cục bộ tương đương trên phần cứng của riêng bạn ($0 chi phí liên tục sau khi thiết lập). Đối với công việc nhạy cảm về quyền riêng tư - tư vấn, chăm sóc sức khỏe, tài chính, pháp lý - nó đang trở thành lựa chọn hiển nhiên.
Nếu bạn là một nhà phát triển: Hermes là mã nguồn mở theo giấy phép MIT. Bạn có thể cài đặt nó ngay hôm nay trên máy tính xách tay hiện tại của mình và kết nối nó với LM Studio hoặc Ollama đang chạy Qwen 3.6. Không cần DGX Spark. Câu hỏi về phần cứng là về chất lượng cuộc sống, không phải khả năng. Hãy bắt đầu với những gì bạn có.
Nếu bạn là một người sáng lập hoặc nhà điều hành: Điều này gây áp lực lên toàn bộ thị trường SaaS agent. Các công cụ bán "AI hỗ trợ X" với giá $20/tháng giờ đây cạnh tranh với một agent cục bộ làm điều tương tự miễn phí. Các ván bài SaaS có thể phòng thủ là những ván bài có mạng lưới, dữ liệu hoặc quy trình làm việc không thể sao chép cục bộ. Những ván bài dễ bị tổn thương là những ván bài chỉ là "Claude với một lớp sơn mới."
Nếu bạn làm trong lĩnh vực bảo mật hoặc các ngành được quản lý: Câu chuyện về chủ quyền dữ liệu cho AI vừa trở nên mạnh mẽ hơn rất nhiều. Nói với ai đó "bạn không thể sử dụng AI cho công việc này vì nó gửi dữ liệu đến OpenAI" không còn là một ràng buộc khi một agent tương đương chạy hoàn toàn tại chỗ.
Bây giờ là phần mà hầu hết các bài đưa tin bỏ qua. Cách thực sự tự chạy nó.
Cách thực sự chạy nó (thiết lập hoàn chỉnh)
Bài blog của NVIDIA nói "Hãy truy cập kho GitHub, kết nối nó với một mô hình cục bộ, bạn có thể bắt đầu." Câu đó bỏ qua khoảng sáu quyết định thực tế và ba cạm bẫy tiềm ẩn. Đây là thiết lập thực tế, bằng tiếng Việt rõ ràng, với các lỗi thường gặp được chỉ ra.
Những gì bạn cần
Thực tế phần cứng trung thực trước khi bạn bắt đầu. Hermes có thể chạy với một API từ xa (Anthropic, OpenAI, OpenRouter, Nous Portal), nhưng điều đó làm mất đi phần lớn ý nghĩa. Đối với thiết lập chỉ cục bộ mà hướng dẫn này tập trung vào:
Phần cứng của bạn - Trải nghiệm thực tế
8GB RAM, đồ họa tích hợp - Sẽ gặp khó khăn. Thay vào đó hãy sử dụng API đám mây.
16GB RAM, GPU tầm trung (RTX 3060/4060) - Hoạt động với các mô hình nhỏ hơn. Chậm hơn nhưng có thể sử dụng được.
MacBook Pro M3/M4 với 32GB+ bộ nhớ hợp nhất - Chạy Qwen 3.6 27B mượt mà. Thực sự hiệu quả.
Desktop với RTX 3090/4090 - Điểm ngọt ngào. Chạy Qwen 3.6 35B với chất lượng gần bằng đám mây.
NVIDIA DGX Spark hoặc máy trạm RTX PRO - Thứ mà bài viết của NVIDIA đang bán. Quá mức cần thiết đối với hầu hết mọi người.
Sự thật trung thực: nếu bạn có thể chạy Qwen 3.6 27B hoặc lớn hơn cục bộ, bạn sẽ có trải nghiệm Hermes tuyệt vời. Nếu không, hãy sử dụng đường dẫn API đám mây (đơn giản hơn đáng kể). Hãy chuyển đến phần API đám mây ở cuối nếu đó là lựa chọn của bạn.
Bạn cũng cần:
- macOS, Linux, hoặc Windows 11 với WSL2 (Hermes yêu cầu môi trường Unix; người dùng Windows chạy nó bên trong WSL2)
- Ít nhất 20 GB dung lượng ổ đĩa trống cho mô hình
- 30 phút thời gian không bị gián đoạn
Bước 1. Cài đặt máy chủ mô hình cục bộ của bạn (15 phút)
Con đường ít kỹ thuật nhất là LM Studio. Con đường kỹ thuật nhất là Ollama. Cả hai đều hoạt động. Chọn một cái.
Lựa chọn A LM Studio (khuyến nghị cho người không phải nhà phát triển)
- Truy cập lmstudio.ai và tải xuống trình cài đặt cho hệ điều hành của bạn
- Cài đặt nó như bất kỳ ứng dụng nào khác
- Mở LM Studio và đi đến tab Khám phá
- Tìm kiếm Qwen 3.6 27B (hoặc 35B nếu phần cứng của bạn có thể xử lý)
- Chọn phiên bản lượng tử hóa Q4 - đó là điểm ngọt ngào giữa kích thước và chất lượng
- Nhấp Tải xuống. Chờ 10-15 phút
- Sau khi tải xuống, chuyển đến tab Nhà phát triển (được gọi là "Máy chủ cục bộ" trên các phiên bản cũ hơn)
- Nhấp Tải mô hình và chọn mô hình Qwen 3.6 bạn vừa tải xuống
- Quan trọng: trong cài đặt, bật "Phục vụ trên Mạng" (nếu không người dùng WSL2 không thể truy cập được)
- Nhấp Bắt đầu máy chủ - theo mặc định, nó chạy trên http://localhost:1234
Xác minh nó đang hoạt động: mở trình duyệt của bạn, truy cập http://localhost:1234/v1/models. Bạn sẽ thấy một phản hồi JSON liệt kê mô hình đã tải của bạn.
Lựa chọn B Ollama (khuyến nghị cho nhà phát triển)
- Truy cập ollama.com và tải xuống trình cài đặt
- Cài đặt
- Mở terminal và chạy:
1ollama pull qwen3.62ollama serve
- Điều này khởi động Ollama trên cổng 11434 và tải xuống mô hình Qwen 3.6
Cài đặt Ollama quan trọng khiến mọi người vấp ngã: Ollama mặc định có cửa sổ ngữ cảnh rất thấp (thường là 4K token). Hermes cần ít nhất 64K. Đặt điều này trước khi chạy:
1export OLLAMA_HOST=0.0.0.02ollama run qwen3.6 -c 65536
-c 65536 đặt ngữ cảnh thành 64K. Nếu không có điều này, Hermes sẽ từ chối mô hình khi khởi động vì lời nhắc hệ thống + lược đồ công cụ một mình đã lấp đầy cửa sổ nhỏ hơn.
Bước 2. Cài đặt Hermes Agent (5 phút)
Hermes cung cấp một tập lệnh cài đặt một dòng. Từ terminal của bạn:
1GitHub → NousResearch/hermes-agent → scripts/install.sh
Nếu bạn đang dùng Windows, hãy chạy lệnh này từ bên trong WSL2 (mở Ubuntu/Debian từ menu Bắt đầu của bạn trước).
Tập lệnh:
- Tải xuống CLI Hermes vào máy của bạn
- Thiết lập một thư mục dữ liệu cục bộ (thường là ~/.hermes/)
- Cài đặt các phụ thuộc cần thiết (Node.js, v.v.) nếu bạn chưa có
Khi nó hoàn tất, tải lại shell của bạn:
1source ~/.bashrc # hoặc ~/.zshrc, tùy thuộc vào shell của bạn
Xác minh cài đặt:
1hermes --version
Nếu bạn thấy số phiên bản, bạn đã ổn.
Bước 3. Kết nối Hermes với mô hình cục bộ của bạn (5 phút)
Đây là nơi nhiều hướng dẫn thiết lập nói chung chung. Đây là luồng chính xác.
Chạy:
1hermes model
Bạn sẽ thấy một menu các nhà cung cấp. Cuộn xuống cuối và chọn "Điểm cuối tùy chỉnh (tự lưu trữ / vLLM / v.v.)".
Sau đó:
- URL: Nếu bạn sử dụng LM Studio, hãy nhập http://localhost:1234/v1. Nếu bạn sử dụng Ollama, hãy nhập http://localhost:11434/v1
- Khóa API: Nhấn Enter để bỏ qua (máy chủ cục bộ không cần)
- Tên mô hình: LM Studio: tên tệp chính xác của mô hình bạn đã tải (xem trong tab "Mô hình của tôi" của LM Studio) Ollama: qwen3.6 (hoặc bất cứ thứ gì bạn đã kéo)
Vậy là xong. Hermes hiện đã được cấu hình để sử dụng mô hình cục bộ của bạn.
Quan trọng: yêu cầu về cửa sổ ngữ cảnh 64K
Hermes yêu cầu ít nhất 64K token ngữ cảnh. Điều này làm mọi người vấp ngã lần đầu tiên. Nếu bạn thấy lỗi khi khởi động như "Ngữ cảnh mô hình quá nhỏ", cách khắc phục nằm ở phía máy chủ mô hình, không phải phía Hermes:
- LM Studio: Khi tải mô hình, hãy mở rộng cài đặt nâng cao và đặt độ dài ngữ cảnh thành 65536+
- Ollama: Truyền -c 65536 khi chạy mô hình
- llama.cpp: Sử dụng -ctx-size 65536
Nếu không có điều này, không có gì khác sẽ hoạt động. Đừng bỏ qua nó.
Bước 4. Chạy phiên Hermes đầu tiên của bạn (5 phút)
Trong terminal của bạn:
1hermes
Điều này bắt đầu phiên Hermes tương tác. Lần đầu tiên bạn chạy nó, Hermes hỏi một vài câu hỏi giới thiệu - xác nhận lựa chọn mô hình của bạn, tùy chọn kết nối một cổng (Telegram, Discord, Slack, v.v.; bạn có thể bỏ qua ngay bây giờ), và bạn đã sẵn sàng.
Hãy thử một nhiệm vụ đầu tiên để kiểm tra khả năng thực tế của Hermes:
"Hãy nghiên cứu trạng thái hiện tại của các framework AI agent vào năm 2026, tập trung vào hệ sinh thái mã nguồn mở. Lưu những gì bạn học được dưới dạng một kỹ năng để chúng ta có thể xây dựng dựa trên nó vào lần sau."
Hãy xem điều gì xảy ra. Hermes sẽ:
- Phân rã câu hỏi thành các nhiệm vụ con
- Tạo ra các agent phụ để làm việc song song khi hữu ích
- Tìm kiếm trên web, đọc các nguồn, tổng hợp
- Đưa ra một phản hồi có cấu trúc
- Lưu quy trình cơ bản dưới dạng một kỹ năng trên ổ đĩa có thể thấy tại ~/.hermes/skills/
Bước cuối cùng đó là điều làm cho Hermes khác biệt so với một chatbot. Lần tới khi bạn yêu cầu Hermes thực hiện một nhiệm vụ nghiên cứu liên quan, nó sẽ tìm và tái sử dụng kỹ năng mà nó vừa tạo.
Gõ /exit khi bạn hoàn tất.
Bước 5. Xác minh điều kỳ diệu thực sự đã xảy ra
Đề xuất giá trị của Hermes là vòng lặp tự cải thiện. Xác minh nó đang hoạt động:
1ls ~/.hermes/skills/
Bạn sẽ thấy một hoặc nhiều tệp .md - đây là các quy trình đã học của Hermes. Mở một tệp trong bất kỳ trình soạn thảo văn bản nào. Bạn sẽ thấy một quy trình làm việc có cấu trúc với các bước, công cụ đã sử dụng và ghi chú về những gì đã hiệu quả.
Đây là tính năng sát thủ. Sau một tháng sử dụng, thư mục này sẽ có 20-50 kỹ năng, mỗi kỹ năng ghi lại cách Hermes học cách thực hiện một loại nhiệm vụ cụ thể cho bạn. Những kỹ năng đó làm cho mọi nhiệm vụ tiếp theo nhanh hơn và chính xác hơn.
"Mô hình ngày càng sâu sắc về bạn là ai" được đề cập trong bài viết của NVIDIA nằm trong ~/.hermes/memory/ - sở thích của bạn, dự án của bạn, các mẫu lặp lại của bạn. Hãy mở các tệp này nữa. Chúng là markdown đơn giản. Bạn có thể tự đọc và chỉnh sửa chúng nếu muốn.
Tùy chọn Kết nối một cổng
Tính năng ít được đề cập: Hermes có thể được truy cập từ các ứng dụng nhắn tin. Chạy:
1hermes gateway
Bạn sẽ thấy các tùy chọn cho Telegram, Discord, Slack, WhatsApp, Signal và email.
Dễ thiết lập nhất là Telegram:
- Trong Telegram, tìm kiếm @BotFather và tạo một bot mới. Nó sẽ cung cấp cho bạn một token.
- Dán token khi Hermes yêu cầu.
- Xong. Bây giờ bạn có thể nhắn tin cho bot của mình từ Telegram và Hermes sẽ trả lời - chạy cục bộ trên máy của bạn, sử dụng mô hình cục bộ của bạn.
Đây là khoảnh khắc việc thiết lập không còn giống như "một thứ CLI trên máy tính của tôi" và bắt đầu giống như "AI cá nhân của tôi." Bạn có thể nhắn tin cho nó từ điện thoại trong khi máy tính xách tay của bạn ở nhà làm việc.
Những gì có thể sai (5 vấn đề thiết lập phổ biến nhất)
Vấn đề 1: Lỗi "Ngữ cảnh mô hình quá nhỏ" khi khởi động. Khắc phục: Đặt ngữ cảnh thành ít nhất 64K trên máy chủ mô hình của bạn (xem Bước 3). Đây là lỗi phổ biến nhất.
Vấn đề 2: Hermes không thể kết nối với mô hình cục bộ của bạn. Khắc phục: Xác nhận máy chủ mô hình của bạn đang chạy và có thể truy cập được. Kiểm tra bằng curl <http://localhost:1234/v1/models> (LM Studio) hoặc curl <http://localhost:11434/v1/models> (Ollama). Nếu bạn nhận được JSON, máy chủ ổn - hãy kiểm tra lại cấu hình URL Hermes của bạn.
Vấn đề 3: WSL2 không thể truy cập máy chủ mô hình lưu trữ trên Windows. Khắc phục: Trên Windows 11 22H2+, bật chế độ mạng phản chiếu WSL2. Hoặc chạy máy chủ mô hình của bạn bên trong WSL2 thay vì trên máy chủ Windows.
Vấn đề 4: Hermes chậm. Khắc phục: Gần như chắc chắn là do mô hình, không phải Hermes. Hãy thử một mô hình nhỏ hơn (Qwen 3.6 8B thay vì 35B) hoặc lượng tử hóa mạnh hơn (Q4 thay vì Q6). Nếu bạn chỉ dùng CPU, hãy mong đợi sự chậm chạp - đây là khối lượng công việc cần GPU.
Vấn đề 5: Hermes "quên" mọi thứ giữa các phiên. Khắc phục: Kiểm tra xem ~/.hermes/ có thực sự có tệp trong đó không. Nếu nó trống, quá trình cài đặt của bạn đã không hoàn tất đúng cách. Chạy lại tập lệnh cài đặt.
Lối tắt API đám mây (nếu phần cứng của bạn không thể xử lý cục bộ)
Nếu máy của bạn thực sự không thể chạy mô hình 27B+ và bạn vẫn muốn thử Hermes:
- Bỏ qua các Bước 1, 3 và các ghi chú về "ngữ cảnh"
- Sau khi cài đặt Hermes (Bước 2), chạy hermes model
- Chọn một nhà cung cấp đám mây - OpenRouter, Nous Portal hoặc Anthropic là mượt mà nhất
- Thêm khóa API của bạn
- Phần còn lại của thiết lập tương tự - Hermes vẫn chạy cục bộ trên máy của bạn, nó chỉ gọi một mô hình đám mây để suy nghĩ
Điều này tốn phí theo token thay vì $0, nhưng nó mang lại cho bạn trải nghiệm agent (bộ nhớ, kỹ năng, tự cải thiện) trên phần cứng không thể chạy các mô hình cục bộ.
Những mối quan tâm trung thực
Ba điều cần suy nghĩ trước khi bạn cho rằng điều này thay đổi mọi thứ chỉ sau một đêm.
Tự cải thiện có các chế độ thất bại. Cùng một vòng lặp làm cho Hermes tốt hơn cũng có thể làm cho nó kỳ lạ hơn. Một agent tối ưu hóa các lời nhắc của chính nó có thể lặng lẽ đi chệch khỏi mục tiêu thực tế của bạn. Nous Research cung cấp các rào cản - kiểm tra hồi quy, cổng đánh giá, quy trình "chặn các đột biến xấu" - nhưng các rào cản đó yêu cầu bảo trì tích cực. Nếu bạn triển khai Hermes và ngừng theo dõi, bạn có thể không nhận thấy khi nó bắt đầu sai một cách tinh vi.
Bảo mật là một câu hỏi thực sự. Các agent tự viết kỹ năng, cài đặt máy chủ MCP và thực thi mã trên máy của bạn là một bề mặt tấn công mới. Đầu độc kỹ năng, tiêm lời nhắc thông qua nội dung tìm nạp, các công cụ độc hại - đây không phải là những mối quan tâm lý thuyết. Hãy đối xử với agent như phần mềm có thể thực thi, không phải một trợ lý thân thiện.
Câu chuyện về phần cứng vẫn còn thô ở các cạnh. DGX Spark là một sản phẩm thực tế, nhưng nó cũng đắt, hạn chế về nguồn cung, và hầu hết các nhà đánh giá vẫn chưa có cơ hội dùng thử. Câu chuyện Hermes-trên-máy tính-xách-tay ổn ngay hôm nay; câu chuyện Hermes-trên-DGX-Spark sẽ mất một quý để trưởng thành.
Không có điều nào trong số này làm suy yếu luận điểm lớn hơn. Chúng chỉ là các dấu hoa thị mà mọi học viên trung thực nên biết.
Những gì tôi thực sự sẽ làm vào cuối tuần này
Nếu bạn mới làm quen với Hermes và có phần cứng tốt, đây là con đường tôi sẽ đi:
- Cài đặt LM Studio + Qwen 3.6 27B 15 phút
- Cài đặt Hermes 5 phút
- Cấu hình Hermes cho LM Studio 5 phút
- Đặt cửa sổ ngữ cảnh thành 65536 (cạm bẫy) 1 phút
- Chạy nhiệm vụ đầu tiên của bạn 5 phút
- Sau đó bỏ qua mọi thứ khác trong một tuần. Sử dụng Hermes hàng ngày cho công việc thực tế. Xem thư mục kỹ năng lấp đầy.
Đừng cố gắng tối ưu hóa, tùy chỉnh hoặc thêm các cổng ngay. Toàn bộ điểm của Hermes là vòng lặp tự cải thiện - và điều đó chỉ kích hoạt nếu bạn thực sự sử dụng nó cho các nhiệm vụ thực tế theo thời gian. Hãy dành tuần đầu tiên để sử dụng nó, không phải tinh chỉnh nó.
Đến tuần thứ hai, bạn sẽ biết liệu đây có phải là framework agent thay đổi cách bạn làm việc hay không, hay phần cứng/trường hợp sử dụng của bạn không phù hợp. Cả hai kết quả đều là dữ liệu hữu ích.
Bức tranh lớn hơn
Trong hai năm, câu chuyện chủ đạo là: AI trở nên tốt hơn bằng cách trở nên lớn hơn, và lớn hơn có nghĩa là đám mây. Hàm ý là AI nghiêm túc sống ở một nơi khác, và công việc của bạn là gọi đến nó.
Hermes + Qwen 3.6 + DGX Spark là câu chuyện đối lập đáng tin cậy đầu tiên. AI nghiêm túc có thể sống trên bàn làm việc của bạn. Nó có thể tự cải thiện. Nó có thể chạy liên tục. Nó có thể biết những điều về bạn mà bạn sẽ không bao giờ đưa vào một hệ thống đám mây. Những sự đánh đổi từng khiến AI cục bộ trở thành một dự án sở thích - chậm hơn, kém thông minh hơn, rườm rà hơn - đang biến mất theo từng quý.
Điều này không giết chết AI đám mây. Các mô hình tiên phong sẽ tiếp tục sống trong các trung tâm dữ liệu. Việc suy luận khó khăn nhất vẫn sẽ xảy ra ở quy mô lớn. Nhưng đối với 80% công việc agent là theo mẫu, thực thi quy trình làm việc và duy trì ngữ cảnh - điều đó đang chuyển lên máy của bạn.
Điều đó có nghĩa là rất nhiều thứ thay đổi ở hạ nguồn. Hào cạnh tranh cho "SaaS hỗ trợ AI" trở nên mỏng hơn. Câu chuyện về chủ quyền dữ liệu cho doanh nghiệp trở nên dễ dàng hơn. Sàn quyền riêng tư cho cá nhân trở nên cao hơn. Chi phí chạy một agent đi từ "trên mỗi yêu cầu" đến "được khấu hao trên phần cứng bạn đã sở hữu."
Thông báo này là một điểm dữ liệu duy nhất. Nhưng quỹ đạo mà nó nằm trên là quỹ đạo quan trọng nhất trong AI agent ngay bây giờ - và hầu như không ai bên ngoài Hacker News đang đọc nó theo cách đó.
Đó là phần không ai nói với bạn.
Nếu điều này hữu ích - hãy theo dõi kênh telegram của tôi:
