Hermes Agent 가 로컬 AI 의 판도를 바꾸다: 직접 실행하는 방법

여기서 무엇이 바뀌었고, 왜 중요한지, 그리고 Hermes Agent 를 약 30분 만에 자신의 컴퓨터에서 실행하기 위한 완전한 단계별 가이드를 소개합니다.지난 5월, NVIDIA 는 더 많은 주목을 받아야 할 블로그 포스트를 게시했습니다.

헤드라인은 Hermes Agent 가 RTX PC 와 새로운 DGX Spark 워크스테이션에서 실행된다는 하드웨어 이야기입니다. 그 아래의 실제 이야기는 훨씬 더 큰 의미를 담고 있습니다.

세 가지 요소가 동시에 수렴하면서 가능성의 지형이 바뀌었습니다:

1. Hermes Agent (Nous Research) — 자신의 경험으로부터 스킬을 생성하고 개선하는 오픈소스 에이전트 프레임워크입니다. 3개월 만에 GitHub 스타 140,000 개를 돌파했습니다. OpenRouter 에 따르면 현재 세계에서 가장 많이 사용되는 에이전트입니다.
2. Qwen 3.6 (Alibaba) — 새로운 오픈 웨이트 모델로, 35B 버전은 작년 120B 모델을 능가하고, 27B 버전은 한때 400B 파라미터가 필요했던 수준에 도달합니다. 약 20GB 메모리에서 실행됩니다.
3. DGX Spark (NVIDIA) — 128GB 통합 메모리와 1페타플롭의 AI 성능을 갖춘 책상 크기의 워크스테이션입니다. 에이전트를 24시간 연속으로 로컬에서 실행하도록 설계되었습니다.

이 세 가지를 결합하면 여러분의 책상 위에 (데이터 센터가 아닌) 살아 숨쉬는 개인 AI 에이전트가 생깁니다. 연속적으로 실행되며 (세션 단위가 아닌), 여러분의 워크플로에서 학습하고 역량을 축적하며, 데이터를 외부로 전송하지 않으며, 하드웨어 이후에는 월 $0 정도의 비용으로 운영됩니다.

"AI 가 어디로 가고 있는가"에 대한 논의는 대개 답이 클라우드라고 가정합니다. 이번 발표는 "사실, 아닐 수도 있다"는 최초의 신뢰할 만한 대답입니다.

이 글은 두 가지를 다룹니다: (1) Hermes 가 구체적으로 왜 중요한지, 여러분이 들어본 다른 모든 에이전트 프레임워크와 구조적으로 무엇이 다른지, 그리고 (2) 자신의 머신에서 약 30분 만에 실행하기 위한 완전하고 현재 시점의 단계별 가이드입니다.

설정 단계만 원한다면 "실제로 실행하는 방법" 섹션으로 바로 건너뛰세요. 왜 먼저 알고 싶다면 — 설정을 할 가치가 있게 만드는 부분 — 계속 읽어보세요.

Hermes 가 실제로 하는 일 (중요한 부분)

여러분이 들어본 대부분의 "AI 에이전트"는 LLM 호출을 감싼 래퍼에 불과합니다. 작업을 주면 수행하고, 다른 작업을 주면 처음부터 다시 시작합니다. 어제 잘 통했던 것을 잊어버립니다. 더 나아지지 않습니다. 유용하기는 하지만, 진정한 의미의 에이전트라기보다는 성격이 부여된 함수에 가깝습니다.

Hermes 는 구체적이고 기술적인 방식에서 다릅니다: 자신만의 스킬을 작성합니다.

Hermes 가 복잡한 작업(예: "5개 경쟁사 조사하고 비교 자료 만들기")을 완료하면 단순히 결과물을 건네주지 않습니다. 그 절차를 디스크에 스킬 파일로 저장합니다. 다음에 비슷한 요청을 하면 처음부터 시작하지 않습니다. 자신의 스킬을 열어 실행하고, 무엇이 잘 통했고 무엇이 안 통했는지에 따라 개선합니다.

이는 마케팅 주장이 아닙니다. Nous Research 는 DSPy + GEPA (Genetic-Pareto Prompt Evolution) 를 사용하여 Hermes 자신의 스킬, 도구 설명, 시스템 프롬프트를 자동으로 최적화하는 인프라를 제공합니다. 변이가 평가되고, 최고의 변이가 승격됩니다. 개선은 측정 가능합니다.

독립적인 벤치마크가 이를 뒷받침합니다: 20개 이상의 자체 생성 스킬로 실행되는 Hermes 에이전트는 유사한 미래 작업을 신규 인스턴스보다 약 40% 더 빠르게 완료합니다. 이는 "출력이 40% 더 좋다"는 뜻이 아닙니다. "동일한 결과를 얻는 데 시간과 토큰이 40% 적게 든다"는 뜻입니다.

아키텍처의 핵심 단어는 지속성입니다. Hermes 는 노트북, 서버, DGX Spark 에서 연속적으로 실행되며 메모리와 스킬이 축적됩니다. 한 달 사용 후, 여러분의 Hermes 는 다른 사람의 것과 완전히 달라집니다. 여러분의 코드베이스를 알고, 여러분의 관례를 알고, 여러분이 설명을 어떻게 선호하는지 압니다.

시각적으로 그 차이는 이렇습니다:

위: 일반적인 챗봇은 세션 간에 모든 것을 잃습니다. 아래: Hermes 는 경험에서 스킬을 작성하고 여러분의 패턴에 대한 기억을 구축합니다. 역량이 복리로 증가합니다.

또한 언급할 가치가 있는 메모리 아키텍처가 있습니다: Hermes 는 3계층 시스템을 사용합니다. 영구 노트 (여러분의 선호도, 프로젝트 관례, 업무 관계자 정보), 검색 가능한 세션 기록 (발생한 모든 일, 검색을 위해 인덱싱됨), 그리고 절차적 스킬 (실제로 학습된 워크플로)입니다. 이 3계층 모델은 다른 프레임워크들이 2년 동안 구현하려고 애쓰던 것입니다. Hermes 는 작동하는 모델을 출시했습니다.

Hermes 의 구조

아키텍처를 한눈에 보여주는 그림입니다:

여러분은 CLI 또는 메시징 게이트웨이를 통해 Hermes 와 대화합니다. Hermes 는 작업 계획, 도구 호출, 스킬 작성을 오케스트레이션하고 추론을 위해 로컬 모델 서버를 호출합니다. 모든 것은 디스크의 ~/.hermes/ 에 저장됩니다.

다이어그램에서 주목할 세 가지:

첫째: 로컬 모델 서버는 Hermes 자체와 별개입니다. Hermes 는 오케스트레이션 계층(플래너, 도구 실행기, 스킬 작성기)입니다. 모델(권장 설정에서는 Qwen 3.6)이 실제 사고를 담당합니다. 이들은 localhost 에서 OpenAI 호환 API를 통해 연결됩니다.

둘째: 스킬과 메모리는 ~/.hermes/ 에 저장됩니다. 디스크 상의 일반 마크다운 파일입니다. 읽고, 편집하고, 백업할 수 있습니다. Anthropic, OpenAI 또는 다른 회사가 내일 약관을 변경해도 아무것도 변하지 않습니다 — 여러분의 소유입니다.

셋째: 게이트웨이는 선택 사항이지만 변혁적입니다. Hermes 를 Telegram 또는 Slack 에 연결하면, 더 이상 "내 노트북의 CLI 도구"로 생각하지 않고 "어디서나 문자를 보낼 수 있는 나만의 개인 AI"로 생각하기 시작합니다.

Qwen 3.6 이 이것을 가능하게 한 이유

발표에서 놓치는 부분이 있습니다: Hermes 는 모델에 구애받지 않습니다. GPT, Claude 또는 모든 로컬 모델을 지정할 수 있습니다. 하지만 NVIDIA 의 블로그 포스트가 특히 Qwen 3.6 과 짝을 이루는 데는 이유가 있습니다.

아주 최근까지, 로컬에서 진지한 에이전틱 워크플로를 실행하려면 다음 두 가지 타협 중 하나를 받아들여야 했습니다:

• 작고 빠른 모델을 사용하고 에이전트가 다단계 작업에서 실수하는 것을 지켜보기
• 크고 똑똑한 모델을 사용하고 한 번의 추론 주기에 90초가 걸리는 것을 감수하기

Qwen 3.6 이 계산을 바꿨습니다. 35B 모델은 이전 세대 120B 파라미터 모델을 메모리 공간의 약 1/3로 능가합니다. 27B 밀집 모델은 예전 400B 파라미터 모델의 정확도와 일치합니다. 불과 1년 만에 지능 단위당 효율성이 16배 향상된 것입니다.

실제 의미: 계획, 작업 분해, 자체 스킬 작성, 자체 수정이 가능할 정도로 똑똑한 모델이 이제 20GB 메모리에 들어갑니다. 고급 소비자 GPU입니다. 또한 단일 DGX Spark 가 에이전트 자체를 위한 여유 공간까지 포함하여 편안하게 수용하는 크기이기도 합니다.

바로 이 간극이 메워졌습니다. 작년에는 "자기 개선 로컬 에이전트"에 데이터 센터 하드웨어가 필요했습니다. 올해는 그렇지 않습니다.

일반 사용자에게 의미하는 바

이 발표에 대한 대부분의 보도는 엔터프라이즈 뉴스로 취급하고 있습니다. 하지만 그렇지 않습니다. 이는 소비자 인프라 뉴스입니다. 여러분이 누구인지에 따라 의미하는 바를 알려드립니다.

지식 근로자라면: 12개월 안에 클라우드 에이전트 서비스(월 $30?)에 가입할 것인지, 자신의 하드웨어에서 유사한 로컬 에이전트(설정 후 지속 비용 $0)를 실행할 것인지 선택하게 될 것입니다. 컨설팅, 헬스케어, 금융, 법률 등 프라이버시에 민감한 작업의 경우, 이것이 분명한 선택이 되고 있습니다.

개발자라면: Hermes 는 MIT 라이선스의 오픈소스입니다. 지금 여러분의 기존 노트북에 설치하고 LM Studio 또는 Ollama 에서 Qwen 3.6 을 실행하여 함께 사용할 수 있습니다. DGX Spark 는 필요하지 않습니다. 하드웨어 문제는 삶의 질에 관한 것이지, 역량에 관한 것이 아닙니다. 가지고 있는 것으로 시작하세요.

창업자나 운영자라면: 이는 전체 SaaS 에이전트 시장에 압력을 가합니다. 월 $20 에 "AI 기반 X"를 판매하는 도구들은 이제 동일한 작업을 무료로 수행하는 로컬 에이전트와 경쟁해야 합니다. 방어 가능한 SaaS 플레이는 네트워크, 데이터, 또는 로컬로 복제할 수 없는 워크플로를 가진 것들입니다. 취약한 것은 단지 "Claude 에 페인트칠만 한" 것들입니다.

보안 또는 규제 산업에 종사한다면: AI 에 대한 데이터 주권 이야기가 훨씬 강력해졌습니다. "이 작업에 AI 를 사용할 수 없습니다. 데이터가 OpenAI 로 전송되기 때문입니다"라고 말하는 것은, 유사한 에이전트가 완전히 온프레미스에서 실행될 때 더 이상 제약이 되지 않습니다.

이제 대부분의 보도가 생략하는 부분으로 넘어갑니다. 실제로 직접 실행하는 방법입니다.

실제로 실행하는 방법 (전체 설정)

NVIDIA 의 블로그 포스트는 "GitHub 저장소를 방문하여 로컬 모델과 연결하면 됩니다"라고 말합니다. 그 문장은 약 6개의 실제 결정과 3개의 잠재적 함정을 건너뜁니다. 여기 실제 설정을 평범한 영어로, 함정을 지적하며 제시합니다.

필요한 것

시작하기 전에 솔직한 하드웨어 현실을 알려드립니다. Hermes 는 원격 API(Anthropic, OpenAI, OpenRouter, Nous Portal)로 실행할 수 있지만, 그러면 대부분의 요점이 사라집니다. 이 가이드가 초점을 맞추는 로컬 전용 설정의 경우:

여러분의 하드웨어 - 실제 경험

8GB RAM, 내장 그래픽 - 어려움을 겪을 것입니다. 대신 클라우드 API를 사용하세요.

16GB RAM, 중간급 GPU (RTX 3060/4060) - 더 작은 모델에서 작동합니다. 느리지만 사용 가능합니다.

MacBook Pro M3/M4, 32GB+ 통합 메모리 - Qwen 3.6 27B 를 부드럽게 실행합니다. 진정으로 생산적입니다.

데스크탑, RTX 3090/4090 - 최적의 지점. Qwen 3.6 35B 를 클라우드에 가까운 품질로 실행합니다.

NVIDIA DGX Spark 또는 RTX PRO 워크스테이션 - NVIDIA 포스트가 판매하는 것. 대부분에게 과잉입니다.

솔직한 기준: Qwen 3.6 27B 이상을 로컬에서 실행할 수 있다면 훌륭한 Hermes 경험을 할 수 있습니다. 그렇지 않다면 클라우드 API 경로(훨씬 간단함)를 사용하세요. 해당 경로라면 끝에 있는 클라우드 API 섹션으로 건너뛰세요.

또한 필요한 것:

• macOS, Linux, 또는 WSL2 가 있는 Windows 11 (Hermes 는 Unix 환경이 필요합니다. Windows 사용자는 WSL2 내에서 실행하세요)
• 모델을 위한 최소 20GB 의 여유 디스크 공간
• 방해받지 않는 30분

1단계: 로컬 모델 서버 설치 (15분)

가장 비기술적인 경로는 LM Studio 입니다. 가장 기술적인 경로는 Ollama 입니다. 둘 다 작동합니다. 하나를 선택하세요.

옵션 A: LM Studio (비개발자 권장)

1. lmstudio.ai 로 이동하여 OS용 설치 프로그램을 다운로드합니다.
2. 다른 앱처럼 설치합니다.
3. LM Studio 를 열고 Discover 탭으로 이동합니다.
4. Qwen 3.6 27B (또는 하드웨어가 처리할 수 있다면 35B)를 검색합니다.
5. Q4 양자화 버전을 선택합니다. 크기와 품질의 최적점입니다.
6. 다운로드를 클릭합니다. 10-15분 기다립니다.
7. 다운로드가 완료되면 Developer 탭(이전 버전에서는 "Local Server")으로 전환합니다.
8. Load Model을 클릭하고 방금 다운로드한 Qwen 3.6 모델을 선택합니다.
9. 중요: 설정에서 "서버 네트워크 활성화"(Serve on Network)를 켜십시오. 그렇지 않으면 WSL2 사용자가 접근할 수 없습니다.
10. Start Server를 클릭합니다. 기본적으로 http://localhost:1234 에서 실행됩니다.

작동하는지 확인: 브라우저를 열고 http://localhost:1234/v1/models 로 이동합니다. 로드된 모델을 나열하는 JSON 응답이 보여야 합니다.

옵션 B: Ollama (개발자 권장)

1. ollama.com 으로 이동하여 설치 프로그램을 다운로드합니다.
2. 설치합니다.
3. 터미널을 열고 다음을 실행합니다:

1ollama pull qwen3.6
2ollama serve

1. 그러면 Ollama 가 포트 11434 에서 시작되고 Qwen 3.6 모델이 다운로드됩니다.

모든 사람을 곤란하게 만드는 중요한 Ollama 설정: Ollama 는 기본적으로 매우 낮은 컨텍스트 윈도우(종종 4K 토큰)로 설정됩니다. Hermes 는 최소 64K 가 필요합니다. 실행 전에 다음을 설정하세요:

1export OLLAMA_HOST=0.0.0.0
2ollama run qwen3.6 -c 65536

-c 65536 은 컨텍스트를 64K 로 설정합니다. 이 설정이 없으면 Hermes 는 시작 시 모델을 거부합니다. 시스템 프롬프트와 도구 스키마만으로도 더 작은 윈도우를 채우기 때문입니다.

2단계: Hermes Agent 설치 (5분)

Hermes 는 한 줄 설치 스크립트를 제공합니다. 터미널에서:

1GitHub → NousResearch/hermes-agent → scripts/install.sh

Windows 사용자라면 WSL2 내에서 실행하세요 (시작 메뉴에서 Ubuntu/Debian 을 먼저 엽니다).

스크립트는:

• Hermes CLI 를 머신에 다운로드합니다.
• 로컬 데이터 디렉토리(일반적으로 ~/.hermes/)를 설정합니다.
• 필요한 종속성(Node.js 등)이 없으면 설치합니다.

완료되면 쉘을 다시 로드하세요:

1source ~/.bashrc   # 또는 ~/.zshrc, 쉘에 따라 다름

설치 확인:

1hermes --version

버전 번호가 보이면 성공입니다.

3단계: Hermes 를 로컬 모델에 연결 (5분)

여기서 많은 설정 가이드가 대충 넘어갑니다. 정확한 흐름은 다음과 같습니다.

실행:

1hermes model

공급자 메뉴가 나타납니다. 맨 아래로 스크롤하여 "Custom endpoint (self-hosted / vLLM / etc.)"를 선택합니다.

그 다음:

• URL: LM Studio 를 사용했다면 http://localhost:1234/v1 을 입력합니다. Ollama 를 사용했다면 http://localhost:11434/v1 을 입력합니다.
• API Key: Enter 키를 눌러 건너뜁니다 (로컬 서버는 필요 없음).
• Model name: LM Studio: 로드한 모델의 정확한 파일 이름 (LM Studio 의 "My Models" 탭에서 확인). Ollama: qwen3.6 (또는 가져온 이름).

끝입니다. 이제 Hermes 가 로컬 모델을 사용하도록 설정되었습니다.

중요: 64K 컨텍스트 윈도우 요구사항

Hermes 는 최소 64K 토큰의 컨텍스트가 필요합니다. 이것이 모든 사람을 처음에 걸리게 합니다. 시작 시 "Model context too small" 오류가 발생하면, 수정은 Hermes 쪽이 아닌 모델 서버 쪽에서 이루어집니다:

• LM Studio: 모델을 로드할 때 고급 설정을 확장하고 컨텍스트 길이를 65536+ 로 설정합니다.
• Ollama: 모델 실행 시 -c 65536 을 전달합니다.
• llama.cpp: -ctx-size 65536 을 사용합니다.

이 설정 없이는 아무것도 작동하지 않습니다. 건너뛰지 마세요.

4단계: 첫 번째 Hermes 세션 실행 (5분)

터미널에서:

1hermes

이것으로 대화형 Hermes 세션이 시작됩니다. 처음 실행하면 Hermes 가 몇 가지 온보딩 질문을 합니다 — 모델 선택을 확인하고, 선택적으로 게이트웨이(Telegram, Discord, Slack 등; 지금은 건너뛸 수 있음)를 연결하고, 준비가 됩니다.

Hermes 의 실제 능력을 시험하는 첫 번째 작업을 시도해보세요:

"2026년 에이전틱 AI 프레임워크의 현재 상태를 조사해 주세요. 오픈소스 생태계에 초점을 맞춰 주세요. 배운 내용을 스킬로 저장해서 다음 번에 활용할 수 있게 해 주세요."

무슨 일이 일어나는지 지켜보세요. Hermes 는:

1. 질문을 하위 작업으로 분해합니다.
2. 유용한 곳에 병렬 작업을 위한 하위 에이전트를 생성합니다.
3. 웹을 검색하고, 출처를 읽고, 종합합니다.
4. 구조화된 응답을 생성합니다.
5. 기본 절차를 디스크에 스킬로 저장합니다 (~/.hermes/skills/ 에서 확인 가능).

마지막 단계가 Hermes 를 챗봇과 다르게 만드는 것입니다. 다음에 관련 연구 작업을 요청하면 Hermes 가 방금 생성한 스킬을 찾아 재사용합니다.

작업이 끝나면 /exit 를 입력하세요.

5단계: 실제로 마법이 일어났는지 확인

Hermes 의 가치 제안은 자기 개선 루프입니다. 작동하는지 확인하세요:

1ls ~/.hermes/skills/

하나 이상의 .md 파일이 보여야 합니다 — 이들은 Hermes 가 학습한 절차입니다. 아무 텍스트 편집기에서 하나를 열어보세요. 단계, 사용된 도구, 무엇이 잘 통했는지에 대한 메모가 포함된 구조화된 워크플로를 볼 수 있습니다.

이것이 핵심 기능입니다. 한 달 사용 후, 이 디렉토리에는 20-50 개의 스킬이 있을 것이며, 각각은 Hermes 가 특정 유형의 작업을 수행하는 방법을 학습한 내용을 담고 있습니다. 이 스킬들은 이후의 모든 작업을 더 빠르고 정확하게 만듭니다.

NVIDIA 포스트에서 언급된 "사용자에 대한 심화 모델"은 ~/.hermes/memory/ 에 저장됩니다 — 여러분의 선호도, 프로젝트, 반복 패턴입니다. 이 파일들도 열어보세요. 일반 마크다운입니다. 필요하면 직접 읽고 편집할 수 있습니다.

선택 사항: 게이트웨이 연결

잘 알려지지 않은 기능: Hermes 는 메시징 앱에서 접근할 수 있습니다. 실행:

1hermes gateway

Telegram, Discord, Slack, WhatsApp, Signal, 이메일 옵션이 표시됩니다.

설정이 가장 쉬운 것은 Telegram 입니다:

1. Telegram 에서 @BotFather 를 검색하여 새 봇을 만듭니다. 봇이 토큰을 제공합니다.
2. Hermes 가 요청할 때 토큰을 붙여넣습니다.
3. 완료. 이제 Telegram 에서 봇에 메시지를 보내면 Hermes 가 응답합니다. 로컬 머신에서 로컬 모델을 사용하여 실행됩니다.

이 순간이 설정이 "내 컴퓨터의 CLI 도구"에서 "내 개인 AI"로 느껴지기 시작하는 순간입니다. 노트북이 집에서 작업을 하는 동안 휴대폰으로 문자를 보낼 수 있습니다.

무엇이 잘못될 수 있는가 (가장 흔한 설정 문제 5가지)

문제 1: 시작 시 "Model context too small" 오류. 해결책: 모델 서버에서 컨텍스트를 최소 64K 로 설정하세요 (3단계 참조). 이것이 가장 흔한 실패입니다.

문제 2: Hermes 가 로컬 모델에 연결할 수 없습니다. 해결책: 모델 서버가 실행 중이고 접근 가능한지 확인하세요. curl <http://localhost:1234/v1/models> (LM Studio) 또는 curl <http://localhost:11434/v1/models> (Ollama) 로 테스트하세요. JSON 이 반환되면 서버는 정상입니다 — Hermes URL 설정을 다시 확인하세요.

문제 3: WSL2 가 Windows 호스트 모델 서버에 접근할 수 없습니다. 해결책: Windows 11 22H2+ 에서 WSL2 미러링 네트워킹 모드를 활성화하세요. 또는 Windows 호스트 대신 WSL2 내에서 모델 서버를 실행하세요.

문제 4: Hermes 가 느립니다. 해결책: 거의 확실히 모델 문제이지 Hermes 문제가 아닙니다. 더 작은 모델(Qwen 3.6 8B, 35B 대신)이나 더 공격적인 양자화(Q6 대신 Q4)를 시도해보세요. CPU 전용이라면 속도가 느릴 것으로 예상하세요 — 이 작업은 GPU를 필요로 합니다.

문제 5: Hermes 가 세션 사이에 "잊어버립니다". 해결책: ~/.hermes/ 에 실제로 파일이 있는지 확인하세요. 비어 있다면 설치가 제대로 완료되지 않은 것입니다. 설치 스크립트를 다시 실행하세요.

클라우드 API 바로가기 (하드웨어가 로컬 실행을 감당할 수 없는 경우)

머신이 정말로 27B+ 모델을 실행할 수 없고 여전히 Hermes 를 시험해보고 싶다면:

1. 1단계, 3단계 및 "컨텍스트" 관련 내용을 건너뜁니다.
2. Hermes 설치(2단계) 후, hermes model 을 실행합니다.
3. 클라우드 제공자(OpenRouter, Nous Portal, 또는 Anthropic 이 가장 매끄러움)를 선택합니다.
4. API 키를 추가합니다.
5. 나머지 설정은 동일합니다. Hermes 는 여전히 로컬 머신에서 실행되며, 사고를 위해 클라우드 모델을 호출합니다.

이 방식은 토큰당 비용이 들며(무료가 아님), 로컬에서 모델을 실행할 수 없는 하드웨어에서도 에이전트 경험(메모리, 스킬, 자기 개선)을 얻을 수 있습니다.

솔직한 우려사항

이 모든 것이 하룻밤 사이에 바뀔 것이라고 가정하기 전에 생각해볼 세 가지가 있습니다.

자기 개선에는 실패 모드가 있습니다. Hermes 를 더 낫게 만드는 동일한 루프가 더 이상하게 만들 수도 있습니다. 자신의 프롬프트를 최적화하는 에이전트는 조용히 실제 목표에서 벗어날 수 있습니다. Nous Research 는 안전장치(회귀 테스트, 평가 게이트, "잘못된 변이 차단" 워크플로)를 제공하지만, 이러한 안전장치는 적극적인 유지보수가 필요합니다. Hermes 를 배포한 후 관찰을 중단하면, 조용히 잘못되기 시작해도 알아차리지 못할 수 있습니다.

보안은 실제 질문입니다. 자신의 스킬을 작성하고, MCP 서버를 설치하고, 머신에서 코드를 실행하는 에이전트는 새로운 공격 표면입니다. 스킬 중독, 가져온 콘텐츠를 통한 프롬프트 인젝션, 악성 도구 — 이는 이론적 우려가 아닙니다. 에이전트를 친근한 조수가 아닌 실행 가능한 소프트웨어로 취급하세요.

하드웨어 이야기는 아직 모서리가 거칩니다. DGX Spark 는 실제 제품이지만, 비싸고 공급이 제한적이며 대부분의 리뷰어가 아직 직접 사용해보지 못했습니다. 노트북에서의 Hermes 이야기는 오늘날 괜찮습니다. DGX Spark에서의 Hermes 이야기는 분기 정도 성숙하는 데 시간이 걸릴 것입니다.

이 중 어느 것도 더 큰 명제를 훼손하지는 않습니다. 이것들은 모든 정직한 실무자가 알아야 할 별표일 뿐입니다.

이번 주말에 실제로 할 일

Hermes 가 처음이고 괜찮은 하드웨어가 있다면, 제가 추천하는 경로는 다음과 같습니다:

1. LM Studio + Qwen 3.6 27B 설치 — 15분
2. Hermes 설치 — 5분
3. LM Studio 용 Hermes 설정 — 5분
4. 컨텍스트 윈도우를 65536 으로 설정 (함정) — 1분
5. 첫 번째 작업 실행 — 5분
6. 그런 다음 일주일 동안 다른 것은 무시하세요. Hermes 를 실제 작업에 매일 사용하세요. skills 디렉토리가 채워지는 것을 지켜보세요.

아직 최적화, 사용자 정의 또는 게이트웨이 추가를 시도하지 마세요. Hermes 의 핵심은 자기 개선 루프이며, 이는 실제 작업에 시간을 들여 사용해야만 활성화됩니다. 첫 주는 튜닝이 아닌 사용에 집중하세요.

2주차가 되면, 이것이 작업 방식을 바꾸는 에이전트 프레임워크인지, 아니면 여러분의 하드웨어/사용 사례가 적합하지 않은지 알게 될 것입니다. 두 결과 모두 유용한 데이터입니다.

더 큰 그림

2년 동안 지배적인 내러티브는 다음과 같았습니다: AI 는 더 커짐으로써 더 나아지고, 더 크다는 것은 클라우드를 의미한다. 그 함의는 진지한 AI 는 다른 곳에 존재하며, 여러분의 역할은 그것을 호출하는 것이라는 것입니다.

Hermes + Qwen 3.6 + DGX Spark 는 최초의 신뢰할 수 있는 반대 내러티브입니다. 진지한 AI 는 여러분의 책상 위에 존재할 수 있습니다. 스스로 개선할 수 있습니다. 연속적으로 실행될 수 있습니다. 여러분에 대해 클라우드 시스템에 절대 넣지 않을 것들을 알 수 있습니다. 한때 로컬 AI 를 취미 프로젝트(더 느리고, 더 멍청하고, 더 까다롭게)로 만들었던 타협들이 분기마다 사라지고 있습니다.

이것이 클라우드 AI 를 죽이지는 않습니다. 최첨단 모델은 계속 데이터 센터에 있을 것입니다. 가장 어려운 추론은 여전히 대규모로 일어날 것입니다. 그러나 에이전틱 작업의 80%인 패턴 추종, 워크플로 실행, 컨텍스트 유지는 여러분의 머신으로 이동하고 있습니다.

이는 하류에 많은 것을 변화시킨다는 의미입니다. "AI 기반 SaaS"의 경쟁력 있는 해자는 얇아집니다. 엔터프라이즈의 데이터 주권 이야기는 더 쉬워집니다. 개인의 프라이버시 기준은 높아집니다. 에이전트 운영 비용은 "요청당"에서 "이미 소유한 하드웨어에 분할 상각"으로 바뀝니다.

이번 발표는 하나의 데이터 포인트입니다. 그러나 그것이 놓인 궤적은 현재 에이전틱 AI 에서 가장 중요하며, Hacker News 외부에서는 거의 아무도 그렇게 읽고 있지 않습니다.

그것이 아무도 말해주지 않는 부분입니다.

도움이 되셨다면 제 텔레그램 채널을 팔로우하세요:

https://t.me/+ygATQAt9sUM1N2U6**