128 GB de memoria unificada. Hasta 96 GB para la GPU. Hermes Agent apuntando a localhost en lugar de servidores ajenos
«Todo el mundo dice que los agentes locales son gratuitos. No creo que esa sea la forma correcta de verlo». Ejecutar Hermes Agent en modelos en la nube costaba entre 10 y 20 dólares al día en créditos, además del riesgo de privacidad de enrutar claves API, datos de clientes y flujos de trabajo empresariales a través de servidores de terceros. La solución es poner el agente y el modelo al que llama en hardware que poseas, funcionando 24/7, para que todo se convierta en infraestructura en lugar de una factura recurrente.
Este es un registro de construcción, no una comparación: Minisforum MS-S1 MAX como máquina siempre encendida, Hermes Agent como capa de flujo de trabajo sobre ella. Juntos forman un equipo que se coloca en un armario, permanece encendido permanentemente y maneja tareas empresariales reales: redactar contenido, realizar investigaciones, ejecutar llamadas a herramientas, gestionar subagentes, sin coste por token en la nube ni que los datos salgan de la red. A continuación: lo que hay dentro del MS-S1 MAX, cómo configurarlo, los números de rendimiento reales y cómo conectar Hermes Agent sobre él como una pila de automatización empresarial funcional.
El Hardware: Lo Que Hay Dentro del MS-S1 MAX
El MS-S1 MAX está construido sobre la plataforma AMD Strix Halo, actualmente el silicio para mini-PC más capaz para ejecutar modelos de lenguaje grandes de forma local, porque combina una CPU potente con la GPU integrada más grande que AMD ha lanzado para este factor de forma. Esa es la diferencia entre una máquina que solo puede manejar chats simples y una que puede ejecutar un bucle de agente real con llamadas a herramientas, subagentes y contexto largo por sí misma.
Especificaciones del SoC (AMD Ryzen AI Max+ 395, 4nm Strix Halo, 45-120W TDP):
1ComponentSpecCPU16 cores / 32 threads, Zen 5, 3.0 GHz base – 5.1 GHz boost, 64MB L3 cacheGraphicsRadeon 8060S, 40 CU RDNA 3.5, 2.9 GHz, system-shared VRAMNPUXDNA, 50 TOPSPCIeGen 4, 16 lanesRAMLPDDR5X, 8000 MT/s, up to 128GB, quad channel, 256GB/s bandwidth
La iGPU de 40 CU / 2560 unidades de sombreado es aproximadamente comparable a una RX 7600 XT discreta en rendimiento bruto, integrada en un mini-PC lo suficientemente pequeño como para dejarlo funcionando en una estantería 24/7.
Por qué la iGPU rinde más aquí que en portátiles: la 8060S normalmente está limitada a unos 55W en chasis de portátil. El sistema de refrigeración más grande del MS-S1 MAX (6 heatpipes, dobles ventiladores) permite a Minisforum elevar el límite de potencia a 120W en modo rendimiento, con frecuencias sostenidas correspondientemente más altas, algo importante para una máquina diseñada para ejecutar inferencia de forma continua, no en ráfagas cortas.
El truco de la RAM que hace posible el flujo de trabajo empresarial: el MS-S1 MAX viene con 128 GB de LPDDR5X soldada, unificada y de cuatro canales. El controlador AMDGPU puede asignar RAM del sistema como VRAM a través de la GTT (Tabla de Traducción de Gráficos), y en esta máquina la iGPU puede reclamar hasta 96 GB de ese grupo, dejando 32 GB para la CPU. Ese techo de 96 GB significa que esta única máquina puede alojar un modelo verdaderamente capaz y hacerlo mientras ejecuta el proceso del agente, el panel de control y otros servicios siempre activos en el mismo equipo.
Configuración de la Capa del Modelo (llama.cpp en Strix Halo)
para mantener contenedores Toolbox preconstruidos para llama.cpp en Strix Halo, en varios backends: vulkan-amdvlk, vulkan-radv, rocm-6.4.4, rocm-6.4.4-rocwmma, rocm-7rc-rocwmma. Están construidos principalmente para el HP G1a Mini (el mismo chip Strix Halo), pero funcionan en la mayoría de máquinas Strix Halo, incluido el MS-S1 MAX. El backend vulkan-radv ha sido el más estable en las pruebas y carga los modelos más grandes sin problemas.
BIOS/UEFI: establece la asignación mínima de VRAM en 1 GB (el mínimo de la BIOS de Minisforum) para que el controlador AMDGPU pueda asignar libremente RAM del sistema como VRAM a través de GTT.
Parámetros del kernel (probados en Arch Linux, pero cualquier distribución reciente con soporte de kernel para Strix Halo debería funcionar) para maximizar la asignación de VRAM y reducir la latencia:
amd_iommu=off amdgpu.gttsize=131072 amdttm.pages_limit=33554432 amdttm.page_pool_size=15728640
Crear el toolbox con paso de GPU:
toolbox create llama-vulkan-radv
--image docker.io/kyuz0/amd-strix-halo-toolboxes:vulkan-radv
-- --device /dev/dri --group-add video --security-opt seccomp=unconfined
Entrar en él:
toolbox enter llama-vulkan-radv
Dentro, llama-cli y llama-server están listos para ejecutar modelos. Fuerza todas las capas a la GPU para que la CPU quede libre para todo lo demás (el proceso del agente, Tailscale, paneles de control):
1# Terminal only2llama-cli --no-mmap -ngl 999 --flash-attn on -m <model>34# Web server UI — this is what Hermes Agent will point at5llama-server --no-mmap -ngl 999 --flash-attn on --host <ip_address> --port <port_number> -m <model>
Los modelos utilizados aquí provienen de Unsloth en Hugging Face, en formato GGUF.
Cambiar entre modelos: llama-swap facilita intercambiar qué modelo está sirviendo al agente sin necesidad de reiniciar nada manualmente: descarga el binario de Linux, haz chmod +x y define un archivo config.yaml.
1models:2 "OpenAI-20B-GPT-OOS":3 cmd: |4 llama-server --no-mmap -ngl 999 --flash-attn on --port ${PORT} -m /models/gpt-oss-20b-GGUF/gpt-oss-20b-F16.gguf -c 400005 "gemma-3-27b-it-abliterated":6 cmd: |7 llama-server --no-mmap -ngl 999 --flash-attn on --port ${PORT} -m /models/gemma-3-27b-it-abliterated-GGUF/gemma-3-27b-it-abliterated.q6_k.gguf -c 400008 "OpenAI-20B-NEO-CODEPlus":9 cmd: |10 llama-server --no-mmap -ngl 999 --flash-attn on --port ${PORT} -m /models/OpenAI-20B-NEO-CODEPlus-Q5_1/OpenAI-20B-NEO-CODEPlus-Q5_1.gguf -c 4000011 "OpenAI-120B-GPT-OOS":12 cmd: |13 llama-server --no-mmap -ngl 999 --flash-attn on --port ${PORT} -m /models/gpt-oss-120b-GGUF/gpt-oss-120b-UD-Q4_K_XL-00001-of-00002.gguf -c 40000
Esto proporciona una interfaz web para intercambiar modelos según las tareas (un modelo más ligero/rápido para respuestas rápidas, el de 120B para lo que requiera más razonamiento) sin tocar la máquina directamente, y el historial de chat se conserva al cambiar.
Los Números de Rendimiento (Por Qué Esta Máquina Puede Soportar una Carga de Trabajo de Agente)
Usando llama-bench para procesamiento de prompts (pp512) y generación de texto (tg128):
1ModelSizePrompt Processing (t/s)Text Generation (t/s)GPT-OSS-120B (Q4_K_XL)58.7GB454.15 ± 2.9856.61 ± 0.03GPT-OSS-20B (F16)12.8GB965.54 ± 9.5646.84 ± 0.06Gemma-3-27B (Q6_K)20.6GB178.14 ± 1.099.65 ± 0.01Qwen3-30B-A3B (BF16)56.9GB163.01 ± 1.339.23 ± 0.04
El número que importa para un agente siempre activo: un modelo de 120B, completamente local, generando a 56,6 tokens/segundo. Es lo suficientemente rápido como para que Hermes Agent pueda ejecutar cadenas de llamadas a herramientas de varios pasos sin que cada tarea se convierta en una larga espera.
Prueba de carga real: al pedirle a GPT-OSS-120B «Genera un ensayo sobre LLMs (5000 palabras)» produjo 7.990 tokens a 51,2 tokens/segundo. El consumo de energía promedió ~110W en la iGPU, con la temperatura del borde estabilizada alrededor de 68-69 °C: silencioso y no particularmente caliente, gracias al disipador de 6 heatpipes y doble ventilador, y a una actualización de BIOS 1.03 que mejoró la curva de ventiladores. Ese perfil de potencia y térmico es lo que hace que dejarlo funcionando 24/7 como equipo empresarial sea realista y no un peligro de incendio.
NPU: la NPU XDNA 2 (50 TOPS) no se ha utilizado en esta configuración aún; el soporte sigue siendo inmaduro. FastFlowLM, un proyecto que permite la inferencia de LLM en NPUs Ryzen AI, parece prometedor como una forma futura de descargar aún más carga de trabajo, pero actualmente requiere Windows.
La Capa de Flujo de Trabajo: Conectando Hermes Agent Encima
Aquí es donde la máquina se convierte en una herramienta empresarial real en lugar de un punto de referencia. Hermes Agent es la capa que toma el modelo local de arriba y lo convierte en algo que hace cosas: redacta contenido, ejecuta llamadas a herramientas, navega, gestiona subagentes y actúa según un horario.
1. Instalar Hermes Agent y apuntarlo al modelo local. La configuración inicial de Hermes pregunta por un proveedor de modelos. Elige local/autoalojado compatible con OpenAI, apúntalo a localhost:<puerto> donde se esté ejecutando llama-server, y omite la clave API porque es local. Hermes específicamente quiere una longitud de contexto mínima de 64.000 tokens: aumenta ese valor si el flujo de trabajo implica mucho código o documentos largos, mantenlo más bajo para tareas cortas como correos electrónicos o publicaciones en redes sociales.
2. Establecer el modelo local como predeterminado, no como la única opción. La configuración de producción real es híbrida por diseño, pero no porque el hardware no pueda seguir el ritmo, sino porque algunas tareas genuinamente no necesitan un modelo local de 120B: respuestas rápidas, formato simple, consultas cortas. Establece el modelo local como predeterminado, luego añade un proveedor de respaldo (OpenAI, Claude u Open Router) con instrucciones de enrutamiento para los casos en los que realmente aporte valor: cadenas pesadas de llamadas a herramientas, bucles largos de depuración o tareas donde la velocidad importa más que la privacidad. Open Router es una forma barata de hacer esto: 10 dólares compran aproximadamente 1.000 solicitudes, útil como válvula de escape para tareas de subagentes no críticas.
3. Mantenerlo funcionando 24/7. Un flujo de trabajo empresarial solo funciona si no se cae cuando cierras tu portátil. Habilita el reinicio automático de Hermes Agent al arrancar:
1sudo systemctl enable tailscaled2sudo systemctl enable hermes-agent
Cualquier asistente de codificación de IA (Codex, Claude, Gemini, Warp) puede generar el archivo de servicio equivalente si Hermes Agent no se instaló como un servicio systemd por defecto.
4. Acceder desde cualquier lugar con Tailscale. Esto es lo que convierte al MS-S1 MAX de «una máquina frente a la que tengo que sentarme» en infraestructura. Instala Tailscale (plan personal gratuito, hasta seis usuarios) en el mini-PC y en el dispositivo desde el que trabajas realmente día a día: portátil, teléfono. Una vez que ambos están en la misma red Tailscale:
- Conéctate por SSH al mini-PC desde un portátil para ejecutar comandos de administración que el agente no puede ejecutar por sí mismo.
- Abre el panel de control de Hermes Agent de forma remota como si se estuviera ejecutando en localhost, aunque físicamente esté en una máquina al otro lado de la habitación o del país.
- En iOS, como algunas aplicaciones de terminal (Termius) omiten el handshake SSH que Tailscale espera, configura el modo de acceso SSH en «accept» en los controles de acceso de Tailscale para que el teléfono pueda conectarse; útil para arreglar un flujo de trabajo atascado mientras estás lejos de un escritorio.
5. Dejar que el agente ejecute las tareas empresariales. Con la pila cableada de esta manera, el patrón del día a día es: investigación, redacción, resúmenes y llamadas a herramientas rutinarias se ejecutan localmente en el MS-S1 MAX de forma gratuita, con los resultados enviados a través de Telegram, un panel de control o cualquier cosa con la que Hermes se integre. Cualquier cosa que necesite ser rápida (en tiempo real, orientada al cliente) o que necesite un razonamiento que el modelo local genuinamente no pueda igualar se enruta al proveedor de respaldo por excepción, no por defecto.
Por Qué la Elección del Hardware Determina Cuánto de Esto Obtienes Realmente
El modelo local es el cuello de botella para todo lo que está por encima. Un modelo de 9B a velocidades de dos dígitos bajos en tokens/segundo puede ejecutar Hermes Agent, pero las tareas de agente de múltiples pasos con subagentes y llamadas a herramientas se extienden a muchos minutos, lo que limita cuánta carga de trabajo puede permanecer local antes de que el enrutamiento de respaldo tenga que tomar el control. Un modelo local de la clase 120B a 56+ tokens/segundo cambia cuánta carga de trabajo diaria puede absorber la máquina local por sí sola: más lógica empresarial se queda en hardware que posees, y el respaldo en la nube se convierte en una herramienta para casos extremos genuinos en lugar de la ruta predeterminada para cualquier cosa no trivial.
La privacidad es la parte que no cambia con el hardware. Independientemente del modelo que se ejecute localmente, las claves API, los datos de clientes y los flujos de trabajo empresariales nunca salen de la red. Eso es cierto en una Raspberry Pi ejecutando un modelo pequeño y también en el MS-S1 MAX ejecutando uno de 120B; el hardware solo decide cuánto trabajo útil ocurre antes de que necesites recurrir a la opción de la nube.
Conclusión Práctica
Para una pila de agente local 24/7 diseñada para soportar flujos de trabajo empresariales reales, no solo para mostrar una respuesta de chat, los requisitos son: suficiente memoria unificada para cargar un modelo genuinamente capaz, suficiente margen de potencia/térmico sostenido para ejecutar ese modelo de forma continua, y un consumo en reposo lo suficientemente bajo como para que dejarlo encendido no se note como un gasto real.
La memoria de iGPU direccionable de 96 GB del MS-S1 MAX, el consumo sostenido de 110 W y la refrigeración silenciosa de 6 heatpipes cubren el lado del hardware. Hermes Agent, apuntando a llama-server ejecutándose localmente y accesible desde cualquier lugar a través de Tailscale, cubre el lado del flujo de trabajo. Juntos forman un único mini-PC que puede colocarse en un armario, permanecer encendido permanentemente y ejecutar una parte significativa de la carga de trabajo diaria de IA de una empresa sin una factura recurrente en la nube ni que los datos salgan del edificio.
Para uso general como estación de trabajo, el MS-S1 MAX también ofrece expansión PCIe y doble M.2, consumo inactivo de ~5W, doble Ethernet de 10 Gbps y USB4 v2 (80 Gbps): nada de esto es específico de LLM, pero todo importa si esta máquina hace doble función como algo más que el equipo del agente.
