Implemente el Agente Hermes localmente en Windows con WSL + Ollama y Connect Telegram

Si desea ejecutar “Agente Hermes” en “Windows” con la menor fricción posible, una ruta práctica es:

• mantener Windows como sistema host
• ejecuta Ubuntu dentro de WSL
• utilizar Ollama para servir el modelo local
• permitir que “Agente Hermes” se conecte directamente al punto final local de Ollama

Este enfoque mantiene el entorno relativamente limpio, le permite ejecutar la mayoría de los comandos en un flujo de trabajo estilo Linux y evita preparar una máquina Linux separada.

Flujo general

Puede dividir la configuración en 4 pasos:

1. Habilite WSL e instale Ubuntu
2. Instale Python, Node.js, Git y otros conceptos básicos dentro de Ubuntu
3. Instale Ollama y extraiga un modelo local.
4. Instale Hermes Agent, luego conecte Telegram

Si su objetivo es simplemente hacer que Hermes Agent se ejecute primero, al final del paso 3 ya estará cerca.

1. Instale WSL y Ubuntu

Ejecute esto en PowerShell con privilegios de administrador:

1

wsl --install

Una vez finalizada la instalación, reinicie la PC y luego continúe con Ubuntu:

1

wsl --install -d Ubuntu

Después de eso, abra Ubuntu en WSL. La mayoría de los comandos restantes se ejecutan allí.

2. Actualice Ubuntu e instale el entorno base

Actualice el sistema primero:

1
2

sudo apt update
sudo apt upgrade -y

Luego instale Python, herramientas de extracción, Node.js y Git.

Instalar Python

1

sudo apt install python3-pip python3-venv -y

Instalar zstd

1

sudo apt install -y zstd

Instalar Node.js

1
2

curl -fsSL https://deb.nodesource.com/setup_22.x | sudo -E bash -
sudo apt install -y nodejs

Instalar Git

1
2

sudo apt update
sudo apt install -y git

Puede verificar rápidamente la instalación con:

1
2
3

node -v
npm -v
git --version

3. Instala Ollama y tira de Gemma 4

Instalar Ollama:

1

curl -fsSL https://ollama.com/install.sh | sh

Si desea un modelo local para Hermes Agent, comenzar con “Gemma 4” es razonable.

Por ejemplo:

1

ollama run gemma4:e4b

Si tu máquina es más débil, también puedes intentar:

1

ollama run gemma4:e2b

Las variantes más grandes incluyen:

1
2

ollama run gemma4:26b
ollama run gemma4:31b

Para la mayoría de las configuraciones normales de Windows + WSL, gemma4:e4b suele ser el punto de partida más práctico.

4. Instalar y configurar el Agente Hermes

Instálalo con:

1

curl -fsSL https://raw.githubusercontent.com/NousResearch/hermes-agent/main/scripts/install.sh | bash

Después de la instalación, apúntelo al punto final local de Ollama:

1

http://127.0.0.1:11434

Utilice el nombre del modelo local que realmente instaló, por ejemplo:

1

gemma4:e4b

Si el instalador le pide que actualice el shell, ejecute:

1

source ~/.bashrc

Comandos comunes del agente Hermes

Estos son los comandos que utilizarás con más frecuencia:

Empezar

1

hermes

Vuelva a ingresar a la configuración

1

hermes setup

Configurar la puerta de enlace de chat

1

hermes setup gateway

Actualizar

1

hermes update

Pasos básicos de conexión a Telegram

Si desea que Hermes Agent envíe y reciba mensajes a través de Telegram, el paso principal sigue siendo:

1

hermes setup gateway

Luego prepare los dos elementos del lado de Telegram que necesita:

• crear un bot con BotFather
• obtenga su ID de usuario con @userinfobot

Una vez que tenga esos conceptos básicos, continúe completándolos en la configuración de la puerta de enlace del Agente Hermes.

¿A quién se adapta esta configuración?

Este flujo de trabajo es una buena opción si:

• Windows es su sistema de escritorio principal
• no desea mantener un host Linux separado
• primero desea ejecutar un agente local y luego expandirlo a plataformas de chat
• prefieres modelos locales en lugar de depender de las API de la nube

Si principalmente desea experimentar un Agente local en lugar de crear una implementación de producción completa de inmediato, esta ruta ya es bastante práctica.

Algunas cosas a tener en cuenta

• WSL sigue siendo una capa de compatibilidad, por lo que en casos extremos puede que no se comporte exactamente como Linux nativo.
• Que un modelo grande funcione sin problemas aún depende de su RAM, VRAM y CPU/GPU
• gemma4:e4b es un punto de partida realista, pero la experiencia real aún depende de la máquina
• La integración de la plataforma Hermes Agent es un paso de extensión; hacer que la ruta del modelo local funcione primero y luego agregar Telegram suele ser más estable

Referencia original

Esta publicación está reescrita y organizada en base a:

• Blog de Xchaoge: 太简单了！Agente Hermes 本地部署（无需API）接入 Telegram + 微信

Conectar Ollama y Codex OSS como agente local en WSL

Al implementar agentes locales en Windows, la estructura más sencilla generalmente no es distribuir el servicio modelo, Docker, terminal y herramientas de codificación en Windows, WSL y múltiples entornos virtuales, sino colocarlos en la misma distribución WSL2 de Ubuntu:

1
2
3
4
5
6

Windows
└─ WSL2 Ubuntu
   ├─ Ollama：本地模型服务
   ├─ 本地模型：聊天、代码、Embedding
   ├─ Codex OSS：Agent 客户端
   └─ 项目目录：代码、Git、测试命令

De esta manera, Ollama y el Agente se comunican directamente a través de localhost en WSL, y la ruta, los permisos y los registros están todos en el entorno Linux. El lado de Windows puede continuar accediendo al proyecto mediante Windows Terminal, VS Code Remote WSL o Explorer.

Hablemos primero de la conclusión.

La ruta mínima disponible es:

1
2
3
4
5
6

安装 WSL2 Ubuntu
-> 在 Ubuntu 安装 Ollama 和一个小模型
-> 在 Ubuntu 内验证 ollama run
-> 用 codex --oss --local-provider ollama 启动 Agent
-> 先执行只读任务
-> 再逐步允许修改、测试和工具调用

No le dé al Agente local todos los permisos desde el principio y no busque primero el modelo más grande. Es más importante utilizar primero un proceso de verificación de modelo que pueda ejecutarse de manera estable que lidiar primero con agentes complejos, puertos remotos y orquestación de múltiples agentes.

Paso 1: instale WSL2 y Ubuntu

Ejecute en Administrador PowerShell en Windows:

1

wsl --install

Después de reiniciar, Ubuntu se instalará de forma predeterminada. Cuando abra Ubuntu por primera vez, siga las instrucciones para crear un nombre de usuario y contraseña de Linux.

Confirme que la distribución utiliza WSL2:

1

wsl -l -v

Si la distribución anterior sigue siendo la versión 1, puedes convertir:

1

wsl --set-version Ubuntu 2

Ingrese a Ubuntu:

1

wsl

La mayoría de los comandos posteriores se ejecutan en la terminal de Ubuntu, no en PowerShell.

Paso 2: preparar el entorno básico de Ubuntu

Después de ingresar a WSL, primero actualice el sistema:

1
2
3

sudo apt update
sudo apt upgrade -y
sudo apt install -y curl git ca-certificates

Confirmar entorno:

1
2
3

uname -a
pwd
git --version

Se recomienda que el proyecto se coloque en el sistema de archivos de Linux, por ejemplo:

1
2

mkdir -p ~/projects
cd ~/projects

No ejecute entornos virtuales Git, Node.js, Python de alta frecuencia ni dependencias a gran escala en /mnt/c/.... El acceso entre sistemas de archivos puede ser más lento en algunas tareas de desarrollo y es más probable que encuentre diferencias en permisos y escucha de archivos. Cuando necesite abrir un proyecto desde Windows, puede utilizar la función WSL remoto de VS Code.

Paso 3: Instale y verifique Ollama dentro de WSL

Siga el método de instalación de Ollama Linux:

1

curl -fsSL https://ollama.com/install.sh | sh

Primero inicie el servicio en la terminal actual:

1

ollama serve

Abra otra terminal WSL, descargue y pruebe un modelo:

1
2

ollama pull qwen3:8b
ollama run qwen3:8b

La selección del modelo debe estar determinada por la memoria de su GPU o CPU/memoria. Cuando no haya GPU disponible, use un modelo más pequeño para verificar el proceso primero; No confunda “se pueden descargar archivos de modelos grandes” con “esta máquina puede realizar inferencias sin problemas”.

Confirmar estado del servicio y modelo:

1
2

ollama ls
ollama ps

Si ollama run no puede generar una salida estable, primero resuelva el problema del modelo, la memoria de video, el controlador o la memoria y luego conéctese al Agente.

Paso 4: compruebe si la GPU WSL está realmente disponible

Cuando tengas una GPU NVIDIA, ejecuta dentro de WSL:

1

nvidia-smi

Poder mostrar la tarjeta gráfica no significa que Ollama haya usado la GPU, pero al menos prueba que WSL ve el controlador. Después de iniciar el modelo, ejecute:

1
2

ollama ps
nvidia-smi

Observe si el modelo usa GPU y si aumenta la memoria de video.

Si nvidia-smi no existe o se informa un error, primero verifique el controlador NVIDIA, la versión WSL y la compatibilidad con GPU de Windows. No se apresure a instalar el controlador de Linux de escritorio repetidamente en Ubuntu. La compatibilidad con GPU de WSL tiene su propio enlace de controlador.

Paso 5: Permitir que Codex use Ollama local

Codex ofrece modo OSS con la opción de Ollama o LM Studio como proveedor local. Una vez que Codex esté instalado y ejecutable dentro de WSL, vaya al directorio de su proyecto:

1

cd ~/projects/your-project

Se recomienda comenzar con permisos de solo lectura por primera vez:

1

codex --oss --local-provider ollama --sandbox read-only

Primero dé una tarea que no modifique el archivo:

1

阅读当前仓库的 README 和目录结构，说明启动、测试和构建命令。不要修改任何文件。

Después de confirmar que el modelo local puede comprender el almacén y que la respuesta es estable, utilice el permiso de escritura del espacio de trabajo según sea necesario. No te saltes Git, las pruebas y los permisos sólo porque es un modelo local.

Si desea utilizar Ollama como proveedor local predeterminado, agregue ~/.codex/config.toml en la configuración del Codex a nivel de usuario:

1

oss_provider = "ollama"

Luego use el siguiente comando:

1

codex --oss

Tenga en cuenta que la configuración relacionada con el proveedor debe colocarse en la configuración a nivel de usuario, no en .codex/config.toml en el proyecto. La configuración del proyecto no debe cambiar de forma encubierta el proveedor del modelo de su máquina.

Paso 6: habilite systemd cuando se requieran servicios para residentes

Las nuevas instalaciones de WSL Ubuntu normalmente ya utilizan systemd por defecto. Primer control:

1

systemctl status

Si systemd no está habilitado en la distribución actual, edite:

1

sudo nano /etc/wsl.conf

participar:

1
2

[boot]
systemd=true

Luego regrese a Windows PowerShell:

1

wsl --shutdown

Marque systemctl status nuevamente después de volver a ingresar a Ubuntu.

La posibilidad de convertir a Ollama en un servicio residente depende del método de instalación y de si necesita una API de backend. Cuando comienza a aprender, es más fácil mantener una terminal ollama serve para ver los registros; una vez que se confirme que es estable, use systemd para administrar el servicio.

Rutas, puertos y API dentro de WSL

Por defecto, el servicio Ollama utiliza:

1

http://localhost:11434

Si el agente, el script y Ollama están todos en la misma distribución WSL, esta dirección local se usará primero y no es necesario abrir primero el puerto LAN.

API de prueba:

1

curl http://localhost:11434/api/tags

Cuando es necesario llamarlo en programas de Windows, teléfonos móviles u otros dispositivos en la red de área local, el método de exposición de la red, el proxy inverso y la autenticación deben diseñarse por separado. No asigne puertos del modelo local expuestos directamente a la red pública.

Calificaciones de recursos recomendadas

Un modelo más grande no significa un Agente más confiable. Para los agentes locales, la estabilidad de la ejecución de comandos, el contexto, las capacidades de llamada de herramientas y los métodos de división de tareas también afectan los resultados.

La trampa más fácil de caer

1. Windows y WSL ejecutan cada uno un conjunto de Ollama

Esto le dificultará saber a qué servicio está realmente conectado el Agente. Para la implementación inicial, se recomienda ejecutar solo un conjunto de Ollama dentro de WSL y todas las pruebas se completan en el mismo terminal WSL.

2. Ejecute todas las tareas de desarrollo en /mnt/c

Accesible, pero puede no ser ideal según la instalación, la escucha de archivos, el rendimiento de Git y el comportamiento de los permisos de Linux. Priorizar proyectos activos en ~/projects.

3. El modelo local permite escribir archivos desde el principio.

Primero use --sandbox read-only para verificar si el modelo comprende la tarea. Una vez que ingrese a la fase de modificación, también debe dejar que le explique el plan antes de verificar las diferencias, ejecutar pruebas y usar Git para conservar los puntos de respaldo.

4. No hay autenticación después de abrir el puerto.

Una vez que a una API local se le permite el acceso LAN, ya no es sólo un “servicio en su propia computadora”. Como mínimo, limite las fuentes del firewall y agregue autenticación y HTTPS en la capa de proxy inverso si es necesario.

5. Pensar que si la instalación es exitosa, se ejecutará automáticamente en segundo plano.

El proceso de primer plano sale cuando se cierra WSL o se detiene la distribución. Cuando se requieran API a largo plazo, primero confirme systemd, el estado del servicio y las políticas operativas de Windows/WSL.

Resumir

Windows WSL implementa agentes locales. La primera versión más confiable es:

1
2
3
4
5

WSL2 Ubuntu
-> Ollama 跑通小模型
-> Codex OSS 模式只读分析仓库
-> Git 和测试验证
-> 再增加写权限、服务常驻和局域网 API

Mantener el modelo, el agente y el código en el mismo entorno WSL puede reducir los problemas de rutas, puertos y permisos a más de la mitad. Espere hasta que el proceso mínimo esté estable antes de considerar Docker, enrutamiento multimodelo, RAG o acceso remoto.

referirse a:

• Microsoft Learn: Instalar WSL
• Microsoft Learn: sistema WSL
• Documentación de Ollama Linux
• Proveedor local de Codex OSS
• Tutorial de uso de API de modelo grande local para Codex

Conclusión

Si desea implementar Hermes Agent localmente en Windows con la menor fricción posible, el orden más sencillo es:

WSL -> Ubuntu -> Ollama -> Gemma 4 -> Agente Hermes -> Telegram

Primero ejecute el modelo local y luego agregue la integración de la puerta de enlace. Por lo general, eso le brinda una tasa de éxito mucho mayor. Para la mayoría de los usuarios, esto es más fácil de solucionar que acumular cada componente al principio y también deja espacio para una expansión posterior.

Backend alternativo: Qwen3.6, llama.cpp y API local

Ollama es el punto de partida sencillo. Usa llama.cpp cuando necesites controlar GGUF, GPU offload, contexto y chat template. Descarga un GGUF de Qwen3.6 desde una model card fiable, elige una cuantización sostenible y registra su checksum en vez de depender de un único repositorio de terceros.

1
2
3
4
5

sudo apt update
sudo apt install -y git cmake build-essential
git clone https://github.com/ggml-org/llama.cpp.git
cmake -S llama.cpp -B llama.cpp/build -DGGML_CUDA=ON
cmake --build llama.cpp/build --config Release -j

Empieza con 8K y sustituye la ruta. --n-gpu-layers 99 solicita el máximo offload, pero no garantiza VRAM suficiente; tras OOM reduce capas o cuantización.

1
2
3
4
5
6

./llama.cpp/build/bin/llama-server \
  --model ~/models/qwen3.6-model.gguf \
  --n-gpu-layers 99 \
  --ctx-size 8192 \
  --host 127.0.0.1 \
  --port 8080

1
2

curl http://127.0.0.1:8080/v1/models
curl http://127.0.0.1:8080/health

En hermes setup, usa http://127.0.0.1:8080/v1, el ID real de /v1/models y una API Key local ficticia. Prueba conversación, tool calls y permisos. Si devuelve texto pero las herramientas fallan, revisa capacidad del modelo y chat template, no solo el puerto.

Configura thinking con la model card y los argumentos de tu versión de llama.cpp, no con un JSON antiguo. Cambia solo modelo, contexto, GPU layers o template cada vez y conserva el último comando válido. Escucha únicamente en 127.0.0.1; para acceso remoto añade autenticación y TLS en un reverse proxy.