Cómo calcular el costo de ejecutar Agent en una tarjeta gráfica de consumo: factura de electricidad, depreciación y costo por tarea

Sat, 11 Jul 2026 10:30:00 +0800

Si desea saber si vale la pena ejecutar una tarjeta gráfica de consumo con un agente local, no puede simplemente mirar “cuánto cuesta la tarjeta gráfica”, ni puede simplemente comparar el precio unitario por millón de tokens de la API. Los agentes llamarán repetidamente a modelos, herramientas y navegadores; Los contextos largos, los reintentos fallidos y el modo de espera inactivo cambiarán el costo real.

La forma más práctica es dividir el costo en cuatro elementos: electricidad, depreciación del hardware, equipo de soporte y mantenimiento manual, y luego calcularlo de acuerdo con “cada tarea exitosa” y “por millón de tokens de salida” al mismo tiempo.

Primero determine qué costos desea calcular

calibre	Preguntas aptas para ser respondidas.	Elementos que se pasan por alto fácilmente
costo incremental	Ya tengo una consola de juegos. ¿Cuánto cuesta ejecutar Agent en mi tiempo libre?	La tarjeta gráfica ya está, ¿está incluida en la depreciación?
costo total	¿Es rentable comprar una máquina específicamente para agentes locales?	Host, memoria, SSD, refrigeración y depreciación
Costo por tarea	¿Cuánto cuesta automatizar un documento y una tarea de código?	Fallo, reintento y revisión manual
costo de rendimiento	¿Cuál es el costo por millón de tokens para crear un servicio de inferencia autoconstruido?	Ingrese el token, la caché KV y el tiempo de inactividad

Si la tarjeta gráfica se usó originalmente para juegos u otro trabajo, sería más honesto calcular primero el costo incremental; Solo cuando se compra toda la máquina para el Agente, la depreciación de toda la máquina está incluida en su totalidad.

Fórmula de costo total mensual

Primero use el calibre mensual, los datos son más fáciles de obtener:

月度总成本 = 电费 + 硬件月折旧 + 配套服务费 + 人工维护成本

电费 = 实测整机平均功耗(kW) × 实际运行小时数 × 电价(元/kWh)
硬件月折旧 = (购入总价 - 预估残值) ÷ 使用月数
单次成功任务成本 = 月度总成本 ÷ 月成功任务数
每百万输出 token 成本 = 月度总成本 ÷ 月输出 token 数 × 1,000,000

El “consumo de energía promedio de toda la máquina” debe provenir de un medidor de energía de enchufe o UPS tanto como sea posible, en lugar de simplemente mirar el TBP nominal de la tarjeta gráfica. El Agente también se ejecuta con CPU, memoria, SSD, ventiladores y monitores; Usar solo el consumo de energía de la GPU subestimará la factura de electricidad. Por el contrario, los períodos en los que la máquina está en espera pero no procesando tareas no deben mezclarse con los costos de inferencia pura y es mejor registrarlos por separado.

Un ejemplo de parámetros reemplazables.

Supongamos que una máquina tiene un consumo de energía promedio medido de 280 W bajo la carga de trabajo real del Agente, funciona 6 horas al día y 30 días al mes; el precio local de la electricidad se calcula en 0,8 yuanes/kWh. El hardware adquirido específicamente para este fin se amortiza en 7.000 yuanes, en 36 meses, y se ignora el valor residual.

1
2
3

电费 = 0.28 × 6 × 30 × 0.8 = 40.32 元/月
硬件折旧 = 7,000 ÷ 36 = 194.44 元/月
月度基础成本 = 234.76 元/月

Si se completan 600 tareas aceptadas este mes, el costo básico será de aproximadamente 0,39 yuanes/tarea. La “finalización” aquí no solo puede contarse como devolución del modelo; debe basarse en resultados comerciales, como la ejecución exitosa de scripts, el cierre de órdenes de trabajo y la aprobación de inspecciones manuales.

Este es sólo un cálculo de ejemplo, no un precio universal. Sólo tiene sentido reemplazar el consumo de energía, el tiempo de uso, el precio de la electricidad, el monto de la compra y el volumen de tareas con sus propios datos.

¿Por qué es más difícil estimar el agente que el chat normal?

Los modelos de chat a menudo se facturan por token y el costo del Agente también se ve afectado por la ruta de ejecución:

Una tarea puede incluir planificación, recuperación, llamadas a herramientas, lectura de resultados y múltiples rondas de correcciones.
Cuanto más largo sea el contexto, más caché KV estará ocupada; cuando no hay suficiente memoria de video, se ralentizará, descargará la CPU/RAM e incluso activará reintentos.
La automatización del navegador, las pruebas de código y el procesamiento de archivos pueden alargar los tiempos de las tareas incluso si la GPU no está completamente cargada constantemente.
La paralelización de múltiples agentes aumentará el rendimiento, pero también puede aumentar la contención de memoria, las colas y las tasas de fallas.
Para reducir el retraso del primer token, el modelo residente aumentará el consumo de energía en reposo.

Por lo tanto, no utilice los tokens de una pregunta y respuesta cortas para representar el costo del Agente. Seleccione al menos un conjunto de tareas reales, ejecútelas continuamente durante una semana y registre los tokens de entrada/salida, la tasa de éxito, la cantidad de reintentos, el tiempo del reloj de pared y el consumo general de energía de la máquina.

Dos unidades que hay que ver al mismo tiempo

cada tarea exitosa

Esto es lo más cercano a las decisiones comerciales. Es adecuado para comparar procesos fijos como “el agente local procesa automáticamente las relaciones públicas”, “recopilación de datos por lotes”, “generación de borradores de servicio al cliente”, etc.

`1`	`每个成功任务成本 = (本周期全部成本) ÷ 成功且验收通过的任务数`

Las tareas fallidas no se pueden eliminar del numerador. La energía, el tiempo de inferencia y la resolución manual de problemas que consumen son los verdaderos costos operativos de los sistemas locales.

por millón de tokens

Esto es adecuado para comparar servicios de inferencia locales y API en la nube, pero distinguiendo entre entradas y salidas. La entrada de muchos agentes incluye largos registros de herramientas y contexto histórico, y los tokens de entrada son mucho más que los tokens de salida; si se divide solo por los tokens de salida, el número será alto. Un enfoque más confiable es registrar los tokens de entrada, salida y totales al mismo tiempo y mantener el mismo calibre estadístico.

Cómo recopilar tus propios datos

No es necesario crear un sistema de seguimiento complejo desde el principio. Primero cree una tabla y registre los siguientes campos para cada ejecución:

Campo	Método de grabación
hora de inicio y fin	Registro de agente o cola de tareas
Consumo de energía de toda la máquina	Tomacorriente inteligente, medidor de energía o UPS
ficha de entrada/salida	Registros de servicios de inferencia o estadísticas de clientes.
Éxito, fracaso, reintento.	Estado de la tarea y registro de errores
Tiempo de revisión manual	Orden de trabajo, PR o registro de inspección aleatoria
Modelo y versión cuantificada.	Evite mezclar diferentes modelos en el mismo conjunto de datos

Comience con entre 20 y 50 tareas representativas como base. Luego, las tareas con contextos cortos, contextos largos, muchas llamadas a herramientas y muchos reintentos se prueban por separado para ver el impacto de la memoria y la selección del modelo en los costos. La planificación de la memoria de video se puede juzgar junto con [Cuantificación del modelo local y selección de memoria de video] (/es/2026/07/11/rtx-3060-qwen3-best-quantization-guide/).

Cómo calcular la depreciación para no engañarte

No existe una respuesta única para la depreciación, pero primero se deben anotar los supuestos.

Tarjeta gráfica existente: solo puede calcular la factura de electricidad y el mantenimiento adicional como costos incrementales; También puedes establecer un costo de oportunidad para la tarjeta gráfica como un costo total más conservador.
Equipo nuevo adquirido: la tarjeta gráfica, el host, la memoria, el SSD y el radiador deben incluirse juntos; no se limite a repartir el precio de la tarjeta gráfica.
Vida útil: 24, 36 o 48 meses funcionarán; la clave es comparar el sistema local con el de la nube utilizando los mismos supuestos.
Valor residual: Cuando se espera revender el equipo, el valor residual estimado se puede deducir del precio de compra; si es incierto, póngalo en 0 y la conclusión será más conservadora.

Los NAS o hosts pequeños suelen consumir menos energía, pero las capacidades de memoria, refrigeración y expansión también limitan los modelos y la simultaneidad. Si considera esta ruta, primero puede leer [Sentencia de rendimiento de la implementación de NAS Ollama] (/es/2026/07/11/nas-ollama-performance-cpu-memory-gpu-guide/).

Al comparar con las API de la nube, no se limite a comparar el precio unitario

El lado de la nube también se puede convertir en costo por tarea:

`1`	`云端每任务成本 = 模型 API 费用 + 工具/API 费用 + 必要的存储与网络费用 + 人工复核成本`

El local suele ser más adecuado para estas situaciones:

Hay una carga de trabajo estable y predecible todos los días y la utilización de las máquinas es alta.
Los datos no pueden o no se espera que se envíen a servicios externos.
Ya tengo una GPU en funcionamiento, el costo incremental es principalmente electricidad.
Se aceptan modelos, controladores, servicio y recuperación de fallas automantenibles.

La nube suele ser más adecuada para estas situaciones:

La carga es esporádica y la máquina estará parada la mayor parte del tiempo.
Las tareas requieren modelos grandes, contextos muy largos o una concurrencia máxima que supera con creces la memoria de vídeo local.
El equipo no está dispuesto a encargarse del conductor, las actualizaciones del modelo, el seguimiento y la resolución de problemas.
Los resultados de la tarea son de gran valor y primero se requiere el modelo más sólido o las capacidades multimodales.

La implementación local no es sólo una elección entre dos opciones. Se colocan localmente escalones estables y sensibles a la privacidad; Los pasos complejos y de baja frecuencia o los pasos que requieren modelos más sólidos se llaman a la nube, lo que a menudo es más fácil de controlar el costo total.

Una línea de decisión práctica

Registre el costo fijo mensual local como F, los costos variables de energía y mantenimiento por tarea como v y el costo por tarea de la nube como c. Cuando c > v, la cantidad aproximada de tareas necesarias para lograr el punto de equilibrio local es:

`1`	`每月盈亏平衡任务数 = F ÷ (c - v)`

Si c es menor o cercano a v, el local no será significativamente más barato debido a la escala; La privacidad, la latencia, la controlabilidad y las capacidades fuera de línea deben considerarse más en este momento. Esta fórmula es sólo un filtro financiero y aún requiere tasas de falla y tiempo de revisión manual.

Malentendidos comunes

Mire solo el consumo de energía de la tarjeta gráfica: También se deben pagar la energía, el modo de espera y la refrigeración de toda la máquina.
Piense en los tokens nominales como rendimiento: los agentes reales se verán ralentizados por el contexto, las herramientas, la red y los pasos de prueba.
Ignorar tareas fallidas: el proceso que se reintenta con mayor frecuencia suele ser un agujero negro de costos.
Solo se calculan los cargos del modelo: también pueden aplicarse cargos por navegador, búsqueda, biblioteca de vectores, almacenamiento y revisión humana.
Mezcla de datos de diferentes modelos: la versión de cuantificación, la longitud del contexto y la simultaneidad son diferentes y los resultados no se pueden comparar horizontalmente.

Resumir

El costo de ejecutar Agent en una tarjeta gráfica de consumo no debería cubrirse simplemente con “unos pocos kilovatios-hora de electricidad por hora”. Primero use el consumo de energía medido de toda la máquina para calcular el costo de electricidad, luego agregue el costo del hardware de acuerdo con sus propios supuestos de depreciación y, finalmente, use la cantidad de tareas exitosas y la cantidad de tokens para amortizarlo. Después de registrar continuamente un período de carga de trabajo real, puede juzgar claramente si continuar ejecutándose localmente, expandir la memoria de video o transferir algunos pasos a la API de la nube.

Cost Calculation on KnightLi Blog