BIBLIOTECA / HERRAMIENTAS Y REFERENCIAS

Conocimiento que
puedes contrastar.

Guías para dimensionar IA local, comparar alternativas y entender los datos del calculador.

ARTÍCULOS / EFRÉN FIGUEROA

Criterio para tu infraestructura.

Perspectiva

Más allá del silicio: criterio y método para aterrizar la IA en tu infraestructura

Un puente práctico entre los modelos de IA y la infraestructura: memoria, rendimiento, dimensionamiento y coste total con criterio técnico.

Leer artículo ↗

GUÍAS / EFRÉN FIGUEROA

Del modelo al despliegue.

Vídeos en español

Cómo usar el Calculador

Una secuencia de 15 vídeos para aprender a usar el Calculador LLM. Contenido en español.

Leer guía ↗

Dimensionamiento

Cuánta VRAM necesita un modelo LLM: guía de cálculo

Aprende a calcular la VRAM que necesita un LLM según sus parámetros, precisión y caché KV. Fórmulas, ejemplos y una calculadora para tu propio caso.

Leer guía ↗

Dimensionamiento

Cuantización de modelos LLM: FP16 vs INT8 vs INT4

Qué es la cuantización de un LLM, cómo afecta a la VRAM y al rendimiento, y cómo elegir entre FP16, INT8 e INT4 según tu caso de uso.

Leer guía ↗

Dimensionamiento

Qué es la caché KV en un LLM y por qué se come tu memoria

Qué es la caché KV de un LLM, cómo crece con el contexto y la concurrencia, y cómo estimar su memoria para dimensionar tu servidor.

Leer guía ↗

Economía

IA local vs. nube para empresas: cuándo tiene sentido cada una

Comparativa de costes, control de datos y operación entre desplegar LLMs on-premise o usar APIs en la nube. Cómo decidir según el caso de uso real.

Leer guía ↗

Dimensionamiento

Servidor único vs. clúster para IA: cuándo escalar horizontalmente

Cuándo un solo servidor con GPU es suficiente para IA local y cuándo conviene pasar a un clúster. Criterios de concurrencia, disponibilidad y coste.

Leer guía ↗

DISPONIBLE AHORA

HERRAMIENTA

Calculador LLM

Configura hardware, ajusta la carga y descarga el informe.

Abrir recurso ↗

METODOLOGÍA

Memoria y rendimiento

Fórmulas, supuestos y alcance de los cálculos.

Abrir recurso ↗

CATÁLOGO

Modelos de lenguaje

Arquitectura, parámetros y contexto documentados.

Abrir recurso ↗

PLATAFORMAS

Hardware compatible

Componentes documentados y reglas de configuración.

Abrir recurso ↗

RECURSOS

CPU, disco y red

Qué representan los indicadores y cómo calibrarlos.

Abrir recurso ↗

Guest Perspective

FUENTES Y DOCUMENTACIÓN

Conocimiento quepuedes contrastar.

Criterio para tu infraestructura.

Más allá del silicio: criterio y método para aterrizar la IA en tu infraestructura

Del modelo al despliegue.

Cómo usar el Calculador

Cuánta VRAM necesita un modelo LLM: guía de cálculo

Cuantización de modelos LLM: FP16 vs INT8 vs INT4

Qué es la caché KV en un LLM y por qué se come tu memoria

IA local vs. nube para empresas: cuándo tiene sentido cada una

Servidor único vs. clúster para IA: cuándo escalar horizontalmente

DISPONIBLE AHORA

Calculador LLM

Memoria y rendimiento

Modelos de lenguaje

Hardware compatible

CPU, disco y red

Guest Perspective

Referencias

Conocimiento que
puedes contrastar.