ManzGPU

Modelos de IA

Hype-Generator 3000™: It's a game-changer

Aquí puedes encontrar un listado de modelos de IA locales de Zhipu AI, ordenados por parámetros, estimar su cuantización, etc...

1. Modelos (por parámetros)

Texto
Imagen
Visión
Speech
Audio
Video
Omni

Los parámetros son los pesos aprendidos en un modelo de IA. Se calculan en Billions (miles de millones) Determinan cómo procesa los datos y produce resultados. Más parámetros generalmente significa mayor capacidad y mejores resultados, pero también mayores requisitos de memoria y computación. Menos parámetros hacen que el modelo sea más rápido y ligero, pero potencialmente menos preciso o capaz.

El color de cada píldora marca su nivel de tamaño. Pulsa uno de los niveles para quedarte solo con los modelos que caen dentro.

Familias (18)

22modelos

Filtrar por tamaño
Text
GLM-5.3
2
320B18B
750B40B
Text
GLM-5.2
1
753B40B
Video
SCAIL-2
1
14B
Text
GLM-5.1
1
753B40B
Text
GLM-5
1
753B40B
Vision
GLM-OCR
1
1B
Image
GLM-Image
1
16B
Text
GLM-4.7
2
30B3B
355B32B
Speech
GLM-TTS
1
3B
Vision
GLM-4.6V
2
10B
108B12B
Text
GLM-4.6
1
357B32B
Text
GLM-4.5-Air
1
106B12B
Text
GLM-4.5
1
357B32B
Text
GLM-4
1
9B
Video
CogVideoX1.5-I2V
1
5B
Video
CogVideoX1.5
1
5B
Video
CogVideoX-I2V
1
5B
Video
CogVideoX
2
2B
5B

2. Modelo seleccionado

El modelo seleccionado en el gráfico anterior aparecerá aquí con sus cuantizaciones.

3. Reduciendo tamaño (cuantización)

La cuantización es una técnica utilizada para reducir el tamaño de un modelo local de IA disminuyendo la precisión de sus pesos y cálculos (menos bits por parámetro). Esto hace que el modelo sea mucho más pequeño, rápido y fácil de ejecutar en hardware limitado, pero tiene una desventaja: la menor precisión numérica puede degradar ligeramente la exactitud y el rendimiento general en comparación con el modelo original de precisión completa.

Tus recursos de hardware (GPU, GPU Model KV-cache, RAM):