Hardware para IA
Hype-Generator 3000™: It's a game-changer
Comparativa de GPUs y CPUs: memoria (VRAM) y ancho de banda de memoria de los componentes más usados para ejecutar modelos de IA.
Hype-Generator 3000™: It's a game-changer
Comparativa de GPUs y CPUs: memoria (VRAM) y ancho de banda de memoria de los componentes más usados para ejecutar modelos de IA.
Para ejecutar modelos de IA en local, el hardware es muy importante. Esta tabla compara la memoria (VRAM) y el ancho de banda de las GPU/CPU más comunes. Cuanta más memoria y más ancho de banda, más grande y rápido puede ser el modelo que ejecutes.
Esto te puede servir para comparar como te funcionaría cambiar de una a otra tarjeta gráfica o sistema. Ten en cuenta que la memoria influye en cuanto a los modelos que puedes cargar en ella, mientras que el ancho de banda define la velocidad con la que se carga el modelo, lo rápido que procesa los datos (tokens/seg), lo rápido que genera las imágenes, etc.
| Nombre | Memoria | Ancho de banda | ||
|---|---|---|---|---|
| GeForce RTX 50 (Blackwell, 2025) | RTX 5090 | 32 GB | 1792 GB/s | |
| RTX 5080 | 16 GB | 960 GB/s | ||
| RTX 5070 Ti | 16 GB | 896 GB/s | ||
| RTX 5070 | 12 GB | 672 GB/s | ||
| RTX 5060 Ti | 16 GB | 448 GB/s | ||
| RTX 5060 | 8 GB | 448 GB/s | ||
| GeForce RTX 40 (Ada Lovelace, 2022–2023) | RTX 4090 | 24 GB | ~1008 GB/s | |
| RTX 4080 Super | 16 GB | ~736 GB/s | ||
| RTX 4080 | 16 GB | ~717 GB/s | ||
| RTX 4070 Ti Super | 16 GB | ~672 GB/s | ||
| RTX 4070 Ti | 12 GB | ~504 GB/s | ||
| RTX 4070 Super | 12 GB | ~504 GB/s | ||
| RTX 4070 | 12 GB | ~504 GB/s | ||
| RTX 4060 Ti | 8–16 GB | ~288 GB/s | ||
| RTX 4060 | 8 GB | ~272 GB/s | ||
| GeForce RTX 30 (Ampere, 2020–2022) | RTX 3090 Ti | 24 GB | 1008 GB/s | |
| RTX 3090 | 24 GB | 936 GB/s | ||
| RTX 3080 Ti | 12 GB | 912 GB/s | ||
| RTX 3080 | 12 GB | 912 GB/s | ||
| RTX 3080 | 10 GB | 760 GB/s | ||
| RTX 3070 Ti | 8 GB | 608 GB/s | ||
| RTX 3070 | 8 GB | 448 GB/s | ||
| RTX 3060 Ti | 8 GB | 448 GB/s | ||
| RTX 3060 | 12 GB | 360 GB/s | ||
| RTX 3050 | 8 GB | 224 GB/s | ||
| GeForce RTX 20 (Turing, 2018–2019) | RTX 2080 Ti | 11 GB | 616 GB/s | |
| RTX 2080 Super | 8 GB | 496 GB/s | ||
| RTX 2080 | 8 GB | 448 GB/s | ||
| RTX 2070 Super | 8 GB | 448 GB/s | ||
| RTX 2070 | 8 GB | 448 GB/s | ||
| RTX 2060 Super | 8 GB | 448 GB/s | ||
| RTX 2060 | 6 GB | 336 GB/s | ||
| RTX 2060 | 12 GB | 336 GB/s | ||
| GeForce GTX 10 (Pascal, 2016–2017) | GTX 1080 Ti | 11 GB | 484 GB/s | |
| GTX 1080 | 8 GB | 320 GB/s | ||
| GTX 1070 Ti | 8 GB | 256 GB/s | ||
| GTX 1070 | 8 GB | 256 GB/s | ||
| GTX 1060 | 6 GB | 192 GB/s | ||
| GTX 1060 | 3 GB | 192 GB/s | ||
| GTX 1050 Ti | 4 GB | 112 GB/s | ||
| GTX 1050 | 2 GB | 112 GB/s | ||
| Radeon 9000/AI PRO (RDNA 4, 2025–2026) | AI PRO R9700/S | 32 GB | 640 GB/s | |
| AI PRO R9600 | 32 GB | 640 GB/s | ||
| AI PRO R9600D | 32 GB | 640 GB/s | ||
| RX 9070/XT | 16 GB | 640 GB/s | ||
| RX 9070 GRE | 12 GB | 432 GB/s | ||
| RX 9060 XT | 8/16 GB | ~320 GB/s | ||
| RX 9060 | 8 GB | 288 GB/s | ||
| RX 9050 | 8 GB | 288 GB/s | ||
| Radeon 7000 PRO/RX (RDNA 3, 2023–2024) | PRO W7900 | 48 GB | 864 GB/s | |
| PRO W7800 | 48 GB | 864 GB/s | ||
| PRO W7800 | 32 GB | 576 GB/s | ||
| PRO W7700 | 16 GB | 576 GB/s | ||
| PRO W7600 | 8 GB | 288 GB/s | ||
| PRO W7500 | 8 GB | ~173–256 GB/s | ||
| PRO V710 | 28 GB | 448 GB/s | ||
| RX 7900 XTX | 24 GB | ~960 GB/s | ||
| RX 7900 XT | 20 GB | ~800 GB/s | ||
| RX 7900 GRE | 16 GB | ~576 GB/s | ||
| RX 7800 XT | 16 GB | ~624 GB/s | ||
| RX 7700 XT | 12 GB | ~432 GB/s | ||
| RX 7700 | 16 GB | 624 GB/s | ||
| RX 7600 XT | 16 GB | 288 GB/s | ||
| RX 7600 | 8 GB | 288 GB/s | ||
| RX 7400 | 8 GB | 173 GB/s | ||
| Radeon 6000 PRO/RX (RDNA 2, 2021–2022) | PRO W6900X | 32 GB | 512 GB/s | |
| PRO W6800/X | 32 GB | 512 GB/s | ||
| PRO W6600X | 8 GB | 256 GB/s | ||
| PRO W6600 | 8 GB | 224 GB/s | ||
| PRO W6400 | 4 GB | 128 GB/s | ||
| PRO V620 | 32 GB | 512 GB/s | ||
| RX 6950 XT | 16 GB | 576 GB/s | ||
| RX 6900 XT/X | 16 GB | 512 GB/s | ||
| RX 6800/XT | 16 GB | 512 GB/s | ||
| RX 6750 XT | 12 GB | 432 GB/s | ||
| RX 6750 GRE 12 GB | 12 GB | ~384 GB/s | ||
| RX 6750 GRE 10 GB | 10 GB | 320 GB/s | ||
| RX 6700 XT | 12 GB | 384 GB/s | ||
| RX 6700 | 10 GB | 320 GB/s | ||
| RX 6650 XT | 8 GB | 288 GB/s | ||
| RX 6600 XT | 8 GB | 256 GB/s | ||
| RX 6600 | 8 GB | 224 GB/s | ||
| RX 6500 XT | 4/8 GB | 144 GB/s | ||
| RX 6400 | 4 GB | 128 GB/s | ||
| Radeon 5000 PRO/RX (RDNA 1, 2019–2020) | RX 5700/XT | 8 GB | 448 GB/s | |
| PRO W5700X | 16 GB | 448 GB/s | ||
| PRO W5700 | 8 GB | 448 GB/s | ||
| RX 5600/XT | 6 GB | ~288 GB/s | ||
| RX 5500 XT | 4/8 GB | 224 GB/s | ||
| RX 5500 | 4 GB | 224 GB/s | ||
| PRO W5500/X | 8 GB | 224 GB/s | ||
| PRO 5300 | 4 GB | 224 GB/s | ||
| RX 5300 XT | 4 GB | 112 GB/s | ||
| RX 5300 | 3 GB | 168 GB/s | ||
| Generación M5 | M5 | 12/16/24/32 GB | ~153 GB/s | |
| M5 Pro | 24/48/64 GB | ~307 GB/s | ||
| M5 Max (32-core GPU) | 36/48 GB | ~460 GB/s | ||
| M5 Max (40-core GPU) | 48/64/128 GB | ~614 GB/s | ||
| M5 Ultra | 96/256/512 GB | ~1200 GB/s | ||
| Generación M4 | M4 | 16/24/32 GB | ~120 GB/s | |
| M4 Pro | 24/48/64 GB | ~273 GB/s | ||
| M4 Max (32-core GPU) | 36/48 GB | ~410 GB/s | ||
| M4 Max (40-core GPU) | 48/64/128 GB | ~546 GB/s | ||
| Generación M3 | M3 | 8/16/24 GB | ~100 GB/s | |
| M3 Pro | 18/36 GB | ~150 GB/s* | ||
| M3 Max | 36/48/64 GB | ~300–408 GB/s | ||
| M3 Ultra | 96/256/512 GB | ~819 GB/s | ||
| Generación M2 | M2 | 8/16/24 GB | ~100 GB/s | |
| M2 Pro | 16/32 GB | ~204 GB/s | ||
| M2 Max | 32/64/96 GB | ~409 GB/s | ||
| M2 Ultra | 64/128/192 GB | ~819 GB/s | ||
| Generación M1 | M1 | 8/16 GB | ~68 GB/s | |
| M1 Pro | 16/32 GB | ~204 GB/s | ||
| M1 Max | 32/64 GB | ~409 GB/s | ||
| M1 Ultra | 64/128 GB | ~819 GB/s | ||
| Pro (2025–2026) | Arc Pro B70 | 32 GB | 608 GB/s | |
| Arc Pro B65 | 32 GB | 608 GB/s | ||
| Arc Pro B60 | 24 GB | 456 GB/s | ||
| Arc Pro B50 | 16 GB | 224 GB/s | ||
| Battlemage (2024–2025) | Arc B580 | 12 GB | 456 GB/s | |
| Arc B570 | 10 GB | 380 GB/s | ||
| Alchemist (2022) | Arc A770 | 8/16 GB | 560 GB/s | |
| Arc A750 | 8 GB | 512 GB/s | ||
| Arc A580 | 8 GB | 512 GB/s | ||
| Arc A380 | 6 GB | 186 GB/s | ||
| Inferencia con RAM/CPU | Ryzen 9 9950X | DDR5-6000 | 96 GB/s | |
| Ryzen 7 7800X3D | DDR5-6000 | 96 GB/s | ||
| Ryzen 7 5800X | DDR4-3600 | 58 GB/s | ||
| Ryzen 5 3600 | DDR4-3200 | 51 GB/s | ||
| Servidores | AMD Ryzen AI Max+ PRO | 192 GB | ~273 GB/s | |
| AMD Ryzen AI Halo | 128 GB | ~256 GB/s | ||
| NVIDIA DGX Spark | 128 GB | ~273 GB/s | ||