PC para IA local

Para usar modelos de lenguaje en tu propio ordenador, sin mandar tus documentos a nadie. Lo que decide qué modelo puedes usar y a qué velocidad es la memoria de la tarjeta gráfica (VRAM), no el procesador.

Te lo proponemos con el stock de hoy

1. ¿Para qué lo quieres?
2. ¿Cuánto quieres gastar?
2.200 €

Con IVA.

3. ¿Algo más?

Mirando el stock de hoy…

Lo primero: que el modelo quepa en la gráfica

Un modelo va rápido solo si cabe entero en la VRAM, con algo de sitio para la conversación (el «contexto»). Si no cabe, el programa (Ollama, LM Studio) reparte el modelo entre la gráfica y la memoria del PC, y la parte que queda fuera manda: la memoria del PC es entre cuatro y diez veces más lenta que la de la gráfica.

Por eso, con el mismo dinero, para IA compensa más una gráfica con 16 GB que una más rápida con 8 o 12 GB. Los tamaños de la tabla son los de la descarga de Ollama con cuantización de 4 bits, que es la que usa casi todo el mundo; sumamos 1,5 GB para el contexto.

Y luego, la velocidad: el ancho de banda

Para escribir cada palabra (token), el modelo tiene que leerse entero de la memoria. La velocidad sale de dividir el ancho de banda de la memoria de la gráfica entre lo que pesa el modelo, y multiplicar por la eficiencia real del programa, que medida con llama.cpp va de 0,62 a 0,80 según la gráfica. Es una estimación, no una prueba de tu PC, y por eso la damos en rango.

Para leer cómodo bastan unos 8–10 tokens por segundo; por encima de 30 el texto sale más rápido de lo que lo lees.

NVIDIA o AMD

Ollama y LM Studio funcionan con las dos. NVIDIA (CUDA) es lo que da menos guerra si además quieres generar imágenes, entrenar o usar programas de IA menos conocidos. AMD suele dar más VRAM por el mismo dinero, que para modelos de texto es lo que más pesa.

Memoria y disco

32 GB de RAM como mínimo; 64 GB si vas a probar modelos que no caben en la gráfica, porque la parte que no cabe va a la RAM. Disco NVMe de 2 TB: cada modelo ocupa de 2 a 43 GB y se acaban acumulando.

Si es para una empresa (documentos internos, varios usuarios, copias), mira nuestro servicio de IA privada: además del equipo, lo dejamos instalado y configurado.

IA privada para empresas · PCs de la gama ya pensados para IA

Qué gráfica pide cada modelo
Modelo (Ollama)DescargaVRAM que pide
Llama 3.2 3BResúmenes y correos cortos2 GBGráfica de 8 GB
Llama 3.1 8BAsistente general en español4,9 GBGráfica de 8 GB
Gemma 3 12BRedactar, analizar documentos e imágenes8,2 GBGráfica de 12 GB
Qwen 2.5 14BProgramación y razonamiento9 GBGráfica de 12 GB
Mistral Small 24BCalidad cercana a los de pago14 GBGráfica de 16 GB
Qwen 2.5 32BLo mejor que cabe en 24 GB20 GBGráfica de 24 GB
Llama 3.3 70BNivel de los grandes; pide 48 GB o más43 GB48 GB (dos gráficas o una profesional)

Descarga con cuantización de 4 bits (ollama.com/library). «VRAM que pide» suma 1,5 GB de contexto.

Velocidad estimada por gráfica
GráficaLlama 3.1 8BEl mayor que cabe
GeForce RTX 306012 GB · 360 GB/s50–60 tok/sQwen 2.5 14B25–30 tok/s
Intel Arc B58012 GB · 456 GB/s60–75 tok/sQwen 2.5 14B35–40 tok/s
GeForce RTX 507012 GB · 672 GB/s80–100 tok/sQwen 2.5 14B45–55 tok/s
Radeon RX 9060 XT16 GB · 322 GB/s45–55 tok/sMistral Small 24B15–18 tok/s
GeForce RTX 5060 Ti16 GB · 448 GB/s60–75 tok/sMistral Small 24B20–25 tok/s
Radeon RX 907016 GB · 645 GB/s80–95 tok/sMistral Small 24B25–35 tok/s
Radeon RX 9070 XT16 GB · 645 GB/s80–95 tok/sMistral Small 24B25–35 tok/s
GeForce RTX 5070 Ti16 GB · 896 GB/s110–130 tok/sMistral Small 24B40–45 tok/s
GeForce RTX 508016 GB · 960 GB/s115–140 tok/sMistral Small 24B40–50 tok/s
GeForce RTX 509032 GB · 1792 GB/s185–225 tok/sQwen 2.5 32B45–55 tok/s

Estimación: ancho de banda ÷ tamaño del modelo × eficiencia medida con llama.cpp (0,62–0,80). No es una prueba de un PC concreto.

Preguntas

¿Funciona sin internet?
Sí. Una vez descargado el modelo, Ollama o LM Studio funcionan sin conexión y lo que escribes no sale de tu ordenador.
¿Puedo usar un modelo como los de pago?
Los de 24–32B (Mistral Small, Qwen 2.5 32B) se acercan para muchas tareas, y piden 16–24 GB de VRAM. Los de 70B necesitan dos gráficas o una profesional de 48 GB.
¿Las cifras de tokens por segundo están medidas en vuestro taller?
No: son una estimación con un cálculo público (ancho de banda de la gráfica ÷ tamaño del modelo × eficiencia medida con llama.cpp). Lo explicamos al lado de cada cifra.

Qué comprobamos

Las características salen de la ficha de cada pieza del proveedor. Lo que no se puede montar no se puede pedir; lo que la ficha no dice no lo damos por bueno: sale como «lo comprobamos al montar».

Procesador y placa
Mismo socket (AM4, AM5, LGA1700 o LGA1851). Si la placa necesita BIOS nueva para tu procesador, la actualizamos en el taller.
Memoria
DDR4 o DDR5 según la placa, siempre de sobremesa (las de portátil no entran) y en dos módulos para el doble canal.
Gráficos
Si el procesador no tiene gráficos integrados, sin tarjeta gráfica no hay imagen: no te dejamos pedirlo así.
Refrigeración
Si el procesador no trae disipador, hay que poner uno; si lo trae pero se queda corto para su consumo, te lo decimos.
Fuente
Sumamos el consumo máximo de procesador y gráfica, añadimos un 40 % de margen y lo comparamos con lo que pide el fabricante de la gráfica.
Caja
Que admita el tamaño de la placa; las de sobremesa, solo con gráficas de perfil bajo. La longitud de la gráfica la medimos al montar, porque el proveedor no la publica.