¿Cuánta memoria Mac necesitas para ejecutar LLMs locales?

El nuevo Mac Studio de Apple llega hasta 512GB de memoria unificada. El enfoque de la prensa es que esto pone modelos de escala frontera sobre un escritorio. Eso es cierto en términos generales, y también es la respuesta a una pregunta que la mayoría de las personas que compran un Mac no se están haciendo.

La pregunta que realmente se hacen es más concreta y más útil: dado lo que quiero ejecutar, ¿cuánta memoria necesito comprar en realidad? La memoria unificada está soldada al paquete del chip. Tienes una sola oportunidad de responder esto, en el momento de pagar, para toda la vida útil del equipo.

La buena noticia es que se trata de aritmética, no de opinión. Este artículo hace esa aritmética.

Puntos clave

• Dos números lo deciden todo. La capacidad de memoria decide si un modelo carga o no. El ancho de banda de memoria decide qué tan rápido genera texto. Son independientes, y un equipo puede ser fuerte en uno y débil en el otro.
• Estima el peso de los modelos como parámetros × bytes por parámetro. Con cuantización de 4 bits eso es aproximadamente 0.55 bytes por parámetro, así que un modelo de 70B necesita cerca de 38GB antes de contar el contexto.
• macOS no deja que la GPU use toda tu RAM. Hay un límite no documentado controlado por iogpu.wired_limit_mb. En un Mac de 32GB no obtienes 32GB para el modelo.
• Las cifras destacadas de IA de Apple describen el procesamiento del prompt, no la generación de texto. Tienen cuellos de botella distintos. Lee la redacción con cuidado.
• La capacidad del M5 Ultra no es nueva. El M3 Ultra ya ofrecía 512GB en 2025. Lo que cambió fue el ancho de banda: de 819GB/s a 1.2TB/s.

Los dos números

Casi toda mala decisión de compra de un Mac para IA viene de reducir estos dos números a uno solo.

La capacidad es un muro. Si el modelo más su contexto no cabe en memoria, no se ejecuta. No hay una degradación elegante en Apple silicon como la que existe con una GPU discreta que puede desbordarse hacia la RAM del sistema — en un Mac, la memoria unificada es la RAM del sistema, y una vez que superas lo que macOS le entregará a la GPU, o falla la carga o caes a algo mucho más lento.

El ancho de banda es un límite de velocidad. Para generar un token, un modelo denso lee todo su conjunto de pesos desde memoria. En cada token. Eso significa que el techo teórico de la velocidad de generación es el ancho de banda de memoria dividido entre el tamaño del modelo, y ninguna cantidad de núcleos de GPU lo cambia.

Por eso un equipo puede alojar un modelo de 200GB y aun así sentirse inutilizable, y por eso un modelo pequeño en un equipo modesto puede sentirse instantáneo.

Capacidad: qué cabe

Los pesos son el costo dominante, y son predecibles:

memory for weights ≈ parameters × bytes per parameter

Los bytes por parámetro dependen de la cuantización:

Precisión	Bytes por parámetro	Uso típico
FP16 / BF16	2.0	Entrenamiento, fidelidad máxima
8 bits (Q8)	~1.0	Inferencia casi sin pérdida
4 bits (Q4_K_M)	~0.55	El valor por defecto práctico
3 bits	~0.42	Pérdida de calidad notable

Los K-quants de 4 bits promedian un poco más de 4 bits una vez que se incluyen los metadatos de escala, por eso 0.55 y no 0.50 es la cifra honesta. Aplicándolo:

Tamaño del modelo	4 bits	8 bits	FP16
8B	4.4 GB	8 GB	16 GB
14B	7.7 GB	14 GB	28 GB
32B	17.6 GB	32 GB	64 GB
70B	38.5 GB	70 GB	140 GB
120B	66 GB	120 GB	240 GB
235B	129 GB	235 GB	—
400B	220 GB	400 GB	—
671B	369 GB	671 GB	—

Después suma el contexto

La KV cache guarda las claves y valores de atención de cada token de la conversación, y crece linealmente con la longitud del contexto. Su tamaño por token varía mucho según la arquitectura — los modelos que usan grouped-query attention son mucho más económicos aquí que los diseños más antiguos — pero un rango razonable es de 0.1 MB a 0.5 MB por token.

Con 32,000 tokens de contexto eso equivale aproximadamente a entre 3GB y 16GB adicionales sobre los pesos. Con 128,000 tokens puede superar al propio modelo.

Esta es la razón más común, con diferencia, por la que un modelo que «debería caber» no lo hace. Si planeas alimentarlo con documentos largos o sostener conversaciones extensas, presupuéstalo explícitamente en lugar de dimensionar solo por los pesos y esperar lo mejor.

La regla práctica

memory you need ≈ (weights) + (KV cache for your context) + 2–3 GB overhead

Y luego compáralo con lo que macOS realmente te va a entregar, que no es el número que viene en la caja.

El límite que nadie menciona

macOS reserva memoria unificada para el sistema y limita cuánta puede fijar («wire») la GPU. El control es un sysctl:

$ sysctl iogpu.wired_limit_mb
iogpu.wired_limit_mb: 0

Cero significa automático. Apple no documenta a qué se resuelve ese automático, y no voy a inventar una fórmula — pero la medición de la comunidad ubica ese valor consistentemente en algún punto entre el 65% y el 75% del total de memoria, con equipos más grandes a los que se les permite una proporción mayor.

La consecuencia práctica, en los equipos que podrías comprar:

Memoria instalada	Aproximadamente disponible para la GPU
16 GB	~10–12 GB
32 GB	~21–24 GB
64 GB	~42–48 GB
128 GB	~85–96 GB
512 GB	~340–384 GB

Puedes subirlo. Toma efecto de inmediato y no sobrevive a un reinicio:

# Allow the GPU to wire 28GB on a 32GB Mac
sudo sysctl iogpu.wired_limit_mb=28672

# Back to automatic
sudo sysctl iogpu.wired_limit_mb=0

Ten cuidado con esto. Todo lo que le quitas se lo quitas al sistema operativo y a cualquier otra aplicación. Si lo empujas demasiado cerca de tu total vas a caer en swapping, en el «beachball» o en un cierre por falta de memoria — y en un Mac con un SSD rápido, el swapping bajo presión de memoria también es una carga de escritura sostenida. Si has visto el diálogo System has run out of application memory, esta es una forma de llegar ahí.

Un límite razonable es la memoria total menos 6–8GB para macOS y tus otras aplicaciones. Configúralo, ejecuta tu modelo y observa la presión de memoria en Activity Monitor. Si en general estás viendo picos de presión, nuestra guía de gestión de memoria en Mac cubre el diagnóstico.

Ancho de banda: qué tan rápido responde

Aquí está la estimación que importa, y aquí está exactamente lo que es:

tokens per second ≈ (memory bandwidth × efficiency) ÷ weight size in bytes

La eficiencia representa la brecha entre el ancho de banda teórico máximo y lo que un motor de inferencia realmente alcanza — en Apple silicon con un runtime bien optimizado, aproximadamente entre 0.6 y 0.8. A continuación uso 0.7.

Estas son estimaciones calculadas a partir de cifras de ancho de banda publicadas, no benchmarks que yo haya ejecutado. Trátalas como el orden de magnitud correcto y el orden relativo correcto, no como mediciones. Los números reales varían según el runtime, la cuantización, la longitud del contexto y el comportamiento térmico.

Velocidad de generación para un modelo denso a 4 bits:

	M6 (170GB/s)	M5 Pro (307GB/s)	M5 Max (614GB/s)	M5 Ultra (1.2TB/s)
8B (4.4GB)	~27 tok/s	~49 tok/s	~98 tok/s	~190 tok/s
32B (17.6GB)	~7 tok/s	~12 tok/s	~24 tok/s	~48 tok/s
70B (38.5GB)	no cabe	~6 tok/s	~11 tok/s	~22 tok/s
120B (66GB)	no cabe	no cabe	~7 tok/s	~13 tok/s

Como referencia: una velocidad de lectura cómoda ronda los 10 tokens por segundo. Por debajo de unos 5, la mayoría de las personas deja de usar la herramienta.

Mira la fila de 32B. Es un solo modelo, y pasa de apenas tolerable a genuinamente rápido a lo largo del rango — sin ningún cambio en si cabe o no. Eso es ancho de banda, no capacidad, y es el eje que la gente olvida cuando compra el equipo más barato que técnicamente aloja el modelo.

Por qué los modelos MoE cambian la respuesta

Los modelos mixture-of-experts rompen la regla anterior, y esta es la razón completa por la que un equipo de 512GB resulta interesante.

Un modelo MoE almacena muchas subredes «expertas» pero activa solo unas pocas por token. Un modelo de 235B con 22B de parámetros activos debe alojar el equivalente a 235B en pesos, pero solo lee el equivalente a unos 22B para producir cada token.

Entonces:

• La capacidad está gobernada por los parámetros totales — 129GB a 4 bits.
• La velocidad está gobernada por los parámetros activos — como un modelo denso de 22B, así que aproximadamente 40 tok/s en un M5 Ultra en lugar de los ~9 tok/s que lograría un modelo denso de 235B.

Esta es la asimetría que hace que los modelos MoE grandes sean prácticos en Apple silicon de una forma en que no lo son en una GPU de consumo: necesitas la capacidad, que Apple vende como nadie más a este precio, y obtienes una velocidad proporcional a un modelo mucho más pequeño.

Por eso «512GB ejecuta modelos de frontera» es cierto pero incompleto. Ejecuta modelos de frontera sparse a una velocidad utilizable. Un hipotético modelo denso de 400B a 4 bits ocuparía 220GB y generaría alrededor de 4 tokens por segundo en un M5 Ultra. Cabe. No lo disfrutarías.

El procesamiento del prompt es un problema distinto

Lee con precisión las afirmaciones de Apple para el nuevo Mac mini:

Hasta 4.8 veces más rápido en procesamiento de prompts LLM frente al M4 Hasta 13.5 veces más rápido en procesamiento de prompts LLM frente al M1

El procesamiento del prompt — el prefill — es la fase en la que el modelo ingiere lo que le diste. Cada token de tu entrada se procesa en paralelo, lo que lo hace limitado por cómputo: escala con el rendimiento de la GPU, con los Neural Accelerators ahora integrados en cada núcleo de GPU, y en el M6 con el primer Neural Engine dual que Apple ha lanzado.

La generación de tokens — el decode — ocurre un token a la vez, cada uno requiriendo un recorrido completo por los pesos. Está limitada por ancho de banda, y ninguna cantidad de cómputo lo arregla.

Apple eligió anunciar la mitad limitada por cómputo. Eso no es engañoso; es genuinamente la mitad que más mejoró en esta generación. Pero significa que las cifras de marketing describen qué tan rápido el equipo lee tu documento de 50 páginas, no qué tan rápido escribe el resumen.

Cuál te importa depende de tu trabajo:

• Entradas largas, salidas cortas — resumir documentos, clasificar, extraer información de una base de código — está dominado por el prefill. Las cifras de Apple aplican.
• Entradas cortas, salidas largas — redacción, chat, generación de código — está dominado por el decode. El ancho de banda es tu número.
• Entradas largas y salidas largas — flujos de trabajo agénticos sobre un contexto grande — necesitan ambos, y necesitan capacidad para la KV cache además.

Qué cambió realmente con el M5 Ultra

Parte de la cobertura del lanzamiento dio a entender que alojar un modelo de frontera en un escritorio es algo nuevo. No lo es, y entenderlo bien cambia la decisión de actualizar para cualquiera que ya tenga un Mac Studio.

	M3 Ultra (2025)	M5 Ultra (2026)
Memoria unificada máxima	512GB	512GB
Ancho de banda de memoria	819GB/s	1.2TB/s
Núcleos de GPU	hasta 80	hasta 80
Núcleos de CPU	32	hasta 36

La capacidad no cambió. El número de núcleos de GPU no cambió. El ancho de banda subió cerca de 1.47x, y la CPU ganó cuatro núcleos.

Esto encaja exactamente con las propias comparaciones de Apple frente al M3 Ultra — «hasta 1.3 veces más rendimiento multihilo» y «hasta 1.8 veces gráficos más rápidos» son cifras modestas, y la gran afirmación de Apple, «hasta 4.3 veces el rendimiento máximo de cómputo de IA», proviene de los Neural Accelerators ahora integrados en cada núcleo de GPU, no de núcleos más numerosos o más grandes.

Así que, para la inferencia local en concreto:

• La velocidad de generación mejora aproximadamente en línea con el ancho de banda — llamémoslo un 1.4x más o menos en el mismo modelo.
• El procesamiento del prompt mejora mucho más, en línea con esa cifra de 4.3x en cómputo de IA.
• Lo que puedes cargar no cambió.

Si tienes un Mac Studio M3 Ultra con 512GB y tu limitante es qué modelos caben, esta generación no resuelve un problema que tengas. Si tu limitante es esperar a que se procesen prompts largos, sí lo aborda directamente. Nuestra guía de rendimiento del Mac Studio M4 Max y M3 Ultra cubre en detalle la generación anterior.

Una nota de calendario más que vale la pena conocer antes de ordenar: la configuración de 512GB no se envía el 22 de septiembre junto con todo lo demás. Apple la tiene prevista para llegar a finales de octubre.

Qué equipo, según lo que realmente haces

16GB — no es para esto

Tienes aproximadamente 10–12GB disponibles para la GPU. Eso ejecuta modelos de 8B a 4 bits con contexto modesto y nada más grande. Está bien para modelos de clase autocompletado y asistentes locales pequeños, y te va a frustrar con cualquier otra cosa. En 2026, 16GB es un equipo que hace bien otras cosas y ejecuta LLMs de forma incidental.

32GB (M6 Mac mini, tope de gama — $1,299) — el punto de entrada

Alrededor de 21–24GB con los que trabajar. Esto ejecuta modelos de 8B y 14B con comodidad, y un modelo de 32B a 4 bits con contexto corto, a unos 7 tokens por segundo. Esa última cifra es el límite honesto: cabe, pero al borde de lo agradable.

Bueno para: asistentes de código locales, trabajo con documentos privados, aprender las herramientas. La actualización de $400 desde 16GB no es opcional si los modelos locales son una razón por la que estás comprando el equipo.

64GB (M5 Pro Mac mini — $1,699+) — el punto óptimo para la mayoría

Alrededor de 42–48GB disponibles, y 307GB/s. Un modelo de 70B a 4 bits cabe con margen para contexto real, generando cerca de 6 tokens por segundo — utilizable para trabajo por lotes, lento para chat interactivo. Un modelo de 32B corre a aproximadamente 12 tokens por segundo, lo cual es cómodo.

Aquí es donde aterriza la mayor parte del uso serio de modelos locales, y es la configuración que recomendaría a la mayoría de las personas. También trae Thunderbolt 5, algo que el M6 mini no tiene.

128GB (M5 Max Mac Studio — $2,499+) — el nivel profesional

Alrededor de 85–96GB disponibles a 614GB/s. Un modelo de 70B a 4 bits corre a aproximadamente 11 tokens por segundo, cómodamente interactivo. Los modelos de clase 120B caben. Los modelos MoE de tamaño medio se vuelven prácticos.

Esta es la configuración para alguien cuyo trabajo depende de la inferencia local a diario — el ancho de banda aproximadamente duplica la velocidad de generación del M5 Pro en el mismo modelo.

512GB (M5 Ultra Mac Studio — $5,499+, más de $18,000 con todo configurado) — capacidad que no puedes comprar en otro lado

Alrededor de 340–384GB disponibles a 1.2TB/s. Esto aloja modelos MoE de clase 400B a 4 bits y genera a la velocidad de su cantidad de parámetros activos, que es lo específico que ningún otro escritorio hace a este precio.

Compra esto si estás limitado por capacidad de una forma que nada más resuelve. Si tus modelos caben en 128GB, el Ultra te compra velocidad que puedes obtener más barata.

Si no vas a comprar un Mac nuevo

Un Mac M1/M2/M3/M4 existente con memoria adecuada ejecuta modelos locales sin problema — el ancho de banda en los niveles Pro y Max ha sido bueno durante varias generaciones. Revisa tus propios números:

# Total memory in GB
echo "$(( $(sysctl -n hw.memsize) / 1073741824 )) GB"

# Chip and current GPU wired limit
sysctl -n machdep.cpu.brand_string
sysctl iogpu.wired_limit_mb

Después aplica las tablas de arriba. Un M1 Max de 64GB a 400GB/s es un equipo de inferencia local perfectamente bueno, y siempre lo fue.

Un ejemplo resuelto

Las tablas abstractas son fáciles de asentir y difíciles de convertir en acción. Aquí está el razonamiento aplicado a un caso concreto.

El requisito: un asistente de código privado que lee una base de código moderadamente grande, sostiene un contexto de 32,000 tokens y responde de forma interactiva. Quieres un modelo de clase 32B porque los más pequeños son notablemente peores en código.

Paso 1 — pesos. 32B a 4 bits: 32 × 0.55 = 17.6GB.

Paso 2 — contexto. 32,000 tokens a aproximadamente 0.2 MB por token para un modelo moderno con grouped-query attention: unos 6.4GB. Este es el término que la gente olvida, y aquí representa más de un tercio del tamaño de los pesos.

Paso 3 — overhead. Runtime, buffers de Metal, tokenizador: 2–3GB.

Total: aproximadamente 26–27GB que deben quedar fijados («wired») para la GPU.

Paso 4 — traducir a memoria instalada. Con un techo automático de ~70%, 27GB fijados requieren cerca de 38GB instalados. Un Mac de 32GB te da 21–24GB automáticamente — no alcanza. Podrías subir iogpu.wired_limit_mb a 27GB en un equipo de 32GB, lo que deja 5GB para macOS y todo lo demás. Eso funcionará mientras no haya nada más corriendo y se vendrá abajo en el momento en que abras un navegador.

Conclusión: 64GB instalados. Lo que aterriza en el Mac mini M5 Pro, no en el M6.

Paso 5 — revisar la velocidad. 307GB/s × 0.7 ÷ 17.6GB ≈ 12 tokens por segundo. Cómodo para uso interactivo.

Ahora cambia una variable. Deja todo lo demás igual y pide un contexto de 128,000 tokens: la KV cache sube a aproximadamente 25GB, la demanda total a unos 45GB, y la memoria instalada requerida a 64GB como mínimo con el límite fijado elevado — o 128GB para estar cómodo. Un solo ajuste movió la respuesta un nivel entero de producto.

Ese es todo el método. Pesos, contexto, overhead, dividir entre el techo, y luego verificar el ancho de banda contra el tamaño de los pesos.

Los runtimes no se comportan todos igual

La aritmética de arriba describe el hardware. Lo que realmente observas depende del software, y las diferencias son lo bastante grandes como para cambiar una decisión de compra.

MLX es el propio framework de arrays de Apple, construido para memoria unificada. No copia entre «memoria de CPU» y «memoria de GPU» porque en Apple silicon esa distinción no existe, y en general es la opción más eficiente en memoria en un Mac. Si estás comprando hardware específicamente para inferencia local, las herramientas basadas en MLX son las que hacen que el hardware luzca bien.

llama.cpp, y las herramientas construidas sobre él, es la opción más portable y tiene un excelente soporte de Metal. Sus formatos de cuantización — la familia Q4_K_M que asumen las tablas de arriba — son el estándar de facto, y su comportamiento de memoria es predecible y está bien documentado.

Ollama envuelve a llama.cpp con gestión de modelos. Es cómodo, y lo que hay que saber es que mantiene los modelos residentes en memoria después de usarlos durante un período configurable. Si estás cerca de tu límite, un modelo que terminaste de usar hace una hora puede seguir ocupando memoria. Esa es una causa frecuente del «ayer funcionaba».

LM Studio es la opción gráfica y es honesta con la memoria, mostrándote qué va a caber y qué no antes de cargarlo. Es una buena forma de desarrollar intuición sobre estos números sin hacer aritmética.

Dos comportamientos importan sin importar cuál uses:

1. Si la KV cache se preasigna. Algunos runtimes reservan toda la ventana de contexto al momento de cargar; otros la hacen crecer conforme avanza la conversación. La preasignación significa que un modelo que en la práctica funcionaría falla al cargar. Si un modelo se niega a cargar con 128K pero carga con 8K, esta es la razón — y bajar el contexto configurado es la solución, no un modelo más pequeño.
2. Si los modelos sin uso se descargan. Revisa la configuración de keep-alive de tu runtime antes de concluir que tu equipo es demasiado pequeño.

Cómo comprar margen sin comprar memoria

Antes de gastar $400 en un nivel de memoria superior, varias técnicas cambian la aritmética.

Cuantiza más agresivamente. Bajar de 8 bits a 4 bits reduce a la mitad tu requisito de memoria con una pérdida de calidad modesta. Casi siempre es un mejor intercambio que pasar a un modelo más pequeño con mayor precisión — un modelo de 32B a 4 bits generalmente supera a un modelo de 14B a 8 bits, con memoria similar.

Cuantiza la KV cache. La mayoría de los runtimes pueden almacenar la KV cache a 8 bits o menos. En contextos largos, donde la cache rivaliza con los pesos, este es el mayor ahorro disponible por sí solo y el costo en calidad es pequeño.

Ajusta el contexto al tamaño correcto. Una ventana de contexto de 128K de la que solo usas 4,000 tokens sigue costando el precio completo en runtimes que preasignan. Configura el contexto que realmente usas.

Prefiere modelos MoE. Como se cubrió arriba, un modelo mixture-of-experts te da la calidad de un modelo grande a la velocidad de generación de uno pequeño. El costo es capacidad, que es exactamente de lo que un Mac tiene más que las alternativas.

Usa decodificación especulativa. Un modelo «borrador» pequeño propone varios tokens y el modelo grande los verifica en un solo paso. Como la verificación es paralela, esto ataca directamente el cuello de botella del ancho de banda y puede aumentar de forma significativa los tokens por segundo — al costo de mantener un segundo modelo, pequeño, en memoria. En un equipo limitado por ancho de banda pero con capacidad de sobra, es un buen intercambio.

Cierra cosas. Obvio, y aun así, la respuesta sorprendentemente a menudo. Navegadores con muchas pestañas, máquinas virtuales y editores de video compiten todos por el mismo fondo común. No hay una VRAM separada a la que recurrir.

Solución de problemas comunes

El modelo carga pero la generación es extremadamente lenta

Problema: Has superado lo que macOS le va a entregar a la GPU, y el trabajo se está desbordando a swap. Los síntomas son un primer token que tarda muchos segundos y una generación que avanza a tirones en lugar de fluir de manera uniforme.

Solución: Revisa la presión de memoria en Activity Monitor mientras genera. Si está en amarillo o rojo, usa una cuantización menor, reduce tu ventana de contexto, o sube iogpu.wired_limit_mb — dejando al menos 6–8GB para el sistema. Si la presión está en verde y aun así va lento, simplemente estás limitado por ancho de banda y la solución es un modelo más pequeño.

«System has run out of application memory»

Problema: Generalmente un límite fijado configurado de forma demasiado agresiva, o un contexto grande que creció durante una sesión larga.

Solución: Restablece con sudo sysctl iogpu.wired_limit_mb=0 y reinicia el proceso de inferencia. Reinicia el equipo si el sistema sigue incómodo — el ajuste no es persistente, así que un reinicio lo borra de todas formas. Las causas relacionadas se cubren en nuestra guía de solución de fugas de memoria.

Cabe en el papel pero falla al cargar

Problema: Dimensionaste solo por los pesos y olvidaste la KV cache, o el runtime está asignando todo el contexto por adelantado en lugar de hacerlo crecer.

Solución: Baja la longitud del contexto en la configuración de tu runtime e inténtalo de nuevo. Si un contexto de 32K carga y uno de 128K no, eso confirma el diagnóstico, y la aritmética de la sección de capacidad te dice cuánto necesitas para el contexto que quieres.

El Mac se calienta y se ralentiza en una sesión larga

Problema: La inferencia sostenida es una carga sostenida tanto para la GPU como para la memoria. Los laptops hacen throttling. Los equipos de escritorio, en su mayoría, no.

Solución: Este es uno de los argumentos reales a favor de un Mac mini o Mac Studio sobre un MacBook para este tipo de carga de trabajo — margen térmico sostenido. En un laptop, revisa nuestra guía de throttling térmico del MacBook Pro M5.

Procesamiento de prompt rápido, generación lenta

Problema: No hay nada mal. Esta es la forma esperada del hardware.

Solución: Revisa la sección de prefill contra decode más arriba. Si lo que necesitas es velocidad de generación, la solución es un modelo más pequeño, una cuantización más agresiva, un modelo MoE con un número pequeño de parámetros activos, o más ancho de banda — en ese orden de costo.

Preguntas frecuentes

¿Cuánta RAM necesito para ejecutar un modelo de 70B?

Con cuantización de 4 bits los pesos son de unos 38.5GB. Suma contexto y overhead y quieres 64GB instalados como mínimo realista, porque macOS solo le va a entregar a la GPU aproximadamente 42–48GB de eso. 48GB instalados es demasiado justo en cuanto incluyes cualquier contexto significativo.

¿Bastan 16GB para IA local en 2026?

Para modelos de 8B a 4 bits con contexto corto, sí. Para cualquier cosa más grande, no. Si los modelos locales son una razón por la que estás comprando el equipo, trata 32GB como el piso y 64GB como el objetivo.

¿El Neural Engine acelera los LLMs locales?

Contribuye al procesamiento del prompt, que es de donde viene la cifra de Apple de «4.8 veces más rápido en procesamiento de prompts LLM», y el Neural Engine dual de 16 núcleos del M6 es un avance real. No cambia el límite de ancho de banda en la generación de tokens. La mayoría de los runtimes de inferencia local populares en Mac se apoyan principalmente en la GPU vía Metal.

¿Debería comprar el Mac Studio de 512GB?

Solo si estás limitado por capacidad. Si los modelos que realmente ejecutas caben en 128GB, un Mac Studio M5 Max hace el mismo trabajo por un tercio del precio. También ten en cuenta que la opción de 512GB no se envía hasta finales de octubre, y el equipo totalmente configurado llega a $18,299.

¿Puedo agregar memoria después?

No. La memoria unificada es parte del paquete del chip en todo Mac con Apple silicon. Esta es la especificación que más vale la pena sobredimensionar al comprar, porque es la única que nunca podrás revisar después.

¿Un Mac es mejor que una PC con GPU discreta para esto?

Son compromisos distintos. Una GPU discreta tiene un ancho de banda de memoria mucho mayor pero muchísima menos memoria — las tarjetas de consumo se quedan cortas frente a lo que ofrece un Mac Studio. Un Mac gana de forma decisiva en capacidad por dólar y en consumo eléctrico, y pierde en rendimiento bruto para modelos lo bastante pequeños como para caber en la VRAM. Si tus modelos son grandes, el Mac suele ser la única opción de un solo equipo. Si son pequeños, una GPU es más rápida.

¿La cuantización perjudica la calidad?

8 bits está cerca de no tener pérdida para la mayoría de los propósitos. Los K-quants de 4 bits son el valor por defecto práctico y la degradación es modesta para la mayoría de las tareas. Por debajo de 4 bits, la calidad cae de forma notable. Dado lo que muestran las tablas de memoria de arriba, bajar de 8 bits a 4 bits reduce aproximadamente a la mitad tu requisito de memoria — usualmente un mejor intercambio que pasar a un modelo más pequeño.

Conclusión

El titular de los 512GB es real, y para un número pequeño de personas es decisivo. Para todos los demás, la versión útil de este artículo son tres líneas de aritmética: los pesos son parámetros por bytes por parámetro, el contexto suma entre 0.1 y 0.5 MB por token encima de eso, y macOS solo le da a la GPU aproximadamente el 65–75% de lo que compraste.

Corre esos números contra los modelos que realmente piensas usar y la respuesta suele aterrizar en 64GB. Después revisa el segundo número — el ancho de banda — porque decide si el modelo que cabe es un modelo que vas a seguir usando. La brecha entre un modelo de 32B a 7 tokens por segundo y el mismo modelo a 24 tokens por segundo es la brecha entre una demo y una herramienta, y ninguna cantidad de capacidad la cierra.

Y elijas lo que elijas, elige con cuidado. Está soldado.

Lecturas relacionadas: Mac mini M6 y Mac Studio M5 Ultra: qué cambió realmente, apps de IA local en Mac y qué hacen con tus datos, y los precios de RAM de Mac están subiendo en 2026.