Quanta Memória o Mac Precisa para Rodar LLMs Locais?

O novo Mac Studio da Apple chega a 512GB de memória unificada. O enquadramento da imprensa é que isso coloca modelos de escala de fronteira em cima da mesa. Isso é, em linhas gerais, verdade — e também é a resposta a uma pergunta que a maioria das pessoas que compra um Mac não está fazendo.

A pergunta que elas estão fazendo é mais específica e mais útil: dado o que eu quero rodar, quanta memória eu realmente preciso comprar? A memória unificada vem soldada ao encapsulamento do chip. Você tem uma única chance de responder isso, no momento da compra, para toda a vida útil da máquina.

A boa notícia é que isso é aritmética, não uma questão de opinião. Este artigo faz essa aritmética.

Principais Conclusões

• Dois números decidem tudo. A capacidade de memória decide se um modelo consegue carregar. A largura de banda de memória decide a velocidade com que ele gera texto. Elas são independentes, e uma máquina pode ser forte em uma e fraca na outra.
• Estime os pesos como parâmetros × bytes por parâmetro. Na quantização de 4 bits isso equivale a aproximadamente 0.55 bytes por parâmetro, então um modelo de 70B precisa de cerca de 38GB antes do contexto.
• O macOS não deixa a GPU usar toda a sua RAM. Existe um teto não documentado controlado por iogpu.wired_limit_mb. Em um Mac de 32GB você não tem 32GB disponíveis para o modelo.
• Os números de destaque de IA da Apple descrevem o processamento de prompt, não a geração de texto. Essas duas etapas têm gargalos diferentes. Leia a redação com atenção.
• A capacidade do M5 Ultra não é novidade. O M3 Ultra já oferecia 512GB em 2025. O que mudou foi a largura de banda: de 819GB/s para 1.2TB/s.

Os Dois Números

Quase toda decisão ruim de compra de um Mac para IA vem de tratar esses dois números como se fossem um só.

A capacidade é uma parede. Se o modelo mais o seu contexto não couber na memória, ele não roda. Não existe degradação suave no Apple silicon como existe em uma GPU discreta, que pode transbordar para a RAM do sistema — em um Mac, a memória unificada é a RAM do sistema, e assim que você excede o que o macOS vai entregar à GPU, ou o carregamento falha, ou você cai para algo muito mais lento.

A largura de banda é um limite de velocidade. Para gerar um token, um modelo denso lê todo o seu conjunto de pesos a partir da memória. A cada token. Isso significa que o teto teórico de velocidade de geração é a largura de banda de memória dividida pelo tamanho do modelo, e nenhuma quantidade de núcleos de GPU muda isso.

É por isso que uma máquina pode comportar um modelo de 200GB e ainda assim parecer inutilizável, e por que um modelo pequeno em uma máquina modesta pode parecer instantâneo.

Capacidade: O Que Cabe

Os pesos são o custo dominante, e são previsíveis:

memory for weights ≈ parameters × bytes per parameter

Bytes por parâmetro depende da quantização:

Precisão	Bytes por parâmetro	Uso típico
FP16 / BF16	2.0	Treinamento, fidelidade máxima
8-bit (Q8)	~1.0	Inferência quase sem perdas
4-bit (Q4_K_M)	~0.55	O padrão prático
3-bit	~0.42	Perda de qualidade perceptível

Os K-quants de 4 bits ficam, na média, um pouco acima de 4 bits quando você inclui os metadados de escala, e é por isso que o número honesto é 0.55, e não 0.50. Aplicando isso:

Tamanho do modelo	4-bit	8-bit	FP16
8B	4.4 GB	8 GB	16 GB
14B	7.7 GB	14 GB	28 GB
32B	17.6 GB	32 GB	64 GB
70B	38.5 GB	70 GB	140 GB
120B	66 GB	120 GB	240 GB
235B	129 GB	235 GB	—
400B	220 GB	400 GB	—
671B	369 GB	671 GB	—

Depois, some o contexto

O KV cache armazena as chaves e valores de atenção de cada token da conversa, e cresce linearmente com o comprimento do contexto. O tamanho por token varia bastante conforme a arquitetura — modelos que usam grouped-query attention são bem mais baratos nesse quesito do que designs mais antigos — mas uma faixa razoável é 0.1 MB a 0.5 MB por token.

Com 32.000 tokens de contexto isso equivale a aproximadamente 3GB a 16GB além dos pesos. Com 128.000 tokens, pode superar o próprio modelo.

Esse é o motivo isolado mais comum para um modelo que "deveria caber" não caber. Se você planeja alimentá-lo com documentos longos ou manter conversas longas, reserve memória para isso explicitamente, em vez de dimensionar só pelos pesos e torcer.

A regra prática

memory you need ≈ (weights) + (KV cache for your context) + 2–3 GB overhead

E depois compare isso com o que o macOS realmente vai lhe dar, que não é o número da caixa.

O Teto Que Ninguém Menciona

O macOS reserva memória unificada para o sistema e limita quanto a GPU pode "fixar" (wire). O controle é um sysctl:

$ sysctl iogpu.wired_limit_mb
iogpu.wired_limit_mb: 0

Zero significa automático. A Apple não documenta para que valor esse automático se resolve, e eu não vou inventar uma fórmula — mas medições da comunidade colocam esse valor consistentemente em algo entre 65–75% da memória total, com máquinas maiores tendo direito a uma fatia maior.

A consequência prática, nas máquinas que você poderia comprar:

Memória instalada	Aproximadamente disponível para a GPU
16 GB	~10–12 GB
32 GB	~21–24 GB
64 GB	~42–48 GB
128 GB	~85–96 GB
512 GB	~340–384 GB

Você pode aumentar esse limite. A mudança tem efeito imediato e não sobrevive a uma reinicialização:

# Allow the GPU to wire 28GB on a 32GB Mac
sudo sysctl iogpu.wired_limit_mb=28672

# Back to automatic
sudo sysctl iogpu.wired_limit_mb=0

Tenha cuidado com isso. Tudo que você tira, tira do sistema operacional e de todos os outros aplicativos. Se você levar esse valor perto demais do total, vai esbarrar em swapping, beachballs (a bolinha colorida girando) ou um encerramento por falta de memória — e em um Mac com SSD rápido, o swapping sob pressão de memória também é uma carga sustentada de escrita. Se você já viu a caixa de diálogo System has run out of application memory, essa é uma forma de chegar lá.

Um teto razoável é a memória total menos 6–8GB para o macOS e seus outros aplicativos. Defina o valor, rode seu modelo e observe a pressão de memória no Monitor de Atividade. Se você está vendo picos de pressão de forma geral, nosso guia de gerenciamento de memória do Mac cobre o diagnóstico.

Largura de Banda: A Velocidade das Respostas

Aqui está a estimativa que importa, e aqui está exatamente o que ela é:

tokens per second ≈ (memory bandwidth × efficiency) ÷ weight size in bytes

A eficiência contabiliza a diferença entre a largura de banda teórica de pico e o que um motor de inferência realmente consegue atingir — no Apple silicon, com um runtime bem otimizado, algo entre 0.6 e 0.8. Uso 0.7 a seguir.

Estas são estimativas calculadas a partir de números de largura de banda publicados, não benchmarks que eu rodei. Trate-as como a ordem de grandeza certa e a ordenação relativa correta, não como medições. Os números reais variam com o runtime, a quantização, o comprimento do contexto e o comportamento térmico.

Velocidade de geração para um modelo denso em 4-bit:

	M6 (170GB/s)	M5 Pro (307GB/s)	M5 Max (614GB/s)	M5 Ultra (1.2TB/s)
8B (4.4GB)	~27 tok/s	~49 tok/s	~98 tok/s	~190 tok/s
32B (17.6GB)	~7 tok/s	~12 tok/s	~24 tok/s	~48 tok/s
70B (38.5GB)	não cabe	~6 tok/s	~11 tok/s	~22 tok/s
120B (66GB)	não cabe	não cabe	~7 tok/s	~13 tok/s

Para referência: uma velocidade de leitura confortável fica em torno de 10 tokens por segundo. Abaixo de cerca de 5, a maioria das pessoas para de usar a ferramenta.

Olhe para a linha do 32B. É um único modelo, e ele vai de mal tolerável a genuinamente rápido ao longo da faixa — sem nenhuma mudança em relação a caber ou não. Isso é largura de banda, não capacidade, e é o eixo que as pessoas esquecem quando compram a máquina mais barata que tecnicamente comporta o modelo.

Por que modelos MoE mudam a resposta

Modelos mixture-of-experts (MoE) quebram a regra acima, e esse é o motivo inteiro pelo qual uma máquina de 512GB é interessante.

Um modelo MoE armazena muitas subredes de especialistas ("experts"), mas ativa apenas algumas por token. Um modelo de 235B com 22B de parâmetros ativos precisa comportar o equivalente a 235B em pesos, mas só lê o equivalente a cerca de 22B para produzir cada token.

Então:

• A capacidade é governada pelo total de parâmetros — 129GB em 4-bit.
• A velocidade é governada pelos parâmetros ativos — como um modelo denso de 22B, então aproximadamente 40 tok/s em um M5 Ultra, em vez dos ~9 tok/s que um modelo denso de 235B conseguiria.

Essa é a assimetria que torna grandes modelos MoE práticos no Apple silicon de um jeito que eles não são em uma GPU de consumo: você precisa da capacidade, que a Apple vende de um jeito que ninguém mais vende a esse preço, e recebe velocidade proporcional a um modelo muito menor.

É também por isso que "512GB roda modelos de fronteira" é verdade, mas incompleto. Ele roda modelos de fronteira esparsos a uma velocidade utilizável. Um hipotético modelo denso de 400B em 4-bit ocuparia 220GB e geraria cerca de 4 tokens por segundo em um M5 Ultra. Ele cabe. Você não gostaria da experiência.

O Processamento de Prompt É Um Problema Diferente

Leia com atenção as afirmações da Apple sobre o novo Mac mini:

Até 4.8x mais rápido no processamento de prompt de LLM comparado ao M4 Até 13.5x mais rápido no processamento de prompt de LLM comparado ao M1

O processamento de prompt — o prefill — é a fase em que o modelo absorve o que você forneceu a ele. Cada token da sua entrada é processado em paralelo, o que o torna limitado por computação (compute-bound): ele escala com o throughput da GPU, com os Neural Accelerators agora embutidos em cada núcleo de GPU, e no M6, com o primeiro Neural Engine duplo que a Apple já lançou.

A geração de tokens — o decode — acontece um token de cada vez, cada um exigindo uma passagem completa pelos pesos. Ela é limitada por largura de banda (bandwidth-bound), e nenhuma quantidade de poder de computação resolve isso.

A Apple escolheu anunciar a metade limitada por computação. Isso não é enganoso; é genuinamente a metade que mais melhorou nesta geração. Mas significa que os números de marketing descrevem a velocidade com que a máquina lê o seu documento de 50 páginas, não a velocidade com que ela escreve o resumo.

Qual dos dois importa para você depende do seu trabalho:

• Entradas longas, saídas curtas — resumir documentos, classificar, extrair informação de uma base de código — é dominado pelo prefill. Os números da Apple se aplicam.
• Entradas curtas, saídas longas — redigir textos, chat, geração de código — é dominado pelo decode. A largura de banda é o seu número.
• Entradas longas e saídas longas — fluxos de trabalho agênticos sobre um contexto grande — precisa dos dois, e ainda precisa de capacidade extra para o KV cache.

O Que Realmente Mudou no M5 Ultra

Parte da cobertura do lançamento deu a entender que comportar um modelo de fronteira em um desktop é novidade. Não é, e entender isso corretamente muda a decisão de upgrade de quem já possui um Mac Studio.

	M3 Ultra (2025)	M5 Ultra (2026)
Memória unificada máxima	512GB	512GB
Largura de banda de memória	819GB/s	1.2TB/s
Núcleos de GPU	até 80	até 80
Núcleos de CPU	32	até 36

A capacidade não mudou. A contagem de núcleos de GPU não mudou. A largura de banda subiu cerca de 1.47x, e a CPU ganhou quatro núcleos.

Isso bate exatamente com as próprias comparações da Apple em relação ao M3 Ultra — "até 1.3x mais desempenho multithread" e "até 1.8x mais desempenho gráfico" são números modestos, e a grande alegação da Apple, "até 4.3x o desempenho de pico de computação de IA", vem dos Neural Accelerators agora embutidos em cada núcleo de GPU, e não de núcleos mais numerosos ou maiores.

Então, especificamente para inferência local:

• A velocidade de geração melhora mais ou menos na proporção da largura de banda — algo como 1.4x no mesmo modelo.
• O processamento de prompt melhora muito mais, em linha com aquele número de 4.3x em computação de IA.
• O que você consegue carregar permanece inalterado.

Se você tem um Mac Studio M3 Ultra com 512GB e sua restrição é quais modelos cabem, esta geração não resolve um problema que você tem. Se sua restrição é esperar o processamento de prompts longos, ela resolve isso diretamente. Nosso guia de desempenho do Mac Studio M4 Max e M3 Ultra cobre a geração anterior em detalhes.

Mais uma observação sobre prazos que vale a pena saber antes de pedir: a configuração de 512GB não chega junto com o restante da linha em 22 de setembro. A Apple estima a chegada para o final de outubro.

Qual Máquina, De Acordo Com O Que Você Realmente Faz

16GB — não é para isso

Você tem aproximadamente 10–12GB disponíveis para a GPU. Isso roda modelos de 8B em 4-bit com contexto modesto, e nada maior que isso. É adequado para modelos da categoria de autocompletar e pequenos assistentes locais, e vai frustrar você em qualquer outra coisa. Em 2026, 16GB é uma máquina que faz bem outras coisas e roda LLMs incidentalmente.

32GB (M6 Mac mini, configuração máxima — $1,299) — o ponto de entrada

Cerca de 21–24GB para trabalhar. Isso roda modelos de 8B e 14B com folga, e um modelo de 32B em 4-bit com contexto curto, a cerca de 7 tokens por segundo. Esse último número é o limite honesto: cabe, mas no limiar do agradável.

Bom para: assistentes de codificação locais, trabalho privado com documentos, aprender as ferramentas. O upgrade de $400 a partir dos 16GB não é opcional se modelos locais são um dos motivos pelos quais você está comprando a máquina.

64GB (M5 Pro Mac mini — $1,699+) — o ponto ideal para a maioria das pessoas

Cerca de 42–48GB disponíveis, e 307GB/s. Um modelo de 70B em 4-bit cabe com espaço para contexto real, gerando cerca de 6 tokens por segundo — utilizável para trabalho em lote, lento para chat interativo. Um modelo de 32B roda a aproximadamente 12 tokens por segundo, o que é confortável.

É aqui que a maior parte do uso sério de modelos locais se estabelece, e é a configuração que eu indicaria para a maioria das pessoas. Ela também traz Thunderbolt 5, que o M6 mini não tem.

128GB (M5 Max Mac Studio — $2,499+) — o nível profissional

Cerca de 85–96GB disponíveis a 614GB/s. Um 70B em 4-bit roda a aproximadamente 11 tokens por segundo, confortavelmente interativo. Modelos da classe 120B cabem. Modelos MoE de porte médio se tornam práticos.

É a configuração para quem tem o trabalho dependente de inferência local diariamente — a largura de banda praticamente dobra a velocidade de geração do M5 Pro no mesmo modelo.

512GB (M5 Ultra Mac Studio — $5,499+, mais de $18,000 na configuração máxima) — capacidade que você não compra em outro lugar

Cerca de 340–384GB disponíveis a 1.2TB/s. Isso comporta modelos MoE da classe 400B em 4-bit e gera na velocidade correspondente à contagem de parâmetros ativos deles, que é exatamente o que nenhum outro desktop faz a esse preço.

Compre isso se você está limitado por capacidade de um jeito que nada mais resolve. Se seus modelos cabem em 128GB, o Ultra está comprando para você uma velocidade que pode ser obtida de forma mais barata.

Se você não vai comprar um Mac novo

Um Mac M1/M2/M3/M4 que você já tem, com memória adequada, roda modelos locais sem problemas — a largura de banda nos níveis Pro e Max já é boa há várias gerações. Confira os seus próprios números:

# Total memory in GB
echo "$(( $(sysctl -n hw.memsize) / 1073741824 )) GB"

# Chip and current GPU wired limit
sysctl -n machdep.cpu.brand_string
sysctl iogpu.wired_limit_mb

Depois aplique as tabelas acima. Um M1 Max de 64GB a 400GB/s é uma máquina perfeitamente boa para inferência local, e sempre foi.

Um Exemplo Resolvido

Tabelas abstratas são fáceis de concordar e difíceis de colocar em prática. Aqui está o raciocínio aplicado a um caso concreto.

O requisito: um assistente de codificação privado que lê uma base de código moderadamente grande, mantém um contexto de 32.000 tokens e responde de forma interativa. Você quer um modelo da classe 32B porque modelos menores são visivelmente piores em código.

Passo 1 — pesos. 32B em 4-bit: 32 × 0.55 = 17.6GB.

Passo 2 — contexto. 32.000 tokens a aproximadamente 0.2 MB por token, para um modelo moderno com grouped-query attention: cerca de 6.4GB. Esse é o termo que as pessoas esquecem, e aqui ele representa mais de um terço do tamanho dos pesos.

Passo 3 — overhead. Runtime, buffers do Metal, tokenizer: 2–3GB.

Total: aproximadamente 26–27GB que precisam ser fixados ("wired") para a GPU.

Passo 4 — traduzir para memória instalada. Com um teto automático de ~70%, 27GB fixados exigem cerca de 38GB instalados. Um Mac de 32GB lhe dá 21–24GB automaticamente — não é suficiente. Você poderia elevar o iogpu.wired_limit_mb para 27GB em uma máquina de 32GB, o que deixaria 5GB para o macOS e todo o resto. Isso funcionaria enquanto nada mais estivesse rodando, e desmoronaria no momento em que você abrisse um navegador.

Conclusão: 64GB instalados. O que recai sobre o M5 Pro Mac mini, não o M6.

Passo 5 — verificar a velocidade. 307GB/s × 0.7 ÷ 17.6GB ≈ 12 tokens por segundo. Confortável para uso interativo.

Agora mude uma variável. Mantenha tudo o mais igual e peça um contexto de 128.000 tokens: o KV cache sobe para aproximadamente 25GB, a demanda total para cerca de 45GB, e a memória instalada necessária para 64GB no mínimo, com o limite fixado elevado — ou 128GB para ficar confortável. Uma única configuração empurrou a resposta um nível inteiro de produto acima.

Esse é o método completo. Pesos, contexto, overhead, divida pelo teto, e depois confira a largura de banda em relação ao tamanho dos pesos.

Nem Todos os Runtimes Se Comportam da Mesma Forma

A aritmética acima descreve o hardware. O que você de fato observa depende do software, e as diferenças são grandes o suficiente para mudar uma decisão de compra.

MLX é o framework de arrays da própria Apple, construído para memória unificada. Ele não copia dados entre "memória da CPU" e "memória da GPU" porque no Apple silicon essa distinção não existe, e em geral é a opção mais eficiente em memória em um Mac. Se você está comprando hardware especificamente para inferência local, é o ferramental baseado em MLX que faz o hardware brilhar.

llama.cpp, e as ferramentas construídas sobre ele, é a opção mais portável e tem excelente suporte a Metal. Seus formatos de quantização — a família Q4_K_M que as tabelas acima assumem — são o padrão de fato, e seu comportamento de memória é previsível e bem documentado.

Ollama envolve o llama.cpp com gerenciamento de modelos. É conveniente, e o que você precisa saber é que ele mantém os modelos residentes na memória depois do uso, por um período configurável. Se você está perto do seu teto, um modelo que você terminou de usar há uma hora ainda pode estar ocupando memória. Essa é uma causa frequente do "ontem funcionava".

LM Studio é a opção gráfica e é honesto quanto à memória, mostrando o que vai e o que não vai caber antes de você carregar o modelo. É uma boa forma de desenvolver intuição sobre esses números sem precisar fazer contas.

Dois comportamentos importam independente do que você usa:

1. Se o KV cache é pré-alocado. Alguns runtimes reservam a janela de contexto completa no momento do carregamento; outros a fazem crescer conforme a conversa avança. Pré-alocação significa que um modelo que funcionaria na prática falha ao carregar. Se um modelo se recusa a carregar com 128K mas carrega com 8K, esse é o motivo — e reduzir o contexto configurado é a solução, não um modelo menor.
2. Se modelos não usados são descarregados. Verifique a configuração de keep-alive do seu runtime antes de concluir que sua máquina é pequena demais.

Ganhando Margem Sem Comprar Memória

Antes de gastar $400 em um nível de memória, várias técnicas mudam a aritmética.

Quantize com mais agressividade. Cair de 8-bit para 4-bit reduz pela metade a necessidade de memória, com uma perda de qualidade modesta. Isso é quase sempre uma troca melhor do que migrar para um modelo menor em maior precisão — um modelo de 32B em 4-bit geralmente supera um modelo de 14B em 8-bit, com memória semelhante.

Quantize o KV cache. A maioria dos runtimes consegue armazenar o KV cache em 8-bit ou menos. Em contextos longos, onde o cache rivaliza com os pesos, essa é a maior economia isolada disponível, e o custo em qualidade é pequeno.

Dimensione o contexto corretamente. Uma janela de contexto de 128K da qual você usa apenas 4.000 tokens ainda custa o preço cheio em runtimes que pré-alocam. Configure o contexto que você de fato usa.

Prefira modelos MoE. Como visto acima, um modelo mixture-of-experts dá a você a qualidade de um modelo grande na velocidade de geração de um pequeno. O custo é capacidade, que é exatamente o que um Mac tem mais do que as alternativas.

Use speculative decoding. Um pequeno modelo rascunho ("draft") propõe vários tokens, e o modelo grande os verifica em uma única passagem. Como a verificação é paralela, isso ataca diretamente o gargalo de largura de banda e pode aumentar de forma significativa os tokens por segundo — ao custo de manter um segundo modelo, pequeno, em memória. Em uma máquina limitada por largura de banda mas com capacidade de sobra, é uma boa troca.

Feche coisas. Óbvio, e ainda assim é a resposta surpreendentemente com frequência. Navegadores com muitas abas, máquinas virtuais e editores de vídeo estão todos disputando o mesmo conjunto de memória. Não existe uma VRAM separada para recorrer.

Solucionando Problemas Comuns

O modelo carrega, mas a geração está extremamente lenta

Problema: Você excedeu o que o macOS vai entregar à GPU, e o trabalho está transbordando para o swap. Os sintomas são um primeiro token que demora muitos segundos e uma geração que engasga em vez de fluir de forma constante.

Solução: Verifique a pressão de memória no Monitor de Atividade enquanto a geração acontece. Se estiver amarela ou vermelha, use uma quantização menor, reduza a janela de contexto ou eleve o iogpu.wired_limit_mb — deixando pelo menos 6–8GB para o sistema. Se a pressão estiver verde e ainda assim estiver lento, você está simplesmente limitado por largura de banda, e a solução é um modelo menor.

"System has run out of application memory"

Problema: Geralmente um limite fixado de forma agressiva demais, ou um contexto grande que cresceu ao longo de uma sessão longa.

Solução: Redefina com sudo sysctl iogpu.wired_limit_mb=0 e reinicie o processo de inferência. Reinicie o sistema se ele continuar instável — a configuração não é persistente, então um reinício a limpa de qualquer forma. Causas relacionadas são cobertas no nosso guia de solução de vazamentos de memória.

Cabe no papel, mas falha ao carregar

Problema: Você dimensionou apenas pelos pesos e esqueceu o KV cache, ou o runtime está alocando o contexto completo de antemão, em vez de fazê-lo crescer aos poucos.

Solução: Reduza o comprimento do contexto nas configurações do seu runtime e tente novamente. Se um contexto de 32K carrega e um de 128K não, isso confirma o diagnóstico, e a aritmética na seção de capacidade indica quanto você precisa para o contexto que deseja.

O Mac esquenta e fica mais lento ao longo de uma sessão longa

Problema: Inferência sustentada é uma carga sustentada tanto na GPU quanto na memória. Laptops reduzem o desempenho (throttle). Desktops, em geral, não.

Solução: Esse é um dos argumentos reais a favor de um Mac mini ou Mac Studio em vez de um MacBook para essa carga de trabalho — margem térmica sustentada. Em um laptop, veja nosso guia de throttling térmico do MacBook Pro M5.

Processamento de prompt rápido, geração lenta

Problema: Nada está errado. Esse é o comportamento esperado do hardware.

Solução: Veja a seção prefill-versus-decode acima. Se velocidade de geração é o que você precisa, a solução é um modelo menor, uma quantização mais agressiva, um modelo MoE com poucos parâmetros ativos, ou mais largura de banda — nessa ordem de custo.

Perguntas Frequentes

Quanta RAM eu preciso para rodar um modelo de 70B?

Na quantização de 4-bit, os pesos ficam em torno de 38.5GB. Somando contexto e overhead, você quer 64GB instalados como mínimo realista, porque o macOS só vai entregar cerca de 42–48GB disso para a GPU. 48GB instalados fica apertado demais assim que você inclui qualquer contexto significativo.

16GB é suficiente para IA local em 2026?

Para modelos de 8B em 4-bit com contexto curto, sim. Para qualquer coisa maior, não. Se modelos locais são um dos motivos pelos quais você está comprando a máquina, trate 32GB como o piso e 64GB como o alvo.

O Neural Engine acelera LLMs locais?

Ele contribui para o processamento de prompt, que é de onde vem o número de "4.8x mais rápido no processamento de prompt de LLM" da Apple, e o Neural Engine duplo de 16 núcleos do M6 é um avanço real. Ele não muda o limite de largura de banda na geração de tokens. A maioria dos runtimes populares de inferência local no Mac se apoia principalmente na GPU via Metal.

Devo comprar o Mac Studio de 512GB?

Somente se você for limitado por capacidade. Se os modelos que você realmente roda cabem em 128GB, um Mac Studio M5 Max faz o mesmo trabalho por um terço do preço. Vale notar também que a opção de 512GB só chega no final de outubro, e a máquina totalmente configurada chega a $18,299.

Posso adicionar memória depois?

Não. A memória unificada faz parte do encapsulamento do chip em todo Mac com Apple silicon. Essa é a especificação que mais vale a pena comprar com folga, porque é a única que você nunca poderá revisitar.

Um Mac é melhor do que um PC com GPU discreta para isso?

Trade-offs diferentes. Uma GPU discreta tem uma largura de banda de memória muito maior, mas muito menos memória — placas de consumo ficam bem abaixo do que um Mac Studio oferece. Um Mac vence de forma decisiva em capacidade por dólar e em consumo de energia, e perde em throughput bruto para modelos pequenos o suficiente para caber na VRAM. Se seus modelos são grandes, o Mac costuma ser a única opção de máquina única. Se são pequenos, uma GPU é mais rápida.

A quantização prejudica a qualidade?

8-bit é quase sem perdas para a maioria dos propósitos. Os K-quants de 4-bit são o padrão prático, e a degradação é modesta para a maioria das tarefas. Abaixo de 4-bit, a qualidade cai de forma perceptível. Dadas as tabelas de memória acima, cair de 8-bit para 4-bit reduz pela metade, aproximadamente, a necessidade de memória — geralmente uma troca melhor do que migrar para um modelo menor.

Conclusão

A manchete dos 512GB é real, e para um pequeno número de pessoas ela é decisiva. Para todo o resto, a versão útil deste artigo são três linhas de aritmética: os pesos são parâmetros vezes bytes por parâmetro, o contexto adiciona 0.1–0.5 MB por token em cima disso, e o macOS entrega à GPU apenas cerca de 65–75% do que você comprou.

Rode esses números contra os modelos que você realmente pretende usar, e a resposta geralmente recai em 64GB. Depois verifique o segundo número — a largura de banda — porque é ela que decide se o modelo que cabe é um modelo que você vai continuar usando. A diferença entre um modelo de 32B a 7 tokens por segundo e o mesmo modelo a 24 tokens por segundo é a diferença entre uma demonstração e uma ferramenta, e nenhuma quantidade de capacidade fecha essa lacuna.

E qualquer que seja a sua escolha, escolha com cuidado. Está soldado.

Leitura relacionada: Mac mini M6 e Mac Studio M5 Ultra: o que realmente mudou, apps de IA local no Mac e o que eles fazem com seus dados, e os preços de RAM do Mac estão subindo em 2026.