For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the complete content index is available at https://we0.ai/llms.txt, the full English article bundle is available at https://we0.ai/llms-full.txt, and this page is available as Markdown at https://we0.ai/pt/articles/deepseek-dspark-apple-silicon-mlx-dflash.md.
Este artigo explica como o método de decodificação especulativa DSpark da DeepSeek foi portado para o Apple Silicon por meio do mlx-dspark, ...
O DSpark da DeepSeek estava em código aberto havia apenas cerca de uma semana quando a comunidade o levou para computadores Apple.
O port se chama mlx-dspark. Ele executa decodificação especulativa no estilo DSpark de forma nativa no Apple Silicon por meio do ecossistema MLX da Apple, com testes em modelos como Gemma-4 12B e Qwen3-4B. Nos benchmarks reportados no Mac, a geração com o Gemma-4 12B ficou cerca de 1,6× mais rápida, enquanto o Qwen3-4B melhorou cerca de 1,4×.
O que torna isso mais interessante não é apenas a velocidade. O port busca manter a saída gerada alinhada com o modelo-alvo base, de modo que a aceleração não seja obtida simplesmente alterando o comportamento do modelo.
A DeepSeek lançou o DSpark em 27 de junho como uma abordagem de decodificação especulativa. Em seu cenário original do lado do servidor, o DSpark foi descrito como uma forma de aumentar a velocidade de geração em cerca de 60% a 85% sob condições específicas de serviço.
No início, porém, a implementação disponível se concentrava em ambientes de GPU de data center. Não era um fluxo de trabalho nativo para Apple Silicon. Isso mudou com o mlx-dspark, uma implementação criada por Abdur Rahim para inferência baseada em MLX no Mac.
A ideia por trás do DSpark é fácil de entender em alto nível:
Esse é o núcleo da decodificação especulativa: permitir que um caminho de rascunho mais barato antecipe palpites e, em seguida, deixar que o modelo-alvo verifique a correção.
Em GPUs de servidor, verificar um grupo de tokens pode ser relativamente eficiente porque o gargalo costuma estar mais no movimento de memória do que na computação pura. Nesse cenário, verificar alguns tokens extras pode não adicionar muito custo.
O Apple Silicon se comporta de maneira diferente. Em um Mac, cada token adicional verificado pode acrescentar uma latência mais perceptível. Rahim mediu esse custo e estimou que, no Apple Silicon, o limite superior de velocidade para esse estilo de aceleração é de cerca de 2,2× nas condições testadas.
Para tornar isso prático, ele transferiu os checkpoints de rascunho do Hugging Face para um fluxo de trabalho em MLX e os combinou com os modelos-alvo Gemma-4 12B e Qwen3-4B. O fluxo de verificação foi reconstruído dentro do MLX, e os pesos do modelo de rascunho foram quantizados para 4 bits.
Nos testes reportados com o M4 Pro, em comparação com as ferramentas oficiais MLX da Apple:
Para desenvolvedores de IA local, esse é um ganho significativo. Um MacBook ainda não é um servidor de inferência de data center, mas esse tipo de otimização torna modelos locais maiores mais usáveis para desenvolvimento, testes e fluxos de trabalho pessoais.
Muitos ports locais de aceleração de modelos grandes se concentram primeiro na decodificação gulosa. Na decodificação gulosa, o modelo simplesmente escolhe o token de maior probabilidade em cada etapa. Isso facilita testar a correção, porque a saída pode ser comparada token por token.
O mlx-dspark vai além ao implementar o método de amostragem com temperatura descrito no artigo do DSpark. O modelo de rascunho propõe tokens, e o modelo-alvo os aceita usando uma regra baseada em probabilidade. As partes rejeitadas são reamostradas a partir de
a distribuição restante.
Isso importa porque a amostragem é o que muitas aplicações reais usam. Interfaces de chat, escrita criativa, exploração por agentes e geração de textos para produtos frequentemente dependem da temperatura, em vez de uma decodificação gulosa estrita.
Rahim verificou que o fluxo de amostragem preserva a distribuição do modelo-alvo sob a mesma configuração de temperatura. Em outras palavras, o objetivo não é produzir uma aproximação “suficientemente semelhante”. A adaptação foi projetada para que a aceleração não altere o comportamento de saída pretendido pelo modelo.
Também houve algumas lições práticas durante a adaptação:
O resultado é uma implementação local que faz mais do que simplesmente rodar mais rápido. Ela também tenta preservar o comportamento que os usuários esperam do modelo-alvo original.
Depois que a publicação sobre o mlx-dspark chamou atenção, o DFlash entrou na discussão. Jian Chen, um dos autores por trás do DFlash, perguntou se o modelo DFlash poderia ser testado na mesma configuração de Mac.
O DFlash é outra abordagem de decodificação especulativa da z-lab. Seu design difere do DSpark. Em vez de gerar tokens candidatos passo a passo com um tratamento mais forte das dependências, o DFlash usa um método em estilo de difusão em bloco para remover ruído de um bloco inteiro de tokens em paralelo.
Na configuração testada, Rahim usou o script de adaptação de Jian para conectar o z-lab/gemma4-12B-it-DFlash ao modelo-alvo Gemma-4 baseado em MLX. Em seguida, ele comparou o DFlash e o DSpark no mesmo Mac.
Para tarefas estruturadas, como código e matemática, o DFlash teve um desempenho muito bom. Seu comprimento aceito chegou a cerca de 5,95 a 6,20, e a taxa de transferência atingiu cerca de 36 tok/s, aproximadamente 2,1× na configuração relatada.
Descreva sua ideia uma vez e o We0 AI pode gerar um site de apresentacao, paginas e CMS, alem de ajudar a atrair clientes e trafego apos o lancamento.
Uma geração completa de projetos para registro gratuito
Melhor para experimentar um fluxo de geração completo e ver rapidamente um primeiro rascunho do projeto.
Isso não significa que o DFlash seja sempre melhor. O DFlash rascunha um bloco completo de 16 tokens de uma vez, mas o modelo-alvo nem sempre aceita o bloco inteiro. O número de tokens aceitos é chamado de comprimento aceito.
Em chats abertos, os próximos tokens são mais difíceis de prever. O comprimento aceito pode permanecer mais baixo, o que significa que o bloco completo de 16 tokens não se traduz em uma vantagem real de velocidade. Nesse tipo de configuração, o DSpark pode ser mais rápido porque sua cabeça de Markov foi projetada para reduzir o problema de “decaimento do sufixo” que aparece com frequência no rascunho paralelo de tokens.
Uma atualização posterior do mlx-dspark adicionou o caminho original do DFlash da z-lab diretamente ao pacote. Ela também adicionou um parâmetro para ajustar o comprimento efetivo do bloco. Isso oferece aos usuários uma escolha mais flexível:
Isso faz com que o mlx-dspark se pareça menos com um experimento de método único e mais com um kit de ferramentas prático de inferência local para usuários de Apple Silicon.
Fluxos de trabalho locais com LLMs estão se tornando mais comuns para desenvolvedores, pesquisadores e pequenas equipes. Executar modelos localmente oferece mais controle sobre latência, tratamento de dados, experimentos e fluxos de trabalho offline.
Mas a inferência local frequentemente tem uma limitação dolorosa: velocidade. Mesmo quando um modelo cabe na memória, a geração pode parecer lenta.
O mlx-dspark é interessante porque ataca esse problema sem exigir um modelo-alvo completamente novo. Ele usa decodificação especulativa para fazer o modelo existente parecer mais rápido, ao mesmo tempo em que ainda permite que o modelo-alvo verifique a saída.
Para desenvolvedores que criam aplicativos locais de IA no Mac, isso pode ser útil em vários cenários:
recursos antes de migrar para inferência no servidor.
2. Executar assistentes locais de programação ou de documentos.
3. Comparar estratégias de decodificação para diferentes tipos de tarefas.
4. Criar serviços locais leves compatíveis com a OpenAI.
5. Avaliar se uma configuração menor de Mac é suficiente para um protótipo específico.
A troca de compromissos ainda é importante. Um método que funciona bem em código e matemática pode não ser a melhor escolha para conversas abertas. Um método que tem bom desempenho em um M4 Pro pode se comportar de forma diferente em chips Apple Silicon mais antigos ou em máquinas com memória limitada.
Portanto, a conclusão prática não é “um método vence em todos os cenários”. É que o Apple Silicon agora tem um caminho mais forte para experimentar DSpark, DFlash e decodificação especulativa nativa em MLX.
DSpark é um método de decodificação especulativa associado ao projeto DeepSpec da DeepSeek. Ele usa um modelo de rascunho para propor tokens antecipadamente e permite que o modelo-alvo os verifique, com o objetivo de acelerar a inferência preservando o comportamento da saída.
mlx-dspark é uma implementação da comunidade que leva a decodificação especulativa no estilo DSpark e DFlash ao Apple Silicon por meio do MLX. Ela permite que alvos Gemma e Qwen compatíveis sejam executados com aceleração por modelo de rascunho no Mac.
Não. O projeto mlx-dspark explica que seus alvos locais no Mac são modelos densos, como Gemma e Qwen, não o próprio DeepSeek-V4. Ele usa o método de rascunho DSpark da DeepSeek, mas o modelo-alvo que produz tokens no fluxo de trabalho do Mac é Gemma ou Qwen.
Nos testes relatados, o Gemma-4 12B melhorou de cerca de 18,4 tok/s para cerca de 30 tok/s, enquanto o Qwen3-4B melhorou de cerca de 52,9 tok/s para cerca de 73 tok/s. A velocidade real depende do chip do Mac, do modelo, da precisão, do tipo de prompt e das configurações de decodificação.
DFlash é um método de decodificação especulativa por difusão em blocos desenvolvido pela z-lab. Ele rascunha um bloco de tokens em paralelo e pode ser especialmente eficaz em tarefas estruturadas, como código e matemática, quando o comprimento aceito é alto.
Nem sempre. O DFlash pode ter melhor desempenho em tarefas de código e matemática, enquanto o DSpark pode ser mais forte em chats abertos, nos quais blocos paralelos longos são mais difíceis de prever. A melhor escolha depende do modelo-alvo e do tipo de tarefa.
O mlx-dspark foi projetado para Apple Silicon por meio do MLX, portanto um Mac com Apple Silicon é o ambiente pretendido. Ele também exige uma configuração Python compatível e pesos de modelos compatíveis do Hugging Face ou de caminhos locais.
Pode ser, mas o uso em produção exige benchmarking cuidadoso. É necessário verificar a fidelidade da saída, o comprimento aceito, a latência, o comportamento de batching, o uso de memória, a compatibilidade do modelo e o desempenho específico do hardware antes de depender dela.
Este artigo explica como o método de decodificação especulativa DSpark da DeepSeek foi portado para o Apple Silicon por meio do mlx-dspark, tornando a inferência local no Mac mais rápida para modelos Gemma e Qwen compatíveis.
O ponto principal é que o port não se trata apenas de velocidade bruta. Ele também se concentra em manter a fidelidade da saída ao permitir que o modelo-alvo verifique os tokens gerados, incluindo suporte ao comportamento de decodificação amostrada.
A integração do DFlash adiciona outra opção útil,
especialmente para tarefas de código e matemática, nas quais a elaboração de blocos longos pode compensar. Para conversas abertas, o DSpark ainda pode ser a opção mais adequada, porque é mais difícil manter o comprimento aceito.
Para o desenvolvimento local de IA em Mac, o mlx-dspark oferece aos usuários de Apple Silicon uma forma prática de testar inferência de LLM mais rápida sem precisar mover tudo para um servidor.
Comece com uma frase e tenha um site completo em minutos.
