A Google transformou as suas TPU num dispositivo nativo do PyTorch. Para a maioria dos fundadores, é um trunfo negocial, não uma migração

Uma linha para mudar, mais trabalho para ser rápidoHover to explore

A maioria das startups de IA nunca pensa em que chip corre o seu modelo. Chamam uma API, e o fornecedor decide. Mas cada vez mais alojam modelos de pesos abertos por custo, privacidade ou controlo — e para essas, o chip tem sido a Nvidia, porque é aí que o código PyTorch corre sem atrito. O lançamento da Google desta semana é uma tentativa de mudar essa opção por omissão.

Este artigo baseia-se no anúncio da Google Cloud «TorchTPU is now open source: Run native PyTorch on TPUs» e na cobertura da Forkast e da MarkTechPost. Os números de desempenho e compatibilidade são da Google e dos seus parceiros, sem verificação independente. A leitura a partir da secção 3 é minha.

1. O que a Google lançou

A 20 de outubro de 2026, na PyTorch Conference, a Google tornou open source o TorchTPU, a sua stack nativa do PyTorch para as Tensor Processing Units. Foi desenvolvido com a equipa do PyTorch da Meta e, segundo a Forkast, é publicado sob licença Apache 2.0.

A ideia central é que uma TPU passa a ser um dispositivo PyTorch comum, ao lado das GPU e das CPU. O código que aponta para "cuda" pode apontar para "tpu". A Google descreve o fluxo de trabalho assim: «depure os seus modelos em modo eager e depois passe para desempenho de produção com torch.compile». Os kernels próprios escrevem-se em Pallas, a linguagem de kernels da Google, em vez de CUDA.

Grande parte do ecossistema que uma startup realmente usaria já está ligada:

• Disponibilização de modelos: vLLM (com a Inferact), SGLang (com a RadixArk) e llm-d para encaminhamento entre TPU e GPU.
• Modelos: Hugging Face Transformers v5, onde implementar em TPU é «tão simples como passar device_map="tpu"», além do Diffusers.
• Treino e orquestração: TorchTitan, Ray, TorchRec e VeRL para aprendizagem por reforço (em pré-visualização).

2. Os números, e de quem são

A Google e os seus parceiros indicaram:

• 52% de utilização dos FLOPs do modelo a treinar o Qwen 3 8B com o TorchTitan, com escalabilidade quase linear até 8192 chips TPU v7x.
• 98% de execuções sem falhas em 5000 modelos do Hugging Face e 97% de paridade numérica com a execução em GPU, segundo a Forkast.
• Um cliente, a Zenteiq, indicou mais de 4 vezes a capacidade de inferência — de 1470 para 5970 milhões de tokens por dia por cada 1000 chips TPU v6e — com encaminhamento sensível à carga e à cache de prefixos através do llm-d.

Jana van Greunen, da Meta, chamou-lhe «um enorme passo em frente». Jeff Boudier, da Hugging Face, disse que «a diversidade de hardware é essencial para tornar a IA open source acessível a todos».

Todos estes números são do fabricante ou de parceiros. Nenhum foi testado de forma independente.

3. O que ainda não passa

Mudar o dispositivo é uma linha. A velocidade, não. A análise da Forkast é direta: «não se consegue o desempenho máximo de uma TPU com uma simples troca de dispositivo». Em concreto:

• Os kernels CUDA próprios não passam. Tudo o que o leitor ou uma dependência escreveram em CUDA precisa de um equivalente em Pallas ou de uma alternativa.
• As formas e o sharding afinados para GPU precisam muitas vezes de ser refeitos para aproveitar bem uma TPU.
• Limites de processos. As TPU só suportam um processo de espaço de utilizador, o que complica algumas configurações, como juntar no mesmo sítio os componentes de aprendizagem por reforço.
• Opacidade. O conjunto de instruções das TPU é proprietário e não está publicado.

4. A quem interessa

Se só chama API de modelos, nada muda diretamente para si. O seu fornecedor escolhe os chips. Quando muito, mais concorrência na computação empurra os preços das API para baixo com o tempo.

Se aloja modelos de pesos abertos — por custo em grande volume, controlo dos dados ou um modelo próprio com fine-tuning —, isto importa. Até agora, a opção realista eram as GPU da Nvidia, numa cloud ou num fornecedor de GPU, ao preço deles. Um segundo acelerador credível que corre o mesmo código PyTorch e vLLM muda essa conversa, mesmo que nunca mude.

Se treina ou faz fine-tuning, o suporte do TorchTitan e do Hugging Face torna mais barato experimentar em TPU, embora seja nos grandes treinos que a afinação específica para TPU compensa mais.

5. O que fazer

6. O que eu não afirmaria

Que as TPU são agora mais rápidas ou mais baratas do que as GPU para si. Depende do seu modelo, do seu tráfego e dos seus preços. Os números publicados vêm da Google e dos parceiros, em cargas de trabalho escolhidas por eles.

Que o código PyTorch corre sem alterações à velocidade máxima. Corre, segundo a Google, com alterações mínimas. Conseguir uma boa utilização continua a exigir trabalho específico para TPU.

Que as TPU são fáceis de obter. As TPU estão disponíveis através da Google Cloud. A disponibilidade, as quotas e os preços para empresas pequenas não fizeram parte deste anúncio.

Que a posição da Nvidia mudou. Um backend open source não move o mercado sozinho. Reduz um custo de mudança, para as equipas que alojam os seus modelos.

Em resumo

A Google e a Meta tornaram open source o TorchTPU, fazendo das TPU da Google um dispositivo nativo do PyTorch sob licença Apache 2.0, com vLLM, SGLang, Hugging Face, TorchTitan e Ray por cima. A Google indica boa utilização e compatibilidade, mas os números são seus, e o desempenho máximo continua a exigir engenharia específica para TPU; os kernels CUDA próprios não passam.

Para startups que só chamam API, muda pouco. Para as que alojam modelos, cria um segundo acelerador realista para o mesmo código — o que é útil mesmo que nunca mude.

Se aloja modelos, retire neste sprint o «cuda» fixo do seu código, disponibilize os modelos com vLLM ou SGLang e faça um benchmark da sua própria carga em TPU. Depois, leve o resultado para a próxima conversa sobre o preço das GPU.

Fontes: Google Cloud, «TorchTPU is now open source: Run native PyTorch on TPUs», outubro de 2026 — o desenvolvimento conjunto com a Meta, o modo eager e o torch.compile, os kernels Pallas, as integrações com vLLM, SGLang, llm-d, Hugging Face, TorchTitan, Ray, TorchRec e VeRL, a citação sobre device_map="tpu", o valor de 52% de MFU em até 8192 chips TPU v7x, os números de capacidade da Zenteiq e as citações de Jana van Greunen e Jeff Boudier. Forkast — a data de 20 de outubro, a licença Apache 2.0, a troca de «cuda» por «tpu», os 98% de execuções sem falhas em 5000 modelos do Hugging Face e os 97% de paridade numérica, e as limitações: o desempenho máximo exige trabalho específico de TPU, os kernels CUDA não são portáveis, o processo único de espaço de utilizador e o conjunto de instruções proprietário. MarkTechPost — cobertura do lançamento. A leitura das secções 3 a 6 é minha.

Related Posts

AMD Just Bought a Chip That Runs One Model and Nothing ElseAugust 8, 2026

A proibição da DeepSeek é, na verdade, uma pergunta sobre a sua stack20 de outubro de 2026

Alibaba Open-Sourced a 2.4-Trillion-Parameter Model and Priced It Like a Closed OneAugust 6, 2026