Microsoft revela Maia 300, seu novo chip de inteligência artificial
A Microsoft apresentou o Azure Maia 300, terceira geração de seu acelerador de inteligência artificial desenvolvido internamente para os data centers do Azure. O componente foi projetado para executar modelos de IA em grande escala, com foco na geração de respostas, no processamento de contextos extensos e em tarefas complexas realizadas por agentes inteligentes.
O principal destaque é a promessa de entregar 40% mais tokens por megawatt em comparação com sistemas baseados em GPUs considerados de referência pela empresa. A Microsoft também afirma que uma configuração completa com 96 aceleradores Maia 300 pode alcançar até sete vezes a capacidade de processamento de tokens por rack da geração anterior, o Maia 200.
O novo acelerador combina chiplets de computação fabricados no processo N2P de 2 nm da TSMC, oito pilhas de memória HBM4 e uma arquitetura que integra processamento, memória e comunicação de dados. A implantação em produção está prevista para 2027, quando a Microsoft pretende ampliar o uso de chips próprios em seus serviços de inteligência artificial.
Ficha técnica do Microsoft Maia 300
As especificações divulgadas revelam um acelerador desenvolvido para lidar com grandes modelos de IA e cargas de trabalho que exigem muita largura de banda de memória. A Microsoft priorizou não apenas a capacidade de cálculo, mas também a eficiência com que os dados chegam às unidades de processamento.
| Característica | Microsoft Maia 300 |
|---|---|
| Categoria | Acelerador de inteligência artificial |
| Arquitetura | Multi-chiplet |
| Processo de fabricação da computação | TSMC N2P, classe de 2 nm |
| Desempenho em FP4 | Até 13,8 PFLOPS |
| Desempenho em FP8 | Até 6,9 PFLOPS |
| Memória | 288 GB HBM4 |
| Configuração da memória | 8 pilhas de 36 GB |
| Largura de banda da HBM4 | 18 TB/s |
| Potência de projeto | 950 W |
| Largura de banda da interconexão | 3,2 TB/s bidirecionais |
| Aceleradores por rack | 96 |
| Consumo informado por rack completo | Aproximadamente 167 kW |
| Previsão de implantação em produção | 2027 |
Os números representam as especificações divulgadas para o acelerador e seu sistema. O desempenho efetivo depende do modelo de inteligência artificial, da precisão numérica utilizada, do software e das condições de operação.
FP4 e FP8 são formatos numéricos de baixa precisão utilizados em determinadas operações de inteligência artificial. Eles representam os valores com menos bits do que formatos tradicionais, reduzindo a quantidade de dados processados e movimentados. Isso pode aumentar o desempenho e diminuir o consumo de memória, desde que o modelo e as operações mantenham a precisão necessária para produzir resultados úteis.
Chiplets de computação utilizam processo de 2 nm
Um dos aspectos mais importantes do Maia 300 está na sua construção. Em vez de concentrar todas as funções em um único chip monolítico, a Microsoft adotou uma arquitetura de chiplets, formada por componentes especializados que trabalham em conjunto no mesmo pacote.
Os chiplets responsáveis pela computação utilizam o processo N2P da TSMC, uma tecnologia da classe de 2 nm desenvolvida para melhorar a eficiência e o desempenho. As funções de controle de memória e entrada e saída ficam separadas em outros componentes, permitindo que cada parte seja projetada de acordo com suas necessidades específicas.
Essa divisão ajuda a direcionar o processo de fabricação mais avançado para as áreas em que ele oferece maior benefício. Ao mesmo tempo, permite utilizar tecnologias de fabricação diferentes nas partes que não precisam necessariamente do mesmo nível de densidade ou desempenho.
Chiplets são pequenos circuitos integrados especializados que são combinados para formar um componente maior. Essa abordagem pode facilitar a fabricação de processadores complexos, melhorar o aproveitamento dos componentes produzidos e permitir que funções diferentes utilizem tecnologias de fabricação distintas. Entretanto, a comunicação entre os chiplets também precisa ser cuidadosamente projetada para evitar desperdício de energia e perda de desempenho.
HBM4 oferece 288 GB e largura de banda de 18 TB/s
Outro destaque do Maia 300 é a memória. O acelerador possui 288 GB de HBM4 distribuídos em oito pilhas, cada uma com capacidade de 36 GB. A largura de banda de pico chega a 18 TB/s, permitindo movimentar grandes quantidades de dados entre a memória e as unidades de computação.
Esse recurso é especialmente importante na inferência de modelos de linguagem. Durante a geração de respostas, o acelerador precisa consultar parâmetros do modelo e manter informações relacionadas ao contexto da conversa. Quando a capacidade ou a velocidade da memória se tornam limitantes, adicionar mais poder de cálculo não garante, por si só, uma melhoria proporcional no desempenho.
A Microsoft também utiliza SRAM integrada ao chip como uma área de memória temporária gerenciada por software. A ideia é manter determinados dados próximos das unidades de processamento, reduzindo acessos desnecessários à memória externa e o gasto energético associado à movimentação de informações.
HBM significa High Bandwidth Memory, ou memória de alta largura de banda. Diferentemente de módulos de memória convencionais, ela utiliza pilhas de chips próximas ao processador para permitir transferências muito rápidas. A capacidade indica quanto conteúdo pode ser armazenado, enquanto a largura de banda indica a quantidade de dados que pode ser transferida por segundo. São características diferentes, e ambas são importantes para aceleradores de IA.
Maia 300 promete 40% mais tokens por megawatt
A principal promessa comercial da Microsoft é a capacidade de gerar 40% mais tokens por megawatt do que sistemas baseados em GPUs de referência. Em inteligência artificial generativa, tokens são unidades de texto processadas pelo modelo. Dependendo do idioma e do conteúdo, um token pode corresponder a uma palavra curta, parte de uma palavra, pontuação ou outro fragmento de texto.
Na prática, a métrica procura mostrar quanto trabalho útil de geração de respostas pode ser realizado com uma determinada quantidade de energia. Uma infraestrutura capaz de produzir mais tokens com a mesma energia pode atender a mais solicitações ou reduzir o consumo necessário para sustentar determinado volume de uso.
Entretanto, é importante interpretar a comparação com cuidado. O percentual de 40% é uma estimativa divulgada pela Microsoft, e a empresa não detalhou publicamente todos os sistemas concorrentes utilizados como referência. Os resultados podem variar conforme os modelos, os limites de latência, a configuração dos servidores e as condições de execução.
A empresa também destaca que o Maia 300 foi projetado como um sistema completo, e não apenas como um chip isolado. A eficiência depende da integração entre hardware, memória, interconexões, software, refrigeração e distribuição de energia no data center.
Rack completo reúne 96 aceleradores e consome 167 kW
A Microsoft planeja utilizar o Maia 300 em racks com 96 aceleradores. Cada configuração completa reúne 27,6 TB de memória HBM4 e uma largura de banda agregada de aproximadamente 1,7 PB/s entre as memórias dos aceleradores.
O consumo informado para o rack completo é de cerca de 167 kW. Isso mostra a escala da infraestrutura necessária para sustentar serviços de inteligência artificial com grande volume de solicitações simultâneas. A instalação também exige sistemas de alimentação, refrigeração e comunicação capazes de operar de forma confiável sob uma carga elevada.
| Indicador do sistema | Valor divulgado |
|---|---|
| Aceleradores por rack | 96 |
| Memória HBM4 agregada | 27,6 TB |
| Largura de banda HBM agregada | 1,7 PB/s |
| Consumo aproximado do rack | 167 kW |
| Throughput de tokens em relação ao Maia 200 | Até 7 vezes maior |
A afirmação de até sete vezes mais throughput de tokens compara um rack completo de Maia 300 com a geração Maia 200. Ela não significa que cada acelerador individual seja sete vezes mais rápido em qualquer tarefa. A configuração do rack, a quantidade de aceleradores e a otimização dos sistemas influenciam o resultado.
Interconexão de 3,2 TB/s ajuda a escalar o processamento
O Maia 300 também foi projetado para operar em sistemas com muitos aceleradores trabalhando em conjunto. Sua interconexão oferece largura de banda bidirecional de 3,2 TB/s, enquanto a arquitetura de rede utiliza tecnologias baseadas em Ethernet e um transporte desenvolvido para cargas de inteligência artificial.
Essas conexões permitem distribuir partes do trabalho entre vários aceleradores e trocar dados durante a execução de modelos. Em aplicações de grande escala, a comunicação entre os componentes pode se tornar um gargalo tão importante quanto a capacidade de cálculo de cada chip.
A Microsoft afirma que sua arquitetura de fluxo de dados definida por software integra computação, memória e rede em uma estrutura coordenada. O objetivo é reduzir movimentações desnecessárias, aproximar os dados das unidades que os utilizam e melhorar o aproveitamento dos recursos disponíveis.
Maia 300 foi projetado para inferência e agentes de IA
O foco do Maia 300 está na inferência, etapa em que um modelo já treinado recebe uma solicitação e produz uma resposta. Esse tipo de processamento está por trás de ferramentas como assistentes virtuais, geração de código, análise de documentos e sistemas capazes de executar sequências de tarefas.
A Microsoft destaca aplicações que exigem contextos extensos, respostas com baixa latência e operações com várias etapas. São cenários em que um agente de IA pode precisar consultar informações, raciocinar sobre os resultados, utilizar ferramentas e continuar trabalhando até concluir uma tarefa.
O formato de baixa precisão MXFP4 aprimorado também ajuda a reduzir as necessidades de memória e a quantidade de dados movimentados. Segundo a Microsoft, isso pode permitir modelos maiores, contextos mais longos e mais sessões simultâneas dentro de um mesmo orçamento energético.
Treinamento e inferência são etapas diferentes. No treinamento, um modelo aprende padrões a partir de grandes conjuntos de dados e ajusta seus parâmetros. Na inferência, o modelo utiliza o que aprendeu para responder a solicitações. Um acelerador otimizado para inferência busca produzir respostas com eficiência, velocidade e custo adequados ao funcionamento contínuo de serviços utilizados por muitas pessoas.
Microsoft quer reduzir a dependência de GPUs de terceiros
O Maia 300 faz parte da estratégia da Microsoft de desenvolver sua própria infraestrutura de inteligência artificial. Embora a empresa continue utilizando aceleradores de outros fabricantes, chips projetados internamente permitem ajustar hardware e software às necessidades específicas de seus serviços.
A geração anterior, Maia 200, já está em produção e atende cargas de trabalho da Microsoft, incluindo o Copilot. A experiência com essa plataforma contribuiu para o desenvolvimento do novo acelerador, que deverá ampliar a capacidade de inferência da empresa e atender serviços como Microsoft Foundry e GitHub Copilot.
A Microsoft pretende ampliar a família Azure Maia para implantações de vários gigawatts a partir de 2027. A iniciativa não significa que os aceleradores de terceiros deixarão de ser utilizados, mas indica que os chips próprios terão um papel cada vez mais importante na infraestrutura da companhia.
Quando o Microsoft Maia 300 chega?
A Microsoft prevê iniciar a implantação do Maia 300 em produção em 2027. Até lá, a empresa deve continuar trabalhando na integração dos aceleradores com seus sistemas, redes e serviços de inteligência artificial.
O anúncio não representa a disponibilidade de um chip para consumidores ou para montagem de computadores pessoais. O Maia 300 foi desenvolvido para data centers e deve ser utilizado como parte da infraestrutura do Azure e de outros serviços da própria Microsoft.
Maia 300 aposta em eficiência para ampliar a inteligência artificial
Com 288 GB de HBM4, largura de banda de 18 TB/s e chiplets de computação fabricados no processo N2P de 2 nm, o Maia 300 representa um avanço importante na estratégia de hardware próprio da Microsoft. O projeto busca equilibrar capacidade de cálculo, acesso à memória e comunicação entre aceleradores, fatores essenciais para atender modelos de IA cada vez maiores.
A promessa de 40% mais tokens por megawatt é o principal argumento de eficiência apresentado pela empresa, enquanto a possibilidade de alcançar até sete vezes o throughput de tokens por rack em relação ao Maia 200 destaca a importância da escala do sistema completo.
Os resultados práticos ainda dependerão das condições de implantação e das cargas de trabalho utilizadas. Quando começar a operar em produção em 2027, o Maia 300 mostrará até que ponto a Microsoft consegue transformar suas escolhas de arquitetura em maior capacidade de IA por unidade de energia e infraestrutura.
