---
title: "TurboQuant: cache KV 6x menor e avaliação da demanda por HBM"
locale: pt
category: trends
category_name: "Tendências"
translation_status: reviewed
license: cc_by
author: "injoys"
source_url: https://injoys.com/en/articles/turboquant-kv-cache-compression-hbm-demand
published_at: 2026-11-21T09:02:17+09:00
---

# TurboQuant: cache KV 6x menor e avaliação da demanda por HBM

> Em um experimento de busca de informações em textos longos, o Google reduziu o cache KV a no máximo 1/6 do tamanho original. O impacto na demanda por HBM depende da parcela da memória que o cache ocupava e de quanto aumenta o número de requisições processadas ao mesmo tempo após a compressão.

## Key Points

- A compressão de pelo menos 6 vezes anunciada pelo Google em março de 2026 foi medida no cache KV que o modelo de linguagem usa para gerar respostas.
- Se o cache for reduzido a exatamente 1/6 do tamanho original, 6 requisições de mesmo tamanho ocuparão no cache o mesmo espaço que 1 requisição antes da compressão.
- Em 26 de março de 2026, as ações da Samsung Electronics caíram 4,71% e as da SK hynix, 6,23% em relação ao pregão anterior.
- Para verificar como a demanda por HBM está mudando, é preciso analisar tanto o volume de requisições que o serviço processa ao mesmo tempo quanto o volume que os fabricantes de memória de fato fornecem.

Nos experimentos, o TurboQuant do Google reduziu o cache KV usado para gerar respostas de IA a **no máximo um sexto do tamanho original**. Isso diminui a memória necessária por solicitação. A demanda total por memória de alta largura de banda (HBM) depende de quanto aumenta o número de solicitações processadas ao mesmo tempo.

Os números de compressão vieram do anúncio do Google Research de 24 de março de 2026, e as cotações das ações têm como referência o fechamento de 26 de março.

## O que é o cache KV que o TurboQuant comprime?

O cache KV é um espaço de armazenamento temporário que o modelo de linguagem usa para consultar de novo o contexto anterior. O modelo divide o texto em unidades chamadas tokens para processá-lo. Ao armazenar as chaves e os valores (KV) calculados para cada token, o modelo não precisa repetir esse cálculo ao gerar o próximo token.

Quanto mais longa a conversa, mais chaves e valores precisam ser armazenados. O TurboQuant representa esses números com menos bits. Isso se chama quantização. Os pesos que o modelo adquiriu durante o treinamento continuam ocupando espaço na memória mesmo depois da compressão do cache.

## O que foi medido para chegar à compressão de 6 vezes e à velocidade de 8 vezes?

Os dois fatores divulgados pelo Google se referem, respectivamente, ao espaço de armazenamento e à velocidade de um cálculo específico. A descrição dos experimentos publicada pelo Google Research em 24 de março de 2026 mostra o que foi comparado em cada caso.

| Número divulgado | Condições do experimento | Resultado medido |
|---|---|---|
| No máximo um sexto da capacidade original | Tarefa de localizar informações escondidas em textos longos | Tamanho do cache KV após a redução, sem perda de desempenho na busca pela resposta correta |
| Até 8 vezes a velocidade | Comparação entre chaves de 4 bits do TurboQuant e chaves de 32 bits sem compressão em uma GPU H100 | Velocidade de cálculo das pontuações que determinam quanto o modelo leva em conta os tokens anteriores |

### Qualidade das respostas após a compressão

O quanto da qualidade se preserva também depende do número de bits atribuído a cada número. Segundo o artigo científico, a qualidade das respostas se manteve nas avaliações mesmo com uma média de 3,5 bits por canal. Com uma média de 2,5 bits, a qualidade caiu ligeiramente. O tempo de resposta e a qualidade de um serviço real precisam ser avaliados com as perguntas que ele processa.

## Um exemplo de cálculo com solicitações simultâneas e capacidade de memória

Se o cache for reduzido a exatamente um sexto do tamanho original, 6 solicitações de mesmo comprimento usarão o mesmo espaço de cache que 1 solicitação antes da compressão. O cálculo usa 6 vezes, o limite inferior do fator de compressão relatado no experimento. Supõe-se que o modelo e o comprimento das solicitações sejam os mesmos e que o cache de cada solicitação seja armazenado separadamente.

| Solicitações processadas ao mesmo tempo | Espaço total ocupado pelo cache KV após a compressão |
|---|---|
| 1 solicitação | Um sexto do espaço ocupado por 1 solicitação antes da compressão |
| 6 solicitações | O mesmo espaço ocupado por 1 solicitação antes da compressão |
| Mais de 6 solicitações | Mais espaço do que o ocupado por 1 solicitação antes da compressão |

Para calcular a economia no servidor como um todo, é preciso saber quantos bytes o cache ocupava antes da compressão. Nessas condições, o espaço economizado corresponde a cinco sextos do tamanho original do cache. Quanto menor a parcela da memória total ocupada pelo cache, menor o percentual de economia no servidor como um todo.

## Condições em que a demanda por HBM diminui ou aumenta

A demanda por compras de HBM depende de como a operadora do serviço usa o espaço economizado. A capacidade da HBM é a quantidade de dados que ela pode armazenar de uma só vez. A largura de banda é a quantidade de dados que pode ser transferida em determinado intervalo de tempo. Para calcular o volume de compras a partir do tamanho do cache medido no experimento, é preciso saber qual dos dois fatores, capacidade ou largura de banda, limitava a expansão dos servidores.

| Condições de operação do serviço | Possível efeito sobre a demanda por HBM |
|---|---|
| O número e o comprimento das solicitações permanecem constantes e havia planos de expansão por falta de espaço para o cache | O espaço liberado nos equipamentos existentes pode adiar novas compras. |
| Os mesmos equipamentos passam a receber mais solicitações simultâneas | O espaço economizado pode ser usado para o cache das novas solicitações. |
| A queda nos custos provoca um grande aumento no uso de serviços que processam documentos longos | Se o aumento da carga de trabalho superar a economia por solicitação, o uso total de memória pode crescer. |

Quando um ganho de eficiência é seguido por um aumento ainda maior no uso, elevando o consumo total do recurso, ocorre o chamado paradoxo de Jevons. Nos serviços de IA, o que importa é quanto o uso realmente aumenta depois que o custo de processamento cai. Para avaliar a receita dos fabricantes de memória, também é preciso analisar separadamente os volumes expedidos e os preços de venda.

## O que explica a queda das ações de semicondutores em 26 de março

Em 26 de março de 2026, o receio de uma desaceleração na demanda por memória coincidiu com a incerteza sobre a situação no Oriente Médio. O Banco da Coreia apontou os dois fatores como causas da queda da bolsa naquele dia. A taxa de câmbio encerrou o pregão diurno em 1.507,0 wons por dólar, 7,3 wons acima do dia anterior.

| Índice ou ação | Variação em 26 de março de 2026 em relação ao pregão anterior | Fechamento do índice |
|---|---:|---:|
| KOSPI | -3,35% | 5.460,46 pontos |
| KOSDAQ | Queda na casa dos 2% | 1.136,64 pontos |
| Samsung Electronics | -4,71% | Não se aplica |
| SK hynix | -6,23% | Não se aplica |

Na ocasião da publicação, a Samsung Securities apurou vendas líquidas de 3 trilhões e 111 bilhões de wons por parte de investidores estrangeiros no mercado de valores mobiliários. No mesmo dia, a Alteogen, que comunicou ao mercado uma exportação de tecnologia, subiu 6,28%. A Hanwha Solutions, que anunciou um aumento de capital por subscrição de ações, caiu 18,22%. Só pela variação de um dia, é difícil isolar o efeito do TurboQuant sobre os pedidos recebidos por cada empresa.

## Indicadores a acompanhar nos resultados das empresas de semicondutores

Para avaliar a demanda por HBM, é preciso distinguir o volume encomendado pelos clientes do volume efetivamente fornecido pelos fabricantes. Na divulgação de resultados de 23 de abril de 2026, a SK hynix informou que ampliou as vendas de produtos de alto valor agregado, como HBM, no primeiro trimestre. Esse trimestre também inclui o período anterior ao anúncio do TurboQuant em março.

- Os modelos e as tarefas em que a operadora aplicou a compressão mostram o alcance da adoção no serviço.
- Para comparar a economia de memória, é preciso medir o uso de memória do servidor como um todo com o mesmo comprimento de solicitação e o mesmo número de solicitações simultâneas.
- Nos resultados divulgados pelas empresas, é possível verificar separadamente os períodos a que se referem os volumes de HBM expedidos e os planos de fornecimento futuro.

## FAQ

### Com o TurboQuant, é possível reduzir de 6 para 1 o número de chips HBM?
A compressão por um fator de pelo menos 6, medida pelo Google, se aplica à capacidade do cache KV. Para estimar quantos chips HBM são necessários, é preciso saber a capacidade total de memória exigida, incluindo o espaço ocupado pelos pesos do modelo, e a largura de banda necessária.

### Com o TurboQuant, a memória necessária para treinar uma IA também cai para 1/6?
Esse valor foi medido no cache KV que um modelo de linguagem já treinado usa para buscar informações em textos longos. Esse experimento não permite calcular o percentual de redução da memória total necessária para treinar o modelo.

### O valor de até 8 vezes também se aplica ao tempo que leva para receber uma resposta?
A equipe de pesquisa comparou, em uma GPU H100, a velocidade de cálculo da pontuação que determina até que ponto os tokens anteriores são levados em conta. Para avaliar a velocidade da resposta como um todo, é preciso medir o tempo desde o processamento da entrada até a conclusão da saída.

### Ao comprimir o cache, a qualidade das respostas se mantém em conversas longas?
A equipe de pesquisa do Google manteve o desempenho na identificação das respostas corretas em um teste de busca de informações escondidas em textos longos. Segundo o artigo, a qualidade caiu ligeiramente quando a média foi reduzida para 2,5 bits por canal.

### Além do cache KV dos modelos de linguagem, onde o TurboQuant pode ser usado?
A equipe de pesquisa também aplicou o TurboQuant à busca vetorial, que encontra itens com significados semelhantes. Nesse caso, os números que representam as características dos itens pesquisados são comprimidos, e depois se avalia com que eficácia a busca encontra os itens desejados.

### O artigo sobre o TurboQuant foi divulgado pela primeira vez em março de 2026?
Os pesquisadores publicaram o artigo pela primeira vez no arXiv em 28 de abril de 2025. O Google Research apresentou os resultados da pesquisa em 25 de março de 2026 (horário local).

### A queda das ações em 26 de março permite confirmar uma redução nos pedidos de HBM?
Naquele dia, o preço das ações refletiu tanto as preocupações com a demanda futura por memória quanto a situação no Oriente Médio. Mudanças efetivas nos pedidos devem ser verificadas nos contratos de fornecimento com os clientes ou nos dados de remessas de HBM dos trimestres seguintes.

## Sources

- [Google Research, TurboQuant: Redefinindo a eficiência da IA com compressão extrema](https://research.google/blog/turboquant-redefining-ai-efficiency-with-extreme-compression/)
- [TurboQuant: Quantização vetorial online com taxa de distorção quase ótima](https://arxiv.org/abs/2504.19874)
- [Samsung Securities, panorama do mercado doméstico no fechamento de 26 de março de 2026](https://www.samsungpop.com/common.do?cmd=down&contentType=application%2Fpdf&fileName=4020%2F2026032616002001K_02_02.pdf&inlineYn=Y&saveKey=research.pdf)
- [Banco da Coreia, principais indicadores do mercado financeiro (3.27), operações de 26 de março de 2026](https://www.bok.or.kr/portal/bbs/P0002018/view.do?menuNo=200366&nttId=10097172)
- [SK hynix, divulgação dos resultados do 1º trimestre de 2026](https://news.skhynix.co.kr/q1-2026-business-results/)

## Images

![Fileiras de chips HBM empilhados em uma bandeja preta sob um equipamento de inspeção automática.](https://injoys.com/rails/active_storage/blobs/proxy/eyJfcmFpbHMiOnsiZGF0YSI6NDg3MTcsInB1ciI6ImJsb2JfaWQifX0=--aa9e0ea7054675bdd74ce1f5ae9ed2310f6ece0e/ai-b752b70d.webp)
![Uma mulher de casaco cinza-escuro olha para uma tela com duas barras vermelhas abaixo de uma linha tracejada.](https://injoys.com/rails/active_storage/blobs/proxy/eyJfcmFpbHMiOnsiZGF0YSI6NDg3MjMsInB1ciI6ImJsb2JfaWQifX0=--a684b87ab351231630b796a548a827c9949128a0/ai-e219098b.webp)