{"content_id":"favc2qgfc3","slug":"turboquant-kv-cache-compression-hbm-demand","locale":"es","schema_type":"Article","category":"trends","category_name":"Tendencias","title":"TurboQuant: compresión 6x de la caché KV y demanda de HBM","summary":"En un experimento de búsqueda de información en textos largos, Google redujo la caché KV a una sexta parte o menos de su tamaño original. El efecto en la demanda de HBM depende de la proporción de memoria que ocupaba la caché y de cuánto aumente el número de solicitudes que se pueden procesar a la vez tras la compresión.","sponsorship_disclosure":null,"affiliate_disclosure":null,"commerce_disclosure":null,"author":{"name":"Equipo editorial de Injoys","url":"https://injoys.com/ko/about"},"key_points":["El factor de compresión de al menos 6 que Google anunció en marzo de 2026 se obtuvo al medir la caché KV que usan los modelos de lenguaje para generar respuestas.","Si la caché se reduce a exactamente una sexta parte de su tamaño original, 6 solicitudes de la misma longitud ocupan tanto espacio en la caché como 1 antes de la compresión.","El 26 de marzo de 2026, Samsung Electronics bajó un 4.71% y SK hynix un 6.23% respecto a la sesión anterior.","Para saber cómo cambia la demanda de HBM, hay que ver tanto cuántas solicitudes procesa el servicio a la vez como el volumen que suministran realmente los fabricantes de memoria."],"content_markdown":"En los experimentos, TurboQuant de Google redujo la caché KV que se usa para generar respuestas de IA a **una sexta parte de su tamaño original como máximo**. Así se necesita menos memoria por solicitud. La demanda total de memoria de alto ancho de banda (HBM) depende de cuánto aumente el número de solicitudes que se procesan a la vez.\n\nLas cifras de compresión proceden del anuncio de Google Research del 24 de marzo de 2026. Las cotizaciones corresponden al cierre del 26 de marzo.\n\n## ¿Qué es la caché KV que comprime TurboQuant?\n\nLa caché KV es un espacio de almacenamiento temporal que el modelo de lenguaje usa para volver a consultar el contexto anterior. El modelo divide el texto en unidades llamadas tokens para procesarlo. Si guarda las claves y los valores (KV) calculados para cada token, no tiene que repetir esos cálculos al generar el siguiente.\n\nCuanto más larga es la conversación, más claves y valores hay que guardar. TurboQuant representa esos números con menos bits. Esto se llama cuantización. Los pesos que el modelo obtuvo durante el entrenamiento siguen ocupando memoria después de comprimir la caché.\n\n## ¿Qué se midió con un factor de compresión de 6 y una velocidad 8 veces mayor?\n\nLos dos factores que anunció Google se refieren, respectivamente, al espacio de almacenamiento y a la velocidad de un cálculo concreto. La descripción de los experimentos de Google Research del 24 de marzo de 2026 permite ver qué se comparó en cada caso.\n\n| Cifra anunciada | Condiciones del experimento | Resultado medido |\n|---|---|---|\n| Como máximo, una sexta parte de la capacidad original | Tarea de buscar información oculta en un texto largo | Tamaño de la caché KV reducida sin perder eficacia al encontrar la respuesta correcta |\n| Hasta 8 veces la velocidad original | Comparación, en una GPU H100, de claves de 4 bits con TurboQuant y claves de 32 bits sin comprimir | Velocidad de cálculo de las puntuaciones que determinan cuánto se tiene en cuenta cada token anterior |\n\n### Calidad de las respuestas tras la compresión\n\nCuánta calidad se conserva depende también del número de bits que se asignan a cada número. Según el artículo de investigación, la calidad de las respuestas se mantuvo en la evaluación incluso con un promedio de 3.5 bits por canal. Con un promedio de 2.5 bits, la calidad bajó ligeramente. El tiempo y la calidad de respuesta de un servicio real deben comprobarse con las preguntas que procesa ese servicio.\n\n## Ejemplo de cálculo: solicitudes simultáneas y capacidad de memoria\n\nSi la caché se reduce exactamente a una sexta parte, 6 solicitudes de la misma longitud ocupan tanto espacio en la caché como 1 antes de la compresión. El cálculo aplica el límite inferior del factor de compresión observado en el experimento: 6. Se supone que el modelo y la longitud de las solicitudes son los mismos y que la caché de cada solicitud se guarda por separado.\n\n| Solicitudes procesadas a la vez | Capacidad total de la caché KV tras la compresión |\n|---|---|\n| 1 solicitud | Una sexta parte de lo que ocupaba 1 solicitud antes de la compresión |\n| 6 solicitudes | La misma capacidad que ocupaba 1 solicitud antes de la compresión |\n| Más de 6 solicitudes | Más capacidad que la que ocupaba 1 solicitud antes de la compresión |\n\nPara calcular el ahorro en todo el servidor, hay que saber cuántos bytes ocupaba la caché antes de comprimirla. En las condiciones anteriores, se ahorran cinco sextas partes de la capacidad original de la caché. Cuanto menor sea la proporción de memoria que ocupa la caché, menor será el porcentaje de ahorro en todo el servidor.\n\n## Cuándo puede bajar o subir la demanda de HBM\n\nLa demanda de compra de HBM depende de cómo usen los operadores de servicios el espacio que ahorran. La capacidad de la HBM es la cantidad de datos que puede almacenar a la vez. El ancho de banda es la cantidad de datos que se puede transferir en un tiempo determinado. Para calcular cuánto habría que comprar a partir de la capacidad de la caché medida en los experimentos, hay que saber si lo que limitaba la ampliación de los servidores era la capacidad o el ancho de banda.\n\n| Condiciones de operación del servicio | Posible efecto en la demanda de HBM |\n|---|---|\n| El número y la longitud de las solicitudes se mantienen constantes y se pensaba ampliar la capacidad por falta de espacio para la caché | El espacio liberado en los equipos existentes puede aplazar las compras adicionales. |\n| Se atienden más solicitudes a la vez con los mismos equipos | El espacio ahorrado puede usarse para la caché de las nuevas solicitudes. |\n| La bajada de los costes hace que aumente mucho el uso de servicios que procesan documentos largos | Si el aumento de la carga de trabajo supera el ahorro por solicitud, el uso total de memoria puede crecer. |\n\nCuando una mejora de la eficiencia provoca un aumento aún mayor del uso y acaba elevando el consumo total de un recurso, se habla de la paradoja de Jevons. En los servicios de IA, la clave es cuánto aumenta el uso real tras bajar el coste de procesamiento. Para evaluar los ingresos de los fabricantes de memorias, también hay que examinar por separado el volumen de envíos y los precios de venta.\n\n## El contexto de la caída de las acciones de semiconductores el 26 de marzo\n\nEl 26 de marzo de 2026 coincidieron la preocupación por la desaceleración de la demanda de memorias y la incertidumbre por la situación en Oriente Medio. El Banco de Corea señaló ambos factores como causas de la caída bursátil de ese día. El tipo de cambio del won frente al dólar cerró la sesión diurna en 1,507.0 wones por dólar, 7.3 wones por encima del día anterior.\n\n| Índice o acción | Variación del 26 de marzo de 2026 respecto a la sesión anterior | Cierre del índice |\n|---|---:|---:|\n| KOSPI | -3.35% | 5,460.46 puntos |\n| KOSDAQ | Caída del 2% y pico | 1,136.64 puntos |\n| Samsung Electronics | -4.71% | No corresponde |\n| SK hynix | -6.23% | No corresponde |\n\nEn el momento de la publicación, Samsung Securities cifró las ventas netas de inversores extranjeros en el mercado principal de valores en 3 billones y 111 mil millones de wones. Alteogen, que ese mismo día comunicó una exportación de tecnología, subió un 6.28%. Hanwha Solutions, que comunicó una ampliación de capital mediante la emisión de acciones de pago, cayó un 18.22%. Es difícil determinar solo por la variación de un día qué efecto tuvo TurboQuant en los pedidos de cada empresa.\n\n## Indicadores que conviene revisar en los resultados del sector de semiconductores\n\nPara evaluar la demanda de HBM, hay que distinguir entre el volumen que piden los clientes y el que suministran los fabricantes. En la presentación de resultados del 23 de abril de 2026, SK hynix informó de que en el primer trimestre había aumentado las ventas de productos de alto valor añadido, entre ellos la HBM. Ese trimestre también incluye el periodo anterior al anuncio de TurboQuant en marzo.\n\n- Los modelos y las tareas a los que el operador aplica la compresión permiten ver el alcance de su adopción en el servicio.\n- Para comparar el ahorro de memoria, hace falta medir el uso total de memoria del servidor con la misma longitud de solicitud y el mismo número de solicitudes simultáneas.\n- En las presentaciones de resultados de las empresas se pueden comprobar por separado los envíos de HBM y el periodo que abarcan los planes de suministro futuro.","content_html":"\u003cp\u003eEn los experimentos, TurboQuant de Google redujo la caché KV que se usa para generar respuestas de IA a \u003cstrong\u003euna sexta parte de su tamaño original como máximo\u003c/strong\u003e. Así se necesita menos memoria por solicitud. La demanda total de memoria de alto ancho de banda (HBM) depende de cuánto aumente el número de solicitudes que se procesan a la vez.\u003c/p\u003e\n\u003cp\u003eLas cifras de compresión proceden del anuncio de Google Research del 24 de marzo de 2026. Las cotizaciones corresponden al cierre del 26 de marzo.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#qu%C3%A9-es-la-cach%C3%A9-kv-que-comprime-turboquant\" class=\"anchor\" id=\"qué-es-la-caché-kv-que-comprime-turboquant\"\u003e\u003c/a\u003e¿Qué es la caché KV que comprime TurboQuant?\u003c/h2\u003e\n\u003cp\u003eLa caché KV es un espacio de almacenamiento temporal que el modelo de lenguaje usa para volver a consultar el contexto anterior. El modelo divide el texto en unidades llamadas tokens para procesarlo. Si guarda las claves y los valores (KV) calculados para cada token, no tiene que repetir esos cálculos al generar el siguiente.\u003c/p\u003e\n\u003cp\u003eCuanto más larga es la conversación, más claves y valores hay que guardar. TurboQuant representa esos números con menos bits. Esto se llama cuantización. Los pesos que el modelo obtuvo durante el entrenamiento siguen ocupando memoria después de comprimir la caché.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#qu%C3%A9-se-midi%C3%B3-con-un-factor-de-compresi%C3%B3n-de-6-y-una-velocidad-8-veces-mayor\" class=\"anchor\" id=\"qué-se-midió-con-un-factor-de-compresión-de-6-y-una-velocidad-8-veces-mayor\"\u003e\u003c/a\u003e¿Qué se midió con un factor de compresión de 6 y una velocidad 8 veces mayor?\u003c/h2\u003e\n\u003cp\u003eLos dos factores que anunció Google se refieren, respectivamente, al espacio de almacenamiento y a la velocidad de un cálculo concreto. La descripción de los experimentos de Google Research del 24 de marzo de 2026 permite ver qué se comparó en cada caso.\u003c/p\u003e\n\u003cdiv class=\"overflow-x-auto\"\u003e\u003ctable\u003e\n\u003cthead\u003e\n\u003ctr\u003e\n\u003cth\u003eCifra anunciada\u003c/th\u003e\n\u003cth\u003eCondiciones del experimento\u003c/th\u003e\n\u003cth\u003eResultado medido\u003c/th\u003e\n\u003c/tr\u003e\n\u003c/thead\u003e\n\u003ctbody\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Cifra anunciada\"\u003eComo máximo, una sexta parte de la capacidad original\u003c/td\u003e\n\u003ctd data-label=\"Condiciones del experimento\"\u003eTarea de buscar información oculta en un texto largo\u003c/td\u003e\n\u003ctd data-label=\"Resultado medido\"\u003eTamaño de la caché KV reducida sin perder eficacia al encontrar la respuesta correcta\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Cifra anunciada\"\u003eHasta 8 veces la velocidad original\u003c/td\u003e\n\u003ctd data-label=\"Condiciones del experimento\"\u003eComparación, en una GPU H100, de claves de 4 bits con TurboQuant y claves de 32 bits sin comprimir\u003c/td\u003e\n\u003ctd data-label=\"Resultado medido\"\u003eVelocidad de cálculo de las puntuaciones que determinan cuánto se tiene en cuenta cada token anterior\u003c/td\u003e\n\u003c/tr\u003e\n\u003c/tbody\u003e\n\u003c/table\u003e\u003c/div\u003e\n\u003ch3\u003e\n\u003ca href=\"#calidad-de-las-respuestas-tras-la-compresi%C3%B3n\" class=\"anchor\" id=\"calidad-de-las-respuestas-tras-la-compresión\"\u003e\u003c/a\u003eCalidad de las respuestas tras la compresión\u003c/h3\u003e\n\u003cp\u003eCuánta calidad se conserva depende también del número de bits que se asignan a cada número. Según el artículo de investigación, la calidad de las respuestas se mantuvo en la evaluación incluso con un promedio de 3.5 bits por canal. Con un promedio de 2.5 bits, la calidad bajó ligeramente. El tiempo y la calidad de respuesta de un servicio real deben comprobarse con las preguntas que procesa ese servicio.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#ejemplo-de-c%C3%A1lculo-solicitudes-simult%C3%A1neas-y-capacidad-de-memoria\" class=\"anchor\" id=\"ejemplo-de-cálculo-solicitudes-simultáneas-y-capacidad-de-memoria\"\u003e\u003c/a\u003eEjemplo de cálculo: solicitudes simultáneas y capacidad de memoria\u003c/h2\u003e\n\u003cp\u003eSi la caché se reduce exactamente a una sexta parte, 6 solicitudes de la misma longitud ocupan tanto espacio en la caché como 1 antes de la compresión. El cálculo aplica el límite inferior del factor de compresión observado en el experimento: 6. Se supone que el modelo y la longitud de las solicitudes son los mismos y que la caché de cada solicitud se guarda por separado.\u003c/p\u003e\n\u003cdiv class=\"overflow-x-auto\"\u003e\u003ctable\u003e\n\u003cthead\u003e\n\u003ctr\u003e\n\u003cth\u003eSolicitudes procesadas a la vez\u003c/th\u003e\n\u003cth\u003eCapacidad total de la caché KV tras la compresión\u003c/th\u003e\n\u003c/tr\u003e\n\u003c/thead\u003e\n\u003ctbody\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Solicitudes procesadas a la vez\"\u003e1 solicitud\u003c/td\u003e\n\u003ctd data-label=\"Capacidad total de la caché KV tras la compresión\"\u003eUna sexta parte de lo que ocupaba 1 solicitud antes de la compresión\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Solicitudes procesadas a la vez\"\u003e6 solicitudes\u003c/td\u003e\n\u003ctd data-label=\"Capacidad total de la caché KV tras la compresión\"\u003eLa misma capacidad que ocupaba 1 solicitud antes de la compresión\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Solicitudes procesadas a la vez\"\u003eMás de 6 solicitudes\u003c/td\u003e\n\u003ctd data-label=\"Capacidad total de la caché KV tras la compresión\"\u003eMás capacidad que la que ocupaba 1 solicitud antes de la compresión\u003c/td\u003e\n\u003c/tr\u003e\n\u003c/tbody\u003e\n\u003c/table\u003e\u003c/div\u003e\n\u003cp\u003ePara calcular el ahorro en todo el servidor, hay que saber cuántos bytes ocupaba la caché antes de comprimirla. En las condiciones anteriores, se ahorran cinco sextas partes de la capacidad original de la caché. Cuanto menor sea la proporción de memoria que ocupa la caché, menor será el porcentaje de ahorro en todo el servidor.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#cu%C3%A1ndo-puede-bajar-o-subir-la-demanda-de-hbm\" class=\"anchor\" id=\"cuándo-puede-bajar-o-subir-la-demanda-de-hbm\"\u003e\u003c/a\u003eCuándo puede bajar o subir la demanda de HBM\u003c/h2\u003e\n\u003cp\u003eLa demanda de compra de HBM depende de cómo usen los operadores de servicios el espacio que ahorran. La capacidad de la HBM es la cantidad de datos que puede almacenar a la vez. El ancho de banda es la cantidad de datos que se puede transferir en un tiempo determinado. Para calcular cuánto habría que comprar a partir de la capacidad de la caché medida en los experimentos, hay que saber si lo que limitaba la ampliación de los servidores era la capacidad o el ancho de banda.\u003c/p\u003e\n\u003cdiv class=\"overflow-x-auto\"\u003e\u003ctable\u003e\n\u003cthead\u003e\n\u003ctr\u003e\n\u003cth\u003eCondiciones de operación del servicio\u003c/th\u003e\n\u003cth\u003ePosible efecto en la demanda de HBM\u003c/th\u003e\n\u003c/tr\u003e\n\u003c/thead\u003e\n\u003ctbody\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Condiciones de operación del servicio\"\u003eEl número y la longitud de las solicitudes se mantienen constantes y se pensaba ampliar la capacidad por falta de espacio para la caché\u003c/td\u003e\n\u003ctd data-label=\"Posible efecto en la demanda de HBM\"\u003eEl espacio liberado en los equipos existentes puede aplazar las compras adicionales.\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Condiciones de operación del servicio\"\u003eSe atienden más solicitudes a la vez con los mismos equipos\u003c/td\u003e\n\u003ctd data-label=\"Posible efecto en la demanda de HBM\"\u003eEl espacio ahorrado puede usarse para la caché de las nuevas solicitudes.\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Condiciones de operación del servicio\"\u003eLa bajada de los costes hace que aumente mucho el uso de servicios que procesan documentos largos\u003c/td\u003e\n\u003ctd data-label=\"Posible efecto en la demanda de HBM\"\u003eSi el aumento de la carga de trabajo supera el ahorro por solicitud, el uso total de memoria puede crecer.\u003c/td\u003e\n\u003c/tr\u003e\n\u003c/tbody\u003e\n\u003c/table\u003e\u003c/div\u003e\n\u003cp\u003eCuando una mejora de la eficiencia provoca un aumento aún mayor del uso y acaba elevando el consumo total de un recurso, se habla de la paradoja de Jevons. En los servicios de IA, la clave es cuánto aumenta el uso real tras bajar el coste de procesamiento. Para evaluar los ingresos de los fabricantes de memorias, también hay que examinar por separado el volumen de envíos y los precios de venta.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#el-contexto-de-la-ca%C3%ADda-de-las-acciones-de-semiconductores-el-26-de-marzo\" class=\"anchor\" id=\"el-contexto-de-la-caída-de-las-acciones-de-semiconductores-el-26-de-marzo\"\u003e\u003c/a\u003eEl contexto de la caída de las acciones de semiconductores el 26 de marzo\u003c/h2\u003e\n\u003cp\u003eEl 26 de marzo de 2026 coincidieron la preocupación por la desaceleración de la demanda de memorias y la incertidumbre por la situación en Oriente Medio. El Banco de Corea señaló ambos factores como causas de la caída bursátil de ese día. El tipo de cambio del won frente al dólar cerró la sesión diurna en 1,507.0 wones por dólar, 7.3 wones por encima del día anterior.\u003c/p\u003e\n\u003cdiv class=\"overflow-x-auto\"\u003e\u003ctable\u003e\n\u003cthead\u003e\n\u003ctr\u003e\n\u003cth\u003eÍndice o acción\u003c/th\u003e\n\u003cth\u003eVariación del 26 de marzo de 2026 respecto a la sesión anterior\u003c/th\u003e\n\u003cth\u003eCierre del índice\u003c/th\u003e\n\u003c/tr\u003e\n\u003c/thead\u003e\n\u003ctbody\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Índice o acción\"\u003eKOSPI\u003c/td\u003e\n\u003ctd data-label=\"Variación del 26 de marzo de 2026 respecto a la sesión anterior\"\u003e-3.35%\u003c/td\u003e\n\u003ctd data-label=\"Cierre del índice\"\u003e5,460.46 puntos\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Índice o acción\"\u003eKOSDAQ\u003c/td\u003e\n\u003ctd data-label=\"Variación del 26 de marzo de 2026 respecto a la sesión anterior\"\u003eCaída del 2% y pico\u003c/td\u003e\n\u003ctd data-label=\"Cierre del índice\"\u003e1,136.64 puntos\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Índice o acción\"\u003eSamsung Electronics\u003c/td\u003e\n\u003ctd data-label=\"Variación del 26 de marzo de 2026 respecto a la sesión anterior\"\u003e-4.71%\u003c/td\u003e\n\u003ctd data-label=\"Cierre del índice\"\u003eNo corresponde\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Índice o acción\"\u003eSK hynix\u003c/td\u003e\n\u003ctd data-label=\"Variación del 26 de marzo de 2026 respecto a la sesión anterior\"\u003e-6.23%\u003c/td\u003e\n\u003ctd data-label=\"Cierre del índice\"\u003eNo corresponde\u003c/td\u003e\n\u003c/tr\u003e\n\u003c/tbody\u003e\n\u003c/table\u003e\u003c/div\u003e\n\u003cp\u003eEn el momento de la publicación, Samsung Securities cifró las ventas netas de inversores extranjeros en el mercado principal de valores en 3 billones y 111 mil millones de wones. Alteogen, que ese mismo día comunicó una exportación de tecnología, subió un 6.28%. Hanwha Solutions, que comunicó una ampliación de capital mediante la emisión de acciones de pago, cayó un 18.22%. Es difícil determinar solo por la variación de un día qué efecto tuvo TurboQuant en los pedidos de cada empresa.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#indicadores-que-conviene-revisar-en-los-resultados-del-sector-de-semiconductores\" class=\"anchor\" id=\"indicadores-que-conviene-revisar-en-los-resultados-del-sector-de-semiconductores\"\u003e\u003c/a\u003eIndicadores que conviene revisar en los resultados del sector de semiconductores\u003c/h2\u003e\n\u003cp\u003ePara evaluar la demanda de HBM, hay que distinguir entre el volumen que piden los clientes y el que suministran los fabricantes. En la presentación de resultados del 23 de abril de 2026, SK hynix informó de que en el primer trimestre había aumentado las ventas de productos de alto valor añadido, entre ellos la HBM. Ese trimestre también incluye el periodo anterior al anuncio de TurboQuant en marzo.\u003c/p\u003e\n\u003cul\u003e\n\u003cli\u003eLos modelos y las tareas a los que el operador aplica la compresión permiten ver el alcance de su adopción en el servicio.\u003c/li\u003e\n\u003cli\u003ePara comparar el ahorro de memoria, hace falta medir el uso total de memoria del servidor con la misma longitud de solicitud y el mismo número de solicitudes simultáneas.\u003c/li\u003e\n\u003cli\u003eEn las presentaciones de resultados de las empresas se pueden comprobar por separado los envíos de HBM y el periodo que abarcan los planes de suministro futuro.\u003c/li\u003e\n\u003c/ul\u003e\n","tags":["IA generativa","Centro de datos IA","Samsung Electronics","SK hynix","Chips de IA","HBM"],"faqs":[{"question":"¿Se puede pasar de 6 chips HBM a 1 con TurboQuant?","answer":"El factor de compresión de al menos 6 que midió Google se aplica a la capacidad de la caché KV. Para calcular cuántos chips HBM hacen falta, hay que conocer la capacidad total de memoria necesaria, incluidos los pesos del modelo, y los requisitos de ancho de banda."},{"question":"¿Con TurboQuant también se reduce a 1/6 la memoria necesaria para entrenar una IA?","answer":"Esa cifra se obtuvo al medir la caché KV que usa un modelo de lenguaje ya entrenado para buscar información en textos largos. Este experimento no permite calcular el porcentaje de ahorro en la memoria total necesaria para entrenar el modelo."},{"question":"¿La cifra de hasta 8 veces también se aplica al tiempo que se tarda en recibir una respuesta?","answer":"El equipo de investigación comparó, en una GPU H100, la velocidad de cálculo de la puntuación que determina en qué medida se tienen en cuenta los tokens anteriores. Para saber a qué velocidad se genera la respuesta completa, hay que medir el tiempo desde que empieza a procesarse la entrada hasta que se termina de generar la salida."},{"question":"¿Se mantiene la calidad de las respuestas en conversaciones largas si se comprime la caché?","answer":"El equipo de investigación de Google mantuvo el rendimiento al identificar las respuestas correctas en una prueba que consistía en buscar información oculta en textos largos. Según el artículo de investigación, la calidad bajó ligeramente al pasar a un promedio de 2.5 bits por canal."},{"question":"¿Para qué más se puede usar TurboQuant, aparte de comprimir la caché KV de los modelos de lenguaje?","answer":"El equipo de investigación también aplicó TurboQuant a la búsqueda vectorial de elementos con significados similares. En este caso, se comprimen los números que representan las características de los elementos entre los que se busca y luego se evalúa qué tan bien se encuentran los elementos deseados."},{"question":"¿El artículo sobre TurboQuant se publicó por primera vez en marzo de 2026?","answer":"Los investigadores publicaron el artículo por primera vez en arXiv el 28 de abril de 2025. Google Research presentó los resultados de la investigación el 25 de marzo de 2026 (hora local)."},{"question":"¿La caída de la cotización del 26 de marzo permite confirmar que han disminuido los pedidos de HBM?","answer":"La cotización de ese día reflejó tanto la preocupación por la demanda futura de memoria como la situación en Oriente Medio. Para comprobar si los pedidos cambiaron realmente, hay que consultar los contratos de suministro con los clientes o las cifras de envíos de HBM de los trimestres posteriores."}],"sources":[{"url":"https://research.google/blog/turboquant-redefining-ai-efficiency-with-extreme-compression/","title":"Google Research, TurboQuant: Redefinir la eficiencia de la IA con una compresión extrema","type":"source"},{"url":"https://arxiv.org/abs/2504.19874","title":"TurboQuant: Cuantización vectorial en línea con una tasa de distorsión casi óptima","type":"source"},{"url":"https://www.samsungpop.com/common.do?cmd=down\u0026contentType=application%2Fpdf\u0026fileName=4020%2F2026032616002001K_02_02.pdf\u0026inlineYn=Y\u0026saveKey=research.pdf","title":"Samsung Securities, situación del mercado nacional al cierre del 26 de marzo de 2026","type":"data_point"},{"url":"https://www.bok.or.kr/portal/bbs/P0002018/view.do?menuNo=200366\u0026nttId=10097172","title":"Banco de Corea, principales indicadores del mercado financiero (3.27), operaciones del 26 de marzo de 2026","type":"data_point"},{"url":"https://news.skhynix.co.kr/q1-2026-business-results/","title":"SK hynix, anuncio de los resultados empresariales del 1.er trimestre de 2026","type":"source"}],"images":[{"id":3230,"url":"https://injoys.com/rails/active_storage/blobs/proxy/eyJfcmFpbHMiOnsiZGF0YSI6NDg3MTcsInB1ciI6ImJsb2JfaWQifX0=--aa9e0ea7054675bdd74ce1f5ae9ed2310f6ece0e/ai-b752b70d.webp","is_representative":true,"generation_method":"ai_photo","license":"ai_generated","mime_type":"image/webp","width":1536,"height":1024,"translations":{"ko":{"alt":"자동 검사 장비 아래 검은 트레이에 줄지어 놓인 적층 HBM 칩","caption":"HBM 수요 변화를 판단하려면 서비스가 동시에 처리하는 요청 수와 메모리 업체의 실제 공급량을 함께 봐야 한다.","description":null},"en":{"alt":"Rows of stacked HBM chips in a black tray beneath an automated inspection station.","caption":"To gauge changes in HBM demand, track both how many requests services handle at once and how much memory suppliers actually deliver.","description":null},"ja":{"alt":"自動検査装置の下で、黒いトレーに整列した積層HBMチップ","caption":"HBMの需要変化を見極めるには、サービスが同時に処理するリクエスト数とメモリメーカーの実際の供給量をあわせて見る必要がある。","description":null},"es":{"alt":"Filas de chips HBM apilados en una bandeja negra bajo un equipo de inspección automática.","caption":"Para evaluar los cambios en la demanda de HBM, hay que observar cuántas solicitudes procesan los servicios a la vez y cuánta memoria suministran realmente los fabricantes.","description":null},"id":{"alt":"Deretan cip HBM bertumpuk di baki hitam di bawah alat inspeksi otomatis.","caption":"Untuk menilai perubahan permintaan HBM, perhatikan jumlah permintaan yang ditangani layanan secara bersamaan dan volume memori yang benar-benar dipasok produsen.","description":null},"pt":{"alt":"Fileiras de chips HBM empilhados em uma bandeja preta sob um equipamento de inspeção automática.","caption":"Para avaliar mudanças na demanda por HBM, é preciso acompanhar quantas solicitações os serviços processam ao mesmo tempo e quanta memória os fabricantes de fato fornecem.","description":null},"zh-hant":{"alt":"自動檢測設備下方，黑色托盤上整齊排列著堆疊式 HBM 晶片。","caption":"要判斷 HBM 需求的變化，須同時觀察服務並行處理的請求數量與記憶體廠商的實際供貨量。","description":null},"de":{"alt":"Reihen gestapelter HBM-Chips in einem schwarzen Träger unter einer automatischen Prüfanlage.","caption":"Um Änderungen der HBM-Nachfrage einzuschätzen, muss man sowohl die Zahl gleichzeitig verarbeiteter Anfragen als auch die tatsächlichen Liefermengen der Speicherhersteller betrachten.","description":null}}},{"id":3231,"url":"https://injoys.com/rails/active_storage/blobs/proxy/eyJfcmFpbHMiOnsiZGF0YSI6NDg3MjMsInB1ciI6ImJsb2JfaWQifX0=--a684b87ab351231630b796a548a827c9949128a0/ai-e219098b.webp","is_representative":false,"generation_method":"ai_semi","license":"ai_generated","mime_type":"image/webp","width":1536,"height":1024,"translations":{"ko":{"alt":"짙은 회색 코트를 입은 여성이 점선 아래로 빨간 막대 두 개가 내려간 전광판을 바라본다.","caption":"2026년 3월 26일 삼성전자와 SK하이닉스 주가는 전 거래일보다 각각 4.71%, 6.23% 하락했다.","description":null},"en":{"alt":"A woman in a charcoal coat glances at a screen with two red bars extending below a dashed line.","caption":"On March 26, 2026, Samsung Electronics and SK Hynix shares fell 4.71% and 6.23%, respectively, from the previous close.","description":null},"ja":{"alt":"濃いグレーのコートを着た女性が、破線の下に赤い棒が2本伸びる画面に目を向けている。","caption":"2026年3月26日、サムスン電子とSKハイニックスの株価は前営業日比でそれぞれ4.71％、6.23％下落した。","description":null},"es":{"alt":"Una mujer con abrigo gris oscuro mira una pantalla con dos barras rojas por debajo de una línea discontinua.","caption":"El 26 de marzo de 2026, las acciones de Samsung Electronics y SK Hynix cayeron un 4,71 % y un 6,23 %, respectivamente, frente al cierre anterior.","description":null},"id":{"alt":"Seorang perempuan berjas abu-abu gelap melirik layar dengan dua batang merah di bawah garis putus-putus.","caption":"Pada 26 Maret 2026, saham Samsung Electronics dan SK Hynix masing-masing turun 4,71% dan 6,23% dari penutupan sebelumnya.","description":null},"pt":{"alt":"Uma mulher de casaco cinza-escuro olha para uma tela com duas barras vermelhas abaixo de uma linha tracejada.","caption":"Em 26 de março de 2026, as ações da Samsung Electronics e da SK Hynix caíram 4,71% e 6,23%, respectivamente, ante o fechamento anterior.","description":null},"zh-hant":{"alt":"一名穿深灰色大衣的女子側望螢幕，上面有兩根紅色長條從虛線向下延伸。","caption":"2026年3月26日，三星電子與SK海力士的股價較前一交易日分別下跌4.71%和6.23%。","description":null},"de":{"alt":"Eine Frau im dunkelgrauen Mantel blickt auf einen Bildschirm mit zwei roten Balken unter einer gestrichelten Linie.","caption":"Am 26. März 2026 fielen die Aktien von Samsung Electronics und SK Hynix gegenüber dem vorherigen Schlusskurs um 4,71 % beziehungsweise 6,23 %.","description":null}}}],"published_at":"2026-11-21T09:02:17+09:00","updated_at":"2026-11-21T09:02:17+09:00","license":"cc_by","translation_status":"reviewed","available_locales":["ko","en","ja","es"],"data_locales":["ko","en","ja","es","id","pt","zh-hant","de"],"url":"https://injoys.com/es/articles/turboquant-kv-cache-compression-hbm-demand"}