{"content_id":"favc2qgfc3","slug":"turboquant-kv-cache-compression-hbm-demand","locale":"de","schema_type":"Article","category":"trends","category_name":"Trends","title":"TurboQuant: 6-fache KV-Cache-Kompression und HBM-Nachfrage","summary":"In einem Experiment zur Suche nach Informationen in langen Texten hat Google den KV-Cache auf höchstens ein Sechstel seiner ursprünglichen Größe verkleinert. Wie sich das auf die Nachfrage nach HBM auswirkt, hängt davon ab, welchen Anteil der Cache bisher am Speicherbedarf hatte und wie viele zusätzliche Anfragen sich nach der Kompression gleichzeitig bearbeiten lassen.","sponsorship_disclosure":null,"affiliate_disclosure":null,"commerce_disclosure":null,"author":{"name":"injoys","url":"https://injoys.com/ko/about"},"key_points":["Die von Google im März 2026 gemeldete Kompression um mindestens den Faktor 6 beruht auf Messungen des KV-Caches, den Sprachmodelle beim Generieren von Antworten nutzen.","Wird der Cache auf genau ein Sechstel verkleinert, benötigen 6 gleich lange Anfragen zusammen genauso viel Cache-Speicher wie 1 Anfrage vor der Kompression.","Am 26. März 2026 verlor Samsung Electronics gegenüber dem vorherigen Handelstag 4,71 %, SK hynix 6,23 %.","Um Veränderungen bei der Nachfrage nach HBM festzustellen, muss man sowohl berücksichtigen, wie viele Anfragen ein Dienst gleichzeitig verarbeiten kann, als auch, welche Mengen die Speicherhersteller tatsächlich liefern."],"content_markdown":"Googles TurboQuant hat den KV-Cache, der zum Erzeugen von KI-Antworten dient, in einem Experiment auf **höchstens ein Sechstel seiner ursprünglichen Größe** verkleinert. Eine einzelne Anfrage benötigt dadurch weniger Speicher. Der Gesamtbedarf an Speicher mit hoher Bandbreite (HBM) hängt davon ab, um wie viel die Zahl der gleichzeitig zu verarbeitenden Anfragen steigt.\n\nDie Angaben zur Kompression stammen aus der Veröffentlichung von Google Research vom 24. März 2026. Bei den Aktienkursen wurden die Schlusskurse vom 26. März zugrunde gelegt.\n\n## Was ist der KV-Cache, den TurboQuant komprimiert?\n\nDer KV-Cache ist ein Zwischenspeicher, den ein Sprachmodell nutzt, wenn es auf früheren Kontext zurückgreift. Das Modell zerlegt Text zur Verarbeitung in Einheiten, die Tokens heißen. Speichert es die für jedes Token berechneten Schlüssel und Werte (KV), muss es diese beim Erzeugen des nächsten Tokens nicht erneut berechnen.\n\nJe länger das Gespräch dauert, desto mehr Schlüssel und Werte müssen gespeichert werden. TurboQuant stellt diese Zahlen mit weniger Bits dar. Das nennt man Quantisierung. Die Gewichte, die das Modell beim Training gelernt hat, belegen auch nach der Kompression des Caches weiterhin Speicherplatz.\n\n## Was wurde bei der 6-fachen Kompression und der 8-fachen Geschwindigkeit gemessen?\n\nDie beiden von Google veröffentlichten Faktoren beziehen sich auf den Speicherplatz beziehungsweise auf die Geschwindigkeit einer bestimmten Berechnung. In der Versuchsbeschreibung von Google Research vom 24. März 2026 steht, was bei den beiden Messungen jeweils verglichen wurde.\n\n| Veröffentlichte Angabe | Versuchsbedingungen | Gemessenes Ergebnis |\n|---|---|---|\n| Höchstens ein Sechstel der ursprünglichen Größe | Aufgabe, in einem langen Text versteckte Informationen zu finden | Größe des verkleinerten KV-Caches bei unveränderter Leistung beim Finden der richtigen Antwort |\n| Bis zu 8-fache Geschwindigkeit | Vergleich von 4-Bit-Schlüsseln mit TurboQuant und unkomprimierten 32-Bit-Schlüsseln auf einer H100-GPU | Geschwindigkeit, mit der die Punktwerte berechnet werden, die bestimmen, wie stark frühere Tokens berücksichtigt werden |\n\n### Antwortqualität nach der Kompression\n\nWie gut die Qualität erhalten bleibt, hängt auch davon ab, wie viele Bits pro Zahl verwendet werden. Laut der Studie blieb die Antwortqualität in der Auswertung auch bei durchschnittlich 3,5 Bit pro Kanal erhalten. Bei durchschnittlich 2,5 Bit sank die Qualität leicht. Antwortzeit und Qualität eines Dienstes im laufenden Betrieb müssen anhand der Fragen geprüft werden, die dieser Dienst verarbeitet.\n\n## Rechenbeispiel: Gleichzeitige Anfragen und Speicherbedarf\n\nWird der Cache auf genau ein Sechstel verkleinert, benötigen 6 gleich lange Anfragen so viel Cache-Speicher wie vor der Kompression 1 Anfrage. Die Rechnung verwendet den Faktor 6, die im Experiment angegebene Untergrenze für den Kompressionsfaktor. Dabei wird angenommen, dass das Modell und die Anfragelänge gleich bleiben und der Cache jeder Anfrage separat gespeichert wird.\n\n| Gleichzeitig verarbeitete Anfragen | Gesamte Größe des KV-Caches nach der Kompression |\n|---|---|\n| 1 Anfrage | Ein Sechstel der Größe für 1 Anfrage vor der Kompression |\n| 6 Anfragen | Genauso groß wie für 1 Anfrage vor der Kompression |\n| Mehr als 6 Anfragen | Größer als für 1 Anfrage vor der Kompression |\n\nUm die Einsparung für den gesamten Server zu berechnen, muss man wissen, wie viele Bytes der Cache vor der Kompression belegte. Unter den genannten Bedingungen werden fünf Sechstel des ursprünglichen Cache-Speichers eingespart. Je kleiner der Anteil des Caches am Gesamtspeicher ist, desto geringer fällt auch die prozentuale Einsparung für den gesamten Server aus.\n\n## Wann die Nachfrage nach HBM sinkt oder steigt\n\nWie viel HBM die Betreiber von Diensten kaufen, hängt davon ab, wie sie den eingesparten Speicherplatz nutzen. Die Kapazität von HBM gibt an, wie viele Daten gleichzeitig gespeichert werden können. Die Bandbreite gibt an, wie viele Daten in einer bestimmten Zeit übertragen werden können. Um aus der im Experiment gemessenen Cache-Größe die Einkaufsmenge abzuleiten, muss man wissen, ob die Kapazität oder die Bandbreite den Ausbau der Serverkapazität begrenzt hat.\n\n| Bedingungen beim Betrieb des Dienstes | Mögliche Auswirkung auf die HBM-Nachfrage |\n|---|---|\n| Zahl und Länge der Anfragen bleiben gleich, und wegen zu wenig Cache-Speicher war ein Ausbau geplant | Auf der vorhandenen Hardware wird Speicher frei, sodass sich weitere Käufe aufschieben lassen. |\n| Mit derselben Hardware werden mehr Anfragen gleichzeitig bearbeitet | Der eingesparte Speicherplatz kann für die Caches der neuen Anfragen genutzt werden. |\n| Sinkende Kosten führen dazu, dass Dienste zur Verarbeitung langer Dokumente deutlich häufiger genutzt werden | Wenn die zusätzliche Arbeitslast die Einsparungen pro Anfrage mehr als aufzehrt, kann der gesamte Speicherverbrauch steigen. |\n\nWenn die Effizienz steigt, die Nutzung aber noch stärker zunimmt und dadurch insgesamt mehr von einer Ressource verbraucht wird, spricht man vom Jevons-Paradoxon. Bei KI-Diensten kommt es darauf an, wie stark die tatsächliche Nutzung nach dem Rückgang der Verarbeitungskosten steigt. Wer den Umsatz von Speicherherstellern beurteilen will, muss auch die Liefermengen und die Verkaufspreise getrennt betrachten.\n\n## Warum Halbleiteraktien am 26. März fielen\n\nAm 26. März 2026 trafen Sorgen über eine nachlassende Speichernachfrage auf Unsicherheit über die Lage im Nahen Osten. Die Bank of Korea nannte beide Faktoren als Gründe für den Kursrückgang an diesem Tag. Der Wechselkurs beendete den Tageshandel bei 1.507,0 Won je US-Dollar, 7,3 Won höher als am Vortag.\n\n| Index oder Aktie | Veränderung am 26. März 2026 gegenüber dem vorherigen Handelstag | Schlussstand des Index |\n|---|---:|---:|\n| KOSPI | -3,35 % | 5.460,46 Punkte |\n| KOSDAQ | -2,x % | 1.136,64 Punkte |\n| Samsung Electronics | -4,71 % | Nicht zutreffend |\n| SK hynix | -6,23 % | Nicht zutreffend |\n\nNach den Zahlen, die Samsung Securities zum Zeitpunkt der Veröffentlichung ermittelt hatte, beliefen sich die Nettoverkäufe ausländischer Anleger am Wertpapiermarkt auf 3 Billionen 111 Milliarden Won. Alteogen meldete am selben Tag einen Technologieexport und legte um 6,28 % zu. Hanwha Solutions meldete eine Kapitalerhöhung und verlor 18,22 %. Aus der Kursveränderung eines einzelnen Tages lässt sich kaum ablesen, wie sich TurboQuant auf die Bestellungen bei den einzelnen Unternehmen ausgewirkt hat.\n\n## Worauf es bei den Geschäftszahlen der Halbleiterhersteller ankommt\n\nUm die HBM-Nachfrage einzuschätzen, muss man zwischen den von Kunden bestellten und den von den Herstellern tatsächlich gelieferten Mengen unterscheiden. SK hynix teilte bei der Veröffentlichung seiner Geschäftszahlen am 23. April 2026 mit, dass es den Absatz von Produkten mit hoher Wertschöpfung wie HBM im 1. Quartal gesteigert habe. Das Quartal umfasst auch die Zeit vor der Vorstellung von TurboQuant im März.\n\n- An den Modellen und Aufgaben, bei denen Betreiber die Kompression einsetzen, lässt sich erkennen, wie breit sie in den Diensten eingesetzt wird.\n- Für einen Vergleich der Speichereinsparungen braucht man Messwerte zum Gesamtspeicherverbrauch des Servers bei gleicher Anfragelänge und gleicher Zahl gleichzeitiger Anfragen.\n- In den Ergebnisberichten der Unternehmen lässt sich nachsehen, auf welche Zeiträume sich die HBM-Auslieferungszahlen und die künftigen Lieferpläne jeweils beziehen.","content_html":"\u003cp\u003eGoogles TurboQuant hat den KV-Cache, der zum Erzeugen von KI-Antworten dient, in einem Experiment auf \u003cstrong\u003ehöchstens ein Sechstel seiner ursprünglichen Größe\u003c/strong\u003e verkleinert. Eine einzelne Anfrage benötigt dadurch weniger Speicher. Der Gesamtbedarf an Speicher mit hoher Bandbreite (HBM) hängt davon ab, um wie viel die Zahl der gleichzeitig zu verarbeitenden Anfragen steigt.\u003c/p\u003e\n\u003cp\u003eDie Angaben zur Kompression stammen aus der Veröffentlichung von Google Research vom 24. März 2026. Bei den Aktienkursen wurden die Schlusskurse vom 26. März zugrunde gelegt.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#was-ist-der-kv-cache-den-turboquant-komprimiert\" class=\"anchor\" id=\"was-ist-der-kv-cache-den-turboquant-komprimiert\"\u003e\u003c/a\u003eWas ist der KV-Cache, den TurboQuant komprimiert?\u003c/h2\u003e\n\u003cp\u003eDer KV-Cache ist ein Zwischenspeicher, den ein Sprachmodell nutzt, wenn es auf früheren Kontext zurückgreift. Das Modell zerlegt Text zur Verarbeitung in Einheiten, die Tokens heißen. Speichert es die für jedes Token berechneten Schlüssel und Werte (KV), muss es diese beim Erzeugen des nächsten Tokens nicht erneut berechnen.\u003c/p\u003e\n\u003cp\u003eJe länger das Gespräch dauert, desto mehr Schlüssel und Werte müssen gespeichert werden. TurboQuant stellt diese Zahlen mit weniger Bits dar. Das nennt man Quantisierung. Die Gewichte, die das Modell beim Training gelernt hat, belegen auch nach der Kompression des Caches weiterhin Speicherplatz.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#was-wurde-bei-der-6-fachen-kompression-und-der-8-fachen-geschwindigkeit-gemessen\" class=\"anchor\" id=\"was-wurde-bei-der-6-fachen-kompression-und-der-8-fachen-geschwindigkeit-gemessen\"\u003e\u003c/a\u003eWas wurde bei der 6-fachen Kompression und der 8-fachen Geschwindigkeit gemessen?\u003c/h2\u003e\n\u003cp\u003eDie beiden von Google veröffentlichten Faktoren beziehen sich auf den Speicherplatz beziehungsweise auf die Geschwindigkeit einer bestimmten Berechnung. In der Versuchsbeschreibung von Google Research vom 24. März 2026 steht, was bei den beiden Messungen jeweils verglichen wurde.\u003c/p\u003e\n\u003cdiv class=\"overflow-x-auto\"\u003e\u003ctable\u003e\n\u003cthead\u003e\n\u003ctr\u003e\n\u003cth\u003eVeröffentlichte Angabe\u003c/th\u003e\n\u003cth\u003eVersuchsbedingungen\u003c/th\u003e\n\u003cth\u003eGemessenes Ergebnis\u003c/th\u003e\n\u003c/tr\u003e\n\u003c/thead\u003e\n\u003ctbody\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Veröffentlichte Angabe\"\u003eHöchstens ein Sechstel der ursprünglichen Größe\u003c/td\u003e\n\u003ctd data-label=\"Versuchsbedingungen\"\u003eAufgabe, in einem langen Text versteckte Informationen zu finden\u003c/td\u003e\n\u003ctd data-label=\"Gemessenes Ergebnis\"\u003eGröße des verkleinerten KV-Caches bei unveränderter Leistung beim Finden der richtigen Antwort\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Veröffentlichte Angabe\"\u003eBis zu 8-fache Geschwindigkeit\u003c/td\u003e\n\u003ctd data-label=\"Versuchsbedingungen\"\u003eVergleich von 4-Bit-Schlüsseln mit TurboQuant und unkomprimierten 32-Bit-Schlüsseln auf einer H100-GPU\u003c/td\u003e\n\u003ctd data-label=\"Gemessenes Ergebnis\"\u003eGeschwindigkeit, mit der die Punktwerte berechnet werden, die bestimmen, wie stark frühere Tokens berücksichtigt werden\u003c/td\u003e\n\u003c/tr\u003e\n\u003c/tbody\u003e\n\u003c/table\u003e\u003c/div\u003e\n\u003ch3\u003e\n\u003ca href=\"#antwortqualit%C3%A4t-nach-der-kompression\" class=\"anchor\" id=\"antwortqualität-nach-der-kompression\"\u003e\u003c/a\u003eAntwortqualität nach der Kompression\u003c/h3\u003e\n\u003cp\u003eWie gut die Qualität erhalten bleibt, hängt auch davon ab, wie viele Bits pro Zahl verwendet werden. Laut der Studie blieb die Antwortqualität in der Auswertung auch bei durchschnittlich 3,5 Bit pro Kanal erhalten. Bei durchschnittlich 2,5 Bit sank die Qualität leicht. Antwortzeit und Qualität eines Dienstes im laufenden Betrieb müssen anhand der Fragen geprüft werden, die dieser Dienst verarbeitet.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#rechenbeispiel-gleichzeitige-anfragen-und-speicherbedarf\" class=\"anchor\" id=\"rechenbeispiel-gleichzeitige-anfragen-und-speicherbedarf\"\u003e\u003c/a\u003eRechenbeispiel: Gleichzeitige Anfragen und Speicherbedarf\u003c/h2\u003e\n\u003cp\u003eWird der Cache auf genau ein Sechstel verkleinert, benötigen 6 gleich lange Anfragen so viel Cache-Speicher wie vor der Kompression 1 Anfrage. Die Rechnung verwendet den Faktor 6, die im Experiment angegebene Untergrenze für den Kompressionsfaktor. Dabei wird angenommen, dass das Modell und die Anfragelänge gleich bleiben und der Cache jeder Anfrage separat gespeichert wird.\u003c/p\u003e\n\u003cdiv class=\"overflow-x-auto\"\u003e\u003ctable\u003e\n\u003cthead\u003e\n\u003ctr\u003e\n\u003cth\u003eGleichzeitig verarbeitete Anfragen\u003c/th\u003e\n\u003cth\u003eGesamte Größe des KV-Caches nach der Kompression\u003c/th\u003e\n\u003c/tr\u003e\n\u003c/thead\u003e\n\u003ctbody\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Gleichzeitig verarbeitete Anfragen\"\u003e1 Anfrage\u003c/td\u003e\n\u003ctd data-label=\"Gesamte Größe des KV-Caches nach der Kompression\"\u003eEin Sechstel der Größe für 1 Anfrage vor der Kompression\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Gleichzeitig verarbeitete Anfragen\"\u003e6 Anfragen\u003c/td\u003e\n\u003ctd data-label=\"Gesamte Größe des KV-Caches nach der Kompression\"\u003eGenauso groß wie für 1 Anfrage vor der Kompression\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Gleichzeitig verarbeitete Anfragen\"\u003eMehr als 6 Anfragen\u003c/td\u003e\n\u003ctd data-label=\"Gesamte Größe des KV-Caches nach der Kompression\"\u003eGrößer als für 1 Anfrage vor der Kompression\u003c/td\u003e\n\u003c/tr\u003e\n\u003c/tbody\u003e\n\u003c/table\u003e\u003c/div\u003e\n\u003cp\u003eUm die Einsparung für den gesamten Server zu berechnen, muss man wissen, wie viele Bytes der Cache vor der Kompression belegte. Unter den genannten Bedingungen werden fünf Sechstel des ursprünglichen Cache-Speichers eingespart. Je kleiner der Anteil des Caches am Gesamtspeicher ist, desto geringer fällt auch die prozentuale Einsparung für den gesamten Server aus.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#wann-die-nachfrage-nach-hbm-sinkt-oder-steigt\" class=\"anchor\" id=\"wann-die-nachfrage-nach-hbm-sinkt-oder-steigt\"\u003e\u003c/a\u003eWann die Nachfrage nach HBM sinkt oder steigt\u003c/h2\u003e\n\u003cp\u003eWie viel HBM die Betreiber von Diensten kaufen, hängt davon ab, wie sie den eingesparten Speicherplatz nutzen. Die Kapazität von HBM gibt an, wie viele Daten gleichzeitig gespeichert werden können. Die Bandbreite gibt an, wie viele Daten in einer bestimmten Zeit übertragen werden können. Um aus der im Experiment gemessenen Cache-Größe die Einkaufsmenge abzuleiten, muss man wissen, ob die Kapazität oder die Bandbreite den Ausbau der Serverkapazität begrenzt hat.\u003c/p\u003e\n\u003cdiv class=\"overflow-x-auto\"\u003e\u003ctable\u003e\n\u003cthead\u003e\n\u003ctr\u003e\n\u003cth\u003eBedingungen beim Betrieb des Dienstes\u003c/th\u003e\n\u003cth\u003eMögliche Auswirkung auf die HBM-Nachfrage\u003c/th\u003e\n\u003c/tr\u003e\n\u003c/thead\u003e\n\u003ctbody\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Bedingungen beim Betrieb des Dienstes\"\u003eZahl und Länge der Anfragen bleiben gleich, und wegen zu wenig Cache-Speicher war ein Ausbau geplant\u003c/td\u003e\n\u003ctd data-label=\"Mögliche Auswirkung auf die HBM-Nachfrage\"\u003eAuf der vorhandenen Hardware wird Speicher frei, sodass sich weitere Käufe aufschieben lassen.\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Bedingungen beim Betrieb des Dienstes\"\u003eMit derselben Hardware werden mehr Anfragen gleichzeitig bearbeitet\u003c/td\u003e\n\u003ctd data-label=\"Mögliche Auswirkung auf die HBM-Nachfrage\"\u003eDer eingesparte Speicherplatz kann für die Caches der neuen Anfragen genutzt werden.\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Bedingungen beim Betrieb des Dienstes\"\u003eSinkende Kosten führen dazu, dass Dienste zur Verarbeitung langer Dokumente deutlich häufiger genutzt werden\u003c/td\u003e\n\u003ctd data-label=\"Mögliche Auswirkung auf die HBM-Nachfrage\"\u003eWenn die zusätzliche Arbeitslast die Einsparungen pro Anfrage mehr als aufzehrt, kann der gesamte Speicherverbrauch steigen.\u003c/td\u003e\n\u003c/tr\u003e\n\u003c/tbody\u003e\n\u003c/table\u003e\u003c/div\u003e\n\u003cp\u003eWenn die Effizienz steigt, die Nutzung aber noch stärker zunimmt und dadurch insgesamt mehr von einer Ressource verbraucht wird, spricht man vom Jevons-Paradoxon. Bei KI-Diensten kommt es darauf an, wie stark die tatsächliche Nutzung nach dem Rückgang der Verarbeitungskosten steigt. Wer den Umsatz von Speicherherstellern beurteilen will, muss auch die Liefermengen und die Verkaufspreise getrennt betrachten.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#warum-halbleiteraktien-am-26-m%C3%A4rz-fielen\" class=\"anchor\" id=\"warum-halbleiteraktien-am-26-märz-fielen\"\u003e\u003c/a\u003eWarum Halbleiteraktien am 26. März fielen\u003c/h2\u003e\n\u003cp\u003eAm 26. März 2026 trafen Sorgen über eine nachlassende Speichernachfrage auf Unsicherheit über die Lage im Nahen Osten. Die Bank of Korea nannte beide Faktoren als Gründe für den Kursrückgang an diesem Tag. Der Wechselkurs beendete den Tageshandel bei 1.507,0 Won je US-Dollar, 7,3 Won höher als am Vortag.\u003c/p\u003e\n\u003cdiv class=\"overflow-x-auto\"\u003e\u003ctable\u003e\n\u003cthead\u003e\n\u003ctr\u003e\n\u003cth\u003eIndex oder Aktie\u003c/th\u003e\n\u003cth\u003eVeränderung am 26. März 2026 gegenüber dem vorherigen Handelstag\u003c/th\u003e\n\u003cth\u003eSchlussstand des Index\u003c/th\u003e\n\u003c/tr\u003e\n\u003c/thead\u003e\n\u003ctbody\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Index oder Aktie\"\u003eKOSPI\u003c/td\u003e\n\u003ctd data-label=\"Veränderung am 26. März 2026 gegenüber dem vorherigen Handelstag\"\u003e-3,35 %\u003c/td\u003e\n\u003ctd data-label=\"Schlussstand des Index\"\u003e5.460,46 Punkte\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Index oder Aktie\"\u003eKOSDAQ\u003c/td\u003e\n\u003ctd data-label=\"Veränderung am 26. März 2026 gegenüber dem vorherigen Handelstag\"\u003e-2,x %\u003c/td\u003e\n\u003ctd data-label=\"Schlussstand des Index\"\u003e1.136,64 Punkte\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Index oder Aktie\"\u003eSamsung Electronics\u003c/td\u003e\n\u003ctd data-label=\"Veränderung am 26. März 2026 gegenüber dem vorherigen Handelstag\"\u003e-4,71 %\u003c/td\u003e\n\u003ctd data-label=\"Schlussstand des Index\"\u003eNicht zutreffend\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Index oder Aktie\"\u003eSK hynix\u003c/td\u003e\n\u003ctd data-label=\"Veränderung am 26. März 2026 gegenüber dem vorherigen Handelstag\"\u003e-6,23 %\u003c/td\u003e\n\u003ctd data-label=\"Schlussstand des Index\"\u003eNicht zutreffend\u003c/td\u003e\n\u003c/tr\u003e\n\u003c/tbody\u003e\n\u003c/table\u003e\u003c/div\u003e\n\u003cp\u003eNach den Zahlen, die Samsung Securities zum Zeitpunkt der Veröffentlichung ermittelt hatte, beliefen sich die Nettoverkäufe ausländischer Anleger am Wertpapiermarkt auf 3 Billionen 111 Milliarden Won. Alteogen meldete am selben Tag einen Technologieexport und legte um 6,28 % zu. Hanwha Solutions meldete eine Kapitalerhöhung und verlor 18,22 %. Aus der Kursveränderung eines einzelnen Tages lässt sich kaum ablesen, wie sich TurboQuant auf die Bestellungen bei den einzelnen Unternehmen ausgewirkt hat.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#worauf-es-bei-den-gesch%C3%A4ftszahlen-der-halbleiterhersteller-ankommt\" class=\"anchor\" id=\"worauf-es-bei-den-geschäftszahlen-der-halbleiterhersteller-ankommt\"\u003e\u003c/a\u003eWorauf es bei den Geschäftszahlen der Halbleiterhersteller ankommt\u003c/h2\u003e\n\u003cp\u003eUm die HBM-Nachfrage einzuschätzen, muss man zwischen den von Kunden bestellten und den von den Herstellern tatsächlich gelieferten Mengen unterscheiden. SK hynix teilte bei der Veröffentlichung seiner Geschäftszahlen am 23. April 2026 mit, dass es den Absatz von Produkten mit hoher Wertschöpfung wie HBM im 1. Quartal gesteigert habe. Das Quartal umfasst auch die Zeit vor der Vorstellung von TurboQuant im März.\u003c/p\u003e\n\u003cul\u003e\n\u003cli\u003eAn den Modellen und Aufgaben, bei denen Betreiber die Kompression einsetzen, lässt sich erkennen, wie breit sie in den Diensten eingesetzt wird.\u003c/li\u003e\n\u003cli\u003eFür einen Vergleich der Speichereinsparungen braucht man Messwerte zum Gesamtspeicherverbrauch des Servers bei gleicher Anfragelänge und gleicher Zahl gleichzeitiger Anfragen.\u003c/li\u003e\n\u003cli\u003eIn den Ergebnisberichten der Unternehmen lässt sich nachsehen, auf welche Zeiträume sich die HBM-Auslieferungszahlen und die künftigen Lieferpläne jeweils beziehen.\u003c/li\u003e\n\u003c/ul\u003e\n","tags":["Generative KI","KI Rechenzentrum","Samsung Electronics","SK hynix","Halbleiter für KI","HBM"],"faqs":[{"question":"Lässt sich mit TurboQuant die Zahl der HBM-Chips von 6 auf 1 senken?","answer":"Die von Google gemessene Kompression um mindestens den Faktor 6 bezieht sich auf die Größe des KV-Caches. Um die benötigte Zahl der HBM-Chips zu berechnen, muss man den gesamten Speicherbedarf einschließlich der Modellgewichte und die benötigte Bandbreite kennen."},{"question":"Sinkt mit TurboQuant auch der Speicherbedarf beim KI-Training auf ein Sechstel?","answer":"Dieser Wert wurde für den KV-Cache gemessen, den ein fertig trainiertes Sprachmodell bei der Suche nach Informationen in langen Texten verwendet. Wie viel Speicher sich beim Training des Modells insgesamt einsparen lässt, kann man aus diesem Experiment nicht berechnen."},{"question":"Gilt der genannte Faktor von bis zu 8 auch für die Wartezeit bis zur Antwort?","answer":"Das Forschungsteam verglich auf einer H100-GPU, wie schnell sich die Werte berechnen lassen, die bestimmen, wie stark frühere Tokens berücksichtigt werden. Um die Geschwindigkeit für die gesamte Antwort zu ermitteln, muss man die Zeit vom Beginn der Eingabeverarbeitung bis zum Ende der Ausgabe messen."},{"question":"Bleibt die Qualität der Antworten in langen Gesprächen erhalten, wenn der Cache komprimiert wird?","answer":"In einem Test des Google-Forschungsteams, bei dem es darum ging, versteckte Informationen in langen Texten zu finden, blieb die Leistung beim Ermitteln der richtigen Antworten unverändert. Laut der Forschungsarbeit sank die Qualität leicht, als die Bitzahl auf durchschnittlich 2,5 Bit pro Kanal gesenkt wurde."},{"question":"Wofür lässt sich TurboQuant außer für den KV-Cache von Sprachmodellen einsetzen?","answer":"Das Forschungsteam setzte TurboQuant auch bei der Vektorsuche ein, um Einträge mit ähnlicher Bedeutung zu finden. Dabei werden die Zahlen komprimiert, die die Merkmale der durchsuchten Einträge beschreiben. Anschließend wird geprüft, wie gut sich die gesuchten Einträge finden lassen."},{"question":"Wurde die Forschungsarbeit zu TurboQuant erstmals im März 2026 veröffentlicht?","answer":"Das Forschungsteam veröffentlichte die Arbeit erstmals am 28. April 2025 auf arXiv. Google Research stellte die Forschungsergebnisse am 25. März 2026 (Ortszeit) vor."},{"question":"Lässt sich aus dem Rückgang des Aktienkurses am 26. März auf weniger HBM-Bestellungen schließen?","answer":"Im Aktienkurs dieses Tages spiegelten sich sowohl Sorgen über die künftige Nachfrage nach Speicher als auch die Lage im Nahen Osten wider. Ob sich die Bestellungen tatsächlich verändert haben, muss anhand der Lieferverträge mit den Kunden oder der HBM-Auslieferungszahlen der folgenden Quartale geprüft werden."}],"sources":[{"url":"https://research.google/blog/turboquant-redefining-ai-efficiency-with-extreme-compression/","title":"Google Research, TurboQuant: KI-Effizienz durch extreme Kompression neu definieren","type":"source"},{"url":"https://arxiv.org/abs/2504.19874","title":"TurboQuant: Online-Vektorquantisierung mit nahezu optimaler Verzerrungsrate","type":"source"},{"url":"https://www.samsungpop.com/common.do?cmd=down\u0026contentType=application%2Fpdf\u0026fileName=4020%2F2026032616002001K_02_02.pdf\u0026inlineYn=Y\u0026saveKey=research.pdf","title":"Samsung Securities, Lage am Inlandsmarkt bei Handelsschluss am 26. März 2026","type":"data_point"},{"url":"https://www.bok.or.kr/portal/bbs/P0002018/view.do?menuNo=200366\u0026nttId=10097172","title":"Bank of Korea, wichtige Finanzmarktindikatoren (3.27), Handel vom 26. März 2026","type":"data_point"},{"url":"https://news.skhynix.co.kr/q1-2026-business-results/","title":"SK hynix, Bekanntgabe der Geschäftsergebnisse für das 1. Quartal 2026","type":"source"}],"images":[{"id":3230,"url":"https://injoys.com/rails/active_storage/blobs/proxy/eyJfcmFpbHMiOnsiZGF0YSI6NDg3MTcsInB1ciI6ImJsb2JfaWQifX0=--aa9e0ea7054675bdd74ce1f5ae9ed2310f6ece0e/ai-b752b70d.webp","is_representative":true,"generation_method":"ai_photo","license":"ai_generated","mime_type":"image/webp","width":1536,"height":1024,"translations":{"ko":{"alt":"자동 검사 장비 아래 검은 트레이에 줄지어 놓인 적층 HBM 칩","caption":"HBM 수요 변화를 판단하려면 서비스가 동시에 처리하는 요청 수와 메모리 업체의 실제 공급량을 함께 봐야 한다.","description":null},"en":{"alt":"Rows of stacked HBM chips in a black tray beneath an automated inspection station.","caption":"To gauge changes in HBM demand, track both how many requests services handle at once and how much memory suppliers actually deliver.","description":null},"ja":{"alt":"自動検査装置の下で、黒いトレーに整列した積層HBMチップ","caption":"HBMの需要変化を見極めるには、サービスが同時に処理するリクエスト数とメモリメーカーの実際の供給量をあわせて見る必要がある。","description":null},"es":{"alt":"Filas de chips HBM apilados en una bandeja negra bajo un equipo de inspección automática.","caption":"Para evaluar los cambios en la demanda de HBM, hay que observar cuántas solicitudes procesan los servicios a la vez y cuánta memoria suministran realmente los fabricantes.","description":null},"id":{"alt":"Deretan cip HBM bertumpuk di baki hitam di bawah alat inspeksi otomatis.","caption":"Untuk menilai perubahan permintaan HBM, perhatikan jumlah permintaan yang ditangani layanan secara bersamaan dan volume memori yang benar-benar dipasok produsen.","description":null},"pt":{"alt":"Fileiras de chips HBM empilhados em uma bandeja preta sob um equipamento de inspeção automática.","caption":"Para avaliar mudanças na demanda por HBM, é preciso acompanhar quantas solicitações os serviços processam ao mesmo tempo e quanta memória os fabricantes de fato fornecem.","description":null},"zh-hant":{"alt":"自動檢測設備下方，黑色托盤上整齊排列著堆疊式 HBM 晶片。","caption":"要判斷 HBM 需求的變化，須同時觀察服務並行處理的請求數量與記憶體廠商的實際供貨量。","description":null},"de":{"alt":"Reihen gestapelter HBM-Chips in einem schwarzen Träger unter einer automatischen Prüfanlage.","caption":"Um Änderungen der HBM-Nachfrage einzuschätzen, muss man sowohl die Zahl gleichzeitig verarbeiteter Anfragen als auch die tatsächlichen Liefermengen der Speicherhersteller betrachten.","description":null}}},{"id":3231,"url":"https://injoys.com/rails/active_storage/blobs/proxy/eyJfcmFpbHMiOnsiZGF0YSI6NDg3MjMsInB1ciI6ImJsb2JfaWQifX0=--a684b87ab351231630b796a548a827c9949128a0/ai-e219098b.webp","is_representative":false,"generation_method":"ai_semi","license":"ai_generated","mime_type":"image/webp","width":1536,"height":1024,"translations":{"ko":{"alt":"짙은 회색 코트를 입은 여성이 점선 아래로 빨간 막대 두 개가 내려간 전광판을 바라본다.","caption":"2026년 3월 26일 삼성전자와 SK하이닉스 주가는 전 거래일보다 각각 4.71%, 6.23% 하락했다.","description":null},"en":{"alt":"A woman in a charcoal coat glances at a screen with two red bars extending below a dashed line.","caption":"On March 26, 2026, Samsung Electronics and SK Hynix shares fell 4.71% and 6.23%, respectively, from the previous close.","description":null},"ja":{"alt":"濃いグレーのコートを着た女性が、破線の下に赤い棒が2本伸びる画面に目を向けている。","caption":"2026年3月26日、サムスン電子とSKハイニックスの株価は前営業日比でそれぞれ4.71％、6.23％下落した。","description":null},"es":{"alt":"Una mujer con abrigo gris oscuro mira una pantalla con dos barras rojas por debajo de una línea discontinua.","caption":"El 26 de marzo de 2026, las acciones de Samsung Electronics y SK Hynix cayeron un 4,71 % y un 6,23 %, respectivamente, frente al cierre anterior.","description":null},"id":{"alt":"Seorang perempuan berjas abu-abu gelap melirik layar dengan dua batang merah di bawah garis putus-putus.","caption":"Pada 26 Maret 2026, saham Samsung Electronics dan SK Hynix masing-masing turun 4,71% dan 6,23% dari penutupan sebelumnya.","description":null},"pt":{"alt":"Uma mulher de casaco cinza-escuro olha para uma tela com duas barras vermelhas abaixo de uma linha tracejada.","caption":"Em 26 de março de 2026, as ações da Samsung Electronics e da SK Hynix caíram 4,71% e 6,23%, respectivamente, ante o fechamento anterior.","description":null},"zh-hant":{"alt":"一名穿深灰色大衣的女子側望螢幕，上面有兩根紅色長條從虛線向下延伸。","caption":"2026年3月26日，三星電子與SK海力士的股價較前一交易日分別下跌4.71%和6.23%。","description":null},"de":{"alt":"Eine Frau im dunkelgrauen Mantel blickt auf einen Bildschirm mit zwei roten Balken unter einer gestrichelten Linie.","caption":"Am 26. März 2026 fielen die Aktien von Samsung Electronics und SK Hynix gegenüber dem vorherigen Schlusskurs um 4,71 % beziehungsweise 6,23 %.","description":null}}}],"published_at":"2026-11-21T09:02:17+09:00","updated_at":"2026-11-21T09:02:17+09:00","license":"cc_by","translation_status":"reviewed","available_locales":["ko","en","ja","es"],"data_locales":["ko","en","ja","es","id","pt","zh-hant","de"],"url":"https://injoys.com/en/articles/turboquant-kv-cache-compression-hbm-demand"}