Googleが発表した量子化技術「TurboQuant」は、KVキャッシュを6倍に圧縮し、推論コストを大幅に削減します。

GPU需要の減少懸念から半導体関連株が急落する場面もありました。