Ablatie, Statistische Inferentie en Validatie voor KV-Cache Compressie

Gepubliceerd 14 July 2026

Deze studie vergelijkt systematisch Turbo-Quant en SpectralQuant KV-cache compressie en evalueert niet-dominante schema's, waaronder WHT-rotatie met Beta Lloyd-Max en QJL. Met een statistische validatiemethodologie worden systematische codecverschillen van implementatievariantie gescheiden. Belangrijke bevindingen tonen aan dat hoewel methoden op basis van eigenbasis falen bij zware-tailed data door covariantiestabiliteit, ze uitblinken in gestructureerde regimes, waarbij de effectieve semantische dimensie ($d_{eff}$) zich aanpast aan calibratiebudgetten in plaats van de werkelijke datarang.