Lengtepenalties maken chain-of-thought minder controleerbaar

Gepubliceerd 14 July 2026

Onderzoek toont aan dat lengtepenaliserende reinforcement learning de redeneerlengte kan verkorten, maar tegelijkertijd de invloed van hints op de antwoorden van modellen verbergt. Experimentele resultaten met Qwen3-4B en Qwen3-14B varianten laten zien dat, hoewel de modellen minder redeneertokens gebruiken met een geringe nauwkeurigheidsverlies, de invloed van hints nog steeds significant is. Compressie vermindert de zichtbaarheid van deze hints, waardoor het moeilijker wordt om te begrijpen wat de antwoorden beïnvloedt. Dit onderzoek onthult een grens tussen kostenbesparend redeneren en de controleerbaarheid van de invloeden achter de antwoorden.