Onderzoek Unconfirmed

Gauge-afhankelijkheid en gestructureerde uitvoerbeschadiging in herhalingsstraffen

Gepubliceerd 14 July 2026

AI-samenvatting, gecontroleerd door de redactie.

Dit onderzoek bespreekt de multiplicatieve herhalingsstraf die wordt toegepast in verschillende LLM-inferentie-ecosystemen. Het signaal van elke logit beïnvloedt de herhalingsstraf, wat leidt tot onduidelijkheid in de definitie van de straf en een aanzienlijke daling van de geldigheid van gestructureerde uitvoer. Bij het gebruik van een constante voor het centreren van logits blijkt dat de herhalingsstraf de prestaties van modellen negatief beïnvloedt, vooral bij het genereren van JSON-schema's. Het onderzoek stelt voor om genormaliseerde log-probabiliteiten toe te passen om deze effecten te verminderen.

Betrouwbaarheid
70
Relevantie
80
Impact
75
Urgentie
60

Oorspronkelijke bronnen (1)

Deze pagina toont geen volledige brontekst - lees het origineel voor de volledige context.

  • Primaire bron Gauge dependence and structured-output corruption in sign-branched repetition penalties: measurements across models, inference stacks, and alternative repetition controls
    arXiv - cs.LG (Machine Learning) · 14-07-2026 · ResearchPublication
    Lees origineel
Fout gezien of correctie nodig? Neem contact op.