Veilige reacties zijn belangrijk: Output-bewuste veiligheidsmaatregelen verminderen overmatige weigering in MLLM's

Gepubliceerd 14 July 2026

Bestaande veiligheidsmechanismen voor multimodale grote taalmodellen (MLLM's) kampen met een fundamentele afweging tussen veiligheid en bruikbaarheid. Input-gebaseerde veiligheidsmaatregelen kunnen leiden tot overmatige weigering van onschuldige vragen. Dit onderzoek stelt dat de oorzaak van deze overmatige weigering ligt in het input-georiënteerde paradigma, waarbij veiligheidsbeslissingen worden genomen zonder rekening te houden met de mogelijkheid van het model om veilige reacties te genereren. De auteurs stellen een verschuiving voor naar output-bewuste veiligheidsmaatregelen, die voorspellen of de gegenereerde output onveilig zal zijn, en zo de bruikbaarheid van het model behouden. Experimenten tonen aan dat deze nieuwe aanpak de veiligheidsprestaties van bestaande methoden evenaart, terwijl de overmatige weigering aanzienlijk wordt verminderd.