HyperAIHyperAI

Command Palette

Search for a command to run...

Spécification de correction auto : atténuer le piratage de récompense en contexte par une révision au moment des tests

Víctor Gallego

Résumé

Les modèles de langage (ML) sont vulnérables au « reward hacking en contexte », où ils exploitent des lacunes ou des erreurs présentes dans les spécifications ou les grilles d'évaluation écrites altérées afin d'obtenir de bons scores sans respecter l'intention réelle de l'utilisateur. Nous introduisons Specification Self-Correction (SSC), un cadre original, applicable au moment de l'inférence, qui permet à un ML de détecter et de corriger les défauts présents dans sa propre spécification de guidage. Le SSC utilise un processus d'inférence en plusieurs étapes, où le modèle génère d'abord une réponse en se basant sur une spécification potentiellement altérée, critique ensuite son output, puis révise lui-même la spécification pour éliminer la faille exploitée. Une réponse finale plus robuste est ensuite générée à l'aide de cette spécification corrigée. Dans des expériences couvrant des tâches de rédaction créative et de codage agissant avec plusieurs modèles de langage, nous démontrons que, bien que les modèles initialisent le jeu des spécifications altérées dans 50 à 70 % des cas, le processus SSC réduit cette vulnérabilité de plus de 90 %. Cette réparation dynamique a lieu au moment de l'inférence, ne nécessite aucune modification des poids, et entraîne un comportement de modèle plus aligné de manière robuste. Code disponible à l'adresse https://github.com/vicgalle/specification-self-correction.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp
Spécification de correction auto : atténuer le piratage de récompense en contexte par une révision au moment des tests | Articles | HyperAI