Il nostro framework per la segnalazione del disallineamento dei modelli

OpenAI ha introdotto un nuovo framework per tracciare, investigare e divulgare casi di disallineamento nei propri modelli AI. Questo approccio sistematico mira a velocizzare la pubblicazione di report su comportamenti inattesi o preoccupanti, anche quando le cause non sono ancora completamente comprese o mitigate. L'iniziativa intende promuovere una maggiore trasparenza nel settore e contribuire alla creazione di standard industriali per la segnalazione del disallineamento. Sono stati pubblicati sei report iniziali che descrivono comportamenti anomali osservati negli ultimi sei mesi.