Potare i LLM come un fisico: la rimozione di blocchi come problema di ottimizzazione di Ising

La rimozione di blocchi interi dai Large Language Models (LLM) è una tecnica per migliorarne la velocità e ridurre il consumo di memoria. La sfida consiste nello scegliere quali blocchi rimuovere, poiché la loro interazione rende il problema combinatorio. Questo studio riformula la selezione dei blocchi come un problema di ottimizzazione binaria vincolata (CBO), mappandolo su un sistema di spin di Ising. Questo approccio permette di valutare un gran numero di configurazioni potate senza benchmarking diretto, ottenendo miglioramenti significativi nelle prestazioni dei modelli compressi.