Secondo uno studio pubblicato su ACM Transactions on Intelligent Systems and Technology, selezionare per l’addestramento i testi meno prevedibili riduce il model collapse (collasso del modello), la degenerazione che colpisce i modelli linguistici quando vengono alimentati con i propri stessi output. La ricerca è stata condotta da Cnr-Isti, Università di Pisa, Scuola Normale Superiore e Victoria University of Wellington.
I ricercatori hanno analizzato quattro modelli di IA generativa (tra cui Llama di Meta) per studiare il fenomento del model collapse, osservando un progressivo impoverimento di varietà e coerenza dei testi generati. Hanno poi testato una strategia alternativa al metodo classico, che prevede di distinguere testi umani e artificiali, ovvero misurare la perplexity, cioè quanto un documento risulta “sorprendente” per il modello stesso (un testo che il modello non avrebbe scritto in quel modo). Attraverso una serie di esperimenti, hanno dimostrato che selezionando per l’addestramento solo i documenti più sorprendenti e scartando quelli più prevedibili, che risultano i maggiori responsabili del collasso, si riesce a mitigare il fenomeno, senza la necessità di sapere a priori se un testo è stato scritto da un umano o da una macchina.
Leggi il comunicato completo: Collasso dell’IA: l’antidoto è la “sorpresa” su CNR
Immagine generata tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (10/03/2025).

