Come dettagliato in un articolo pubblicato su Nature, il collasso dei modelli è un fenomeno degenerativo e inevitabile che avviene quando le IA vengono allenate con dati che includono contenuti a loro volta generati artificialmente.
Questo processo ricorsivo influenza negativamente la distribuzione che caratterizzava i dataset di riferimento delle prime versioni, composti da dati interamente prodotti da umani, che seppur con una certa approssimazione riflettevano la complessità e variabilità del linguaggio. Nelle versioni successive, la presenza di dati generati da IA nel dataset di addestramento si traduce invece in una progressiva tendenza da parte dei modelli linguistici a produrre contenuti sempre più uniformi e dunque meno accurati e utili.
Se trascurato, il collasso dei modelli comporta una riduzione della loro affidabilità e della qualità degli output, intaccando le prestazioni dei servizi e prodotti basati su di essi. Il suo impatto investirebbe dunque l’intero ecosistema di tecnologie entro cui l’intelligenza artificiale generativa trova applicazione, dai servizi di customer service automatizzati alle previsioni finanziarie. Questo progressivo degrado rischia inoltre di esacerbare ulteriormente i bias, aumentando i già noti rischi legati a pregiudizi e discriminazione.
Per quanto si tratti di un processo inesorabile, alcune buone pratiche possono essere utili a rallentarlo e affrontarne gli effetti. In questo senso, si rende necessaria la collaborazione tra gli attori dell’industria in un’ottica di sforzo comune all’insegna della trasparenza e cooperazione. Integrare reset periodici dei dataset e garantire l’accesso a dati di alta qualità prodotti da umani costituiscono azioni cruciali per il futuro dell’evoluzione dell’intelligenza artificiale. A tal proposito, rimangono da affrontare importanti sfide etiche e legali riguardanti lo scraping, la proprietà dei dati e il consenso sul loro uso per l’allenamento di IA.
Leggi l’articolo completo Why AI Models Are Collapsing And What It Means For The Future Of Technology su Forbes
Immagine generata con Dall-E 3
