L’attuale proliferazione di contenuti online generati da IA sta mettendo a rischio la qualità dei modelli di IA futuri. Ad evidenziarlo è un recente studio pubblicato su Nature che ha osservato che i modelli di IA, quando sono addestrati su dati prodotti da altre IA, vedono una graduale riduzione della qualità del loro output. Questo fenomeno, definito “collasso del modello”, comporta che le informazioni generate diventino progressivamente meno accurate e sempre più incoerenti.
Ilia Shumailov, informatico dell’Università di Oxford e autore principale di questo studio, ha paragonato questo processo allo scattare ripetutamente foto di foto, con il risultato di un’immagine sempre più degradata nel tempo. Funziona così anche con gli screenshot di screenshot. Shumailov avverte che più i modelli utilizzano dati generati da IA precedenti per addestrarsi, più il rischio di produrre “spazzatura” aumenta.
Questa problematica è particolarmente rilevante per i modelli di IA di larga scala come GPT-3, che si basano su vasti archivi di dati online come Common Crawl, un repository che include miliardi di pagine web. L’incremento di contenuti generati dall’IA, spesso di bassa qualità, potrebbe ulteriormente compromettere l’affidabilità di tali modelli.
Leggi l’articolo completo: AI trained on AI garbage spits out AI garbage su technologyreview.com.
Immagine generata tramite DALL-E 3
