L’IA riuscirà mai a sviluppare il buonsenso? Questo tema complesso è al centro del podcast “The Joy of Why”, condotto da Steven Strogatz, che ospita la professoressa Yejin Choi dell’Università di Washington.
Strogatz evidenzia come i chatbot moderni siano capaci di rispondere a domande complesse e di generare contenuti che sembrano umani, nonostante siano fondamentalmente “scatole nere”. Choi spiega che, sebbene questi modelli siano in grado di simulare il linguaggio umano, la loro mancanza di buonsenso emerge attraverso errori spesso definibili assurdi, chiamati allucinazioni. Questi modelli si basano su enormi set di dati testuali e potenza di calcolo avanzata per prevedere la parola successiva in una sequenza, ma questo approccio differisce radicalmente dal modo in cui gli esseri umani apprendono e comprendono il mondo.
L’addestramento degli LLM avviene in due fasi: pre-addestramento, in cui il modello impara a prevedere parole successive su larga scala per poi comporre una risposta, e post-addestramento, che include il feedback umano sui risultati forniti dagli LLM, utile per affinare ulteriormente il comportamento del modello. Tuttavia, nonostante questi processi di apprendimento, i modelli restano privi di emozioni e desideri propri, elementi fondamentali per il buonsenso umano.
Sebbene gli LLM possano sembrare intelligentissimi, essi replicano semplicemente schemi appresi dai dati disponibili in rete, senza comprendere realmente il contesto o le implicazioni delle loro risposte. La mancanza di una reale comprensione, unita alla dipendenza da dati preesistenti, infatti, limita gli LLM,
Choi sottolinea l’importanza di un approccio interdisciplinare nella ricerca sull’IA, con contributi in linguistica, psicologia e scienza cognitiva, per affrontare la complessità dell’intelligenza. Parlando di buonsenso, Choi evidenzia le difficoltà delle IA nel comprendere e applicare conoscenze di base che per gli umani sono intuitive.
Leggi l’articolo completo: Will AI Ever Have Common Sense? su quantamagazine.org.
Immagine generata tramite DALL-E 3.
