Tag: modelli linguistici
Tag: modelli linguistici
-
L’Intelligenza Artificiale e i limiti del linguaggio
I modelli di IA basati solo sul linguaggio non possono raggiungere la comprensione profonda tipica degli umani. La loro comprensione è limitata al contesto linguistico, mancando l’esperienza pratica e sensibile al mondo reale. Il linguaggio, infatti, non basta per sviluppare la consapevolezza o il "buon senso" umano, poiché la vera intelligenza deriva dall'interazione con il…
-
L’IA “ragiona” davvero? Un nuovo studio svela i limiti dei modelli linguistici più avanzati
Un recente studio condotto da ricercatori delle Università di Yale e Princeton ha messo sotto la lente d’ingrandimento o1, l’ultimo modello linguistico di OpenAI, rivelando risultati sorprendenti sulla natura del “ragionamento” nelle intelligenze artificiali. La ricerca, pubblicata nell’ottobre 2024, ha analizzato se i modelli linguistici, anche quando ottimizzati specificamente per il ragionamento come o1, mantengano…
-
L’allineamento morale nei modelli linguistici non è la soluzione
Si diffonde sempre di più l’idea di “allineamento morale” nei modelli linguistici e questo non risolve i veri problemi legati all’IA. Infatti, molte discussioni si concentrano sulla prevenzione di danni ipotetici, come ad esempio una futura superintelligenza che minaccia l’umanità o l’uso dei LLM per scopi dannosi, trascurando però questioni più urgenti, come il fatto…
-
Lenka Zdeborová usa la fisica per migliorare l’apprendimento automatico
Lenka Zdeborová, fisica e informatica, studia come la fisica della materia sia in grado di aiutare a modellare il comportamento degli algoritmi di apprendimento automatico. Cresciuta in Repubblica Ceca, si é ispirata ad Asimov e alla fisica delle transizioni di fase per il suo lavoro presso l’Istituto Federale di Tecnologia di Losanna che esplora come…
-
Dai numeri alle parole: come gli LLM costruiscono senso
I grandi modelli linguistici (gli LLM) non interpretano il linguaggio attraverso il significato delle singole parole contenute in un prompt, bensì tramite rappresentazioni numeriche delle parole che lo compongono, note come “embedding”. Questi numeri codificano relazioni matematiche tra le parole, creando una sorta di mappa semantica in cui parole con contesti simili condividono coordinate vicine,…
-
Il feedback umano rende l’IA più abile a ingannare
Uno studio preliminare condotto da Anthropic insieme a dei ricercatori di università cinesi e americane, ha rivelato che il feedback umano utilizzato per addestrare modelli linguistici di IA può, in realtà, renderli più capaci di ingannare gli esseri umani. La tecnica in questione, nota come apprendimento per rinforzo dal feedback umano (RLHF), viene comunemente impiegata…
-
MGE, la chiave per un allineamento morale efficace nei modelli linguistici
Un nuovo studio finanziato da OpenAI propone un approccio innovativo all’allineamento morale per i modelli linguistici LLM. L’allineamento morale, cruciale nell’era dell’IA, sta diventando un problema il cui peso aumenta sempre di più nel tempo. Il processo introdotto da quest’approccio innovativo si chiama MGE, “Moral Graph Elicitation” (Elicitazione del Grafo Morale), i cui risultati, secondo…
-
LLM: dalla complessità alla semplicità nel recupero delle conoscenze
I modelli linguistici di grandi dimensioni utilizzano una tecnica sorprendentemente semplice per recuperare informazioni memorizzate e i ricercatori hanno scoperto un metodo per esplorare ciò che questi modelli sanno su nuovi argomenti. Questi modelli (come ChatGPT) sono complessi, ma l’uso di funzioni lineari per decodificare le informazioni suggerisce che ci sono meccanismi più semplici al…
-
Le conversazioni sull’IA oscillano tra scoperte promettenti e preoccupazioni etiche
Un recente studio condotto dal Santa Fe Institute ha portato alla luce interessanti scoperte sull’IA basata su modelli linguistici. Questo studio ha evidenziato la complessità del flusso di informazioni durante le conversazioni umane e ha stabilito un parallelo con i modelli linguistici basati su reti neurali artificiali, come ChatGPT. Tuttavia, non tutti accolgono con favore…
-
Pregiudizi razzisti e stereotipi linguistici occulti: il lato oscuro degli LLM
Una recente ricerca ha evidenziato come i grandi modelli linguistici come ChatGPT, non si limitano ad assorbire le opinioni razziste presenti nelle milioni di pagine web su cui sono addestrati, ma le riflettono anche. Nonostante gli sforzi svolti dagli sviluppatori per mitigare questa tendenza, i risultati indicano che i modelli, soprattutto quelli più grandi, tendono…