Si diffonde sempre di più l’idea di “allineamento morale” nei modelli linguistici e questo non risolve i veri problemi legati all’IA. Infatti, molte discussioni si concentrano sulla prevenzione di danni ipotetici, come ad esempio una futura superintelligenza che minaccia l’umanità o l’uso dei LLM per scopi dannosi, trascurando però questioni più urgenti, come il fatto che sembrerebbe che solo chi sviluppa i LLM ne trarranno benefici. Invece, al resto della società rimarranno i rischi, come l’impatto ambientale o lo sfruttamento del lavoro.
Un altro esempio significativo lo offre OpenAI, promuovendo la diagnosi medica con il suo modello o1, nonostante le evidenti lacune tecniche che potrebbero portare a usi impropri. Inoltre, l’estrazione non consensuale di dati, il sextorting sui social media e il ricorso al lavoro minorile nelle catene di approvvigionamento tecnologiche sono problemi reali che vengono trascurati.
L’insistenza sull’allineamento morale non affronta le questioni più urgenti e concrete legate alla responsabilità, alla sicurezza e alla giustizia sociale.
Leggi l’articolo completo: Why Morally Aligned LLMs Solve Nothing su artificialintelligencemadesimple.substack.com.
Immagine generata tramite DALL-E 3.
