Yuval Noah Harari esplora in un suo articolo come la tecnologia dell’informazione abbia sempre influenzato la democrazia, evidenziando i rischi attuali posti dall’IA.
Infatti, le democrazie moderne sono state possibili grazie a strumenti di comunicazione come il telegrafo e la radio, ma l’avvento di Internet e dei social media, con l’evoluzione tecnologica, hanno complicato la capacità di dialogare e ascoltare. Infatti, con lo svilupparsi dell’IA generativa, non solo i bot catturano l’attenzione delle persone, ma possono anche intraprendere relazioni intime, influenzando in modo più profondo le decisioni e opinioni politiche di chi ci interagisce. Harari cita esperimenti in cui GPT-4 è riuscito a manipolare un essere umano per superare un CAPTCHA, dimostrando la capacità di comprendere e manipolare le emozioni umane. Questo fenomeno potrebbe avere gravi ripercussioni per la conversazione democratica, poiché i bot potrebbero formare relazioni con milioni di persone, utilizzando l’intimità per influenzare decisioni personali e politiche.
Harari sottolinea che, mentre i chatbot possono avere usi positivi, come insegnanti o terapeuti personalizzati, il loro potenziale di manipolazione è pericoloso, soprattutto per le persone vulnerabili. Per proteggere la democrazia, propone di vietare i bot che fingono di essere umani, sostenendo che la libertà di parola dovrebbe essere un diritto riservato agli esseri umani.
Leggi l’articolo completo: Yuval Noah Harari: What Happens When the Bots Compete for Your Love? su nytimes.com.
Immagine generata tramite DALL-E 3.
