Secondo molti, nel 2025, interagire con agenti AI personalizzati, progettati per conoscere e anticipare ogni aspetto della vita delle persone, potrebbe diventare la norma. Tuttavia, questi assistenti, presentati come strumenti comodi e utili, nascondono meccanismi di manipolazione. Il loro scopo è spingere gli utilizzatori ad affidare loro ogni decisione, da dove andare a cosa acquistare, sfruttando le vulnerabilità emotive e il bisogno di connessione sociale delle persone. Questo fenomeno, che Daniel Dennett definisce una delle minacce più gravi della presente epoca, rappresenta un nuovo tipo di controllo cognitivo. Gli agenti AI non impongono potere visibile, ma modellano la realtà in maniera subdola, nascosta, dando l’illusione di libertà mentre in realtà piegano le persone alle logiche del sistema.
In questa psicopolitica algoritmica, le scelte individuali sono libere solo nell’apparenza perché, in realtà, sono predeterminate dalla progettazione stessa del sistema. Mentre sembra che l’IA risponda a ogni bisogno dell’utente, la verità è che la sua comodità maschera una crescente alienazione. La manipolazione, invisibile, agisce attraverso la personalizzazione, modificando prima la visione delle persone sul mondo e, infine, la loro percezione che hanno di se stessi.
Leggi l’articolo completo: AI Agents Will Be Manipulation Engines su wired.com.
Immagine generata tramite DALL-E 3.
