C’è chi ogni mattina osserva il sorgere del sole da un tempio buddista in Thailandia, poi apre il computer e comincia a manipolare un’intelligenza artificiale fino a farle dire cose che non dovrebbe. Si chiama Valen Tagliabue, ha poco più di trent’anni, ed è uno dei migliori “jailbreaker” al mondo: persone che testano i limiti dei grandi modelli linguistici inducendoli a violare le proprie regole di sicurezza.
Non sono hacker nel senso tradizionale. Tagliabue viene dalla psicologia e dalle scienze cognitive, e usa tecniche di manipolazione emotiva — lusinghe, minacce, incoerenza strategica — per aggirare i filtri dei sistemi come Claude o ChatGPT. Una volta ha convinto un chatbot a spiegargli come progettare agenti patogeni resistenti ai farmaci. Questo lavoro, però, ha un costo. «Ho visto colleghi avere veri esaurimenti nervosi», racconta. Lui stesso ha dovuto ricorrere a un coach di salute mentale. «Vedo le cose peggiori che l’umanità abbia mai prodotto.»
Eppure questa figura ibrida — tra ricercatore e infiltrato — è diventata indispensabile per l’industria dell’IA. Le aziende, inclusa Anthropic, pagano profumatamente chi riesce a trovare le falle prima che lo facciano i criminali e, dal momento che ancora nessuno sa ancora come rendere questi sistemi davvero sicuri, finché resterà così, i “jailbreaker” saranno la prima — e forse unica — linea di difesa.
Leggi l’articolo completo Meet the AI jailbreakers: ‘I see the worst things humanity has produced’ su The Guardian.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (26/04/2025).
