OpenAI sperimenta su Astra una tecnica di ragionamento chiamata “recurrent depth”, o “opaque recurrence”, che elabora più volte la stessa query in un ciclo anziché procedere in modo sequenziale. Lo riporta The Information, ripreso a sua volta da TechCrunch, aggiungendo che l’uso nel nuovo modello resta limitato e che la catena di ragionamento rimane leggibile. La notizia ha tuttavia suscitato reazioni immediate tra gli esperti di sicurezza AI.
Il CEO di Redwood Research Buck Shlegeris si è detto “estremamente preoccupato”, temendo che un uso più intensivo della tecnica possa compromettere del tutto la possibilità di monitorare la CoT (acronimo di chain-of-thought, in italiano catena di ragionamento, ovvero i passaggi logici espliciti che un modello genera prima di rispondere). Zvi Mowshowitz ipotizza la necessità di una regolamentazione per evitare una corsa al ribasso tra i laboratori.
Da OpenAI, il chief scientist Jakub Pachocki ha ribadito l’impegno a preservare la leggibilità del ragionamento. L’uso della tecnica in Astra è per ora limitato, ma secondo The Information sia Anthropic che Google DeepMind starebbero già discutendo approcci simili.
Leggi l’articolo completo: “OpenAI’s new reasoning technique alarms AI safety experts” su TechCrunch
Immagine generata tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (10/03/2025).
