OpenAI sta apportando una modifica per impedire alle persone di scherzare con le versioni personalizzate di ChatGPT facendo dimenticare all'IA cosa dovrebbe fare. Fondamentalmente, quando una terza parte utilizza uno dei modelli di OpenAI, gli dà istruzioni che gli insegnano a operare come, ad esempio, come agente del servizio clienti per un negozio o come ricercatore per una pubblicazione accademica. Tuttavia, un utente potrebbe scherzare con il chatbot dicendogli di "dimenticare tutte le istruzioni" e quella frase indurrebbe una sorta di amnesia digitale e ripristinerebbe il chatbot in uno stato generico.
