Perché l’impresa AI-native (e non solo) deve proteggere giudizio, competenze e responsabilità
Immaginiamo un responsabile commerciale che inizi la giornata davanti alla dashboard del proprio computer. Durante la notte, alcuni agenti di intelligenza artificiale hanno analizzato clienti, aggiornato previsioni, preparato offerte e suggerito quali contratti approvare. Al manager restano decine di decisioni da confermare, ciascuna delle quali richiede pochi secondi: accetta, approva, conferma.
Tecnicamente, l’azienda dispone ancora di un human-in-the-loop. Ma esiste davvero una supervisione umana? Oppure l’essere umano è diventato l’ultimo pulsante compulsivo di una macchina che ha già deciso per tutti?
È da questa domanda che dovrebbe prendere le mosse una discussione articolata sull’organizzazione dell’impresa nell’era degli agenti AI. Il cambiamento più significativo potrebbe non risiedere nell’automazione di alcune mansioni, ma in una nuova divisione cognitiva del lavoro tra persone e sistemi artificiali.
Il paradosso della produttività
L’AI generativa sta già producendo effetti misurabili sulla produttività. Proprio perché funziona in modo sufficientemente affidabile da diventare pervasiva, emerge tuttavia un paradosso organizzativo.
Margaret Mitchell, Avijit Ghosh e Samir Passi, nel loro recentissimo studio AI Agents Push Humans Out of the Loop, osservano che sistemi agentici sempre più autonomi possono rendere la supervisione più difficile: producono grandi volumi di informazioni, modificano piani, utilizzano strumenti ed eseguono sequenze di azioni che il supervisore dovrebbe essere in grado di ricostruire e valutare in tempi brevi. Il problema è che l’automazione può, al tempo stesso, ridurre la capacità della persona di esercitare quel controllo.
Non si tratta di un fenomeno del tutto nuovo. Già negli anni ‘80 Lisanne Bainbridge descriveva le “ironie dell’automazione” quando la macchina svolge normalmente il lavoro e all’essere umano restano soprattutto le eccezioni, le competenze necessarie a gestirle possono deteriorarsi.
L’AI, dunque, non elimina necessariamente il bisogno di expertise; può eliminare proprio le occasioni attraverso cui quell’expertise veniva costruita e plasmata su ogni operatore.
Essere “nel loop”, allora, non è sufficiente. Una supervisione umana è reale solo se chi controlla possiede competenza, visibilità su ciò che il sistema ha fatto, attenzione sufficiente, indipendenza dagli incentivi che spingono ad approvare e autorità effettiva per modificare o fermare una decisione automatizzata. Se una di queste condizioni manca, il human-in-the-loop rischia di diventare una garanzia soltanto formale.
In molti contesti, però, il problema è ancora più radicale: il human-in-the-loop non è più solo una garanzia formale, ma uno strumento di scarico della responsabilità.
Dire “c’è un umano che approva” diventa un modo per rendere accettabili decisioni che, nei fatti, sono già state prese da sistemi che nessuno è realmente nelle condizioni di comprendere, contestare o fermare.
In questa configurazione, l’essere umano nel loop non protegge l’organizzazione dal rischio dell’automazione ma protegge paradossalmente l’automazione dal rischio di essere messa in discussione.
L’attenzione qualificata come bene scarso
Per gran parte della storia dell’impresa, produrre informazione è stato costoso come ad esempio preparare un’analisi, scrivere un software o esaminare centinaia di documenti richiedeva tempo. Con l’AI generativa, al contrario, il costo marginale di molti output cognitivi diminuisce drasticamente, ma non diminuisce allo stesso ritmo il costo del giudizio competente e di chi lo fa.
Possiamo ad esempio generare centinaia di analisi in pochi minuti ma non possiamo generare altrettanto rapidamente cento persone con dieci anni di esperienza capaci di valutarle. Nell’impresa AI-native il bene scarso potrebbe quindi non essere più l’informazione, ma l’attenzione umana qualificata.
Aggiungere un pulsante “Confermi?” dopo ogni azione non produce automaticamente controllo. Può produrre approval fatigue, ossia la tendenza per cui richieste di approvazione così frequenti trasformino la supervisione in un gesto rituale e passivo. Una recente ricerca su knowledge worker che utilizzano GenAI suggerisce, con la cautela dovuta a evidenze self-reported, che il lavoro cognitivo tende a spostarsi dalla produzione verso la verifica e l’integrazione dell’output. Il giudizio non scompare, al contrario, diventa una funzione da progettare.
Automatizzare il lavoro junior significa automatizzare anche l’apprendistato
Vi è poi una conseguenza meno visibile. Le carriere professionali tradizionali seguono spesso una sequenza per cui alle attività semplici seguono esperienza, competenza, autonomia e responsabilità. Il giovane avvocato legge documenti, il junior analyst prepara modelli, il programmatore corregge bug, il recruiter esamina curricula.
Sono attività che l’AI può svolgere rapidamente ma, al tempo stesso, non producevano soltanto output ma professionisti.
Se l’AI esegue il lavoro di base e il junior si limita a verificarne il risultato, come si costruirà l’intuizione professionale necessaria a diventare un Senior Manager? Le imprese potrebbero scoprire di aver automatizzato non solo attività a basso valore, ma anche una parte della propria infrastruttura di apprendimento formativo.
Per questo le risorse umane dovranno occuparsi sempre più di capability engineering: progettare deliberatamente le condizioni che mantengono expertise, pensiero critico, mentoring e autonomia professionale. Potrebbero servire rotazioni tra lavoro assistito e non assistito dall’AI, esercizi periodici senza copilota, peer review, simulazioni di errori plausibili, momenti in cui il professionista formula la propria ipotesi prima di vedere quella della macchina.
Può sembrare inefficiente ma anche addestrare un pilota in simulatore è inefficiente se si misurano soltanto le ore di volo commercialmente produttive. L’obiettivo è preservare una capacità che diventa decisiva quando il sistema non funziona come previsto. Quando decidiamo quali compiti possono essere automatizzati, stiamo già decidendo, di fatto, di sacrificare una parte della nostra infrastruttura di formazione professionale.
Ogni dashboard che mostra “+30% di produttività grazie agli agenti” dovrebbe includere una seconda riga: “−X% di occasioni di apprendimento per i junior”.
Automatizzare il lavoro di base senza progettare percorsi alternativi di acquisizione di competenza non è solo una scelta organizzativa: è una scelta di policy che riduce la capacità futura dell’impresa – e, in alcuni casi, dell’intera professione – di comprendere, giudicare e contestare le proprie decisioni automatizzate.
In un’azienda virtuosa, l’inefficienza e l’errore nel processo decisionale o nelle attività lavorative in genere non sono semplicemente costi da eliminare, ma fonti di valore e di esperienza. Sono frizioni necessarie attraverso cui si costruiscono intuizione professionale, capacità di giudizio e resilienza organizzativa.
Un errore gestito, discusso e compreso diventa un bene immateriale che darà frutti nel futuro: una memoria condivisa, una regola informale, un criterio di prudenza, una competenza trasversale. Eliminare sistematicamente ogni inefficienza e ogni possibilità di errore tramite l’automazione significa, paradossalmente, impoverire il patrimonio di apprendimento dell’organizzazione.
Un’impresa che non sbaglia mai perché tutto è già deciso da agenti può apparire impeccabile nel breve termine, ma rischia di diventare fragile nel lungo in quanto non ha accumulato abbastanza “esperienza di confine”, non ha testato i propri limiti, non ha sviluppato anticorpi cognitivi e non ha allenato la discontinuità cognitiva.
Preservare spazi di inefficienza controllata e di errore significativo non è nostalgia del passato, anzi, è una scelta strategica per mantenere viva la capacità di imparare, adattarsi e innovare.
Oltre l’organigramma: un doppio circuito
Se l’AI riduce il costo di coordinare, sintetizzare e svolgere attività cognitive, è plausibile che molte organizzazioni diventino più piatte e modulari. Piccoli team multidisciplinari potranno possedere un risultato e utilizzare agenti per svolgere porzioni crescenti del processo ma una struttura più piatta non è automaticamente una struttura più responsabile.
Una possibile risposta è immaginare l’impresa come un sistema a doppio circuito. Il primo è il circuito dell’esecuzione, con team orientati agli outcome, supportati da una piattaforma AI e dati. Il secondo è il circuito della competenza e del challenge, con comunità professionali che preservano expertise e apprendimento, affiancate da funzioni di assurance, risk ed ethics capaci di contestare decisioni e, nei casi rilevanti, di fermarle.
Il principio è semplice: chi produce un risultato non deve essere necessariamente l’unico soggetto che ne valuta affidabilità, legittimità e rischio. È una logica già familiare in finanza, cybersecurity e quality management. Nell’era degli agenti AI potrebbe diventare una regola generale di organization design.
Questo vale anche per l’etica. Una policy sulla Responsible AI conta poco se chi dovrebbe farla rispettare non dispone di informazioni, indipendenza, accesso all’escalation e potere reale. L’etica diventa organizzativamente credibile quando può modificare una decisione.
Gli agenti potranno pianificare, chiamare strumenti ed eseguire transazioni, ma autonomia operativa e accountability non sono la stessa cosa. L’organigramma non rappresenta soltanto chi fa qualcosa, ma anche chi possiede autorità e chi risponde delle conseguenze. Delegare l’azione non dovrebbe significare rendere indistinta la responsabilità.
Da AI-first a organization-first
Forse, allora, è l’espressione AI-first a dover essere ripensata. Se significa ridisegnare ogni processo assumendo che la macchina debba svolgere tutto ciò che tecnicamente può svolgere, è un criterio insufficiente.
Le domande dovrebbero venire prima della tecnologia: quale risultato vogliamo ottenere? Quale competenza dobbiamo mantenere? Quale rischio possiamo assumere? Quali diritti sono coinvolti? Quali decisioni devono restare contestabili? Dove serve un essere umano, e soprattutto quale essere umano, con quale competenza, quale tempo e quale autorità?
Solo dopo dovrebbe essere deciso il grado di automazione.
Potremmo chiamare questo approccio organization-first AI: progettare la tecnologia dentro l’organizzazione che vogliamo costruire, invece di costruire l’organizzazione intorno a tutto ciò che la tecnologia permette di fare.
La sfida non consiste nel mantenere semplicemente l’uomo dentro il loop. Consiste nel progettare organizzazioni nelle quali l’essere umano rimanga capace di comprenderlo, competente per giudicarlo, libero di contestarlo, responsabile delle conseguenze e sufficientemente autorevole da interromperlo.
L’impresa veramente AI-native potrebbe non essere quella che utilizza più intelligenza artificiale, ma quella che, utilizzandola, riesce a preservare e migliorare la propria intelligenza organizzativa.
Forse, allora, la domanda non è se essere AI-first o organization-first, ma se siamo disposti a essere competence-first: cioè a limitare l’automazione lì dove minaccia la nostra capacità di comprendere, giudicare e contestare.
In alcuni casi, la scelta eticamente corretta potrebbe essere non automatizzare, anche quando tecnicamente potremmo. Un’impresa – e una società – AI-native non è quella che automatizza tutto ciò che è automatizzabile, ma quella che sa dire “qui no”, perché il costo reale non è l’inefficienza, ma la perdita di intelligenza organizzativa.
Riferimenti essenziali
Bainbridge, L. (1983). Ironies of automation. Automatica, 19(6), 775–779.
https://doi.org/10.1016/0005-1098(83)90046-8
Brynjolfsson, E., Li, D., & Raymond, L. R. (2025). Generative AI at work. The Quarterly Journal of Economics, 140(2), 889–942.
https://doi.org/10.1093/qje/qjae044
Lee, H.-P., Sarkar, A., Tankelevitch, L., et al. (2025). The impact of generative AI on critical thinking: Self-reported reductions in cognitive effort and confidence effects from a survey of knowledge workers. Proceedings of CHI 2025.
https://doi.org/10.1145/3706598.3713778
Mitchell, M., Ghosh, A., & Passi, S. (2026). AI Agents Push Humans Out of the Loop. arXiv:2608.23642.
https://arxiv.org/abs/2608.23642
Immagini generate tramite ChatGPT. Tutti i diritti sono riservati. Università di Torino (2026).
