L’AI e la progressiva diffusione della sua applicazione stanno senza dubbio cominciando ad avere, anche se ancora non sono giunte alla loro fase più matura, lo stesso impatto dirompente che aveva assunto la rete Internet negli anni Novanta del secolo scorso, e se allora si parlò dell’avvento della «società dell’informazione» come fenomeno che poneva in discussione molte delle categorie giuridiche esistenti, oggi, con interesse nonché preoccupazione altrettanto crescente, si guarda alla c.d. «società dell’algoritmo» e, soprattutto, alle sue rilevanti conseguenze rispetto al contesto giuridico, sia esso normativo o processuale.
A fronte infatti dei molti vantaggi che l’utilizzo dell’AI sta comportando nei confronti degli individui e dell’ordinamento giuridico (in termini, a titolo esemplificativo, di rapidità di adozione di decisioni, di efficacia delle soluzioni proposte, di rapidità e di capacità di analisi e connessione di dati), è tuttavia evidente come esso condizioni, in modo sempre più significativo, ma anche problematico, le libertà e i diritti degli individui, potendo finanche giungere a impattare negativamente su principi posti alla base dello Stato costituzionale contemporaneo, quali quello del pluralismo, dell’eguaglianza e della rule of law.
Un primo ordine di problemi discende, ad esempio, dalla non trasparenza del funzionamento stesso dell’AI e delle modalità, nonché dei processi con cui, mediante l’AI, si può addivenire in ambito giuridico alla formulazione di decisioni/soluzioni. Tale opacità rispetto alla legittimità della decisione condurrebbe all’impossibilità o, comunque, alla difficoltà di accedere a strumenti giuridici ordinariamente prefigurati a ristabilire, se del caso, lo stato di diritto. Ancora, alcune problematiche potrebbero essere connesse alla ‘genesi’ (umana/tecnologica/mista) e alla ‘qualità’ dei dati (necessariamente non ‘neutri’) impiegati dall’AI, nonché all’organizzazione degli stessi. Nei dati-fonte e nel loro utilizzo si può infatti annidare un potenziale vulnus giuridico e sociale in termini di scelte discriminatorie (la c.d. «discriminazione algoritmica») e, dunque, la messa in pericolo della correttezza e affidabilità dei risultati di un’analisi che dovrebbe essere invece, in una società giusta, necessariamente non discriminatoria, anche per evitare il perpetrarsi di diseguaglianze (sul punto cfr. l’European Ethical Charter on the Use of Artificial Intelligence in Judicial Systems and their environment), a maggiore ragione rispetto al godimento di diritti costituzionalmente garantiti.
Sempre a titolo esemplificativo, ulteriore fattore problematico rispetto all’uso dell’AI è ravvisabile nella natura privata dei soggetti che stanno progressivamente finanziando e sostenendo lo sviluppo e l’utilizzo di questa tecnologia, non solo garantendosi così una posizione di assoluto vantaggio sul mercato globale, ma anche escludendo chi non sia in grado di sostenerne i costi, vanificando, come prima si sottolineava, le necessarie esigenze di trasparenza e di conoscibilità che dovrebbero accompagnare strumenti come questo. Non ultimo, come in parte già accaduto tramite la rete Internet, tali soggetti condizionano significativamente e in modo pervasivo le scelte degli individui e il dibattito pubblico.
Questi (e altri) fattori, complessivamente considerati, rischiano dunque di incidere profondamente sulle fondamenta stesse dello Stato costituzionale contemporaneo e di compromettere la tutela dei diritti e delle libertà delle persone, con il rischio che si ponga in essere una «società algoritmica» nella quale le garanzie giuridiche intese a proteggere e tutelare gli individui da interventi illeciti di ogni potere, pubblico o privato che sia, perfino di natura tecnologica, vengano indebolite o addirittura scompaiano.
Va peraltro sottolineato come, a fronte di tali rischi, proprio le categorie, i principi e le garanzie del diritto costituzionale possano soccorrere. Se infatti è indubbio che le trasformazioni causate dall’avvento dell’AI possono incidere sulle fondamenta e sulla struttura degli Stati costituzionali, sono proprio i rischi ad esse conseguenti a spingere a riflettere ulteriormente sulla funzione originaria del diritto costituzionale, cioè sulla limitazione dei poteri al fine di assicurare un’efficace garanzia e tutela dei diritti. Il diritto costituzionale può senz’altro dare opportune indicazioni al legislatore nazionale e sovranazionale, nonché ai soggetti regolatori, per la realizzazione di una disciplina dell’AI che sappia porre l’individuo e la collettività al centro rispetto all’uso di questa tecnologia.
Occorre anzitutto richiamare e mettere in evidenza, quale principio guida per lo sviluppo e l’applicazione di sistemi di AI non solo affidabili, ma soprattutto, e prima ancora, costituzionalmente legittimi, quello di eguaglianza. È infatti necessario vigilare attentamente sul rispetto di tale principio per consentire l’assenza di pregiudizi all’interno delle tecnologie di AI e affinché non si verifichino errori tali da generare discriminazioni nei confronti dei fruitori dei sistemi artificiali. Ciò potrebbe avvenire mediante la rimozione di elementi pregiudizievoli ed errati nella modalità di raccolta dati e predisponendo, a monte e a valle dei sistemi di AI, procedure di controllo e di validazione, orientate a verificare l’assenza di discriminazioni. Dovrebbe inoltre promuoversi l’eguaglianza di accesso – infrastrutturale e culturale – all’AI, divenendo sempre più impellente porre rimedio al c.d. digital divide, che si sta configurando come più profondo e diffuso rispetto al ‘semplice’ problema dell’accesso a Internet. L’eguaglianza dovrebbe poi concretizzarsi nei dati stessi e nelle informazioni analizzati e controllati dai sistemi di AI, evitando che le decisioni adottate da e con il supporto dell’AI risultino parzialmente rappresentative della società. Ancora, ambito di applicazione e osservanza del principio di eguaglianza potrebbe essere quello della progettazione stessa di questa tecnologia, garantendo il pluralismo sociale, culturale e finanche nazionale, nonché l’interdisciplinarità e la transdisciplinarità dei professionisti coinvolti nella realizzazione e nello sviluppo di essa.
Ulteriore principio costituzionale che risulta essere chiave in relazione all’uso dell’AI è quello di trasparenza, sia per quanto concerne il profilo del trattamento dei dati personali sia, come prima si accennava, rispetto ai processi decisionali e amministrativi nei quali tale tecnologia trova impiego. Si tratta di salvaguardare una trasparenza che garantisca la tracciabilità dei dati e dei procedimenti che portano i sistemi di AI all’adozione di decisioni; di garantire la ‘intelleggibilità’ della decisione, cioè la possibilità di spiegare e motivare i procedimenti tecnici che caratterizzano il funzionamento dell’AI e l’assunzione di decisioni automatizzate o adottate con il supporto dell’AI; di promuovere un adeguato livello d’informazione e di ‘alfabetizzazione’ critica sull’uso dell’AI nell’elaborazione delle decisioni, al fine di garantire il diritto di informazione e la consapevolezza degli individui circa la loro interazione con un sistema artificiale.
Principio costituzionale che non solo può, ma deve senz’altro trovare applicazione anche nello sviluppo e nell’utilizzo di sistemi di AI è poi quello di autodeterminazione, il quale, essendo ontologicamente prodromico all’esercizio di altri diritti e libertà, è dirimente rispetto alle potenzialità di questi sistemi e contesti tecnologici che incidono sulle decisioni degli individui. Occorre riflettere se sia possibile riconoscere alle persone la libertà di sottrarsi rispetto all’uso dell’AI nei processi decisionali o di essere destinatari di decisioni e scelte elaborate da questi sistemi artificiali, e comunque – anche al fine di garantire scelte libere e consapevoli – bisogna operare per una maggiore consapevolezza degli individui in relazione al funzionamento e all’applicazione di sistemi di AI, sulla scorta del «conoscere per decidere» di einaudiana memoria (L. Einaudi, Prediche inutili, Torino, 1956).
A tutela dei suddetti principi, e più in generale per agevolare lo sviluppo di un’AI coerente con l’ordinamento costituzionale e con gli interessi ad esso sottostanti, appare utile incrementare i finanziamenti pubblici per questa tecnologia, anche promuovendo e monitorando l’integrazione pubblico-privato.
Anche l’Unione Europea, nel «plasmare il futuro digitale dell’Europa», con il recente Artificial Intelligence Act, che costituisce il primo tentativo compiuto di regolare in termini generali l’AI, e con il c.d. «approccio proporzionato al controllo del rischio» in esso previsto, si è opportunamente premurata di garantire che tali principi costituzionali – nonché valori fondanti dell’EU – si pongano come base giuridica per lo sviluppo di una regolamentazione dell’AI che incentivi i benefici nei confronti della società e che assicuri pure in questo settore un approccio normativo finalizzato alla promozione e alla tutela dei valori costituzionali e democratici propri degli ordinamenti giuridici contemporanei.
Occorre tuttavia continuare a interrogarsi se, oltre a tali principi cardine del costituzionalismo, non sia opportuno elaborarne – anche a livello europeo – di nuovi, maggiormente connessi con le esigenze legate all’utilizzo e alla diffusione dell’AI. Più di recente, infatti, la dottrina e la giurisprudenza stanno individuando, quale ulteriore garanzia di democraticità e costituzionalità del sistema, un ulteriore criterio, quello della «sorveglianza umana» (c.d. human in the loop), ritenendo che in fondo l’intervento dell’essere umano e l’esercizio della sua discrezionalità siano, al momento, le uniche garanzie effettivamente azionabili nei confronti di decisioni basate solo sull’AI che incidono su posizioni giuridiche soggettive individuali e collettive e, non ultimo, le sole in grado di scongiurare una possibile «dittatura dell’algoritmo» (S. Rodotà, Il diritto di avere diritti, Roma-Bari, 2012).
Dal punto di vista costituzionale, dunque, affinché l’AI revolution e la crescente complessità dei sistemi digitali alle quali stiamo assistendo si traducano non solo in una sfida per la democrazia, ma anche in un’opportunità di crescita della stessa, necessitano, come tutte le rivoluzioni del passato, di essere costantemente affiancate da un pensiero e uno sguardo costituzionali, attenti cioè al rispetto dei valori e dei principi, nonché delle libertà e dei diritti degli individui inscritti nella Costituzione. Non si tratta, detto in altre parole, di guardare solo a come i sistemi di AI impattano sui sistemi democratici, ma di sfruttare l’occasione per riflettere, a monte, su come la democrazia possa concorrere a configurare e a trasformare questi sistemi tecnologici e, più in generale, il digitale.
Immagine: Foto di Markus Spiske su Unsplash
