Il contributo propone, alla luce del quadro normativo europeo e nazionale, un’analisi dei limiti e delle condizioni per l’impiego di sistemi di intelligenza artificiale nell’esercizio della giurisdizione penale, individuando i fondamenti di un principio di “non surrogabilità della funzione giurisdizionale umana”. Muovendo dal presupposto che la riserva al magistrato della decisione non può esaurirsi nella titolarità formale del provvedimento ma deve estendersi all’autonomia del percorso cognitivo e valutativo che lo precede, la riflessione si sofferma sul rischio che l’intervento dell’AI, anche quando apparentemente limitato a funzioni di supporto, condizioni la formazione del convincimento giudiziale e introduca apporti conoscitivi sottratti alla conoscibilità e alla verifica in contraddittorio. Il contributo individua, quindi, nella trasparenza dell’intervento algoritmico e nel contraddittorio le condizioni essenziali per un utilizzo consapevole, compatibile con le garanzie processuali.
This contribution examines, in the light of the european and italian legal frameworks, the limits and conditions governing the use of artificial intelligence systems in the exercise of criminal jurisdiction, identifying the foundations of a principle of the “non-substitutability of the human judicial function”. Starting from the premise that the reservation of decision-making authority to the judge cannot be confined to the judge’s formal ownership of the judicial decision, but must also extend to the autonomy of the cognitive and evaluative process leading to it, the analysis focuses on the risk that the use of AI, even when apparently confined to support functions, may influence the formation of the judge’s assessment and introduce informational inputs that are neither disclosed nor open to scrutiny through adversarial proceedings. The contribution therefore identifies transparency in the use of algorithmic systems and the adversarial principle as essential conditions for their responsible use in a manner consistent with procedural safeguards.
Sommario: 1. Premessa. – 2. Inquadramento normativo: le fonti sovranazionali… – 2.1 Segue:…e le fonti interne. – 3. Quale utilizzabilità dei sistemi di AI per l’esercizio della giurisdizione? – 4. I rischi di un intervento dei sistemi di intelligenza artificiale nel percorso cognitivo-valutativo del giudice: l’esperienza del mutamento d’approccio nell’uso dell’AI generalista. – 5. La non surrogabilità della funzione giurisdizionale: giudice “naturale” come giudice “non artificiale”. – 6. Dalla difesa della “personalità della giurisdizione” alla tutela della “libertà morale” del giudice: le conseguenze di un intervento dell’AI nel processo cognitivo-valutativo del giudicante. – 7. Quando l’uso di sistemi di AI incide sulla personalità della decisione e sulla libertà morale del giudice? – 8. Le mediazioni cognitive contemplate dal sistema. – 9. È il contraddittorio la chiave di tutto… – 10. Le raccomandazioni del CSM e gli usi legittimi dell’AI. – 11. Quali condizioni per l’inesorabile utilizzo dell’intelligenza artificiale nell’esercizio della giurisdizione? – 12. Conclusioni.
1. Premessa.
Quella che proponiamo è una riflessione sull’utilizzo dell’intelligenza artificiale nell’esercizio della giurisdizione e, più specificamente, della giurisdizione penale.
La corsa all’utilizzo di sistemi e di modelli di intelligenza artificiale (AI o IA[1]) è oramai in atto da qualche anno e prosegue ad un ritmo sempre più sostenuto[2]; l’avvento dei potenti sistemi di intelligenza artificiale generativa, basati sui cosiddetti modelli linguistici di grandi dimensioni (“Large Language Models”, LLM), e l’utilizzo generalista e generalizzato fanno, addirittura, ritenere oramai obbligato il ricorso a tali strumenti anche nell’esercizio della giurisdizione, nell’ottica di una ottimizzazione del lavoro e di una maggiore efficacia dell’azione.
Il legislatore europeo e quello nazionale, come vedremo, si sono già mossi in questo senso e, con provvedimento del Ministero della giustizia, l’intelligenza artificiale generativa ha già fatto il suo ingresso nella consolle del magistrato, quale strumento utile nell’esercizio dell’attività giurisdizionale[3], con iniziali critiche da parte della magistratura associata[4] e, peraltro, con il recente avallo del Consiglio Superiore della Magistratura[5].
Ma i sistemi in questione non sono semplici strumenti, ovvero meri dispositivi che l’uomo utilizza per compiere – egli stesso – una determinata operazione o per svolgere una qualche attività: sono strumenti autonomi, dei veri e propri assistenti, astrattamente capaci, se richiesto, di offrire la sensazione di replicare integralmente il processo valutativo e, conclusivamente, decisorio del giudice; o, più semplicemente, capaci di fornirgli ausilio nel percorso cognitivo che lo conduce alla decisione.
Come è stato scritto, però, i sistemi di intelligenza artificiale basati sui modelli linguistici di grandi dimensioni «non interpretano testi, non comprendono fatti, non valutano norme. Generano linguaggio. Ogni output prodotto da un LLM è il risultato di un processo di generazione probabilistica: il modello stima, passo dopo passo, quale sequenza linguistica sia più plausibile sulla base delle regolarità statistiche apprese durante l’addestramento. Il testo non è il prodotto di un ragionamento che muove da premesse verso conclusioni, ma di una traiettoria che attraversa regioni di alta densità nello spazio del linguaggio»[6].
Se, nonostante i suoi limiti, la capacità di generazione autonoma di testo può rappresentare uno straordinario ausilio, ad essa si aggiunge, però, quale contraltare, l’imperscrutabilità dei processi di elaborazione che producono il risultato e dei dati da cui esso è tratto[7].
Ebbene, proprio per questa ragione, la diffidenza verso ciò che non è controllabile e la fascinazione esercitata da un ritrovato formidabile della tecnologia, che più di altro promette risultati eccezionali nello svolgimento di ogni attività[8], sono le due sensazioni che, innegabilmente, pervadono non solo l’uomo comune ma anche il giurista che vede incombente l’utilizzo dei sistemi di intelligenza artificiale in ambito giudiziario.
Ma non sono solo queste sensazioni a scuoterci.
La corsa allo sviluppo e all’uso dell’intelligenza artificiale pone, infatti, interrogativi più ampi, sul modo di concepire l’essere umano, sulla sua funzione, sulla sua evoluzione. Ad essere onesti, d’altronde, si tratta più di uno strumento abdicativo, che di sostegno: uno strumento che giunge, in realtà, per liberare l’uomo da quelle incombenze che, però, contribuiscono a formarlo, così, peraltro, incidendo profondamente su quelle hard e soft skills – per utilizzare una terminologia attuale – che ne definiscono la capacità[9].
Non è un caso, d’altronde, che Papa Leone XIV, con l’enciclica Magnifica Humanitas[10], abbia invitato alla custodia della persona umana nel tempo dell’intelligenza artificiale: perché il rischio è un po’ quello che la prima si perda con l’avvento della seconda. D’altronde, il fatto che, parlando del tema in questione, gli orizzonti della dissertazione si amplino immediatamente e a dismisura conferma che siamo di fronte ad una vera rivoluzione.
E allora, a fronte di questa rivoluzione oramai inesorabilmente in atto, lo scopo è quello di provare non tanto a verificare se la strada intrapresa, almeno in ambito giuridico, sia giusta o sbagliata – questo, come sempre, lo si potrà dire solo col “senno di poi” – ma se sia davvero quella preferibile e comunque compatibile con i principi ricavabili a livello costituzionale, convenzionale e, comunque, dal sistema processuale[11].
Per questa ragione, nel prosieguo, proveremo ad affrontare il tema dell’utilizzo dei sistemi di intelligenza artificiale generativa da parte del giudice penale, onde verificare l’esistenza di limiti immanenti, il loro fondamento giuridico e le ragioni ad essi sottese. Il problema non è se una decisione giudiziaria possa legittimamente promanare da un sistema di intelligenza artificiale: questa ipotesi, come vedremo, è esclusa dal quadro normativo. È, piuttosto, quello di comprendere se riservare la decisione al giudice basti a garantire che la decisione sia davvero umana, qualora si ammetta l’impiego di sistemi che, a monte, svolgono la ricerca, la selezione, la sintesi o l’organizzazione delle informazioni rilevanti per decidere.
In quest’eventualità, infatti, il giudice sembra mantenere formalmente la titolarità della decisione, ma il percorso che lo conduce ad essa può essere facilmente orientato da elaborazioni che, però, non risultano visibili e perciò contestabili.
La questione riveste, d’altronde, assoluta rilevanza nel processo penale, nel quale il giudice deve giungere al proprio convincimento nel rispetto di garanzie che non riguardano solo l’esito decisorio, ma anche le modalità attraverso le quali gli elementi che lo giustificano sono acquisiti; garanzie che presuppongono che il giudice sia libero da condizionamenti nel proprio percorso cognitivo.
Scopo della riflessione è, dunque, quello di comprendere quali utilizzi dell’intelligenza artificiale possano dirsi compatibili con l’esercizio della giurisdizione e a quali condizioni, escludendo, invece, quegli usi che possano tradursi in una delega, anche solo limitata, dell’attività cognitiva e valutativa del giudice; ciò in quanto, come meglio vedremo, la nostra tesi è che la scelta di riservare la decisione al magistrato non può essere intesa in termini formali, essendo necessario, al contrario, che il giudice conduca autonomamente il procedimento cognitivo e valutativo che lo porta alla decisione.
Questo fatto non comporta, ovviamente, l’esclusione dell’utilizzo di qualsiasi strumento tecnologico, ma impone una distinzione tra gli usi di supporto rispetto a quelli che, invece, hanno la capacità di incidere sulla selezione o sulla valutazione del materiale, individuando adeguate garanzie di trasparenza e di contraddittorio.
Per questi motivi, l’analisi attraversa tre diversi momenti: in primo luogo ricostruisce il quadro normativo europeo e nazionale, cercando di offrire un’interpretazione della normativa vigente; in secondo luogo, affronta il tema della necessità di salvaguardare l’autonomia cognitiva del giudice nell’esercizio della giurisdizione e delle ragioni sottese a tale scelta, nel tentativo di individuare possibili usi legittimi dell’AI; infine, individua le condizioni alle quali tali usi possano dirsi ammessi in chiave processuale.
2. Inquadramento normativo: le fonti sovranazionali…
Per sviluppare la nostra riflessione, non possiamo che partire, come di consueto, dal dato normativo, peraltro avendo riguardo solo agli aspetti che più di altri hanno una ricaduta sulla giurisdizione; anche perché, a nostro modo di vedere, il dato legislativo nazionale può essere interpretato in termini sensibilmente differenti rispetto al quadro dettato – ovviamente con diverse finalità – a livello europeo: ciò che cercheremo di illustrare.
Partiamo, pertanto, dall’AI Act europeo, cioè il Regolamento UE 2024/1689[12]. Si tratta di un atto normativo generale che provvede alla catalogazione dei sistemi di intelligenza artificiale in quattro categorie di rischio: minimo, limitato, elevato e inaccettabile. In linea generale, esclusi i sistemi a rischio inaccettabile che sono considerati vietati, per i profili di rischio elevato, tra i quali rientrano alcuni sistemi destinati all’amministrazione della giustizia, l’AI Act postula il controllo umano.
In realtà, l’idea che l’utilizzo dei sistemi di intelligenza artificiale potesse risultare normativamente ammesso a condizione dell’esistenza – in taluni settori e per taluni sistemi – di un controllo umano era già da tempo venuta in evidenza; la categoria del “controllo umano significativo” (meaningful human control), originariamente elaborata nel diritto internazionale in relazione all’utilizzo di sistemi d’arma autonomi[13] viene fatta propria anche nel diritto europeo dell’AI[14], nel quale si rinviene la nozione giuridica di “sorveglianza umana” (human oversight), disciplinata, soprattutto, dall’art. 14 dell’AI Act ma con richiami in tutto l’atto normativo; una soluzione che merita, d’altronde, di trovare applicazione in un settore dalle rilevantissime implicazioni come quello della giustizia[15], benché di tale sorveglianza sia difficile, in concreto, definire la portata[16].
Più specificamente, già dai consideranda del Regolamento si percepisce la consapevolezza che l’utilizzo di strumenti di AI può fornire sostegno al potere decisionale dei giudici o all’indipendenza del potere giudiziario[17], ma non dovrebbe sostituirlo, dovendo il processo decisionale «rimanere un’attività a guida umana»[18]. Per questa ragione, le norme ad effetto precettivo qualificano come ad alto rischio «i sistemi di IA destinati a essere usati da un’autorità giudiziaria o per suo conto per assistere un’autorità giudiziaria nella ricerca e nell’interpretazione dei fatti e del diritto e nell’applicazione della legge a una serie concreta di fatti, o a essere utilizzati in modo analogo nella risoluzione alternativa delle controversie». Ciò avviene grazie al combinato disposto dell’art. 6, paragrafo 2, AI Act e dell’Allegato III, in esso richiamato.
Per l’effetto, a tali sistemi di intelligenza artificiale si applicano, tra le altre, le previsioni dell’art. 14, “Sorveglianza umana”, che al paragrafo 1 stabilisce che «i sistemi di IA ad alto rischio sono progettati e sviluppati, anche con strumenti di interfaccia uomo-macchina adeguati, in modo tale da poter essere efficacemente supervisionati da persone fisiche durante il periodo in cui sono in uso».
Quello descritto può essere definito come un modello di “human oversight”, ovvero fondato sulla supervisione che il deployer, cioè l’utilizzatore del sistema di AI, deve garantire e i cui contenuti sono tracciati dall’art. 14, paragrafo 4, AI Act; secondo la disposizione, infatti, il soggetto che svolge il controllo deve trovarsi, innanzitutto, nelle condizioni di comprendere le capacità e i limiti del sistema; deve monitorarne il funzionamento e individuare eventuali anomalie; deve saperne interpretare correttamente i risultati e deve essere in condizione di decidere di non utilizzare, ignorare, annullare (override) o ribaltare (reverse) l’esito offerto dal sistema ovvero di intervenire o arrestare il sistema quando ciò sia necessario. Non deve trattarsi, dunque, di un intervento umano apparente o simbolico, ovvero privo di concrete possibilità di incidere sulla decisione: non è richiesto, cioè, un semplice “human in the loop”[19], ma quello che si è già definito “meaningful human control”, posto che la decisione finale deve essere atto attribuibile all’uomo[20].
2.1 Segue: …e le fonti interne.
A livello nazionale è la legge 23 settembre 2025, n. 132, recante “Disposizioni e deleghe al Governo in materia di intelligenza artificiale”, ad aver creato le condizioni, sul piano legislativo interno, per l’integrazione e il coordinamento della normativa interna con l’AI Act europeo (Regolamento UE 2024/1689), allo scopo di individuare gli ambiti nei quali implementare l’uso dei sistemi di intelligenza artificiale a supporto dell’attività umana.
Anche il legislatore nazionale, nel disciplinare l’impiego dell’intelligenza artificiale sul solco tracciato dal diritto europeo, ha individuato nella persona umana il fulcro dell’intero impianto normativo: l’intelligenza artificiale è configurata come uno strumento destinato a supportare l’attività dell’uomo e non a sostituirne la funzione decisionale o a comprimerne i diritti fondamentali[21].
Rispetto all’AI Act, però, l’utilizzo dei sistemi di intelligenza artificiale, pur mantenendo, anche nell’attività giudiziaria, una funzione ancillare[22], appare declinato in termini ancor più specifici e – a nostro modo di vedere – sostanzialmente differenti perché più stringenti.
L’art. 15, comma 1, della legge, infatti, si premura di assicurare che, nei casi di impiego dei sistemi di intelligenza artificiale nell’attività giudiziaria, sia «sempre riservata al magistrato ogni decisione sull’interpretazione e sull’applicazione della legge, sulla valutazione dei fatti e delle prove e sull’adozione dei provvedimenti»[23]. Il contesto applicativo ci pare nettamente diverso rispetto a quello descritto, in relazione ai sistemi «destinati a essere usati da un’autorità giudiziaria o per suo conto», dall’allegato III dell’AI Act europeo: quest’ultimo, infatti, attribuisce ai sistemi algoritmici la funzione – certamente ben più ampia – di «assistere un’autorità giudiziaria nella ricerca e nell’interpretazione dei fatti e del diritto e nell’applicazione della legge a una serie concreta di fatti […]», assegnando ai sistemi, dunque, un potenziale ruolo attivo, per quanto di assistenza, in questa particolare funzione[24].
L’AI Act, ovviamente, non impone agli Stati l’utilizzo di determinate tecnologie negli ambiti e per le finalità che individua, ma detta prescrizioni cogenti in relazione ai requisiti che tali sistemi devono soddisfare e alle condizioni che è necessario rispettare nel loro utilizzo in quegli ambiti o per quelle finalità[25]. La norma nazionale, invece, chiamata ad individuare ambito e finalità per l’applicazione degli strumenti di AI nel settore della giustizia, ha provveduto ad una significativa limitazione: una scelta che pare dettata dall’esigenza di rendere “compatibile” l’uso di tali strumenti con i «principi qualificanti e irrinunciabili dell’assetto costituzionale e quindi, con i principi che sovraintendono alla tutela dei diritti fondamentali»[26].
Come ci premuriamo di dimostrare, infatti, un ruolo tanto attivo degli strumenti di intelligenza artificiale – come quello ammesso in astratto dall’AI Act – si porrebbe in evidente contrasto con i principi fondanti il nostro sistema, innanzitutto costituzionale, in materia di giurisdizione: e questa impostazione pare cogliersi direttamente dai lavori preparatori dell’atto normativo interno.
Il legislatore italiano, infatti, ci sembra essere stato piuttosto netto sul punto sin da subito. Se prendiamo in esame, ad esempio, la Relazione all’originario disegno di legge n. 1146, che ha portato alla legge approvata, emerge un approccio conscio delle problematiche[27], con la volontà di circoscrivere l’utilizzo dei sistemi di intelligenza artificiale in ambito giudiziario[28], considerandolo ammesso «esclusivamente per l’organizzazione e la semplificazione del lavoro giudiziario e per la ricerca giurisprudenziale e dottrinale».
Altrettanto dicasi per i termini utilizzati nella Relazione tecnica al disegno di legge: il legislatore, infatti, si mostrava consapevole della necessità «di definire l’ambito di impiego dell’intelligenza artificiale nell’attività giudiziaria, al fine di delimitarne il perimetro di utilizzabilità in relazione alle specifiche caratteristiche di tale funzione»[29].
Peraltro, nell’originaria proposta di legge, la disposizione che definiva tale ambito era l’art. 14, che aveva una stesura ben diversa[30] da quella che sarebbe stata, poi, definitivamente approvata (come art. 15).
È significativo analizzare come la relazione descriveva l’intervento normativo: l’art. 14, comma 1, avrebbe avuto la funzione di rendere utilizzabile l’intelligenza artificiale esclusivamente «per l’organizzazione e la semplificazione del lavoro giudiziario e per la ricerca giurisprudenziale e dottrinale con il fine di individuare gli orientamenti interpretativi che sono da supporto per la risoluzione della problematica». La Relazione, peraltro, specificava che tale previsione avrebbe inteso chiarire «la strumentalità dell’utilizzo dell’intelligenza artificiale che non può comunque sostituire la libera determinazione e le conoscenze ed esperienze del giudice». Sempre secondo la relazione, l’art. 14, comma 2, conteneva «la norma che esplicita tale principio puntualizzando in maniera espressa che la decisione sulla interpretazione della legge, sulla valutazione dei fatti e delle prove e sulla adozione di ogni provvedimento è sempre riservata al magistrato».
Assume particolare significato, però, anche quanto dettato «sotto il profilo finanziario» dalla Relazione tecnica. Quest’ultima, infatti, nel premurarsi di esplicitare l’assenza di costi, osservava che la «proposta normativa introduce norme di principio, le quali sono dirette a riaffermare l’indipendenza e terzietà del giudice nell’esame e valutazione della causa e il suo libero convincimento nell’adottare le decisioni giudiziarie». Non solo: in chiave futura, delimitava significativamente l’uso delle tecnologie in questione, affermando che «le forme di intelligenza artificiale che saranno di volta in volta sviluppate con le risorse strumentali e finanziarie a disposizione dell’amministrazione a legislazione vigente, verranno programmate per finalità simulatorie delle casistiche prospettate e per consultazione dottrinale e giurisprudenziale, senza intaccare l’autonomia e la capacità di pensiero e di deliberazione del magistrato».
Poiché assolutamente rilevante nell’ottica di questa trattazione, va ribadito che, successivamente, nel corso dell’esame in sede referente, il testo dell’art. 14 sopra illustrato è stato integralmente sostituito, divenendo poi l’art. 15 della legge promulgata. La nuova formulazione è stata ritenuta, evidentemente, più efficace nel delimitare, in maniera precisa, gli ambiti di impiego consentito dei sistemi di intelligenza artificiale nello svolgimento dell’attività giudiziaria e delle attività collaterali.
È vero che, in dottrina, vi è chi ha visto nella nuova formulazione un’apertura dell’ambito di operatività rispetto a quello della proposta di legge, sul presupposto che nell’esordio originario della norma, secondo cui i sistemi di AI potevano essere «utilizzati esclusivamente per l’organizzazione e la semplificazione del lavoro giudiziario nonché per la ricerca giurisprudenziale e dottrinale», l’avverbio valeva ad escludere ogni altra attività[31]; noi riteniamo, però, che l’attuale art. 15, comma 2, della legge, stabilendo in capo al Ministero della giustizia il compito di disciplinare «gli impieghi dei sistemi di intelligenza artificiale per l’organizzazione dei servizi relativi alla giustizia, per la semplificazione del lavoro giudiziario e per le attività amministrative accessorie», di fatto individui, limitando ad essi, gli ambiti di intervento dei sistemi di AI nell’attività giudiziaria.
Ciò che è fondamentale osservare, oltretutto, è che, rispetto all’originaria formulazione, nel testo approvato definitivamente scompare il riferimento all’utilizzo dei sistemi di intelligenza artificiale «per le attività di ricerca giurisprudenziale e dottrinale». Sul punto, anzi, va segnalato che la Commissione giustizia del Senato aveva reso un parere rilevando la necessità del ripristino della formulazione originale del primo periodo del comma 1 dell’articolo 14, che, di fatto, consentiva l’utilizzo di sistemi di intelligenza artificiale per le sole attività strumentali e di supporto e «per l’organizzazione e la semplificazione del lavoro giudiziario nonché per la ricerca giurisprudenziale e dottrinale». Fatto sta che tale emenda non è mai intervenuta e il testo così approvato è divenuto quello definitivo (perché approvato senza modifiche anche dall’altro ramo del Parlamento), con l’effetto, a nostro modo di vedere, di escludere dal novero degli usi consentiti «la ricerca giurisprudenziale e dottrinale»: tema sul quale avremo modo di soffermarci approfonditamente in seguito.
Vi è anche un ulteriore dato rilevante nella storia di questa disposizione, che enfatizza la paura del legislatore che l’uso di sistemi di intelligenza artificiale potesse avere, in concreto, un effetto condizionante dell’attività giurisdizionale; il 20 marzo 2025, infatti, il Senato, nell’approvare il testo definitivo dell’art. 15 (senza l’emenda suggerita dalla Commissione), approvò anche un ordine del giorno[32] con il quale, «premesso che l’utilizzo dei sistemi e modelli di intelligenza artificiale in ambito giudiziario può rappresentare un utile supporto per l’organizzazione e la semplificazione del lavoro», impegnava il Governo «ad assicurare che le decisioni giudiziarie rimangano esclusivamente in capo al giudice, evitando che le proposte o raccomandazioni generate dai sistemi di intelligenza artificiale possano condizionarne, anche indirettamente, l’autonomia e l’indipendenza».
È alla luce di questo quadro normativo, dunque, che condurremo la nostra riflessione.
3. Quale utilizzabilità dei sistemi di AI per l’esercizio della giurisdizione?
Entriamo subito in medias res. Alla luce della formulazione normativa nazionale, diviene, innanzitutto, fondamentale comprendere se, effettivamente, la legge legittimi, nel processo penale, l’utilizzo, da parte del giudice[33], di sistemi di intelligenza artificiale nell’esercizio della giurisdizione[34].
In prima battuta, deve escludersi che tali sistemi possano, anche solo sotto il controllo umano, assumere autonomamente decisioni relative agli aspetti indicati; come si è visto, invero, l’utilizzo dei sistemi è sottoposto alla condizione che rimanga esclusivamente umana («sempre riservata al magistrato») ogni decisione che il magistrato debba assumere circa l’interpretazione della legge, la valutazione delle prove o dei fatti e l’adozione dei provvedimenti. Sono questi, d’altronde, gli snodi nei quali si esprime la funzione giurisdizionale in senso proprio (cioè quella del giudice) e, per certi aspetti, anche quella del pubblico ministero[35]; e poiché queste attività, da un lato, implicano apprezzamenti discrezionali e ponderazione di valori costituzionali e, dall’altro, impongono una motivazione suscettibile di controllo, non possono essere delegate, neppure in parte, a un sistema algoritmico, nemmeno quando rimanga in capo al magistrato il potere di approvare o disattendere l’esito[36].
Dal testo normativo, però, sembrerebbe potersi escludere non solo l’utilizzo dei sistemi in parola con funzione decisoria o predittiva[37] ma anche quale ausilio per il magistrato nell’assunzione della decisione: giungiamo a questa conclusione muovendo dal presupposto che, se la norma impone che la decisione sia «sempre riservata al magistrato», deve essere solo quest’ultimo a compiere ogni singola fase del processo cognitivo che porta alla decisione. Nella nostra interpretazione risulta, dunque, bandito l’utilizzo di sistemi che contribuiscano alla formazione del giudizio per il tramite della selezione, organizzazione od elaborazione delle informazioni sulle quali esso si fonda: in buona sostanza, dire che «è sempre riservata al magistrato la decisione» equivale ad affermare che è sempre riservato al magistrato il percorso cognitivo-valutativo che porta alla sua adozione.
Una tale interpretazione impone, tuttavia, una verifica della sua tenuta nel contesto, perché, se da un lato l’art. 15, comma 1, della legge 23 settembre 2025, n. 132 riserva al magistrato la decisione, il comma 2 della stessa disposizione contempla l’utilizzo dei sistemi di AI per la «semplificazione del lavoro giudiziario». Le due previsioni, dunque, devono essere necessariamente coordinate, onde evitare che possano escludersi a vicenda: la seconda potrebbe eliminare le garanzie della prima; la prima, a sua volta, potrebbe inibire radicalmente l’utilizzo dei sistemi in questione.
Ebbene, desumere dalla possibilità di utilizzo per «la semplificazione del lavoro giudiziario» la legittimazione ad intervenire – in qualche modo – nel procedimento cognitivo-decisionale a nostro modo di vedere sarebbe opzione ermeneutica errata, considerato che la «semplificazione» – cioè il criterio dell’efficienza – non è introdotto quale fattore prevalente in subiecta materia, nella quale l’efficientamento è una finalità da perseguire nel rispetto di limiti posti a garanzia di diritti costituzionali.
Il coordinamento tra le due previsioni, dunque, deve essere individuato attraverso una distinzione che consenta di separare gli usi che agevolino in termini organizzativi o materiali lo svolgimento dell’attività giudiziaria da quelli che, invece, possano incidere sulla formazione del giudizio. Mentre i primi, infatti, possono legittimamente contribuire alla semplificazione delle attività senza intervenire sulla funzione propria del magistrato, i secondi, invece, devono essere considerati in temini differenti, perché possono porre in capo al sistema di intelligenza artificiale una porzione dell’attività cognitivo-valutativa che rappresenta il presupposto della decisione.
Il dualismo rappresentato, in funzione della decisione, da momento di “preparazione” e momento di “adozione” non può essere criterio distintivo utile, perché un’attività preparatoria non è estranea alla funzione decisoria semplicemente per l’aspetto cronologico che la vede, di fatto, precedere la seconda. La “preparazione” della decisione, d’altronde, può spesso comprendere delle operazioni di natura cognitivo-valutativa capaci di incidere significativamente sulla decisione finale: ciò accade, come cercheremo di dimostrare, con la selezione degli elementi di prova, con l’individuazione dei precedenti giurisprudenziali, con la ricostruzione dei fatti o, anche, semplicemente con l’estrazione dagli atti delle questioni che dovranno formare oggetto di valutazione.
In buona sostanza, la questione da affrontare non deve ruotare attorno all’an (se, cioè, un sistema di intelligenza artificiale possa essere utilizzato dal magistrato nella sua attività), né attorno al quando (ovvero in quale momento), quanto, piuttosto, attorno al quale, ossia al tipo di contributo che il sistema può legittimamente fornire.
Bisognerebbe, dunque, distinguere tra un ausilio che abbia funzioni meramente informative o organizzative, capace di ampliare la capacità del giudice di gestire le informazioni e organizzare le attività, e un ausilio selettivo, valutativo o decisorio, che finisca, invece, per orientare il giudizio riservato al magistrato (posto che, come osservato in premessa, la sua sostituzione è impossibile).
Questa distinzione, ovviamente, non può dipendere da una qualificazione formale dello strumento o dal fatto che il risultato venga presentato come sottoposto ad una verifica umana. Si deve avere riguardo, invece, alla funzione svolta concretamente dal sistema e all’apporto concreto che esso fornisce alla formazione della decisione. Un’attività che, in fase preparatoria, selezioni o valorizzi le informazioni condiziona di fatto la decisione finale e non garantisce minimamente la paternità della decisione in capo al magistrato, benché questi ne mantenga il controllo formale.
È partendo da questa constatazione, che riteniamo che la riserva della decisione in capo al magistrato sia da intendersi in termini più ampi rispetto alla mera titolarità della decisione. L’effetto è, dunque, quello di ritenere inconciliabili con il dettato normativo quei sistemi chiamati a formulare valutazioni sulla credibilità di un teste o sull’attendibilità di una testimonianza, sulla rilevanza di una prova, sulla ricostruzione dei fatti controversi o sulla soluzione giuridica da adottare nel caso concreto, ma anche, come vedremo, quelli che vengono utilizzati, in fase preparatoria, per operare selezioni nelle banche dati di giurisprudenza, sintesi di atti e documenti o, addirittura, ricavare dagli atti di parte il thema decidendum; o, ancora, quelli che, in fase coeva o successiva alla decisione, vengono utilizzati per la stesura della motivazione dei provvedimenti.
La conclusione che riteniamo di poter anticipare è questa: nell’ambito del procedimento cognitivo-valutativo di cui anche – e soprattutto – consta l’attività giudiziaria non basta un “controllo umano significativo”, così come richiesto in relazione all’utilizzo di sistemi di intelligenza artificiale considerati ad alto rischio, ma è necessario un “intervento umano esclusivo”; e ciò perché il legislatore nazionale ha inteso presidiare un bene giuridico ulteriore, ovvero la stessa funzione giurisdizionale.
4. I rischi di un intervento dei sistemi di intelligenza artificiale nel percorso cognitivo-valutativo del giudice: l’esperienza del mutamento d’approccio nell’uso dell’AI generalista.
Vista la necessità che la decisione resti sempre riservata al giudicante umano, è facile, come si è detto, considerare bandito un sistema di intelligenza artificiale che fornisca direttamente una soluzione interpretativa o una valutazione probatoria capace di orientare in modo determinante la decisione del giudice: in questo caso, infatti, l’intervento giudiziale non sarebbe decisorio, ma si ridurrebbe ad una verifica meramente formale e ad una ratifica dell’esito prodotto dal sistema.
Ma se, come si è prospettato, un qualche utilizzo dell’intelligenza artificiale, vista la portata testuale del citato art. 15, deve pur sempre ritenersi ammesso, quale può essere questo contributo, dato che la sua condizione intrinseca deve essere l’incapacità di condizionare, anche di fatto, la decisione del giudice?
La domanda muove dal fatto che, una volta escluso – potremmo dire, pacificamente – il rischio di una sostituzione formale del magistrato ad opera dei sistemi di AI, l’attenzione deve concentrarsi sulla neutralizzazione del pericolo di una progressiva eterodirezione della decisione giudiziaria. Un tale pericolo, infatti, non dipende esclusivamente da fenomeni, apprezzabili sul piano psicologico, di automation bias, ovverosia la tendenza dell’essere umano ad attribuire particolare affidabilità ai risultati prodotti da un sistema automatizzato[38], ma può essere una semplice conseguenza dell’attività di ricerca e selezione degli elementi utili alla decisione; un’attività che, di per sé, nel selezionare l’oggetto della ricerca, influisce, inevitabilmente, sul risultato della stessa e, quindi, potenzialmente, sulla decisione che il giudice dovrà assumere.
In buona sostanza, l’interrogativo al quale cercare di dare risposta è quello se sia possibile che un sistema di intelligenza artificiale rappresenti uno strumento di supporto all’attività cognitiva del giudice senza divenire autore occulto del processo decisionale o di parte di esso; un rischio, questo, immanente in relazione a sistemi che, per definizione, procedono autonomamente ad individuare gli elementi utili scartando quelli che non ritengono rilevanti.
Ebbene, a nostro modo di vedere, una digressione – sull’esperienza maturata negli ultimi anni in ambito generalista – può aiutare a inquadrare il fenomeno e a comprendere quali possano essere le reali conseguenze di un rapporto con l’esterno mediato dall’intelligenza artificiale, cioè che utilizzi quest’ultima come filtro.
Dobbiamo considerare dato oramai pacifico il fatto che il rapporto dell’essere umano con l’informazione, da tempo mediato da una componente tecnologica, è soggetto a cambiare ulteriormente per via dell’avvento massivo dei sistemi di AI (se non è, addirittura, già cambiato); si può riconoscere, infatti, l’avvio di una vera e propria rivoluzione, i cui effetti risultano apprezzabili in prima battuta su Internet, dove l’intelligenza artificiale ha aperto la strada ad un nuovo sistema di accesso ai contenuti. Nell’ultimo periodo, d’altronde, il rapporto con l’informazione (o, più in generale, con la conoscenza) ha iniziato a spostarsi progressivamente da un modello nel quale l’utente ricerca contenuti e li seleziona ad un modello nel quale, invece, formula una richiesta e riceve una risposta già elaborata: da quello che poteva essere definito un modello “cerca e scegli” ad un modello che viene, invece, definito “chiedi e ricevi”[39].
Facciamo un esempio per chiarire meglio. Pensiamo a Google, il noto motore di ricerca che da anni rappresenta il più utilizzato portale di accesso alla rete: fino a poco tempo fa i fruitori del World Wide Web lo usavano per ricercare contenuti attraverso parole chiave, ottenendo in risposta una pluralità di risultati tra i quali orientarsi. Oggi, invece, l’integrazione dell’intelligenza artificiale nell’esperienza di ricerca consente di formulare una richiesta e di ricevere, prima dei tradizionali risultati, una risposta elaborata dall’algoritmo[40]; il mutamento, dunque, non consiste nella scomparsa della ricerca tradizionale (almeno per ora), ma nell’offerta, accanto ad essa, di una modalità di accesso all’informazione (o alla conoscenza) differente, nella quale l’utente non viene più chiamato ad individuare e selezionare le fonti, ma affida al sistema la loro selezione e la successiva elaborazione del risultato[41]. E che questa modifica dell’approccio segua una direzione che rischia di essere quella che sarà, di fatto, percorsa in futuro, ci sembra una previsione ragionevole, se solo consideriamo l’immediato apprezzamento espresso dal mondo commerciale[42].
Dietro quella che potremmo considerare una nuova meccanica del rapporto tra uomo e informazione (o conoscenza), però, è possibile intravedere una significativa alterazione dell’approccio che l’individuo ha con la realtà esterna: l’intelligenza artificiale sta assumendo gradualmente il ruolo di assistente personale al quale è facile abituarsi e del quale è poi difficile fare a meno, un po’ come è accaduto con l’introduzione del navigatore GPS negli spostamenti. Un assistente personale che sembra rispondere semplicemente ad una nostra richiesta ma che, in realtà, attraverso una “proposta”, rischia di scegliere per noi, dandoci l’illusione di essere noi a scegliere: un concetto, questo, che riteniamo di dover ulteriormente approfondire per evitare fraintendimenti.
Partiamo da una premessa: se il sistema di AI è il filtro – intelligente (?) – che ci separa da una determinata realtà, il rischio è che questo filtro si trasformi da ausilio alla decisione in vero e proprio autore della decisione: il problema, infatti, non consiste solo nel fatto che l’intelligenza artificiale può selezionare le informazioni alle quali abbiamo accesso, ma nel fatto che, attraverso la selezione di queste informazioni, individua le alternative e le soluzioni che ci vengono sottoposte, definendo, di fatto, il perimetro entro il quale veniamo poi chiamati a scegliere.
Le problematiche, dunque, sono tante ed estremamente rilevanti. Il tradizionale modello di accesso al web (“cerca e scegli”) impone all’utente il compimento di una serie di attività cognitive, pur sempre al cospetto di un enorme database quale internet è: l’utente, infatti, è chiamato ad effettuare la ricerca, confrontare i risultati offerti, visitare fonti differenti, verificare le informazioni fornite e, infine, farsi un’idea o assumere una decisione. Il modello mediato dall’uso dell’intelligenza artificiale che si sta affermando, invece, delega implicitamente una parte estremamente significativa di queste attività al sistema algoritmico: nel nuovo paradigma (“chiedi e ricevi”) che sta prendendo piede, l’utente formula una richiesta e riceve, in luogo di un elenco di risultati, una risposta già elaborata. Di fatto si tratta di una vera e propria semplificazione dell’esperienza (d’altronde, non è con questo spirito che ci rivolgiamo all’AI?), che siamo portati a percepire come neutrale pur senza apprezzarne le ragioni; in realtà, siamo di fronte ad una sorta di “esternalizzazione” di una parte del processo cognitivo che precede la decisione, che ha l’effetto di incidere sull’autodeterminazione di chi deve trarre le conclusioni.
Non ci si vuole spingere a sostenere che l’intelligenza artificiale stia decidendo al posto dell’utente; si vuole, però, osservare come, in questi casi, l’AI contribuisca in maniera significativa a determinare le condizioni cognitive all’interno delle quali l’utente assume la decisione e così, pur non sottraendogli formalmente il potere di scegliere, è in grado di orientare in maniera sufficientemente efficace il processo attraverso il quale egli giunge alla scelta.
Il rischio, in buona sostanza, è quello dell’avvento di una forma di “paternalismo tecnologico”[43] (“digitale” o “algoritmico” che dir si voglia), che può risultare, peraltro, a stento percepibile perché è difficile avvertire l’effetto condizionante di un sistema concepito per dare semplice assistenza all’utente[44]. Si tratta, però, di una “neutralità” solo ingiustamente percepita e, pertanto, assai pericolosa, perché lascia l’utente convinto che la scelta finale sia interamente propria, mentre il percorso che conduce ad essa è stato, di fatto, costruito da un sistema del quale l’utente non conosce regole e criteri di funzionamento.
L’effetto di questa particolare modalità di utilizzo dei sistemi di AI può essere dirompente sulle abitudini degli individui, vieppiù a causa della sua attitudine ad operare in ambito commerciale all’interno di una società consumistica come la nostra. In un ecosistema economico-digitale così costruito, infatti, è facile che il confine che deve esistere – e che deve essere percepito – tra assistenza, pubblicità e, addirittura, intermediazione commerciale si assottigli, con il rischio che chi controlla il sistema che seleziona le alternative possa esercitare un’influenza significativa anche sulle dinamiche del mercato.
Lo sviluppatore del sistema, che abbia la possibilità di determinare quali alternative divengano visibili all’utente e quali, invece, rimangano fuori dal suo orizzonte decisionale, può condizionare, di fatto, il potere decisionale, in quanto, pur non decidendo, individua le scelte tra le quali il decisore si deve muovere. Non vi è chi non veda, però, che quest’ultima distinzione è fine a sé stessa: la libertà di autodeterminazione non viene necessariamente meno solo quando un soggetto impone la propria scelta ad un altro, ma è altresì compromessa quando qualcuno determina il campo delle scelte disponibili.
Da queste osservazioni possiamo, dunque, ricavare una considerazione fondamentale per il tema della nostra trattazione: l’intelligenza artificiale – viste le potenzialità di elaborazione e sintesi – modifica il rapporto che l’individuo ha con l’ambiente digitale determinando il passaggio da un modello di ricerca (con valutazione autonoma) ad un modello di valutazione e selezione (che implica una delega al sistema), e non vi sono ragioni per escludere che questa modalità di approccio – direttamente dipendente dalla funzione selettiva del sistema – si affermi anche nell’esercizio della giurisdizione[45], con quanto di negativo consegue in termini di condizionamento della decisione.
Pertanto, ogni volta che un sistema di intelligenza artificiale funge da intermediario tra l’essere umano e un determinato contesto (sia anche – questo – un fascicolo processuale o un problema giuridico da risolvere), diviene fondamentale assicurarsi che l’assistenza non si trasformi in una sostituzione, perché, altrimenti, la semplificazione del processo decisionale può determinare la sua progressiva sottrazione all’unico legittimo decisore.
5. La non surrogabilità della funzione giurisdizionale: giudice “naturale” come giudice “non artificiale”.
Alla luce di questi pericoli, torniamo al significato che abbiamo ritenuto di poter attribuire all’art. 15 della legge 23 settembre 2025, n. 132. La previsione, complessivamente intesa, non si limita ad esigere che il magistrato conservi una “supervisione” sull’operato del sistema, ma pretende che la decisione resti integralmente sua, quale espressione del rilievo costituzionale della funzione. In altri termini, il magistrato non può essere il “validatore” dell’esito di una elaborazione artificiale né, men che mai, il “ratificatore” di una soluzione proposta da un sistema algoritmico; e ciò poiché, stando alla previsione legislativa, la decisione è «sempre riservata» a lui.
Il magistrato, dunque, deve rimanere l’autore – l’unico autore – del percorso cognitivo e argomentativo che conduce alla decisione, considerato che di questa è chiamato ad assumere integralmente la responsabilità giuridica sul piano istituzionale e deontologico; ad opinare diversamente, ci si porrebbe in netto contrasto con la garanzia che la disposizione in parola intende attuare.
Se questa è la conclusione alla quale riteniamo di poter giungere sulla base del novum normativo, vediamo se ad analoga conclusione può addivenirsi anche sulla base di un’analisi sistematica: ciò che può aiutarci a riconoscere la bontà della prima soluzione.
Analizziamo la posizione del giudice, perché, come accennato, è in riferimento ad essa che intendiamo sviluppare il nostro discorso: la centralità dell’ “intervento umano” si manifesta, d’altronde, proprio negli aspetti che caratterizzano l’esercizio della giurisdizione. Interpretare una disposizione normativa significa scegliere, tra più significati ricavabili sul piano astratto, quello che si ritiene conforme ai principi costituzionali e, più in generale, al sistema delle fonti, secondo un giudizio che deve provenire necessariamente dalla persona chiamata, istituzionalmente, ad esercitare la funzione[46]; valutare una prova significa apprezzarne il grado di attendibilità, credibilità, rilevanza e forza dimostrativa per mezzo di un giudizio che coinvolge massime di esperienza, regole inferenziali e che richiede, soprattutto, una sensibilità che si invoca nell’unico soggetto al quale il potere decisionale è attribuito; motivare un provvedimento significa rendere intelligibile e, pertanto, controllabile il percorso logico-giuridico seguito da chi è chiamato ad offrire una decisione personale in nome del Popolo italiano.
Dobbiamo essere consapevoli, dunque, che si tratta di attività che non possono essere ridotte ad operazioni di mera correlazione statistica, né potremmo mai volere che fossero anche solo influenzate da queste; e ciò poiché presuppongono una responsabilità del giudice “uomo”, che trova il proprio fondamento negli artt. 101 e 111 Cost.
Riservare al magistrato la decisione significa, infatti, non solo attribuirgli la titolarità formale della stessa, ma concepirla come risultato di un’attività intellettuale che sia riconducibile al giudice in termini autentici ed esclusivi; e tale riconducibilità non è doverosa solo in relazione al momento valutativo, ma anche in riferimento a tutto l’iter cognitivo degli elementi utili alla decisione, che precede tale momento, e all’impegno motivazionale che segue ad esso.
Il fondamento rinvenibile nelle due citate previsioni costituzionali, infatti, non serve solo a tutelare l’autonomia e l’indipendenza del magistrato, ma ha la funzione di garantire il diritto dell’imputato – o, se volessimo ampliare l’orizzonte, della collettività – a che questi sia giudicato da un essere umano che abbia “personalmente” formato il proprio convincimento, assumendosene la piena responsabilità.
Tra le righe dell’art. 15 della legge 23 settembre 2025, n. 132, dunque, non possiamo che vedere affermato quello che potremmo chiamare principio di “non surrogabilità della funzione giurisdizionale umana”: un principio che, però, è di per sé ricavabile dalle caratteristiche che, secondo la Costituzione, è necessario abbia la giurisdizione[47]. E tutto ciò con una conseguenza che rappresenta anche una efficace coincidenza: l’aggettivo “naturale”, che nell’art. 25 Cost. caratterizza il «giudice […] precostituito per legge» dal quale «nessuno può essere distolto», assume oggi – nella sua contrapposizione con quanto, invece, è “artificiale” – una nuova valenza, alla quale i Costituenti non avevano certamente pensato. La “naturalità”, infatti, vale sia in termini di “precostituzione” che, sotto il profilo ontologico, di “umanità”.
Alla luce di quanto detto, il contributo tecnologico offerto dall’intelligenza artificiale può considerarsi legittimo solo se si fa apprezzare prima e al di fuori del percorso cognitivo che porta alla formulazione del giudizio, senza incidere sul nucleo essenziale dell’attività decisoria.
6. Dalla difesa della “personalità della giurisdizione” alla tutela della “libertà morale” del giudice: le conseguenze di un intervento dell’AI nel processo cognitivo-valutativo del giudicante.
La nostra conclusione non si ricava solo dal più volte citato art. 15: si ricava dal sistema. Come si è illustrato supra, infatti, è possibile far discendere dalla Costituzione il principio della “personalità della giurisdizione”, cioè la necessità che il frutto dell’attività giurisdizionale sia riferibile esclusivamente al soggetto al quale tale attività è demandata.
Potrebbe, dunque, l’attività decisoria continuare a dirsi affidata interamente al giudice qualora un sistema automatizzato individuasse autonomamente gli elementi utili per la decisione, ad esempio attraverso una sintesi dei documenti o degli atti, una ricerca o selezione da essi di circostanze rilevanti o anche, semplicemente, una individuazione dei pertinenti precedenti giurisprudenziali? A nostro modo di vedere certamente no.
Ma vi è di più: un approccio di questo tipo, infatti, finirebbe per ledere una fondamentale libertà del giudice, la “libertà morale”, cioè quella che, mutuando parte di una nota definizione riferita alla posizione del testimone, può essere definita come la libertà di «formare senza costrizioni la propria volontà e di muovere il proprio comportamento esteriore in conformità alle spinte psichiche interne, senza intromissioni»[48]. E ciò con tutte le conseguenze del caso.
Anche al giudice, infatti, deve essere garantita la libertà di autodeterminarsi alla quale fa riferimento l’art. 188 c.p.p.[49]: forse la libertà più importante che all’uomo possa essere riconosciuta con riferimento alla sfera psichica, dato che quest’ultima si realizza compiutamente nella sfera decisoria, ovvero con l’autodeterminazione. D’altronde, proprio con riferimento al giudice, di autodeterminazione si parla già, nel codice di rito[50], addirittura anteponendo tale “capacità” al principio di precostituzione – di cui all’art. 25, comma 1, Cost. – attraverso la previsione di un caso di rimessione del processo. Non dimentichiamolo: quando «gravi situazioni locali, tali da turbare lo svolgimento del processo e non altrimenti eliminabili, pregiudicano la libera determinazione delle persone che partecipano al processo»[51], il legislatore ha previsto l’assegnazione del processo ad altro ufficio, a dimostrazione dell’importanza dell’autodeterminazione medesima.
La libertà morale del giudice, data la funzione rivestita nel processo, è, dunque, da intendersi come libertà di formazione del convincimento e di decisione che può essere garantita escludendo non solo comportamenti coattivi di terzi, ma anche semplici condizionamenti che derivino da pregiudizi, interessi personali, precedenti attività svolte nel procedimento o interferenze esterne (anche provenienti da un sistema algoritmico).
D’altronde, volendo fornirne un inquadramento sistematico, va detto che – se il fondamento della libertà in questione è rinvenibile, in termini generali, nell’art. 2 Cost.[52] – con specifico riferimento al giudice essa discende anche dagli artt. 101, comma 2, Cost., secondo cui «i giudici sono soggetti soltanto alla legge», dall’art. 104 Cost., che riconosce alla magistratura la natura di «ordine autonomo e indipendente da ogni altro potere», e dall’art. 111 Cost., che, nel sancire le regole del giusto processo, impone un giudice «terzo e imparziale».
Focalizzando, poi, l’attenzione sul giudice penale, deve rilevarsi che è il codice di rito a tradurre tali principi in una serie di garanzie processuali che assicurano che il convincimento del giudice si formi esclusivamente sulla base della prova e del contraddittorio, libero da condizionamenti interni ed esterni. Infatti, nonostante manchino nel codice specifiche norme poste esplicitamente a tutela della libertà morale del giudicante (come accade, invece, ad opera degli artt. 64, 188 e 189 c.p.p. per la fonte di prova o – in funzione difensiva – per l’interrogatorio), una serie di norme addirittura la presuppongono e le forniscono indiretta tutela.
Una disamina, per quanto sommaria, del quadro normativo codicistico può aiutare a comprendere meglio.
Innanzitutto, l’art. 2 c.p.p., nel delineare l’ambito di cognizione del giudice, stabilisce la regola generale secondo cui «il giudice penale risolve ogni questione da cui dipende la decisione, salvo che sia diversamente stabilito»: il giudice, dunque, è libero, salvo i limiti di legge (per vero sempre meno stringenti), di risolvere qualsiasi questione incidentale non solo penale, ma anche civile e amministrativa. La previsione stabilisce la piena autonomia del giudice nella formazione della decisione: autonomia che rappresenta la condizione di partenza per salvaguardare la libera determinazione del giudicante e che ne rappresenta un tratto distintivo.
In questo contesto, l’art. 192, comma 1, c.p.p., relativo alla valutazione della prova, è probabilmente la norma più significativa in quanto, stabilendo che «il giudice valuta la prova dando conto nella motivazione dei risultati acquisiti e dei criteri adottati», gli attribuisce quella che potremmo definire una “libertà di apprezzamento razionale”, che siamo soliti chiamare “libero convincimento del giudice”. La regola così affermata attribuisce al giudice il potere di valutare il materiale probatorio in piena libertà, con l’obbligo – quasi un contrappeso – di dare atto dei risultati della valutazione e dei criteri in essa adottati, cioè di rendere verificabile il percorso logico-giuridico seguito: in uno, di motivare. La motivazione diviene, dunque, l’unico controllo esterno di questa libertà, stabilito a chiare lettere dall’art. 125 c.p.p. e dall’art. 546 c.p.p. con riferimento alla sentenza, cioè il provvedimento decisorio per eccellenza.
Un risvolto della libertà morale del giudice si rinviene, poi, nella previsione dell’art. 238-bis c.p.p., secondo cui le sentenze irrevocabili acquisite come prova devono essere valutate, «ai fini della prova del fatto in esse accertato», insieme agli altri elementi di prova, a norma degli artt. 187 e 192, comma 3, c.p.p. Anche questa norma, dunque, pur introducendo un fattore esterno nel novero degli elementi aventi peso probatorio, esclude qualsiasi efficacia vincolante della precedente decisione nel nuovo giudizio, assicurando al giudice la libertà del proprio convincimento seppure condizionata dalla valutazione congiunta con altri elementi di prova.
È poi regola generale quella che il materiale probatorio valutabile ai fini della decisione deve essere solo quello frutto di una legittima acquisizione nella fase dibattimentale: ciò discende direttamente da quanto disposto dall’art. 526, comma 1, c.p.p., secondo cui «il giudice non può utilizzare ai fini della deliberazione prove diverse da quelle legittimamente acquisite nel dibattimento». In buona sostanza, il convincimento del giudice può formarsi solo su elementi acquisiti (anche se non tutti formati) nel contraddittorio, restando esclusa la possibilità che elementi differenti debbano – o possano – incidere sul processo decisionale.
Non solo: l’importanza della libera determinazione del giudice, su un terreno i cui limiti sono costituiti dal contraddittorio esercitato dalle parti, si apprezza particolarmente nella previsione dell’art. 525 c.p.p., che, nell’affermare la necessità che il giudice che decide sia anche quello che ha assistito all’assunzione della prova, mira proprio a garantire che il convincimento sia personale e frutto della percezione diretta della prova, senza mediazioni altrui.
Peraltro, quand’anche la previsione dell’art. 525 c.p.p. venisse intesa, limitandone la portata, quale garanzia dell’identità tra il giudice che ha assistito alla formazione della prova e quello che delibera, dovrebbe comunque convenirsi che è il sistema a postulare, oltre a questa identità, una vera e propria autenticità dell’attività cognitiva, nel senso della sua riferibilità esclusivamente al giudice nel perimetro tracciato dal dibattimento; una conclusione che origina da una valutazione sistematica, ovvero l’apprezzamento congiunto dei già citati art. 192 c.p.p., che affida al giudice la valutazione della prova, dell’art. 526 c.p.p., che gli impone di valutare solo prove legittimamente acquisite nel dibattimento e, comunque, dell’art. 101, comma 2, Cost., che, nello stabilire la soggezione del giudice soltanto alla legge, implica che il processo decisionale non sia eterodiretto da un soggetto o da uno strumento esterno.
In tutto ciò, dunque, deve cogliersi una specifica dimensione della “libertà morale del giudice”, che, come dimostrato, non può ridursi ad una mera assenza di pressioni; la centralità del contraddittorio e l’immediatezza, comunemente intesa quale assenza di mediazioni tra il giudice e la prova, sono, d’altronde, manifestazioni concrete delle regole del giusto processo declinate dall’art. 111 Cost.
Ma ad usbergo della libertà di determinazione e di convincimento del giudice operano anche un’altra serie di previsioni codicistiche, come gli artt. 34-37 c.p.p., che disciplinano le ipotesi di incompatibilità, astensione e ricusazione: si tratta di istituti che hanno proprio la funzione di tipizzare ed eliminare le situazioni nelle quali il giudice potrebbe essere influenzato da precedenti decisioni, interessi personali o rapporti con le parti, e rappresentano una vera e propria tutela preventiva della libertà e dell’imparzialità del giudizio.
7. Quando l’uso di sistemi di AI incide sulla personalità della decisione e sulla libertà morale del giudice?
A fronte di un contesto normativo e sistematico come quello finora descritto, diviene, dunque, fondamentale cercare di fornire una risposta concreta al quesito se la “personalità della decisione” e la “libertà morale” (o di autodeterminazione) del giudice restino, comunque, preservate nel caso di usi, anche solo di mero supporto dei sistemi di intelligenza artificiale; una risposta non semplice da fornire, vieppiù in ragione delle considerazioni già espresse supra sugli effetti dell’utilizzo generalista dell’AI.
Chiariamo il concetto: se la giurisdizione è attività affidata in esclusiva al giudice – e, pertanto, deve avere il carattere della personalità e dell’autonomia – qualsiasi fattore esterno che condizioni il processo di formazione del convincimento merita di essere valutato con particolare attenzione. La libertà morale del giudice, infatti, non può postulare soltanto l’assenza di costrizioni o di indebite pressioni, ma implica che il percorso cognitivo, valutativo e argomentativo rimanga proprio del magistrato, perché, in caso contrario, l’uso dell’algoritmo assume un ruolo del tutto ingiustificato e, oltretutto, difficilmente controllabile, visto che il funzionamento di tali sistemi resta non pienamente comprensibile.
Al cospetto dei sistemi di intelligenza artificiale, dunque, la tutela della libertà morale del giudice deve necessariamente assumere una dimensione ulteriore rispetto a come è tradizionalmente intesa: non solo tutela contro forme di coercizione o di alterazione della capacità di autodeterminarsi, ma anche contro più subdole forme di incisione sul processo cognitivo, ovvero influenze più sottili, che non eliminano formalmente la libertà di scelta ma operano previa ridefinizione del perimetro delle conoscenze[53] – e, dunque, valutativo – ovvero attraverso meccanismi, anche inconsapevoli, di “persuasione tecnologica” (passiva) o di “delega della valutazione” (attiva).
Lo abbiamo ripetuto più volte: ciò che conta non è solo che la decisione finale sia adottata formalmente dal giudice, ma che il percorso cognitivo e argomentativo che lo conduce ad essa sia attribuibile interamente allo stesso giudicante; ecco perché taluni utilizzi prospettati dallo stesso C.S.M. – sui quali ci soffermeremo a breve – non ci convincono: perché danno per scontato un uso dell’AI che, pur mantenendo il controllo in capo al giudice, gli sottrae – di fatto – l’esecuzione di alcuni passaggi del percorso di acquisizione delle conoscenze che conduce alla decisione.
A nostro modo di vedere, però, una valutazione non può dirsi frutto esclusivo dell’attività del giudice se questi si è limitato, semplicemente, a mantenere il controllo delle attività compiute dall’AI; anche a non considerare tutti i limiti delle concrete possibilità di controllo, infatti, la valutazione finale del giudice è il risultato di un percorso cognitivo che deve essere, anch’esso, personale.
Nell’esercizio dell’attività giurisdizionale, infatti, il giudice dovrebbe costruire il proprio itinerario mentale, individuando e scegliendo – da solo o con l’ausilio delle parti in contraddittorio – quali aspetti approfondire e quali elementi confrontare, formulando ipotesi da falsificare, analizzando le prove per ricavarne elementi da porre a base della propria valutazione finale. L’intervento di un sistema algoritmico in questo percorso altera, dall’esterno, il percorso stesso e, di fatto, modifica il modo attraverso il quale si addiviene al risultato.
Pertanto, se, come abbiamo già detto, è semplice ritenere non incidenti sulla libertà morale del giudice dei possibili utilizzi dell’AI con funzione organizzativa dell’attività o per finalità di analisi statistica (dall’organizzazione dell’agenda delle udienze, al calcolo dei termini prescrizionali e cautelari[54], fino ad arrivare all’analisi dei provvedimenti e dei tempi dei procedimenti), più complesso diviene l’apprezzamento in relazione ad attività che riguardano l’udienza o il fascicolo.
Prendiamo in considerazione l’utilizzo per la trascrizione del verbale di udienza – operata fedelmente da un’AI, senza errori o “allucinazioni” – oppure per l’indicizzazione dei documenti acquisiti: in questi casi, a ben vedere, abbiamo delle attività che possono avere un’incidenza sul percorso cognitivo ma che ci sembrano incapaci di incidere sull’immediatezza, perché il giudice continua a percepire personalmente la prova e l’AI svolge una funzione meramente strumentale di carattere materiale, fino ad oggi svolta da personale umano diverso dal giudice.
Completamente diverso, però, sarebbe il caso di utilizzo dell’AI per la selezione delle deposizioni da ritenersi rilevanti, ovvero anche solo dei passaggi più rilevanti delle medesime; o per evidenziare eventuali contraddizioni nel narrato dello stesso o di diversi testimoni; o ancora, addirittura, per operare una sintesi di documenti molto lunghi magari evidenziando gli elementi da ritenere decisivi[55]. In questo caso, infatti, il rapporto tra giudice e prova muterebbe radicalmente, perché, nonostante il giudice abbia assistito alla formazione del dato probatorio, la decisione che sarebbe chiamato a compiere non si baserebbe direttamente sul materiale acquisito, ma su un materiale selezionato o, addirittura, raffinato ed enfatizzato dall’algoritmo.
Lo strumento di AI, in questi casi, diverrebbe a tutti gli effetti un intermediario cognitivo, capace di offrire al giudice un dato da valutare comunque “diverso” da quello, informe (o avente propria forma), acquisito in contraddittorio; la valutazione del giudice, pertanto, non sarebbe fatta sulla prova, ma sulla sua “rappresentazione algoritmica”: una condizione che, mutatis mutandis, sembra ricadere nel divieto, stabilito dall’art. 526, comma 1, c.p.p., di «utilizzare ai fini della deliberazione prove diverse da quelle legittimamente acquisite nel dibattimento».
È vero che il nostro codice non afferma esplicitamente che il giudice debba personalmente compiere ogni operazione intellettuale del processo cognitivo e valutativo, ma, come si è dimostrato supra, questa conclusione è, comunque, obbligata in ragione dell’interpretazione sistematica delle norme finora invocate. Pensiamo ad un’attività di raggruppamento automatico delle intercettazioni per argomento operata dall’AI: non si può certo negare che il sistema stia compiendo un’attività di elaborazione che dovrebbe, però, spettare al giudice; e ciò vieppiù se alla catalogazione segua, poi, l’individuazione di quelle “più rilevanti” per il thema probandum, magari attribuendo uno specifico peso probatorio e definendo, di fatto, una gerarchia.
Tutto ciò, ovviamente, senza neppure considerare il rischio specifico e ulteriore di “condizionamento cognitivo” che un’eventuale intermediazione – come ogni operazione di “cernita” – svolta da un intermediario “artificiale” prospetta: non è un caso, d’altronde, se la psicologia mette in guardia, in situazioni analoghe, da fenomeni quali l’automation bias[56], l’anchoring, il framing o il confirmation bias[57].
Pertanto, dovendo avanzare una conclusione, ci pare opportuno affermare che il divieto di utilizzo di sistemi di intelligenza artificiale che possano incidere sull’attività cognitiva che conduce al convincimento del giudice non solo è implicito nella portata da riconoscersi all’art. 15 legge 23 settembre 2025, n. 132, ma è ricavabile dal sistema, desumendosi da esso il principio secondo il quale l’attività cognitiva che conduce al convincimento del giudice non può essere delegata, neppure in parte, ad un sistema algoritmico[58]. La conseguenza è, dunque, che non la sola decisione, ma anche la selezione e l’individuazione degli elementi che portano a quella decisione devono promanare da un’attività autenticamente personale del giudice.
8. Le mediazioni cognitive contemplate dal sistema.
Ovviamente, forzando il discorso per verificarne la tenuta, si potrebbe opporre a quanto detto che, in talune situazioni, il giudice si trovi già oggi a subire “condizionamenti” derivanti da un’attività di mediazione cognitiva affidata a terzi, come può capitare in presenza della nomina di un perito: sul punto, però, la prima considerazione da fare è che il giudice, anche nel caso di un apporto peritale, valuta direttamente la prova costituita dal contributo dell’esperto.
Chiariamo meglio il concetto: il condizionamento, in questo caso, dipende direttamente dalla prova (cioè quanto riferito dal perito), non da una valutazione della prova compiuta da altri, come accadrebbe, invece, nell’uso dell’AI dal quale siamo partiti.
Il perito, infatti, riveste – istituzionalmente – una funzione di mediazione cognitiva rispetto al fatto, perché ne aiuta la comprensione: proprio per questa ragione è un soggetto identificato, che presta una formula di impegno dichiarando solennemente di essere «consapevole della responsabilità morale e giuridica» assunta nello svolgimento dell’incarico, vincolandosi all’adempimento del proprio ufficio «senza altro scopo che quello di far conoscere la verità»; è una figura tenuta ad illustrare il metodo seguito per giungere alle proprie conclusioni e, soprattutto, è sottoposto al vaglio del contraddittorio attraverso l’esame incrociato, cioè ad un controllo dialettico sulla mediazione cognitiva che egli offre. Le due situazioni, pertanto, non possono essere comparate.
Si potrebbe, allora, citare l’esempio dell’interprete, un ausiliario del giudice che può essere chiamato a svolgere una vera e propria intermediazione cognitiva. Pensiamo al contributo offerto in occasione dell’audizione di un testimone alloglotta: in questo caso è l’interprete ad offrire al giudice l’elemento di prova sul quale fondare il proprio convincimento e l’attività dell’interprete diviene tutt’uno con la prova, così come, nell’esempio di cui sopra, l’attività del perito diviene la prova.
Anche in questo caso, però, il compito dell’interprete è svolto nel contraddittorio tra le parti, con possibilità, per le stesse, di operare un controllo dialettico sul contenuto dichiarativo anche per come reso fruibile dall’ “intermediario”.
Il minimo comun denominatore degli esempi appena esposti è, allora, uno: il fatto che la mediazione cognitiva interviene sempre nel contraddittorio. L’esemplificazione conferma, dunque, che nei casi in cui il giudice può rifarsi ad un intermediario cognitivo ciò deve avvenire, necessariamente, al cospetto delle parti, che devono poter dire la loro.
9. È il contraddittorio la chiave di tutto…
Il contraddittorio, ancora una volta, è la chiave di tutto, perché dimostra che non ogni intervento sul percorso cognitivo del giudice è incompatibile con il sistema delineato dalla Costituzione e dal codice di rito; peraltro, focalizzare l’attenzione sul contraddittorio consente, a nostro modo di vedere, di spostare il problema dal piano “psicologico” dell’influenza sul convincimento a quello “strutturale” del funzionamento del processo penale.
Senza il riferimento al contraddittorio, infatti, non si spiegherebbe perché debbano ritenersi ammesse la memoria difensiva, la requisitoria del pubblico ministero o l’ “arringa” del difensore, ma anche la relazione del giudice relatore nei collegi; addirittura, il discorso potrebbe farsi con riferimento ad una massima di una sentenza della Corte di legittimità o ad un’opera dottrinale che orienti il ragionamento del giudice. Tutti questi elementi, d’altronde, influenzano e talvolta strutturano il percorso cognitivo del giudice e divengono noti – o si danno per noti, come nel caso di dottrina e giurisprudenza – alle parti. È evidente, infatti, che memorie difensive, discussioni delle parti, relazione del giudice relatore, precedenti giurisprudenziali o orientamenti dottrinali traggono legittimazione epistemica proprio dal contraddittorio: la loro capacità di “influenzare” il giudice non è un problema in quanto il processo addirittura postula che lo influenzino, in un contesto, però, in cui l’influenza è pubblica e dialettica e, dunque, contestabile[59].
L’utilizzo “privato” (“segreto” o “riservato”) dell’AI da parte del giudice, però, comporta una valutazione completamente diversa: e ciò non tanto perché si tratta di un contributo “artificiale” – sebbene ciò, come più volte affermato, abbia una sua specifica ricaduta – ma poiché introduce nel procedimento quello che potremmo definire un “interlocutore cognitivo occulto”, sottratto al contraddittorio e che opera silente nella camera di consiglio. L’AI non è il giudice, né un suo ausiliario nominato secondo le regole del codice, non è una parte, né un perito; ma, soprattutto, non è sottoposta al contraddittorio e il suo contributo concreto si perde nella decisione finale del giudice, nel senso che non è autonomamente identificabile.
Pur quando sia utilizzata, le parti non sanno se sia stata utilizzata[60], né sanno come lo sia stata, cioè quali prompt siano stati formulati, quali elementi siano stati specificamente sottoposti al sistema, quali risposte siano state ottenute e quali di queste siano state scartate. Quand’anche l’AI abbia motivato il proprio “ragionamento” nei confronti del giudice, certamente tale motivazione non risulterà estesa alle parti in termini che potremmo considerare processualmente verificabili, cioè nei cui confronti sia possibile esercitare una qualche forma di controllo.
Ciò mostra, dunque, che il problema dell’uso dell’AI non attiene solo alla necessità di preservare la libertà morale del giudice, ma coinvolge proprio la legalità del procedimento cognitivo. Se la libertà morale guarda al rischio di condizionamento del decisore (aspetto di somma rilevanza nel contesto), il contraddittorio, invece, guarda alla legittimazione epistemica delle conoscenze che possono concorrere alla decisione: tale legittimazione, infatti, dipende dalla possibilità delle parti di “riconoscere” il contributo offerto dall’AI[61] e dire e contraddire in merito ad esso.
Il discorso è semplice. Il codice di rito disciplina chi può concorrere – e come può farlo – alla formazione della decisione, nel senso che il convincimento del giudice deve formarsi attraverso un numero chiuso e predefinito di apporti cognitivi, cioè prove utilizzabili e deduzioni delle parti: due categorie diverse di contributi, entrambe sottoposte, però, a contraddittorio. In questo contesto, dunque, l’utilizzo da parte del giudice di un sistema di AI viene a rappresentare un apporto cognitivo ulteriore, che rimane privo di disciplina codicistica, alla stregua di una fonte di conoscenza extraprocessuale sottratta al controllo delle parti. Il principio del contraddittorio non regola, d’altronde, soltanto la formazione della prova ma è da intendersi anche come contraddittorio sulla prova e sulle argomentazioni, nella c.d. accezione di contradditorio debole rinvenibile nell’art. 111 Cost.
In conclusione, è la necessità di garantire il contraddittorio a delimitare, di fatto, il perimetro degli apporti cognitivi legittimamente utilizzabili dal giudice nella formazione del suo convincimento.
Ovviamente – e qui si torna al dato dal quale siamo partiti – non ogni output che sia attribuibile ad un sistema di AI rappresenta un “elemento conoscitivo” di rilievo processuale, che entra cioè nel percorso cognitivo del giudice senza essere conoscibile e contestabile dalle parti: ciò accade solo nel caso in cui sia prodotto un contenuto originale, come una selezione, una sintesi, un’inferenza, o, più in generale, una valutazione o un suggerimento interpretativo.
10. Le raccomandazioni del CSM e gli usi legittimi dell’AI.
Viene allora da chiedersi se sia possibile fornire un’indicazione dei casi di utilizzo legittimo dei sistemi di intelligenza artificiale nell’ambito giurisdizionale: e se quelle che in talune sedi si è provato ad offrire siano tali.
Un’elencazione è offerta, ad esempio, dalla Corte costituzionale colombiana, che ha ritenuto ammessi gli utilizzi volti a «supportare compiti gestionali (ad esempio, prendere appunti e redigere relazioni), compiti documentali (ad esempio, la classificazione dei documenti), funzioni giudiziarie (ad esempio, l’identificazione della giurisprudenza pertinente) e per correggere e sintetizzare testi sotto la supervisione dell’utente»[62]. Le formule sono molto generiche e, quantomeno con riferimento alla correzione e sintesi di testi (quali testi?) e alla ricerca giurisprudenziale, meriterebbero un approfondimento. Non è un caso, d’altronde, che proprio su quest’ultimo aspetto il nostro C.S.M., che pure ha indicato una serie di usi possibili, abbia fornito indicazioni più puntuali.
Il Consiglio, infatti, è intervenuto sul tema con due Raccomandazioni[63], ritenendo i sistemi di intelligenza artificiale ammessi, in linea generale, per dodici diverse finalità[64], che, però, non convincono tutte.
Il compimento di una «analisi strutturata degli atti delle parti» ad opera dell’AI ci pare debordare, infatti, in quella intermediazione cognitiva non ammessa alla quale abbiamo finora fatto riferimento; e altrettanto dicasi per il «confronto tra posizioni processuali delle parti», vieppiù perché finalizzato alla «determinazione del thema decidendum e del thema probandum»[65]: non sono queste le attività che rappresentano il nocciolo duro[66] della giurisdizione? È superfluo osservare, allora, che una delibera del Consiglio non può certo ampliare i limiti imposti dalla legge.
Come si è accennato supra, poi, particolare interesse assume, con riferimento alla ricerca giurisprudenziale, un passaggio della seconda Raccomandazione, nella quale lo stesso Consiglio osserva che proprio l’utilizzo dell’intelligenza artificiale per tale finalità si collocherebbe «in un ambito che, sebbene riconducibile a compiti procedurali, può presentare profili di rischio elevati qualora l’output generato venga utilizzato come base esclusiva o prevalente nella formazione del convincimento del giudice»[67]; ragione per la quale una tale attività, in mancanza di ulteriori e diverse garanzie, dovrebbe rimanere esclusa[68].
Ebbene, su tale soluzione non possiamo che convenire, essendo evidente, in questo caso, la funzione di “mediazione cognitiva” compiuta dal sistema di AI, capace di condizionare la valutazione del giudice. Abbiamo già chiarito, d’altronde, che la distinzione tra attività dell’AI “strumentali” e “valutative” – che comporterebbe l’ammissibilità solo delle prime perché senza diretta ricaduta sull’attività decisionale – rischia di essere semplicistica, considerato che non esiste un’attività cognitiva – seppur strumentale – che sia completamente neutrale, come proprio la ricerca giurisprudenziale dimostra. Forse, allora, per comprendere quali siano attività legittimamente affidabili a un sistema di AI, ci si dovrebbe porre un diverso quesito: ci si dovrebbe chiedere, infatti, se con quel determinato uso l’AI esercita una funzione cognitiva che il sistema attribuisce al giudice, per poi escludere questo uso in caso di risposta positiva.
Proviamo, dunque, a rispondere a questa domanda in relazione all’utilizzo del sistema di AI per la ricerca giurisprudenziale. Per farlo, partiamo da una premessa: quando il giudice opera su una classica banca dati di giurisprudenza sceglie dei valori di selezione (parole chiave o riferimenti normativi) e dei criteri di selezione (come gli operatori logici) che consentono di selezionare la giurisprudenza rilevante per il caso concreto. È il giudice, in questo caso, ad operare l’individuazione dei valori e criteri che determineranno il risultato della ricerca: la richiesta è veicolata dal giudice e il sistema non decide quali pronunce siano importanti, restituendole tutte[69].
Con l’utilizzo di un sistema di intelligenza artificiale, interrogato attraverso un prompt, invece, il giudice formula una richiesta più o meno aperta, ma riceve una selezione che è frutto dell’attività dell’algoritmo[70]. Se il sistema tralascia volontariamente un precedente di segno contrario perché non lo ritiene rilevante, il giudice può non avvedersene convincendosi che, magari, una diversa opzione interpretativa non abbia mai trovato l’avallo della giurisprudenza; al contrario, se il sistema enfatizza una certa linea interpretativa, accreditandola come esegesi unanime, aumenta la probabilità che il giudice la segua. In questo modo, però, il sistema non sta semplicemente eseguendo una ricerca, ma si sta sostituendo al giudice, perché sta interpretando; di fatto, anziché restituire un mero contributo conoscitivo ricercato dal giudice, finisce per costruire e somministrargli un percorso di conoscenza: ciò che integra, però, una forma di condizionamento.
Anche la ricerca giurisprudenziale, dunque, non è attività delegabile ad un sistema con capacità selettive autonome e indipendenti; senza considerare che l’enfatizzazione del suo uso comporterebbe pur sempre il rischio di un appiattimento complessivo delle decisioni[71]. E non solo, perché il rischio è quello che un diritto “calcolabile” e “calcolato” possa spesso offrire una decisione corretta ma non giusta[72].
11. Quali condizioni per l’inesorabile utilizzo dell’intelligenza artificiale nell’esercizio della giurisdizione?
Ma guardiamo il mondo da «uomini di mondo [che] sanno benissimo come vanno queste faccende»: il rischio di non poter arginare un fiume in piena è concreto, sicché diventa fondamentale, onde evitare devastazioni, canalizzare la portata dell’acqua; e allora, se proprio non si avrà la forza – come purtroppo prevediamo – di evitare che l’intelligenza artificiale travolga in qualche modo l’esercizio della giurisdizione, è necessario riconoscere delle garanzie che presidino il suo utilizzo. Il rapporto tra intelligenza artificiale e giustizia necessita di limes e limen: da un lato, è opportuna l’individuazione di aree che devono rimanere impenetrabili dalla tecnologia algoritmica perché affidate esclusivamente al giudice; d’altro lato, è fondamentale e lungimirante disciplinare l’uso dei nuovi sistemi, onde evitarne un’applicazione anarchica e sconsiderata.
Pertanto, traendo le somme dal discorso fatto in relazione all’esercizio della giurisdizione penale e pur messi in guardia dai pericoli e dalle false promesse, per ammettere un utilizzo dell’intelligenza artificiale nell’ambito della giustizia è necessario che sia assicurato, innanzitutto, un sistema istituzionale di supervisione e controllo – meglio se coordinato tra istituzioni – per non lasciare indietro alcun attore processuale[73] e garantire la parità delle armi. Il rischio, altrimenti, è che, ad esempio, sul fronte dell’avvocatura, vengano a crearsi sperequazioni tra gli studi legali che hanno grandi disponibilità economiche da investire in queste risorse e quelli che non le hanno; circostanza che potrebbe spingersi anche ad alterare il rapporto tra accusa e difesa, a vantaggio dell’una o dell’altra a seconda degli investimenti fatti a livello statale o privato. Una supervisione “di secondo livello”, come la si è definita[74], potrebbe, dunque, aiutare a superare questi problemi.
Nei limitati ambiti in cui verrà ritenuto ammissibile, poi, l’utilizzo dei sistemi in questione potrà eventualmente essere consentito nel rispetto di almeno tre condizioni fondamentali[75] che, però, a ben vedere, dovranno prima comportare una revisione complessiva del sistema processuale: un controllo effettivo e consapevole; la trasparenza del percorso compiuto dal sistema nella generazione dell’output; il pieno contraddittorio sul contributo offerto dal sistema: se deve esserci un amicus curiae è bene che il suo contributo sia conoscibile e valutabile[76].
In buona sostanza, non solo vi è la necessità di sapere se un sistema di AI è stato utilizzato, ma anche quale sistema è stato utilizzato[77], come lo è stato e quali risultati ha prodotto, così consentendo un’eventuale contestazione sugli esiti[78], non trattandosi di volontà giudiziale – contestabile con gli ordinari strumenti di impugnativa – ma di un contributo esterno sul quale le parti hanno diritto di dire la loro.
A fronte di queste condizioni occorre, però, franchezza nella considerazione di tutti gli elementi che contribuiscono a definire il quadro.
Innanzitutto, garantire un controllo umano significativo equivale non solo ad ammettere che l’opzione proposta dal sistema possa essere rifiutata: significa assicurare concretamente la possibilità di questo rifiuto, cioè assicurare la comprensione del perché una determinata opzione sia stata formulata dal sistema e quali alternative, invece, il sistema abbia scartato, offrendo un quadro trasparente delle ragioni che hanno determinato la selezione.
Allo stesso modo, però, perché un controllo umano significativo possa essere effettivamente assicurato, l’incaricato – nel caso di specie il giudice, ma il discorso è estensibile a tutti gli attori processuali – deve essere formato: la formazione degli operatori chiamati ad utilizzare la nuova tecnologia è, infatti, imprescindibile[79] e dovrebbe offrire, innanzitutto, la consapevolezza dei limiti – intrinseci – di un sistema che offre plausibilità linguistica, non affidabilità epistemica[80].
Infine, dato da non trascurare minimamente, il giudice deve poter disporre del tempo per poter svolgere tale controllo: e qui sta il vero problema.
Dobbiamo considerare, infatti, che l’implementazione di questi sistemi avviene nell’ottica di ottenere maggiore produttività ed efficienza: ciò che, inevitabilmente, induce a valorizzare l’aspetto della quantità anziché quello della qualità. Non è affatto ragionevole ritenere, d’altronde, che l’avvento dell’AI avrà l’effetto di consentire al giudice di disporre di più tempo da dedicare all’attività decisionale nel singolo caso (benché, talvolta, si sia così affermato[81]): nell’ipotesi in cui i sistemi venissero utilizzati come mediatori cognitivi per semplificare l’attività umana, da quest’ultima, plausibilmente, ci si aspetterebbe una resa maggiore in ottica quantitativa. L’effetto, dunque, sarebbe solo quello di un aumento della quantità, non necessariamente della qualità delle decisioni; e, comunque, il prodotto finito, in questo caso, non sarebbe, più, frutto di un processo cognitivo autonomo del giudice[82], con tutte le problematiche evidenziate supra.
Una verifica dell’operato del sistema, inoltre, per essere effettiva, imporrebbe una revisione completa del processo, perché il giudice non è chiamato a fare una “verifica di qualità del prodotto” ma deve rimanere l’unico “produttore”; obiettivamente, però, non è verosimile pensare che possa esservi una qualche utilità ad ottimizzare i tempi facendo effettuare sintesi e selezioni ad un sistema di intelligenza artificiale per poi utilizzare il tempo risparmiato procedendo a verificare se tali sintesi e selezioni siano effettivamente corrispondenti al materiale analizzato (oltre che condivise)[83]. E questo non può che allarmare…
Certo, potrebbe obiettarsi che, ad esempio, l’introduzione della figura dell’Ufficio per il Processo (U.P.P.) abbia già, di fatto, determinato una sorta di “esternalizzazione” di parte dell’attività giurisdizionale (o del processo cognitivo in cui si articola): se l’addetto all’U.P.P. può redigere la minuta di una motivazione perché non dovrebbe poterlo fare un sistema di intelligenza artificiale?[84] In realtà, a nostro modo di vedere, una tale argomentazione sarebbe fallace, dovendo la prospettiva essere invertita, considerato che anche la redazione della minuta da parte di un soggetto diverso dal giudice rappresenta un tradimento di quell’obbligo di motivazione discendente dalla Costituzione: come abbiamo già detto, infatti, la decisione e l’esplicazione delle ragioni che a questa hanno condotto richiedono responsabilità personale, nel senso che devono essere riconducibili al giudice quale unico titolare della funzione; ciò che il controllo e la sottoscrizione formale non assicurano.
Pertanto, se in un’occasione questa è stata la soluzione adottata dal legislatore, ciò non significa che tale scelta sia quella corretta. Anzi: la genesi della figura dell’U.P.P., nata – all’ombra del P.N.R.R. – allo scopo di consentire uno smaltimento dell’arretrato e assicurare tempi più celeri nella celebrazione dei procedimenti, dimostra che l’obiettivo del suo inserimento non era certamente assicurare la qualità, ma la quantità.
E allora, il rischio, con l’avvento dell’intelligenza artificiale, è ancora una volta il medesimo: quello che il focus non sia più il decidere, ma l’aver deciso; che non contino più le decisioni in sé, ma quante decisioni sono state prese.
12. Conclusioni.
Come abbiamo osservato in premessa, la forza rivoluzionaria dei sistemi di intelligenza artificiale fa sì che il tema oggetto di approfondimento valichi, quasi con naturalezza, gli ordinari confini delle dissertazioni processuali. Senza considerare che, nel tentativo di ricondurre l’analisi allo specifico profilo della possibilità di utilizzo di questi sistemi nel campo della giustizia – e più specificamente nell’esercizio della giurisdizione – è stato fisiologico ampliare lo sguardo al sistema: è ciò che capita, d’altronde, quando è necessario confrontarsi con strumenti nuovi che, in cerca di una nuova collocazione, impongono di rilevare le coordinate per comprendere se vi sia un posto per essi e dove tale posto si trovi[85].
Il progresso – come si dice – non si può fermare e noi non auspichiamo, certo, che si fermi[86]. Ma l’opportunità di introdurre l’intelligenza artificiale in un settore, come quello della giustizia, che è creato dall’uomo per l’esigenza di riportare l’ordine laddove l’uomo ha creato scompiglio, non solo richiede garanzie ma merita ponderazione e attenta riflessione; e ciò, soprattutto, se i sistemi in questione accedono alla giustizia non per garantire decisioni “migliori” ma per consentire il raggiungimento di performance che, in realtà, richiederebbero risorse umane maggiori o un minor numero di procedimenti da trattare.
Non siamo, d’altronde, al cospetto di un’attività pericolosa né di un’attività (propriamente intesa come) usurante; siamo di fronte ad un’attività delicatissima nella quale ad un uomo, per una convenzione sociale, viene attribuito il potere di decidere sulla vita e sui diritti di un altro uomo. E non è assolutamente accettabile che un’attività di questo tipo venga delegata, neppure in minima parte, ad un sistema di intelligenza artificiale; la giustizia umana sarà sempre, per definizione, una giustizia parziale e imperfetta, ma questa caratteristica – che ne rappresenta un difetto – la rende pur sempre accettabile dall’uomo perché empatica[87], in quanto promana dall’uomo[88]: perché la rende umana[89].
Come abbiamo cercato di evidenziare, dunque, il rischio dell’utilizzo dell’AI nel settore della giustizia è proprio quello di una progressiva erosione dell’attività giurisdizionale umana, che forse solo l’insostenibilità economica dei sistemi in questione – che allo stato rimane ancora un aspetto incerto ma nella quale iniziamo a sperare – potrà fermare.
È allora il caso, a nostro modo di vedere, di iniziare a pensare, in parallelo al concetto di indipendenza istituzionale del giudice (o, più in generale, del magistrato), ad una categoria della “libertà cognitiva” o della “autonomia cognitiva” del giudice[90], distinta ma complementare rispetto all’indipendenza, che valga a respingere ogni pressione volta a rendere il processo cognitivo meno “personale” di quanto, in realtà, deve essere.
La figura del “decisore aumentato”[91], che la dottrina ha prospettato come il modello al quale stiamo andando incontro, ci spaventa non poco: «una figura giudiziaria che non viene sostituita dalla macchina, né si limita a validarne acriticamente gli output, ma ne integra le capacità analitiche all’interno di un processo deliberativo profondamente umano»[92], sarà, forse, inesorabile ma non sappiamo se sia auspicabile. Senza considerare che, a nostro modo di vedere, un tale modello di giudice è da ritenersi difficilmente raggiungibile: come abbiamo chiarito, infatti, i sistemi in questione sono abdicativi e inserendosi nel percorso cognitivo sottraggono di fatto al giudice la libertà di procedere in quest’ultimo; ma il processo deliberativo – come abbiamo insistentemente affermato – non deve essere «profondamente» umano: deve essere esclusivamente «umano»[93].
Se, poi, davvero «questa prospettiva richiede un ripensamento del ruolo del giudice non come alternativa all’IA, bensì come suo interlocutore critico e responsabile»[94], va anche ribadito che il processo non è affare solo del giudice: all’interlocuzione, insomma, dovrebbero partecipare anche le parti, con la conseguente necessità che sia garantito il contraddittorio.
Non va dimenticato, infatti, che l’esercizio della giurisdizione incide sulle persone e il processo penale ne tocca la carne viva, ragion per cui l’accertamento processuale non può rischiare di essere influenzato da ciò che di carne non è fatto, da ciò che non ha anima.
Per giudicare serve umanità, «more than machinery, we need humanity»[95]: è di questo che abbiamo davvero bisogno, così come diceva Chaplin quando l’umanità abbiamo rischiato davvero di perderla. Anzi: parafrasando Calamandrei potremmo addirittura affermare che per l’esercizio della giurisdizione non sappiamo che farci dei sistemi di intelligenza artificiale «“êtres inanimés” fatti di pura logica. Vogliamo i giudici coll’anima: giudici engagés, che sappiano portare con vigile impegno umano il grande peso di questa immane responsabilità che è il render giustizia»[96].
[1] D’ora in avanti, anche in citazione, sono utilizzati indifferentemente gli acronimi AI o IA, inglese o italiano, considerata la diffusione di entrambi.
[2] Per una ricostruzione storica degli utilizzi nel tempo cfr. E. Longo, Intelligenza artificiale generativa e giustizia: profili costituzionali tra efficienza e tutela dei diritti fondamentali, in Quest. Giust., 2026, n. 3, p. 7 e ss.; M. T. Morcella, La duplice veste dell’intelligenza artificiale nel processo penale. Da strumento di prova a oggetto di prova, Pacini Giuridica, 2026, p. 28 e ss.
[3] Il riferimento è all’inserimento di Copilot, il sistema di intelligenza artificiale di Microsoft, tra i software a disposizione del magistrato. Con una propria nota, reperibile all’indirizzo https://pst.giustizia.it/PST/resources/cms/documents/ Nota_informativa_sperimentazione_Copilot_signed.pdf, il Ministero della Giustizia ha precisato che l’introduzione di Copilot negli uffici giudiziari non configura, allo stato, un’adozione generalizzata, ma una fase di sperimentazione su base volontaria, alla quale è possibile non partecipare (con sistema opt-out). Il ministero chiarisce, infatti, che «l’iniziativa, senza alcuna incidenza sugli aspetti decisori dell’esercizio della funzione giurisdizionale, che resta integralmente rimessa alla responsabilità e all’autonomia del singolo magistrato, si colloca nell’ambito del supporto all’attività del magistrato. La sperimentazione ha una finalità conoscitiva e pratica: consentire a chi lo desideri di comprendere direttamente il funzionamento degli strumenti di intelligenza artificiale generativa, valutarne limiti e potenzialità, ed esercitare una scelta consapevole e informata. Ciò in quanto la conoscenza della tecnologia in esame non è rinviabile alla luce del dato oggettivo del costante incremento del suo utilizzo da parte di tutti gli altri operatori del processo, normali interlocutori del magistrato. L’utilizzo delle funzionalità aggiuntive frutto della estensione della licenza non è obbligatorio e in ogni caso sarà accompagnato da sessioni didattiche per favorire un uso consapevole in totale sicurezza per attività meramente strumentali».
[4] Come ha riportato subito la stampa specialistica, l’associazione Area Democratica per la Giustizia ha diffuso prontamente una nota, nella quale, pur non contestando le potenzialità dell’intelligenza artificiale come strumento di supporto al lavoro giudiziario, contestava l’introduzione di Copilot «senza un quadro chiaro di garanzie, regole e prospettive», sottolineando la particolare delicatezza dell’ambito giudiziario, a causa della natura sensibile dei dati e del coinvolgimento di diritti fondamentali e di prerogative costituzionali. Secondo AreaDG, di fatto, mancherebbe una governance condivisa tra Consiglio Superiore della Magistratura e Ministero risultando, altresì, necessaria una formazione degli operatori su vantaggi e rischi. Sul punto cfr. www.ildubbio.news/news/giustizia/48532/ia-giustizia-copilot-areadg-critiche.html.
[5] Il Consiglio Superiore della Magistratura, infatti, con la delibera del 22 luglio 2026, che integra la precedente dell’8 ottobre 2025, ha aggiornato le proprie raccomandazioni sull’impiego dell’intelligenza artificiale negli uffici giudiziari, fornendo, per la prima volta, delle coordinate specifiche ai fini dell’utilizzo di Microsoft 365 Copilot da parte dei magistrati.
[6] Così W. Quattrociocchi, LLM e ragionamento giuridico. Perché la fluidità non è giudizio, in Quest. Giust., 2026, n. 3, p. 372, il quale evidenzia che, proprio per queste ragioni, «la coerenza dell’output non è una garanzia di correttezza, ma un effetto strutturale del modello». C. Valentini, L’IA e la ‘scoperta’ dei bias cognitivi nel processo penale, in Aa. Vv., Giudizio penale e intelligenza artificiale. Una riflessione sistemica, a cura di A. Incampo e N. Triggiani, Cacucci, 2026, p. 345, rievoca il concetto di «pappagallo stocastico», proposto da E. M. Bender – T. Gebru – A. McMillan-Major – S. Shmitchell, On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?, in FAccT ‘21: 2021 ACM Conference on Fairness, Accountability, and Transparency, ACM, 2021, p. 610 e ss.
[7] Il progresso, infatti, non è ancora giunto ad offrire sistemi di AI che, in luogo di black box, si presentino come sistemi che potremmo definire, al contrario, delle crystal box, trasparenti quanto al loro contenuto in termini di dati appresi e processi di elaborazione: ciò, ovviamente, ammessa la compatibilità di una tale modalità di funzionamento con le esigenze di sviluppo industriale dei sistemi in questione. Sul concetto di black box e sulle problematiche derivanti cfr. F. Pasquale, The Black Box Society. The Secret Algorithms that Control Money and Information, Harvard University Press, 2015, passim; A.G. Ferguson, Illuminating Black Data Policing, in Ohio St. Journal of Crim. Law, 2018, p. 503. Nella dottrina italiana, sul tema delle XAI (explainable artificial intelligence) tecniques, ovvero delle tecniche volte a «rendere intellegibile ogni tipo di decisione algoritmica», cfr. M. T. Morcella, La duplice veste dell’intelligenza artificiale nel processo penale. Da strumento di prova a oggetto di prova, Pacini Giuridica, 2026, p. 25 e ss., con rimandi alla letteratura straniera sul tema. Sul problema della black box e sull’erosione dei rights of defend ad opera della tecnologia cfr. anche L. Lupária Donati, Giustizia tecnologica vs. tecnologia giudiziaria. Il processo penale al crocevia, in Aa. Vv., Giudizio penale e intelligenza artificiale. Una riflessione sistemica, a cura di A. Incampo – N. Triggiani, Cacucci, 2026, p. 175.
[8] Molto correttamente G. Ubertis, Intelligenza artificiale, giustizia penale, controllo umano significativo, in www.sistemapenale.it, 11 novembre 2020, p. 4, ha evidenziato che «la meraviglia per l’efficienza computazionale intimidisce l’osservatore, con il rischio di incorrere nella comunemente denominata «fallacia dell’automazione», ovvero quella che L. P. Comoglio, Prefazione, in J. Nieva-Fenoll, Intelligenza artificiale e processo, 2018, Giappichelli, 2019, p. X-XI, definisce come la «fiducia che gli esseri umani tendono a riporre, in modo inconscio e irrazionale, nelle tecnologie, ritenute oggettive e meritevoli di fiducia per il solo fatto di […] essere tecnologie».
[9] Il problema del c.d. deskilling è, d’altronde, il fenomeno con il quale la nostra società è costretta da tempo a combattere a causa della delegazione tecnologica; un problema che l’avvento dei sistemi LLM rischia di accentuare.
[10] Il testo dell’enciclica è rinvenibile sul sito del Vaticano, www.vatican.va. Per un commento dell’enciclica con le lenti del giurista cfr. G. Civello, Magnifica humanitas: ma “perché” bisogna custodire l’uomo e la Casa comune?, in www.sistemapenale.it, 26 giugno 2026.
[11] Il tema è oggetto della Carta etica europea sull’utilizzo dell’intelligenza artificiale nei sistemi giudiziari e negli ambiti connessi, adottata dalla CEPEJ nel corso della sua trentunesima riunione plenaria tenutasi a Strasburgo il 3 e 4 dicembre 2018, che, per prima, ha individuato cinque principi etici da rispettare nell’impiego dell’AI onde garantire l’autonomia del giudice e migliorare l’efficienza della giustizia: il rispetto dei diritti fondamentali; il principio di non-discriminazione; il principio di qualità e sicurezza; il principio di trasparenza; il principio “del controllo da parte dell’utilizzatore”. Alla Carta etica nel più recente periodo si è aggiunto l’Handbook on Human Rights and Artificial Intelligence, adottato dal Consiglio d’Europa il 14 aprile 2026, in https://rm.coe.int/artificial-intelligence-handbook/48802b5bf2. Come rilevato da B. Galgani, Il legislatore italiano dinanzi all’IA nel c.d. “dominio Giustizia”, in Quest. Giust., 2026, n. 3, p. 68, vista la «necessità che le autorità nazionali si “attrezzino” per mantenere l’utilizzo dell’IA saldamente all’interno del perimetro dello Stato di diritto e dei principi fondamentali da esso espressi […] si è stilata una sorta di vera e propria “guida pratica”, di “prontuario” in cui le garanzie del “giusto processo” vengono rilette attraverso la lente di una realtà processuale “tecnologicamente aumentata” molto lontana da quella degli anni cinquanta». Sull’importanza della Carta e delle sue funzioni cfr. A. Radu, Best practices per promuovere l’uso delle applicazioni di intelligenza artificiale nel settore della giustizia, in Quest. Giust., 2026, n. 3, p. 93 e ss.
[12] Si tratta del c.d. Regolamento sull’intelligenza artificiale, ovvero il Regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio del 13 giugno 2024, che stabilisce regole armonizzate sull’intelligenza artificiale e modifica i regolamenti (CE) n, 300/2008, (UE) n, 167/2013, (UE) n, 168/2013, (UE) 2018/858, (UE) 2018/1139 e (UE) 2019/2144 e le direttive 2014/90/UE, (UE) 2016/797 e (UE) 2020/1828. L’AI Act, essendo un regolamento europeo, è direttamente applicabile negli Stati membri ai sensi dell’art. 288 TFUE e non necessita di una legge nazionale di recepimento per produrre effetti giuridici. Pur essendo entrato in vigore in data 1° agosto 2024, l’AI Act prevede una sua applicazione graduale e progressiva, articolata in più tappe, che, come si vedrà, postula comunque, nei singoli Paesi membri, l’adozione di misure nazionali di attuazione e adeguamento. Il Regolamento UE 2026/1744 (Digital Omnibus sull’IA), è entrato in vigore il 27 luglio 2026 e ha modificato l’AI Act peraltro rinviando diverse scadenze chiave: tra queste quella relativa ai sistemi di AI ad alto rischio, di cui all’articolo 6, paragrafo 2 e all’Allegato III, è stata rinviata al 2 dicembre 2027. Per un inquadramento della cornice normativa comunitaria, cfr. M. T. Morcella, La duplice veste dell’intelligenza artificiale nel processo penale. Da strumento di prova a oggetto di prova, Pacini Giuridica, 2026, p. 55 e ss.; F. P. Micozzi, Il regolamento europeo sull’intelligenza artificiale e le esclusioni previste con particolare riguardo al settore giustizia, in Aa. Vv., Intelligenza artificiale e indagini penali, a cura di C. Parodi – T. Rizzo, La Tribuna, 2025, p. 59 e ss.
[13] Sul tema cfr. T. Chengeta, Defining the Emerging Notion of ‘Meaningful Human Control’, in NYU Journal of International Law and Politics, in www.nyujilp.org; N. Sharkey, Towards a principle for the human supervisory control of robot weapons, in Politica & Società, 2014, n. 2, p. 305 e ss.
[14] In argomento cfr. G. Tamburrini, Etica delle macchine. Dilemmi morali per robotica e intelligenza artificiale, Carocci, 2020, p. 105.
[15] In dottrina, G. Ubertis, Intelligenza artificiale, giustizia penale, controllo umano significativo, in Sist. pen., 2020, p. 14, ha, infatti, suggerito da tempo di riprendere, adattandola al contesto giudiziario, tale nozione, così da esigere che «la decisione sia resa senza servirsi “unicamente” dei risultati meramente probabilistici ottenuti».
[16] Si tratta, in realtà, di formule ambigue, dal significato mutevole e talvolta solo “nominali”: sul tema cfr. G. di Chiara – B. C. Alongi, Decisioni assistite. tessitura della motivazione e garanzie costituzionali nella generative AI ERA, in www.lalegislazionepenale.eu, 25 marzo 2026, i quali, citando le Linee guida sul processo decisionale automatizzato relativo alle persone fisiche e sulla profilazione ai fini del regolamento 2016/679, adottate, nella formulazione definitiva, il 6.2.2018, in www.ec.europa.eu, osservano come «l’affermazione secondo cui “se un essere umano riesamina il risultato del processo automatizzato e tiene conto di altri fattori nel prendere la decisione finale, tale decisione non sarà “basata unicamente” sul trattamento automatizzato” rischia di ripiegarsi in un pericoloso nominalismo».
[17] Il contesto tracciato dall’AI Act europeo nell’ottica di garantire l’indipendenza del giudice dall’utilizzo dei sistemi di intelligenza artificiale trova conferma nell’approvazione, con decisione 2026/1080/UE del Consiglio UE, della Convenzione quadro del Consiglio d’Europa sull’intelligenza artificiale e i diritti umani, la democrazia e lo Stato di diritto, adottata il 17 maggio 2024. L’art. 5 della Convenzione, relativo alla “integrità dei processi democratici e rispetto dello Stato di diritto”, stabilisce, infatti, che «ciascuna parte adotta o mantiene in vigore misure volte a garantire che i sistemi di intelligenza artificiale non siano utilizzati per compromettere l’integrità, l’indipendenza e l’efficacia delle istituzioni e dei processi democratici, compresi il principio della separazione dei poteri, il rispetto dell’indipendenza della magistratura e l’accesso alla giustizia». Per una disamina del rapporto tra uso dell’intelligenza artificiale e indipendenza della magistratura cfr. G. Gioia, Intelligenza artificiale e indipendenza della magistratura: un equilibrio tra trasparenza e controllo, in Rivista di diritto processuale, 2025, p. 1338 e ss.
[18] Il Considerandum n. 61, dedicato ai sistemi in questione, così afferma: «Alcuni sistemi di IA destinati all’amministrazione della giustizia e ai processi democratici dovrebbero essere classificati come sistemi ad alto rischio, in considerazione del loro impatto potenzialmente significativo sulla democrazia, sullo Stato di diritto, sulle libertà individuali e sul diritto a un ricorso effettivo e a un giudice imparziale. È in particolare opportuno, al fine di far fronte ai rischi di potenziali distorsioni, errori e opacità, classificare come ad alto rischio i sistemi di IA destinati a essere utilizzati da un’autorità giudiziaria o per suo conto per assistere le autorità giudiziarie nelle attività di ricerca e interpretazione dei fatti e del diritto e nell’applicazione della legge a una serie concreta di fatti. Anche i sistemi di IA destinati a essere utilizzati dagli organismi di risoluzione alternativa delle controversie a tali fini dovrebbero essere considerati ad alto rischio quando gli esiti dei procedimenti di risoluzione alternativa delle controversie producono effetti giuridici per le parti. L’utilizzo di strumenti di IA può fornire sostegno al potere decisionale dei giudici o all’indipendenza del potere giudiziario, ma non dovrebbe sostituirlo: il processo decisionale finale deve rimanere un’attività a guida umana. Non è tuttavia opportuno estendere la classificazione dei sistemi di IA come ad alto rischio ai sistemi di IA destinati ad attività amministrative puramente accessorie, che non incidono sull’effettiva amministrazione della giustizia nei singoli casi, quali l’anonimizzazione o la pseudonimizzazione di decisioni, documenti o dati giudiziari, la comunicazione tra il personale, i compiti amministrativi».
[19] Sul tema dell’HITL, Human in the loop, è interessante la lettura di P. Benanti, Human in the loop. Decisioni umane e intelligenze artificiali, Mondadori Università, 2022, passim. In ambito internazionale, tra più fonti disponibili, cfr. R. Crootof – M. E. Kaminski – W. Nicholson Price II, Humans in the Loop, 76 Vanderbilt Law Review, p. 429 (2023); E. Mosqueira-Rey – E. Hernández-Pereira – D. Alonso-Ríos et al., Human-in-the-loop machine learning: a state of the art, 56Artif. Intell. Rev., 2023, p. 3005 e ss.
[20] In argomento, cfr. G. Canzio, AI Act e processo penale: sfide e opportunità, in Aa. Vv., Giudizio penale e intelligenza artificiale. Una riflessione sistemica, a cura di A. Incampo – N. Triggiani, Cacucci, 2026, p. 144 e ss., anche in relazione alla classificazione come sistemi ad “alto rischio” di quelli destinati all’amministrazione della giustizia.
[21] Stando all’art. 3, comma 1, della citata legge, «la ricerca, la sperimentazione, lo sviluppo, l’adozione, l’applicazione e l’utilizzo di sistemi e di modelli di intelligenza artificiale per finalità generali avvengono nel rispetto dei diritti fondamentali e delle libertà previste dalla Costituzione e dei principi di trasparenza, proporzionalità, sicurezza, protezione dei dati personali, riservatezza, accuratezza, non discriminazione, parità dei sessi e sostenibilità»; si tratta, come evidente, di una norma dal contenuto programmatico che delinea nettamente la condizione di operatività dei sistemi e modelli in questione, cioè quella del rispetto dei diritti dell’Uomo. Per completezza, è opportuno rilevare che l’art. 3, comma 2, l. n. 132 del 2025 stabilisce, altresì, che «lo sviluppo di sistemi e di modelli di intelligenza artificiale per finalità generali avviene su dati e tramite processi di cui devono essere garantite e vigilate la correttezza, l’attendibilità, la sicurezza, la qualità, l’appropriatezza e la trasparenza, secondo il principio di proporzionalità in relazione ai settori nei quali sono utilizzati»; e che l’art. 3, comma 3, detta il principio secondo cui «i sistemi e i modelli di intelligenza artificiale per finalità generali devono essere sviluppati e applicati nel rispetto dell’autonomia e del potere decisionale dell’uomo, della prevenzione del danno, della conoscibilità, della trasparenza, della spiegabilità e dei principi di cui al comma 1, assicurando la sorveglianza e l’intervento umano», che condiziona sviluppo e utilizzo di tali sistemi al rispetto di regole e principi dettati apertamente a tutela dell’uomo.
[22] Va detto che l’intento di garantire autonomia umana nell’adozione delle decisioni con corrispondente responsabilità è ribadito nella normativa interna anche in relazione all’utilizzo dell’intelligenza artificiale nella pubblica amministrazione: l’art. 14, comma 2, della legge, infatti, afferma che «l’utilizzo dell’intelligenza artificiale avviene in funzione strumentale e di supporto all’attività provvedimentale, nel rispetto dell’autonomia e del potere decisionale della persona che resta l’unica responsabile dei provvedimenti e dei procedimenti in cui sia stata utilizzata l’intelligenza artificiale». La funzione attribuita ai sistemi di intelligenza artificiale anche in questo caso è, dunque, ancillare, considerato che la responsabilità dei provvedimenti rimane in capo alla persona, nonostante alla loro adozione possa aver concorso il sistema algoritmico; il controllo è affidato all’essere umano al quale compete la decisione finale sull’adozione del provvedimento, secondo un’impostazione che risulta sovrapponibile a quella ricavata dall’AI Act.
[23] I successivi commi della disposizione regolamentano l’utilizzo a supporto di attività amministrative e attribuiscono al Ministro della giustizia il compito di disciplinare la materia e disporre le necessarie attività formative: «2. Il Ministero della giustizia disciplina gli impieghi dei sistemi di intelligenza artificiale per l’organizzazione dei servizi relativi alla giustizia, per la semplificazione del lavoro giudiziario e per le attività amministrative accessorie. 3. Fino alla compiuta attuazione del regolamento (UE) 2024/1689, la sperimentazione e l’impiego dei sistemi di intelligenza artificiale negli uffici giudiziari ordinari sono autorizzati dal Ministero della giustizia, sentite le Autorità nazionali di cui all’articolo 20. 4. Il Ministro della giustizia, nell’elaborazione delle linee programmatiche sulla formazione dei magistrati di cui all’articolo 12, comma 1, lettera a), del decreto legislativo 30 gennaio 2006, n. 26, promuove attività didattiche sul tema dell’intelligenza artificiale e sugli impieghi dei sistemi di intelligenza artificiale nell’attività giudiziaria, finalizzate alla formazione digitale di base e avanzata, all’acquisizione e alla condivisione di competenze digitali, nonché’ alla sensibilizzazione sui benefici e rischi, anche nel quadro regolatorio di cui ai commi 2 e 3 del presente articolo. Per le medesime finalità di cui al primo periodo, il Ministro cura altresì la formazione del personale amministrativo».
[24] In dottrina E. Longo, Intelligenza artificiale generativa e giustizia: profili costituzionali tra efficienza e tutela dei diritti fondamentali, in Quest. Giust., 2026, n. 3, p. 30, riconosce che «l’AI Act delinea uno spettro applicativo potenzialmente ampio per i sistemi di IA in ambito giudiziario, che comprende attività di ricerca e di interpretazione dei fatti e del diritto, fino alla loro applicazione al caso concreto. Tuttavia, tanto il considerando introduttivo quanto il punto 8 dell’Allegato III utilizzano il verbo “assistere”, segnalando con chiarezza che la funzione dell’IA è meramente strumentale e servente: lo strumento algoritmico non può sostituire il giudice, né diventare esso stesso titolare della funzione giurisdizionale». Per una panoramica, ancor prima dell’avvento dell’AI Act, sui possibili contesti di utilizzo dell’AI, cfr. L. Pressacco, Intelligenza artificiale e ragionamento probatorio nel processo penale, in Aa. Vv., Intelligenza artificiale e processo penale. Indagini, prove, giudizio, a cura di Gabriella di Paolo e L. Pressacco, Editoriale Scientifica, 2022, p. 112.
[25] Sebbene l’art. 1, par. 1, dell’AI Act esordisca affermando che lo scopo del regolamento, oltre a quello di «migliorare il funzionamento del mercato interno e promuovere la diffusione di un’intelligenza artificiale (IA) antropocentrica e affidabile», è anche quello di garantire «nel contempo un livello elevato di protezione della salute, della sicurezza e dei diritti fondamentali sanciti dalla Carta dei diritti fondamentali dell’Unione europea, compresi la democrazia, lo Stato di diritto e la protezione dell’ambiente, contro gli effetti nocivi dei sistemi di IA nell’Unione, e promuovendo l’innovazione», come ha rilevato da subito, in termini condivisibili, S. Quattrocolo, Intelligenza artificiale e processo penale: le novità dell’AI act, in www.dirittodidifesa.eu, 16 gennaio 2025, si tratta, comunque, di uno strumento «che si rivolge al mercato e non ai soggetti istituzionali, prima istanza di presidio delle garanzie fondamentali». Infatti, traendo la propria base normativa dagli «artt. 26 e 114 TFUE, relativi all’instaurazione del mercato unico e alle misure di armonizzazione (anche) per il suo funzionamento», il Regolamento si presenta come «un nuovo e sofisticato sistema di compliance produttiva e commerciale, cui produttori, providers e deployers, importatori e distributori devono conformarsi per poter commercializzare e sfruttare l’applicazione digitale che incorpora IA, all’interno del mercato unico europeo».
[26] Le parole sono tratte da Corte cost. 22 ottobre 2014, n. 238, che, nell’affermare la c.d. teoria dei controlimiti, aveva ritenuto il potere della stessa Corte di operare, rispetto alla norma di diritto sovranazionale, «una verifica di compatibilità costituzionale, nel caso concreto, che garantisca l’intangibilità di principi fondamentali dell’ordinamento interno ovvero ne riduca al minimo il sacrificio».
[27] La Relazione al disegno di legge così chiarisce: «l’attività giudiziaria è, in generale, settore strategico assai delicato. Se da un lato è innegabile l’enorme potenziale dell’IA in termini di riduzione del carico [di] lavoro degli uffici giudiziari e di velocità dei tempi della giustizia, d’altro canto enormi sono i rischi, a partire da quello di affidarsi ad una tecnologia priva di una coscienza critica, che è l’essenza del pensiero umano e, quindi, dell’argomentazione giuridica posta alla base della decisione che, per sua funzione, riguarda beni giuridici costituzionalmente rilevanti».Il testo della Relazione è disponibile al seguente indirizzo: www.senato.it/service/PDF/PDFServer/BGT/01418921.pdf.
[28] Dalla stessa relazione emerge quella che potrebbe definirsi la centralità del valore umano: si legge, infatti, che «l’importanza dei temi connessi all’attività giudiziaria spiega perché, con il presente disegno di legge[,] si è data centralità al valore umano stabilendo, all’articolo 14 (Uso dell’intelligenza artificiale nell’attività giudiziaria), che nell’amministrazione della giustizia l’utilizzo dell’IA è consentito esclusivamente per finalità strumentali e di supporto, ovvero per l’organizzazione e la semplificazione del lavoro giudiziario nonché per la ricerca giurisprudenziale e dottrinale».
[29] Anche la Relazione tecnica è disponibile all’indirizzo www.senato.it/service/PDF/PDFServer/BGT/ 01418921.pdf.
[30] Tale disposizione, infatti, già rubricata “uso dell’intelligenza artificiale nell’attività giudiziaria”, così stabiliva: «1. I sistemi di intelligenza artificiale sono utilizzati esclusivamente per l’organizzazione e la semplificazione del lavoro giudiziario, nonché per la ricerca giurisprudenziale e dottrinale. Il Ministero della giustizia disciplina l’impiego dei sistemi di intelligenza artificiale da parte degli uffici giudiziari ordinari. Per le altre giurisdizioni l’impiego è disciplinato in conformità ai rispettivi ordinamenti. 2. È sempre riservata al magistrato la decisione sulla interpretazione della legge, sulla valutazione dei fatti e delle prove e sulla adozione di ogni provvedimento».
[31] Osserva, in questo senso, B. Galgani, Il legislatore italiano dinanzi all’IA nel c.d. “dominio Giustizia”, in Quest. Giust., 2026, n. 3, p. 70, che «nella proposta iniziale l’uso dell’IA era previsto “esclusivamente” per l’organizzazione e la semplificazione del lavoro giudiziario, nonché per la ricerca giurisprudenziale e dottrinale, riservandosi al magistrato l’interpretazione della legge, la valutazione dei fatti e delle prove e l’adozione dei provvedimenti. Una formulazione letterale siffatta, pur in apparenza più schiettamente garante della tanto declamata “riserva di umanità”, rischiava di veicolare un messaggio ambiguo, oltre che incoerente con l’assetto unionale [che] lungi dall’escludere l’ingresso di sussidi tecnologici nel workflow giudiziario di natura più tipicamente cognitiva e valutativa, pretende semmai che struttura e impiego di simili “arnesi” siano conformi a criteri e standard qualitativi prefissati, in modo che l’autonomia deliberativa e la responsabilità del giudice abbiano a ritenersi impregiudicate. Diversamente opinando, non si sortirebbe altro effetto che la dissimulazione del ricorso ai sistemi di AI, di fatto sospingendo quest’ultimo nell’area grigia e opaca della pura ipocrisia». Secondo l’autrice, anche per queste ragioni sarebbe «meritevole di apprezzamento la versione definitiva dell’art. 15 che, già in apertura, sancisce la praticabilità dei sistemi AI nel contesto di un’azione giudiziaria ad ampio spettro intesa, a patto che – lo si ripete – resti in capo al magistrato l’accountability delle decisioni infine adottate “sull’interpretazione e sull’applicazione della legge, sulla valutazione dei fatti e delle prove e sull’adozione dei provvedimenti”». In senso analogo cfr. anche A. Gustapane e M. Pappacogli, L’uso dell’intelligenza artificiale nelle indagini del pubblico ministero tra regolazione europea e normativa italiana, in Giust. pen., 2026, n. 1- I, p. 26. In realtà, una tale lettura non ci persuade. L’argomento tratto dall’incipit del comma 1 non considera che tale previsione rappresenta una garanzia di chiusura, destinata a valere sempre senza, per questo fatto, legittimare qualunque ausilio preparatorio; sono, infatti, i commi 2 e 3 a definire il perimetro degli impieghi ammessi. Una soluzione restrittiva, d’altronde, non si pone certamente in contrasto con l’AI Act, che vale a disciplinare le condizioni di immissione nel mercato e di utilizzo dei sistemi ad alto rischio, senza imporre ai singoli Paesi membri di avvalersene; e ciò vieppiù se si considera che il considerandum n. 61 riserva all’attività dell’uomo il processo decisionale finale.
[32] Si tratta dell’ordine del giorno G14.300: cfr. il Resoconto stenografico della seduta n. 288 del 20 marzo 2025, in www.senato.it.
[33] È solo su questa figura, infatti, che intendiamo, per ora, soffermare l’attenzione. Va rilevato, però, che il riferimento, nella norma, alla figura del magistrato è idoneo a rendere la previsione applicabile anche all’attività propria del pubblico ministero, mentre il ruolo del difensore merita un discorso a parte.
[34] Ovviamente, discorso a parte merita l’aspetto relativo all’attività propria di polizia (anche giudiziaria, quindi) e all’attività di indagine; peraltro, rimanendo ambiti estranei all’esercizio della giurisdizione in senso proprio, di essi non ci occuperemo nella presente trattazione. Sul punto, però, è opportuno osservare che l’art. 24 legge 23 settembre 2025, n. 132, contiene una delega al Governo affinché venga introdotta una specifica disciplina relativa sia all’utilizzo dei sistemi di intelligenza artificiale nell’esercizio dell’attività di polizia (art. 24, comma 2, lett. h), sia all’utilizzo nella fase delle indagini preliminari (art. 24, comma 5, lett. e). Il Governo, infatti, è stato delegato ad adottare decreti legislativi recanti, con specifico riferimento al primo aspetto, la «previsione di un’apposita disciplina per l’utilizzo di sistemi di intelligenza artificiale per l’attività di polizia»; in relazione al secondo aspetto, invece, la potestà legislativa è stata delegata per la «regolazione dell’utilizzo dei sistemi di intelligenza artificiale nelle indagini preliminari, nel rispetto delle garanzie inerenti al diritto di difesa e ai dati personali dei terzi, nonché dei principi di proporzionalità, non discriminazione e trasparenza». Sulla genericità dei criteri direttivi e, comunque, sulla mancanza di indicazioni precise sulle indagini e sul giudizio penale cfr. G. Canzio, AI Act e processo penale: sfide e opportunità, in Aa. Vv., Giudizio penale e intelligenza artificiale. Una riflessione sistemica, a cura di A. Incampo – N. Triggiani, Cacucci, 2026, p. 155 e ss. Sull’impiego dell’intelligenza artificiale nelle indagini dopo la l. n. 132/2025, con riguardo ai sistemi di riconoscimento facciale, cfr. N. Triggiani, L’utilizzo investigativo e probatorio dei sistemi automatici di riconoscimento facciale dopo l’AI Act e la l. n. 132/2025: dubbi e perplessità, in Aa. Vv., Giudizio penale e intelligenza artificiale. Una riflessione sistemica, a cura di A. Incampo – N. Triggiani, Cacucci, 2026, p. 307 e ss. L’adozione del d.lgs. 9 settembre 2026, n. 160, “Adeguamento della normativa nazionale alle disposizioni del regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio, del 13 giugno 2024, che stabilisce “regole armonizzate sull’intelligenza artificiale, in materia di utilizzo dei sistemi di intelligenza artificiale per l’attività di polizia e di responsabilità civile e penale”, rappresenta, ad oggi, il primo frutto dell’attività legislativa delegata in materia. Per un commento a primissima lettura cfr. G. M. Riccio, D.Lgs. 160/2026: l’adeguamento all’AI Act tra attività di polizia e responsabilità civile, in www.altalex.com, 17 settembre 2026.
[35] Anche il pubblico ministero, infatti, in fase di indagini può trovarsi a dover interpretare la legge, valutare elementi probatori e adottare provvedimenti.
[36] In realtà, in passato la dottrina aveva anche ipotizzato un utilizzo ausiliario in questo ambito, potendo l’intelligenza artificiale aiutare «a valutare meglio il grado di attendibilità dei testi oculari, essendo in grado di fornire più precise indicazioni su condizioni atmosferiche, visibilità, distanza del teste dal luogo di svolgimento dei fatti, o stabilire con maggior precisione l’autenticità o la provenienza di un documento», ferma la possibilità di «essere di supporto al giudice nell’effettuare una ricostruzione più accurata dei fatti, impostando più correttamente il ragionamento probabilistico». Si è ritenuto, infatti, che questi sistemi possano aiutare ad «evitare alcuni frequenti errori cognitivi, come quello di non tenere adeguatamente conto del grado di conferma di un elemento probatorio considerato attendibile, occultando così le sorgenti di incertezza, con l’effetto di sopravvalutare o di sottovalutare il peso probatorio di determinati elementi»: così R. Kostoris, Intelligenza artificiale, strumenti predittivi e processo penale, in www.discrimen.it, 5 marzo 2024, pp. 18-19.
[37] Sull’uso in questione cfr. sempre R. Kostoris, Intelligenza artificiale, strumenti predittivi e processo penale, in www.discrimen.it, 5 marzo 2024, passim; R. Kostoris, Predizione decisoria, diversion processuale e archiviazione, in www.sistemapenale.it, 23 luglio 2021, passim; G. Barone, Giustizia Predittiva e Certezza del Diritto, Pacini Giuridica, 2024, passim; S. Signorato, Giustizia penale e intelligenza artificiale. Considerazioni in tema di algoritmo predittivo, in Rivista di diritto processuale, 2020, p. 605; M. Gialuz, Quando il processo penale incontra l’intelligenza artificiale: luci ed ombre dei risk assessment tools tra Stati Uniti ed Europa, in www.dirittopenalecontemporaneo.it, 29 maggio 2019; sulla incompatibilità dell’uso di un algoritmo predittivo con il fondamentale principio di eguaglianza cfr. P. P. Paulesu, Intelligenza artificiale e giustizia penale Una lettura attraverso i principi, in www.archiviopenale.it, 9 maggio 2022, p. 11; sul rischio della creazione di una tecnocrazia, V. Manes, L’oracolo algoritmico e la giustizia penale: al bivio tra tecnologia e tecnocrazia, in www.discrimen.it, 12 maggio 2020.
[38] Sul tema specifico dell’automation bias cfr. R. Parasuraman – V. Riley, Humans and Automation: Use, Misuse, Disuse, Abuse, in Human Factors, vol. 39, fasc. 2, 1997, p. 230 e ss., che descrivono il misuse come una fiducia eccessiva nell’automazione che comporta il mancato controllo dei suoi risultati; K. L. Mosier – L. J. Skitka – S. Heers – M. Burdick, Automation Bias: Decision Making and Performance in High-Tech Cockpits, in The International Journal of Aviation Psychology, vol. 8, fasc. 1, 1998, p. 47 e ss., la cui ricerca mostra che spesso l’utente segue le indicazioni del sistema automatizzato anche quando esse sono sbagliate o, addirittura, vengono contraddette da informazioni di segno differente comunque disponibili, distinguendo tra “errors of omission”, consistenti nel mancato rilevamento di un problema in quanto il sistema automatizzato non lo ha segnalato, ed “errors of commission”, che si sostanziano nel seguire supinamente l’indicazione fornita dal sistema anche quando questa è errata. Su queste ultime tipologie di errore cfr. anche gli esiti sperimentali esposti da L. J. Skitka – K. L. Mosier – M. Burdick, Does Automation Bias Decision-Making?, in International Journal of Human-Computer Studies, vol. 51, fasc. 5, 1999, p. 991 e ss. Più di recente cfr. anche S. Alon-Barkat – M. Busuioc, Human-AI Interactions in Public Sector Decision Making: “Automation Bias” and “Selective Adherence” to Algorithmic Advice, in Journal of Public Administration Research and Theory, vol. 33, fasc. 1, 2023, p. 153 e ss. che, nello studiare l’interazione dell’uomo con i sistemi algoritmici in ambito amministrativo, evidenziano sia il rischio di automation bias, che porta l’uomo a seguire le indicazioni che provengono dal sistema anche quando dispone di indicazioni di segno contrario, sia la c.d. selective adherence, che comporta un utilizzo selettivo di tali indicazioni, previa scelta di quelle che confermano la propria iniziale valutazione. Da ultimo, cfr. J. Laux – H. Ruschemeier, Automation Bias in the AI Act: On the Legal Implications of Attempting to De-Bias Human Oversight of AI, in European Journal of Risk Regulation, vol. 16, fasc. 4, p. 1519 e ss., che analizza il problema alla luce delle previsioni dell’AI Act europeo.
[39] Già da tempo, infatti, è possibile cogliere, nella stampa specializzata, segnali del passaggio da un sistema chiamato «search and click» a quello definito «ask and receive».
[40] Sul differente approccio cfr. E. Kirsten, J. Große Perdekamp, Q. Wu, M. Upadhyay, K. P. Gummadi, M. Bilal Zafar, Characterizing Web Search in The Age of Generative AI, in Findings of the Association for Computational Linguistics, ACL, 2026, pp. 10827–10848.
[41] Non è un caso, d’altronde, che il New York Times abbia attivato, sin dal 2023, un procedimento a carico di OpenAI e Microsoft per l’attività di scraping dei contenuti dei siti di news al fine di addestrare i propri modelli di intelligenza artificiale, contestando un uso indebito di materiale protetto da copyright; azioni analoghe, più di recente, sono state intentate anche da altri editori (The Seattle Times e Newsday), tutte incentrate su un unfair use dei dati. Si lamenta, infatti, un rischio per la stessa esistenza degli editori, considerato che le risposte dei chatbot stanno gradualmente sostituendo la lettura degli articoli originali: ciò che è stato avvertito immediatamente da una riduzione delle consultazioni delle pagine internet che forniscono le notizie, con calo corrispondente di contratti di pubblicità e abbonamenti.
[42] Il fenomeno rischia di entrare di prepotenza nel mondo dei consumi, considerato che, a fronte di uno strumento di ricerca tradizionale, che offre più risultati affidando all’utente il compito di orientarsi, uno strumento basato su un “assistente artificiale” è in grado di proporre direttamente una soluzione d’acquisto, agevolando così le transazioni. In talune piattaforme di AI si è, infatti, introdotto quello che si chiama instant checkout, ovvero una funzione che consente di acquistare prodotti consigliati dall’intelligenza artificiale direttamente all’interno della chat del sistema di AI, senza la necessità di visitare siti di shopping online esterni; un’innovazione che segna, a nostro modo di vedere, un punto di non ritorno, trattandosi di una dinamica commerciale basata su un automatismo estremamente appetibile per il mercato. Per un approfondimento sul fenomeno cfr. www.agendadigitale.eu/mercati-digitali/ecommerce/instant-checkout-la-fine-del-traffico-web-impatti-e-strategie-per-i-marketer.
[43] In argomento cfr. M. Galletti, Paternalisti digitali. Benessere, scelta e identità, in Aa. Vv., Algoritmi della scelta. Etica, politica e identità nell’epoca dell’intelligenza artificiale, a cura di P. Barrotta e A. Masala, Pisa University Press, 2025, p. 221 e ss. Sul concetto di paternalismo digitale come «insieme di pratiche e interventi che limitano o indirizzano scelte e comportamenti delle persone» cfr. L. Romano, Paternalismo digitale: un nuovo decisore sociale, in www.appuntidiculturaepolitica.it, 10 ottobre 2023.
[44] Trattandosi di un “servizio”, la “selezione” proposta dal sistema perde qualsiasi connotazione impositiva ed è, dunque, concepita come una mera semplificazione e non come limitazione.
[45] D’altronde, osserva correttamente R. D’Angiolella, Giustizia e intelligenza artificiale tra l’AI ACT e il disegno di legge italiano. L’insostituibilità del giudice, il metodo e l’argomentazione giuridica, in www.giustiziainsieme.it, 30 luglio 2025, che, se l’art. 15 della legge 132 «innalza un muro a tutela della funzione giudicante e riserva sempre al magistrato il nucleo del decidere […] quel muro, per reggere, esige ben più della propria formulazione»: esso «presuppone una vigilanza del giudice che la norma può imporre ma non assicurare, esposta com’è alla seduzione dell’automatismo».
[46] In argomento cfr. anche R. D’Angiolella, Giustizia e intelligenza artificiale tra l’AI ACT e il disegno di legge italiano. L’insostituibilità del giudice, il metodo e l’argomentazione giuridica, in www.giustiziainsieme.it, 30 luglio 2025.
[47] In termini analoghi, di recente, cfr. M. Buffoni, Dalla riserva di umanità alla riserva di giurisdizione. L’intelligenza artificiale nella funzione giudiziaria tra AI Act e legge n. 132/2025, in www.l-jus.it, 17 settembre 2026.
[48] Le parole sono di L. Scomparin, La tutela del testimone nel processo penale, Cedam, 2000, p. 2, che prosegue anche e senza la sottoposizione coatta ad introspezioni che ne svelino il concreto funzionamento
[49] Parla di «libertà di autodeterminazione, intesa come facoltà critica di scelta», G. Tabasco, Prove non disciplinate dalla legge nel processo penale, ESI, 2011, p. 57.
[50] Anche in assenza di richiami normativi espliciti, sul piano processuale penale la libertà morale viene in evidenza ad ampio spettro, come libertà di autodeterminazione nell’esercizio del diritto di difesa, nella scelta del rito, nella decisione sull’impugnazione o sull’acquiescenza.
[51] In questo senso si esprime l’art. 45, comma 1, c.p.p. che, in un certo qual modo, attraverso il richiamo alla designazione del giudice ad quem sulla base dell’art. 11 c.p.p., vale a salvaguardare il principio costituzionale citato.
[52] Sul fondamento costituzionale della tutela dovuta alla libertà morale, sia consentito il rimando ad A. Chelo, La tutela della libertà morale nel processo penale, CEDAM, 2025, p. 6 e ss.
[53] In questi termini, in relazione agli aspetti predittivi, coglie il problema S. Quattrocolo, The Italian Law 132/2025: an “ordinary” instrument to govern the “extraordinary”, in Legisl. pen., 2026, n. 1, p. 42: «The risk, therefore, is not the formal substitution of the judge, but a more subtle transformation of judicial reasoning. Algorithmic outputs may exert a powerful cognitive influence. When presented with predictive analytics, risk scores, or structured recommendations, judges may feel compelled – consciously or unconsciously – to align their reasoning with the technological suggestion. Departing from the algorithmic output may require additional justification, thereby shifting the motivational burden».
[54] A. Balsamo, Audizione nell’ambito dell’indagine conoscitiva sull’impatto dell’intelligenza artificiale nel settore della giustizia, in www.sistemapenale.it, 24 maggio 2024, pp. 5-6, suggerisce di sperimentare l’uso su attività considerate amministrative, ad esempio attraverso «la creazione di un sistema informatico per il calcolo dei termini di prescrizione, tenendo conto delle diverse normative applicabili, per ciascun processo, in tutte le sue fasi, sulla base dell’inserimento dei dati relativi ai reati e alle cause di sospensione e interruzione», ovvero di un sistema «che realizzi una interazione tra il calcolo dei termini di prescrizione e la programmazione delle udienze, anche mediante gli opportuni avvisi urgenti per la anticipazione di udienze già fissate sotto una precedente normativa». Un modello che potrebbe essere applicabile anche «al calcolo dei termini massimi delle misure cautelari personali e delle misure di prevenzione patrimoniali».
[55] Una sintesi contiene anche una selezione di fatti e una selezione, a sua volta, contiene una valutazione: valutazione che, se è effettuata dall’AI, vale ad orientare ingiustamente ed inevitabilmente il convincimento del giudice.
[56] Un esempio, forse, può aiutare a chiarire: a fronte dell’indicazione, da parte di un software AI, del diverso grado di rilevanza o, addirittura, di attendibilità di deposizioni diverse, non è possibile affermare con certezza che il giudice riuscirà a prescindere davvero da quel suggerimento; e ciò non certamente perché gli manchino pensiero critico o indipendenza, ma in quanto il funzionamento della psiche umana in ambito cognitivo rende difficile ignorare un’informazione già elaborata, vieppiù se proviene da un sistema che si presume non portatore di interessi concreti dipendenti dall’accertamento o dalla specifica valutazione. In questo modo, dunque, lo strumento di AI viene ad incidere sulla libertà di convincimento del giudice con una modalità ben più subdola rispetto ad una pressione esterna.
[57] In realtà, come evidenzia C. Valentini, L’IA e la ‘scoperta’ dei bias cognitivi nel processo penale, in Aa. Vv., Giudizio penale e intelligenza artificiale. Una riflessione sistemica, a cura di A. Incampo e N. Triggiani, Cacucci, 2026, p. 350, per il giurista italiano i bias cognitivi sono rimasti a lungo sconosciuti e solo l’avvento dell’AI pare averne determinato la scoperta.
[58] In questo ambito di non delegabilità ricadono, a nostro modo di vedere, quelle attività in relazione alle quali altri ritengono, invece, possano intervenire i sistemi di AI: si osservi, ad esempio, quanto sostenuto da C. Parodi – M. Nicolini, Intelligenza artificiale e giurisdizione: il rischio di discutere il futuro dimenticando il presente. Interoperabilità dei sistemi, sicurezza dei dati e uso responsabile degli strumenti generativi nel lavoro del magistrato, in www.sistemapenale.it, 4 luglio 2026, pp. 7-8, secondo i quali, «osservando il lavoro quotidiano di qualsiasi magistrato, emerge immediatamente come la maggior parte del tempo professionale non venga assorbita dall’attività decisionale in senso stretto, bensì da una lunga serie di attività preparatorie. Lo studio del fascicolo, la ricerca della documentazione rilevante, la ricostruzione cronologica degli eventi, l’individuazione delle questioni controverse, il confronto tra documenti differenti, la consultazione della giurisprudenza e della dottrina, la predisposizione di schemi, appunti e sintesi costituiscono attività indispensabili, ma diverse dalla decisione propriamente detta. Ed è proprio in questo spazio che si collocano le applicazioni più promettenti dell’intelligenza artificiale».
[59] Sulla necessità che l’apporto dell’AI sia intelligibile affinché ne risulti possibile la contestazione, cfr. L. Pulito, Il principio di proporzionalità algoritmica, in Aa. Vv., Giudizio penale e intelligenza artificiale. Una riflessione sistemica, a cura di A. Incampo – N. Triggiani, Cacucci, 2026, p. 275 e ss.
[60] Ciò, ovviamente, a meno che il giudice non ne lasci del tutto involontariamente traccia nella motivazione, come si è talora verificato: ipotesi nella quale il dubbio sull’assenza di un controllo umano significativo resta davvero rilevante, non essendosi verosimilmente proceduto neppure ad una rilettura del provvedimento poi depositato.
[61] A ben vedere, “riconoscere” equivale a quanto oggi è già imposto dal Regolamento europeo sull’AI in ambito generalista, ovvero garantire la trasparenza, cioè il diritto di sapere in termini espliciti se l’interlocutore che scrive, parla, o, in termini più ampi, genera contenuti, è un sistema automatico di intelligenza artificiale.
[62] Le parole sono di E. Longo, Intelligenza artificiale generativa e giustizia: profili costituzionali tra efficienza e tutela dei diritti fondamentali, in Quest. Giust., 2026, n. 3, p. 4, che riprende le indicazioni fornite dalla Corte costituzionale della Colombia nella sentenza n. T-323/2024. Su quest’ultima vicenda cfr. J.D. Gutiérrez, ChatGPT in Colombian Courts: Why we need to have a conversation about the digital literacy of the judiciary, in www.verfassungsblog.de/colombian-chatgpt/; R. Perona, Giustizia artificiale intelligente? Spunti per il costituzionalista europeo a partire dall’esperienza colombiana, in Federalismi.it, 2025, n. 26, p. 98 e ss.
[63] Per un commento delle raccomandazioni in questione, cfr. G. Pascuzzi, Le delibere del CSM sull’intelligenza artificiale nell’amministrazione della giustizia, in www.giustizia-amministrativa.it, 27 luglio 2026.
[64] Così, da ultimo, l’Aggiornamento delle raccomandazioni sull’uso dell’intelligenza artificiale nell’amministrazione della giustizia, di cui alla delibera del 22 luglio 2026 del C.S.M., in www.csm.it. Questi i fini, così come riportati nella formulazione originale: «1. ricerche dottrinali e supporto alla consultazione di banche dati; 2. sintesi di provvedimenti ostensibili e contributi dottrinali per finalità di classificazione e archiviazione tematica; 3. supporto all’organizzazione e alla gestione degli uffici giudiziari: report statistici, analisi di conformità tra programmi di gestione e dati di registro, redazione di bozze di relazioni su incarichi direttivi e semidirettivi, gestione dei calendari d’udienza; 4. supporto agli uffici cd. “affari semplici” per attività seriali e a bassa complessità giuridica; 5. revisione linguistica e stilistica di testi; 6. produzione di tabelle, grafici e materiali illustrativi; 7. traduzione assistita di testi giuridici, con verifica umana obbligatoria; 8. classificazione e categorizzazione degli atti processuali per tipologia e funzione; 9. analisi strutturata del contenuto degli atti delle parti ai fini della ricostruzione delle posizioni processuali; 10. sintesi documentale di atti giudiziari, per finalità di classificazione e archiviazione tematica; 11. confronto tra posizioni processuali delle parti, ai fini della individuazione del thema decidendum e del thema probandum; 12. compilazione assistita di atti standardizzati e di moduli (quali i mandati di arresto europeo), con supervisione e completamento obbligatori da parte del magistrato». Si tratta, per vero, di un’elencazione in relazione alla quale nutriamo alcuni dubbi, ai quali si farà cenno nel prosieguo della trattazione.
[65] Sul punto pare manifestare perplessità anche G. Pascuzzi, Le delibere del CSM sull’intelligenza artificiale nell’amministrazione della giustizia, in www.giustizia-amministrativa.it, 27 luglio 2026, pp. 9-10.
[66] Così come, d’altronde, le valutazioni sulla credibilità di un teste o sull’attendibilità di una testimonianza, sulla rilevanza di una prova, sulla ricostruzione dei fatti controversi o sulla soluzione giuridica da adottare nel caso concreto: tutte attività che, però, lo stesso C.S.M. ritiene, a ragione, impossibili da affidare ad un sistema di intelligenza artificiale.
[67] In questo senso cfr. le Raccomandazioni sull’uso dell’intelligenza artificiale nell’amministrazione della giustizia,di cui alla delibera dell’8 ottobre 2025 del C.S.M., in www.csm.it.
[68] Secondo il C.S.M., infatti, l’AI potrebbe «validamente assistere il magistrato nella consultazione delle banche dati istituzionali e commerciali, nella costruzione di stringhe di ricerca complesse e nella classificazione tematica del materiale reperito», configurandosi come «supporto tecnico-organizzativo, riconducibile ai compiti procedurali limitati ai sensi dell’art. 6, par. 3, lett. a) del Regolamento UE 1689/2024». Qualora, però, il sistema utilizzato sia progettato «per selezionare automaticamente la giurisprudenza “più rilevante”, per suggerire orientamenti interpretativi prevalenti o per generare schemi motivazionali basati su pattern ricorrenti, si configura un impiego che incide potenzialmente sull’attività valutativa e sull’indirizzo giuridico, e dunque si esce dall’ambito dell’art. 6, par. 3», rendendosi «necessaria una vigilanza stringente su tre piani: 1. la natura e l’architettura dei sistemi utilizzati; 2. la trasparenza degli algoritmi di selezione e classificazione; 3. il ruolo attivo e critico del magistrato nel vaglio dei risultati». Per il C.S.M., «in ogni caso, l’output prodotto deve essere oggetto di valutazione e verifica autonoma da parte del magistrato, quale titolare esclusivo della funzione giurisdizionale» in quanto «l’automazione della ricerca non può sostituire la sensibilità giuridica necessaria alla contestualizzazione del precedente». Tutto ciò ferma la necessità che «le banche dati giurisprudenziali messe a disposizione del magistrato garantiscano una base dati completa, non discriminatoria e aggiornata, ovvero prevedano forme di controllo e supervisione da parte della magistratura nella fase della selezione, classificazione e aggiornamento delle sentenze». Il. C.S.M., d’altronde, ricorda che «la qualità, la neutralità e l’accessibilità della banca dati sono condizioni essenziali per un uso corretto e costituzionalmente compatibile dell’intelligenza artificiale in ambito giudiziario».
[69] Ovviamente se la ricerca è fatta su massime, il risultato non potrà che essere a monte condizionato dalla scelta insita nell’aver massimato una sentenza e non un’altra.
[70] D’altronde, se non si intendesse sfruttare le capacità di quest’ultimo, non vi sarebbe ragione per l’implementazione di una banca dati con l’intelligenza artificiale: sarebbe sufficiente, come si è fatto finora, un ordinario sistema di ricerca testuale all’interno del database.
[71] Il rischio di un «appiattimento delle decisioni future su quelle passate» è ben illustrato da A. Balsamo, Audizione nell’ambito dell’indagine conoscitiva sull’impatto dell’intelligenza artificiale nel settore della giustizia, in www.sistemapenale.it, 24 maggio 2024, p. 9, che prospetta i pericoli di una «“tirannia del precedente”, per giunta basata su una analisi matematica (e dunque quantitativo-statistica) di enormi masse di dati».
[72] Sul tema cfr. G. Gioia, Intelligenza artificiale e indipendenza della magistratura: un equilibrio tra trasparenza e controllo, in Rivista di diritto processuale, 2025, pp. 1362-1363. Come ricorda S. Quattrocolo, The Italian Law 132/2025: an “ordinary” instrument to govern the “extraordinary”, in Legisl. pen., 2026, n. 1, p. 42, «While uniformity of application is a fundamental component of legal certainty, criminal justice is not solely concerned with statistical coherence. It also embodies principles of individualization, contextual evaluation, and moral judgment. An excessive emphasis on predictive regularity risks transforming adjudication into a technocratic exercise, privileging efficiency over deliberative reasoning».
[73] Il rischio, ad esempio, è stato già avvertito in relazione alla scelta, che abbiamo indicato in premessa, di adottare Copilot quale sistema di intelligenza artificiale da rendere immediatamente disponibile ai magistrati. Si è osservato, infatti, che Copilot è uno strumento generalista, non concepito per l’attività giudiziaria, segnalando, invece, come molti studi legali utilizzino da tempo sistemi concepiti e addestrati per l’analisi giuridica: in argomento cfr. M. Nigro, Copilot ai magistrati: l’AI entra in Aula di tribunale, ma dalla porta sbagliata, in Il dubbio, 1° ottobre 2026.
[74] In questo senso cfr. B. Galgani, Il legislatore italiano dinanzi all’IA nel c.d. “dominio Giustizia”, in Quest. Giust., 2026, n. 3, p. 72, che, rimandando anche a G. Peluso Lopes, From Human-in-the-Loop to Institutional Oversight of Judicial Decision Support Systems, in Media Laws, 2025, n. 2, pp. 140-142, descrive una supervisione affidata a «organismi specializzati e interdisciplinari, incaricati di partecipare alla progettazione stessa dei sistemi, di giustificarne l’adozione sulla base di evidenze empiriche, di valutare preventivamente le interazioni tra esseri umani e algoritmi, nonché di monitorare le pratiche di impiego e sottoporle a verifiche periodiche».
[75] Seppur ricostruite sul contenuto del d.lgs. 9 settembre 2026, n. 160, analoghe conclusioni sono offerte dall’UCPI nella Audizione dinanzi alla II Commissione Giustizia del Senato avvenuta nella seduta del 23 settembre 2026, come si rileva dalle osservazioni disponibili in www.camerepenali.it
[76] Si tratta della medesima necessità valorizzata dall’On. Costa nell’interrogazione a risposta scritta n. 4/08864 del 9 settembre 2026, in www.giustizia.it, nella quale, tra gli altri riscontri, era richiesta al Ministro della giustizia l’indicazione delle garanzie che «assicurino che la difesa conosca l’uso dell’IA da parte del magistrato e, se impiegata per l’analisi degli atti, possa controllare i comandi inseriti, le istruzioni e i risultati generati, per evitare una fase pre-decisoria sottratta al contraddittorio». Su questo interrogativo specifico non si rinviene, per vero, alcun cenno nella risposta scritta diramata il 13 novembre 2026, nonostante essa ribadisca che le raccomandazioni del C.S.M., «ben lungi dal legittimare l’impiego dell’intelligenza artificiale per finalità decisionali, ne delimitano rigorosamente l’utilizzo alle attività di esame, consultazione, elaborazione, sintesi e comparazione di atti e fascicoli processuali, nonché ad ulteriori funzioni di supporto all’organizzazione del lavoro». Di fatto, la nota insiste sull’assunto che «gli impieghi sperimentali ammessi attengono esclusivamente ad attività estranee alla decisione e alla formazione del convincimento del giudice», mentre, come abbiamo cercato di illustrare, queste attività hanno comunque un’incidenza sul processo cognitivo che porta alla decisione e restano, in mancanza di indicazioni normative, sottratte al contraddittorio.
[77] Sistema che dovrebbe essere, peraltro, liberamente accessibile alle parti in modo da poterne verificare le caratteristiche e il funzionamento.
[78] Altrimenti, come osserva, in relazione alle raccomandazioni fornite dal Consiglio Superiore della Magistratura, G. Pascuzzi, Le delibere del CSM sull’intelligenza artificiale nell’amministrazione della giustizia, in www.giustizia-amministrativa.it, 27 luglio 2026, p. 13, «come si esercita la “possibilità di verifica e contestazione degli output” su un output che non è mai reso ostensibile?»
[79] In caso contrario, come afferma B. Galgani, Il legislatore italiano dinanzi all’IA nel c.d. “dominio Giustizia”, in Quest. Giust., 2026, n. 3, p. 71, «il quesito dei quesiti è uno e soltanto uno: quale tipo di controllo, quale human oversightè effettivamente e realisticamente esigibile (anche) da un operatore del processo come il giudice che, onde poter essere il primo garante della controllabilità e della trasparenza del proprio decisum, è richiesto di competenze e, soprattutto, di informazioni che non possiede?». Come osserva M. V. Marchianò, Intelligenza artificiale e implicazioni istituzionali nella Giustizia, in www.scuolamagistratura.it, p.12, «il magistrato deve essere consapevole che i sistemi di IA producono output probabilistici, non deterministici: generano stime/classificazioni affette da incertezza, dipendono dai dati e dalla configurazione del modello e possono presentare errori e allucinazioni».
[80] In dottrina cfr. W. Quattrociocchi, LLM e ragionamento giuridico. Perché la fluidità non è giudizio, in Quest. Giust., 2026, n. 3, p. 374, il quale ricorda che «una delle convinzioni più diffuse nel dibattito pubblico sull’AI è che l’aumento della scala – più dati, modelli più grandi, maggiore potenza di calcolo – possa risolvere progressivamente i problemi di affidabilità. Nel caso degli LLM applicati al diritto, questa convinzione è fuorviante. La scala migliora la fluidità, raffina la coerenza, riduce alcuni errori superficiali, ma non introduce criteri epistemici. Un modello più grande resta un modello che genera linguaggio senza accesso alla verità, alla rilevanza giuridica o alla responsabilità della decisione. Il problema non è quantitativo, ma strutturale. Per la funzione giudiziaria, questo implica che non esiste una soglia tecnologica oltre la quale l’AI diventa “affidabile” in senso decisionale. Anche sistemi estremamente sofisticati continuano a operare sul piano della plausibilità linguistica. Affidarsi alla scala come soluzione rischia quindi di spostare l’attenzione dal nodo reale: la compatibilità tra automatismi linguistici e giudizio giuridico».
[81] Per questa finalità cfr. C. Parodi – M. Nicolini, Intelligenza artificiale e giurisdizione: il rischio di discutere il futuro dimenticando il presente. Interoperabilità dei sistemi, sicurezza dei dati e uso responsabile degli strumenti generativi nel lavoro del magistrato, in www.sistemapenale.it, 4 luglio 2026, p. 4 e 9, secondo i quali «la vera domanda, pertanto, non è se l’intelligenza artificiale possa sostituire il giudice. La questione realmente rilevante è comprendere se essa possa restituire al giudice il tempo e le energie necessarie per esercitare meglio la propria funzione». Nell’ottica degli autori, «un magistrato sommerso da carichi di lavoro eccessivi, costretto a dedicare una parte rilevante della propria attività a compiti meramente ripetitivi, vede inevitabilmente ridursi il tempo disponibile per le attività di maggiore qualità professionale»: tempo che l’utilizzo dell’AI dovrebbe restituirgli.
[82] Senza considerare che anche un eventuale controllo umano, in questo caso, potrebbe essere difficilmente “effettivo”. Come enfatizza M. V. Marchianò, Intelligenza artificiale e implicazioni istituzionali nella Giustizia, in www.scuolamagistratura.it, p.12, «il giudice potrà mantenere l’autonomia critica solo se disporrà del tempo necessario per controllare gli esiti, farli propri oppure discostarsene motivatamente quando non convincenti».
[83] In termini estremamente corretti M. Sciacca, Vademecum per i magistrati in tirocinio e di nuova nomina, in www.dirittogiustiziaecostituzione.it, p. 9, introduce un «decalogo operativo», nel quale, al punto 6, si legge: «il tempo di verifica non è comprimibile. Se il controllo di un output richiede meno tempo di quanto ne richiederebbe leggere il materiale sottostante, con ogni probabilità non è un controllo». L’affermazione è per noi più che condivisibile, ma desta un dubbio sulla sua condivisione da parte degli operatori: quale utilità si potrà in concreto ravvisare nel far compiere un’attività ad un sistema di AI se essa, poi, dovrà essere, di fatto, ripetuta dal soggetto in sede di controllo?
[84] Sulla concreta possibilità che un magistrato, nel segreto del proprio ufficio, soprattutto se sommerso da un pesante arretrato, possa impiegare gli strumenti di intelligenza artificiale per alleggerirsi il peso di redigere manualmente la motivazione, cfr. A. Simoncini, La dimensione costituzionale della giustizia predittiva. Riflessioni su intelligenza artificiale e processo, in Rivista di diritto processuale, 2024, p. 389, ripreso poi da R. Kostoris, Intelligenza artificiale, strumenti predittivi e processo penale, in www.discrimen.it, 5 marzo 2024, p. 12 e ss., che prospetta un parallelo proprio con l’omologa attività affidata al personale dell’Ufficio per il processo.
[85] G. Gioia, Intelligenza artificiale e indipendenza della magistratura: un equilibrio tra trasparenza e controllo, in Rivista di diritto processuale, 2025, p. 1346, parla di «consapevolezza che l’intelligenza artificiale costringe lo Stato di diritto a confrontarsi con una trasformazione di portata epocale».
[86] Probabilmente, d’altronde, come affermano C. Parodi – M. Nicolini, Intelligenza artificiale e giurisdizione: il rischio di discutere il futuro dimenticando il presente. Interoperabilità dei sistemi, sicurezza dei dati e uso responsabile degli strumenti generativi nel lavoro del magistrato, in www.sistemapenale.it, 4 luglio 2026, p. 4 «continuare a collocare il confronto sul piano dell’alternativa radicale tra accettazione e rifiuto significherebbe non solo fraintendere la natura del fenomeno, ma anche esporsi al rischio di una progressiva irrilevanza istituzionale».
[87] La dottrina giuridica ha ben evidenziato questo aspetto osservando che, «sebbene possa sembrare che il sistema sia in grado di ragionare in alcuni aspetti, non comprende come il testo che riproduce si colleghi alla realtà materiale, poiché non ha osservato un modello del mondo reale. Questo è un punto cruciale. Le macchine ragionano per inferenza e non per deduzione causale e, poiché non sono umane, mancano di empatia e comprensione emotiva»: così, in termini lineari, E. Longo, Intelligenza artificiale generativa e giustizia: profili costituzionali tra efficienza e tutela dei diritti fondamentali, in Quest. Giust., 2026, n. 3, p. 25, il quale evidenzia come i sistemi di AI generativa si limitano ad imitare i testi umani, senza coglierne il senso. Sulle differenze tra il ragionamento umano e il funzionamento di questi software cfr. E. J. Larson, The Myth of Artificial Intelligence: Why computers can’t think the way we do, Harvard University Press, 2021, passim.
[88] Come ricorda M. Buffoni, Dalla riserva di umanità alla riserva di giurisdizione. L’intelligenza artificiale nella funzione giudiziaria tra AI Act e legge n. 132/2025, in www.l-jus.it, 17 settembre 2026, «non è, alla fine, una regola di riparto di competenze tra l’uomo e la macchina, bensì la forma giuridica di un’esigenza etica, ossia che a giudicare dell’uomo sia soltanto un altro uomo, capace di quella prossimità alla persona che Rosario Livatino chiamò “carità del magistrato”».
[89] Sul pericolo di «perdere l’ineliminabile dimensione emotiva e valoriale del giudizio», nell’ipotesi di un utilizzo dell’AI con finalità predittive, cfr. G. Carlotti, La giustizia predittiva e le fragole con la panna, in www.giustizia-amministrativa.it, 23 maggio 2023, pp. 7-8, il quale richiama anche G. Zaccaria, Figure del giudicare: calcolabilità, precedenti, decisione robotica, in Riv. dir. civ., 2020, n. 2, p. 27, che, proprio nell’imperfezione, individua il punto di forza della giustizia umana, derivante dalle «innumerevoli sfumature» di idee ed emozioni.
[90] Anche se in riferimento al fenomeno probatorio, L. Pressacco, Intelligenza artificiale e ragionamento probatorio nel processo penale, in Aa. Vv., Intelligenza artificiale e processo penale. Indagini, prove, giudizio, a cura di G. di Paolo e L. Pressacco, Editoriale Scientifica, 2022, p. 96, giunge alla medesima conclusione, osservando che «l’irruzione dell’IA sulla scena processuale rende necessario predisporre un apparato concettuale rinnovato – mediante l’introduzione di nuove categorie o una differente interpretazione di quelle già esistenti».
[91] Cfr. sul tema A. Santosuosso – G. Sartor, Decidere con l’IA. Intelligenze artificiali e naturali nel diritto, Il Mulino, 2024, p. 208 e ss. e E. Longo, Intelligenza artificiale generativa e giustizia: profili costituzionali tra efficienza e tutela dei diritti fondamentali, in Quest. Giust., n. 3/2026, p. 52. Sul tema di un impiego “antropocentrico” che offra «all’uomo solo una capacità, o meglio, un’ “intelligenza aumentata”, lasciandolo poi libero di gestire con criteri umani la messe di conoscenze e informazioni che quegli strumenti sono in grado di fornirgli», cfr. R. Kostoris, Intelligenza artificiale, strumenti predittivi e processo penale, in www.discrimen.it, 5 marzo 2024, p. 19.
[92] E. Longo, Intelligenza artificiale generativa e giustizia: profili costituzionali tra efficienza e tutela dei diritti fondamentali, in Quest. Giust., 2026, n. 3, p. 52, ne offre, in questi termini, la definizione.
[93] Per questo forse, come si è osservato in dottrina, non diviene necessario tanto imparare ad utilizzare l’AI, quanto «comprenderne i limiti strutturali per evitare forme di delega implicita che possono incidere sul processo decisionale senza essere formalmente riconosciute»: così W. Quattrociocchi, LLM e ragionamento giuridico. Perché la fluidità non è giudizio, in Quest. Giust., 2026, n. 3, p. 374.
[94] Sempre E. Longo, Intelligenza artificiale generativa e giustizia: profili costituzionali tra efficienza e tutela dei diritti fondamentali, in Quest. Giust., 2026, n. 3, p. 52, descrive in questi termini la nuova figura: «il decisore aumentato si avvale degli strumenti di intelligenza artificiale per accelerare la ricerca giurisprudenziale, analizzare la coerenza degli argomenti, identificare precedenti rilevanti e produrre bozze di motivazione; al contempo, esercita in via esclusiva le funzioni che rimangono irriducibilmente umane: la valutazione del contesto, la ponderazione dei valori in conflitto, la lettura empatica delle parti e – non da ultimo – l’assunzione di responsabilità morale della decisione. Il giudice aumentato non delegherà, ma orchestrerà».
[95] L’affermazione è pronunciata da C. Chaplin nel famoso discorso conclusivo del film “Il grande dittatore” (1940).
[96] P. Calamandrei, Processo e democrazia (1952), in Opere giuridiche, vol. I, Problemi generali del diritto e del processo, Roma TrE-Press, 2019, p. 650, disponibile su www.romatrepress.uniroma3.it. Si tratta di quello che Rosario Livatino, il primo magistrato italiano ad essere stato beatificato, definiva la «sofferenza del decidere», che «nessun apparato impassibile potrà mai assumere su di sé»: in questi termini cfr. M. Buffoni, Dalla riserva di umanità alla riserva di giurisdizione. L’intelligenza artificiale nella funzione giudiziaria tra AI Act e legge n. 132/2025, in www.l-jus.it, 17 settembre 2026.

