Sommario: 1. Introduzione – 2. Il quadro normativo Europeo: l’AI Act e i nuovi paradigmi di responsabilità. – 3. I Sistemi nazionali a confronto: tra standard codificati e princìpi giurisprudenziali. – 4. L’intelligenza artificiale come nuovo attore nel processo decisionale in medicina. – 4.1. Distinzione funzionale: dall’“ausilio tecnico” all’“ausilio intellettuale”. – 4.2. La differenza epistemologica tra output dell’IA e linea guida tradizionale. – 4.3. Il problema della “black box”: opacità, robustezza e il nuovo orizzonte del rischio clinico. – 5. La trasparenza come requisito indefettibile: l’intelligenza artificiale spiegabile (XAI). – 5.1. Tecniche di XAI nel contesto medico. – 5.2. Spiegabilità vs accuratezza – 5.3. Il ruolo dell’utente umano: verso modelli human-in-the-loop. – 6. Scenari di interazione uomo-macchina in prospettiva comparata. – 6.1. L’impossibilità di equiparare l’output dell’IA a una linea guida tradizionale. – 6.2. Lo scenario dell’“errata-conformità”: quando medico e macchina concordano nell’errore. – 6.3. Lo scenario dell’“errata-divergenza”: quando il medico dissente da un’IA corretta. – 6.4. Il valore probatorio dell’output algoritmico: la “controprova digitale” come prova processuale transnazionale. – 7. Strategie per una governance clinica dell’IA in Europa. – 7.1. Le linee guida come strumento per governare l’uso dell’IA. – 7.2. La deviazione dall’output di un’IA validata come potenziale violazione delle leges artis. – 7.3. Il paradosso della “medicina difensiva algoritmica”: un nuovo rischio per le professioni mediche. – 8. Conclusioni.
Abstract
L’integrazione dei sistemi di intelligenza artificiale nella pratica clinica induce una profonda riconsiderazione delle categorie giuridiche relative alla responsabilità medica, non solo a livello nazionale, ma nel contesto europeo sempre più interconnesso. L’articolo analizza la transizione dalla lex artis tradizionale, radicata in ordinamenti nazionali, a un nuovo paradigma influenzato dalla governance europea. Muovendo dal quadro normativo italiano, definito dalla legge n. 24/2017 (“Gelli-Bianco”), l’analisi si estende al Regolamento (UE) 2024/1689 (AI Act), che classifica i sistemi di IA in sanità come “ad alto rischio”, imponendo obblighi di trasparenza e supervisione umana. Segue un’analisi comparata della responsabilità medica in Germania, Francia e Spagna, evidenziando le diverse concezioni dello standard di cura: dal fachärztlicher Standard tedesco alla lex artis ad hoc spagnola, passando per il dualismo francese tra responsabilità per colpa e ‘solidarietà nazionale’. Particolare attenzione è dedicata all’intelligenza artificiale spiegabile (XAI) come strumento per mitigare l’opacità dei modelli black box e alle implicazioni della nuova Direttiva sulla responsabilità da prodotto difettoso. Sono inoltre esplorati scenari inediti derivanti dall’interazione uomo-macchina, quali l’errore concordante e il dissenso dall’algoritmo, valutandoli alla luce dei diversi approcci nazionali. L’analisi si chiude con una riflessione sulla possibile convergenza verso un modello europeo di “responsabilità medica aumentata”, in cui i princìpi armonizzati della normativa comunitaria si intrecciano con le specificità delle tradizioni giuridiche nazionali, cercando un equilibrio tra innovazione, sicurezza del paziente e certezza del diritto.
The integration of artificial intelligence (AI) systems into clinical practice requires a heavy reconsideration of legal categories related to medical liability, not only nationally but also within the increasingly interconnected European framework. This article examines the transition from the traditional lex artis, rooted in national jurisdictions, to a new paradigm shaped by EU governance. Starting from the Italian regulatory framework established by Law No. 24/2017 (“Gelli-Bianco”), the analysis then turns to Regulation (EU) 2024/1689 (the AI Act), which classifies AI systems in healthcare as “high-risk” and imposes obligations of transparency and human oversight. A comparative perspective is then developed, focusing on Italy, Germany, France, and Spain, and revealing different conceptions of the standard of care: from the German fachärztlicher Standard to the Spanish lex artis ad hoc, through the French dualism between fault-based liability and “national solidarity”. Special attention is devoted to explainable artificial intelligence (XAI) as a means to mitigate the opacity of black-box models, together with the implications of the new Directive on liability for defective products.
The article further explores emerging scenarios from human–machine interaction, such as concordant error and dissent from algorithmic recommendations, assessing them against national approaches. The study reveals a legal landscape in profound transformation, where technological innovation acts as a catalyst for change in diverse national legal cultures, and concludes by sketching a roadmap for governing the possible convergence toward a European model of “augmented medical liability”, in which harmonized EU principles are interwoven with national legal traditions, seeking equilibrium between technological innovation, patient safety, and legal certainty.
1. Introduzione
Il diritto e la prassi medica sono oggi immersi in una transizione epocale, segnata da una tensione tra due approcci solo apparentemente inconciliabili[1]. Da un lato, la personalizzazione, principio dominante della medicina contemporanea, che si fonda sull’autodeterminazione e sulla centralità del paziente, reclamando un’arte della cura capace di piegarsi con rispetto alle irriducibili singolarità biologiche, biografiche e psichiche di ogni individuo. Dall’altro lato, la ‘standardizzazione’ – incarnata anche dalla rapida ascesa dell’intelligenza artificiale – introduce una rivoluzione che, pur promettendo livelli di personalizzazione terapeutica finora inesplorati, non si basa sull’intuizione o l’empatia del medico, bensì sull’identificazione di pattern inferenziali estratti dai vasti archivi di big data[2]. Essa rappresenta una nuova specie di uniformità, non più ancorata ai protocolli dell’evidence-based medicine, ma al calcolo statistico e all’autoapprendimento delle macchine.
Se si tende a concepire personalizzazione e standardizzazione come poli opposti e inconciliabili, è forse perché si perde di vista la complessità della pratica clinica, che si nutre di entrambi[3]: della necessità di aderire a protocolli validati e, al tempo stesso, dell’esigenza di adattarli al caso concreto. La loro relazione è complessa, fatta di coesistenza talvolta difficile, ma non di opposizione frontale. È in questa soglia concettuale che si gioca una delle più decisive sfide del diritto sanitario contemporaneo: ridefinire le categorie classiche della responsabilità professionale in un contesto in cui la medicina oscilla tra l’umanità della relazione e l’efficienza dell’elaborazione automatica, orientata verso una «individualized standardization of care»[4]. Non si tratta di scegliere un’opzione rispetto all’altra, ma di immaginare una sintesi innovativa tra il sapere umano e quello artificiale. Non è solo un compromesso tra i due, ma una nuova forma di cura più avanzata, che richiede un’etica in grado di cogliere la complessità senza ridurla a formule, né abbandonarla alla tecnocrazia.
Questa tensione, un tempo confinata entro i margini dei singoli ordinamenti nazionali, si proietta oggi su una dimensione sovranazionale. Il Regolamento UE 2024/1689 (AI Act) si configura come un catalizzatore, imponendo una riconsiderazione in chiave pan-europea dei paradigmi della responsabilità medica. Ne scaturisce l’interrogativo circa la capacità di un quadro normativo armonizzato a livello europeo di conciliarsi con le eterogenee tradizioni giuridiche degli Stati membri in materia di colpa professionale. Ci si chiede, in particolare, se la nuova governance europea dell’IA possa effettivamente condurre a una convergenza delle regole di responsabilità, o se, al contrario, le specificità nazionali continueranno a frammentare l’applicazione del diritto in un settore così importante per i diritti fondamentali dei cittadini.
Per affrontare la questione sopra delineata, il presente studio adotta un approccio giuridico-comparato e interdisciplinare, volto a collegare il quadro normativo italiano con i più recenti sviluppi europei e con le esperienze di altri ordinamenti nazionali.
Nel § 2 l’analisi prende avvio dall’esame del Regolamento (UE) 2024/1689 (AI Act), che introduce specifici obblighi per l’impiego dei sistemi di intelligenza artificiale in ambito sanitario e che è destinato a incidere inevitabilmente sulla responsabilità dei professionisti della salute.
Nel § 3 segue una disamina comparata che estende l’indagine a Italia, Germania, Francia e Spagna, mettendo in luce le differenze tra i rispettivi assetti normativi e le conseguenti implicazioni in materia di responsabilità medica.
Lo studio si sofferma poi, nei §§ 4 e 5, su profili concettuali ed epistemologici, quali l’opacità dei modelli black box e il possibile ruolo dell’intelligenza artificiale spiegabile (XAI) nella riduzione delle asimmetrie informative.
Infine, nei §§ 6 e 7 vengono esaminati scenari inediti di interazione uomo-macchina, quali l’errore concordante e il dissenso rispetto alle raccomandazioni algoritmiche, alla luce delle differenti tradizioni giuridiche nazionali.
Questo percorso metodologico guida il lettore dalla dimensione regolatoria a spunti comparativi, culminando in una riflessione prospettica sulla possibile convergenza verso un modello europeo di «responsabilità medica aumentata».
2. Il quadro normativo Europeo: l’AI Act e i nuovi paradigmi di responsabilità
L’Unione Europea ha deciso di mettere ordine nello sviluppo e nell’uso dell’intelligenza artificiale con una legislazione d’avanguardia in materia, che mira a stabilire regole chiare e armonizzate[5]. Il richiamato Regolamento UE 2024/1689, noto come AI Act[6], oltre a regolamentare l’introduzione di prodotti tecnologici sul mercato, ha anche un impatto diretto sugli standard di diligenza e le aspettative di sicurezza in settori critici come quello sanitario, con profonde ricadute sui regimi di responsabilità. L’AI Act adotta un approccio basato sul rischio (risk-based approach), che adegua i requisiti in base alla potenziale severità di danni che un sistema di IA potrebbe causare, in termini di salute, sicurezza e diritti fondamentali. In questa tassonomia, il settore sanitario occupa una posizione di preminenza. L’art. 6, paragrafo 1, del Regolamento, in combinato disposto con l’Allegato III, definisce come “ad alto rischio” la maggior parte dei sistemi di IA utilizzati in campo medico. Tra questi ci sono software usati come dispositivi medici, sistemi di supporto alle decisioni cliniche, algoritmi di diagnostica assistita e programmi che influenzano i trattamenti terapeutici o chirurgici. Questa classificazione non è meramente formale, ma comporta una serie di obblighi stringenti per chi li produce e li utilizza. È importante sapere che l’AI Act opera in modo complementare e simultaneo rispetto alla normativa di settore esistente, in particolare il Regolamento sui Dispositivi Medici (MDR, Reg. UE 2017/745). Mentre il MDR si concentra sui rischi generali del software come dispositivo medico, l’AI Act introduce regole specifiche per affrontare i problemi propri dell’IA, come il funzionamento ‘opaco’, i bias e la mancanza di affidabilità[7]. Non solo: la classificazione introdotta dall’AI Act avrà quasi certamente un forte impatto sulla responsabilità dei medici. Per i sistemi classificati come ad alto rischio, gli standard richiesti – come precisione, sicurezza informatica e supervisione umana – sono condizione indispensabile per poterli mettere in commercio. In un contesto giudiziario, inoltre, questi stessi requisiti normativi sono destinati a diventare il metro di paragone per definire lo standard legale di cura. L’utilizzo da parte di un medico o di una struttura sanitaria di un sistema di IA non conforme, obsoleto o implementato senza le dovute garanzie organizzative non costituirà più solo una violazione amministrativa, ma potrà essere interpretato come una violazione della diligenza professionale attesa. In questo modo, l’AI Act, pur non disciplinando direttamente la responsabilità civile o penale, contribuisce a creare una nuova linea armonizzata per la lex artis in tutta Europa, trasformando un regolamento di prodotto in un fondamento del diritto della responsabilità sanitaria.
Una volta messo a fuoco quel che l’AI Act è destinato a rappresentare, occorre circoscrivere l’attenzione sul nucleo del sistema di garanzie approntato per i sistemi ad alto rischio. Al centro di tale impianto si collocano obblighi volti a garantire il mantenimento del controllo umano sul processo decisionale automatizzato[8]. Particolare rilievo assume l’art. 14 (“Supervisione umana”) del Regolamento, il quale stabilisce che tali sistemi devono essere progettati e sviluppati in modo da poter essere «effectively overseen by natural persons during the period in which they are in use». Il principio in esame svolge altresì una funzione preventiva rispetto al cosiddetto automation bias, la tendenza umana a fidarsi acriticamente dell’output di una macchina. Per preservare il giudizio finale del medico, che costituisce un aspetto essenziale ai fini dell’attribuzione della responsabilità professionale, la norma impone che questi sia in grado di comprendere il funzionamento della macchina, conoscerne i limiti e monitorarne l’attività, così da poter intervenire quando necessario, decidere di non avvalersi dell’output o interrompere l’utilizzo del sistema, mantenendo il controllo sulla determinazione conclusiva.
Questo approccio europeo si riflette anche nelle leggi nazionali, come il disegno di legge italiano sull’IA (ddl n. 1146/2024), che ribadisce che la decisione finale deve sempre essere presa dal medico. Tuttavia, il concetto di “supervisione efficace” rimane giuridicamente indeterminato e la sua concreta applicazione sarà inevitabilmente filtrata attraverso le lenti dei diversi sistemi giudiziari nazionali. Ciò che un tribunale tedesco potrebbe considerare una supervisione adeguata, basandosi sul suo rigoroso fachärztlicher Standard, potrebbe differire da come un giudice spagnolo valuta la stessa condotta alla luce della più flessibile lex artis ad hoc. Si profila così un paradosso di “armonizzazione frammentata”: un’unica regola europea potrebbe generare esiti di responsabilità divergenti nei vari Stati membri, lasciando irrisolta l’esigenza di certezza giuridica per fornitori e utilizzatori che operano nel mercato unico.
Un ulteriore profilo critico riguarda l’aspetto probatorio. Riconoscendo che l’opacità degli algoritmi, il cosiddetto black box effect, crea un ostacolo probatorio quasi insormontabile per l’utente o il paziente danneggiato[9], l’Unione Europea ha innovato anche il regime della responsabilità da prodotto difettoso. La nuova Direttiva UE 2024/2853, infatti, estende esplicitamente il suo ambito di applicazione al software e ai sistemi di IA, qualificandoli come “prodotti”. L’innovazione più significativa è l’introduzione di un meccanismo di “presunzione di causalità”. Questa regola alleggerisce l’onere della prova a carico del danneggiato. Se il paziente può dimostrare che il fornitore del sistema di IA non ha rispettato un obbligo di diligenza (ad esempio, un requisito dell’AI Act), che il prodotto è difettoso e che esiste una probabilità ragionevole di un nesso causale tra il difetto e il danno subito, il giudice può presumere che l’inosservanza dell’obbligo abbia causato il danno. È, peraltro, agevolato il diritto delle vittime di accedere alle informazioni tecniche in possesso del produttore, il quale è soggetto a specifici obblighi di disclosure[10]. Spetterà, pertanto, al fornitore confutare tale presunzione, dimostrando, ad esempio, che il danno è stato provocato da una causa diversa.
Questa modifica normativa apre una nuova via contenziosa per i pazienti. Anziché intentare un giudizio per colpa medica contro il sanitario – un’azione basata sulla valutazione della sua condotta professionale – il paziente potrà agire direttamente contro il fornitore dell’IA secondo le regole della responsabilità da prodotto difettoso, un’azione basata, appunto, sulla difettosità del “prodotto” algoritmico. Questo percorso è vantaggioso per il paziente perché la presunzione di causalità sposta l’onere probatorio, superando la difficoltà di dover spiegare in dettaglio il funzionamento interno della black box. Resta comunque un margine di incertezza: la complessità della disciplina comporta oneri significativi per il produttore, chiamato, ad esempio, a dimostrare l’assenza di difetti o l’inesistenza di un nesso causale tra il danno e il proprio operato in contesti particolarmente difficili da verificare. È probabile, inoltre, che si assista a un aumento delle azioni di responsabilità contro gli sviluppatori di IA, il che in alcuni casi potrebbe ‘schermare’ i medici, ma anche creare complessi scenari di responsabilità solidale tra professionista, struttura sanitaria e produttore tecnologico.
3. I Sistemi nazionali a confronto: tra standard codificati e princìpi giurisprudenziali
Mentre il quadro normativo europeo stabilisce regole armonizzate per la tecnologia, la valutazione della condotta del medico rimane ancorata alle tradizioni giuridiche nazionali. Un’analisi comparata dei sistemi di Italia, Germania, Francia e Spagna rivela approcci sensibilmente diversi alla definizione dello standard di cura e all’allocazione della responsabilità[11].
Quanto all’ordinamento italiano, si osserva una costante tensione tra il tentativo del legislatore di standardizzare la valutazione della colpa medica[12] e la difesa, da parte della giurisprudenza, dell’autonomia decisionale del professionista sanitario. Il quadro normativo di riferimento è innanzitutto delineato dagli artt. 589 e 590 c.p., rispettivamente dedicati all’omicidio colposo e alle lesioni personali colpose, integrati dall’art. 590-sexies c.p., introdotto dalla legge n. 24/2017 – la cosiddetta Legge Gelli-Bianco – che ha segnato una svolta significativa nel disciplinare la responsabilità sanitaria[13]. Questa disposizione pone al centro dell’attenzione la necessità che gli esercenti le professioni sanitarie si conformino alle raccomandazioni contenute nelle linee guida e nelle buone pratiche clinico-assistenziali, prevedendo, al co. 2, una causa di non punibilità per colpa da imperizia se sono state rispettate le linee guida adeguate al caso concreto[14]. La prestazione medica è generalmente considerata una prestazione di mezzi e la responsabilità per il suo inadempimento è valutata secondo il criterio della colpa, parametrato sulla diligenza professionale (art. 1176, co. 2, c.c.) e sul rispetto delle linee guida. La giurisprudenza di legittimità, tuttavia, ha interpretato la norma in modo da salvaguardare il primato del giudizio clinico: la lex artis non si riduce alla semplice applicazione dei protocolli, ma si riferisce alla capacità del medico di adattarli e, se necessario, discostarsene motivatamente, in base alle caratteristiche del singolo paziente[15]. In questa ottica, le linee guida e le buone pratiche clinico-assistenziali diventano strumenti flessibili che guidano il giudizio professionale, senza sostituirlo, garantendo uniformità e certezza nella valutazione dell’operato del medico, ma, al contempo, lasciando spazio all’apprezzamento delle specificità del caso concreto e allo svolgimento di scelte terapeutiche personalizzate[16]. Ne consegue, in buona sostanza, che il rispetto delle linee guida non garantisce automaticamente l’esclusione della colpa, poiché il giudizio penale conserva una dimensione valutativa soggettiva, che tiene conto della specificità della condotta e del contesto[17]. Quando necessario, il medico è chiamato a uscire dai binari dei protocolli standard, per abbracciare la storia personale, lo stile di vita, la risposta ai farmaci e le volontà di chi ha affidato a lui la propria salute.
Rispetto alla normativa previgente (decreto-legge n. 158/2012, convertito in legge n. 189/2012, anche nota come legge Balduzzi), la nuova previsione normativa ha introdotto due novità significative: ha eliminato la distinzione tra colpa grave e lieve, concentrandosi sull’imperizia come unica forma di colpa rilevante ai fini dell’esclusione della punibilità, e ha subordinato l’esonero alla conformità delle linee guida alla specificità del caso clinico. La giurisprudenza di legittimità[18] ha tuttavia interpretato la norma in modo più articolato, riproponendo per certi versi la distinzione tra colpa lieve e grave e chiarendo che la responsabilità penale può emergere anche in caso di imperizia grave nell’esecuzione di raccomandazioni adeguate. Ne deriva che l’adesione formale alle linee guida non garantisce automaticamente l’esonero dalla responsabilità, spostando l’attenzione sulla capacità del medico di applicare la lex artis in modo flessibile e contestualizzato. La Corte richiama come criteri di valutazione del grado della colpa la divergenza tra condotta effettiva e condotta dovuta, la prevedibilità e l’evitabilità dell’evento, le conoscenze e condizioni del sanitario e le ragioni di urgenza. In tale prospettiva, la rilevanza della responsabilità si fonda sulla natura intrinseca dell’errore, e la semplice adesione a una raccomandazione (dettata da linee guida o, come dopo si vedrà, da eventuali algoritmi) non esclude di per sé la colpa, che va valutata in base alla consistenza, riconoscibilità e inevitabilità dell’errore.
Il sistema tedesco fonda la responsabilità medica sul diritto civile, in particolare sulla clausola generale dell’illecito extracontrattuale prevista dal § 823 del codice civile (BGB). Lo standard di cura è oggettivo e uniforme, identificato nel fachärztlicher Standard, ossia la diligenza richiesta a un medico coscienzioso e attento, conforme alle conoscenze scientifiche consolidate al momento del trattamento[19]. Pur non vincolanti, le linee guida mediche (Leitlinien) assumono un ruolo probatorio significativo, poiché rappresentano lo stato della scienza in un determinato periodo e, ad ogni buon conto, possono fornire indicazioni preziose per la valutazione di eventuali responsabilità[20].
La giurisprudenza, inclusa quella della Corte Federale di Giustizia (Bundesgerichtshof – BGH), ha chiarito che le linee guida non possono essere automaticamente equiparate allo standard di diligenza richiesto per valutare un errore medico, né sostituiscono un parere peritale (Sachverständigengutachten). Cionondimeno, esse possono assumere un valore indiziario (Indizwirkung), in quanto riflettono le conoscenze scientifiche disponibili: una deviazione ingiustificata da linee guida di elevata qualità, come le S3-Leitlinien, può costituire un forte indicatore di colpa[21]. In linea generale, nel sistema tedesco, l’onere della prova grava sul paziente; tuttavia, è prevista, ai sensi del § 630h del codice civile tedesco, un’inversione dell’onere probatorio (Beweislastumkehr) nei casi di gravi errori medici (grober Behandlungsfehler) o di carenze nella documentazione clinica, situazioni in cui si presume l’esistenza di un nesso causale tra l’errore e il danno subito. Su questo impianto, poi, si inserisce la pionieristica Digitale-Versorgung-Gesetz (DVG) del 2019, una legge che ha istituzionalizzato l’integrazione delle tecnologie digitali nel sistema sanitario[22]. La DVG ha creato un percorso “fast-track” per l’approvazione e la rimborsabilità delle applicazioni sanitarie digitali (Digitale Gesundheitsanwendungen – DiGA) da parte dell’Istituto federale per i farmaci e i dispositivi medici (BfArM).
Questo procedimento non ha solo lo scopo di garantire il rimborso, ma crea anche un sistema di strumenti digitali valutati e approvati dallo Stato. Di conseguenza, se una DiGA viene prescritta e largamente utilizzata per una specifica patologia, col tempo potrebbe essere considerata dalla legge come parte dello standard di cura per quella condizione. Se un medico decidesse di non usare questo strumento o di ignorarne le indicazioni senza una valida motivazione clinica, un tribunale potrebbe interpretare il comportamento come una deviazione dallo standard di cura, dando origine a una nuova forma di responsabilità basata su uno “standard di cura digitale”.
Il sistema giuridico francese si distingue per un approccio duale, introdotto dalla Loi n. 2002-303 del 4 marzo 2002, conosciuta come Loi Kouchner[23]. Questo sistema affianca il tradizionale regime di responsabilità per colpa a un meccanismo di indennizzo no-fault, pensato per affrontare gli incidenti medici gravi e non colposi. Da un lato, rimane in vigore il regime di responsabilità basato sulla colpa (faute), in cui il paziente deve dimostrare un errore del medico o della struttura sanitaria. Lo standard di cura è definito dalle données acquises de la science (le conoscenze scientifiche accertate), e le raccomandazioni di buona pratica clinica (recommandations de bonne pratique) emanate dalla Haute Autorité de Santé (HAS) fungono da riferimento autorevole, pur non essendo strettamente vincolanti. Dall’altro lato, nei casi di particolare gravità derivanti da un incidente medico non imputabile a colpa (il cosiddetto aléa thérapeutique), la legge prevede un indennizzo per il paziente, finanziato dalla solidarietà nazionale (solidarité nationale) e gestito dall’Office National d’Indemnisation des Accidents Médicaux (ONIAM). Il sistema no-fault entra in gioco quando il danno supera una certa soglia di gravità e non è conseguenza di un errore professionale, ma rappresenta il verificarsi inevitabile di un rischio terapeutico. L’accesso a tale meccanismo è garantito, in particolare, nei casi di invalidità permanente superiore al 24% (soglia fissata per decreto) o di invalidità temporanea che perduri per almeno sei mesi consecutivi. Tali requisiti rendono l’accesso al sistema di indennizzo dell’ONIAM piuttosto selettivo, poiché richiedono la contemporanea presenza di due condizioni: l’assenza di colpa e un danno di particolare gravità (superiore al 24% di invalidità o equivalente in termini di inabilità temporanea)[24]. A tale proposito, tuttavia, non si può non notare come questo doppio binario offra una soluzione peculiare al problema della black box nell’uso dell’IA. Qualora un paziente subisca un danno grave e anomalo a seguito di una procedura assistita da un algoritmo opaco, potrebbe ricevere un indennizzo dall’ONIAM anche se risulta impossibile provare una colpa specifica del medico o un difetto tecnico dell’IA. Il sistema francese, in questi casi, rende prioritario l’indennizzo della vittima per un danno grave e inatteso, svincolando la compensazione dalla complessa e talvolta impossibile attribuzione della colpa. In tal modo, la creazione di un fondo di solidarietà nazionale interviene per colmare il responsibility gap generato dall’opacità tecnologica, introducendo una forma di una responsabilità obbligatoriamente assicurata.
Il sistema spagnolo si distingue per la centralità del concetto di lex artis ad hoc, un principio di matrice giurisprudenziale che definisce lo standard di cura[25]. A differenza del fachärztlicher Standard tedesco, la lex artis ad hoc non è uno standard oggettivo e predefinito, ma un criterio flessibile, determinato dal giudice caso per caso, che tiene conto di tutte le circostanze specifiche del trattamento: la specializzazione del medico, la complessità del caso, le risorse disponibili e lo stato dell’arte della scienza medica in quel preciso momento. Si tratta di un’obbligazione di mezzi e non di risultato, e la sua valutazione è rimessa all’apprezzamento del tribunale, supportato da perizie tecniche.
Le guide di pratica clinica (Guías de Práctica Clínica – GPC), pur essendo strumenti importanti per orientare la pratica medica, non sono considerate dalla giurisprudenza del Tribunal Supremo come la lex artis in sé. Esse costituiscono un riferimento autorevole, un elemento che il giudice e i periti utilizzano per concretizzare il contenuto della lex artis nel caso specifico, ma non la esauriscono né la vincolano. Il medico può e deve discostarsene se le peculiarità del paziente lo richiedono[26]. Questo approccio, basato su uno standard fluido e definito giudizialmente, offre la massima flessibilità per adattarsi all’innovazione tecnologica. Un giudice spagnolo può ponderare la novità di un sistema di IA, l’esperienza del medico con esso e le specificità del quadro clinico del paziente per determinare se la condotta sia stata diligente. Tuttavia, questa flessibilità ha un costo in termini di certezza del diritto. A differenza dell’approccio più strutturato tedesco, l’esito di un giudizio per responsabilità medica legata all’IA in Spagna sarà altamente dipendente dal singolo tribunale e dai periti nominati, portando a una giurisprudenza meno prevedibile. Questa incertezza potrebbe rappresentare un ostacolo a un’adozione uniforme e sicura delle nuove tecnologie, configurando la discrezionalità giudiziale come un’arma a doppio taglio.
4. L’intelligenza artificiale come nuovo attore nel processo decisionale in medicina
Una volta definito sinteticamente il perimetro giuridico, lo sguardo deve rivolgersi al nuovo protagonista che calca la scena clinica: l’intelligenza artificiale. Non si tratta di un semplice aggiornamento tecnologico, ma dell’introduzione di una forma di “ragionamento” non umano nel cuore dell’atto medico. Ma qual è la vera natura di questo consulente silenzioso? Può essere considerato alla stregua di un bisturi più preciso o di uno strumento diagnostico più potente, oppure rappresenta una categoria ontologicamente diversa? L’opinione che fornisce parla la stessa lingua della scienza medica basata sull’evidenza, o ci confronta con una logica aliena, fondata su correlazioni statistiche imperscrutabili? E cosa accade alla responsabilità del medico quando questo potente oracolo digitale offre i suoi verdetti da dietro il velo impenetrabile di una “scatola nera”? Analizzare queste dimensioni è il passo necessario per svelare le profonde implicazioni che l’IA proietta sul futuro della colpa medica.
4.1. Distinzione funzionale: dall’“ausilio tecnico” all’“ausilio intellettuale”
L’espressione “intelligenza artificiale” evoca una tensione profonda tra imitazione dell’umano e suo superamento. In ambito medico, tali tecnologie si manifestano prevalentemente nella forma della weak AI: dispositivi progettati per assolvere funzioni ben definite, con elevate prestazioni ma senza capacità generalizzanti. In questi casi, il ruolo del sanitario resta essenziale. Il modello ausiliario, tuttavia, tende a sdoppiarsi. Per analizzare compiutamente l’impatto dell’intelligenza artificiale sulla responsabilità professionale in ambito sanitario, si rende utile una distinzione funzionale tra forme di IA ad ausilio tecnico e ad ausilio cognitivo. La prima agisce come strumento volto a potenziare le capacità esecutive del medico, assimilabili a protesi delle abilità percettive o operative: si pensi, ad esempio, a un robot chirurgico o a un software di post-processing per immagini radiologiche. In tali casi, l’algoritmo non entra nel merito del processo decisionale clinico, ma si limita a potenziare l’azione umana. Ne consegue che l’allocazione della responsabilità permane nei binari tradizionali: il sanitario risponde per l’errato utilizzo dello strumento; il produttore, per eventuali difetti di progettazione o funzionamento. Ben più problematica è, invece, la dimensione dell’IA ad ausilio intellettuale, in cui il sistema interviene direttamente nella valutazione diagnostica, prognostica o terapeutica, offrendo al medico soluzioni elaborate tramite modelli predittivi o classificatori. In tale contesto, l’atto medico si configura non più come un dominio esclusivo della razionalità clinica, bensì come esito di un’interazione – talvolta simbiotica, talvolta conflittuale – con un’entità artificiale. Il medico non si limita a “utilizzare” l’IA, ma è chiamato a confrontarsi con un output che talvolta può apparire opaco. Questi è allora chiamato a giustificare l’adesione, o al contrario il dissenso, rispetto all’output algoritmico, assumendosi il peso della decisione finale pur nella crescente difficoltà di comprenderne i presupposti logici[27]. Tale complessità diventa ancora più evidente nei sistemi di apprendimento continuo (continuous learning systems), perché si adattano e cambiano in modo imprevedibile, spesso senza poter spiegare come arrivano alle loro conclusioni. Questo fenomeno, noto come black box effect, compromette la trasparenza del processo clinico, minando la possibilità per il medico e per il paziente di ricostruire la sequenza logica che ha condotto alla raccomandazione terapeutica. L’algoritmo, dunque, non solo sfugge al controllo, ma anche alla comprensione. E poiché la responsabilità, per essere configurabile, esige spiegabilità delle azioni, si apre un vuoto dogmatico e normativo: il cosiddetto responsibility gap, che incrina la struttura classica della colpa medica[28].
In tali scenari, l’IA non si limita a coadiuvare l’attività clinica: rischia di mutarne l’essenza. Il medico si trasforma in esecutore di decisioni calcolate altrove, perdendo la capacità di declinare la cura alla singolarità del vissuto umano. La nozione stessa di imperizia vacilla, sospesa tra ciò che può essere calcolato e misurato e ciò che sfugge alla razionalità. Il sapere medico, tradizionalmente intrecciato con l’esperienza, l’intuizione e l’empatia, è chiamato ora a dialogare con un sapere artificiale, non esperienziale, non empatico, ma incredibilmente performante. Si affacciano così interrogativi giuridici di particolare profondità: fino a che punto è lecito, o opportuno, affidare una scelta terapeutica a un algoritmo? Quale valore giuridico dovrebbero assumere le raccomandazioni generate da un sistema di IA? Possono o devono divenire un nuovo standard di riferimento nella valutazione della perizia medica?
Il diritto si trova, ancora una volta, a rincorrere la tecnica. Ma nel farlo, non può rinunciare alla sua funzione più alta: preservare la responsabilità come spazio umano di scelta, giudizio e comprensione.
4.2. La differenza epistemologica tra output dell’IA e linea guida tradizionale
La raccomandazione di un’IA è epistemologicamente diversa da una linea guida. Le linee guida sono il distillato del sapere scientifico umano, basato su nessi di causalità biologica, validato tramite un processo di revisione sistematica della letteratura (evidence-based) e formulato in un linguaggio simbolico e comprensibile[29]. Operano in modo deduttivo: dal principio generale si ricava l’indicazione per la classe di pazienti.
L’output dell’IA (specie nel deep learning) è il risultato di un processo induttivo su larga scala. L’algoritmo non “comprende” la biologia, ma apprende correlazioni statistiche da milioni di dati (data-driven), operando spesso su rappresentazioni sub-simboliche (vettori numerici in spazi multidimensionali) incomprensibili per l’uomo[30]. La sua raccomandazione non è una regola generale, ma una conclusione specifica e probabilistica per il singolo caso.
Questa distinzione è fondamentale: la linea guida offre un orientamento razionale e comprensibile, l’IA un’opinione esperta di natura aliena, potente ma il cui fondamento logico è spesso inaccessibile.
4.3. Il problema della “black box”: opacità, robustezza e il nuovo orizzonte del rischio clinico
Il problema della “scatola nera” (black box) va oltre la semplice mancanza di trasparenza. L’opacità impedisce al medico di valutare la robustezza e i limiti dell’algoritmo. Un modello può avere un’accuratezza media elevatissima, ma fallire in modo imprevedibile e catastrofico su casi “fuori distribuzione” (pazienti con patologie rare, dati anomali o provenienti da popolazioni non rappresentate nel training set). Questa “fragilità” (brittleness) introduce una nuova dimensione del rischio clinico. Il medico, non potendo comprendere perché l’IA suggerisce un certo output, non può nemmeno prevedere quando e come potrebbe sbagliare, trovandosi a gestire un rischio che non è in grado di misurare. Si profila una nuova dimensione del rischio clinico, che trascende le categorie consolidate di errore umano e disfunzione organizzativa, tradizionalmente inscritte nel paradigma del clinical risk management e proprie di contesti ad alta affidabilità[31]. Si tratta di un rischio oscuro, invisibile, impercettibile, che sfugge ai tradizionali strumenti di controllo e mitigazione. Ne consegue che la trasparenza non può più essere considerata una semplice esigenza tecnica o funzionale, ma si configura come un presupposto imprescindibile per l’implementazione e la governance di sistemi basati su intelligenza artificiale.
5. La trasparenza come requisito indefettibile: l’intelligenza artificiale spiegabile (XAI)
Di fronte al silenzio enigmatico della “scatola nera”, la comunità medica e giuridica invoca un requisito non negoziabile: la trasparenza. Per trasformare l’algoritmo da oracolo insondabile a partner affidabile, è necessario squarciare il velo della sua opacità e dargli una voce. Ma è davvero possibile insegnare a una macchina a “spiegare” le proprie decisioni in un linguaggio comprensibile per l’uomo? In che modo questa nuova capacità di dialogo può restituire al medico il pieno controllo del processo decisionale e, con esso, fornire strumenti più solidi per la sua difesa legale? E infine, questa ricercata spiegabilità è sempre una garanzia di verità o nasconde a sua volta delle insidie, creando un’illusione di comprensione? L’esplorazione dell’intelligenza artificiale spiegabile (XAI) non è un mero esercizio tecnico, ma il passaggio fondamentale per costruire un’alleanza tra uomo e macchina fondata sulla fiducia e sulla responsabilità[32].
5.1. Tecniche di XAI nel contesto medico
L’ obiettivo dell’Intelligenza artificiale spiegabile (XAI) è rendere comprensibili e dunque trasparenti i meccanismi interni dei modelli decisionali e quindi giustificabili i risultati che essi producono. Gli attuali sforzi della ricerca si orientano su due categorie di “spiegabilità”: le tecniche ex post e quelle ex ante.
La prima racchiude tutti i metodi per i quali a valle di un risultato dell’AI (ad es. diagnostica di un tumore o predizione di una risposta al trattamento chemioterapico) un utente può anche riconoscere come l’input si lega matematicamente all’output prodotto, mediante una funzione interpretativa. Tra gli approcci più consolidati in questa categoria si annoverano LIME (Local Interpretable Model-Agnostic Explanations)[33] e SHAP (SHapley Additive exPlanations)[34].
Nello specifico, LIME è una tecnica che spiega una singola predizione (ad es. su una radiografia o un referto medico) facendo piccole variazioni dell’input iniziale (ad es. cambiando l’immagine o variando i valori clinici), ottenendo le risposte del modello black-box su questi dati perturbati e addestrando su di essi un modello semplice, come una regressione lineare. I pesi di questo modello interpretabile forniscono una spiegazione locale della decisione originaria.
SHAP, invece, si basa sulla teoria dei valori di Shapley e valuta il contributo marginale di ciascuna variabile decisionale confrontando l’output del modello completo con quello ottenuto escludendo o combinando le feature in modo sistematico. Il risultato è una distribuzione equa e matematica dei pesi associati alle feature, ovvero una quantificazione di quanto ciascuna variabile abbia inciso sull’esito. Per esempio, in un modello predittivo del rischio cardiovascolare, SHAP può evidenziare che l’età del paziente ha aumentato la probabilità di insorgenza del 12%, mentre l’attività fisica l’ha ridotta del 7%[35]. Nonostante queste tecniche garantiscano un livello di trasparenza e spiegabilità dei modelli, esse non sono sufficienti in contesti quali quello medico, in quanto perdono di interpretabilità, una proprietà legata alla facilità con cui un essere umano può comprendere il processo decisionale. Non è raro, ad esempio, che i succitati modelli spiegabili (es. regressione lineare) dal punto di vista matematico non trovino corrispondenza con la complessità del modello reale (es. variabili numeriche che non hanno valenza clinica). Un’ulteriore criticità è costituita dalla limitata capacità di generalizzazione, essendo modelli sensibili al campionamento iniziale (come per i modelli LIME) o basati su associazioni e non causalità (come per i modelli SHAP), per cui le variabili statisticamente rilevanti potrebbero non essere clinicamente significative. Di seguito riportiamo la sperimentazione effettuata addestrando un modello XBoost per il riconoscimento del tumore meningioma da immagini MRI e la successiva applicazione di SHAP e LIME. Per la sperimentazione è stato usato il dataset pubblico “BRAIN-Tumor” scaricabile dal repository KAGGLE al link https://www.kaggle.com/datasets/deeppythonist/brain-tumor-mri-dataset/data?select=test, e il modello è stato addestrato considerando le feature radiomiche estratte automaticamente analizzando le immagini (caratteristiche di forma, volumetria, tessitura delle immagini stese, note come Radiomic Features). I diagrammi di seguito riportati rappresentano l’impatto delle features rispetto alla diagnosi tumorale.
Fig. I – Esempio di spiegazione ottenuta con LIME (a sinistra) e SHAP (a destra)
Un ulteriore approccio alla spiegabilità che si sta affermando in ambito medico è l’utilizzo delle heatmap generate dalla tecnica Gradient-weighted Class Activation Mapping(Gradcam). Il core di questa tecnica è quello di utilizzare i gradienti che fluiscono nell’ultimo layer delle reti neurali per generare una mappa di colore che evidenzi le regioni (in termini di pixel) che maggiormente contribuiscono all’output del modello[36]. Differentemente dai metodi precedenti che richiedono un certo livello di competenze nell’interpretazione del risultato, queste tecniche trovano largo uso grazie all’approccio visivo e molto intuivo. Dall’altro canto, resta comunque una tecnica basata su associazioni e non causalità e per di più non è agnostica rispetto al modello (come per SHAP e LIME), ma si può applicare solo ai modelli con reti convoluzionarie. Le immagini nella Figura II illustrano una heatmap Grad-CAM generata sullo stesso modello CNN e sullo stesso dataset. A sinistra è riportata l’immagine utilizzata per la diagnosi di glioma, mentre a destra la heatmap prodotta da Grad-CAM a seguito di una previsione positiva.
Fig. II – Esempio di spiegazione ottenuta con GRAD-CAM (a destra) su una diagnosi di glioma (a sinistra)
Di natura diversa sono i metodi ex ante. Qui lo sforzo del realizzatore è di garantire la spiegabilità by design, cioè intrinsecamente all’architettura del modello sin dalla fase di progettazione nell’algoritmo. È il caso dei sistemi Rule-based e dei Decision Tree, la cui struttura logica consente di seguire passo dopo passo il ragionamento del sistema. Tali modelli risultano particolarmente adatti all’ambito clinico, poiché la sequenza decisionale può essere costruita su regole diagnostiche simili a quelle applicate dai professionisti sanitari. Tra le applicazioni pratiche si possono citare sistemi automatizzati per la diagnosi precoce del diabete di tipo 2, costruiti su criteri clinici noti, o sistemi di triage nei centri di prevenzione. Il vantaggio di questi modelli è duplice: da un lato, la trasparenza e riproducibilità del processo decisionale; dall’altro,la capacità di comunicare in modo comprensibile sia al medico sia al paziente.
Fig. III – Confronto tra metodi ex post ed ex ante sulla base di complessità, spiegabilità e interpretabilità
5.2. Spiegabilità vs accuratezza
C’è allora da chiedersi, perché questi modelli, spiegabili e facilmente interpretabili sono sempre di più lasciati al margine dell’innovazione nell’ambito sanitario.
La ragione principale è da ricondurre al trade-off tra spiegabilità e accuratezza. Esistono evidenze empiriche che dimostrano come il livello di complessità dei sistemi viaggi a pari passo con quello dell’accuratezza a scapito della spiegabilità, come schematizzato in figura. Di fatto i sistemi black-box, poiché allenati su grandi quantità di dati e considerando scenari variegati, sfruttano la capacità delle reti profonde (deep) di catturare relazioni complesse e non lineari spesso non evidenti nemmeno agli esperti (si pensi ad esempio alle features volumetriche estratte da immagini 2D non percettibili ad occhio nudo). Alla luce di ciò, la sfida per l’intelligenza artificiale in medicina è quella di governare quanto più possibile il sistema inferenziale introducendo steps spiegabili nella architettura black-box. Gli esempi più promettenti riguardano l’introduzione di meccanismi di Attention, che mostrano le porzioni di input su cui il modello si concentra per prendere decisioni; Tecniche di attivazione, che visualizzano gli input che massimizzano la risposta di un neurone specifico; Visualizzazione dei pesi, che aiuta a comprendere le relazioni input-output all’interno della rete neurale.
5.3 Il ruolo dell’utente umano: verso modelli human-in-the-loop
Un approccio sempre più rilevante nel contesto dell’IA è quello Human-in-the-Loop, in cui il giudizio umano viene integrato all’interno del processo decisionale dell’IA[37]. Questo paradigma, che si distingue per la sua natura interattiva e collaborativa, è finalizzato non solo al miglioramento dell’accuratezza e dell’equità dei sistemi, ma anche alla produzione di risultati più trasparenti, interpretabili e accettabili, soprattutto in ambito medico, dove la fiducia, la responsabilità e la spiegabilità delle decisioni sono imprescindibili. I primi risultati concreti ottenuti in tale ambito riguardano in particolare l’apporto umano nella fase di etichettatura dei dati, noto come Active Learning, come nei sistemi di segmentazione delle immagini oncologiche o nell’apprendimento interattivo (Interactive Machine Learning, IML) l’interazione con l’utente umano è più frequente, incrementale e focalizzata e non si limita a fornire etichette su richiesta, ma partecipa attivamente e in modo continuo, ad esempio offrendo suggerimenti, correggendo errori, guidando l’evoluzione del modello. La sfida attuale è quella in cui è l’esperto umano a progettare l’esperienza di apprendimento del modello, definendo quali conoscenze devono essere trasferite e con quali esempi. Sfida che lascia presagire nuovi scenari di responsabilità nell’utilizzo dell’AI.
6. Scenari di interazione uomo-macchina in prospettiva comparata
Definiti i contorni tecnologici dell’intelligenza artificiale, l’analisi deve ora calarsi nella sua dimensione più concreta e spinosa: quella della responsabilità penale a titolo di colpa. Nel momento in cui il medico e l’algoritmo “decidono” insieme, chi risponde se la scelta si rivela fatale? Si innesca un complesso ‘balletto’ della responsabilità, dove ogni passo (la fiducia, il dubbio, il dissenso) assume un peso giuridico inedito. Può la raccomandazione di un software prodotto da privati offrire lo stesso ‘scudo’ giuridico di una linea guida pubblica? Cosa accade quando medico e macchina concordano nell’errore, e quando invece il clinico, fidandosi del proprio istinto, ignora un’intuizione corretta dell’IA? E come cambia la contesa probatoria in un’aula di tribunale, quando l’accusa può brandire la “controprova digitale” di un’alternativa corretta che era disponibile in tempo reale? Esplorare questi scenari significa mappare i nuovi territori del rischio penale nella medicina del XXI secolo, adottando una valutazione giuridica che dipende intrinsecamente dal sistema nazionale di riferimento.
6.1. L’impossibilità di equiparare l’output dell’IA a una linea guida tradizionale
Abbiamo già evidenziato la netta differenza epistemologica tra le linee guida tradizionali e gli output generati dall’intelligenza artificiale. Non sorprende, dunque, che le raccomandazioni algoritmiche – pur promettendo elevati livelli di accuratezza predittiva – non siano allo stato attuale né giuridicamente né epistemologicamente equiparabili alle linee guida. La lex artis si fonda su strumenti che il medico può comprendere, valutare criticamente e adattare responsabilmente al singolo caso. Le raccomandazioni derivate da modelli algoritmici, al contrario, risultano spesso intrinsecamente opache, non verificabili, e strutturalmente esposte a distorsioni dovute ai bias nei dati di addestramento, all’eterogeneità delle fonti, alla non trasparenza dei modelli. Non si tratta solo di una limitazione pratica: il cosiddetto black box effect rappresenta l’emblema tangibile di un limite epistemico profondo, che spezza la catena della giustificazione razionale e priva il medico della possibilità di motivare – in senso clinico, scientifico e giuridico – l’adozione o il rigetto dell’indicazione algoritmica. L’output di un algoritmo non può dunque essere assimilato a una linea guida. Difetta dei requisiti formali, poiché sfugge a meccanismi di validazione e pubblicazione, e sostanziali, in quanto costituisce una conclusione specifica e probabilistica, non una raccomandazione generale basata sull’evidenza. A ciò si aggiunge un elemento cruciale, spesso sottovalutato: mentre le linee guida sono frutto di un processo pubblico e trasparente, gli algoritmi sono spesso prodotti proprietari, custoditi dietro cortine di segretezza industriale, intrinsecamente opachi e refrattari alla verifica indipendente. Non siamo di fronte a linee guida, ma a prescrizioni cifrate, elaborate in ambienti chiusi, secondo logiche non sempre dichiarate, in un’asimmetria cognitiva che pone il clinico in una posizione subordinata e il produttore in una posizione normativa di fatto[38]. Elevare tali output a standard di diligenza significherebbe attribuire al professionista un obbligo di conformazione privo di base epistemologica, e dunque scaricare su di lui una responsabilità orfana di intellegibilità. Ma la responsabilità, in medicina, non deve essere mai un atto cieco: è esercizio di autonomia cognitiva e decisionale, che presuppone la possibilità di comprendere, valutare e motivare il contenuto della decisione. Esautorare il medico da tale facoltà equivarrebbe a ridurlo a mero terminale esecutivo di decisioni automatizzate e a sacrificare sull’altare dell’efficienza computazionale il nucleo etico della pratica clinica.
6.2. Lo scenario dell’“errata-conformità”: quando medico e macchina concordano nell’errore
Veniamo ora ad esplorare gli scenari di responsabilità che possono emergere dall’interazione uomo-macchina. Nonostante le potenzialità dell’intelligenza artificiale, nemmeno i sistemi più avanzati possono garantire risultati sempre perfetti. In questo quadro si profilano due figure speculari e paradigmatiche della colpa professionale, entrambe segnate da ambiguità strutturali: l’errore concordante e il dissenso proattivo. Concentriamoci sul primo: l’ipotesi in cui il medico aderisce all’indicazione dell’intelligenza artificiale, facendola propria e condividendone l’esito erroneo[39]. Nell’ordinamento italiano, si può ipotizzare che la responsabilità del sanitario non sia automaticamente esclusa per il solo fatto di aver seguito un suggerimento algoritmico, anche se validato, diffuso e apparentemente affidabile. L’adesione incondizionata all’output algoritmico, tanto più ove espresso in forma opaca, rischia di trasformarsi in una forma di negligenza, laddove manchi un vaglio critico e professionale. Da un punto di vista probatorio, la difficoltà risiede nel misurare il grado di trasparenza e comprensibilità della decisione algoritmica, spesso racchiusa in logiche proprietarie e inaccessibili. Se l’errore fosse intellegibile e riconoscibile, il medico non potrebbe trincerarsi dietro la tecnicità della macchina. Se, invece, l’output risultasse strutturalmente opaco e non esistessero alert clinici, l’errore potrebbe essere ritenuto inevitabile e la colpa, conseguentemente, esclusa. Qualora la distorsione derivi da un’anomalia intrinseca del sistema (come un bias nei dati di addestramento o un errore sistemico nel riconoscimento diagnostico) potrebbe configurarsi una responsabilità in capo al produttore del software o, eventualmente, alla struttura sanitaria in presenza di una culpa in eligendo[40]. Si tratta, tuttavia, di profili che esulano dall’oggetto della presente indagine. Resta comunque fermo che il diritto non può esigere dal medico una prestazione sovraumana, ma nemmeno ammette che egli abdichi alla propria autonomia decisionale in favore di una presunta infallibilità tecnica. La macchina poi non è mai neutrale: incorpora le scelte, i pregiudizi, le approssimazioni dei suoi progettisti, restituendo all’utente una conoscenza che è sempre il frutto di una modellazione, e mai una verità realmente oggettiva. In tale cornice, l’algoritmo che conferma un errore non solleva il medico dalla responsabilità, ma lo chiama a giustificare la propria adesione.
Sarà decisiva, allora, la natura dell’errore. Se esso è tenue, complesso da individuare, statisticamente raro, la coincidenza tra medico e IA potrà giustificare la condotta. Ma se l’errore discende da un limite noto del sistema (ad esempio, un bias sistemico nei confronti di alcune categorie di pazienti), e il sanitario non ha vigilato sull’affidabilità della fonte, l’adesione si configura come una colpa per ignoranza colpevole o per eccesso di delega. Su queste premesse, l’errore condiviso non elimina la colpa, ma la riarticola. Richiede di interrogarsi sul grado di autonomia del giudizio umano in ambienti digitalmente assistiti, e sulla misura in cui il sapere medico può, e deve, restare vigile anche di fronte alla seduzione della macchina[41]. In prospettiva comparata, emergono approcci differenti all’“errata conformità”. In Germania, i tribunali potrebbero valutare se l’adesione a un output algoritmico costituisca una deviazione dal fachärztlicher Standard: un errore modesto e non rilevabile da uno specialista diligente difficilmente configurerebbe un grober Behandlungsfehler (colpa grave), pur potendo sussistere colpa lieve qualora lo standard richiedesse controlli aggiuntivi non effettuati. In Spagna, l’analisi ruoterebbe attorno alla lex artis ad hoc, ossia lo standard di diligenza valutato caso per caso; la fiducia in un sistema certificato potrebbe risultare ragionevole, a meno che non emergano segnali d’allarme clinici che un medico attento avrebbe dovuto cogliere. In Francia, l’approccio si articola su due binari: per danni gravi, il paziente può richiedere un indennizzo no-fault tramite l’ONIAM sostenendo un aléa thérapeutique, mentre per la responsabilità per colpa occorrerebbe dimostrare una faute nell’accettare acriticamente l’indicazione algoritmica. A livello sovranazionale, infine, il Regolamento UE 2024/1689 (c.d. AI Act) si inserisce in questa prospettiva, imponendo obblighi stringenti per i sistemi IA ad alto rischio, tra cui la supervisione umana effettiva lungo l’intero ciclo di vita del sistema. Questo requisito – parte di un più ampio disegno normativo ispirato a princìpi di trasparenza, affidabilità ed eticità – mira a garantire che le decisioni automatizzate non siano mai completamente sottratte al controllo umano, ma siano invece soggette a un monitoraggio continuo, proporzionato al livello di rischio e in grado di intervenire, ove necessario, per prevenire o correggere effetti dannosi o discriminatori. La supervisione umana, in questo contesto, non si esaurisce in un controllo formale o postumo, ma implica la presenza di meccanismi tecnici e organizzativi che assicurino l’intervento umano significativo prima, durante e dopo l’uso del sistema, a garanzia di una responsabilità concreta e verificabile (cfr. Regolamento UE 2024/1689 2024).
6.3. Lo scenario dell’“errata-divergenza”: quando il medico dissente da un’IA corretta.
Speculare, ma non meno problematica, è l’ipotesi del dissenso proattivo[42]. In questo caso, il medico decide consapevolmente di non seguire la raccomandazione algoritmica che si rivela ex post corretta, fondando la propria scelta su parametri non computati dalla macchina (es. anamnesi complessa, dati recenti, elementi extraclinali). Il dissenso non è un’omissione, ma un atto medico positivo che richiede una giustificazione rafforzata. La responsabilità non deriva dall’aver “disobbedito” alla macchina, ma dall’aver potenzialmente privato il paziente di un’opportunità diagnostica o terapeutica corretta. Per difendersi, il medico dovrà dimostrare di aver avuto solide ragioni cliniche per ritenere l’output inaffidabile e, soprattutto, di aver intrapreso azioni alternative per escludere il sospetto sollevato dall’IA. Il dissenso deve essere un punto di partenza per un approfondimento clinico, non un punto di arrivo[43]. Qui, la valutazione giuridica si incentra sulla razionalità della decisione di scostarsi: se adeguatamente motivata, fondata su evidenze scientifiche o contesto clinico, la condotta potrebbe rientrare nel lecito esercizio della discrezionalità professionale. Se, al contrario, il dissenso si dimostra arbitrario, improvvido o ingiustificato, può costituire titolo di responsabilità. Si potrebbe così delineare una situazione paradossale, in cui il timore di incorrere in conseguenze negative induce il sanitario ad adeguarsi passivamente alle indicazioni fornite dall’algoritmo, anche quando in realtà vorrebbe discostarsene. Assume, in questo contesto, un ruolo fondamentale la documentazione del suggerimento algoritmico: una registrazione trasparente e completa rappresenterebbe la chiave probatoria indispensabile per rendere valutabile (e dunque eventualmente scusabile) il margine di errore umano. Sul piano comparato, è verosimile che le soluzioni giuridiche possano diversificarsi in ragione dei differenti assetti normativi e culturali. Così, in Germania, il sanitario potrebbe essere chiamato a dimostrare la conformità del proprio dissenso al fachärztlicher Standard, eventualmente corroborata da una documentazione clinica puntuale; in mancanza, la scelta divergente rischierebbe di essere letta quale errore diagnostico o terapeutico. In Spagna, la valutazione giudiziale potrebbe piuttosto incentrarsi sulla plausibilità e sulla razionalità della motivazione clinica, verificando se la lex artis ad hoc imponesse un vaglio critico ulteriore: la discrezionalità del medico verrebbe dunque riconosciuta, purché esercitata secondo criteri di fondatezza e adeguata tracciabilità. Quanto alla Francia, non può escludersi che il dissenso motivato e radicato nelle peculiarità del caso concreto possa essere valorizzato come espressione della libertà decisionale del professionista; resta fermo, tuttavia, che nei casi di particolare gravità riconducibili a eventi avversi non imputabili a colpa, il paziente potrebbe avere accesso al meccanismo indennitario del fondo di solidarietà nazionale, sempreché siano soddisfatte le soglie di gravità previste dall’ordinamento.
6.4. Il valore probatorio dell’output algoritmico: la “controprova digitale” come prova processuale transnazionale
L’output di un sistema di IA, registrato e datato, si trasforma in una “controprova digitale” che modifica le dinamiche processuali. Nel contenzioso tradizionale, la valutazione della condotta è un confronto ex post tra la decisione del medico e uno standard di cura ricostruito in sede peritale. Con l’introduzione di sistemi di IA clinica, tuttavia, il paradigma muta. L’algoritmo non fornisce più soltanto un supporto, ma produce un’alternativa concreta, documentata e disponibile hic et nunc, nel medesimo istante in cui il medico prende la propria decisione. La valutazione del comportamento sanitario non si fonda più su uno standard ricostruito in giudizio, ma su un’alternativa certificata e consultabile.
In questo nuovo scenario, l’onere argomentativo si sposta: al medico non sarà più sufficiente dimostrare la ragionevolezza della propria condotta rispetto a uno standard astratto. Egli dovrà giustificare perché ha rifiutato una raccomandazione algoritmica che, ex post, si è rivelata fondata. Il margine di discrezionalità non viene annullato, ma vincolato: la scelta divergente richiederà una motivazione esplicita, una consapevolezza documentata, un’aderenza rafforzata al metodo scientifico[44].
L’output dell’IA, in questo senso, non è prova in sé, ma indice rafforzato di ciò che il medico avrebbe potuto (e forse dovuto) fare. Una presenza silenziosa ma incisiva nel processo: capace di riscrivere, retrospettivamente, la narrazione della colpa. È plausibile, inoltre, che il peso attribuito a tale “controprova digitale” vari a seconda degli ordinamenti: in Germania, dove la centralità della documentazione clinica è tradizionalmente massima, un output ignorato senza annotazioni esplicative in cartella peserebbe in modo determinante contro il sanitario; in Spagna, esso costituirebbe un elemento imprescindibile nella valutazione peritale e giudiziale della lex artis ad hoc. In ogni caso, la presenza di questa “controprova digitale” sembra spostare l’onere argomentativo sul medico, il quale non è più chiamato soltanto a dimostrare la ragionevolezza della propria condotta rispetto a uno standard astratto, ma deve altresì giustificare in modo puntuale le ragioni che lo hanno indotto a scartare un’alternativa concreta, plausibile e documentata, offerta hic et nunc dall’algoritmo.
7. Strategie per una governance clinica dell’IA in Europa
Dopo aver esplorato le complesse faglie della responsabilità, l’analisi deve ora virare verso la costruzione di un sistema in grado di governare l’innovazione, imbrigliando la potenza dell’IA all’interno di un perimetro di sicurezza per il paziente e per il medico. L’integrazione sicura ed efficace dell’IA nel sistema sanitario richiede strategie di governance che vadano oltre la mera conformità normativa, traducendo i princìpi europei in pratiche cliniche concrete a livello nazionale e locale. L’obiettivo è governare l’innovazione senza soffocarla e senza creare nuove forme di rischio per pazienti e professionisti. Come possiamo integrare questa tecnologia dirompente senza demolire l’impianto delle buone pratiche cliniche? È l’intelligenza artificiale a dover diventare la nuova linea guida, o sono piuttosto le linee guida a dover imparare a governare l’algoritmo, scrivendone le regole d’ingaggio? E cosa succederà quando l’uso di un’IA validata diventerà il nuovo standard di cura, trasformando la scelta di non avvalersene in una potenziale colpa? Nel definire queste strategie, emerge però un rischio paradossale: quello di creare una nuova e più rigida forma di medicina difensiva, dove la paura di contraddire la macchina sostituisce il giudizio clinico, tradendo l’obiettivo stesso di una cura personalizzata.
7.1. Le linee guida come strumento per governare l’uso dell’IA
L’integrazione più efficace non consiste nell’equiparare l’IA a una linea guida, ma nel far sì che le linee guida regolino l’uso dell’IA. Le società scientifiche dovrebbero sviluppare raccomandazioni che specifichino: in quali scenari clinici l’uso di un’IA validata è raccomandato; quali standard di accuratezza e robustezza deve avere un algoritmo per essere considerato affidabile; quali versioni del software sono state validate (per gestire il problema del model drift); e quali protocolli seguire per documentare l’interazione e il dissenso. È, quindi, possibile e auspicabile predisporre linee guida che orientino l’utilizzo dell’IA in ambito sanitario. Questo approccio trova già esempi concreti in alcuni contesti europei: in Germania, il BfArM certifica le DiGA, fornendo un meccanismo di valutazione utile allo sviluppo di linee guida sull’uso delle applicazioni digitali; in Francia, la HAS può elaborare raccomandazioni che integrino l’IA nelle buone pratiche cliniche; a livello internazionale, l’Organizzazione Mondiale della Sanità, nel gennaio 2024, ha pubblicato il documento Ethics and Governance of Artificial Intelligence for Health: Guidance on Large Multi-Modal Models[45], il quale predispone oltre quaranta raccomandazioni per un impiego eticamente sostenibile dell’intelligenza artificiale. Tra i princìpi ispiratori: autonomia, equità, trasparenza, rendicontabilità, sostenibilità e inclusività. La versione italiana[46], frutto del lavoro congiunto di esperti del settore medico-scientifico e della comunicazione sanitaria, è stata arricchita da un capitolo originale volto a contestualizzare le linee guida internazionali nel quadro normativo e operativo nazionale. Tuttavia, tali linee guida non hanno ancora ricevuto validazione formale da parte del Ministero della Salute, né risultano attualmente incorporate nei protocolli del SSN. Questa inerzia regolatoria, a fronte dell’accelerazione tecnologica in corso, genera un vuoto assiologico e giuridico in cui proliferano incertezze applicative e conflitti di responsabilità. In assenza di un aggiornamento tempestivo e metodologicamente fondato delle linee guida cliniche, l’innovazione rischia di eccedere i confini della legalità, destabilizzando l’equilibrio tra standardizzazione tecnica e autonomia decisionale. È dunque necessario riaffermare, oggi più che mai, la centralità del giudizio medico, non come arbitrio soggettivo, ma come esercizio di razionalità applicata, capace di integrare le innovazioni tecniche senza abdicarvi. L’intelligenza artificiale è chiamata a concorrere nel processo decisionale clinico come componente attiva, ma non esclusiva. Deve dialogare con il sapere medico, non dettarne i confini. Deve affiancare la coscienza, non soppiantarla. La sfida che ci attende non è (solo) tecnica. È giuridica, ma anche etica e culturale. Non consiste nel decidere se accogliere o respingere l’IA, ma nel disegnare le condizioni perché essa possa essere integrata senza dissolvere l’umano nel calcolo. Si tratta di costruire un ecosistema decisionale in cui l’algoritmo non sia legislatore silenzioso e occulto, ma interlocutore trasparente; in cui la tecnologia non espropri la responsabilità, ma la renda più consapevole; in cui, infine, l’innovazione sia un linguaggio condiviso e non un oracolo opaco al servizio della cura.
7.2. La deviazione dall’output di un’IA validata come potenziale violazione delle leges artis
Nel momento in cui un sistema di IA viene rigorosamente validato e inserito dalle linee guida come parte integrante dello standard di cura per una specifica attività, il suo utilizzo diventa parte delle leges artis. Di conseguenza, la decisione di non utilizzarlo, o di ignorarne l’allarme senza una motivazione clinica prevalente e documentata, potrebbe configurare una violazione delle buone pratiche, con possibili profili di colpa per imperizia, intesa come mancato ricorso allo stato dell’arte della tecnica. L’introduzione dell’IA come elemento integrante della pratica clinica cambia dunque la nozione di diligenza professionale: il medico è chiamato non solo a conoscere e applicare le conoscenze tradizionali, ma anche a integrare e valutare criticamente le indicazioni derivanti dagli algoritmi. Ignorare o rifiutare senza giustificazione l’output dell’IA validata potrebbe, quindi, non solo compromettere la qualità delle cure, ma anche determinare una responsabilità più stringente, poiché l’algoritmo, in questo contesto, rappresenta un’estensione della scienza medica codificata.
Al contempo, è necessario sottolineare che la decisione clinica finale rimane un atto umano e che la deviazione dall’output dell’IA è giustificabile solo in presenza di motivazioni cliniche fondate, documentabili e rilevanti. La valutazione medica deve quindi continuare a basarsi su un giudizio critico e integrato, in cui l’IA è un supporto, non un vincolo automatico.
7.3. Il paradosso della “medicina difensiva algoritmica”: un nuovo rischio per le professioni mediche
L’asimmetria probatoria e la pressione legale potrebbero generare una nuova e perniciosa forma di medicina difensiva. Questo fenomeno emerge dalla combinazione di asimmetrie probatorie e pressioni legali che inducono il medico a un atteggiamento prudenziale esasperato, volto a minimizzare il rischio di contestazioni giudiziarie o disciplinari. Il medico potrebbe sviluppare una tendenza ad aderire passivamente e senza un’adeguata riflessione critica ai suggerimenti dell’algoritmo, anche quando il proprio giudizio clinico indipendente suggerirebbe soluzioni alternative. Il risultato sarebbe un progressivo appiattimento del giudizio clinico, con il medico che si limita a eseguire acriticamente le indicazioni fornite dall’intelligenza artificiale. Questo non solo impoverisce la qualità della cura personalizzata, ma provoca anche un processo di deskilling, ossia una perdita di competenze, esperienza e capacità decisionali proprie della professione medica[47]. Si verificherebbe un rovesciamento della finalità originaria della tecnologia: un sistema nato per promuovere la personalizzazione, la precisione e l’innovazione nelle cure finisce per imporre un nuovo conformismo, in cui l’algoritmo si trasforma in un nuovo feticcio cui attenersi senza discussione, a discapito dello spirito critico e dell’autonomia professionale che la giurisprudenza e l’etica medica tradizionalmente tutelano. Questo paradosso rappresenta una sfida centrale per il sistema sanitario e per il diritto: occorre infatti sviluppare un equilibrio che permetta di valorizzare l’apporto dell’IA senza che essa determini una subordinazione totale del medico, preservando il valore umano, etico e scientifico del processo decisionale clinico.
8. Conclusioni
Giunti al termine di questo percorso, che ha navigato tra le aule di tribunale e i laboratori di intelligenza artificiale, è il momento di tirare le fila e guardare verso l’orizzonte. L’analisi condotta rivela un panorama giuridico in profonda evoluzione, dove l’innovazione tecnologica agisce come un potente reagente sulle diverse culture giuridiche nazionali. L’incontro tra la colpa medica e il codice binario non è più un’ipotesi futuribile, ma una realtà che interroga il presente. Qual è, dunque, il paradigma che emerge da questa complessa interazione? E, soprattutto, quale rotta devono tracciare insieme il legislatore, le strutture sanitarie e la comunità scientifica per garantire che la promessa di una medicina potenziata dall’IA si traduca in un progresso sicuro, etico ed equo? Le conclusioni che seguono non rappresentano un punto di arrivo, ma il tentativo di abbozzare una mappa per governare una delle più grandi rivoluzioni nella storia della cura.
Sintesi del paradigma: l’IA come strumento di personalizzazione, non di sostituzione:
L’intelligenza artificiale non deve essere vista come una nuova forma di linea guida rigida, ma come un potente strumento per realizzare quel principio di personalizzazione della cura che il diritto e la deontologia richiedono. L’IA non fornisce la regola generale, ma offre un ausilio formidabile per calare tale regola nella specificità irripetibile del singolo paziente. In questa visione, la macchina non sostituisce il giudizio del medico, ma lo potenzia, fornendogli analisi complesse che, se comprese e governate correttamente, possono portare a decisioni più sicure ed efficaci. La responsabilità, di conseguenza, non svanisce né si trasferisce alla macchina, ma si riconfigura come responsabilità per il governo di un processo decisionale complesso e collaborativo.
L’analisi comparata ha mostrato che, sebbene l’AI Act armonizzi le regole per l’immissione sul mercato della tecnologia, la responsabilità per il suo uso clinico rimarrà profondamente influenzata dalle distinte tradizioni giuridiche degli Stati membri. L’approccio oggettivo e standardizzato della Germania, quello flessibile e giudiziale della Spagna, e il sistema duale di colpa e solidarietà della Francia, interpreteranno i princìpi europei, come la “supervisione umana”, attraverso le proprie lenti ermeneutiche. Questa eterogeneità non è necessariamente un limite, ma può rappresentare un laboratorio di soluzioni giuridiche diverse per una sfida comune.
Raccomandazioni per il legislatore, le strutture sanitarie e le società scientifiche:
Per governare questa rivoluzione è necessaria un’azione sinergica e multilivello, che vada oltre il singolo ordinamento nazionale e si ponga in un’ottica di sistema europeo.
Sul piano legislativo europeo e nazionale, sebbene l’AI Act e la Direttiva sulla responsabilità da prodotto difettoso forniscano un quadro solido, i legislatori nazionali dovrebbero valutare l’introduzione di norme di coordinamento. In Italia, ad esempio, si potrebbe considerare un aggiornamento che superi l’attuale rigidità dell’art. 590-sexies c.p., introducendo una disciplina specifica per la colpa medica nell’uso di sistemi di IA certificati, incentrata sulla “ragionevolezza” della condotta complessiva del medico nell’interazione con la macchina. Simili adeguamenti potrebbero essere necessari negli altri Stati membri per chiarire l’interazione tra i nuovi obblighi europei e le norme nazionali sulla responsabilità.
A livello organizzativo, le strutture sanitarie dovrebbero garantire una solida governance clinica dell’IA. Ciò significa istituire protocolli chiari per l’adozione, la validazione e il monitoraggio degli algoritmi, procedure standard per la gestione e la documentazione del dissenso motivato, e la creazione di comitati di revisione etica e tecnica. È imprescindibile investire in programmi di formazione continua che abilitino il personale a un uso consapevole e critico, non fideistico, della tecnologia, in linea con l’obbligo di supervisione umana dell’AI Act.
Sul piano scientifico e professionale, le società scientifiche, in collaborazione con enti regolatori nazionali come il BfArM tedesco o l’HAS francese, dovrebbero assumere un ruolo guida nel creare framework indipendenti per la validazione clinica e la sorveglianza post-marketing degli algoritmi. È loro compito aggiornare le linee guida per integrare raccomandazioni specifiche sull’uso dell’IA e promuovere attivamente la ricerca su sistemi XAI, affinché la trasparenza diventi un requisito irrinunciabile per ogni dispositivo medico basato su IA.
Tirando le somme, il fine non è realizzare un diritto europeo della responsabilità medica completamente uniforme, obiettivo probabilmente irrealistico e non sempre auspicabile. Piuttosto, si tratta di delineare un “modello europeo di responsabilità medica aumentata”: un quadro di princìpi condivisi (supervisione umana, trasparenza, affidabilità, spiegabilità), radicati nella normativa UE, che possano essere integrati e applicati in modo coerente all’interno dei diversi sistemi giuridici nazionali. Solo attraverso questo dialogo tra armonizzazione europea e tradizione nazionale sarà possibile garantire che la promessa di una medicina potenziata dall’IA si traduca in un progresso sicuro, etico ed equo per tutti i cittadini europei.
* I paragrafi sono così attribuibili: Mario Caterini: 1, 4, 6 e 8; Antonella Guzzo: 5; Marianna Rocca: 2, 3 e 7.
[1] Per un approfondimento sulla dialettica tra personalizzazione della cura e standardizzazione dei processi sanitari, si veda Nuti, Panero, La sfida dei servizi in sanità tra personalizzazione e standardizzazione dei processi, in Nuovi modelli di business e creazione di valore: la Scienza dei Servizi, a cura di Cinquini, Di Minin, Varaldo, Milano, 2011, 193 ss.
[2] Sul tema, v. Johnson, Wei, Weeraratne, Frisse, Misulis, Rhee, Zhao, Snowdon, Precision medicine, AI, and the future of personalized health care, in Clinical and Translational Science, 2021, 14-1, 86 ss.
[3] Mannion, Exworthy, (Re)Making the Procrustean bed? Standardization and customization as competing logics in Healthcare, in International Journal of Health Policy and Management, 2017, 6-6, 301 ss.
[4] Pfaff, Driller, Ernstmann, Karbach, Kowalski, Scheibler, Ommen, Standardization and individualization in care for the elderly: proactive behavior through individualized standardization, in Open Longevity Science, 2010, 4, 51 ss.
[5] Per un’analisi sistematica dell’impianto regolatorio e delle principali questioni aperte nel quadro del nuovo AI Act europeo, v. Ruschemeier, Bareis, Searching for harmonised rules: understanding the paradigms, provisions and pressing issues in the final EU AI Act, in Digital Decade: How the EU shapes digitalisation research, a cura di Gsenger, Sekwenz, Baden-Baden, 2025, 41 ss.
[6] Regolamento del Parlamento europeo e del Consiglio sull’intelligenza artificiale del 13 giugno 2024 (cd. AI Act), disponibile online: https://eur-lex.europa.eu/legal-content/IT/TXT/HTML/?uri=OJ:L_202401689 (consultato il 2 agosto 2025).
[7] Aboy, Minssen, Vayena, Navigating the EU AI Act: implications for regulated digital medical products, in NPJ digital medicine, 2024, 7-1, 237 ss.
[8] Per un’analisi delle implicazioni dell’AI Act nel settore sanitario, con particolare riguardo ai sistemi ad alto rischio e agli obblighi di controllo umano, v. van Kolfschooten, van Oirschot, The EU Artificial Intelligence Act (2024): Implications for healthcare in Health policy, vol. 149, Amsterdam, 2024, passim.
[9] Sulla problematica del c.d. black box effect nei sistemi algoritmici e sulle ricadute in termini di trasparenza e controllabilità della decisione automatizzata, il rinvio è a Panattoni, Intelligenza artificiale: le sfide per il diritto penale nel passaggio dall’automazione tecnologica all’autonomia artificiale, in Diritto dell’Informazione e dell’Informatica (Il), 2, 2021, 317 ss.
[10] Fragasso, Intelligenza artificiale e crisi del diritto penale d’evento: profili di responsabilità penale del produttore di sistemi di I.A., in Riv. it. dir. proc. pen., 1, 2024, 287 ss.
[11] Sul tema, un’approfondita indagine di natura comparata è offerta da Masieri, Medical Malpratice Legislation. Reforms in Civil Law Systems, Londra, 2024 e Lanzara, Medical malpractice: uno studio di diritto comparato, Torino, 2019.
[12] Sull’accertamento della colpa in ambito medico si veda Massi, Il problema della responsabilità penale del sanitario tra incertezze giurisprudenziali e insufficienze legislative, in Cass. pen., 12, 2024, 4093 ss.
[13] Sul tema, si veda, tra gli altri, Carraro, Il medico dinanzi al diritto penale. Alla ricerca di limiti relazionali all’imputazione colposa, Torino, 2022, 147 ss; Forti, Catino, D’Alessandro, Mazzucato, Varraso (a cura), Il problema della medicina difensiva. Una proposta di riforma in materia di responsabilità penale nell’ambito dell’attività sanitaria e gestione del contenzioso legato al rischio clinico, Pisa, 2010.
[14] Basile, Poli, La responsabilità per “colpa medica” a cinque anni dalla legge Gelli-Bianco, in Sist. penale, 2022, 1 ss.
[15] ex multis Cass. pen., sez. un., 21 dicembre 2017, n. 8770 in Rassegna di diritto farmaceutico e della salute, 2018, 3, 578 ss.
[16] Al riguardo, il rinvio è a De Francesco, In tema di colpa. Un breve giro d’orizzonte, in La legislazione penale, 2021, passim.
[17] Di Landro, Dalle linee guida e dai protocolli all’individualizzazione della colpa penale nel settore sanitario. Misura oggettiva e soggettiva della malpractice, Torino, 2012, passim.
[18] Cass. pen., sez. un., 21 dicembre 2017, n. 8770, cit.
[19] Frahm, Der zivilrechtliche Facharztstandard, in Medizin und Standard. Schriften zu Gesundheit und Gesellschaft – Studies on Health and Society, a cura di Jansen, Katzenmeier, Woopen, vol 3, Berlin, 2020, 93-105.
[20] Wienke, Hübner, Gahn, Facharztstandard und Leitlinien im Arzthaftungsrecht [Specialist standards and guidelines in medical malpractice law], in DGNeurologie, 3-6, 2020, 565 ss.
[21] Wienke, BGH:Leitlinien ersetzen kein Sachverständigengutachten, in GMS Mitt AWMF, 2008, 5:Doc14.
[22] Sauermann, Herzberg, Burkert, Habetha, DiGA – A Chance for the German Healthcare System, in Journal of European CME, 11-1, 2021, 2014047.
[23] Anzanello, La responsabilità professionale sanitaria dall’Arrêt Mercier alla Loi Kouchner, in Assicurazioni, 2017, 255 ss.
[24] Scarchillo, La responsabilità medica: risarcimento o indennizzo? Riflessioni, evoluzioni e prospettive di diritto comparato, in Responsabilità civile e previdenza, 5, 2017, 1498B ss.
[25] Vázquez López, La Lex Artis ad hoc” como criterio valorativo para calibrar la diligencia exigible en todo acto o tratamiento médico: A propósito de un caso basado en la elección de la técnica empleada en el parto (parto vaginal vs. cesárea), in Cuadernos de Medicina Forense, 16-3, 2010, 179 ss.
[26] Feliu, Estándar de diligencia médica y valor de los protocolos y guías de práctica clínica, in Revista de Derecho Civil, IX-3, 2022, 25 ss.
[27] Hanno efficacemente segnalato tali aspetti: Amore, Cioni, Corti, Lippi, Sestieri, Vallini, Policy Paper. Buone pratiche e modelli di regolamentazione per l’impiego della IA nella diagnostica per immagini, in La legislazione penale, 2024, pp 3–4, 11–13.
[28] Sull’argomento, Giubilini, It is not about AI, it’s about humans. Responsibility gaps and medical AI, in Bioethical Inquiry, 22-3, 2025, 527–537; Matthias, The responsibility gap: Ascribing responsibility for the actions of learning automata, in Ethics and Information Technology, 6, 2004, 175–187.
[29] Per un approfondimento sulla natura delle linee guida si rimanda a Caputo, “Filo d’Arianna” o “Flauto Magico”? Linee guida e checklist nel sistema della responsabilità per colpa medica, in Dir. pen. contemp., 55-3, 2012, 875 ss; Valbonesi, Linee guida e protocolli per una nuova tipicità dell’illecito colposo, in Riv. it. dir. proc. pen., 1, 2013, 250 ss.
[30] Peluso, Data Driven Innovation in medicina, vantaggi e prospettive critiche, in Responsabilità medica, 3, 2021, 225 ss.
[31] Caputo, Prevenire è meglio. Uno sguardo interdisciplinare sull’organizzazione sanitaria quale fonte di rischi e garante della sicurezza delle cure, in Rivista italiana di medicina legale e del diritto in campo sanitario, 4, 2020, 1955 ss.
[32] Mienye, Obaido, Jere, Mienye, Aruleba, Emmanuel, Ogbuokiri, A survey of explainable artificial intelligence in healthcare: Concepts, applications, and challenges, in Informatics in Medicine Unlocked, 51, 2024, 101587.
[33] Ribeiro, Singh, Guestrin, “Why Should I Trust You?”: Explaining the Predictions of Any Classifier, in Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (KDD ’16), Association for computing machinery, New York, 2016, 1135-1144.
[34] Lundberg, Lee, A unified approach to interpreting model predictions, 31st Conference on Neural Information Processing Systems (NIPS 2017), Long Beach, CA, USA.
[35] Sun, Akman, Schuller, Explainable Artificial Intelligence for Medical Applications: A Review, in ACM Transactions on Computing for Healthcare, 6-2, 2025, 17 ss.
[36] Selvaraju, Cogswell, Das, Vedantam, Parikh, Batra, Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization, in 2017 IEEE International Conference on Computer Vision (ICCV), Venezia, 2017, 618-626.
[37] Mosqueira-Reyet, Hernández-Pereira, Alonso-Rìo, Bobes-Bascarán, Human-in-the-loop machine learning: a state of the art, in Artificial Intelligence Review, 56-4, 2022, 3005 ss.
[38] In questi termini, Salvadori, Agenti artificiali, opacità tecnologica e distribuzione della responsabilità penale, in Riv. it. dir. proc. pen., 2021, 1, 83–118.
[39] Amore, Cioni, Corti, Lippi, Sestieri, Vallini, Policy Paper, cit., pp 3–4, 11–13.
[40] In tema si vedano Fragasso, Intelligenza artificiale e crisi del diritto penale d’evento, cit., 287 ss.; Salito, La responsabilità da algoritmo tra (teoria della) finzione e realtà sanitaria: una nuova declinazione della responsabilità medica?, in Rivista italiana di medicina legale (e del diritto in campo sanitario), 4, 2022, 849 ss.
[41] Mosqueira-Rey, Hernández-Pereira, Alonso-Ríos, Bobes-Bascarán, Fernández-Leal, Human-in-the-loop machine learning: a state of the art, in Artificial Intelligence Review, 56, 2023, 3005–3054.
[42] Amore, Cioni, Corti, Lippi, Sestieri, Vallini, Policy Paper, cit., pp 3–4, 11–13.
[43] Verdicchio, Perin, When doctors and AI interact: on human responsibility for artificial risks, in Philosophy and Technology, 35, 2022, 11 ss.
[44] Sull’onere argomentativo rafforzato, si veda Giannelli, Nuove declinazioni della decisione motivata, in Diritto amministrativo, 4, 2024, 1020 ss.
[45] World Health Organization (2024) Ethics and governance of artificial intelligence for health. Guidance on large multi-modal models. Geneva, disponibile online: https://www.who.int/publications/i/item/9789240084759 (consultato il 4 agosto 2025).
[46] Società Italiana di Intelligenza Artificiale in Medicina (SIIAM), Zadig srl Società Benefit (2024). Etica e governance dell’intelligenza artificiale per la salute. Linee guida per i modelli multimodali di grandi dimensioni (LMM), Milano, Zadig srl Società Benefit. Disponibile online: https://www.zadig.it/wp-content/uploads/2024/06/LG-AI-IT-def_1.pdf (consultato il 4 agosto 2025).
[47] Oliva, Grassi, Vetrugno, Rossi, Della Morte, Pinchi, Caputo, Management of medico-legal risks in digital health era: a scoping review, in Frontiers in Medicine, 8, 2022, 821756 ss.
