Explainable Artificial Intelligence nel Processo Civile: riflessioni e spunti operativi

di Francesco Rundo e Agatino Luigi Di Stallo

Le applicazioni basate su algoritmi di Artificial Intelligence (AI), stanno rivoluzionando significativamente la nostra società contribuendo attivamente ad un miglioramento delle performance in vari settori, dalla medicina alla robotica all’economia e “last but not least” al settore della Giustizia. In quest’ultimo ambito, i termini e le relative teorie sottese, quali “Giustizia Predittiva” o “Giustizia Intelligente” stanno progressivamente incidendo nei processi decisionali che gli organi governativi sono spesso chiamati a valutare per legiferare nell’ambito di riforme da operare in vari settori tra cui, appunto, quella della Giustizia con special focus al mondo propriamente giudiziario legato ai processi. Il presente contributo illustrerà sommariamente gli indubbi vantaggi che il mondo giuridico potrebbe ricavare dall’introduzione di una particolare estensione dell’AI, ossia l’Explainable AI che alle tecniche analitiche classiche del deep learning, associa delle metodiche di interpretabilità dei modelli AI al fine di consentire una validazione robusta del modello inferenziale con cui tali approcci pervengono a decisioni predittive.

1. Introduzione

Nel recente periodo stanno riscuotendo notevole interesse in diversi ambiti applicativi, i c.d. prediction systems ossia tecnologie in grado di predire specifici indici o behaviour sulla base di una sofisticata analisi multi-modale di dati correlati al fenomeno da monitorare. Tra gli ambiti applicativi vale certamente la pena annoverare, per le finalità sottese al presente contributo, il settore della giustizia, oltre a quelli contigui del diritto in generale e delle scienze forensi. Si sente sempre piu’ spesso parlare di Giustizia Predittiva ossia l’utilizzo delle moderne tecniche di Artificial Intelligence (AI) funzionali ad attuare attività predittive in ambito giuridico quali ad esempio: la più probabile decisione del giudicante in un giudizio; la più probabile strategia legale adottata da controparte in un procedimento giudiziario; il rischio di soccombenza o condanna in un processo.

Le moderne tecniche di AI possono altresì essere utilizzate per assistere il giudicante durante la delicata fase di “costruzione della decisione” che include la disamina degli atti processuali annettendo pertanto l’analisi di memorie documentali, trascrizioni, dati digitali, etc.. Tuttavia a questo notevole impulso innovativo deve anteporsi il problema dell’interpretabilità di questi sistemi di AI che spesso vengono presentati come vere e proprie “Black Box” capaci di produrre soluzioni robuste ed innovative senza però rendere chiaro al fruitore di settore (per esempio il giudice o l’avvocato) mediante quali criteri e secondo quali valutazioni il sistema di AI ha elaborato al proprio la predizione di un determinato behaviour ovvero la definizione di una determinata soluzione. Si tratta a ben vedere di una specifica criticità riconducibile all’applicazione di tecniche di AI al mondo giudiziario, per
natura sensibile alla trasparenza del processo utilizzato per raggiungere una determinata decisione.

Infatti, ben potrebbe accadere che a causa di errori colposi (ovvero consapevolmente introdotti, in uno scenario “worst case”) ad opera del designer/progettista del sistema di AI ideato come “motore intelligente” di un framework di giustizia predittiva, quest’ultimo produca delle predizioni errate o, peggio ancora, assista il giudicante nella fase di “decision making” in modo errato alterando conseguentemente il delicato processo decisionale che deve portare un organo giudicante a produrre una decisione “giusta” e ponderata. Per risolvere questa importante criticità, la comunità scientifica ha nel recente periodo investigato profondamente la problematica, coniando e promuovendo il termine di “Explainable Artificial Intelligence” cioè sistemi di intelligenza artificiale che siano “Explainable” ossia spiegabili, interpretabili e che rendano evidente, in una forma facilmente comprensibile all’utilizzatore, i criteri interni che sono stati utilizzati dal sistema di AI per produrre una determinata predizione o un determinato output [1]. Ambito applicativo del presente contributo è il design di sistemi “Explainable AI” per assistere il giudicante nel processo civile. Tuttavia, con le debite modifiche tecniche, le linee guida che si provvederà ad indicare, potrebbero certamente essere replicate a favore di applicazioni nel settore penale ed amministrativo.

Il Processo Civile: procedura e processo di “Decision Making”

Il processo civile include il complesso delle attività e delle forme mediante le quali appositi organi prestabiliti dalla legge esercitano il potere giurisdizionale. Nel caso in esame il riferimento principale è da rinvenirsi nel codice di procedura civile integrato ed esteso da un ulteriore set di leggi speciali, avente ad oggetto il rispetto delle principali garanzie costituzionali del nostro ordinamento, ed in primo luogo il diritto di azione, richiamato dall’art. 24 della Costituzione. Gli operatori del diritto sono ben consapevoli dei problemi applicativi che affliggono il settore, dilatando oltre misura i tempi di risposta alle istanze avanzate dai fruitori del sistema. Ed infatti non passa giorno che non si affronti tra la pubblica opinione ma anche nelle aule giudiziarie il problema della riforma del sistema giudiziario. Attualmente il processo civile di primo grado
consta delle seguenti fasi:

Lawful Interception per gli Operatori di Tlc

• Atto di citazione ex art. 163 c.p.c.
  • l’atto introduttivo del procedimento di cognizione.
• Costituzione dell’attore (art. 165 c.p.c.)
  • Deposito della nota di iscrizione a ruolo della causa, unitamente al proprio fascicolo.
• Costituzione del convenuto (artt. 166 – 167 c.p.c.).
  • Il convenuto ha l’onere di depositare in cancelleria il proprio fascicolo.
• Designazione del giudice con decreto del presidente del tribunale (art.168 e 168-bis c.p.c.).
  • Prima comparizione delle parti e trattazione della causa (art. 183 c.p.c.).
• 3 memorie (sia per parte attore che per il convenuto – art. 183 VI comma c.p.c.).
• Udienza per provvedere sulle richieste istruttorie (art. 183 VII comma c.p.c.).
• Rimessione “anticipata” al collegio (art. 187 c.p.c.) – Fase eventuale.
• Udienza di assunzione dei mezzi di prova (art. 184 c.p.c.)
  • In questa fase può essere disposta una Consulenza Tecnica di Ufficio.
• Rimessione della causa al collegio (art. 189 c.p.c.). Fase eventuale.
• Comparsa conclusionale (art. 190 c.p.c.).
• Repliche.
• Sentenza.

… Continua su EDICOLeA