Un caso esemplare (ma ormai non più isolato) è quello occorso davanti al Tribunale di Firenze nel marzo 2025, dove un avvocato ha citato sentenze inesistenti generate dalle “allucinazioni” di ChatGPT; si ha inoltre notizia che lo stesso problema sia emerso dall’analisi di un piccolo numero di sentenze.
Questa diffusione ha generato preoccupazioni legittime riguardo all’originalità, alla correttezza e alla documentabilità dei testi prodotti, portando all’invocazione di sistemi di controllo, noti come detector, capaci di rilevare l’utilizzo di IA. Tuttavia, l’impiego di questi strumenti nell’ambito della giustizia presenta complessità intrinseche e criticità strutturali che ne limitano drasticamente l’ammissibilità e l’affidabilità probatoria.
I detector sono sistemi che mirano a identificare i testi generati con l’uso degli LLM (Large Language Models) basandosi su diverse architetture tecnologiche.
Alcuni sfruttano la perplexity, cioè misurano quanto un testo sia prevedibile in base ai pattern linguistici tipici di un modello generativo, sebbene questo approccio possa classificare erroneamente come generati da IA anche testi umani caratterizzati da costruzioni sintattiche semplici o lessico comune, come quelli redatti da persone con limitate competenze linguistiche.
Altri sistemi, come quelli basati sull’entropy analysis o sui classifier SOTA (State-of-the-Art) analizzano la varietà lessicale e la complessità sintattica.
Nonostante i produttori dichiarino accuratezze elevate, gli studi indipendenti documentano delle performance significativamente inferiori, rivelando tassi di falsi positivi che possono avere effetti drammatici se applicati a grandi volumi di documenti ed in settori sensibili.
Un rischio specifico in ambito legale riguarda la natura stessa degli atti processuali, che contengono spesso estese citazioni di sentenze o opere monografiche usate per avvalorare una linea difensiva. Ma quelle “fonti” sono ormai “dati” che fanno parte della maggior parte dei dataset usati dai modelli di IA (anche di quelli gratuiti e generalisti, che sono i più diffusi); sono artefatti umani ormai “elevati a dignità digitale” e paradossalmente possono essere denunciati dai detector come testi generati da sistemi di IA.
Inoltre, i detector sono vulnerabili alle tecniche di elusione, i cosiddetti “AI bypassers“, sistemi, anch’essi algoritmici, che modificano il testo generato (dagli altri sistemi) per renderlo irrintracciabile attraverso manipolazioni più o meno sofisticate come la parafrasi o l’introduzione mirata di errori ortografici.
È facilmente prevedibile che la situazione sia destinata a generare una vera e propria corsa agli armamenti tra sistemi generativi e sistemi di rilevamento, minando la stabilità e l’affidabilità a lungo termine di questi ultimi.
L’utilizzo dei detector in un contesto così sensibile come quello giudiziario solleva immediatamente questioni relative ai diritti fondamentali e agli standard probatori.
Sia il Regolamento UE sull’IA (AI Act) che la normativa nazionale italiana, in particolare la Legge n. 132 del 23 settembre 2025 (in vigore dal 10 ottobre 2025), classificano i sistemi IA impiegati in ambito giudiziario come “ad alto rischio”.
La legislazione italiana stabilisce che l’IA deve fungere da potenziamento, non da sostituzione, del processo decisionale e della responsabilità umana.
Il giudice, e per estensione l’operatore del diritto, rimane l’unico responsabile di ogni decisione concernente l’interpretazione del diritto, la valutazione dei fatti e l’emanazione dei provvedimenti. La norma esclude esplicitamente l’automazione decisionale in ambito giudiziario.
A sua volta, il Regolamento Generale sulla Protezione dei Dati (GDPR) si oppone all’uso di sistemi black-box opachi, stabilendo il diritto a non essere sottoposti a decisioni basate unicamente su trattamenti automatizzati che producano effetti giuridici significativi. Ne consegue che l’impiego di detector per generare segnalazioni che influenzino in modo rilevante decisioni disciplinari o processuali potrebbe configurare una violazione del GDPR, richiedendo sempre e comunque la supervisione umana (human-in-the-loop).
Nel processo, l’ammissibilità dei risultati di un detector automatico è estremamente problematica. In Italia, i risultati dei detector potrebbero essere considerati esclusivamente come ausilio preliminare o “screening”, mai come prova unica e definitiva della creazione di atti o provvedimenti mediante sistemi di IA generativa.
Ulteriore ausilio potrebbe essere offerto dalla linguistica forense e dalla stilometria, che analizza caratteristiche stilistiche profonde come lunghezza delle frasi e ricchezza lessicale. Tuttavia, anche la stilometria presenta aspetti irrisolti che ne limitano la piena accettazione come disciplina forense per valutare il valore probatorio dei risultati.
Per l’avvocato, l’uso dell’IA in fase di preparazione dell’atto deve essere improntato a diligenza e trasparenza. L’avvocato mantiene la piena responsabilità personale per errori e negligenze, anche se derivanti da output di IA.
Sotto questo profilo la Legge 132/2025 impone all’avvocato l’obbligo di informare chiaramente il cliente sull’uso dei sistemi IA durante la prestazione professionale, specificando le funzioni svolte e i limiti. Ciò richiede la documentazione scrupolosa di ogni passaggio analitico e, magari, anche la tenuta e la conservazione di un registro dell’uso dell’IA, per dimostrare il controllo professionale e la supervisione umana esercitata sullo strumento.
In sintesi, l’adozione di detector in ambito giudiziario richiede un approccio caratterizzato da estrema cautela e consapevolezza critica. La sfida non è quella di cercare una macchina perfetta che controlli le altre macchine, ma mantenere salda la responsabilità umana e investire nell’AI literacy (in parole povere, nella sufficiente consapevolezza di quel che si sta facendo) per applicare gli strumenti tecnologici in modo deontologicamente corretto, trasparente e rigorosamente sottoposto agli standard processuali consolidati, trasformando così il rischio di automazione opaca in un’opportunità di potenziamento della professione.
Avv. Paolo Assirelli
