L’intelligenza artificiale si pone al servizio della lotta contro la violenza di genere grazie al progetto ViDeS – VIolence DEtection System -, l’iniziativa finanziata da Fondazione CRT che propone di analizzare automaticamente i referti clinici dei Pronto Soccorso per identificare lesioni di possibile origine violenta, contribuendo così alla prevenzione del femminicidio.
Il progetto, che unisce competenze interdisciplinari di epidemiologia, informatica, psicologia e medicina, è il frutto di una collaborazione tra enti di ricerca e strutture sanitarie. Alla guida del team scientifico, il ricercatore Daniele Radicioni ci racconta come un’idea nata dall’osservazione di un dato inquietante – la correlazione tra accessi in Pronto Soccorso e femminicidi – si sia trasformata in un sistema innovativo capace di migliorare il riconoscimento e la documentazione dei casi di violenza, offrendo uno strumento concreto e utile nella prevenzione della violenza.
Da cosa è nata l’idea di sviluppare ViDeS? C’è stato un evento o un dato specifico che ha spinto a lavorare su questo tema?
Perché i referti del Pronto Soccorso sono considerati predittori così importanti di episodi di femminicidio?
Quali sono le principali difficoltà che impediscono il riconoscimento della violenza nei referti clinici?
Le difficoltà sono di varia natura. In primo luogo la definizione di ‘violenza’ e ‘reato’ può purtroppo essere controversa: in alcuni contesti dare (o ricevere, se donna) uno schiaffo durante una conversazione può essere considerato normale, e le stesse donne possono essere partecipi di questa tolleranza per la violenza che le affligge, e quindi non reputare reato tutto ciò che limita la loro libertà da un punto di vista sia psicologico sia fisico. Chi giustifica il ceffone è poi reticente e disposta a mentire sulle cause di una lesione.
Un aspetto cruciale riguarda il contesto in cui si manifesta la violenza di genere, che spesso avviene in ambito familiare o relazionale, all’interno delle mura domestiche. Denunciare un partner o un familiare significa riconoscere che la casa, percepita come un luogo sicuro, è in realtà teatro di abusi, e che la persona che dovrebbe essere fonte di protezione è invece il perpetratore della violenza. Questa consapevolezza spiega la riluttanza di molte vittime a denunciare. Un ulteriore elemento drammatico è che, talvolta, le vittime si presentano in ospedale accompagnate dallo stesso autore delle violenze, che controlla il loro racconto. A complicare ulteriormente la situazione intervengono barriere linguistiche, dipendenza economica, problemi fisici o psicologici e l’eventuale abuso di sostanze, tutti fattori che possono compromettere la capacità di denunciare e la percezione degli eventi subiti.
Un’altra difficoltà, indipendente dai fattori legati alla vittima, riguarda la registrazione accurata delle informazioni da parte degli operatori sanitari. Dopo aver redatto la nota di triage e la relazione di visita, il personale del Pronto Soccorso deve indicare se le lesioni riscontrate hanno origine violenta o meno. Tuttavia, la pressione lavorativa, interfacce informatiche complesse o poco intuitive e il tempo limitato possono ostacolare questa annotazione, rischiando che informazioni cruciali non vengano trasferite nei registri sanitari e vadano perse. È proprio qui che il nostro sistema può fare la differenza: grazie a suggerimenti automatici, il sistema supporta gli operatori nel riconoscere lesioni di probabile origine violenta, facilitando una registrazione rapida e supervisionata, senza gravare ulteriormente sul loro carico di lavoro.
Come funziona esattamente il sistema per l’analisi intelligente dei referti? Quanti record avete analizzato?
Il sistema, nella sua essenza, è semplice: analizza un testo e determina se le lesioni descritte sono di origine violenta o meno. I documenti processati includono la nota di triage, una breve descrizione del contesto del trauma, e la visita in ingresso, che riporta i riscontri del primo esame medico.
Abbiamo raccolto un dataset significativo, con circa 500.000 record. Questa vasta mole di dati è stata fondamentale per addestrare il sistema, permettendogli di distinguere tra casi di lesioni violente e non violente grazie all’esposizione a numerosi esempi positivi e negativi.
Quali sono le tecnologie o i modelli di intelligenza artificiale utilizzati per raggiungere un’accuratezza elevata?
Utilizziamo dei modelli probabilistici del linguaggio, che imparano a costruire delle sequenze di parole (o meglio, di parti di parole) o a individuare parole mancanti all’interno di una sequenza. Si tratta di sistemi che producono una rappresentazione numerica del testo, che poi viene passata a reti neurali che si occupano della classificazione: l’output del sistema riporta se il referto corrente contiene la descrizione di una lesione dovuta a violenza o ad altro.
Quanto è stato importante il contributo del team interdisciplinare per il successo del progetto? Chi ha lavorato al progetto?
Il progetto è interdisciplinare ed aperto a vari attori anche esterni all’Università, perché un problema complesso richiede risposte articolate. Abbiamo collaborato con la Prof.ssa Georgia Zara (psicologa, del Dipartimento di Giurisprudenza), la Prof.ssa Paola Torrioni (Dipartimento di Culture, Politica e Società), la Prof.ssa Sarah Gino del Dipartimento di Scienze della Salute dell’Università del Piemonte Orientale. Altri importanti compagni di strada sono stati la Dott.ssa Arianna Vitale della Direzione Sanitaria dell’AO Mauriziano di Torino, i Dottori Carlo Mamo, Marco Dalmasso e Luca Cuomo del Servizio Sovrazonale di Epidemiologia (SEPI) ASL TO3 di Grugliasco, i Dottori Alessio Pitidis e Marco Giustini dell’Istituto Superiore di Sanità, Reparto Epidemiologia Ambientale e Sociale Dipartimento Ambiente e Salute. Fra gli informatici hanno collaborato il Dott. Enrico Mensa, il Dott. Matteo Delsanto e Lorenzo Caresio, brillante tesista del corso di Laurea Magistrale in Informatica, indirizzo Intelligenza Artificiale e Sistemi Informatici “Pietro Torasso”. Un team che dimostra quanto l’impresa scientifica sia un’impresa collettiva e interdisciplinare.
Quali sono stati i principali risultati ottenuti durante la sperimentazione?
Il nostro sistema raggiunge un livello di accuratezza molto alto nel classificare record nuovi, cioè a cui non è stato esposto nella fase di addestramento: come ordine di grandezza, in oltre il 97% di casi in cui classifica correttamente le lesioni come violente o non violente. Il sistema potrebbe quindi ricevere quanto il personale di Pronto Soccorso scrive (o sta scrivendo, in tempo reale), e potrebbe dare il proprio suggerimento sul fatto che la lesione sia da annotare come violenta.
Un altro task in cui abbiamo ottenuto dei risultati è quello della rilevazione per analisi retrospettiva. Analizzando oltre 350 mila record provenienti dall’AO Mauriziano abbiamo verificato che il nostro sistema classificava come violenti circa 2000 record, che invece nel sistema della struttura risultavano come contenenti lesioni non correlate alla violenza. Nel 96% dei casi, tutti controllati da noi manualmente, le predizioni del sistema si sono rivelate corrette.
Può darci un esempio concreto di come il sistema ha individuato un caso di violenza non correttamente annotato dai medici?
Quali sono state le maggiori sfide nell’implementazione del sistema?
Dal punto di vista storico, nella fase successiva al COVID, non abbiamo inizialmente goduto di condizioni agevoli. Le strutture sanitarie si trovavano ad operare in condizioni di grande pressione, e quindi non era scontato che ci dessero ascolto e trovassero le energie per raccogliere i dati che richiedevamo. Le maggiori sfide non sono quindi state di natura tecnica o scientifica, ma sono sono consistite nell’ottenere i dati per addestrare e testare il sistema. Altra questione è quella della privacy: i dati medici e clinici sono comprensibilmente protetti da una normativa stringente, che ne limita molto la circolazione anche per la ricerca. Alla fine siamo riusciti a stabilire una fruttuosa collaborazione con l’Ospedale Mauriziano di Torino attraverso una convenzione stipulata dal Dipartimento di Informatica dell’Università di Torino e l’AO Ordine Mauriziano, all’interno della quale abbiamo ricevuto i dati necessari al progetto.
Che feedback avete ricevuto finora dalle strutture sanitarie coinvolte?
Abbiamo avuto un attimo riscontro con il Mauriziano: la Direzione Sanitaria (Dott.ssa Vitale), la Direzione dei Sistemi Informativi (Dott.ssa Torrengo), e la Direzione del Dipartimento Emergenza e Accettazione, Pronto Soccorso (Dott. Vallino) che con grande disponibilità ci hanno concesso i dati richiesti, e hanno mostrato grande disponibilità e sensibilità per il progetto. Siamo grati al personale del Mauriziano per la disponibilità fattiva, pur in frangenti non semplici, come quelli richiamati del periodo post-COVID.
Può spiegare meglio come funzionerà la “versione leggera” del sistema e perché è importante per gli ospedali?
Stiamo studiando delle soluzioni per utilizzare dei modelli più leggeri e sviluppare un sistema che possa essere eseguito su macchine di profilo consumer. Per ‘leggeri’ intendiamo modelli caratterizzati da un minor numero di parametri e che quindi non richiedano apparati di calcolo ad alte prestazioni. Ovviamente modelli meno sofisticati possono avere accuratezze meno alte, il problema è quindi trovare un bilanciamento fra accuratezza e possibilità di utilizzare il sistema anche su calcolatori di gamma intermedia.
Stiamo inoltre analizzando meccanismi di calcolo che consentano di non fare uscire i dati dalle strutture sanitarie, ma di condividerne alcuni elementi in modo da riuscire a mettere in relazione accessi ripetuti di una singola persona in strutture distinte. L’idea è rispettare la privacy permettendo di tracciare le informazioni utili a interrompere la catena di violenze prima che questa produca effetti letali.
Quali sono i prossimi passi per rendere ViDeS un sistema utilizzato su scala più ampia?
Come crede che ViDeS possa cambiare il modo in cui le strutture sanitarie affrontano i casi di violenza?
Spero con modifiche minime rispetto ai flussi di lavoro quotidiani, ma con un effetto apprezzabile nella rilevazione della violenza.
In che modo questo progetto potrebbe contribuire alla prevenzione del femminicidio?
Riprendendo quando affermato prima, se gran parte delle vittime di femminicidio sono passate dai reparti di Pronto Soccorso, intercettare e dare risposta ai problemi che si manifestano in Pronto Soccorso aumenta la probabilità di non arrivare ad esiti letali.
