Predictive policing: dal disincanto all’urgenza di un ripensamento

La preoccupazione principale nei confronti dell'utilizzo di sistemi di predictive policing risiede nella consapevolezza che i sistemi di intelligenza artificiale, pur impiegando algoritmi e strumenti di machine learning come sostituti della mente umana, in realtà sono prodotti creati dall’uomo e per questo intrinsecamente caratterizzati dalle umane imperfezioni. Infatti, molti autorevoli studiosi, nell’evidenziare come la qualità e l’equità dei sistemi di predictive policing dipenda strettamente dal livello qualitativo dei dati che vi vengono inseriti, hanno denunciato il rischio che all’interno dei software predittivi utilizzati dalle forze dell’ordine vengano inseriti i c.d. dirty data, ovvero dati ufficiali presenti all’interno dei databases dei Dipartimenti di Polizia derivanti (o comunque influenzati) da pregiudizi, pratiche corrotte o attività illegali (ad es. report ufficiali falsificati, prove falsificate, arresti motivati da pregiudizi razziali ecc.) perpetrate nel corso degli anni da parte delle forze dell’ordine, spesso nei confronti di minoranze. Il dibattito in merito all’impatto dei sistemi di predictive policy ha anche coinvolto la giurisprudenza che si è trovata a doversi confrontare con le sfide poste dall’innovazione tecnologica nel campo della giustizia penale e con gli aspetti positivi e negativi dei modelli predittivi.