Il Magistrato robot è realtà: come nei film di fantascienza una macchina ci giudicherà

Robocop nella storia del cinema ha scritto pagine interessanti, piacevoli e anche divertenti. Ma l’idea che un robot possa giudicare un essere umano nella realtà fa riflettere, preoccupa. E’ quanto sta accadendo in Cina.

Alcuni ricercatori asiatici stanno testando una nuova macchina che con l’ausilio dell’intelligenza artificiale (AI) sarebbe in grado di identificare i crimini e sporgere denuncia, rivela il South China Morning Post.

Un magistrato-robot testato a Shanghai Pudong, la più grande procura distrettuale del paese: può presentare un’accusa con una precisione superiore al 97% sulla base di una descrizione di un sospetto procedimento penale. “Il sistema può sostituire in una certa misura i pubblici ministeri nel processo decisionale“. Così, l’agghiacciante sintesi dei ricercatori cinesi, in un articolo pubblicato sul Management Review.

Otto reati e quasi il 100% di precisione in oltre 17mila in un lustro di sperimentazione

La macchina è costruita su uno strumento di Intelligenza Artificiale esistente, chiamato System 206, già peraltro utilizzato dalle autorità di Shanghai per aiutare a valutare le prove e decidere se un sospetto criminale fosse pericoloso o meno. Secondo i ricercatori, la tecnologia era ancora acerba, o per meglio dire piuttosto limitata, in quanto non poteva “partecipare al processo decisionale di presentazione di accuse e sentenze“. Dalla base, però, si sta cercando l’altezza della situazione.

Già, a quanto pare lo sviluppo dell’Intelligenza Artificiale sarebbe arrivata a identificare e rimuovere le informazioni irrilevanti in un caso, oltre ad essere in grado di elaborare il linguaggio umano nella sua rete neurale. Il magistrato-robot, sempre secondo i ricercatori, è capace di identificare e accusare, con bassissima percentuale di errore, in otto crimini più comuni di Shanghai: frode con carta di credito, gioco d’azzardo, guida spericolata, aggressione intenzionale, intralcio a un ufficiale, furto, frode e persino dissenso politico.

LEGGI ANCHE >>> Allerta RedLine, il malware che ci ruba le password tramite il Google Drive: ecco come proteggersi

L’inclusione del dissenso, ma non solo, ha sollevato preoccupazioni sul fatto che il sistema possa essere adottato dal regime cinese e utilizzato come arma per reprimere le proteste politiche. Più in generale c’è da preoccuparsi proprio per il principio secondo cui un magistrato-robot può colpevolizzare una persona.

LEGGI ANCHE >>> LG OLED arriva con la classe G alla mostruosa misura di 97″: tutto rispetto anche per la C2 dai 83″ ai 42″

Purtroppo, però, è tutto vero: il software è stato realizzato dalla Procura del popolo di Shanghai Pudong e già utilizzato in oltre 17mila casi, sperimentato tra il 2015 e il 2020. Un lustro nel quale il magistrato robot avrebbe valutato i reati basandosi su tre fattori: valutazione delle prove, elaborazione dei presupposti per l’arresto e calcolo della pericolosità del sospettato. Il dato statistico che la sua precisioni sfiori del il 100% non fa star meglio. E’ proprio quell’idea che gli esseri umani in futuro potrebbero essere giudicati da un robot, non va proprio giù. Meglio limitarsi a rivedere la saga di Robocop. Basta e avanza.