Google incastra un uomo accusandolo di pedofilia: un fraintendimento della AI che lo aveva già giudicato colpevole

Da quanto è emerso, foto personali realizzate da una coppia di genitori per documentare una condizione di salute del figlio e da consegnare al proprio medico curante, sono state interpretate da Google come materiale pedopornografico. Il fatto risale allo scorso Febbraio 2021 e negli ultimi giorni è tornato a far parlare di sé, facendo riemergere importanti interrogativi sulle potenzialità ma anche sui rischi e pericoli delle tecnologie impiegate da Big G ( e non solo).

Si sarebbe trattato di un equivoco. E, senza dubbio, particolarmente grave. Una interpretazione scorretta effettuata da un sistema automatico di processione delle immagini, deputato ad individuare quelle potenzialmente a rischio di abusi sessuali su minori e di produzione e diffusione di pedopornografia che, secondo la legge federale degli USA, devono essere segnalati alle autorità competenti.

E così, un dispositivo con sistema operativo Android, utilizzato da una coppia di genitori per fotografare un rigonfiore anomalo nell’area genitale del figlio di pochi anni, spedito poi al medico curante su richiesta dello stesso durante il periodo di restrizioni Covid, ha reso il suo possessore, il papà del bambino, un sospettato abusatore di minori e produttore e diffusore di materiale pedopornografico.

Google, infatti, due giorni dopo dall’accaduto – occorso lo scorso Febbraio 2021 – ha disabilitato l’account personale del padre, il suo servizio di Gmail, il servizio telefonico a cui era abbonato Google Fi, la possibilità di effettuare chiamate e di navigare su internet e l’accesso alle foto e ad i video archiviati sul Cloud.

I limiti, i rischi ed il potenziale della tecnologia adoperata

Dai dati diffusi dalla stessa Google, nel 2021 sono state oltre 600.000 le segnalazioni relative a potenziali contenuti pedopornografici, che hanno condotto alla disabilitazione di 270.000 account. Non sappiamo con esattezza quanti di questi siano poi diventati anche casi attenzionati anche dalla polizia.

Il sistema di Google si basa su un’impianto di intelligenza artificiale, supervisionato poi da un team di moderatori formati da operatori sanitari, che hanno il compito di valutare l’effettiva fondatezza dei rischi rilevati dall’AI.

Come confermato da Christa Muldon, una portavoce dell’azienda di Mountain View, nel caso in questione però i moderatori non hanno consultato né medici né operatori sanitari per approfondire il caso.

Ad oggi, la famiglia non è più sotto indagine ma gli account di Google risultano ancora disabilitati. Secondo molti esperti di tecnologia, tra cui Jon Callas dell’organizzazione per le libertà civili nell’era digitale Electronic Frontier Foundation e Daniel Kahn Gillmor, della American Civil Liberties Union, la fallibilità di questi strumenti, insieme all’ammontare di dati personali a cui Google ha accesso, dimostra di poter aver conseguenze assai gravi sulla vita delle persone erroneamente coinvolte e di condurre ad aggravare il problema del contrasto agli abusi sessuali su minori ed alla pedopornografia, invece di contribuire a risolverlo.

Mentre, d’altro canto, le associazioni, gli enti e le persone impegnate nella tutela dei diritti dei minori ritengono assolutamente necessaria la collaborazione con le piattaforme tecnologiche per combattere la produzione e diffusione tramite il web di materiale pedopornografico.

FONTE: www.ilpost.it