Meta: un nuovo software ci salverà dal terrorismo, è davvero efficace?

La compagnia di Mark Zuckerberg si unisce alla lotta contro il terrorismo, implementando una nuova IA su Facebook che servirà a rilevare dei contenuti di questo genere. Come funzionerà?

Da anni i social network combattono il terrorismo in ogni sua forma, impedendo che questa tipologia di contenuti illegali possa prendere piede nelle loro piattaforme. È molto importante che questa guerra venga portata avanti: non è possibile permettere a determinate persone di agire indisturbate. Il miglior modo per impedire la pubblicazione di certe foto o video, dunque, è utilizzare un algoritmo che li possa rilevare.

Meta ci ha pensato a tal proposito e ha avuto una brillante idea, che sarebbe quella di creare uno strumento open source che può scovare contenuti terroristici, violenti e di sfruttamento minorile. In poche parole ha inserito un “pacchetto completo” di video e foto che non dovrebbero prendere posto in alcuna maniera all’interno del suo social network. Né ora né in futuro, come vuole farci capire.

Rilevare contenuti illegali: sarà l’obiettivo principale di Meta a partire da gennaio

La tecnologia prende il nome di HMA, acronimo di Hasher Matcher Actioner, e per agire chiede principalmente aiuto agli utenti che tendono ad etichettare foto e video con i parametri citati prima. Così facendo, l’algoritmo non ha problemi nel rilevamento e riesce ad analizzare e distinguere i contenuti in questione. Ma in che maniera funziona nello specifico, e come è stato progettato?

Questo sistema tenderà a creare una impronta digitale univoca, chiamata hash, di ogni contenuto che viene salvato in un database. Così facendo si ottiene la possibilità di sfruttare le risorse necessarie, economiche e tecnologiche per scovare eventuali post che violano le regole di Facebook. Inoltre, per assicurarsi che possa funzionare al meglio, la piattaforma ha creato l’algoritmo su un elemento particolare e fondamentale, oltre che determinante per il successo della campagna.

HMA, difatti, è basato sul precedente software di corrispondenza di immagini e video open source di Meta, e può essere utilizzato per qualsiasi tipo di contenuto in violazione. Per farsi aiutare assumerà una presidenza per il consiglio del GIFCT, acronimo di Global Internet Forum to Counter Terrorism, essenziale per riunire le società tech con l’obiettivo di affrontare i contenuti terroristici online tramite la ricerca, la collaborazione tecnica e la condivisione delle conoscenze acquisite nel merito.