Scoppia la polemica su un algoritmo definito “predittivo” impiegato in alcune scuole liguri per orientare gli studenti verso il loro futuro accademico e professionale: al netto dei tantissimi dubbi sulla sicurezza di archiviazione e di trattamento dei dati personali raccolti (molti dei quali di minorenni), è opportunito affidare ad un calcolatore la responsabilità di influenzare il percorso formativo di preadolescenti e adolescenti? 
Un software basato su un algoritmo predittivo che promette di aiutare gli studente preadolescenti e adolescenti a “prendere, in modo responsabile, decisioni per il loro futuro”. Come? Ponendo domande attitudinali generiche ed offrendo descrizioni di profili caratteriali specifici, suggerendo obiettivi di studio e di lavoro “personalizzati” in base alle risposte avanzate dai ragazzi.
Per gli sviluppatori del software, il risultato ottenuto (ad esempio: l’indicazione della professione del poliziotto, oppure del cuoco, o ancora del medico, insegnante, facchino) “non è un consiglio, ma solo materiale per la riflessione”.
Uno stimolo, in altre parole, alla autovalutazione delle proprie risposte, per comprendere il perché dei propri interessi e delle proprie aspirazioni, offerto da un algoritmo statistico e da valutare in maniera più approfondita durante i programmi di orientamento insieme a professori ed a famiglie.
Le numerose polemiche e critiche avanzate contro l’algoritmo predittivo
Non solo privacy e trattamento dei dati personali, o risultati inaffidabili se non addirittura controproducenti offerti da algoritmi predittivi già testati in passato e, in molti casi, in utilizzo ancora oggi (come algoritmi per l’erogazione di sussidi statali che hanno condotto a casi di disuguaglianza, o ancora per il riconoscimento facciale che si sono rivelati forieri di stereotipi razzisti e classisti).
Ma anche rischi elevati in termini dell’influenza effettiva che quel “materiale di riflessione” eserciterebbe sulle menti di preadolescenti e adolescenti, nonché in termini di obsolescenza di lavori che sarebbero da effettuare tra i 10 ed i 20 anni dopo l’indicazione del risultato, ovvero quando con estrema probabilità saranno già stati modificati in forme non ancora prevedibili o si saranno finanche estinti.
E soprattutto: perché sostituire un essere umano e l’importanza del ruolo che esercita (quale quella in capo ad un insegnante e ad un pedagogo) con un calcolatore? L’obiettivo delle automazioni e dell’intelligenza artificiale è quello di facilitare la vita dell’uomo, riducendo le fatiche conseguenti a mansioni di tipo usurante, oppure di privarlo inesorabilmente di qualsiasi attività secondo la convinzione ancora tutta da dimostrare di poterla svolgere meglio, più velocemente e con maggior affidabilità? Forse, un altro rischio potrebbe essere proprio quello di continuare ad affidare ai posteri l’“ardua sentenza”.
