Una AI che si improvvisa psicologo? Questo progetto sconvolge il web

Gli algoritmi intelligenti stanno stupendo sempre di più l’opinione pubblica, a tal punto da scatenare dei putiferi non indifferenti. Di quale stiamo parlando attualmente?

Una delle intelligenze artificiali più note del momento è sicuramente ChatGPT, una vera e propria forza della natura che ha saputo distinguersi dagli altri algoritmi per via della sua incredibile utilità nel suo settore. Certamente ha saputo ispirare anche degli esperti nei loro settori, proprio come sta succedendo attualmente con Koko, cioè una piattaforma di salute mentale no-profit che aiuterebbe le persone tramite un processo psicologico.

L’annuncio di questa grandiosa novità viene interamente da Rob Morris, il Co-Fondatore del servizio in questione che ha riferito che la compagnia sta portando avanti un esperimento per fornire consulenza sulla salute mentale a 4.000 persone utilizzando l’IA. La cosa peggiore, da quel che si sta capendo, è che nessuna di loro è stata informata per quanto riguarda l’utilizzo di ChatGPT.

Una IA ti fa da psicologo e tu non lo sai: il caso della piattaforma il Koko

Ciò, come è facilmente immaginabile, ha fatto sì che Rob Morris venisse inondato da una marea di critiche non indifferenti, a tal punto da costringerlo a fare i conti con accuse di immoralità poiché non ha ottenuto il consenso informato da parte delle persone in cerca di consulenza. Non è una mossa fatta per compiere azioni malvagie, questo è ovvio, ma è anche vero che non si possa sfuggire alle conseguenze. Ma come ha risposto l’uomo?

In merito alla sua idea, Rob Morris ha informato tutti quanti che i volontari hanno potuto far uso di una risposta generata dal modello GPT-3 di OpenAI, cioè la base di ChatGPT, invece di scriverne una di loro pugno. E secondo quanto dichiarato dal Co-Fondatore, le persone avrebbero valutato positivamente le risposte generate dall’intelligenza artificiale fino a quando non hanno saputo che erano state scritte, per l’appunto, dall’AI.

Per tentare di sistemare la situazione, Rob Morris è intervenuto nuovamente cercando di spiegare il percorso di Koko con GPT-3 e l’intelligenza artificiale in generale: “Ricevo critiche, preoccupazioni e domande su questo lavoro con empatia e apertura. Condividiamo l’interesse nell’assicurare che qualsiasi impiego dell’intelligenza artificiale sia gestito con sensibilità, con profonda attenzione alla privacy, alla trasparenza e alla mitigazione del rischio. Il nostro comitato consultivo clinico si riunisce per discutere le linee guida per il lavoro futuro, in particolare per quanto riguarda l’approvazione dell’IRB”.