Stable Diffusion sconvolge il Web creando immagini horror ed erotiche, nessuna AI lo aveva fatto prima

0
255

Stable Diffusion, il generatore di immagini basato sull’intelligenza artificiale, consente di realizzare composizioni anche di tipo pornografico e di rappresentazione della violenza, mentre altri “competitor”, come Dall-E e Google Imagen, non lo consentono. Ed il caso sta suscitando clamori e timori.

Stable Diffusion ComputerMagazine.it 24 Settembre 2022
Un’immagine generata da Stable Diffusion – ComputerMagazine.it

Il caso è emerso a seguito della testimonianza della scienziata Elle Simpson-Edin che, impegnata nella stesura a quattro mani con sua moglie di un romanzo genere “fantasy queer grimdark” (come da lei stessa definito), ha utilizzato generatori di immagini basati sull’intelligenza artificiale per comporre illustrazioni a compendio del racconto.

Considerato il genere, le necessità dell’autrice erano ben specifiche: ovvero riprodurre graficamente scene d’atmosfera cupa, orrifica, con riferimenti espliciti a diversi tipi di abuso e violenza. Ma i generatori d’immagini testati, come Dall-E e Google Imagen, non le consentivano di realizzare il risultato.

Fino al tentativo con Stable Diffusion: ecco che, in questo caso, il testo inserito dall’autrice e dalla moglie, che descriveva scene di sangue, di sesso e di violenza, è stato restituito dal generatore in forma grafica senza restrizioni. Il che ha ingenerato non poche polemiche e perplessità.

Le perplessità diffuse sull’uso improprio delle intelligenze artificiali al servizio dei generatori di immagini

Generatore Stable Diffusion ComputerMagazine.it 24 Settembre 2022
Due ritratti generati da Stable Diffusion – ComputerMagazine.it

Sin dal loro lancio e dalla loro diffusione sul web, i generatori di immagini basati sull’intelligenza artificiale hanno ingenerato numerosissime perplessità e polemiche. Di recente, un concorso artistico statunitense, vinto da un risultato grafico ottenuto tramite l’intervento massivo di un generatore (ce ne siamo occupati qui), ha mandato letteralmente su tutte le furie partecipanti ed artisti in tutto il mondo.

La decisione della giuria, infatti, di riservare il primo premio ad un risultato ottenuto tramite un calcolatore invece di valorizzare opere realizzate da artisti in carne ed ossa, è stata ritenuta inopportuna e fuori luogo da una significativa porzione di addetti ai lavori, di artisti, di appassionati e di semplici curiosi.

Ora, le implicazioni derivanti dalla possibilità di creare pornografia, pedopornografia ed immagini di violenza tramite strumenti open source senza restrizioni, con un impatto realistico di elevatissima qualità e unito alla possibilità di diffondere poi i risultati sul world wide web, getta benzina sul fuoco.

 

🔴 FONTE: www.wired.it

LEAVE A REPLY

Please enter your comment!
Please enter your name here