Il tragico stupro avvenuto a Palermo ha purtroppo ricordato la pericolosità di certe chat per lo scambio di video a contenuto sessuale. Eppure sono migliaia quelle alimentate da vittime inconsapevoli, perché violate nella loro identità digitale e non in quella fisica. Le app di intelligenza artificiale hanno infatti reso facilissimo ritoccare foto di persone reali, tanto che negli ultimi mesi si è prodotta una quantità sbalorditiva di materiale pornografico non consensuale. In parallelo sono cresciute le comunità virtuali per scambiarselo.

Una recente indagine della testata indipendente “404 Media” ha scandagliato due piattaforme per la creazione di contenuti – CivitAI e Mage.Space – scoprendo infinite gallerie con immagini di persone esistenti ritratte in versioni sessualmente esplicite, visibili da chiunque. Anche se tali siti web non sono stati creati espressamente come piattaforme per il fai-da-te della regia a luci rosse, questa è diventata una delle funzioni più opzionate dagli utenti, che soltanto su Mage.Space hanno generato fino a oggi oltre 500 milioni di contenuti. Quali sono le regole d’uso? I siti consentono ufficialmente agli utenti di creare immagini porno, di modificare quelle di persone reali ma non di mixare le due. Cosa che avviene invece regolarmente, anche perché è possibile guadagnarci. Più un utente condivide stili specifici di ritocco e più guadagna, pagato dalle piattaforme anche oltre 3mila dollari al mese. Gli anelli della catena di fornitura del mercato porno artificiale non consensuale sono dunque tre: i fornitori inconsapevoli di immagini base (tecnicamente chiunque abbia mai condiviso online o in una chat anche una sola foto di sé); le piattaforme per la monetizzazione; la tecnologia abilitante, l’intelligenza artificiale generativa (GenAI).

Può far sorridere, ma le pornoattrici si sono già dette allarmate per il loro futuro professionale, dato il copyright messo a serio rischio. A destare più comuni preoccupazioni sono invece almeno due aspetti. Il primo è la difficoltà tecnica nel ricostruire la catena di diffusione delle immagini incriminate, nel caso si voglia procedere legalmente per rimuoverle. Il secondo è l’amarezza nel vedere mortificata una simile tecnologia, l’intelligenza artificiale, invero capace di amplificare a dismisura le potenzialità dell’umano. Perché con il porno a cottimo non consensuale gli esseri umani diventano soltanto un lontano ricordo, ridotti a stringhe di codici in cambio di moneta sonante.

di Nicoletta Prandi