---
title: Disumanamente pornografico
description: "Il tragico stupro avvenuto a Palermo ha ricordato la pericolosità di certe chat per lo scambio di video a contenuto sessuale. L'IA pericolosa"
featured_image: https://laragione.eu/wp-content/uploads/2023/09/Intelligenza-Artificiale-pornografia.jpg
date: 2023-09-03
author: Nicoletta Prandi
url: https://laragione.eu/life/tech/disumanamente-pornografico/
categories: [Tech]
tags: [Evidenza, intelligenza artificiale]
---

# Disumanamente pornografico

![Intelligenza Artificiale pornografia](https://laragione.eu/wp-content/uploads/2023/09/Intelligenza-Artificiale-pornografia.jpg)

Il tragico stupro avvenuto a Palermo ha ricordato la pericolosità di certe chat per lo scambio di video a contenuto sessuale. Con l'IA è facile ritoccare foto di persone reali

**Il tragico** [stupro avvenuto a Palermo](https://laragione.eu/litalia-de-la-ragione/cronaca/brancolare/) **ha purtroppo ricordato la pericolosità di certe *chat* per lo scambio di video a contenuto sessuale**. **Eppure sono migliaia quelle alimentate da vittime inconsapevoli**, **perché violate nella loro identità digitale e non in quella fisica**. **Le *app* di** [intelligenza artificiale](https://laragione.eu/life/tech/la-prima-legge-sullintelligenza-artificiale/) hanno infatti reso facilissimo ritoccare foto di persone reali, tanto che negli ultimi mesi si è prodotta una quantità sbalorditiva di materiale pornografico non consensuale. In parallelo sono cresciute le comunità virtuali per scambiarselo.

**Una recente indagine della testata indipendente** “**404 Media**” **ha scandagliato due piattaforme per la creazione di contenuti** – **CivitAI** e **Mage.Space** – **scoprendo infinite gallerie con immagini di persone esistenti ritratte in versioni sessualmente esplicite**, **visibili da chiunque**. Anche se tali siti *web* non sono stati creati espressamente come piattaforme per il fai-da-te della regia a luci rosse, **questa è diventata una delle funzioni più opzionate dagli utenti**, che soltanto **su Mage.Space** hanno generato fino a oggi **oltre 500 milioni di contenuti**. **Quali sono le regole d’uso**? I siti consentono ufficialmente agli utenti di creare immagini porno, di modificare quelle di persone reali ma non di mixare le due. Cosa che avviene invece regolarmente, anche perché **è possibile guadagnarci**. **Più un utente condivide stili specifici di ritocco e più guadagna**, **pagato dalle piattaforme anche oltre 3mila dollari al mese**. **Gli anelli della catena di fornitura del mercato porno artificiale non consensuale sono dunque tre**: i fornitori inconsapevoli di immagini base (tecnicamente chiunque abbia mai condiviso *online* o in una *chat* anche una sola foto di sé); le piattaforme per la monetizzazione; la tecnologia abilitante, l’intelligenza artificiale generativa (GenAI).

**Può far sorridere**, **ma le pornoattrici si sono già dette allarmate per il loro futuro professionale**, **dato il *copyright* messo a serio rischio**. A destare **più comuni preoccupazioni** sono invece almeno **due aspetti**. Il primo è **la difficoltà tecnica nel ricostruire la catena di diffusione delle immagini incriminate**, nel caso si voglia procedere legalmente per rimuoverle. Il secondo è **l’amarezza nel vedere mortificata una simile tecnologia**, l’intelligenza artificiale, invero capace di amplificare a dismisura le potenzialità dell’umano. **Perché con il porno a cottimo non consensuale gli esseri umani diventano soltanto un lontano ricordo**, **ridotti a stringhe di codici in cambio di moneta sonante**.

 

di *Nicoletta Prandi*