Lo scorso novembre un giornalista olandese di nome Alexander Klöpping ha pubblicato su X un esperimento da lui effettuato avvalendosi di un algoritmo AI che è riuscito a identificare in pochi secondi le persone con cui ha interagito andando a comparare i loro volti con le foto presenti sul web. Gli ignari partecipanti sono rimasti a bocca aperta quando in un secondo momento hanno confermato al reporter l’accuratezza dei risultati. Questo esperimento, che si è avvalso dell’utilizzo di un motore di ricerca per immagini a pagamento chiamato PimEyes, solleva molti dubbi sulla pericolosità rappresentata dalla libera circolazione di determinate tecnologie. Se un singolo cittadino può facilmente ottenere questi risultati, viene da pensare alle possibili implicazioni a seguito di un eventuale utilizzo da parte di imprese private e i governi, questi in particolare con l’espediente della pubblica sicurezza potrebbero mettere in atto una profilazione di massa senza precedenti per perseguire interessi politici. 

Un’idea ce la si può fare guardando al tanto discusso credito sociale nella repubblica popolare cinese, che sta implementando la creazione di una classifica per premiare o punire i comportamenti di cittadini e imprese con lo scopo di ottenere una società sempre più ordinata e affidabile. Chi si comporta bene, dunque, ottiene agevolazioni bancarie, scatti di carriera e la possibilità di ricoprire cariche pubbliche, al contrario chi totalizza un punteggio basso va incontro a una specie di “ban” sociale che prevede segregazione ed esclusione sociale con significative privazioni della libertà e restrizioni economiche. Vero anche che la profilazione di massa e il riconoscimento facciale possono aiutare le forze dell’ordine a individuare criminali e fuggitivi, infatti, nelle scorse settimane i primi RT-G, robot poliziotti dotati di tecnologie simili, hanno cominciato a pattugliare le strade delle città cinesi. Lato imprese, invece, ha fatto molto scalpore il video dimostrativo di un algoritmo in grado di valutare e classificare l’efficienza dei lavoratori di una caffetteria, riducendo gli stessi a prodotti più o meno performanti. Sempre in Cina sono stati brevettati dei dispositivi in grado di monitorare costantemente il livello di concentrazione degli studenti. Nonostante queste criticità, non si può nemmeno omettere che l’implementazione di questa tecnologia apporterebbe una serie di cambiamenti positivi quali una maggiore sicurezza anche nella gestione delle emergenze, anche il pronto soccorso in caso di malessere per strada diventerebbe più preciso e immediato.

Con il passare del tempo le città si riempiono di telecamere e la possibile implementazione di questa tipologia di controllo di massa implicherebbe una sorveglianza costante e pervasiva. Una distopia che limiterebbe significativamente la sfera privata dei cittadini raccogliendo e immagazzinando enormi quantità di dati personali e biometrici, senza però avere il consenso esplicito dei diretti interessati. Queste tecnologie sono tutt’altro che infallibili e nel peggiore dei casi gli algoritmi utilizzati potrebbero essere violati e manipolati a scopi criminosi, o ancor peggio sfociare in una profilazione discriminatoria basata su fattori come l’etnia, la religione o lo status socioeconomico. Minoranze e dissidenti potrebbero finire nel mirino di questi sistemi vedendosi limitata la propria libertà di espressione e associazione. Ovviamente queste tecnologie violano la privacy dei cittadini che, nell’evenienza di una loro diffusione su larga scala, stanno mettendo in atto diversi escamotage per imparare a ingannare l’occhio dell’AI. Tra questi metodi vi è una particolare maschera che essendo completamente bianca elude l’AI da ogni angolazione, così come un particolare maglione creato dalla University of Maryland che utilizza dei cosiddetti “schemi avversari” composti da più immagini sovrapposte che confondono l’AI e lo trasformano in un vero e proprio mantello dell’invisibilità.

di Angelo Annese