Roma, 29 ago. (Labitalia) – Rubare i dati utilizzati dall’IA per addestrarsi oppure manipolare direttamente l’algoritmo, modificandone il funzionamento e quindi i risultati. Questi due dei rischi messi in evidenza dal report sulla sicurezza informatica delle soluzioni tecnologiche basate sull’Ia, prodotto da Advens Italia per mettere in guardia aziende, enti, ma anche privati.

Il report dell’azienda specializzata in servizi avanzati di cybersicurezza, rivolti al mondo della sanità, della pubblica amministrazione e dell’industria 4.0, sottolinea come le tecnologie informatiche basate sull’IA basino il loro funzionamento su grandi quantità di dati, spesso sensibili, che, se non ben protetti, possono essere esposti ad attacchi hacker. Inoltre i programmi stessi, anche questi se non ben protetti, possono essere manipolati, in modo da modificarne le prestazioni e quindi i risultati.

Il report di Advens fa emergere inoltre ulteriori e molteplici fonti di minacce, che possono provenire da soggetti malintenzionati che cercano di sfruttare le debolezze delle IA per estrarre informazioni sensibili. Rischi per la cybersicurezza, dove possono essere presi di mira i servizi di IA o utilizzare l’IA per migliorare ed estendere su vasta scala gli attacchi informatici. Rischi per la privacy, in cui possono verificarsi abusi, fughe di dati e assenza di controllo nella gestione dei dati personali. Questi modelli, addestrati su grandi quantità di dati, possono potenzialmente divulgare informazioni sensibili o personali, foto, disegni, video o opere d’arte digitalizzate. Rischi di natura etica, vale a dire carenze nel rispetto dei valori fondamentali dell’umanità, delle persone e delle società. Tra i problemi etici evidenziati legati alle IA, possiamo citare l’esempio di pregiudizi e discriminazioni nella selezione di personale.

Ovviamente i rischi riguardano l’IA generativa come ChatGpt, ma anche e soprattutto sistemi complessi utilizzati dalle aziende per semplificare, automatizzare ed efficientare vari processi. Sono questi ad essere i più esposti a possibili rischi di sicurezza informatica. Forte di una solida e vasta conoscenza del settore informatico, Advens fonda la sua strategia per la sicurezza dei sistemi informativi su 4 pilastri essenziali: prevenzione, rilevamento, reazione e resilienza. La prevenzione si focalizza sull’eliminare i punti deboli del sistema informativo che possono essere di natura umana, organizzativa e tecnica. Il rilevamento consente di individuare un’eventuale intrusione o corruzione di un componente del sistema informativo. Poiché la strategia della ‘prevenzione totale’ non può avere successo, per limitare le conseguenze di un attacco informatico è essenziale rilevarlo il prima possibile.

La reazione può essere di 2 tipi: reagire a una vulnerabilità critica scoperta per rafforzare la prevenzione o reagire quando un attacco informatico è in corso. Quanto più tempestiva ed efficace è la risposta, tanto minore sarà l’impatto sull’organizzazione. La resilienza è l’uso di risorse e mezzi per affrontare una situazione di crisi di cybersicurezza, quando lo scenario temuto si concretizza. Esistono molte risorse per la gestione delle crisi e strumenti per ricostruire un sistema informativo.

In conclusione, si può affermare che, anche se fino ad oggi il tema non è stato molto dibattuto, l’IA, come del resto tutte le soluzioni tecnologiche appartenenti alle varie generazioni, può prestare il fianco a malfunzionamenti o attacchi da parte di soggetti malintenzionati. E’ importante, quindi, prenderne coscienza e, nell’eventualità, affidarsi a chi possiede le competenze per prevenire o fronteggiare i rischi derivanti da potenziali crisi dei sistemi che utilizzano l’IA.