In questo articolo, realizzato dall’Osservatorio Artificial Intelligence della School of Management del Politecnico di Milano, approfondiamo l’etica dell’Intelligenza Artificiale, analizzando i principali rischi, le possibili soluzioni e le normative per un uso etico di questa potente tecnologia.
L’Intelligenza Artificiale (IA) o Artificial Intelligence (AI) rappresenta una delle più profonde trasformazioni tecnologiche della nostra epoca, con applicazioni che influiscono sulla società, l’economia e le abitudini quotidiane. Tuttavia, se da un lato apre nuove opportunità, dall’altro solleva domande fondamentali sul fronte etico. Come possiamo infatti garantire che l’IA operi in modo giusto, sicuro e responsabile?
L’etica dell’Intelligenza Artificiale applica i principi generali dell’etica – intesa come riflessione su ciò che è giusto e sbagliato nei comportamenti umani – al contesto specifico delle tecnologie AI. Si occupa di valutare e guidare lo sviluppo, la progettazione e l’uso dei sistemi di Intelligenza Artificiale per assicurarsi che siano coerenti con i diritti fondamentali dell’uomo, la giustizia, la trasparenza e la responsabilità. In particolare, l’etica dell’AI si concentra su questioni come l’impatto sociale dei sistemi automatizzati, la prevenzione di discriminazioni e bias, la protezione della privacy, la sicurezza e il rispetto della dignità umana nei processi decisionali delle macchine.
Affrontare questi aspetti è indispensabile per costruire una società digitale più equa e sostenibile, in cui la tecnologia sia davvero a servizio del bene comune e non un privilegio per pochi.
L’Intelligenza Artificiale offre importanti vantaggi in svariati ambiti, come la possibilità di facilitare diagnosi precoci nel settore sanitario, aumentare la produttività in numerosi processi aziendali e personalizzare i percorsi di apprendimento nell’istruzione. Tuttavia, emergono diversi dilemmi etici che devono essere affrontati.
Uno dei principali problemi etici legati all’AI è il rischio di discriminazione. Poiché molti sistemi si basano su algoritmi che apprendono dai dati, se questi dati contengono pregiudizi o riflettono disuguaglianze sociali esistenti, l’Artificial Intelligence può amplificare questi bias. Ad esempio, algoritmi di selezione del personale, se allenati su dati che riflettono pregiudizi di genere o razza, possono perpetuare discriminazioni contro determinati gruppi.
L’AI raccoglie e analizza enormi quantità di dati, spesso sensibili. La protezione della privacy è quindi una delle preoccupazioni principali. La gestione dei dati personali, soprattutto quando vengono utilizzati per addestrare modelli di Intelligenza Artificiale, solleva interrogativi su come questi dati vengano conservati, protetti e utilizzati.
Un aspetto critico riguarda la responsabilità per le azioni dell’Intelligenza Artificiale e il controllo che gli esseri umani devono mantenere sui sistemi automatizzati. Se un sistema commette un errore o causa danni, chi è responsabile? Nel caso ad esempio dei veicoli autonomi, chi esercita il controllo? Quali limiti devono essere imposti per evitare comportamenti dannosi o pericolosi?
In un contesto dove le macchine prendono decisioni, è difficile attribuire responsabilità a una persona o a un’entità.
L’Intelligenza Artificiale, e in particolare l’AI generativa, sta già trasformando il modo di lavorare degli italiani. Secondo la Ricerca dell’Osservatorio, il 54% degli intervistati segnala che l’IA semplifica e velocizza le attività, il 34% che svolge autonomamente alcune mansioni. La crescente automazione dei processi può pertanto sollevare preoccupazioni per il futuro del lavoro. Tuttavia, il suo impatto deve essere valutato nel contesto delle sfide demografiche del Paese.
Da un lato, il 18% dei posti di lavoro equivalenti risulta già oggi automatizzabile e questa quota potrebbe salire al 50% entro il 2033, con un impatto potenziale su circa 3,8 milioni di posti di lavoro equivalenti. Dall’altro lato, entro il 2033, infatti, la popolazione italiana in età lavorativa calerà di 2,8 milioni di persone, mentre i pensionati aumenteranno di 2,3 milioni. Si prevede un gap di 5,6 milioni di posti di lavoro equivalenti.
Il divario nell’adozione dell’Artificial Intelligence rappresenta una delle sfide etiche più rilevanti, poiché rischia di amplificare le disuguaglianze economiche esistenti, ad esempio tra grandi imprese e PMI.
Secondo l’Osservatorio, nel 2024 6 grandi imprese su 10 hanno progetti attivi di AI, ma solo il 7% delle piccole e il 15% delle medie imprese ha avviato iniziative in tale ambito.
Con l’avvento dell’AI generativa, questo divario si è ulteriormente accentuato. Infatti, il 65% delle grandi aziende sperimenta tecnologie di GenAI, contro appena l’8% delle PMI. Come sottolineato dal Direttore dell’Osservatorio, Alessandro Piva: “L’avvento della Generative AI non sembra tuttavia essere una via per ridurre il gap nell’adozione dell’Intelligenza Artificiale tra le grandi organizzazioni. Chi è indietro nel percorso di adozione dell’AI, infatti, non riesce a trarre beneficio delle opportunità della generative AI“.
Chi dispone di maggiori risorse economiche, infrastrutture tecnologiche avanzate e competenze specializzate può investire massicciamente nella tecnologia. Tuttavia, questa situazione crea un gap competitivo che rischia di marginalizzare ulteriormente certe realtà nel mercato.
L’Intelligenza Artificiale, in particolare quella generativa, solleva questioni etiche complesse riguardo alla creazione di contenuti artistici e alla proprietà intellettuale. I modelli di AI vengono addestrati su enormi quantità di opere creative protette da copyright – immagini, testi, musica, video – spesso senza il consenso esplicito degli autori originali. Questo solleva interrogativi fondamentali: chi detiene i diritti su un’opera creata dall’AI? Gli artisti le cui opere sono state utilizzate per l’addestramento meritano un compenso?
La questione ha un impatto diretto sui professionisti creativi: artisti, illustratori, fotografi, scrittori, musicisti e designer vedono il valore del proprio lavoro potenzialmente svalutato dalla capacità dell’Intelligenza Artificiale di generare contenuti simili in pochi secondi e a costi minimi. Inoltre, questa può replicare stili artistici specifici senza attribuzione, creando opere che imitano il lavoro di artisti esistenti, sollevando questioni di plagio e autenticità.
L’introduzione dell’Intelligenza Artificiale, e in particolare degli strumenti di AI generativa, nel contesto educativo porta con sé sia opportunità di innovazione sia numerose sfide etiche. Da un lato, queste tecnologie possono supportare l’apprendimento personalizzato, facilitare la valutazione automatica e fornire materiali didattici più coinvolgenti. Dall’altro, un uso non adeguatamente regolamentato espone le scuole e gli studenti a rischi concreti legati all’apprendimento stesso e al senso critico (come la capacità di analizzare, valutare e riflettere in modo autonomo sui contenuti).
Ultimo, ma non meno importante, è l’impatto che l’Intelligenza Artificiale – e in particolare l’AI generativa – ha sull’ambiente. L’addestramento e l’esecuzione di grandi modelli richiedono enormi quantità di energia elettrica e acqua per l’alimentazione e il raffreddamento dei data center, generando un impatto significativo in termini di emissioni di CO2 e consumo di risorse naturali. La crescita esponenziale dell’utilizzo di queste tecnologie rischia dunque di aggravare ulteriormente le criticità ambientali già presenti a livello globale.
Di seguito vengono presentati alcuni esempi concreti che mettono in evidenza le conseguenze di un utilizzo non responsabile o privo dei necessari strumenti di controllo.
Il Tribunale dell’Aia ha ordinato la sospensione del sistema Syri (System Risk Indicator), utilizzato dal governo olandese per valutare le richieste di sussidio. Questo strumento di AI effettuava una profilazione sistematica dei cittadini, concentrandosi in particolare sui soggetti a basso reddito, considerati a priori più inclini alla frode fiscale. Tale approccio ha portato a pratiche discriminatorie nei confronti dei membri più poveri della società, minacciando i loro diritti alla privacy e alla previdenza sociale, e compromettendo i principi di equità e uguaglianza.
Una grande azienda del settore delle costruzioni ha implementato un sistema di AI per la valutazione automatica delle offerte nei bandi di gara. L’algoritmo, addestrato su dati storici, ha finito per penalizzare sistematicamente i fornitori di piccole dimensioni o di recente costituzione, favorendo invece le grandi imprese con una lunga storia di collaborazioni precedenti. Questo comportamento, frutto di bias nei dati e nella progettazione del sistema, ha portato all’esclusione ingiustificata di operatori innovativi e potenzialmente più efficienti, limitando la competitività e soffocando l’innovazione nel settore.
In un’industria manifatturiera, l’introduzione di un sistema di IA per la manutenzione predittiva dei macchinari si è rivelata problematica a causa di una combinazione di dati di addestramento non adeguati e di una sopravvalutazione delle capacità del sistema. L’Intelligenza Artificiale non è riuscita a prevedere un guasto critico in una delle apparecchiature di sicurezza, provocando un grave incidente industriale con conseguenti lesioni ai lavoratori. Questo esempio dimostra come la mancanza di adeguati controlli, test approfonditi e una valutazione realistica delle potenzialità dell’IA possa mettere a rischio la sicurezza delle persone.
Per affrontare le sfide relative a un utilizzo corretto dell’AI, è necessario stabilire linee guida etiche chiare che ne guidino lo sviluppo e l’uso. Di seguito vengono illustrati i 7 principi etici (non vincolanti) elaborati dall’AI HLEG:
La responsabilità rappresenta un elemento fondamentale nell’etica dell’Intelligenza Artificiale. Si riferisce alla necessità che tutte le fasi del ciclo di vita di un sistema di AI — dalla progettazione allo sviluppo, dall’implementazione all’uso — siano soggette a un controllo rigoroso e trasparente. Un aspetto centrale di questo principio è la verificabilità: algoritmi, dati e processi di progettazione devono poter essere analizzati, tracciati e verificati, per garantire che il sistema si comporti secondo le aspettative e nel rispetto delle normative, senza però compromettere la tutela della proprietà intellettuale delle aziende o enti sviluppatori.
Il principio della responsabilità implica anche che gli stakeholder — sviluppatori, fornitori e utilizzatori — devono essere rintracciabili e rendere conto delle scelte fatte e delle conseguenze derivanti dall’uso dei sistemi di IA. L’esistenza di tali garanzie contribuisce a rafforzare la fiducia da parte degli individui, delle imprese e della società nei confronti della tecnologia, limitando il rischio di abusi, errori o decisioni arbitrarie.
Lo sviluppo e l’implementazione di sistemi di Intelligenza Artificiale devono essere guidati dall’obiettivo di generare benefici concreti per tutti gli esseri umani e di contribuire a uno sviluppo sostenibile, sia dal punto di vista sociale che ambientale. Ciò significa, innanzitutto, che i sistemi AI dovrebbero essere pensati e utilizzati per promuovere il benessere collettivo: facilitare l’accesso a servizi utili, migliorare la qualità della vita, ridurre le disuguaglianze e supportare la crescita di comunità inclusive.
Allo stesso tempo, la sostenibilità ambientale richiede che l’uso dell’Intelligenza Artificiale non comporti impatti negativi sull’ecosistema: occorre monitorare e ottimizzare il consumo energetico, ridurre l’impronta ambientale e limitare l’uso di risorse naturali in tutte le fasi del ciclo di vita dei sistemi AI, dalla progettazione al dismesso.
Infine, è essenziale monitorare e valutare costantemente gli impatti a lungo termine che questi sistemi possono avere sull’individuo, sulla società e sulle istituzioni democratiche. Questo include, ad esempio, verificare che l’IA non comprometta i diritti e le libertà fondamentali, favorisca il dialogo democratico e non contribuisca a rafforzare polarizzazioni o a creare squilibri di potere.
L’AI deve essere progettata e utilizzata per garantire equità e inclusione, riducendo al minimo il rischio che i pregiudizi nei dati o nella progettazione degli algoritmi generino discriminazioni verso individui o gruppi. La presenza di bias nei dati di training può portare a trattamenti squilibrati o ingiusti, con effetti negativi sulla società. È pertanto cruciale adottare metodologie e processi di verifica per individuare e mitigare tali distorsioni, assicurando che l’IA operi secondo principi di giustizia sociale e rispetto delle diversità.
La trasparenza consiste nella possibilità di comprendere come funziona un sistema di Intelligenza Artificiale, quali dati elabora e quali logiche segue nel prendere decisioni. È fondamentale che gli utenti possano accedere a informazioni chiare sia sulle modalità di funzionamento dell’AI sia sulle sue finalità. Questo principio si traduce nella documentazione adeguata degli algoritmi, nella tracciabilità delle decisioni e nella possibilità, ove possibile, di spiegare in modo comprensibile le motivazioni di un certo output. Una maggiore trasparenza facilita la fiducia nei sistemi e consente di individuare più facilmente eventuali errori o comportamenti inappropriati.
Il principio della vita privata e della governance dei dati impone che i sistemi di Intelligenza Artificiale vengano sviluppati e impiegati nel pieno rispetto delle normative relative alla privacy e alla protezione dei dati personali. Questo significa, innanzitutto, che qualsiasi operazione di raccolta, trattamento o conservazione dei dati deve avvenire in conformità con le disposizioni di legge (come il GDPR in Europa), garantendo i diritti delle persone alla riservatezza e alla sicurezza delle proprie informazioni sensibili.
Tuttavia, la semplice conformità normativa non basta: i sistemi di AI dovrebbero anche assicurare elevati standard di qualità e integrità dei dati trattati. Ciò implica che i dati debbano essere accurati, aggiornati, pertinenti e gestiti in modo trasparente. Una buona governance dei dati include la tracciabilità delle fonti, la gestione degli accessi, la minimizzazione dei dati raccolti e il rispetto dei principi di finalità e proporzionalità.
Questo principio richiama l’esigenza che i sistemi di AI siano sviluppati e utilizzati in modo da risultare solidi, resilienti e affidabili anche in presenza di malfunzionamenti, tentativi di manipolazione o condizioni operative avverse. La robustezza tecnica si riferisce alla capacità dell’IA di continuare a funzionare correttamente anche quando si verificano errori, input imprevisti o condizioni esterne avverse, riducendo al minimo le interruzioni di servizio e le conseguenze negative per utenti e organizzazioni. Sul fronte della sicurezza, è fondamentale prevenire attacchi informatici, vulnerabilità e utilizzi illeciti del sistema da parte di soggetti terzi. Gli sviluppatori devono implementare strategie di Cybersecurity, controlli sui dati e test continui per identificare e correggere potenziali debolezze.
Questo principio stabilisce che l’Intelligenza Artificiale debba agire come strumento a supporto delle persone, e non come sostituto delle capacità decisionali o della responsabilità umana. Tutti i sistemi di AI dovrebbero essere progettati e implementati in maniera tale che gli esseri umani possano mantenere il controllo sulle decisioni rilevanti, supervisionare il loro funzionamento e intervenire, se necessario, per correggere comportamenti anomali o forzare interruzioni del sistema. La possibilità di intervento umano rappresenta una salvaguardia per prevenire abusi, mitigare errori e garantire il rispetto della dignità e dell’autonomia delle persone coinvolte.
Diversi governi e organizzazioni internazionali stanno lavorando per stabilire normative e linee guida sull’uso etico dell’Intelligenza Artificiale. Vediamole di seguito.
L’AI Actdell‘Unione europea rappresenta uno dei principali riferimenti normativi a livello internazionale: è stato pubblicato in Gazzetta Ufficiale UE il 12 luglio 2024, è in vigore dal 2 agosto 2024 e sarà applicabile dopo 24 mesi, quindi dal 2 agosto 2026. Questa normativa introduce una regolamentazione differenziata dei sistemi di Intelligenza Artificiale in base al livello di rischio associato, stabilendo tutele rafforzate per contesti più sensibili.
Contenuti suggeriti dell’Osservatorio Artificial Intelligence
