- Scopri perché l'etica dell'IA è essenziale per un'innovazione responsabile.
- Comprendere le sfide etiche comuni come pregiudizi, privacy, trasparenza, ecc.
- Capire il quadro di riferimento della Ricerca e Innovazione Responsabile (RRI) e come integrarlo nel piano etico del tuo progetto.
- Scopri come fare in modo che i sistemi di IA siano sempre equi, precisi e affidabili.
- Rifletti su come il pensiero etico possa essere integrato nel tuo progetto di IA fin dall'inizio e consideralo un processo continuo.
Etica nell'IA
Man mano che l'IA diventa più potente, dobbiamo capire bene cosa possiamo fare con gli strumenti che abbiamo e pensare all'impatto più ampio di quello che creiamo. L'IA può essere ingiusta, fare errori e, se usata male, causare danni. Ecco perché noi, come sviluppatori e imprenditori, dobbiamo affrontare il nostro lavoro con attenzione.
Quando sentiamo la parola "etica", può sembrare un po' formale o complicata, ma in realtà si tratta solo di fare domande.
“È giusto? A chi potrebbe giovare e a chi potrebbe nuocere?”
In poche parole: l'intelligenza artificiale è una tecnologia fatta dall'uomo, con i nostri pregiudizi su cosa è più importante, da quali dati dovrebbe imparare e cosa si intende per successo. Anche con le migliori intenzioni, l'intelligenza artificiale è intrinsecamente imperfetta. La chiave è capire dove può sbagliare e usarla in modo responsabile.
L'etica dell'intelligenza artificiale nel tuo progetto
Anche se sei ancora all'inizio del tuo progetto, non è mai troppo presto per iniziare a pensare a come l'etica influirà sulla soluzione finale. Ecco alcuni principi che puoi usare come guida per riflettere in modo approfondito e specifico sull'etica dei progetti di IA, e in particolare sul tuo progetto. Leggi attentamente e pensa alle domande in relazione al tuo progetto.
Non fare male
Semplice ma potente. Anche se la maggior parte dei creatori non ha mai l'intenzione di causare danni, l'impatto dell'IA spesso va oltre le aspettative. Un sistema potrebbe prendere decisioni o raccomandazioni che all'apparenza sembrano utili ma che, se scalate, potrebbero involontariamente svantaggiare o fuorviare le persone.
"Non nuocere" significa chiedersi continuamente in che modo la tua tecnologia potrebbe andare male, chi potrebbe esserne colpito e quali sistemi sono in atto per minimizzare il rischio.
Esempio: App per la sicurezza della comunità andata male
Il problema
Un team sviluppa un'app per la sicurezza della comunità alimentata dall'intelligenza artificiale che avvisa gli utenti di "situazioni potenzialmente pericolose" nelle vicinanze, utilizzando i dati dei social media e le segnalazioni locali. L'obiettivo è quello di rendere i quartieri più sicuri aiutando le persone a essere consapevoli e a evitare i rischi.
Ma gli utenti e i gruppi della comunità notano una tendenza preoccupante: l'app invia un maggior numero di avvisi nei quartieri con popolazioni emarginate, anche quando non si verificano incidenti. Addestrata su dati storici e modelli linguistici distorti, l'intelligenza artificiale ha imparato ad associare determinate aree e parole al pericolo.
Anche se gli sviluppatori non avevano intenzione di rafforzare gli stereotipi, il danno è stato fatto: l'app ha stigmatizzato le comunità e ha alimentato la divisione sociale e la diffidenza.
Un approccio migliore
Questo team ha coinvolto nel processo di progettazione membri della comunità di diversi quartieri, non solo scienziati dei dati. Hanno testato il loro modello in diverse aree demografiche e hanno misurato le distorsioni.
Invece di basarsi sul sentiment dei social media, hanno utilizzato fonti di dati trasparenti come i rapporti ufficiali della polizia. Ogni avviso includeva una spiegazione (ad esempio, "Avviso basato su: 3 effrazioni segnalate questa settimana") e una funzione che permetteva agli utenti di segnalare gli avvisi falsi o distorti.
Di conseguenza, l'app ha aumentato la consapevolezza della comunità SENZA stigmatizzare i quartieri. Quando si notavano dei pregiudizi (avvisi concentrati in certe zone), hanno controllato e sistemato i dati e aggiornato il modello.
- Quali sono i sistemi specifici e integrati per rilevare rapidamente questi guasti e ridurre al minimo il rischio che ne deriva?
Pregiudizi e imparzialità
L'intelligenza artificiale è in definitiva una creazione umana e può riflettere le ipotesi e le priorità dei suoi creatori. Se i dati utilizzati per addestrare l'IA sono raccolti con un obiettivo distorto, possono rafforzare ipotesi errate e i risultati possono essere distorti in modi difficili da prevedere.
Esempio: Pregiudizi nelle assunzioni
In questo studio è stato scoperto che gli strumenti di intelligenza artificiale destinati a facilitare l'elaborazione delle domande di lavoro presentano pregiudizi legati alla razza e al genere percepiti. Gli strumenti di Intelligenza Artificiale in questo caso privilegiavano fortemente i nomi maschili caucasici. Con l'immensa adozione dell'intelligenza artificiale nel processo di assunzione, questa scoperta mette in discussione l'equità di questi strumenti.
Affrontare i pregiudizi richiede consapevolezza, riflessione e azioni mirate. Gli utenti devono essere critici e scettici nei confronti di ciò che produce l'IA. Gli sviluppatori devono controllare i dati che usano, mettere in discussione le ipotesi alla base dei loro modelli e testare i risultati per verificarne l'equità tra i diversi gruppi. A volte questo significa introdurre prospettive diverse durante la progettazione, verificare i modelli per risultati disparati o regolare gli algoritmi per correggere gli squilibri.
- Quali sono i passi specifici da compiere durante la fase di raccolta ed etichettatura dei dati?
- Come farai a garantire che le diverse prospettive siano integrate in modo significativo nelle fasi di progettazione, test e verifica del modello di IA?
Privacy e dati
L'IA spesso si basa su grandi quantità di dati personali per funzionare in modo efficace. Se da un lato questi dati aiutano l'IA a fornire raccomandazioni o servizi utili, dall'altro sollevano importanti questioni etiche sulla privacy.
Ad esempio, un'app che traccia l'attività dell'utente per suggerire servizi locali potrebbe inavvertitamente rivelare dettagli sensibili sulle abitudini, le preferenze o le convinzioni di una persona. Questi dettagli potrebbero essere utilizzati in modo improprio se finissero nelle mani sbagliate o addirittura influenzare sottilmente il modo in cui l'utente viene trattato dagli algoritmi altrove.
-
Raccogli solo ciò che ti serve
Limita la raccolta dei dati alle informazioni necessarie al funzionamento della tua app.
-
Ottenere un consenso chiaro
Assicurati che gli utenti comprendano quali dati vengono raccolti e perché, e offri loro la possibilità di scegliere se partecipare o meno.
-
Anonimizzare i dati quando possibile
Rimuovere le informazioni di identificazione personale per ridurre il rischio di esposizione dei dati.
-
Archiviare i dati in modo sicuro
Usa la crittografia, i server sicuri e un forte controllo degli accessi per proteggere le informazioni degli utenti.
-
Sii trasparente
Comunica chiaramente quali dati vengono raccolti, come vengono utilizzati e chi può accedervi.
-
Dare agli utenti il controllo
Consenti agli utenti di rivedere, modificare o cancellare i propri dati.
-
Considera le conseguenze a valle
Pensa a come i dati raccolti potrebbero essere utilizzati al di fuori della tua app e agli impatti potenziali.
- Come progetterai l'interfaccia utente e il processo di consenso per garantire che gli utenti diano un consenso veramente informato?
- Quali misure di sicurezza a più livelli implementerai per proteggere i dati?
Precisione e controllo umano
L'intelligenza artificiale può essere davvero potente, ma anche i modelli più sofisticati possono sbagliare. Un esempio sono le "allucinazioni dell'IA", dove il sistema produce con sicurezza informazioni che sono completamente false o inventate.
Questi errori possono capitare perché l'IA viene addestrata su dati incompleti, si basa su ipotesi sbagliate o tende a dare risposte che soddisfano l'utente, anche se non sono corrette. Ecco perché è importante che ci sia un controllo umano. Le risposte dell'IA dovrebbero essere viste con un approccio critico: valutando, mettendo in discussione e contestualizzando quello che il sistema produce.
Invece di considerare l'IA come un'autorità infallibile, dovremmo vederla come uno strumento che aiuta a migliorare il nostro giudizio, dandoci informazioni utili ma lasciando la responsabilità finale nelle mani degli esseri umani. Per esempio, pensiamo a un sistema di IA che crea riassunti di articoli medici per un'app di assistenza sanitaria. Se l'IA aggiunge dettagli che non ci sono nel materiale originale, gli utenti potrebbero prendere decisioni basate su informazioni sbagliate. Un revisore umano che individua e corregge questi errori può evitare danni gravi prima che colpiscano persone reali.
- Chi controllerà i risultati?
- Come verranno segnalati e affrontati gli errori?
Trasparenza e comprensibilità
Sia chi la sviluppa sia chi la usa dovrebbe capire come l'IA è arrivata a una certa raccomandazione o decisione: la logica degli algoritmi, come è stata addestrata l'IA, come sono stati elaborati e etichettati i dati e come viene valutata la performance del modello.
Dato che l'intelligenza artificiale viene usata sempre più spesso per prendere decisioni importanti (come assumere qualcuno, fare diagnosi mediche, approvare prestiti o dare consigli sugli investimenti), risultati sbagliati o di parte possono avere conseguenze serie, influenzando la carriera, le finanze o anche la salute e la sicurezza.
Puoi usare visualizzazioni semplici, brevi spiegazioni scritte o demo interattive per mostrare come funziona il tuo sistema. La cosa importante è dare agli utenti abbastanza informazioni per prendere decisioni consapevoli, fare domande e capire il ragionamento dietro i risultati della tua IA.
- Come puoi rendere le decisioni della tua AI chiare e comprensibili agli utenti?
Accessibilità e inclusione
L'intelligenza artificiale dovrebbe funzionare per tutti, comprese le persone con disabilità, quelle che non parlano inglese, quelle che non hanno internet ad alta velocità e quelle che non hanno familiarità con la tecnologia.
- Ci saranno interfacce visive che potrebbero escludere gli utenti non vedenti?
- E per quanto riguarda gli input audio che potrebbero escludere gli utenti sordi?
- I tuoi utenti hanno le conoscenze tecniche per navigare facilmente e utilizzare il tuo prodotto in modo efficiente?
- Terrete conto dei non anglofoni che utilizzano la vostra app?
Impatto ambientale
L'intelligenza artificiale è straordinaria e può trasformare la vita delle persone, ma ha anche un costo. L'addestramento dei modelli di IA richiede una notevole potenza di calcolo, che incide sull'ambiente. Anche se il tuo progetto iniziale potrebbe non avere un impatto significativo sull'ambiente, devi comunque considerare che questo problema potrebbe emergere quando il tuo progetto si espande.
945 TWh entro il 2030
Si prevede che entro il 2030 i data center che alimentano l'intelligenza artificiale consumeranno circa 945 terawattora di elettricità, più dell'intero consumo annuale del Giappone. Secondo l'Agenzia internazionale per l'energia, il 60% di quell'energia proverrà ancora dai combustibili fossili.
- Come puoi utilizzare i modelli di apprendimento automatico esistenti invece di formarne di tuoi?
- Come puoi ottimizzare il tuo modello e utilizzare meno dati?
Impatto sul lavoro
L'intelligenza artificiale automatizza molti compiti precedentemente svolti dagli esseri umani. Il tuo progetto potrebbe potenzialmente causare danni non intenzionali, facendo perdere il lavoro e il reddito alle persone.
- Sostituisce i posti di lavoro umani e, in tal caso, che fine faranno i lavoratori?
- Chi ne trarrà vantaggio economico e chi potrebbe esserne svantaggiato?
Regolamenti che dovresti conoscere
Il design etico va oltre ciò che è tecnicamente legale per garantire che il tuo prodotto sia corretto e affidabile. Tuttavia, ci sono regolamenti e leggi da rispettare quando si lanciano nuove tecnologie.
Se la tua AI gestisce dati personali:
- GDPR (Europa): regole severe in materia di privacy e protezione dei dati personali
- CCPA (California): diritti alla privacy dei consumatori
- COPPA (USA): protezione dei dati dei bambini
- HIPAA (Stati Uniti): protezione dei dati sanitari
Se il tuo progetto utilizza l'intelligenza artificiale:
- Legge UE sull'IA (2024): Classifica i sistemi di IA in base al rischio (basso, alto, inaccettabile). I sistemi ad alto rischio - utilizzati per le assunzioni, l'istruzione e l'assistenza sanitaria - devono rispettare rigide regole di trasparenza, test e documentazione.y
- Carta dei diritti dell'intelligenza artificiale negli Stati Uniti: Non è ancora legge, ma delinea principi come la protezione da pregiudizi algoritmici, la privacy dei dati e le alternative umane per le decisioni critiche.
- Altri quadri di riferimento: L'AI and Data Act del Canada, il Model AI Governance Framework di Singapore e gli AI Principles dell'OCSE sottolineano la responsabilità, l'equità e la spiegabilità.
- Proprietà intellettuale (IP): Fai attenzione all'IA generativa che può produrre contenuti protetti da copyright. Evita di utilizzare materiali protetti da copyright nei dataset di addestramento per i tuoi modelli.
Essere un creatore etico è un viaggio
L'intelligenza artificiale è potente, ma non è mai perfetta. I modelli si evolvono, imparano da nuovi dati e interagiscono con gli utenti in modi che possono produrre risultati inaspettati. Ciò significa che le considerazioni etiche non sono una lista di controllo una tantum, ma richiedono invece un'attenzione continua.
Ricorda che l'obiettivo non è solo costruire una soluzione di IA che funzioni oggi, ma che continui a funzionare in modo equo, sicuro e vantaggioso anche domani e oltre.
Tu e il tuo team dovreste sempre chiedervi: "Cosa possiamo fare adesso per rendere il nostro prodotto ancora più responsabile?" I vostri valori o il contesto potrebbero cambiare col tempo, quindi dovete riflettere su questo punto in modo continuo.
Tieni a mente questi consigli:
- Continua a imparare: migliora le tue abilità, fai domande e pensa a come rendere il tuo prodotto più responsabile.
- Cerca sempre di fare del bene: non si tratta solo di evitare le cose brutte, ma di avere una missione precisa per aiutare la tua comunità in modo gentile e giusto.
- Inseriscilo nel tuo piano: dedica tempo ed energie all'etica, proprio come faresti per progettare l'aspetto del tuo prodotto o scrivere il codice.
- Avere un capo del Team RRI: qualcuno che ricordi a tutti di essere responsabili, soprattutto quando siete tutti presi e entusiasti delle nuove idee.
- Chiedi aiuto: non aver paura di chiedere una mano a colleghi, mentori, utenti o professionisti se hai dubbi sull'eticità di qualcosa nella tua attività.
ATTIVITÀ 1
Il tuo piano d'azione per l'etica dell'IA continua
Tempo stimato: 30 minuti
Costruire in modo etico è un viaggio continuo. Usa le domande del foglio di lavoro per pensare a come gestire le questioni etiche nel tuo progetto.
Ricorda di rimanere curioso! Il mondo dell'intelligenza artificiale è in continua evoluzione ed essere un grande innovatore significa imparare sempre. Ora sei in grado non solo di costruire qualcosa di straordinario, ma anche di guidarlo in modo etico verso il futuro.
Risorse aggiuntive
In questo intervento il professor Stuart Russel approfondisce l'etica dell'IA e sottolinea l'importanza di una progettazione responsabile , della supervisione e della considerazione dell'impatto sulla società.
