Italiano [English below]
Abstract: partendo da una definizione di “intelligenza artificiale”, si passa a valutare quali campi siano effettivamente coinvolti nell’adozione di tali sistemi. Dopodichè, se ne analizzano le problematiche e gli aspetti sensibili, anche ricordando alcune sentenze, reclami e cause giurisdizionali recenti sull’argomento. Si passa poi ad un’analisi delle normative che si stanno occupando della materia, evidenziando le problematiche sui rischi, le discriminazioni, la tutela della privacy e dei diritti umani universalmente riconosciuti (talvolta violati dalle aziende di Big Data e altri enti, pubblici e privati).
Keywords: AI, Big Data, privacy, diritti umani, cause e reclami, aspetti sensibili dell’AI, AI Act europeo, linee guida volontarie
Per definire l’intelligenza artificiale, occorre in primo luogo comprendere ciò che si intende per “intelligenza”: questa è la capacità di attuare la cosa giusta al momento giusto, quando omettere un’azione o farne un’altra darebbe un risultato peggiore; essa implica la capacità di comprendere il contesto ed agire nel modo migliore, apprendere nuovi contesti e azioni e le relazioni che possono unire contesto e azione. Ad esempio, le piante hanno un’intelligenza che le porta a volgersi nella direzione della luce per ottimizzare la fotosintesi.
L’intelligenza artificiale è la capacità delle macchine di discernere contesti e azioni. Per lungo tempo, l’idea di intelligenza artificiale ha suscitato paura ed eccitazione: è stata introdotta nello sviluppo industriale sin dagli anni Ottanta, specialmente nell’elaborazione di grandi quantità di dati e nei circuiti delle carte di credito e delle transazioni monetarie. L’utilizzo di algoritmi per facilitare la trattazione di problemi computazionali e per implementare il controllo industriale, nonché il monitoraggio e la classificazione di dati viene definita Machine learning (ML).
A lungo si è anche pensato che i dispositivi che sfruttano l’intelligenza artificiale dovessero possedere sembianze umane. In realtà, questo non si è rivelato sempre vero, poiché ad esempio uno smartphone è in effetti un robot domestico in grado di reperire testi, cercare immagini, video e audio, tradurre e trascrivere testi automaticamente e così via.
Un’altra fondamentale caratteristica dell’intelligenza artificiale è l’autonomia: essa è la capacità di scegliere autonomamente un’azione specifica in mezzo ad altre che risponda meglio al contesto in cui opera. Si tratta infatti di macchine dotate di capacità di apprendimento automatico e di adattamento ispirate ai modelli umani [1].
Il Machine Learning altro non è che una sottoarea dell’intelligenza artificiale, e consta nell’impiego di algoritmi che consentono al computer di imparare i dati e migliorare le proprie prestazioni nel tempo, senza essere espressamente programmati per ogni azione. L’ML impiega tecniche statistiche e pattern di decisioni che la macchina apprende da esempi passati.
Il Deep Learning (apprendimento approfondito) è un sottoinsieme dell’ML che impiega reti neurali profonde costituite da molteplici livelli, costituendo modelli fondazionali (Large Language Model LLM).
L’AI generativa (GPT, OpenAI, Gemini, Meta e altri) utilizzano appunto gli LLM per la comprensione del linguaggio naturale dell’uomo.
L’AI ha capacità di interazione con l’ambiente, apprendimento e adattamento, ragionamento e pianificazione autonomi. Pertanto i dispositivi possono prendere decisioni affidate in passato all’uomo. Ad esempio, uno smartphone è un vero e proprio robot domestico: non possiede soltanto microfoni, ma anche una varietà di sensori in grado di comprendere se l’orientamento cambia, o quando il dispositivo casca.
L’AI può essere applicata in diversi ambiti, ma la velocità di sviluppo in ogni area può essere differente. I sei strumenti principali di AI che l’Osservatorio Artificial Intelligence elenca sono le seguenti [2]:
1. Chatbot (o Virtual Assistant)
è un assistente virtuale capace di offrire assistenza alla clientela e ai dipendenti 24 ore su 24, 7 giorni su 7 e vengono impiegati anche per implementare il marketing, supportare la vendita e il settore del Human Resource Management, gestire la domotica e collaborare con il settore di Ricerca e Sviluppo dell’azienda;
2. Natural Language Processing (NLP)
è un algoritmo di apprendimento che favorisce l’interazione comunicativa tra uomo e macchina e serve specialmente per i testi (pagine web, post, tweet, informazioni aziendali).
3. Computer Vision
comprende gli algoritmi e le tecniche utili alla macchina per comprendere immagini e video di alto livello o di grande complessità, che consentono, grazie ad una rete neurale addestrata su milioni di immagini, una descrizione statistica delle immagini sempre più accurata.
4. IDP (Intelligent Data Processing)
questa classe comprende tutte quelle soluzioni che utilizzano algoritmi di Artificial Intelligence – su dati strutturati e non – per finalità collegate all’estrazione delle informazioni presenti nei dati stessi (in particolar modo, previsioni, classificazione e raggruppamento).
5. Recommendation System
sono le applicazioni più utilizzate e tengono traccia dell’attività dell’utente. Queste sono impiegate in tutti i modelli di business sulle piattaforme virtuali di eCommerce (Amazon, Netflix e tanto altro) e sono in grado di apprendere le preferenze, producendo suggerimenti specifici finalizzati alla vendita.
6. Soluzioni Fisiche di Intelligenza Artificiale
ancora poco diffuse in Italia, le soluzioni fisiche di AI comprendono tre categorie principali: i veicoli dotati di guida autonoma, gli autonomous robot (veicoli in grado di muoversi senza l’intervento umano) e gli intelligent objects, oggetti sono in grado di compiere azioni senza l’intervento umano e di prendere decisioni in base alle condizioni dell’ambiente circostante.
I modelli di AI appena elencati, possono essere implementati anche combinati tra loro: ad esempio, i chatbot hanno contribuito notevolmente all’aumento delle performance degli NLP.
Alcune proprietà dei modelli fondanti della AI Generativa possono essere definite vere e proprie capacità della macchina:
1. elaborazione del linguaggio naturale (realizza discorsi e dialoghi, estrapola informazioni, risposte a domande);
2. elaborazione delle immagini (riconoscimento di volti e movimenti, recupero di immagini e video, visione artificiale);
3. computazione e apprendimento autonomo
4. ragionamento ontologico e classificazione
5. interazione sociale e interazione con l’ambiente (localizzare, mappare e navigare, pianificare i movimenti e percorsi)
Grazie alla Robotic Process Automation (RPA), le capacità di AI possono essere integrate tra loro. I software RPA sono sempre più utilizzati perché consentono di migliorare l’esecuzione di alcuni compiti (tasks) e rendere efficaci ed efficienti i processi, compresi quelli al servizio del consumatore o dell’utente (customer satisfaction). Attualmente i bot RPA non vengono più programmati rigidamente, ma si definiscono i confini dentro cui il bot opera con autonomia decisionale [3].
Con altre parole il Machine Learning ha implementato le seguenti attività:
• Model Prediction;
• Deep Learning;
• Online Learning;
• Explainable Regression & Classification;
• Information Retrieval;
• Reinforcement Learning.
Pier Luigi Capucci, “Anachronies series n.06”, 2024
Vediamo ora quali sono i settori in cui l’AI ha preso maggiormente piede.
A. Healthcare e medicina digitale
La tecnologia AI a livello medico e in ambito sanitario consente di stilare diagnosi sulla base dei dati incrociati delle informazioni relative al paziente, coadiuva il medico nel prendere decisioni più celeri e nella personalizzazione delle cure, riduce significativamente i tempi di ricerca.
B. Fintech e Insurtech
In campo finanziario ed assicurativo, l’AI viene ampiamente impiegata nei settori Banking, Finance & Insurance, poiché consentendo una migliore e più precisa profilazione del cliente, garantisce lo sviluppo di servizi ad hoc per ogni singolo profilo di rischio. Tra le soluzioni più conosciute e applicate in questi settori, vi sono i chatbot per l’assistenza post-vendita.
C. Internet of Things (IoT) e dispositivi connessi
Nell’ambito IoT, l’AI viene utilizzata per le soluzioni Smart Factory, Smart Home e Smart City. Ad esempio, i sistemi di Smart Home consentono di gestire la domotizzazione dell’abitazione privata o degli uffici. Tali soluzioni consentono di regolare la temperatura, l’umidità e la luminosità in base alle abitudini degli utenti e di programmare tutte le attività degli elettrodomestici anche quando non si è materialmente presenti.
D. Cybersecurity e Privacy
L’AI può garantire un maggior controllo e una migliore difesa dei dati degli utenti in ambito di Sicurezza Informatica. Le soluzioni AI rilevano e prevengono anomalie nel traffico di rete ed analizzano enormi quantità di dati provenienti da diverse fonti, possono identificare e prevenire gli attacchi informatici e velocizzano i tempi di risposta. L’AI in tale campo automatizza ed orchestra le azioni di risposta grazie a sistemi di detect and response, utilizzati principalmente per monitorare le attività dei dispositivi e bloccare malware e ransomware.
In questo settore, si impone un’analisi delle potenziali violazioni dei diritti umani, aspetto che dovrebbe essere evitato dai governi prima ancora che accada, con meccanismi di supervisione efficaci basati fondamentalmente sulla protezione internazionale dei diritti umani [4]. Nono sono sufficienti gli approcci “test and remedy” che possono essere applicati oltanto dopo che il danno è già stato fatto. Ciononostante, rimedi efficaci postumi devono essere disponibili e accessibili a coloro i cui diritti umani sono stati violati nella progettazione, nello sviluppo o nell’impiego di una tecnologia di AI.
Dal 2019, alcuni casi sono stati sottoposti ad alcuni organi giudiziari dei singoli stati: la legislazione in vigore si è rivelata inadeguata a rimediare efficacemente tali danni. Le poche cause intentate si basano specialmente sulla protezione dei dati, anche in relazione alla violazione di alcuni diritti umani.
Nel 2020, il Tribunale distrettuale dell’Aia ha annullato una legge che autorizzava l’uso da parte del governo di un modello di rischio per identificare gli individui sospettati di aver commesso alcune frodi. La Corte distrettuale ha ritenuto che la legge violasse il diritto alla privacy, facendo riferimento anche al suo effetto discriminatorio, in quanto determinati gruppi sono stati automaticamente incriminati di frode, con il risultato di ricevere richieste erronee di ingenti rimborsi, rovinando intere famiglie innocenti.
Nello stesso anno, la Corte d’Appello di Inghilterra e Galles ha stabilito che la base giuridica per l’uso della tecnologia di riconoscimento facciale da parte della polizia era insufficiente, in quanto lasciava troppa discrezionalità agli agenti di polizia. Inoltre, la Corte ha ritenuto che la polizia non avesse effettuato un’adeguata valutazione della protezione dei dati e dell’impatto della relativa tecnologia.
Sempre nel 2020, un tribunale di Bologna ha stabilito che l’algoritmo di un’azienda di consegne di generi alimentari per stabilire le condizioni di accesso al lavoro dei fattorini peccasse di discriminazione indiretta.
Nel 2021, la Corte amministrativa suprema polacca ha ritenuto che l’algoritmo del sistema di assegnazione casuale dei casi ai tribunali, violava i diritti sulla libertà d’informazione. Nello stesso anno, la Corte di Cassazione italiana ha chiesto un più alto grado di consenso informato da parte degli interessati nel contesto dei sistemi di valutazione della reputazione basati sull’intelligenza artificiale.
Nel 2022, il Tribunale distrettuale di Amsterdam e la City of London Magistrates Court hanno ordinato che i conducenti colpiti dal licenziamento automatizzato applicato da alcune società fossero reintegrati e risarciti.
Sviluppi simili si riscontrano anche presso gli organi non giudiziari: nel 2017, l’Ombudsman finlandese per la non discriminazione ha portato un caso al Tribunale nazionale per la non discriminazione e l’uguaglianza contro una banca in merito all’uso del processo decisionale automatizzato nella concessione di prestiti. La pratica era discriminatoria per più motivi e ha imposto una multa ingente alla parte ritenuta colpevole.
Nel maggio 2022 l’Autorità per la protezione dei dati del Regno Unito ha imposto una multa di 7,5 milioni di sterline a una società di riconoscimento facciale per l’utilizzo di immagini di persone, con l’ordine di cancellare dai suoi sistemi tutti i dati relativi a persone residenti nel Regno Unito. Nello stesso anno, l’Autorità olandese per la protezione dei dati ha imposto la multa più alta mai comminata (3,7 milioni di euro) all’Amministrazione fiscale olandese per aver trattato illegalmente dati personali per un periodo di sei anni attraverso il suo “sistema di identificazione delle frodi” basato su algoritmi. Questa multa si aggiunge a quella di 2,75 milioni di euro inflitta nel 2021 all’Amministrazione fiscale per l’uso di un sistema discriminatorio fiscale in merito ai sussidi per l’infanzia.
Il diritto a un rimedio effettivo implica il diritto a una riparazione e a un risarcimento rapidi e adeguati. Nei casi sopra citati, tuttavia, ci sono voluti diversi anni prima che venisse emessa una decisione di prima istanza. Molti reclami in materia di protezione dei dati vengono continuamente sottoposti al giudizio delle autorità di tutti gli stati contro una serie di potenti piattaforme online che utilizzano l’intelligenza artificiale come parte dei loro modelli di business e spesso le sentenze arrivano dopo oltre tre anni. È quindi necessario fare in modo di garantire che i meccanismi di ricorso siano più rapidi ed efficienti. Inoltre, nei casi di discriminazione algoritmica, l’onere della prova dovrebbe essere a carico dell’utilizzatore dell’algoritmo, non del ricorrente [5].
E. E-Commerce e Retail
Con i chatbot e il Recommendation System si possono suggerire gli acquisti a ogni singolo utente grazie alla profilazione che viene costruita sulla base degli acquisti fatti da quell’individuo in passato.
Il Virtual try-on consente di simulare la prova di un capo su internet.
Nei camerini fisici presso i negozi reali vi sono touch display trasparenti che forniscono in tempo reale le informazioni richieste da cliente e, una volta comprese le preferenze, mostrano i prodotti in linea con i loro interessi.
F. Design Thinking
Il settore del design fa molto affidamento sulla rivoluzione tecnologica in atto, poiché il Design Thinking è quella capacità dell’AI di risolvere problemi complessi attraverso una visione creativa. L’AI può reinterpretare i dati e crea immagini originali, sulla base di variabili dettate dall’essere umano, L’AI in questo campo non sostituisce le figure professionali, ma piuttosto è in grado di stimolare il processo creativo, sia individuale che di gruppo, può accompagnare l’elaborazione di un pensiero e, attraverso le immagini, può anche stimolare una creatività più profonda. In questo ambito, sono complesse le attività di AI che possono essere sfruttate.
Dal momento che nell’abito del design la risoluzione creativa dei problemi è risolta dagli algoritmi, il design umano diventa sempre più un’attività di sensemaking, ovvero di comprensione di quali problemi dovrebbero o potrebbero essere affrontati. Questo spostamento di attenzione richiede nuove teorie e avvicina il design alla leadership.
L’AI rafforza i principi del Design Thinking, in quanto si concentra maggiormente l0attenzione sulle persone: le soluzioni ora possibili sono più altamente progettate per ogni singola persona e vengono continuamente aggiornate attraverso iter di autoapprendimento lungo l’intero ciclo di vita del prodotto. In sintesi, l’IA non mina i principi di base del design, ma cambia profondamente la pratica del design. I compiti di risoluzione dei problemi, tradizionalmente svolti dai designer, sono ora automatizzati in cicli di apprendimento che operano senza limiti di volume e velocità. Gli algoritmi incorporati in questi cicli pensano in modo radicalmente diverso rispetto a un designer: gli algoritmi gestiscono la complessità attraverso compiti molto semplici, che vengono iterati continuamente [6].
Nell’ambito del design, è stato concepito un approccio che tenga conto dei valori umani: si tratta della Value Sensitive Design (VSD). Essa enfatizza valori etici delle parti interessate, dirette e indirette. È stata sviluppata da Batya Friedman e Peter Kahn presso l’Università di Washington tra la fine degli anni Ottanta e l’inizio degli anni Novanta. Sostanzialmente, i progetti vengono sviluppati utilizzando un’indagine composta da tre fasi modificabili ad ogni step da parte del progettista: concettuale, empirica e tecnologica. L’approccio VSD è appunto spesso descritto come un approccio fondamentalmente basato sulla sua capacità di essere modificato a seconda della tecnologia, dei valori o del contesto d’uso. Un esempio di approccio VSD modificato è la Privacy by Design, che si occupa del rispetto della privacy delle informazioni di identificazione personale nei sistemi e nei processi ed il Care-Centered Value Sensitive Design (CCVSD) proposto da Aimee van Wynsberghe [7].
All’inizio del 2023, un gruppo di artisti ha intentato una causa collettiva contro Midjourney e Stability AI, denunciando una violazione del copyright. Sia Midjourney che Stability sono addestrati utilizzando miliardi di immagini di Internet. Secondo i ricorrenti, le aziende hanno violato i diritti di milioni di artisti che hanno creato le immagini originali. Se gli strumenti dell’AI violino o meno la legge sul copyright può essere difficile da determinare, perché il database utilizzato è enorme. Ma una cosa è certa: questo tipo di società venderà stock di immagini generate dall’AI in modo sempre più massivo, e nel prossimo futuro sarà più chiaro sulla regolamentazione di questo aspetto relativo al copyright.
I rischi dell’AI per la nostra società e le sfide etiche
Nell’era dei Big Data, le aziende e i governi utilizzano sempre più spesso gli algoritmi per fare scelte relative all’assunzione e alla gestione dei dipendenti, alla sicurezza, ai prezzi delle assicurazioni e molti altri aspetti della nostra vita. L’AI può aiutarci a prendere decisioni efficienti, ma può anche metterci di fronte a decisioni ingiustificate e discriminatorie, ritenute erroneamente accurate perché prese in modo automatico e quantitativo. E’ evidente che questi sviluppi tecnologici hanno conseguenze sui diritti umani fondamentali delle persone. Nonostante la crescente attenzione verso queste sfide, le soluzioni tecniche a questi complessi problemi socio-etici vengono spesso sviluppate senza uno studio empirico e senza l’apporto critico delle parti interessate, in particolare quelle che subiscono l’impatto tecnologico crescente.
Poiché il potenziale impatto negativo dei sistemi di IA sui diritti umani può essere significativo e potrebbe rappresentare una minaccia per la vita umana, l’ambiente, la democrazia e lo stato di diritto, gli studi su tale argomento e la relativa redazione di una normativa dovrebbero essere basati specificamente su ricerche empiriche consolidate, poiché le discriminazioni e i danni conseguenti possono essere inflitti in qualsiasi momento del loro ciclo di vita, comprese le fasi di acquisizione dei dati e di modellazione.
E’ peraltro fondamentale prestare attenzione alle condizioni dinamiche degli ambienti reali in cui i sistemi di AI si trovano ad agire ed interagire. Dal 2019, le valutazioni del rischio e dell’impatto hanno avuto un ruolo di primo piano nelle discussioni politiche sulla governance e la regolamentazione dell’AI in Europa, che però hanno condotto a risultati soltanto parziali, a lacune normative e a un’attuazione frammentaria. In ogni caso, per cominciare ad individuare i problemi implicati nello sviluppo di queste tecnologie, per dare una prima risposta a queste urgenti problematiche e per comprendere quali siano i rischi e le sfide etiche per la nostra società, è necessario in primis dividere i rischi derivanti dalle nuove tecnologie AI in due macrocategorie: i rischi derivanti dalle scelte progettuali degli sviluppatori e i rischi strettamente legati alla libertà delle persone negli ambiti sociali, politico, economico.
Pier Luigi Capucci, “Anachronies series n.08”, 2024
Rischi derivanti dalle scelte progettuali degli sviluppatori:
Bias: possono sorgere distorsioni involontarie nell’elaborazione di grosse quantità di dati e/o negli algoritmi impiegati
Black Tech: tecnologie di AI sviluppate appositamente per soddisfare scopi malevoli
Fairness: acquisizione di vantaggi iniqui per alcune parti rispetto agli utenti
Privacy: non rispetto della normativa in materia di trattamento dei dati personali, monitoraggio e profilazione degli utenti
Transparency: mancanza di trasparenza dei processi decisionali che caratterizzano i sistemi di AI
Rischi relativi alla libertà delle persone e gli ambiti sociale, politico, economico:
Equality: vi può essere disuguaglianza nell’accesso alle nuove e conseguente discriminazione
Freedom: limitazione della libertà e dei diritti del singolo (libertà di pensiero, di espressione, di autodeterminazione, diritto all’oblio) e delle libertà collettive
Job: controllo sul singolo lavoratore, cambiamento del mercato del lavoro in ragione della crescente automazione
Psychology: minaccia del benessere mentale ed emotivo degli utenti
Sustainability: utilizzo smoderato delle risorse ambientali
Trust: accentramento di risorse economico-finanziarie, di asset e di know-how tecnologico
Il Regolamento dell’Unione Europea: l’AI Act
L’AI Act, ossia l’Artificial Intelligence Act, è il primo regolamento al mondo sull’Intelligenza Artificiale. Il suo obiettivo è quello di regolamentare i sistemi di AI utilizzati nel mercato europeo; essi devono essere sicuri e rispettosi di tutte le normative europee.
Presentato per la prima volta ad aprile 2021, l’AI Act è stato approvato dal Parlamento Europeo il 13 marzo 2024. E’ entrato in vigore nell’agosto 2024 a seguito dell’effettiva approvazione del Consiglio europeo. Stando all’accordo provvisorio, tale regolamentazione verrà applicata due anni dopo la sua entrata in vigore (salvo alcune eccezioni).
L’AI Act classifica i sistemi di AI in base al loro livello di rischio ed introduce i requisiti e gli obblighi per la loro immissione sul mercato europeo. Per i sistemi il cui rischio è considerato inaccettabile si giunge sino al divieto di utilizzo.
Grazie a questo complesso documento, l’Unione Europea mira a porre le basi per raggiungere un equilibrio tra l’impiego diffuso dell’Intelligenza Artificiale e lo sviluppo economico.
Tale atto regola l’uso dell’IA nell’Unione Europea, al fine di garantire la protezione dei diritti fondamentali e la sicurezza dei cittadini.
Alcuni dei punti salienti del Regolamento includono:
1. Definizione di IA ad alto rischio: Il Regolamento identifica determinate applicazioni di intelligenza artificiale che sono considerate ad alto rischio, come ad esempio i sistemi di biometria per l’identificazione delle persone, i sistemi di valutazione del credito e i sistemi di gestione del personale.
2. Requisiti per l’IA ad alto rischio: Le applicazioni di IA considerate ad alto rischio devono rispettare determinati requisiti, come ad esempio la trasparenza e la tracciabilità del sistema, la documentazione e la registrazione delle attività, la valutazione dei rischi e la conformità alle norme europee.
3. Divieti sull’uso dell’IA: Il Regolamento vieta l’uso di determinate pratiche di intelligenza artificiale che sono considerate inaccettabili per la protezione dei diritti fondamentali, come ad esempio i sistemi di punizione sociale e i sistemi di manipolazione comportamentale.
Le disuguaglianze sociali e le linee guida volontarie
Con l’accelerazione della pervasività dell’intelligenza artificiale nella vita di tutti i giorni, vi è stata una crescente preoccupazione dell’opinione pubblica per i rischi possibili. Quando le applicazioni sono mal progettate, sviluppate o utilizzate in modo improprio, queste possono rivelarsi altamente dirompenti sia per gli individui che per la società. I critici hanno avvertito che queste nuove tecnologie possono portare a un aumento delle disuguaglianze sociali.
Le linee guida volontarie sulle pratiche etiche sono state la risposta degli attori dell’industria, del governo e delle associazioni professionali. Esse servono a creare un consenso o una visione comune basata su standard e principi fondamentali per l’impiego etico dell’intelligenza artificiale. Sulla base dei principi a tutela dei diritti umani (uguaglianza, partecipazione, salute e responsabilità) e l’attenzione al diritto alla privacy, sono state stilate 15 linee guida, che si basano principalmente sul diritto internazionale dei diritti umani universalmente riconosciuti.
Purtroppo, queste linee guida provengono per la maggior parte ed in misura sproporzionata dalle aziende e da altri gruppi di interesse, e si dimostrano particolarmente deboli nel tutelare i diritti alla privacy, le disuguaglianze e le discriminazioni.
In pochi anni, le linee guida per gli attori del mercato sono proliferate e, nell’aprile 2020, l’Inventario globale dell’etica dell’IA di Algorithm Watch comprendeva più di 160 linee guida, raddoppiate nei 12 mesi successivi al lancio dell’Inventario (Algorithm Watch, 2019) [8].
In conclusione: sicuramente l’AI Act, le linee guida volontarie, le sentenze internazionali in materia di AI e una giusta considerazione dei diritti umani universalmente riconosciuti fungeranno da timone per il raggiungimento di una normativa internazionale sempre più adeguata all’enorme diffusione delle tecnologie AI nella nostra società globale.
Pier Luigi Capucci, “Anachronies series n.02”, 2024
Note
1) Osservatorio Artificial Intelligence del Politecnico di Milano. https://blog.osservatori.net/it_it/intelligenza-artificiale-funzionamento-applicazioni. [back]
2) Osservatorio Artificial Intelligence del Politecnico di Milano. https://blog.osservatori.net/it_it/intelligenza-artificiale-funzionamento-applicazioni. [back]
3) Osservatorio Artificial Intelligence del Politecnico di Milano. https://blog.osservatori.net/it_it/intelligenza-artificiale-funzionamento-applicazioni. [back]
4) Consiglio europeo per i diritti umani, Human rights by design future-proofing human rights protection in the era of AI, Follow-up Recommendation to “Unboxing AI” (2019), Maggio 2023. [back]
5) Consiglio europeo per i diritti umani, Human rights by design future-proofing human rights protection in the era of AI, Follow-up Recommendation to “Unboxing AI” (2019), Maggio 2023. [back]
6) Verganti R., Vendraminelli L., Iansiti M., Catalyst Innovation and Design in the Age of Artificial Intelligence, in Journal Prod. Innov. Manag., 2020;37(3):212–227. [back]
7) Umbrello S., van de Poel I., Mapping value sensitive design onto AI for social good principles, in AI and Ethics (2021) 1:283–296. [back]
8) Fukuda-Parr S., Gibbons E., Emerging Consensus on ‘Ethical AI’: Human Rights Critique of Stakeholder Guidelines, in Global Policy, Vol. 12, Supplement 6, Luglio 2021. [back]
Pier Luigi Capucci, “Anachronies series n.01”, 2024
Abstract. Starting with a definition of “artificial intelligence”, we go to the analysis of the fields in which it is used. Afterwards, the issues and the sensitive aspects are analysed, including recalling some recent judgments, complaints and court cases on the subject. We then proceed to an analysis of the legislation dealing with this matter, highlighting the risks, discrimination, protection of privacy and human rights.
To define artificial intelligence, one must first understand what is meant by “intelligence”: this is the ability to implement the right thing at the right time, when omitting one action or doing another would yield a worse outcome; it implies the ability to understand context and act in the best way, learn new contexts and actions, and the relationships that can connect context and action. For example, plants have intelligence that causes them to bend toward light to maximize photosynthesis.
Artificial intelligence is the ability of machines to recognize circumstances and behaviours. For a long time, the concept of artificial intelligence has caused both fear and excitement: since the 1980s, it has been used in industrial development, particularly for large-scale data processing and credit card and monetary transaction circuits. Machine learning (ML) is the application of algorithms to facilitate the processing of computational issues, apply industrial control, and monitor and classify data.
For a long time, it was considered that machines powered by artificial intelligence should look like humans. In actuality, this has not always been the case; for example, a smartphone is a domestic robot capable of retrieving text, searching for photographs, video, and audio, automatically translating and transcribed text, and so on.
Another important feature of artificial intelligence is autonomy, which is the ability to select a certain action from among those that best reacts to the context in which it functions. It is, in reality, machines with machine learning and adaptive capabilities modeled after human models [1].
Machine learning is a kind of artificial intelligence that uses algorithms to allow computers to learn data and improve their performance over time without being explicitly programmed for each action. system learning (ML) uses statistical methodologies and decision patterns that the system learns from previous examples.
Deep learning is a subset of machine learning that uses deep neural networks with numerous layers to represent basic patterns (Large Language Model LLMs).
Generative AI (GPT, OpenAI, Gemini, Meta, and others) uses LLMs to grasp natural human language.
AI can interact with its surroundings, learn and adapt, and perform independent reasoning and planning. As a result, technology can make judgments that would otherwise be left to humans. A smartphone, for example, is a true house robot: it has not only microphones but also a range of sensors that can detect when the device’s orientation changes or it falls.
Different areas can apply AI, but each may develop at a different pace.
The Artificial Intelligence Observatory identifies six key AI tools:
1. Chatbot (or Virtual Assistant)
is a virtual assistant that provides 24/7 assistance to customers and employees, as well as support for sales, HR, home automation, and R&D.
2. Natural language processing (NLP)
is a learning algorithm that enhances human-machine communication, with a focus on text.
3. Computer Vision
algorithms and approaches for machine understanding of complicated images and movies. Neural networks trained on millions of images provide more accurate statistical descriptions.
4. Intelligent Data Processing (IDP)
This class encompasses any solutions that use artificial intelligence techniques to extract information from organized and unstructured data (particularly prediction, classification, and clustering).
5. Recommendation Systems
are the most extensively utilized programs for tracking user activities. These are used in all business models on virtual eCommerce platforms (Amazon, Netflix, and others) and can learn preferences to make sales-specific recommendations.
6. Physical AI solutions
they are divided into three categories: self-driving cars, autonomous robotics (vehicles that can operate without human intervention), and intelligent objects. Objects can function autonomously and make decisions based on their surroundings.
The AI models outlined above can also be used in conjunction with one another: for example, chatbots have considerably improved NLP performance.
Some aspects of the foundation models of the Generative AI can be referred to as actual machine capabilities:
1. natural language processing (doing speeches and dialogues, extracting information, and responding to queries);
2. image processing (facial and motion identification, image and video recovery, artificial vision);
3. computing and self-learning;
4. ontological reasoning and classification;
5. social interaction and interaction with the environment (locate, map and navigate, plan movements and routes).
Thanks to robotic process automation (RPA), AI capabilities can be integrated with each other. RPA software is increasingly used because it allows you to improve the execution of certain tasks and make processes effective and efficient, including those at the service of the consumer or the user (customer satisfaction). At present, RPA bots are no longer rigidly programmed, but the boundaries within which the bot operates with decision-making autonomy are defined [2].
In other words, machine learning has implemented the following activities:
• Model prediction;
• Deep learning;
• Online learning;
• Explainable regression & classification;
• Information retrieval;
• Reinforcement learning.
Pier Luigi Capucci, “Anachronies series n.07”, 2024
Let us now look at the areas where AI has taken the lead.
A. Healthcare and digital medicine
AI technology at the medical and healthcare levels enables diagnosis based on cross-data information relating to the patient, helps the doctor make faster decisions and personalize the care and significantly reduces the search time.
B. Fintech and Insurtech
In the financial and insurance fields, AI is widely used in the banking, finance and insurance sectors, as by allowing better and more accurate customer profiling, it guarantees the development of ad hoc services for each individual risk profile. Among the most well-known and applied solutions in these sectors, there are chatbots for after-sales support.
C. Internet of Things (IoT) and connected devices
In IoT, AI is used for smart factory, smart home and smart city solutions. For example, smart home systems allow you to manage the domestication of your private home or offices. These solutions allow you to adjust the temperature, humidity and brightness according to the user’s habits and to program all the activities of the appliances even when you are not materially present.
D. Cybersecurity and Privacy
AI can guarantee greater control and better protection of user data in the field of computer security. AI solutions detect and prevent anomalies in network traffic, analyze huge amounts of data from different sources, identify and prevent cyber attacks and speed up response times. AI in this field automates and orchestrates response actions thanks to detection and response systems, mainly used to monitor device activities and block malware and ransomware.
In this area, an analysis of potential human rights violations is required, something that governments should avoid even before they happen, with effective monitoring mechanisms based primarily on international protection of human rights [3]. “Test and remedy” approaches are not sufficient because they can be applied after the damage is done. Nevertheless, effective posthumous remedies must be available and accessible to those whose human rights have been violated in the design, development, or use of AI technology.
Since 2019, some cases have been submitted to certain judicial bodies of the individual states: the legislation in force has proved to be inadequate to effectively remedy such damage. The few cases brought are based on data protection, including in connection with the violation of certain human rights.
In 2020, the Hague District Court annulled a law that authorized the government to use a risk model to identify individuals suspected of committing fraud. The District Court found that the law violated the right to privacy, also referring to its discriminatory effect, because certain groups have been automatically charged with fraud, with the result of receiving false requests for large refunds, ruining entire innocent families.
In the same year, the Court of Appeal of England and Wales ruled that the legal basis for the use of facial recognition technology by the police was insufficient, as it left too much discretion to police officers. Furthermore, the Court found that the police had not carried out an adequate assessment of data protection and the impact of the related technology.
Also in 2020, a court in Bologna ruled that the algorithm of a food delivery company to establish the conditions of access to labor for farmers is indirect discrimination.
In 2021, the Polish Supreme Administrative Court ruled that the algorithm of the random assignment of cases to the courts violated the rights to freedom of information. In the same year, the Italian Supreme Court requested a higher degree of informed consent from stakeholders in the context of AI-based reputation assessment systems.
In 2022, the Amsterdam District Court and the City of London Magistrates Court ordered that drivers affected by the automated redundancy applied by some companies be reinstated and compensated.
Similar developments are also observed in non-judicial bodies: in 2017, the Finnish Ombudsman for Non Discrimination brought a case before the National Court for Non Discrimination and Equality against a bank regarding the use of automated decision-making in the granting of loans. The practice was discriminatory for several reasons and imposed an enormous fine on the guilty party.
In May 2022, the UK Data Protection Authority imposed a £7.5 million fine on a facial recognition company for using images of people, with an order to delete all data relating to people residing in the UK from its systems. In the same year, the Dutch Data Protection Authority imposed the highest fine ever imposed (EUR 3.7 million) on the Netherlands Tax Administration for illicitly processing personal data for a period of six years through its algorithm-based “fraud identification system”. This penalty adds to the EUR 2.75 million imposed on the Tax Administration in 2021 for the use of a discriminatory tax system with regard to child allowances.
The right to an effective remedy implies the right to prompt and adequate reparation and redress. In the cases mentioned above, however, it took several years before a decision in the first instance was made.
Many data protection complaints are continuously being tried by the authorities of all states against a number of powerful online platforms that use artificial intelligence as part of their business models, and often sentences arrive after more than three years. It is therefore necessary to ensure that recourse mechanisms are faster and more efficient. Furthermore, in the case of algorithmic discrimination, the burden of proof should be borne by the user, not the applicant [4].
E. E-Commerce and Retail
With chatbots and the recommendation System, you can suggest purchases to each individual user thanks to the profiling that is built on the basis of purchases made by that individual in the past.
The virtual try-on allows you to simulate the test of a boss on the internet.
In the physical rooms at the real stores, there are transparent touch displays that provide in real time the information requested by the customer and, once the preferences are understood, show the products in line with their interests.
F. Design Thinking
The design industry relies heavily on the technological revolution, as design thinking is the ability of AI to solve complex problems through creative vision. AI can reinterpret the data and create original images, based on variables dictated by the human being. AI in this field does not replace professional figures but rather is able to stimulate the creative process, both individual and group, can accompany the elaboration of a thought, and, through images, can also stimulate deeper creativity. In this area, AI activities that can be exploited are complex.
Since in the costume of design the creative resolution of problems is solved by algorithms, human design becomes increasingly an activity of sensemaking i.e. of understanding which problems should or could be addressed. This shift of attention requires new theories and brings design closer to leadership.
AI reinforces the principles of design thinking, as it focuses more on people: the solutions now possible are more highly designed for each individual person and are continuously updated through iterative self-learning throughout the entire product life cycle. In short, AI does not undermine the basic principles of design but profoundly changes the practice of design. Problem-solving tasks, traditionally carried out by designers, are now automated in learning cycles that operate without limits of volume and speed. The algorithms embedded in these cycles think radically differently than a designer: algorithms manage complexity through very simple tasks, which are iterated continuously [5].
In the field of design, an approach has been conceived that takes into account human values: it’s value sensitive design (VSD). It emphasizes the ethical values of direct and indirect stakeholders. It was developed by Batya Friedman and Peter Kahn at the University of Washington between the late 1980s and early 1990s. Essentially, projects are developed using a survey consisting of three phases that can be modified at each step by the designer: conceptual, empirical and technological. The VSD approach is often described as a fundamental approach based on its ability to be modified depending on technology, values, or context of use. An example of a modified VSD approach is Privacy by Design, which deals with respect for the privacy of personally identifiable information in systems and processes, and the Care-Centered Value Sensitive Design (CCVSD) proposed by Aimee van Wynsberghe [6].
In early 2023, a group of artists filed a collective lawsuit against Midjourney and Stability AI, denouncing a copyright violation. Both Midjourney and Stability are trained using billions of images from the Internet. According to the applicants, the companies violated the rights of millions of artists who created the original images. Whether AI tools violate copyright law or not can be difficult to determine because the database used is huge. But one thing is certain: this kind of company will sell stock of AI-generated images more and more massively, and in the near future, it will be clearer on the regulation of this copyright aspect.
Pier Luigi Capucci, “Anachronies series n.04”, 2024
The risks of AI for our society and the ethical challenges
In the age of big data, companies and governments are increasingly using algorithms to make choices about hiring and managing employees, security, insurance prices, and many other aspects of our lives. AI can help us make efficient decisions, but it can also put us in the face of unjustified and discriminatory decisions that are mistakenly accurate because they are taken automatically and quantitatively. It is clear that these technological developments have consequences for people’s fundamental human rights. Despite the growing focus on these challenges, technical solutions to these complex socio-ethical problems are often developed without an empirical study and without the critical contribution of stakeholders, especially those who are experiencing the increasing technological impact.
Since the potential negative impact of AI systems on human rights can be significant and could pose a threat to human life, the environment, democracy and the rule of law, studies on this subject and the drafting of relevant legislation should be based specifically on consolidated empirical research, as discrimination and consequent harm can be inflicted at any time of their life cycle, including the stages of data acquisition and modeling.
It’s also crucial to pay attention to the dynamic conditions of the real environments in which AI systems are acting and interacting.
Since 2019, risk and impact assessments have played a leading role in political discussions on AI governance and regulation in Europe, but they have led to only partial results, regulatory gaps and fragmented implementation.
In any case, in order to begin to identify the problems involved in the development of these technologies, to give a first response to these urgent problems and to understand what the risks and ethical challenges are for our society, it is necessary, first of all, to divide the risks arising from the new AI technologies into two macro categories: the risks arising from the design choices of the developers and the risks closely linked to the freedom of people in the social, political, economic spheres.
Risks arising from developer design choices:
Bias: involuntary distortions may arise in the processing of large amounts of data and/or in the algorithms used
Black Tech: AI technologies developed specifically to meet malicious purposes
Fairness: acquiring unfair advantages for some parties over users
Privacy: non-compliance with the regulations regarding the processing of personal data, monitoring and profiling of users
Transparency: lack of transparency in the decision-making processes that characterize AI systems
Risks relating to the freedom of persons and the social, political, economic spheres:
Equality: there may be inequality in access to new information and consequent discrimination
Freedom: limitation of individual freedom and rights (freedom of thought, expression, self-determination, right to be forgotten) and collective freedoms
Job: control over the individual worker, change in the labor market due to increasing automation
Psychology: threat to the mental and emotional well-being of users
Sustainability: moderate use of environmental resources
Trust: concentration of economic and financial resources, assets and technological know-how
The European Union Regulations: the AI Act
The AI Act, or the Artificial Intelligence Act, is the world’s first regulation on artificial intelligence. Its objective is to regulate AI systems used in the European market; they must be safe and comply with all European regulations.
Introduced for the first time in April 2021, the AI Act was approved by the European Parliament on March 13, 2024. It entered into force in August 2024, following the effective approval of the European Council. According to the provisional agreement, this regulation will be applied two years after its entry into force.
The AI Act classifies AI systems according to their level of risk and introduces requirements and obligations for their placement on the European market. For systems whose risk is considered unacceptable, the prohibition of use can be reached.
Thanks to this complex document, the European Union aims to lay the foundations for achieving a balance between the widespread use of artificial intelligence and economic development.
This act regulates the use of AI in the European Union in order to guarantee the protection of fundamental rights and the safety of citizens.
Some of the highlights of the Rules of Procedure include:
1. Definition of high-risk AI: The Regulation identifies certain AI applications that are considered to be high-risk, such as biometric systems for the identification of persons, credit rating systems and staff management systems.
2. Requirements for high-risk AI: High-risk AI applications must meet certain requirements, such as system transparency and traceability, documentation and activity recording, risk assessment and compliance with European standards.
3. Prohibitions on the use of AI: The Regulation prohibits the use of certain artificial intelligence practices that are considered unacceptable for the protection of fundamental rights, such as social punishment systems and behavioral manipulation systems.
Social inequalities and voluntary guidelines
With the acceleration of the pervasiveness of artificial intelligence in everyday life, there has been a growing public concern about the possible risks. When applications are poorly designed, developed, or misused, they can be highly disruptive for both individuals and society. Critics have warned that these new technologies can lead to increased social inequalities.
The voluntary guidelines on ethical practices have been the response of industry, government and professional associations. They serve to create a common consensus or vision based on fundamental standards and principles for the ethical use of artificial intelligence. Based on the principles of human rights (equality, participation, health and responsibility) and attention to the right to privacy, 15 guidelines have been drawn up, which are based mainly on universally recognized international human rights law.
Unfortunately, these guidelines come for the most part and to a disproportionate extent from companies and other interest groups, and they are weak in protecting the right to privacy, inequalities and discrimination.
In a few years, guidelines for market players have proliferated, and by April 2020, Algorithm Watch’s Global AI Ethics Inventory included more than 160 guidelines, doubled in the 12 months following the launch of the Inventary (Algorithms Watch, 2019) [7].
In conclusion, surely the AI Act, the voluntary guidelines, international AI judgments and a proper consideration of universally recognized human rights will serve as a pillar for achieving an international regulation that is increasingly appropriate to the enormous spread of AI technologies in our global society.
Pier Luigi Capucci, “Anachronies series n.05”, 2024
Notes
1) Osservatorio Artificial Intelligence del Politecnico di Milano. https://blog.osservatori.net/it_it/intelligenza-artificiale-funzionamento-applicazioni. [back]
2) Osservatorio Artificial Intelligence del Politecnico di Milano. https://blog.osservatori.net/it_it/intelligenza-artificiale-funzionamento-applicazioni. [back]
3) Consiglio europeo per i diritti umani, Human rights by design future-proofing human rights protection in the era of AI, Follow-up Recommendation to “Unboxing AI” (2019), May 2023. [back]
4) Consiglio europeo per i diritti umani, Human rights by design future-proofing human rights protection in the era of AI, Follow-up Recommendation to “Unboxing AI” (2019), May 2023. [back]
5) Verganti R., Vendraminelli L., Iansiti M., Catalyst Innovation and Design in the Age of Artificial Intelligence, in Journal Prod. Innov. Manag., 2020;37(3):212–227. [back]
6) Umbrello S., van de Poel I., Mapping value sensitive design onto AI for social good principles, in AI and Ethics (2021) 1:283–296. [back]
7) Fukuda-Parr S., Gibbons E., Emerging Consensus on ‘Ethical AI’: Human Rights Critique of Stakeholder Guidelines, in Global Policy, Vol. 12, Supplement 6, July 2021. [back]
Comments are closed