Nel contesto dell’evoluzione tecnologica contemporanea, l’avvento dell’intelligenza artificiale evoca, tra i tanti possibili parallelismi, quello con la rivoluzione industriale del XIX secolo.
Se i luddisti inglesi si opposero all’introduzione dei telai meccanici, temendo la compromissione non solo del lavoro artigianale, ma dell’intero tessuto sociale, oggi l’ingresso dell’AI generativa ci fa trovare di fronte ad analoghe resistenze. Le opposizioni, allora come oggi, nascondono una preoccupazione profonda che attinge alla perdita di controllo dell’uomo sui propri strumenti e sul proprio destino.
L’attuale panorama dell’intelligenza artificiale si caratterizza per un significativo distacco dal precedente paradigma dei sistemi esperti. Se inizialmente si tentava di replicare il ragionamento umano attraverso l’immissione di regole predefinite, oggi assistiamo ad un approccio basato sull’apprendimento statistico attraverso enormi dataset. Questa evoluzione ha portato a risultati sorprendenti, come dimostrato dalle performance dei sistemi di traduzione automatica, un tempo rudimentali e oggi sorprendentemente accurati.
La presente trattazione, per la sua natura prettamente giuridica, non può addentrarsi nell’approfondimento tecnico dei concetti di algoritmo, machine learning, sistemi automatizzati e deep learning. Sebbene questi elementi siano fondamentali per comprendere il funzionamento dell’intelligenza artificiale, la loro analisi dettagliata richiederebbe competenze informatiche specifiche che esulano dall’ambito di questo scritto. Si rimanda pertanto il lettore interessato alla vasta letteratura tecnico-scientifica disponibile su questi temi, prerequisito essenziale per chi desideri approcciare in modo completo le questioni relative all’intelligenza artificiale.
Sappiamo che l’intelligenza artificiale è stata nutrita e si nutre di dati: una immensa mole neppure enunciabile numericamente.
La gestione dei dati utilizzati per l’addestramento dei sistemi di IA solleva una delle prime questioni cruciali: dalla tutela della privacy ai diritti d’autore, dalla protezione contro le manipolazioni, alla governance dei dati stessi. È particolarmente rilevante notare come la maggior parte di questa tecnologia sia concentrata in mani non europee, con una stima del 70% di proprietà statunitense e il restante 30% diviso tra Cina e India.
In modo piuttosto singolare invece, l’Europa si è ritagliata il ruolo di regolatore e di controllore.
Il quadro normativo europeo si è evoluto in modo galoppante per cercare di inseguire il progresso.
Resta un punto di rilevante criticità: anche le più ambiziose costruzioni normative rischiano di rivelarsi superflue, se prive della effettiva capacità di incidere sulla realtà materiale dello sviluppo.
La debolezza dell’Europa nel legiferare in una situazione nella quale non possiede il know how tecnologico è resa evidente anche dalla recente Convenzione Quadro del Consiglio d’Europa sull’intelligenza artificiale (Cets 225), diventata a settembre il primo trattato internazionale legalmente vincolante, ma di cui si parla davvero pochissimo.
La Convenzione quadro entrerà in vigore il primo giorno del mese successivo alla scadenza di un periodo di tre mesi dopo la data in cui cinque firmatari, di cui almeno tre Stati membri del Consiglio d’Europa, l’avranno ratificata. I paesi di tutto il mondo potranno quindi aderirvi e impegnarsi a rispettarne le disposizioni.
La Convenzione quadro del Consiglio d’Europa sull’intelligenza artificiale e i diritti umani, la democrazia e lo Stato di diritto (Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law) è il prodotto di un lungo e articolato esame istruttorio svolto dal Comitato sull’intelligenza artificiale (CAI), aperta a tutti i Paesi: un testo giuridico che mira a positivizzare un approccio “umano-centrico” basato sulla minimizzazione dei rischi provocati dallo sviluppo dell’intelligenza artificiale, promuovendo un’innovazione tecnologica responsabile e sicura a tutela dei diritti umani.
In sede di predisposizione del contenuto normativo, il CAI ha avvallato un processo “multistakeholder” che ha previsto il coinvolgimento di 46 Stati membri del Consiglio d’Europa, Unione europea e 11 Stati non membri (Argentina, Australia, Canada, Costa Rica, Giappone, Israele, Messico, Perù, Santa Sede, Stati Uniti d’America e Uruguay), con l’ulteriore partecipazione di rappresentanti del settore privato, della società civile e del mondo accademico in qualità di osservatori.
La Convenzione riguarda soltanto il regime di protezione e promozione dei diritti umani, non regola, diversamente dal regolamento europeo, profili economici di prodotto e di mercato dei sistemi di intelligenza artificiale, e questo è quanto viene precisato nella parte introduttiva della relazione esplicativa.
Obiettivo del trattato è quello di fornire “un quadro giuridico comune a livello globale al fine di applicare gli obblighi giuridici nazionali e internazionali esistenti […] nella sfera dei diritti umani, della democrazia e dello Stato di diritto”, in relazione a qualsivoglia attività realizzata nell’ambito del ciclo di vita dei sistemi di intelligenza artificiale da parte di attori sia pubblici che privati (cfr. Rapporto esplicativo Convenzione).
Per questa ragione, il Preambolo della Convenzione Quadro, dopo aver enunciato gli impegni menziona una serie di fonti rilevanti in materia: tra l’altro, la Dichiarazionedel Comitato dei Ministri del Consiglio d’Europa sulle capacità manipolative dei processi algoritmici, la Raccomandazionesull’intelligenza artificiale adottata dal Consiglio dell’OCSE (recante i cosiddetti “Principi OCSE sull’intelligenza artificiale”), la Raccomandazionedel Comitato dei Ministri del Consiglio d’Europa agli Stati membri sugli impatti dei sistemi algoritmici sui diritti umani, la RaccomandazioneUNESCO sull’etica dell’intelligenza artificiale, e il Regolamento UE che stabilisce norme armonizzate sull’intelligenza artificiale.
L’interazione tra la Convenzione e l’AI Act risulta particolarmente delicata. Mentre l’AI Act adotta un approccio basato sul rischio, classificando i sistemi di IA in categorie distinte con obblighi graduati, la Convenzione si focalizza sulle attività lungo l’intero ciclo di vita dei sistemi, indipendentemente dalla loro classificazione di rischio. Questa differenza metodologica può creare situazioni in cui lo stesso sistema di IA sia soggetto a requisiti potenzialmente contrastanti o ridondanti.
La sovrapposizione con il GDPR aggiunge un ulteriore livello di complessità. Le disposizioni della Convenzione sulla protezione dei dati personali si intersecano inevitabilmente con il framework già consolidato del GDPR, creando potenziali ambiguità nell’identificazione degli standard applicabili. La gestione dei flussi transfrontalieri di dati, in particolare, richiede un’attenta armonizzazione tra i diversi regimi normativi per evitare conflitti e garantire una tutela coerente.
L’ecosistema normativo si arricchisce ulteriormente considerando il Digital Services Act e il Digital Markets Act. Questi strumenti, focalizzati sulla regolamentazione delle piattaforme digitali, introducono requisiti specifici per gli algoritmi e i sistemi automatizzati che possono sovrapporsi alle prescrizioni della Convenzione. La supervisione delle pratiche di mercato e la governance degli algoritmi richiedono un coordinamento attento per evitare frammentazioni e incongruenze regolamentari.
Normative specifiche per settori come quello finanziario, sanitario o dei trasporti possono introdurre requisiti addizionali per i sistemi di IA, creando un mosaico normativo di difficile gestione. Gli operatori si troveranno presto a dover navigare tra molteplici regolamentazioni, ciascuna con le proprie specificità e richieste.
Nel testo normativo viene delineato un sistema multilivello di governance dell’IA, caratterizzato da un’interazione complessa tra dimensione sovranazionale e ordinamenti nazionali. L’efficacia del meccanismo dipenderà dalla capacità (e dalla volontà) degli Stati di tradurre in prassi operative i principi enunciati, attraverso l’adozione di misure concrete di implementazione e controllo.
Non possiamo ignorare la circostanza che una regolamentazione efficace dell’IA richiede una convergenza tra sovrastruttura normativa e base materiale.
Alla scorpacciata normativa non è estranea neppure l’Italia.
In data 8.4.2024 ha presentato e bollinato il disegno di legge in tema di intelligenza artificiale, con il dichiarato obiettivo “di operare un bilanciamento tra opportunità e rischi, prevedendo norme di principio e disposizioni di settore che, da un lato, promuovano l’utilizzo delle nuove tecnologie per il miglioramento delle condizioni di vita dei cittadini e della coesione sociale e, dall’altro, forniscano soluzioni per la gestione del rischio fondate su una visione antropocentrica. Il disegno di legge che qui si illustra non si sovrappone all’emanando regolamento europeo sull’intelligenza artificiale («AI ACT», approvato lo scorso 13 marzo dal Parlamento europeo), ma ne accompagna il quadro regolatorio” Relazione illustrativa del 15/5/2024.
***
Un’analisi comparativa tra Convenzione e DDL Italiano rivela punti di convergenza, ma anche significative divergenze nell’approccio regolatorio.
La principale area di convergenza si individua nell’enfasi posta sui diritti fondamentali, che, tuttavia, appaiono petizioni di principio, formule sul cui significato sarebbe necessario interrogarsi maggiormente. Sia la Convenzione Quadro che il disegno di legge italiano pongono al centro la tutela della dignità umana e l’autonomia decisionale. Entrambi gli strumenti normativi condividono l’obiettivo di garantire che lo sviluppo dell’IA rimanga ancorato a principi etici fondamentali.
Un secondo punto di contatto riguarda l’approccio preventivo ai rischi. Entrambi i testi normativi prevedono meccanismi di valutazione preventiva dell’impatto dei sistemi di IA, sebbene con modalità operative differenti. La trasparenza algoritmica rappresenta un altro elemento comune: sia la Convenzione che il disegno di legge italiano enfatizzano la necessità di rendere comprensibili e verificabili i processi decisionali basati sull’IA (ma questo è un tema oltremodo sfuggente).
Le divergenze emergono principalmente nell’approccio operativo. La Convenzione Quadro adotta un framework basato su tre pilastri fondamentali (diritti umani, rule of law e democrazia), mentre il disegno di legge italiano segue un approccio più settoriale, focalizzandosi su ambiti specifici di applicazione.
Una differenza sostanziale riguarda i meccanismi di enforcement. La Convenzione prevede un sistema di monitoraggio internazionale con meccanismi di follow-up specifici, mentre il disegno di legge italiano si affida principalmente a strutture nazionali di controllo, con potenziali problemi di coordinamento internazionale.
Il disegno di legge italiano mostra inoltre una particolare attenzione al settore no-profit nella ricerca sull’IA, aspetto non presente nella Convenzione che adotta un approccio più neutrale rispetto ai settori di sviluppo.
La principale criticità emerge nella gestione dei dati transfrontalieri. Mentre la Convenzione Quadro prevede meccanismi di cooperazione internazionale per il flusso dei dati, il disegno di legge italiano appare meno attrezzato per gestire la dimensione sovranazionale.
Il disegno di legge italiano presenta inoltre alcune sovrapposizioni problematiche con il GDPR, specialmente riguardo all’uso secondario dei dati, aspetto che la Convenzione affronta in modo più organico attraverso il richiamo ai principi generali di protezione dei dati.
Un aspetto particolarmente rilevante riguarda l’impatto dell’IA sui processi decisionali nei vari settori economici e sociali.
La questione si complica ulteriormente quando si considerano gli aspetti relativi alla responsabilità professionale. Come valutare, ad esempio, la diligenza di un professionista che si affida a strumenti di IA per supportare le proprie decisioni? Quali standard di comportamento possono essere ragionevolmente richiesti in un contesto in cui la tecnologia evolve più rapidamente delle norme che dovrebbero regolarla?
Particolarmente delicato è il tema dell’utilizzo dell’IA nel settore sanitario, dove le decisioni hanno un impatto diretto sulla vita delle persone. La pandemia ha accelerato l’adozione di strumenti di IA per il tracciamento dei contagi, la diagnosi e la ricerca di cure, evidenziando tanto le potenzialità quanto i rischi di questi sistemi. La necessità di garantire l’accuratezza e l’affidabilità dei sistemi di IA in ambito medico si scontra con la difficoltà di validare una tecnologia che evolve continuamente attraverso l’apprendimento automatico.
Per superare queste divergenze, sarebbe auspicabile un processo di armonizzazione che allinei i meccanismi di enforcement, introduca strumenti più efficaci per la gestione dei dati transfrontalieri, sviluppi un approccio più bilanciato al sostegno della ricerca, sia pubblica che privata, chiarisca le interazioni con il quadro normativo esistente sulla protezione dei dati.
La sfida ultima consiste nel trovare un equilibrio tra la necessità di una regolamentazione e l’esigenza di evitare una stratificazione normativa eccessivamente complessa che ostacola l’innovazione e lo sviluppo del settore. Solo attraverso un’attenta opera di coordinamento e razionalizzazione sarà possibile costruire un framework regolatorio coerente ed efficace per l’IA.