Doc. XVIII, n. 39

COMMISSIONI RIUNITE

IX (TRASPORTI, POSTE E TELECOMUNICAZIONI)

E X (ATTIVITÀ PRODUTTIVE, COMMERCIO

E TURISMO)

DOCUMENTO FINALE, A NORMA DELL'ARTICOLO 127
DEL REGOLAMENTO, SU:

Proposta di Regolamento del Parlamento europeo e del Consiglio che stabilisce regole armonizzate sull'intelligenza artificiale (legge sull'intelligenza artificiale) e modifica alcuni atti legislativi dell'Unione (COM(2021) 206 final e Allegati)

Approvato il 13 aprile 2022

stabilimenti tipografici carlo colombo

Pag. 2

Proposta di Regolamento del Parlamento europeo e del Consiglio che stabilisce regole armonizzate sull'intelligenza artificiale (legge sull'intelligenza artificiale) e modifica alcuni atti legislativi dell'Unione (COM(2021)206)

DOCUMENTO FINALE APPROVATO

  Le Commissioni IX (Trasporti, Poste e Telecomunicazioni) e X (Attività produttive, Commercio e Turismo)

   esaminata, ai sensi dell'articolo 127, comma 1, del Regolamento la proposta di Regolamento del Parlamento europeo e del Consiglio che stabilisce regole armonizzate sull'intelligenza artificiale (legge sull'intelligenza artificiale) e modifica alcuni atti legislativi dell'Unione;

   premesso che:

    la proposta di regolamento rappresenta il primo tentativo di regolare l'intelligenza artificiale (IA) in un contesto globale caratterizzato dalla sostanziale assenza di discipline normative di carattere generale;

    la proposta è stata preannunciata in una serie di documenti programmatici della Commissione europea, tra i quali il Libro Bianco sull'Intelligenza artificiale – un approccio europeo all'eccellenza e alla fiducia COM(2020)65) su cui la IX (Trasporti, Poste e Telecomunicazioni) ha adottato un documento conclusivo in data 19 maggio 2021;

    l'atto della Commissione rappresenta uno dei dossier legislativi che fondano la visione strategica dell'UE sulla trasformazione digitale e le nuove tecnologie, nell'ambito della quale sono state adottate, tra l'altro, le proposte di legge sui servizi digitali, sui mercati digitali e sulla governance dei dati;

    è apprezzabile l'approccio antropocentrico alla base della nuova disciplina, in funzione del quale le tecnologie devono essere al servizio delle persone e in linea con i valori, i diritti fondamentali e i princìpi dell'Unione;

    è condivisibile la scelta di introdurre un regime orizzontale volto a garantire sicurezza, affidabilità e conformità al sistema valoriale europeo degli strumenti che rientrano nella gamma della IA, applicabile alla maggior parte dei settori socioeconomici, e sul piano soggettivo, a tutti i soggetti inclusi nella catena del valore dei sistemi di intelligenza artificiale;

   rilevato che:

    il concetto di intelligenza artificiale (IA) include un'ampia gamma di tecnologie utilizzata nella maggior parte dei settori socio economici, tra l'altro, dotate di un alto grado di autonomia nelle loro azioni, e impiegate per la capacità di elaborare rapidamente ingenti volumi di dati;

    l'uso crescente dell'IA può porre una serie di rischi riconducibili alle modalità specifiche di progettazione, alla tipologia di dati immessi nei sistemi, nonché all'utilizzo degli utenti finali, nell'ambito della catena del valore;

    i rischi possono attenere alla sicurezza delle persone, come anche alla protezione dei dati e al diritto alla vita privata, nonché alla discriminazione sociale ed economica in base a distorsioni nelle immissioni di dati, anche con riguardo alle differenze di genere;

    l'esigenza di disciplinare l'IA con un quadro giuridico comune in grado di ridurre al massimo l'esistenza di tali rischi deve essere bilanciata dalla necessità di consentire alle imprese nazionali ed europee di liberare i rispettivi sforzi sul piano dell'innovazione tecnologica pionieristica, al fine di tenere il passo nella Pag. 3concorrenza globale con i maggiori competitor nel settore digitale, USA e Cina;

   considerato che:

    la proposta introduce un'ampia definizione di IA, basata sul combinato disposto dell'articolo 3, recante una nozione di software che può, per una determinata serie di obiettivi definiti dall'uomo, generare output quali contenuti, previsioni, raccomandazioni o decisioni che influenzano gli ambienti con cui interagiscono, nonché dell'allegato I, che stila una lista di tecniche e approcci con cui tale software può essere sviluppato;

    la proposta esclude dall'ambito oggettivo di applicazione l'IA sviluppata o impiegata per scopi esclusivamente militari, nonostante taluni sistemi di intelligenza artificiale nel settore della difesa implichino potenzialmente una capacità lesiva dei diritti fondamentali del tutto assimilabile alle minacce che si intendono neutralizzare con la disciplina proposta per le tecniche di IA ad uso civile;

    al fine di stabilire un regime tecnologicamente neutro, alla Commissione è attribuito un potere, esercitato mediante atti delegati, di aggiornamento del citato elenco di cui all'allegato I, in funzione degli sviluppi tecnologici e di mercato sulla base di caratteristiche simili alle tecniche e agli approcci ivi indicati;

    l'approccio della Commissione europea è volto a graduare i sistemi di IA in relazione al livello di rischio per i diritti fondamentali dell'UE;

    in particolare, è istituito un sistema di oneri per i dispositivi di IA ad alto rischio che si traduce, tra l'altro, in una serie di obblighi di certificazione o di autocertificazione in materia di conformità del prodotto ai requisiti stabiliti nel regolamento;

    tra gli obblighi di compliance che devono essere rispettati dai sistemi di IA la proposta attribuisce significativa rilevanza agli standard previsti per i set di dati di addestramento, convalida e prova che devono essere, tra l'altro, pertinenti, rappresentativi, esenti da errori e completi;

    a tal proposito, è condivisibile l'obiettivo di garantire la qualità dei dati immessi nei sistemi ai fini dell'addestramento, convalida e prova, al fine di evitare la generazione di effetti indesiderati, per esempio in termini di discriminazione sulla base del genere o di altri aspetti attinenti ai diritti fondamentali delle persone;

    nonostante la rilevanza fondamentale della qualità dei dati immessi in un sistema ai fini della correttezza dell'output del sistema di IA, in ogni caso il livello di complessità delle tecnologie di IA è tale da imporre una riflessione sul fatto che eventuali distorsioni ed errori possono derivare da scelte progettuali e di design indipendenti dagli standard in materia di dati;

    la complessità dell'ecosistema digitale proprio dell'intelligenza artificiale può sfuggire all'impostazione tradizionale basata sul rapporto fornitore-utente ed è pertanto opportuno verificare se è possibile delineare un sistema di responsabilità che tenga maggiormente conto delle modalità di utilizzo e del contesto di esecuzione di un sistema di intelligenza artificiale;

    la proposta definisce un complesso sistema di governance che essenzialmente si articola su tre livelli che comprendono la Commissione europea, un comitato europeo per l'intelligenza artificiale, nonché autorità istituite o designate a livello nazionale competenti al fine di garantire l'applicazione e l'attuazione del regolamento;

    la disciplina conferisce agli Stati membri un margine di discrezionalità nella scelta di istituire un'autorità ad hoc cui affidare i profili di governance a livello nazionale, oppure attribuire tali compiti ad un organismo esistente;

    è condivisibile l'intento della Commissione europea di sostenere l'innovazione, in particolare attraverso la previsionePag. 4 di spazi di sperimentazione normativa per l'IA e altre misure per ridurre gli oneri normativi e sostenere le piccole e medie imprese e le start-up;

   preso atto della relazione trasmessa dal Governo ai sensi dell'articolo 6, comma 5, della legge 24 dicembre 2012, n. 234, sul documento;

   preso atto degli elementi di conoscenza e valutazione acquisiti nel corso delle audizioni svolte sul documento;

   preso atto altresì del parere favorevole con osservazioni approvato sul documento dalla XIV Commissione Politiche dell'Unione europea nella seduta del 29 marzo 2022;

   rilevata, in fine, la necessità che il presente documento conclusivo sia trasmesso tempestivamente alla Commissione europea, nonché al Parlamento europeo e al Consiglio, nell'ambito del cosiddetto dialogo politico,

  esprimono una

VALUTAZIONE FAVOREVOLE

  con le seguenti osservazioni:

   a) si valuti l'opportunità di intervenire sul complesso delle disposizioni di cui all'articolo 3 e all'allegato I della proposta, con particolare riguardo alla definizione di «intelligenza artificiale», al fine di stabilire un criterio di individuazione che ponga l'accento non solo sulla modalità tecnica di funzionamento del sistema informatico, ma anche sulle finalità e peculiarità proprie dello strumento, nonché sulla capacità di replicare funzioni, abilità e comportamenti propri delle persone;

   b) si valuti la portata della definizione di «intelligenza artificiale», al fine di verificare se talune tecnologie elencate nell'allegato I, come i sistemi statistici tradizionali e gli approcci modellistici che garantiscono spiegabilità e trasparenza, siano effettivamente riconducibili alla definizione più aggiornata dei sistemi di IA e al perimetro di applicazione del nuovo regime, nonché di evitare profili di incertezza giuridica;

   c) pur essendo condivisibile l'obiettivo di rendere il nuovo regime tecnologicamente neutro, abilitandone la capacità di stare al passo con i progressi scientifici ed industriali, è opportuno prevedere che il potere di aggiornamento della definizione di sistema sia esercitato in maniera da consentire il massimo grado di partecipazione degli Stati membri, anche attribuendo considerazione prioritaria alle conseguenze di eventuali modifiche dell'ambito applicativo oggettivo sui rispettivi sistemi produttivi nazionali e sulle loro peculiarità;

   d) si valuti l'opportunità di adottare orientamenti comuni circa le facoltà degli Stati membri di prevedere la possibilità di autorizzare in tutto o in parte sistemi di identificazione biometrica remota in tempo reale in spazi accessibili al pubblico a fini di attività di contrasto entro i limiti e alle condizioni stabiliti dal paragrafo 4 dell'articolo 5, al fine di evitare la frammentazione normativa;

   e) occorre migliorare le previsioni di coordinamento tra il nuovo regime e le altre discipline, sia a carattere orizzontale (quale il regolamento generale sulla protezione dei dati), sia di tipo settoriale (ad esempio le norme future in materia di finanza digitale e la proposta di direttiva relativa al miglioramento delle condizioni di lavoro nel lavoro mediante piattaforme digitali), al fine di evitare duplicazioni di oneri, o disallineamenti in grado di compromettere il raggiungimento dei rispettivi obiettivi, con particolare riguardo alla tutela dei diritti fondamentali;

   f) appare utile una riflessione sull'effettiva applicabilità del disposto di cui all'articolo 10 relativamente al rispetto dei requisiti di pertinenza, rappresentatività, esenzione da errori e completezza degli standard per quanto riguarda i dati di addestramento, convalida e prova utilizzati dai sistemi di IA ad alto rischio, anche alla luce di quanto recita il considerando 44 il quale richiede che tali set di dati debbano Pag. 5essere sufficientemente pertinenti, rappresentativi e privi di errori, nonché completi alla luce delle finalità previste dal sistema, e tenuto conto del fatto che eventuali distorsioni ed errori possono derivare da scelte progettuali e di design indipendenti dagli standard in materia di dati;

   g) con riferimento al capo 3, appare utile definire con un maggior grado di precisione un sistema di accountability, che rifletta il ruolo attivo dei soggetti nella catena del valore dell'IA, inclusi quelli che svolgono un ruolo nell'implementazione di adattamenti e personalizzazioni che modifichino in modo sostanziale le modalità di erogazione o finanche le finalità stesse del sistema originariamente concepite dal fornitore;

   h) si rafforzino gli strumenti per migliorare la trasparenza e l'accessibilità alle informazioni relative ai sistemi di IA;

   i) per quanto concerne i codici di condotta di cui la Commissione e gli Stati membri incoraggiano l'elaborazione ai sensi dell'articolo 69, appare particolarmente necessario agevolare e promuovere l'adozione di un codice etico di autoregolamentazione da parte dei fornitori di IA, inclusi quelli inseriti nelle categorie ad alto rischio, senza però determinare oneri eccessivi per il mercato; a tal fine, sarebbe opportuno istituire un tavolo di lavoro degli stakeholder che potrebbe avviare la discussione di tale codice già nel corso dell'esame della proposta di regolamento presso le istituzioni dell'Unione europea;

   l) l'istituzione di spazi di sperimentazione normativa per l'IA nei diversi Stati membri a livello nazionale, già prevista all'articolo 53, dovrebbe essere particolarmente incoraggiata, costruendo un framework il più possibile omogeneo al fine di evitare eccessi di burocratizzazione, di favorire incentivi per le imprese innovative e scongiurare il rischio di una frammentazione della regolamentazione del mercato, nonché garantire uniformità nelle pratiche amministrative;

   m) con riferimento alle opzioni relative al modello di governance da adottare a livello nazionale, secondo quanto previsto dall'articolo 59 della proposta, sia nel caso dell'istituzione di un'autorità di controllo apposita, sia nel caso di conferimento delle rispettive funzioni ad un organismo esistente, è indispensabile dotare tali soggetti delle risorse specialistiche necessarie, oltreché assicurarne la necessaria sfera di indipendenza, attesa la rilevanza dei diritti fondamentali, specie quelli individuali, che possono essere incisi da strumenti di IA non in linea con il regolamento;

   n) è opportuno sensibilizzare gli Stati membri affinché avviino le attività preparatorie che saranno necessarie per l'implementazione del regolamento;

   o) dovrebbero essere implementate politiche volte a migliorare l'alfabetizzazione digitale, nonché le competenze in materia di IA, in particolare quelle ibride, che sono particolarmente adatte alla complessità delle questioni poste dall'uso dell'intelligenza artificiale; l'accento su tali politiche è, altresì, necessario anche alla luce delle risultanze dell'ultimo DESI (Digital Economy and Society);

   p) è opportuno infine che la strategia nazionale sull'IA adottata nel novembre 2021 sia implementata con particolare riguardo agli obiettivi riconducibili alle politiche volte a migliorare le competenze in materia di IA e in raccordo con la futura cornice normativa europea, considerando anche il lavoro che il Consiglio d'Europa sta avviando sul tema.