Commissione Europea: il white paper sull’Intelligenza Artificiale per un approccio all’eccellenza e alla fiducia

La Commissione europea, lo sviluppo digitale e l’Intelligenza Artificiale

Il 19 febbraio 2020 la presidente della Commissione Europea Ursula von der Leyen ha presentato un white paper che definisce la posizione, gli obiettivi e l’approccio dell’Unione Europea verso gli sviluppi connessi all’Intelligenza Artificiale. Il documento denominato “White Paper sull’intelligenza artificiale. Un approccio europeo all’eccellenza e alla fiducia” fa parte del piano che la von del Layen ha definito come Shaping Europe’s digital future, ovvero come plasmare il futuro digitale dell’Europa. Un progetto che si affianca all’European Green Deal. Un ruolo per l’Europa in termini di innovazione digitale, ma anche un ruolo per l’Europa in termini di ricerca e attuazione di modelli per la sostenibilità ambientale.

Per quanto attiene il percorso previsto per Shaping Europe’s digital future l’agenda della Commissione ha fissato tre grandi pillar:

• Favorire lo sviluppo di tecnologie che siano al servizio delle persone
• Lo sviluppo di una economia digitale che sia equa e competitiva
• Il sostegno a una società che sia aperta, democratica e sostenibile

Gli obiettivi della Commissione Europea con il white paper sull’Intelligenza artificiale

Proprio nella giornata del 19 febbraio la Commissione Europea ha messo nero su bianco le strategie, nella forma di idee e di piani d’azione, per guidare la trasformazione digitale del continente e per assumere un ruolo e una identità su temi che vedono la presenza attiva di altri paesi, in primis gli Usa e la Cina, che hanno da tempo predisposto un loro piano e una loro specifica strategia.

La Commissione Europea con queste azioni parte dal presupposto di considerare il digitale come un fattore strategico per lo sviluppo sociale ed economico e come una leva fondamentale per raggiungere gli obiettivi di sostenibilità che fanno parte dell’European Green Deal e per contribuire a combattere e gestire le conseguenze dei cambiamenti climatici.

Il “White Paper sull’intelligenza artificiale. Un approccio europeo all’eccellenza e alla fiducia” vuole anche definire e tracciare le linee guida della strategia europea in materia di gestione dei dati, in materia di rapporto tra Intelligenza artificiale e persone in una prospettiva politica che possa garantire al continente un ruolo chiave nello sviluppo dell’AI.

Peraltro il mercato dell’Intelligenza Artificiale sta crescendo in modo sempre più intenso ed è alla base della crescita e dello sviluppo di tanti e diversi settori come testimonia anche la recente ricerca dell’Osservatorio Artificial Intelligence del Politecnico di Milano. (Si legga al riguardo il nostro servizio: Intelligenza artificiale in Italia: il mercato arriva a 200 mln €, cresce la fiducia)

Il White paper sull’AI della Commissione Europea in sintesi

EU Commissione, AI: un approccio europeo all’eccellenza e alla fiducia 

Sono numerosi e ampiamente conosciuti i benefici dell’intelligenza artificiale in termini di miglioramento dell’assistenza sanitaria, aumento dell’efficienza dell’agricoltura, contributo alla mitigazione dei cambiamenti climatici, ottimizzazione dell’efficienza dei sistemi di produzione, e sviluppo di nuove forme di sicurezza e Risk management. Allo stesso tempo però, l’AI è anche accompagnata da una serie di potenziali rischi, che possono produrre forme di discriminazione, possono aumentare forme di intrusione nella vita privata o di minacce alla privacy o anche che possono prestarsi a un utilizzo per scopi criminali.  

Per questo la Commissione Europea ha scelto di sviluppare un approccio europeo fortemente orientato a considerare le implicazioni umane ed etiche dell’AI, accanto a una riflessione sul migliore uso dei big data per l’innovazione, tenendo come base la European strategy for AI presentata nell’aprile 2018. La Commissione si impegna a consentire la svolta scientifica, a preservare la leadership tecnologica dell’UE e a garantire che le nuove tecnologie siano al servizio di tutti gli europei, migliorando le loro vite nel rispetto dei loro diritti.  

L‘approccio proposto nel White paper è di tipo normativo e propone un forte orientamento agli investimenti con il duplice obiettivo di promuovere lo sviluppo dell’AI e di affrontare nello stesso tempo i principali ischi associati a determinati usi di questa nuova tecnologia. 

Il contesto della European Data Strategy

Il ruolo dell’Europa nello sviluppo dell’Intelligenza Artificiale è strettamente legato alla capacità del continente di dare vita e sostenere un’infrastruttura digitale di alta qualità unitamente a un quadro normativo che tenga conto dei suoi valori fondamentali. Una sintesi non facile tra rispetto e attenzione alla persona e capacità di garantire a imprese e innovatori la capacità e la possibilità di agire nell’economia dei dati e nelle sue applicazioni. Nello stesso tempo la Commissione europea è consapevole che per garantire una vera competitività allo sviluppo dell’AI  è necessario per raggiungere una scala sufficiente ed evitare forme di frammentazione. Lo sviluppo di tante e diverse iniziative nazionali rischia di indebolire lo sviluppo di framework normativo coerente, indebolisce la fiducia dei cittadini e non aiuta lo sviluppo di un’industria europea in grado di competere con le imprese di altri continenti.  

La strategia per l’AI si colloca nell’ambito della European Data Strategy che ha lo scopo di far diventare l’Europa una economia orientata ai dati o data driven e intende farlo con una serie di misure politiche e con importanti investimenti privati e pubblici

I fattori chiave per l’AI: Infrastrutture, Capacità computazionale, Dati e Framework normativo

La posizione espressa dalla Commissione Europea nel white paper parte anche dal presupposto che il nostro continente conta da tempo su eccellenti centri di ricerca, su tante start-up innovative che operano in tanti e diversi settori, su una posizione di riferimento a livello mondiale in diversi settori come la robotica applicata al mondo della produzione, come l’automotive, la sanità, l’energia, i servizi finanziari e l’agricoltura.  nello stesso tempo l‘Europa dispone di una importante infrastruttura informatica (ad esempio anche con Data Center e computer ad altissime prestazioni), che è una delle basi per lo sviluppo e il funzionamento dell’AI. L’altro grande fattore chiave per lo sviluppo dell’Ai è rappresentato dalla disponibilità di grandi volumi di dati pubblici e industriali, il cui potenziale è attualmente ancora ampiamente sottoutilizzato. Non ultimo l’Europa conta su sistemi digitali sicuri e con basso consumo energetico che sono essenziali per l’ulteriore sviluppo dell’AI.  

Il white paper porta l’attenzione anche sulla necessità e sulla sulla capacità dell’UE di investire in tecnologie e infrastrutture di nuova generazione, e di accompagnare questi investimenti con lo sviluppo, la formazione e l’aggiornamento di competenze digitali.  

I punti di debolezza e i punti di forza 

A fronte di uno scenario competitivo in cui paesi come USA e Cina hanno da tempo sviluppato un loro approccio molto chiaro e molto determinato verso l’Intelligenze Artificiale il white paper della Commissione Europea parte anche dalla consapevolezza che l’Europa si trova in una posizione più debole nelle applicazioni consumer e sulle piattaforme online. Una debolezza che rappresenta uno svantaggio competitivo nell’accesso ai dati, nella disponibilità dei dati stessi e dunque nella accelerazione di processi di sviluppo di soluzioni che partono proprio dalla disponibilità di grandi quantità di dati e dalla “libertà” di utilizzarli. 

Il volume di dati prodotti nel mondo è in grande crescita, da 33 zettabyte nel 2018 a 175 zettabyte previsti nel 2025. Nello stesso tempo, il modo in cui i dati vengono archiviati ed elaborati è destinato a cambiare in modo profondo nei prossimi cinque anni. L’80% dell’elaborazione e dell’analisi dei dati che si svolgono nel cloud avviene nei data center e negli impianti di elaborazione centralizzati, e il 20% in oggetti connessi intelligenti, come automobili, elettrodomestici o robot di produzione, e in strutture di elaborazione vicine alla utente (“edge computing”). Entro il 2025 i dati elaborati in prossimità, vicino al luogo in cui sono raccolti e in cui devono esprimere il loro potenziale (edge) è destinato a crescere.  

E qui arriviamo a un punto di forza, che viene ampiamente evidenziato nel white paper: l’Europa è tra i principali attori a livello mondiale nell’elettronica a bassa potenza, una tecnologia strategica per la prossima generazione di processori specializzati per l’AI ed è anche all’avanguardia nelle soluzioni di tipo neuromorfic. A sua volta i progressi nell’informatica quantistica permetteranno di aumentare in forma esponenziale la capacità di elaborazione. 

La Commissione Europea auspica un ecosistema di eccellenze per l’AI

E arriviamo a uno dei punti centrali del white paper, la missione di dare vita a un ecosistema di eccellenze in grado di sostenere lo sviluppo dell’AI nelle imprese e nelle Pubbliche Amministrazioni dell’UE sulla base di un percorso che deve essere attuato a più livelli:

Il lavoro congiunto degli stati membri per l’Intelligenza Artificiale

Già nel dicembre 2018 la Commissione aveva presentato un piano coordinato per promuovere lo sviluppo e l’uso dell’AI in Europa. Il piano prevedeva qualcosa come 70 azioni congiunte oltre a una cooperazione più stretta ed efficiente tra gli Stati membri e la Commissione in una serie di settori strategici come la ricerca, la gestione e l’accesso ai dati, gli investimenti, le competenze e i talenti, le modalità per sviluppare una  cooperazione comune a livello internazionale.  

Focalizzare le risorse su una comunità dedicata alla ricerca e all’innovazione

Il white paper torna sui temi della competizione internazionale sottolineando che l’Europa non può permettersi di mantenere l’attuale frammentazione a livello di centri di competenza. È doveroso creare più sinergie e reti tra i tanti centri di ricerca europei sull’AI e allineare e rafforzare i loro sforzi per aumentare la capacità di eccellenza a livello europeo. Nello stesso tempo poi occorre saper trattenere e attrarre i migliori ricercatori. La Commissione europea sostiene la necessità di concentrare le risorse e le forze di questi centri e nei settori in cui l’Europa esprime un valore potenziale più elevato, come nell’industria, nella sanità, nell’agroalimentare, nell’automotive e nei trasporti, nella finanza, nell’energia, nell’ambiente. 

Non c’è Ai se non c’è uno sviluppo delle competenze per l’AI

Non può esistere una capacità di innovazione nell’AI senza senza un fortissimo sviluppo delle competenze. La Commissione presenterà un rafforzamento dell’Agenda delle competenze ovvero della Skills Agenda, che punta a garantire che tutti in Europa possano beneficiare della trasformazione digitale e della trasformazione green.

Il piano vuole aumentare la consapevolezza dell’AI a tutti i livelli di istruzione per preparare i cittadini a disporre di consapevolezza e strumenti che permettano sia di lavorare nell’AI sia di partecipare a tutti i diversi livelli ai processi legati alla trasformazione digitale.  

Come coinvolgere le PMI nello sviluppo e nell’utilizzo dell’AI

La Commissione parte anche dalla consapevolezza del tessuto imprenditoriale del Vecchio Continente, in larghissima misura popolato da imprese di piccole e medie dimensioni e sottolinea l’importanza di garantire che le PMI possano accedere e utilizzare l’AI, dunque a prescindere da vincoli o limiti legati alle dimensioni. I Digital Innovation Hubs e la piattaforma AI-on-demand dovrebbero essere ulteriormente rafforzati e promuovere la collaborazione tra le PMI. Il programma Europa digitale dovrà aiutare le PMI e le start-up che avranno inoltre bisogno di accedere ai finanziamenti per adattare i loro processi o innovare utilizzando l’AI. Con un fondo di investimento di 100 milioni di euro nell’ambito di InvestEU la Commissione prevede di aumentare l’accesso ai finanziamenti in AI e blockchain. 

La partnership con le imprese private

le linee guida espresse nel white paper puntano a garantire il coinvolgimento del settore privato sia nella definizione dell’agenda della ricerca e dell’innovazione sia per la creazione di forme di coinvestimento. Il tutto con la creazione di forme di partnership pubblico-privato e con l’impegno dei top management delle imprese. 

Promuovere l’adozione di AI presso le Pubbliche Amministrazioni

Un ruolo fondamentale, nella diffusione di una cultura e nell’utilizzo di AI è svolto dalle Pubbliche Amministrazioni. Sanità, trasporti, servizi di pubblica utilità, infrastrutture e altri settori di interesse pubblico devono iniziare a utilizzare e a favorire l’utilizzo di soluzioni basate sull’AI nelle loro attività. Un focus specifico su assistenza sanitaria e trasporti.

Garantire l’accesso sicuro ai dati e alle infrastrutture

Senza dati, lo sviluppo dell’AI e di altre applicazioni digitali non è possibile. La Commissione intende promuovere pratiche di gestione dei dati che siano nello stesso tempo responsabili e conformi con i principi FAIR per contribuire a costruire la fiducia e garantire anche (fattore estremamente importante) la ri-usabilità dei dati. La Commissione sottolinea anche gli investimenti in tecnologie e infrastrutture informatiche chiave con una proposta di 4 miliardi di euro nell’ambito del programma Europa digitale per supportare lo sviluppo di progetti per l’informatica quantistica e ad alte prestazioni, per l’edge computing e per l’infrastruttura cloud. 

La dimensione internazionale

La Commissione Europea invita e sostiene la collaborazione internazionale e il white paper cita il coinvolgimento dell’UE nello sviluppo dei principi etici dell’OCSE per l’AI, il lavoro sull’AI in altri paesi multilaterali, la collaborazione con l‘ONU nel follow-up della relazione del gruppo di esperti ad alto livello sulla cooperazione digitale, comprendendo le raccomandazioni sull’AI.  

Un framework di regole per l’AI per favorire un ecosistema basato sulla fiducia

E’ stato più volte sottolineato che l’AI può aiutare a proteggere la sicurezza dei cittadini e portare tanti vantaggi ma può anche essere utilizzata per scopi dannosi.  La Commissione nella sua AI Strategy del 25 aprile 2018 ha affrontato gli aspetti socioeconomici con un aumento degli investimenti nella ricerca, nell’innovazione e nello sviluppo dell’ AI in tutta l’UE.  La Commissione ha inoltre istituito un gruppo di esperti di alto livello che ha pubblicato le Guidelines on trustworthy AI nell’aprile 2019, di fatto accogliendo e lavorando sui sette requisiti chiave: 

1. Ruolo, centralità e supervisione della persona, 
2. Solidità e sicurezza tecnica, 
3. Privacy e governance dei dati, 
4. Trasparenza, 
5. Rispetto della diversità, equità e rifiuto delle discriminazioni,
6. Ricerca del benessere sociale e ambientale,
7. Grande senso di responsabilità. 

Accanto a queste linee guida in linea con gli orientamenti politici del Presidente della Commissione il white paper indica il lavoro da svolgere per la creazione di un quadro normativo europeo dove sviluppatori e i responsabili dello sviluppo e dell’attuazione dell’AI possano fare riferimento a una legislazione europea che ha come punti di riferimento i diritti fondamentali, la protezione dei consumatori, le norme sulla sicurezza e la responsabilità dei prodotti.   

Una prima definizione e analisi dei problemi connessi all’AI

Non si può affrontare una accelerazione nello sviluppo dell’AI senza una consapevolezza dei rischi che l’AI  può provocare in termini di sicurezza e salute delle persone, perdita della privacy, limitazioni al diritto alla libertà di espressione etc.  Il quadro normativo deve concentrarsi su come ridurre al minimo i vari rischi di danni potenziali. 

Occorre avere la consapevolezza che questi rischi possono derivare da difetti nella progettazione complessiva dei sistemi di AI (compresa la supervisione umana) o dall’utilizzo di dati senza che si siano corretti eventuali pregiudizi (ad esempio, il sistema viene addestrato utilizzando solo o principalmente dati provenienti da uomini che portano a risultati non ottimali in relazione con le donne).  

Dobbiamo essere consapevoli – sottolinea la Commissione – che  cittadini e persone giuridiche saranno sempre più soggetti a azioni e decisioni influenzate o assunta da sistemi di AI, che a volte possono essere difficili da comprendere e da contestare efficacemente ed è anche per questo necessario disporre di riferimenti normativi in grado di garantire cittadini e imprese. 

I rischi collegati a tecnologie “incorporate” in altri prodotti o servizi

Occorre poi guardare anche ai possibili rischi connessi all’utilizzo di apparati di intelligenza artificiale possono incorporati in altri prodotti o servizi. Se a causa di un difetto nella tecnologia di riconoscimento degli oggetti, un’auto a guida autonoma dovesse identificare in modo errato un oggetto sulla strada e causare un incidente provocando lesioni e danni materiali quali sono i livelli di responsabilità connessi a questa eventualità? Come per i rischi per i diritti fondamentali, anche questi rischi più collegati o vicini a una dimensione materiale possono essere causati da difetti nella progettazione della tecnologia, o possono essere connessi alla disponibilità di dati adeguati o alla stessa qualità dei dati. O ancora alle logiche di apprendimento dei veicoli.

La mancanza di chiare disposizioni in materia di sicurezza che affrontino tali rischi può, oltre ai rischi per le persone interessate, creare incertezza giuridica per le imprese che commercializzano i loro prodotti. A loro volta, le autorità di sorveglianza e di controllo del mercato rischiano di trovarsi in una situazione in cui non è chiaro se e come possono intervenire, perché potrebbero non essere autorizzate ad agire e/o non disporre delle capacità tecniche appropriate per l’ispezione dei sistemi. L’incertezza giuridica può quindi ridurre i livelli complessivi di sicurezza e compromettere la competitività delle imprese europee.  

Commissione Europea: come agire sull’attuale normativa europea

Pragmaticamente il percorso verso un framework coerente allo sviluppo dell’AI non parte da zero. Le normative UE in termini di sicurezza e responsabilità dei prodotti è già ampiamente pertinente e potenzialmente applicabile al mondo AI.  Il white paper sottolinea che fermo restando il fatto che la legislazione dell’UE rimanga in linea di principio pienamente applicabile indipendentemente dal coinvolgimento dell’AI, è importante valutare se e come possa essere applicata in modo adeguato per affrontare i rischi creati dai sistemi di AI e richiama la necessità di valutare adeguamenti a specifiche norme giuridiche. 

In particolare la Commissione ritiene che il quadro legislativo potrebbe essere migliorato su questi punti: 

• Effettiva applicazione di molte disposizioni e rafforzamento della legislazione europea e delle legislazioni nazionali
• Superamento delle limitazioni del campo di applicazione della legislazione EU
• Capacità di “comprendere” a livello legislativo le logiche funzionali dell’AI
• Superamento delle incertezze per quanto riguarda l’attribuzione delle responsabilità tra i diversi operatori economici nella catena di approvvigionamento
• Favorire una evoluzione nel concetto di sicurezza

La Commissione conclude nel white paper che, oltre ai possibili adeguamenti alla legislazione esistente, potrebbe essere necessaria una nuova legislazione specificatamente dedicata all’AI per rendere il quadro giuridico dell’UE idoneo all’attuale e prevista e gli sviluppi commerciali.  

Gli obiettivi di un framework normativo dedicato 

Nel caso di un quadro normativo dedicato all’AI la questione chiave è nella determinazione degli ambiti della sua applicazione. L’ipotesi di lavoro espressa nel white paper è che il quadro normativo si applicherebbe ai prodotti e ai servizi che si basano sull’AI.  In linea di principio, si legge nel white paper, il quadro normativo per l’AI non dovrebbe essere eccessivamente prescrittivo.

I requisiti normativi per un framework dedicato all’AI

Nella progettazione del futuro quadro normativo per l’AI un ruolo fondamentale è svolto da una serie di fattori: le logiche che governano i principi dell’AI, lo sviluppo degli standard tecnologici, i principi legati all’accesso e alla gestione dei dati. In particolare i requisiti collegati ai dati dovrebbero consistere in una serie di caratteristiche chiave da definire come standard: modalità di gestione dei dati, modalità di training dei dati, modalità di archiviazione dei dati, tipologia di informazioni da fornire relativamente alla gestione dei dati, livelli di robustezza e affidabilità dei dati e dei sistemi di protezione dei dati, livello e affidabilità della supervisione dell’uomo.

Gli indirizzi principali del quadro normativo per l’AI

Gli indirizzi primari dei requisiti giuridici si possono sintetizzare in due punti:  

1. La ripartizione degli obblighi tra gli operatori economici coinvolti. Nel white paper si sottolinea come la Commissione ritenga che, in un futuro quadro normativo, ogni obbligo debba essere indirizzato agli attori che si trovano nella posizione migliore per affrontare eventuali rischi potenziali. (come esempio: gli sviluppatori di AI possono essere nella posizione migliore per affrontare i rischi derivanti dalla fase di sviluppo mentre la loro azione nel controllo dei rischi nella fase di utilizzo è più limitata). 
2. La dimensione “geografica” dell’AI. La Commissione evidenzia nel white paper che i requisiti del nuovo quadro normativo siano applicabili a tutti gli operatori economici pertinenti che forniscono prodotti o servizi abilitati all’IA nell’UE, indipendentemente dal fatto che siano stabiliti o meno nell’UE. 

Cosa vuol dire Compliance per l’AI

Una AI europea affidabile, sicura e capace di rispettare i valori e le norme europee, implica che i requisiti giuridici siano applicabili sia da autorità nazionali ed europee competenti sia dalle autorità interessate.  La Commissione ritiene necessaria definire delle procedure di valutazione di conformità obiettiva e preventiva per verificare e garantire l’applicabilità di questi principi. In concreto queste valutazioni di conformità dovrebbero far riferimento anche ai meccanismi di valutazione della conformità già esistenti e valide per un importante numero di prodotti immessi sul mercato interno dell’UE. 

Il ruolo fondamentale di una informazione appropriata sull’AI

Distinguendo tra applicazioni con un certo livello di rischio e applicazioni a maggior diffusione il white paper della Commissione Europea indica che per le applicazioni più accessibile ai consumatori e a più alta commercializzazione lo sviluppo di un sistema volontario di etichettatura. Ovvero una forma di informazione e una serie di indicazioni ai consumatori o utenti per sensibilizzarli e aumentare la consapevolezza sull’utilizzo dell’AI. L’etichetta volontaria consentirebbe agli operatori economici interessati di segnalare che i loro prodotti e servizi abilitati all’AI sono affidabili spiegando puntualmente i principi che stanno alla base del funzionamento degli stessi. Questo approccio consentirebbe agli utenti di riconoscere facilmente che i prodotti e i servizi in questione sono conformi a determinati valori di riferimento oggettivi e standardizzati a livello dell’UE, che vanno al di là degli obblighi giuridici normalmente applicabili.
Nel caso in cui ci si indirizzasse verso questa soluzione si aprirebbe uno scenario che prevede la creazione  di un nuovo strumento giuridico che definisca il quadro di etichettatura volontaria per gli sviluppatori e/o i responsabili dei sistemi di AI.  

La Governance europea dell’AI

la Commissione Europea richiama in modo assolutamente prioritario la necessità e la volontà di dare vita a una struttura di governance europea sull’AI nella forma di un quadro di cooperazione tra tutte le autorità competenti a livello nazionale e allo scopo di evitare la frammentazione delle responsabilità e delle risorse e aumentare la capacità negli Stati membri di garantire che l’Europa si doti progressivamente di professionalità soluzioni e infrastrutture per il test e la certificazione di prodotti e servizi abilitati all’AI. Il white paper dedica grande attenzione ai temi della Governance anche in relazione alla integrazione e allo sviluppo dell’Ai in relazione ad altre tecnologie esponenziali.

La Commissione Europea e l’Intelligenza Artificiale: le conclusioni del white paper

Il documento presentato dalla Commissione Europea conferma sotto tutti gli aspetti che l’AI è una tecnologia strategica che offre molti vantaggi ma a condizione che sia incentrata sull’uomo, che sia etica, sostenibile e che rispetti i diritti e i valori fondamentali. L’AI può e deve aiutare a rafforzare la competitività dell’industria europea e a migliorare il benessere dei cittadini, ma deve anche aiutare ad accelerare la ricerca di soluzioni ad alcune delle sfide sociali più pressanti, come la individuazione di misure per gestire il cambiamento climatico, la lotta agli sprechi, le grandi sfide legate alla sostenibilità e ai cambiamenti demografici oltre che trovare nuove risposte al crescente bisogno di sicurezza. Il lavoro relativo all’AI e alle altre tecnologie esponenziali come la blockchain deve poi essere messo in diretta relazione con la trasformazione sociale ed economica connessa al piano relativo al Green new Deal Europeo.

Scarica e leggi il White paper in versione integrale QUI