Pubblica amministrazione - Generalità, varie -  Redazione P&D - 01/02/2020

Conoscibilità e trasparenza degli algoritmi applicati dalla pubblica amministrazione, il caso sottoposto al Consiglio di Stato con sentenza 8 aprile 2019 n. 2270 - G.G.

Si ritorna su uno dei tempi più ampiamente dibattuti e con un potenziale di sviluppo come non mai è stato in precedenza.
Il caso scaturisce da un provvedimento quale quello citato analogo del resto a quanto già preso in considerazione nel https://www.personaedanno.it/articolo/robotica-e-pubblica-amministrazione-consiglio-di-stato-sentenza-13-dicembre-2019-n-8472-gabriele-gentilini.
Ricordiamo a tal proposito il Libro bianco sull’Intelligenza Artificiale al servizio del cittadino prodotto dall’Agid che ritroviamo su https://www.agid.gov.it/index.php/it/agenzia/stampa-e-comunicazione/notizie/2018/03/21/lintelligenza-artificiale-al-servizio-del-cittadino-sfide-opportunita e di cui il testo https://ia.italia.it/assets/librobianco.pdf.
Dal testo del libro bianco si legge che “Ci sono già esempi di come nella PA si possa trarre beneficio dall’adozione di soluzioni di IA, fra questi vediamo già effetti e applicazioni nel sistema sanitario, scolastico, giudiziario, nel pubblico impiego, nella sicurezza e, in generale, nella gestione delle relazioni coi cittadini. In quest’ultimo campo, l’Intelligenza Artificiale può essere impiegata per rispondere alle domande, cercare ma anche elaborare documenti, riempire moduli, instradare correttamente varie tipologie di richieste, eseguire traduzioni”.
“Per esempio, un chatbot dotato di IA può rispondere contemporaneamente a conversazioni che arrivano in un determinato momento, eliminando i tempi di attesa e, una volta comprese le esigenze del proprio interlocutore, può indirizzarlo verso gli uffici giusti, aiutarlo a trovare la documentazione che gli serve, fornire indicazioni per produrre correttamente le sue richieste scritte, se necessario parlando anche in una lingua straniera, o traducendo i termini burocratici che l’utente non comprende”. …. “I funzionari pubblici possono in questo modo essere liberati dall’incombenza di rispondere alle domande e alle mansioni più semplici, che spesso sono anche le più ricorrenti, recuperando tempo da dedicare ad altre attività, per fornire consulenze complesse e servizi migliori. Alcune delle funzionalità descritte possono essere utilizzate anche in ambito sanitario, per esempio per gestire nella maniera più veloce le prenotazioni di visite ed esami. In questo settore sono molto interessanti anche le ricerche sui robot che si prendono cura dei pazienti, eventualmente memorizzando le medicine da somministrare loro, i tempi e le dosi, oppure monitorando il loro stato di salute per mezzo di misurazioni biometriche da trasmettere al medico, corredate eventualmente da una ipotesi di diagnosi. Proprio in questo tipo di situazioni, che si potrebbero prestare ad ampie controversie etiche e scientifiche o a potenziali conflitti di interessi tra pazienti e medici, si evidenzia un punto focale in cui l’IA si posiziona in maniera eccellente, con la sua capacità di creare interazioni inedite tra sistemi amministrativo-tecnologici ed esseri umani.”.
Non possiamo d’altra parte, come già avevamo richiamato nel suddetto https://www.personaedanno.it/articolo/robotica-e-pubblica-amministrazione-consiglio-di-stato-sentenza-13-dicembre-2019-n-8472-gabriele-gentilini, la risoluzione adottata dal parlamento dell’Unione europea in data 16 febbraio 2017 https://eur-lex.europa.eu/legal-content/IT/TXT/HTML/?uri=CELEX:52017IP0051&from=IT, sulla Risoluzione recante raccomandazioni alla Commissione concernenti norme di diritto civile sulla robotica (2015/2103(INL) dalla quale si trae ed estende di seguito la parte introduttiva riproducendola letteralmente:

“Introduzione
A. considerando che, dal mostro di Frankenstein ideato da Mary Shelley al mito classico di Pigmalione, passando per la storia del Golem di Praga e il robot di Karel Čapek, che ha coniato la parola, gli esseri umani hanno fantasticato sulla possibilità di costruire macchine intelligenti, spesso androidi con caratteristiche umane;

B. considerando che l'umanità si trova ora sulla soglia di un'era nella quale robot, bot, androidi e altre manifestazioni dell'intelligenza artificiale sembrano sul punto di avviare una nuova rivoluzione industriale, suscettibile di toccare tutti gli strati sociali, rendendo imprescindibile che la legislazione ne consideri le implicazioni e le conseguenze legali ed etiche, senza ostacolare l'innovazione;

C. considerando che è necessario creare una definizione generalmente accettata di robot e di intelligenza artificiale che sia flessibile e non ostacoli l'innovazione;

D. considerando che tra il 2010 e il 2014 la crescita media delle vendite di robot era stabile al 17 % annuo e che nel 2014 è aumentata al 29 %, il più considerevole aumento annuo mai registrato, e che i fornitori di parti motrici e l'industria elettrica/elettronica sono i principali propulsori della crescita; che le richieste di brevetto per le tecnologie robotiche sono triplicate nel corso dell'ultimo decennio;

E. considerando che negli ultimi duecento anni il tasso di occupazione è aumentato costantemente grazie agli sviluppi tecnologici; che lo sviluppo della robotica e dell'intelligenza artificiale è potenzialmente in grado di trasformare le abitudini di vita e lavorative, innalzare i livelli di efficienza, di risparmio e di sicurezza e migliorare il livello dei servizi, nel breve e medio termine, e considerando che la robotica e l'intelligenza artificiale promettono di portare benefici in termini di efficienza e di risparmio economico non solo in ambito manifatturiero e commerciale, ma anche in settori quali i trasporti, l'assistenza medica, l'istruzione e l'agricoltura, consentendo di evitare di esporre esseri umani a condizioni pericolose, come nel caso della pulizia di siti contaminati da sostanze tossiche;

F. considerando che l'invecchiamento è il risultato dell'allungamento della speranza di vita dovuto ai progressi nell'ambito delle condizioni di vita e della medicina moderna e che rappresenta una delle maggiori sfide politiche, sociali ed economiche del XXI secolo per le società europee; che entro il 2025 oltre il 20 % dei cittadini europei avrà 65 anni o più e che si assisterà a un aumento particolarmente rapido di chi ne avrà 80 o più, il che comporterà un equilibrio sostanzialmente diverso tra generazioni all'interno delle nostre società, e che è interesse della società che le persone anziane rimangano in salute e attive quanto più a lungo possibile;

G. considerando che l'andamento attuale, che tende a sviluppare macchine autonome e intelligenti, in grado di apprendere e prendere decisioni in modo indipendente, genera nel lungo periodo non solo vantaggi economici ma anche una serie di preoccupazioni circa gli effetti diretti e indiretti sulla società nel suo complesso;

H. considerando che l'apprendimento automatico offre enormi vantaggi economici e innovativi per la società migliorando notevolmente le capacità di analisi dei dati, sebbene ponga nel contempo alcune sfide legate alla necessità di garantire la non discriminazione, il giusto processo, la trasparenza e la comprensibilità dei processi decisionali;

I. considerando che i cambiamenti economici e le conseguenze per l'occupazione derivanti dalla robotica e dall'apprendimento automatico devono essere parimenti valutati; che, nonostante i vantaggi innegabili apportati dalla robotica, essa può comportare una trasformazione del mercato del lavoro e rendere necessaria, di conseguenza, una riflessione sul futuro dell'istruzione, dell'occupazione e delle politiche sociali;

J. considerando che l'uso diffuso di robot potrebbe non portare automaticamente alla sostituzione di posti di lavoro, ma le mansioni meno qualificate nei settori ad alta intensità di manodopera potrebbero essere maggiormente esposte all'automazione; che questa tendenza potrebbe riportare i processi di produzione nell'UE; che la ricerca ha dimostrato che l'occupazione aumenta in modo particolarmente veloce nei settori caratterizzati da un maggiore impiego dei computer; che l'automazione dei posti di lavoro è potenzialmente in grado di liberare le persone dalla monotonia del lavoro manuale, consentendo loro di avvicinarsi a mansioni più creative e significative; che l'automazione richiede che i governi investano nell'istruzione e in altre riforme al fine di migliorare la ridistribuzione delle tipologie di competenze di cui avranno bisogno i lavoratori di domani;

L. considerando che, a fronte delle crescenti divisioni della società e della riduzione delle dimensioni della classe media, è importante tenere presente che gli sviluppi della robotica possono condurre a una forte concentrazione di ricchezza e potere nelle mani di una minoranza;

M. considerando che la tendenza all'automazione esige che i soggetti coinvolti nello sviluppo e nella commercializzazione di applicazioni dell'intelligenza artificiale integrino gli aspetti relativi alla sicurezza e all'etica fin dal principio, riconoscendo pertanto che devono essere preparati ad accettare di essere legalmente responsabili della qualità della tecnologia prodotta;

N. considerando che il regolamento (UE) 2016/679 del Parlamento europeo e del Consiglio (2) (regolamento generale sulla protezione dei dati) stabilisce un quadro giuridico volto a proteggere i dati personali; che altri aspetti riguardanti l'accesso ai dati e la protezione dei dati personali e della privacy potrebbero ancora dover essere affrontati, dal momento che potrebbero ancora sorgere preoccupazioni in materia di privacy per quanto riguarda le applicazioni e gli apparecchi che comunicano tra di loro e con le banche dati senza l'intervento umano;

O. considerando che gli sviluppi nel campo della robotica e dell'intelligenza artificiale possono e dovrebbero essere pensati in modo tale da preservare la dignità, l'autonomia e l'autodeterminazione degli individui, soprattutto nei campi dell'assistenza e della compagnia da parte di esseri umani e nel contesto delle apparecchiature mediche atte alla «riparazione» o al «miglioramento» degli esseri umani;

P. considerando che è possibile che a lungo termine l'intelligenza artificiale superi la capacità intellettuale umana;

Q. considerando che l'ulteriore sviluppo e il maggiore ricorso a processi decisionali automatizzati e algoritmici hanno senza dubbio un impatto sulle scelte compiute da un privato (ad esempio un'impresa o un internauta) e da un'autorità amministrativa, giudiziaria o da un qualsiasi altro ente pubblico al fine di rappresentare la decisione finale di un consumatore, un'impresa o un'autorità; che i dispositivi di sicurezza e la possibilità di verifica e controllo umani devono essere integrati nei processi decisionali automatizzati e algoritmici;

R. considerando che alcuni Stati esteri quali Stati Uniti, Giappone, Cina e Corea del Sud stanno prendendo in considerazione, e in una certa misura hanno già adottato, atti normativi in materia di robotica e intelligenza artificiale, e che alcuni Stati membri hanno iniziato a riflettere sulla possibile elaborazione di norme giuridiche o sull'introduzione di cambiamenti legislativi per tenere conto delle applicazioni emergenti di tali tecnologie;




Autore

immagine A3M

Visite, contatti P&D

Nel mese di febbraio 2020 Persona & Danno è stato visitato da oltre 390.000 utenti unici.

Cerca sul sito