Cultura, società - Opinioni, ricerche -  Redazione P&D - 20/06/2020

Da “I racconti della quarantena”, l’aspide. Estratto dal racconto “CoronApp”

Del resto sono (o meglio ero) un cittadino irreprensibile, anche se non sono iscritto al partito, ho sempre detto non fa per me.
Quando fu introdotto il sistema che attribuiva ad ogni cittadino un social score avevo il punteggio massimo: mille.
Il governo ci informò che il sistema era funzionale a consolidare una cultura della sincerità, a promuovere l'onestà e le virtù tradizionali, incoraggiava all’affidabilità e ai comportamenti virtuosi anche attraverso generosi meccanismi di incentivazione. L’obiettivo del sistema è elevare la coscienza della fiducia reciproca e di conseguenza i livelli di credito dell'intera società.
 Il punteggio può essere progressivamente decurtato in caso di violazione di specifiche norme giuridiche, amministrative o di semplici precetti morali ampiamente condivisi dalla comunità.
Ad esempio se ti trovano a guidare in stato di ebbrezza perdi cinquanta punti, se hai un figlio senza rispettare le direttive di pianificazione famigliare ne perdi trentacinque, il mancato puntuale rimborso di un prestito ne costa tra i trenta e i cinquanta, l’evasione fiscale sessanta.
Ma il governo è comprensivo e riconosce che se tutti possiamo sbagliare, possiamo pure redimerci: puoi recuperare i punti persi dopo un periodo tra due o cinque anni, a seconda della regola violata e della gravità dell'infrazione.
Magari potranno essere necessari alcuni corsi di recupero e rieducazione.
Io per il mio punteggio sono (ero, faccio fatica ad abituarmi al mio nuovo miserabile status) classificato nella fascia A: potevo godere di un accesso preferenziale alle opportunità di lavoro, potevo avere il passaporto, viaggiare, ottenere prestiti, comprare un’automobile.
I cittadini di rango inferiore dovevano invece far fronte a livelli crescenti di controllo e significative limitazioni.
Del resto, come dice il governo, se la fiducia si incrina in un luogo, le restrizioni dovrebbero essere imposte ovunque.
Meglio che ognuno risponda personalmente delle sue mancanze.
Per un cittadino modello come me non c’è nulla da temere. Solo da guadagnare.
L’algoritmo in fin dei conti si limita ad elaborare i dati così da attribuirti un punteggio scientificamente verificato.
Via via che il sistema si affinava i dati utilizzati per attribuire il punteggio si estesero all’analisi delle condotte, anche le più banali, poste in essere nella vita quotidiana. E così venivano valutati gli acquisti online, i contenuti pubblicati sui social media, contava anche il punteggio degli amici frequentati.



MATERIALI
Roger Creemers, “China's Social Credit System: An Evolving Practice of Control”
https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3175792
Bernard Marr, “Chinese Social Credit Score: Utopian Big Data Bliss Or Black Mirror On Steroids?”, Forbes, 21 gennaio 2019
https://www.forbes.com/sites/bernardmarr/2019/01/21/chinese-social-credit-score-utopian-big-data-bliss-or-black-mirror-on-steroids/

Represent – Consumer Education Foundation -, “Secret Surveillance Scoring: Urgent Request for Investigation and Enforcement Action”, comunicazione alla Federal Trade Commission 24 giugno 2019
https://www.representconsumers.org/wp-content/uploads/2019/06/2019.06.24-FTC-Letter-Surveillance-Scores.pdf

Frederik J. Zuiderveen Borgesius, “Strengthening legal protection against discrimination by algorithms and artificial intelligence” The International Journal of Human Rights, 25 marzo 2020
https://www.tandfonline.com/doi/full/10.1080/13642987.2020.1743976