Decine di criminali individuati e arrestati in poche ore! Non si è ancora placato l'entusiasmo per il risultato sfolgorante dei primi esperimenti con le nuove tecniche di riconoscimento facciale inserite nelle telecamere a circuito chiuso della polizia britannica che, con la forza del tuono, arriva la notizia dei “sub-postmasters” della Royal Mail (ovvero il servizio postale della Corona Britannica). Che è successo? Nel periodo tra il 2009 e il 2015 un numero altissimo di “sub-postmasters” (ovvero di direttori e impiegati di locali uffici postali) è finito in carcere con l'accusa di ammanchi di cassa rilevati da un software di contabilità (detto Horizon). E fin qua, ci verrebbe da dire, niente di particolarmente strano ...senonchè viene scoperto oggi (quindi in perfetta linea con i tempi della giustizia, anche quella inglese) che in parecchi di questi casi gli ammanchi erano inesistenti.

Molti degli accusati hanno avuto la forza di resistere alle indagini (non conosco l'equivalente britannico del nostro “SONO SERENO” di indagati e arrestati), ma alcuni non hanno retto alla pressione e si sono suicidati. Per loro nulla più della galileana soddisfazione di essere riabilitati anni dopo, per quello che è stato definito il più esteso errore giudiziario della storia britannica (The Guardian).

Cito da Repubblica: non è certo la prima volta che gli errori di un software causano danni anche gravissimi ad esseri umani (si ricordi il disastro aereo causato dal bug del Boeing 737 Max), ma il caso di Horizon (in cui i risultati del software hanno costituito la prova esclusiva della responsabilità degli accusati) è diverso e peggiore. Nel caso del 737 infatti, il difetto di programmazione che ha causato il disastro si è manifestato quando ormai non era più possibile intervenire, mentre i dati sbagliati prodotti da Horizon sono stati alla base delle decisioni assunte da pubblici ministeri e giudici (che avevano dalla loro tutto il tempo di valutarli con la prudenza che il loro ruolo impone!). E viene da chiedersi: come è possibile che a dimostrare l'esistenza dei difetti siano stati gli accusati e che, al contrario, nessun inquirente abbia pensato di verificare l'attendibilità di quei dati prima di formulare le accuse?

Per rispondere nello specifico sarebbe necessario conoscere a fondo tutti gli atti processuali ma, in termini più generali, emerge il tema del rapporto malsano che le istituzioni e i cittadini hanno con le tecnologie dell'informazione, presentate come divinità onnipotenti da officianti il cui scopo reale è venderle a una massa credulona che le venera con il più acritico fideismo. Un copione che sta andando in scena, con una coerenza da incubo, anche con la cosiddetta "intelligenza artificiale".

Lo scandalo del servizio postale britannico dimostra (sempre che ve ne sia bisogno) che non è soltanto l'I.A. a causare danni gravissimi alle persone ma che questo può accadere anche usando software che, per converso, potremmo chiamare "non intelligente" (o stupido se preferite).