L’algoritmo, un politico bugiardo?

Mai come oggi le scelte politiche, in merito alla gestione pandemia, per esempio i famosi ventuno parametri, sono dettate dal pensiero matematico e scientifico, apparentemente.

Crediamo nella matematica perché siamo convinti che sia oggettiva, i “numeri non mentono” si dice. Confidiamo nella scienza perché i processi scientifici – basati sui fatti e sui dati – sono generalmente considerati affidabili. Celebriamo gli algoritmi perché razionalizzano comportamenti. D’altronde, ci viene insegnato fin dalla tenera età che misurare qualcosa significa comprenderlo ma soprattutto possederlo e controllarlo.

Ma siamo proprio sicuri che la scienza sia neutrale e sempre oggettiva? La risposta è no, non solo perché la Storia ci ha insegnato che la Scienza è anche potere istituito, ma anche e soprattutto perché – come sostiene una delle più rilevanti matematiche e data scientist statunitensi – Cathy O’Neil:  gli algoritmi sono pregiudizi politici espressi matematicamente.

L’ALGORITMO È UN AGENTE POLITICO, CHE PUÒ MENTIRE

Gli algoritmi e le scienze ci aiutano a gestire le pratiche delle nostre vite, ma assumono l’aspetto di programmi politici perché indicano sempre un punto di vista particolare, soggettivo. «Molto spesso gli algoritmi tendono a definire in maniera precostituita una loro realtà e a giustificare i risultati ottenuti» dice Cathy O’Neil. Di più, nel curare un aspetto della vita pubblica o privata producono allo stesso tempo una serie di sotto-traumi, per esempio rendendoci ciechi a tutto il resto.

Gli algoritmi sono semplificazioni che tendono a:

• risolvere alcuni problemi generando danni collaterali, nel nostro caso per esempio: chi si sta occupando dei tormenti economici e psicologici derivanti dal confinamento?

• concentrarsi sui numeri e non sui comportamenti umani, spesso non misurabili in toto soprattutto durante crisi emergenziali (per esempio: davvero le Scuole generano accelerazioni virali?);

• focalizzare pregiudizialmente alcuni parametri di ricerca, escludendo molte altre variabili. Ci possono essere diversi modi di misurare gli effetti di una Pandemia. E d’altronde non abbiamo mai affrontato un virus pandemico prima d’ora, chi ha detto che i parametri usati fin qui funzionino veramente? Dove sono le evidenze scientifiche?

• ignorare le conseguenze culturali più ampie di una scelta matematica e numerica (per esempio: una Regione gialla non dimostra necessariamente le capacità di resilienza richieste in termini di risposte della Sanità Pubblica);

• assumere un atteggiamento scientista rigido e ingenuo, che tende a classificare e spiegare ogni cosa (“il Covid-19 si gestisce così e basta”);

• sviluppare una eccessiva fiducia nel dato sanitario, tanto da misurare tutti in termini quantitativi ospedalieri (e gli aspetti quali-quantitativi economici, psicologici, sociali, morali, umani dove sono?);

• reiterare l’eventuale errore nel tempo, visto che ci si fida del modello si tende a perpetuarlo continuamente.

L’algoritmo quindi non ha ragione, perché è progettato da una mente umana. L’algoritmo non è oggettivo, perché è un tentativo soggettivo di risolvere un problema. L’algoritmo non è neutrale. Esprime sempre una intenzione precisa, pensato da qualcuno per un certo fine.

L’algoritmo non è la verità. Non esiste una verità numerica nei processi che portano alla creazione di un computo che poi deve dire se e come siamo malati, se e come dobbiamo uscire di casa.

LA TRASPARENZA SUI NUMERI E LE NOSTRE SCELTE FUTURE

Mettere la salute davanti a tutto, imponendo regole precostituite per un bene assoluto, sembra ormai essere, adesso, il nostro unico destino. Di fronte alla curva dei contagi bisogna chiudere. Questa però non solo è una generalizzazione ingenua, oltre che un’offesa alla nostra Costituzione, ma anche una fallacia logica chiamata: Argumentum ad misericordiam, cioè l’appello colpevolizzante a un comportamento (confinarsi) che se non agito vanifica uno sforzo (contenere la pandemia).

A questo punto si chiuda tutto. Ma questa volta dobbiamo pretendere dagli attuali policy maker la trasparenza delle loro azioni, soprattutto sui numeri, rivelare quali siano i dati presi come input e sottoporre i risultati a verifiche esterne, magari modificando i parametri. Come cittadini e consumatori è altrettanto importante non considerare questi modelli come verità assolute, ma ricordarci che la responsabilità̀ delle scelte – soprattutto politiche – che facciamo sui dati è nostra.

I dati sono uno strumento e, come qualsiasi altro strumento, non sono né buoni né cattivi; dipende da come vengono utilizzati.

Per questo, dovremmo pretendere l’allargamento delle norme decisionali non solo in mano a un olimpo ristretto di tecnocrati, appartenenti a un unico approccio disciplinare e professionale, ma affiancarli da altri ricercatori che sappiano comunicare trasparentemente modelli e scelte. Per espandere le capacità decisionali e le visioni socio-politiche che nei prossimi mesi determineranno i nostri destini di vita e di morte.

La democrazia, seppur zoppicante e un po’ sospesa in cui ci troviamo, merita di continuare a essere discussa e prima o poi ripristinata. Perché come argomenta Chiara Valerio in La matematica è politica, «la scienza non avanza per certezze ma per ipotesi: è verificabile. Le verità della scienza evolvono. E pensare agli scienziati come a sacerdoti della soluzione o della guarigione è un modo per delegare la responsabilità politica. Oltre che di istituzionalizzare come scienza qualcosa che è il contrario della scienza: la fede fideistica».

© Riproduzione riservata