Si è posto un problema con l’algoritmo delle supplenze degli insegnanti, con quello dei voti scolastici nel Regno Unito, con gli algoritmi statunitensi che cercano di valutare la possibilità che un soggetto possa tornare a delinquere, al fine di stabilire se lo stesso merita meccanismi premiali.
Ciò che spaventa dell’algoritmo è che non si è in grado di comprendere come funziona, se non previa pubblicazione del “codice” da parte di chi lo applica, e spesso se non attraverso un’analisi complessa, che richiede quasi sempre conoscenze specifiche, e molto tempo per l’analisi dettagliata del funzionamento del meccanismo decisionale.
Si può temere l’algoritmo perché è inflessibile, ma si è sempre temuto il giudizio umano, perché non può mai essere oggettivo fino in fondo.
L’algoritmo può risentire di pregiudizi che diventano necessariamente precostituiti (es: in certe zone i crimini si ripetono con più frequenza), il giudizio umano risente della trascuratezza e/o impreparazione dell’operatore, della simpatia o antipatia del giudicando, della severità o meno del giudice, ecc. ecc.
L’algoritmo colpisce un numero indeterminato di casi, ed è veloce, immediato, inflessibile.
Il giudizio umano è più lento, imprevedibile, lascia sempre una speranza.
“Summum ius, summa iniuria”, diceva Cicerone, ed in effetti il sospetto è che la necessità di adeguamento alla velocità di elaborazione dei dati dei calcolatori, che calcolano poi anche la convenienza – non solo economica – di ogni attività umana, conduca le persone a pensare in maniera disumana, come delle macchine, nel senso negativo dell’espressione.
L’esigenza degli uomini allora è che dietro una macchina, intelligente o meno, ci siano sempre gli uomini che controllano, e che devono avere una motivazione, un accesso ai dati, e un riscontro e una spiegazione a quanto scientificamente applicato.
Le scelte, e soprattutto le sentenze, devono essere motivate, si deve poter conoscere come sono state partorite, anzi quale è stata la loro gestazione.
Ma attenzione, è vero che ciascuno ha diritto a non essere giudicato unicamente in forza di un processo automatizzato, ma un percorso incurante della reale sostanza dei fenomeni può nascere anche nella testa degli uomini.
Bisognerà stare più attenti agli uomini che alle macchine, perché i primi non cedano alla tentazione di essere più efficienti delle seconde, facendo più danni delle loro creature.