Questo articolo è stato pubblicato da questo sito
Risultato? Gli studenti delle scuole private più prestigiose hanno ottenuto voti finali più alti di quelli attesi dai loro insegnanti (e quindi una maggiore possibilità di accedere alle migliori università), mentre gli studenti delle scuole pubbliche hanno ottenuto voti in media più bassi di quelli attesi dagli insegnanti. Per quale ragione? I motivi sono molteplici e spesso è quasi impossibile interpretarli, visto che un algoritmo effettua miliardi di calcoli sulla base di innumerevoli variabili.
In questo caso specifico, si sa però che – a causa della struttura dell’algoritmo – se in una specifica scuola nessuno studente aveva ottenuto il voto massimo nei tre anni precedenti, diventava praticamente impossibile per qualunque studente di quella scuola riuscire a conquistarlo. La causa di ciò era la priorità accordata dall’algoritmo, nella valutazione dei singoli studenti, ai risultati ottenuti in quella scuola nei tre anni precedenti.
I risultati del passato venivano quindi scaricati sulle spalle di ragazze e ragazzi incolpevoli, spesso appartenenti alle scuole pubbliche dei quartieri più difficili (i cui voti medi sono spesso più bassi) e penalizzando così gli studenti che – nonostante le condizioni socioeconomiche – si erano impegnati.
Se però, in una determinata scuola, meno di quindici studenti avevano studiato una particolare materia, in quel il sistema attribuiva un peso maggiore ai voti conquistati dal singolo studente. E chi si è avvantaggiato di ciò? Gli studenti delle scuole più piccole, che sono spesso anche quelle private.
Fratelli d’Italia e il Mur puntano ancora sugli algoritmi
I sistemi algoritmici non hanno fatto altro che esacerbare, sia in Polonia sia nel Regno Unito, le ingiustizie presenti nella società, suscitando enormi proteste e venendo poi frettolosamente ritirati. È però importante sottolineare un aspetto: sia nel caso polacco sia in quello britannico non si è trattato di due algoritmi “sbagliati” o “malfunzionanti”, ma delle inevitabili storture che si verificano ogni volta che algoritmi di machine learning vengono impiegati in campi delicati e dalle conseguenze importanti.
“Anche quando un algoritmo fornisce un beneficio (la rapidità del processo decisionale su una grande mole di dati), può comunque causare ulteriori problemi (la discriminazione socioeconomica)”, scrive per esempio Richard Harkens, ricercatore specializzato in processi algoritmici all’università di Birmingham.
