Norman, l’algoritmo psicopatico ci allerta su dati e pregiudizi

0
136
Questo post è stato pubblicato da this site

wiredÈ vero: le tre leggi della robotica formulate nel 1942 da Isaac Asimov, padre della narrativa fantascientifica, nel racconto Circolo vizioso, non trovano al momento una vera applicazione nella realtà. Seppur molto avanzati e a volte impressionanti (basti pensare alle ipertecnologiche “bestiole” della Boston Dynamics) i robot con cui abbiamo a che fare sono ancora ben lontani dal tramutarsi in creature pensanti. Eppure il provocatorio esperimento condotto di recente dal Media Lab del Mit di Boston ci riporta a quel genere di implicazioni, al confine con la roboetica.

In realtà, in questo caso si parla più strettamente di intelligenza artificiale, machine learning e deep learning. I ricercatori del prestigioso laboratorio di Cambridge hanno infatti programmato e battezzato Norman, dal nome dell’inquietante Norman Bates, l’Anthony Perkins di Psycho nonché, ancora prima, il protagonista dei romanzi di Robert Bloch. Un sistema automatizzato addestrato in modo da presentare le dinamiche tipiche della psicopatia. In altre parole hanno partorito un algoritmo psicopatico.

L’esperimento non è ovviamente fine a se stesso. Al contrario l’algoritmo Norman, allenato a suon di apprendimento automatico sulla base delle peggiori nefandezze individuabili sull’aggregatore statunitense Reddit, in particolare da un canale intitolato /watchpeoplediededito alla documentazione e all’osservazione dell’inquietante realtà della morte”, serve a far suonare l’allarme sul futuro prossimo. E a mettere in chiaro come uno dei fattori fondamentali per sperare di governare l’IA sarà proprio il punto di partenza: quali dati vengono forniti in pasto alle reti neurali artificiali, che genere di pregiudizi si portano dietro, chi li ha selezionati e prodotti, quali sono le fonti e gli obiettivi.

Le interpretazioni fornite da Norman al test di Rorschach, noto anche come test delle macchie di inchiostro ideato negli anni Venti dall’omonimo psicologo svizzero, non lasciano d’altronde spazio a dubbi. I suoi feedback sono stati confrontati con quelli di un’altra rete neurale addestrata invece con un dataset neutrale (l’MsCoco Dataset), vale a dire scevro di elementi oscuri, raggelanti e macabri come quelli usati per Norman. Al contrario, l’MsCoco Dataset è ricco di fiori, piante e animali. Ebbene, a quel test psicometrico, usato dagli specialisti per valutare la personalità e nel quale si domanda al paziente di interpretare una serie di macchie simmetriche d’inchiostro riferendo ciò che ci vedono, l’algoritmo psicopatico ha fornito risposte sconvolgenti.

CONTINUA A LEGGERE SU AUDI-INNOVATIVE

The post Norman, l’algoritmo psicopatico ci allerta su dati e pregiudizi appeared first on Wired.