Questo articolo è stato pubblicato da questo sito
Dopo le segnalazioni giunte negli scorsi giorni, il Garante Privacy ha deciso di fermare il controverso chatbot Replika, attivo ormai da circa cinque anni. L’intelligenza artificiale che governa l’app conversazionale, infatti, ha mostrato comportamenti pericolosi soprattutto nell’interazione con minori o con persone emotivamente fragili, con vere e proprie molestie a livello sessuale. Inoltre, Replika viola il Regolamento europeo sulla privacy, non rispettane il principio di trasparenza e rendendosi colpevole di un trattamento illecito dei dati personali. Il risultato è la limitazione provvisoria del trattamento dei dati degli utenti italiani con effetto immediato da parte della società che lo eroga, Luka Inc., altrimenti scatteranno multe molto salate.
Una decisione drastica che arriva a diversi anni dal debutto di Replika, un chatbot molto popolare per via dell’interazione realistica che garantisce. Sospinto anche dal successo del collega ChatGPT, diventato in pochi giorni uno dei fenomeni più importanti del 2023, questo applicativo basato su intelligenza artificiale si presenta come un amico virtuale in grado di migliorare il benessere emotivo, di comprendere stati d’animo e gestire meglio lo stress e ansia e favorire la socializzazione. Un approccio positivo e all’insegna dell’empatia che è stato messo in ombra dai sempre più inquietanti lati oscuri che hanno velocemente prevalso sui buoni intenti iniziali. Come vi abbiamo raccontato nel dettaglio, sono infatti sempre più numerose le segnalazioni di utenti molestati sessualmente nella modalità romantica/erotica a pagamento, con il bot conversazionale che si è spinto ben oltre i limiti, con quelli che il Garante Privacy descrive come “Concreti rischi per i minori d’età, a partire dalla proposizione ad essi di risposte assolutamente inidonee al loro grado di sviluppo“, interessando anche soggetti in stato di fragilità emotiva.
Ma non è l’unico problema di Replika, che difetta anche dei necessari meccanismi di verifica dell’età, di filtri per i minori e di blocchi nel caso in cui l’utente si palesi come minorenne: iscrivendosi alla piattaforma vengono solo richiesto un nome, un email e un genere. “Replika viola il Regolamento europeo sulla privacy, non rispetta il principio di trasparenza ed effettua un trattamento di dati personali illecito, in quanto non può essere basato, anche solo implicitamente, su un contratto che il minorenne è incapace di concludere”, sentenzia il Garante. Ora la società Luka Inc. dovrà rispettare le richieste di sospendere il trattamento dei dati degli utenti italiani, altrimenti rischia qualcosa come fino a 20 milioni di euro o fino al 4% del fatturato globale annuo, le misure intraprese dovranno essere comunicate entro un massimo di 20 giorni.
