Questo articolo è stato pubblicato da questo sito
“La nostra analisi del comportamento dei servizi nudify indica con forza il loro desiderio di costruire e radicarsi in una nicchia dell’industria per adulti – afferma Lakatos –. È probabile che continuino a cercare di inserire le loro operazioni nel settore dei contenuti per adulti, una tendenza che deve essere contrastata dalle aziende tecnologiche tradizionali e dall’industria per adulti“.
Che le aziende tech permettano alle piattaforme nudify di utilizzare i loro sistemi è un fatto ben noto. Da anni, i giornalisti che si occupano di tecnologia spiegano come la deepfake economy si basi sui servizi di pagamento tradizionali, le pubblicità sui social media, la visibilità sui motori di ricerca e la tecnologia delle grandi aziende, senza che siano state adottate contromisure di ampio respiro.
“Dal 2019, le app nudify sono passate dall’essere una manciata di progetti secondari di bassa qualità a un’industria di imprese illecite professionali con milioni di utenti“, afferma Henry Ajder, un esperto di AI e deepfake che per primo ha scoperto l’espansione del fenomeno nel 2020. “Solo quando aziende come queste […] intraprenderanno azioni mirate, inizieremo a vedere progressi significativi“, aggiunge.
Come se non bastasse, ci sono segnali che indicano che questi siti stanno aggiornando le loro tattiche e i loro approcci per cercare di evitare un potenziale giro di vite oppure di eludere i divieti. L’anno scorso, Wired ha riferito che i siti web nudify utilizzano i sistemi di accesso di Google, Apple e Discord per permettere alle persone di creare rapidamente gli account. Anche se molti dei profili degli sviluppatori sono stati disabilitati in seguito alla segnalazione, Indicator afferma che 54 degli 85 siti web analizzati utilizzano il sistema di accesso semplificato di Google e hanno preso provvedimenti per eludere il rilevamento da parte del colosso.
Come contrastare il fenomeno
Sebbene finora le aziende tecnologiche e le autorità di regolamentazione abbiano adottato un approccio poco deciso, di recente c’è stato qualche progresso. Il procuratore di San Francisco ha per esempio citato in giudizio 16 servizi di generazione di immagini non consensuali, Microsoft ha identificato gli sviluppatori che si celano dietro i deepfake delle celebrità e Meta ha intentato una causa contro l’azienda dietro un’app nudify, accusata di aver ripetutamente pubblicato annunci sulle sue piattaforme. Nel frattempo, il controverso Take It Down Act, che il presidente degli Stati Uniti Donald Trump ha firmato a maggio, ha imposto alle aziende tecnologiche di rimuovere rapidamente immagini non consensuali, mentre il governo britannico sta rendendo illegale la creazione di deepfake espliciti.
Queste misure possono limitare alcuni servizi, ma sono necessarie misure più ampie per rallentare la crescita del settore. Mantzarlis sostiene che se le aziende tecnologiche saranno più proattive e più severe nel far rispettare le loro politiche, il successo di questo piattaforme calerà. “Migreranno verso angoli di internet meno regolamentati, ma che lo facciano pure – dice Mantzarlis –. Se i siti web sono più difficili da scoprire e utilizzare, il loro pubblico e le loro entrate si ridurranno. Purtroppo, questo regalo tossico dell’era dell’AI generativa non può essere restituito. Ma di sicuro può essere drasticamente ridotto“.
Questo articolo è apparso originariamente su Wired US.
