Questo articolo è stato pubblicato da questo sito
Mercoledì 8 maggio OpenAI ha diffuso la prima bozza di un documento che illustra come la società di intelligenza artificiale vuole che si comportino ChatGpt e le sue altre tecnologie AI. Ma Model Spec – come è stato ribattezzato il lungo documento – rivela anche che l’azienda sta studiando la possibilità di allentare le sue regole sui porno e altri contenuti espliciti.
Allo stato attuale le politiche di utilizzo di OpenAI vietano la creazione di materiali sessualmente espliciti o anche solo allusivi. Una nota di Model Spec relativa a questa regola tuttavia afferma che l’azienda sta pensando di consentire i contenuti di questo tipo.
I piani di OpenAI sul porno e i contenuti Nsfw
“Stiamo valutando se sia possibile offrire in modo responsabile la possibilità di generare contenuti Nsfw [“not safe for work”, non sicuri per il lavoro, Ndr] in contesti adatti all’età attraverso le Api e ChatGpt – si legge nella nota –. Non vediamo l’ora di comprendere meglio le aspettative degli utenti e della società riguardo al comportamento dei modelli in questo settore“.
Nello specifico, Model Spec spiega che i contenuti Nsfw “potrebbero includere erotismo, contenuti gore, insulti e volgarità“. Ma non è chiaro OpenAI stia pensando di attenuare solo leggermente le sue politiche d’uso – in modo per esempio da consentire la generazione di testi erotici – o se abbia in mente un cambiamento più sostanziale, magari consentendo descrizioni o rappresentazioni violente.
Rispondendo alle domande di Wired US, la portavoce di OpenAI Grace McGuire ha dichiarato che Model Spec è un tentativo di “portare una maggiore trasparenza sul processo di sviluppo” ma anche di “raccogliere feedback da parte del pubblico, dei politici e di altre parti interessate”. McGuire però non ha voluto fornire ulteriori dettagli sul modo in cui l’azienda sta valutando la possibilità di generare contenuti espliciti o sui riscontri ricevuti finora in risposta all’idea.
All’inizio di quest’anno, la chief technology officer di OpenAI Mira Murati aveva dichiarato al Wall Street Journal di non sapere se in futuro l’azienda avrebbe permesso la creazione di rappresentazioni di nudo con Sora, la sua AI per la generazione di video.
Gli aspetti problematici dei porno AI
In generale, la pornografia AI si è rapidamente imposta come una delle applicazioni più diffuse e preoccupanti della tecnologia di cui OpenAI è pioniera. Nel giro di poco tempo, i deepfake porno – le immagini o i video espliciti realizzati con il supporto dell’intelligenza artificiale generativa e che ritraggono persone reali senza il loro consenso – sono diventati uno strumento comune per gli abusi a danno di donne e ragazze. “I deepfake sessuali e altre immagini intime sintetizzate e non consensuali sono dilaganti e profondamente dannose“, spiega Danielle Keats Citron, docente presso la University of Virginia School of Law, che studia il fenomeno e definisce “allarmante” la potenziale adozione da parte di OpenAI di contenuti espliciti generati dall’intelligenza artificiale.
Poiché le regole di OpenAI vietano la rappresentazione di persone senza autorizzazione, le immagini esplicite e non consensuali rimarrebbero vietate anche nel caso in cui l’azienda permettesse di generare materiale Nsfw. Ma resta comunque da vedere se la società sarebbe in grado di moderare efficacemente i contenuti espliciti impedendo ad attori malintenzionati di utilizzare i suoi strumenti. Di recente, per esempio, Microsoft è stata costretta a modificare uno dei suoi strumenti di intelligenza artificiale generativa dopo che il sistema era stato utilizzato per creare immagini esplicite di Taylor Swift, poi distribuite su X.
Questo articolo, a cui ha contribuito anche Reece Rogers, è aparso originariamente su Wired US.
