Questo articolo è stato pubblicato da questo sito
Potrebbe essere proprio ChatGPT – o meglio GPT-4, l’ultima versione del prestante modello linguistico basato sull’intelligenza artificiale di OpenAI – a risolvere l’annoso problema della moderazione di massa dei contenuti sulle piattaforme online. I test, già in corso da tempo con risultati promettenti, sono finalizzati a mettere a punto uno strumento in grado di agire in modo tempestivo anche su larghissima scala, in grado di adattarsi istantaneamente ai cambi delle normative e con la capacità di comprendere al meglio anche le sfumature del linguaggio.
L’obiettivo dell’esperimento di OpenAI con ChatGPT nel ruolo di moderatore di massa è quello di ridurre al minimo l’intervento umano così da salvare decine di ore di lavoro settimanale e semplificare i vari iter di aggiornamenti delle regole interne, una prospettiva potenzialmente molto allettante per i colossi del web, dai social network alle community fino ai forum. Come spiegato in un post pubblicato sul blog ufficiale dell’azienda, OpenAI individua tre benefici principali dell’uso degli strumenti AI nella moderazione di contenuti. Il primo riguarda la coerenza del giudizio, dato che migliaia di lavoratori su un’unica piattaforma potrebbero interpretare in modo diverso le policy interne, soprattutto quando vengono aggiornate in modo frequente. La soluzione basata su GPT-4, inoltre, sarà addestrata quasi all’instante su ogni cambio di normativa futuro, migliorando man mano anche la capacità di interpretare anche le sfumature del linguaggio.
In secondo luogo, la soluzione di OpenAI potrà contribuire anche allo sviluppo delle nuove linee guida, risparmiando settimane se non mesi di lavoro: grazie alle sue notevoli capacità, ChatGPT può infatti aiutare nel processo di ricerca, selezione di idee, organizzazione dei documenti e feedback oltre che nella rifinitura finale. Infine, il terzo vantaggio è quello di evitare al personale umano di dover leggere o visualizzare contenuti molto pericolosi per la propria salute mentale, come video di violenze (anche su minori), incitamento all’odio e episodi di bullismo virtuale. È ormai noto come i moderatori siano spesso vittime di disturbi da stress post-traumatico. Anche se non viene citato direttamente da OpenAI, possiamo poi immaginare un quarto beneficio, ovvero quello economico; una quota consistente della forza lavoro nei vari Facebook, Instagram, TikTok, YouTube o X è rappresentata proprio dal personale che si dedica esclusivamente alla moderazione, e in un periodo di pesanti tagli al personale l’uso di ChatGPT-4 potrebbe compiere una rivoluzione anche in questo segmento.
