Facebook vuole creare un algoritmo che riconosce i meme violenti

0
112
Questo post è stato pubblicato qui
Facebook vuole creare un’Intelligenza Artificiale in grado di riconoscere i messaggi d’odio nei contenuti multimodali. Nell’immagine tre meme create da Facebook per istruire gli algoritmi. (Foto: Facebook)

Facebook ha avviato l’Hateful memes challenge, un concorso con mette in palio 100mila dollari per sviluppare un’intelligenza artificiale in grado di individuare i meme che veicolano messaggi d’odio.

La società di Menlo Park renderà disponibile un set di dati progettato appositamente per allenare degli algoritmi a riconoscere i discorsi d’odio che usano più mezzi di comunicazione, come testo e immagini. Al momento la combinazione è ostica da riconoscere da parte degli attuali strumenti di moderazione ed ecco perché molti meme riescono a sfuggire alle maglie dei controlli automatici.

Lo scopo dei programmatori sarà quindi quello di creare una nuova intelligenza artificiale in grado di “combinare queste diverse modalità e capire come cambia il significato quando vengono presentate insieme”.

Per aiutare i programmatori nella sfida Facebook ha creato un set di 10mila meme raccolte dal social network e ha sostituito le immagini presenti in esse con dei contenuti presi da Getty Images senza però alterare il significato del meme. “Se il meme originale aveva una foto di un deserto, abbiamo scelto una foto del deserto simile da Getty. Se non è stata trovata alcuna immagine sostitutiva adatta, il meme è stato scartato”, spiega la società.

La vera sfida sarà creare uno strumento in grado di comprendere il contesto in cui i meme vengono utilizzati. Vi è una sottile linea di demarcazione tra meme creati per fare del dark humor e altri offensivi. I programmatori dovranno, in un certo senso, insegnare a una macchina come riconoscere l’umorismo.

Nel frattempo Facebook prepara il terreno di gioco e chiude a chiave il set di dati creato per aiutare gli sviluppatori. “Nel tentativo di prevenire potenziali abusi, stiamo limitando l’accesso al set di dati. Solo i ricercatori saranno in grado di visualizzare o utilizzare i meme”, spiega Menlo Park.

Siamo fiduciosi che l’Hateful memes challenge stimolerà progressi più rapidi in tutto il settore nella gestione di contenuti di odio e contribuirà a far progredire l’apprendimento automatico multimodale più in generale”, conclude Facebook.

 

The post Facebook vuole creare un algoritmo che riconosce i meme violenti appeared first on Wired.