giovedì, Giugno 20, 2024

Intelligenza artificiale, la sfida tech per smascherare i contenuti

Must Read

Questo articolo è stato pubblicato da questo sito

La creazione di contenuti, da sempre espressione della creatività umana, si trova a un bivio epocale con l’avvento dell’intelligenza artificiale (AI) generativa. Nuove possibilità si aprono, ma con esse sorgono interrogativi profondi sul ruolo dell’uomo nel processo creativo e sulla distinzione tra realtà e artificio. In questo contesto, la regolamentazione assume un ruolo cruciale per affrontare i rischi etici e morali connessi a questa tecnologia emergente. L’Unione europea e il
governo italiano hanno già avviato iniziative in questo senso. La coalizione internazionale C2PA, per esempio, propone un protocollo per tracciare i contenuti generati artificialmente, basandosi su un sistema di “filigrana” invisibile e meta-tag identificativi.

In C2PA sono presenti numerose organizzazioni appartenenti al settore della generazione artificiale di contenuti, come per esempio Microsoft, Google e OpenAI, rendendola la più grande coalizione operante nel settore della generazione artificiale. L’iniziativa impone alle organizzazioni produttrici di “auto certificare” la provenienza di un contenuto (per esempio, una immagine) inserendo una “filigrana” invisibile a occhio umano e una serie di “meta tag” (ovvero di informazioni) correlati che ne identifichino la provenienza includendo: data di produzione, firma del produttore, geolocalizzazione della produzione e certificato di originalità.

Sebbene lodevole per l’intento, l’iniziativa presenta alcune note criticità che è giusto ricordare. La prima è la difficoltà di adozione globale: l’efficacia di tale protocollo di intesa dipende dalla collaborazione di tutti i produttori di AI generativa, un obiettivo arduo in un contesto geopolitico frammentato ove risulta difficile accordarsi su tematiche ben più consolidate, come per esempio diritti dei lavoratori, sanità, programmi scolastici e persino sui confini geografici. La seconda è la mancanza di un controllo indipendente: l’autocertificazione da parte dei produttori, senza un ente terzo di verifica, rischia di essere autoreferenziale e poco affidabile. Di fatto numerose sono le certificazioni internazionali che suggeriscono di evitare o ridurre al massimo i conflitti di interesse tra chi controlla e chi produce. Gli esempi sono innumerevoli dalla catena alimentare, alla filiera farmaceutica fino al comportamento sul luogo di lavoro. Perché nel settore dell’origine del dato non deve essere uguale ? Inoltre quale sarà l’ente di controllo ? Ci fideremo tutti di un ente unico oppure ogni paese ne creerà uno proprio?

La terza criticità concerne la vulnerabilità alla manomissione: la filigrana può essere rimossa
utilizzando, paradossalmente, tecniche di intelligenza artificiale. Tale sistema di verifica infatti è inaffidabile contro avversari motivati capaci a rimuovere o alterare la filigrana. Agli occhi umani essa non è percettibile ma a occhi “artificiali” essa è facilmente riconoscibile in quanto presenta un “rumore” o una “anomalia” percettibile da occhi artificiali. Essa può tuttavia essere rimossa attraverso un sistema di miglioramento della qualità dell’immagine (o del suono). Tecnicamente
si introduce un rumore nel contenuto (un suono bianco oppure delle sgranature all’interno del contenuto visivo) per poi essere rimosso attraverso sistemi di miglioramento-immagine. Il risultato è una immagine migliorata rispetto all’originale e senza filigrana. Contrariamente la filigrana può essere inserita in ogni momento. Ovvero prendere una immagine non generata da intelligenza artificiale e inserire informazioni al suo interno come se fosse stata realizzata da un generatore artificiale per il quale è stato creato un certificato.

- Advertisement -spot_img
- Advertisement -spot_img
Latest News

Solstizio d'estate, le cose da sapere

Alle 22:51 del 20 giugno 2024 ufficialmente entriamo nell'estate, con l'arrivo del solstizio. Più propriamente, il solstizio d'estate arriva...
- Advertisement -spot_img

More Articles Like This

- Advertisement -spot_img