Questo articolo è stato pubblicato da questo sito
Si chiama PhotoGuard il nuovo strumento messo a punto al MIT di Boston per rendere difficile la vita alle intelligenze artificiali, sempre più utilizzate per modificare le foto. Questa nuova tecnologia crea una sorta di perturbazione a livello di pixel, qualcosa di invisibile a occhio umano, ma che può mandare in confusione gli algoritmi che devono riconoscere che cosa rappresenti ogni porzione dell’immagine. Il risultato è che sarà pressoché impossibile creare manipolazioni che spesso cambiano drasticamente il senso di una foto.
Le intelligenze artificiali possono facilitare e velocizzare in modo esponenziale il lavoro di modifica di una qualsiasi immagine. Basti prendere ad esempio Dall-E oppure Stable Diffusion che partono da un’immagine caricata dall’utente e poi agiscono seguendo le indicazioni testuali con risultati spesso eclatanti, proprio come gli strumenti presentati negli scorsi mesi anche da Adobe per Photoshop. Eppure, c’è un modo per mettere un lucchetto digitale a una foto e evitare che le AI possano manipolarla e si chiama PhotoGuard. Lo strumento è stato sviluppato presso il MIT CSAIL, ovvero il Computer Science and Artificial Intelligence Laboratory del Massachusetts Institute of Technology e agisce a livello invisibile, di singolo pixel, alternando quelli chiave che vengono analizzati dalle AI per “vedere” cosa rappresenti un’immagine.
Questi artefatti digitali sono bastoni tra le ruote degli algoritmi, che non possono procedere correttamente, inficiandone l’efficacia: la modifica sarà fuori contesto, di scarsa qualità e poco credibile, smascherandosi a un immediato colpo d’occhio. “Se da un lato sono lieto di contribuire a trovare una soluzione a questo problema – ha commentato il dottorando Hadi Salman che ha guidato il progetto – dall’altro sono conscio che sia necessario molto lavoro per rendere pratica questa protezione. Le aziende che sviluppano questi modelli devono investire nella progettazione di immunizzazioni solide contro le possibili minacce poste da questi strumenti di intelligenza artificiale“.
