Facebook e il cervellone di Modena, Lorenzo scova i video violenti

L’ingegner Baraldi ha inventato un software che il social network utilizza per combattere contenuti terroristici o vietati 

MODENA La lotta alla violenza e al terrorismo da anni viene portata avanti anche sul web. È internet il luogo in cui, più della vita reale, la propaganda fa proseliti e attecchisce e in cui riesce, in maniera tentacolare, a mettere radici.

Da oggi esiste uno strumento in più, un algoritmo ideato dall’ingegnere informaticoLoren zoBaraldi a partire dall’estate del 2017, quando era un dottorando all’Università di Modena. Uno studio che è stato poi sviluppato insieme ai ricercatori di Facebook fortemente interessato a contrastare i contenuti violenti.


Il software dell’ingegner Baraldi è in grado di riconoscere video “vietati” che vengono riprodotti sul web: «Detto in parole molto semplici - specifica il 30enne ricercatore di Unimore - si tratta di uno strumento in grado di confrontare tra loro video simili».

L’esempio più classico è quello cinematografico: «Prendiamo le immagini di un film che guardiamo al cinema e una ripresa che io posso fare con il mio smartphone del telo in cui viene proiettato lo stesso film: il software è in grado di dirmi che effettivamente stavo riprendendo quel film e che l’ho copiato in un altro video, che è simile, ma non uguale. Dal punto di vista umano - prosegue l’ingegner Baraldi - non è un’operazione difficile, perché chiunque all’istante può affermare che il video copia è stato tratto da quel film. Dal punto di vista informatico, invece, è un’operazione ben più difficile, perché i due file non sono uguali.

Ci sono differenze nei colori, nell’audio, magari lo smartphone oscilla mentre la copia originale è perfettamente centrata e stabile. Il nostro algoritmo, quindi, dato un database di video che ci interessa monitorare (ad esempio quelli violenti), riconosce se vengono “ricaricati” online. Indipendentemente dalle modifiche che vi sono state apportate, perché a volte vengono accelerati o riprodotti con colori differenti».

L’applicazione più classica del software è la lotta alle copie pirata o che violano i diritti d’autore. Esistono, tuttavia, anche altri utilizzi: «Possiamo vedere se video noti con contenuti violenti o illegali vengono ricondivisi sul web o ricaricati su un social network dopo essere stati vietati». Per esempio se un messaggio di propaganda terroristica viene eliminato dal web, capita spesso che qualche utente lo abbia già salvato e lo vada a ricaricare, magari in una versione modificata: il software è in grado di scovarlo.

SINERGIA CON FACEBOOK

Dal primo agosto Facebook ha deciso di rendere il prodotto “open-source” ovvero aperto a tutti. Il colosso californiano, tramite Facebook AI Research (Fair) di Parigi, ha collaborato allo sviluppo assieme all’ingegner Baraldi e a Unimore. I risultati erano stati pubblicati nel 2018 all’International Conference on Computer Vision and Pattern Recognition, la più importante conferenza al mondo di Visione Artificiale.

«Se identifichiamo una propaganda terroristica sulle nostre piattaforme - fa sapere Facebook - la rimuoviamo e la indicizziamo utilizzando una varietà di tecniche, compresi gli algoritmi che stiamo condividendo oggi. Ora possiamo condividere gli hash con i partner industriali, comprese le aziende più piccole, in modo che possano rimuovere lo stesso contenuto se appare sui loro servizi». Insomma grande sinergia sul tema e un’eccellenza modenese al centro del progetto.

«La nostra collaborazione - spiega Hervé Jégou, Research Lead al Fair - ha contribuito a rendere internet un luogo più sicuro. Ovviamente lo stage di Lorenzo ha aiutato all’inizio del progetto e di questo lo ringraziamo».

L’ingegner Baraldi ora prosegue il suo impegno come ricercatore a Ingegneria qui a Modena assieme alla professoressa Rita Cucchiara (coautore del software e sua tutor).

«La grande sfida - conclude il ricercatore modenese - è stata quella di riuscire a far analizzare al software enormi quantità di dati in maniera efficiente. È un risultato che mi riempie di soddisfazione, sia dal punto di vista scientifico sia nell’ambito applicativo. Spesso questi algoritmi finiscono nel dimenticatoio e non vengono messi in produzione, mentre ora gira concretamente e ha applicazione su Facebook». —

GIB

BY NC ND ALCUNI DIRITTI RISERVATI