Google introduce Perspective un filtro contro gli insulti online

By | 24/02/2017
(Visite Totali 8 ---- Visite Oggi 1 )

Dunque lotta non solo alle notizie ‘bufala’, ma anche contrasto a linguaggio violento, insulti, troll e disturbatori in rete.Jigsaw, sussidiaria di Google per le nuove tecnologie applicate al Web, ha presentato Perspective ossia un filtro automatizzato per risolvere (o almeno diminuire) il problema dei commenti offensivi. La prima versione è stata testata dal ‘New York Times’, che ha un team che controlla e modera ogni commento prima che venga pubblicato, revisionando oltre 11mila commenti ogni giorno.

Perspective è una tecnologia ancora in fase di sperimentazione, è stato precisato, che usa il machine learning per identificare i commenti offensivi. Da oggi è disponibile per gli editori Perspective un’intelligenza artificiale che aiuta i media ad individuare i commenti violenti alle notizie online. Le cifre contenute nella ricerca “Online Harassment, Digital Abues, and Cyberstalking in America” danno l’effettiva misura del fenomeno e delle dimensioni che esso stesso ha ormai raggiunto: il 72% degli americani nel 2016 è stato testimone di questo fenomeno; il 36% di questi è stato coinvolto direttamente in fenomeni di odio; quasi un terzo ha dichiarato di aver evitato di commentare per paura di ritorsioni.

Perspective, ha spiegato il team, consente di controllare più velocemente e in modo più semplice i commenti e assegnare un punteggio individuando quelli “tossici” o tali da spingere le persone ad abbandonare la conversazione. La palla poi passa agli editori, che ddecidono come utilizzare queste informazioni, ad esempio scegliendo di eliminare alcuni commenti.

C’è persino la facoltà per gli editori di permettere ai lettori di ordinare i commenti in base a quanto sono offensivi, facilitando l’individuazione di conversazioni interessanti nascoste in mezzo a quelle offensive.

Il progetto contro gli insulti online da parte di Google, ancora in fase sperimentale, prende il nome di Perspective e si basa su una tecnologia che assegna ad ogni commento un punteggio associando quelli tra loro simili e individuando in questo modo quelli considerati offensivi. Come ci vuole riuscire? Da oggi è disponibile per gli editori Perspectiveun’intelligenza artificiale che aiuta i media ad individuare i commenti violenti alle notizie online. Perspectivenasce all’interno dell’incubatore di Google che si chiama Jigsaw, . Anche Twitter ha da poco rafforzato la lotta a “troll” e abusi, rendendo difficile l’iscrizione con nuovo profilo a utenti già sospesi. Un vero e proprio filtro a quelli che vengono comunemente definiti “commenti tossici“. A quel punto gli editori, che entrano in possesso delle informazioni scoperte da Perspective, hanno il compito di decidere quali commenti eliminare per evitare che le conversazioni sfocino in qualcosa di diverso.

Instagram ha introdotto filtri anti-bulli e provocatori online. Facebook, invece, ha una policy di condanna alle minacce e all’incitazione all’odio: sul social tali contenuti possono essere segnalati e l’impegno è a cancellarli entro 24 ore.