Google ha una tolleranza zero politica relativa ai contenuti contenenti violenza contro i bambini. Il processo di scansione a volte può andare storto e persone innocenti possono essere etichettate come autori di abusi.

Quando Jennifer Watkins ha ricevuto un messaggio da YouTube che informava che il suo canale sarebbe stato chiuso, all'inizio non era preoccupata. Dopotutto, non usava YouTube.

Tuttavia, i suoi figli gemelli di 7 anni hanno utilizzato il tablet con il suo account Google per visualizzare i contenuti per bambini e hanno realizzato video su YouTube in cui si esibivano in danze stupide. Pochi di questi video hanno ricevuto più di cinque visualizzazioni. Ma il video che ha messo nei guai Watkins, girato da uno dei suoi figli, era di natura diversa.

Questo è affermato nel materiale del New York Times.

“Ovviamente era un video di testa a testa”, ha detto Watkins, che non aveva mai visto il video. “Un compagno di classe lo ha convinto a mostrarsi nudo.”

L'intelligenza artificiale e le sue capacità

YouTube, di proprietà di Google, dispone di sistemi basati su tecnologie artificiali intelligence , che guardano centinaia di ore di video caricati sul servizio ogni minuto. Il processo di scansione a volte può andare storto e persone innocenti possono essere contaminate come molestatori di bambini.

Il New York Times ha documentato altri episodi in cui la vita digitale dei genitori è stata sconvolta da foto e video di nudo dei loro figli che sono stati segnalati dai sistemi di intelligenza artificiale di Google e ritenuti illegali dai revisori umani. Di conseguenza, alcuni genitori sono stati indagati dalla polizia.

Il “video di nudo” nel caso Watkins, caricato a settembre, è stato segnalato in pochi minuti come possibile sfruttamento sessuale di un bambino. il che costituisce una violazione dei termini di servizio dei servizi Google con conseguenze molto gravi.

Account bloccato

Watkins, un'operatrice sanitaria che vive nel Nuovo Galles del Sud, in Australia, ha presto scoperto di essere bloccata non solo da YouTube, ma da tutti i suoi account Google. Ha detto di aver perso l'accesso alle sue foto, ai suoi documenti e alla sua posta elettronica, il che significa che non poteva ricevere messaggi sul suo programma di lavoro, visualizzare estratti conto o “ordinare un grosso frullato” tramite l'app di McDonald's, a cui accedeva utilizzando il suo account Google.

Alla fine il suo account è stato cancellato, cosa che le è stata segnalata sulla sua pagina di accesso a Google, ma poteva presentare ricorso contro la decisione. Ha fatto clic sul pulsante Avvia ricorso e ha scritto nella casella di testo che i suoi figli di 7 anni pensavano che i glutei fossero divertenti ed erano responsabili del caricamento del video.

“Mi fa male finanziariamente”, ha aggiunto.

Monitoraggio globale

I difensori dei bambini e i legislatori di tutto il mondo stanno spingendo le aziende tecnologiche a fermare la diffusione di immagini offensive online monitorando tali materiali su le loro piattaforme.

Molti fornitori di servizi di comunicazione ora scansionano foto e video archiviati e condivisi dai propri utenti per trovare immagini di violenza note che sono state segnalate alle autorità.

Google voleva anche essere in grado di segnalare come mai prima d'ora -contenuto delle immagini viste. Alcuni anni fa hanno sviluppato un algoritmo addestrato su immagini conosciute che cerca di identificare nuovi materiali operativi; Google lo ha reso disponibile ad altre società, tra cui Meta e TikTok.

Dopo che un dipendente ha confermato che il video pubblicato dal figlio Watkins era problematico, Google lo ha segnalato al National Center for Missing and Exploited Children, un'organizzazione no-profit che funge da centro di smistamento federale per i contenuti designati. Il centro può aggiungere il video al proprio database di immagini conosciute e decidere se segnalarlo alle forze dell'ordine locali.

Secondo le statistiche del Centro nazionale, Google è una delle maggiori fonti di segnalazioni di “pornografia infantile esplicita”. L'anno scorso, Google ha inviato più di due milioni di segnalazioni, molto più della maggior parte delle società di comunicazione digitale, ma meno del numero di segnalazioni inviate da Meta.

Giudizi discutibili?

< p dir="ltr">Gli esperti dicono che è difficile giudicare la gravità del problema degli abusi sui minori basandosi solo sui numeri. In uno studio condotto su un piccolo campione di utenti segnalati per aver condiviso immagini inappropriate di bambini, gli analisti di Facebook hanno affermato che oltre il 75% non aveva intenti dannosi. Tra gli utenti figuravano adolescenti che hanno relazioni romantiche e condividono immagini intime di se stessi, così come persone che hanno condiviso “un meme di un animale che morde i genitali di un bambino perché pensano che sia divertente”.

Apple non ha subito pressioni per scansionare iCloud alla ricerca di materiale di sfruttamento. Il portavoce ha fatto riferimento a una lettera inviata quest'anno dalla società a un gruppo per i diritti umani in cui esprimeva preoccupazione per “la sicurezza e la privacy dei nostri utenti” e affermava che “parti innocenti vengono intrappolate in una rete oscura”.

Lo scorso autunno, Susan Jasper, Chief Trust and Safety Officer di Google, ha scritto in un post sul blog che la società prevede di aggiornare la procedura di reclamo per “migliorare l'esperienza dell'utente” per le persone che “credono che abbiamo preso decisioni sbagliate”.

< p>In evidenza Il cambiamento è che l'azienda ora fornisce maggiori informazioni sui motivi della sospensione dell'account, piuttosto che un messaggio generale su una “grave violazione” della politica aziendale. A Watkins, ad esempio, è stato detto che il motivo del suo blocco era lo sfruttamento dei bambini.

Recupero dell'account

Nonostante ciò, i ripetuti appelli di Watkins furono respinti. Aveva un account Google a pagamento che consentiva a lei e a suo marito di inviare messaggi agli agenti del servizio clienti. Ma nelle email esaminate dal Times, gli agenti hanno affermato che il video, anche se si trattava di un atto inconscio di un bambino, violava comunque la politica aziendale.

Una punizione draconiana per un video senza senso sembra ingiusta, ha detto Watkins. Si chiede perché Google non avrebbe potuto avvisarla prima di bloccarle l'accesso a tutti i suoi account e a più di 10 anni di memorie digitali.

Dopo più di un mese di tentativi infruttuosi di convincere il società per cambiare idea, Watkins ha parlato con il Times. Il giorno dopo che una giornalista aveva chiesto informazioni sul suo caso, il suo account Google è stato ripristinato.

“Non vogliamo che le nostre piattaforme vengano utilizzate per mettere in pericolo o sfruttare i bambini, e c'è una richiesta diffusa che le piattaforme online adottino le misure più forti possibili per identificare e prevenire gli abusi sessuali sui minori”, ha affermato la società in una nota. “In questo caso, comprendiamo che il contenuto che viola i diritti del bambino non è stato caricato in modo dannoso.”

L'azienda non ha risposto in che altro modo influenzare il rifiuto del ricorso, altro che inviando una lettera via email al giornalista del Times.

“Due facce della stessa medaglia”

Google si trova in una posizione difficile nel cercare di giudicare tali reclami, ha affermato Dave Willner, un membro del Cyber ​​​​Policy Center dell'Università di Stanford che ha lavorato su questioni di fiducia e sicurezza presso diverse importanti aziende tecnologiche. Anche se una foto o un video sono di origine innocente, possono essere condivisi con intenti dannosi.

“I pedofili condivideranno immagini che i genitori hanno scattato innocentemente, o le raccoglieranno in raccolte, perché loro voglio solo vedere bambini nudi”, ha detto Wilner.

Un altro problema è l'enorme volume di contenuti potenzialmente sfruttatori etichettati da Google.

“È semplicemente un problema molto, molto difficile regolare i giudizi di valore su questa scala”, ha affermato Willner. “Prendono centinaia di migliaia o milioni di decisioni all’anno. Quando lanci i dadi così tante volte, ottieni gli occhi di serpente.”

Ha detto che le difficoltà di Watkins dopo aver perso l'accesso a Google sono state “un buon argomento per espandere la tua vita digitale” e non fare affidamento su un'unica azienda per molti servizi.

Watkins ha tratto un'altra lezione da questa esperienza: i genitori non dovrebbero utilizzare il proprio account Google per l'attività su Internet dei propri figli, ma dovrebbero creare un account dedicato è un scelta che Google incoraggia.

Non ne ha ancora creato uno per i gemelli. Per ora è loro vietato l'uso di Internet.

Leggi anche:

Argomenti simili:

Altre notizie