La vicenda che vi riportiamo oggi presenta varie sfaccettature, è stata portata alla luce dal New York Times che ha avuto modo di interfacciarsi con Mark (nome di fantasia), protagonista della storia. I fatti risalgono a inizio 2021 e vedono il malcapitato utente accusato di pedopornografia da Google, ma andiamo con ordine.

L’algoritmo di Google blocca l’account di Mark per aver rilevato contenuti dannosi

A febbraio 2021 Mark si accorge che il figlio di pochi mesi presenta degli arrossamenti nella zona genitale, così la moglie chiama l’ambulatorio del pediatra per fissare un appuntamento; siamo in piena pandemia e la struttura, probabilmente anche per snellire i tempi, richiede alla famiglia delle foto di modo che il medico le possa visionare in anticipo. La famiglia provvede così a scattare le foto e ad inoltrarle al medico che, in seguito, prescrive dei medicinali al bambino che guarisce dopo poco tempo; fin qui tutto bene.

I problemi si palesano due giorni dopo quando Mark riceve una notifica sul proprio smartphone che lo avvisa della momentanea disattivazione del proprio account Google a causa di contenuti dannosi, che costituiscono una violazione delle politiche di Google. L’uomo, ex dipendente di una grande azienda tecnologica e dunque istruito sulle dinamiche che si sviluppano dietro le quinte, non ci mette molto a fare due più due, e a capire che il tutto scaturisce dalle fotografie delle parti intime del figlio salvate su Google Foto.

Mark provvede così alla compilazione di un apposito modulo, con l’intento di spiegare al colosso tech la situazione, ma le cose non vanno come sperava, nel frattempo infatti l’uomo inizia a riscontrare diverse difficoltà non avendo più accesso al proprio account Google (e di conseguenza a tutti i servizi che ognuno di noi utilizza quotidianamente). Mark si trova inoltre sprovvisto di un numero di telefono funzionante in quanto cliente di Google Fi, servizio statunitense con il quale il colosso si offre anche come provider internet e telefonico.

Offerta
Quando gli algoritmi di Google funzionano bene, ma la parte umana un po' meno 1

Apple iPhone 16 Plus

1394€ invece di 1509€
-8%
Amazon 🛒

Le azioni intraprese da Google

Dopo qualche giorno dalla segnalazione dell’uomo, Google lo informa che non avrebbe ripristinato il suo account, senza però fornire informazioni dettagliate; in seguito, come prevede la legge, l’azienda segnala l’uomo alle autorità competenti che a dicembre 2021 notificano a Mark l’avvio di una procedura di indagine nei suoi confronti.

La polizia svolge le proprie indagini in possesso di tutto ciò che è presente e collegato all’account Google dell’uomo (cronologia delle ricerche browser, delle posizioni, messaggi, documenti, foto, video, email…), stabilendo infine che l’uomo non abbia avuto alcun comportamento contrario alla legge. Mark provvede così ad inoltrare la documentazione ufficiale fornita dalla polizia al colosso di Mountain View che però, dopo qualche giorno, gli notifica la cancellazione definitiva dell’account.

Mark è al momento rassegnato e non intende fare causa all’azienda, per non dover sostenere i costi che ciò comporterebbe, e spera di poter rientrare in possesso di alcuni dati grazie ai backup utilizzati dalla polizia per le indagini.

Conclusioni

Come detto in apertura la vicenda ha diverse sfaccettature, da un lato Google si è limitata a seguire ciò che prevede la legge nel tentativo di contrastare una pratica deplorevole quale la violenza nei confronti dei bambini, il suo algoritmo ha funzionato a dovere segnalando all’azienda i contenuti inappropriati presenti sull’account dell’uomo.

Ciò che però è strano è che, in seguito alle indagini svolte dagli organi di polizia deputati, l’azienda si sia rifiutata di riconsiderare la questione; il software dietro a tutto ciò non è infallibile e ha dunque bisogno anche di una parte umana, rappresentata dagli operatori che svolgono il loro lavoro in questo frangente. Appare strano dunque che nessuno si sia preso la briga di riconsiderare la posizione dell’uomo che, da quanto ha stabilito la polizia, non ha fatto nulla di male.

Google dal canto suo si è limitata a rilasciare una vaga dichiarazione:

Il materiale pedopornografico (CSAM) è ripugnante e siamo impegnati per prevenire ogni sua diffusione sulle nostre piattaforme. Seguiamo la legge statunitense nel definire cosa costituisce CSAM e utilizziamo una combinazione di tecnologia di hash matching e di intelligenza artificiale per identificarlo e rimuoverlo. Inoltre, il nostro team dedicato alla sicurezza dei minori esamina l’accuratezza dei contenuti segnalati e si consulta con esperti pediatri per garantire la possibilità di identificare i casi in cui gli utenti potrebbero richiedere un consiglio medico.

Per quanto assolutamente condivisibile,la dichiarazione non tiene in considerazione l’aspetto umano della vicenda, ovvero un padre che preoccupato per la salute del figlio ha ingenuamente fotografato e inviato le parti intime del figlio ad un medico. Tutta la vicenda pone l’attenzione su come non ci si debba affidare ciecamente alla tecnologia, e su come l’integrazione dell’uomo con le macchine nonché il loro controllo siano sempre e comunque necessari.

Potrebbe interessarti anche: Il problema di Google Analytics con la privacy (e col GPDR)