Gli algoritmi dei social possono uccidere, cosa insegna il suicidio di Molly Russell

Gli algoritmi dei social sono pensati per studiare i nostri gusti e le nostre idee e proporci contenuti che possano interessarci. Ma possono avere anche un risvolto molto pericoloso, e addirittura possono arrivare a uccidere. Nel Regno Unito si è aperto il dibattito sulla questione dopo una storica sentenza sul caso di Molly Russel che nel 2017, quando aveva solo 14 anni , si è suicidata a quanto pare anche perché su Instagram e Pinterest è stata esposta a troppi contenuti su autolesionismo e suicidi che hanno influenzato la sua mente già indebolita dalla depressione. I suoi genitori da quasi cinque anni si battono per far riconoscere il ruolo dei social network nella morte della figlia e per garantire una maggiore protezione dei bambini su Internet.

Le conclusioni dell'inchiesta per determinare le cause della morte dell'adolescente sono pesanti. I contenuti visti da Molly erano "non sicuri" e "non avrebbero mai dovuto essere accessibili a un bambino", ha dichiarato Andrew Walker, il medico legale incaricato del procedimento. Invece di definire la sua morte un suicidio, ha detto che l'adolescente "è morta per un atto di autolesionismo, mentre soffriva di depressione e degli effetti negativi dei contenuti visti su Internet". Alcuni di questi contenuti erano "particolarmente espliciti nel descrivere l'autolesionismo e il suicidio come una conseguenza inevitabile di una malattia da cui non si poteva guarire", e "senza alcun contrappunto", ha insistito. In particolare, il medico legale ha puntato il dito contro gli algoritmi sviluppati dai social network, che tendono a proporre agli utenti contenuti simili a quelli visti in precedenza.

Reagendo alla sentenza del tribunale, il padre di Molly, Ian Russell, ha detto di sperare che le conclusioni "segnino un passo importante verso l'introduzione dei cambiamenti necessari" al funzionamento dei social network. Durante il procedimento, il tribunale ha trasmesso alcuni degli oltre 2.000 contenuti - testi, foto, video - che evocano il suicidio o l'automutilazione, visti sulle reti dalla giovane Molly nei sei mesi precedenti la sua morte. La giovane aveva persino ricevuto dei consigli via e-mail da Pinterest che le suggerivano di andare a leggere "10 +post+ sulla depressione che potrebbero piacerti". Il procedimento ha anche evidenziato la difficoltà per le famiglie e il personale scolastico di controllare ciò che i bambini vedono e fanno su Internet. La ragazza, che si era ritirata da queste reti, aveva lanciato appelli di aiuto a personaggi famosi, come la scrittrice J.K Rowling, alla quale aveva scritto su Twitter "la mia mente è piena di pensieri suicidi". Tutti persi nell'oceano digitale.

"Nessun genitore dovrebbe passare quello che hanno passato Ian Russell e la sua famiglia", ha dichiarato il principe William, erede al trono britannico e particolarmente impegnato sui temi della salute mentale. "La sicurezza digitale per i nostri bambini e ragazzi dovrebbe essere un prerequisito, non un ripensamento", ha twittato venerdì sera. I funzionari di Meta (proprietaria di Facebook e Instagram) e Pinterest, ascoltati durante il procedimento, hanno offerto le loro "scuse" per la morte di Molly. Judson Hoffman di Pinterest ha riconosciuto che la ragazza è stata esposta a contenuti "non sicuri" e che "ci sono contenuti che avrebbero dovuto essere rimossi e non lo sono stati".

Elizabeth Lagone, rappresentante di Meta, ha spiegato che la valutazione della pericolosità dei contenuti è "in continua evoluzione" e che alcuni dei contenuti visti dalla ragazza erano "sicuri" e riflettevano messaggi "sfumati e complicati". Ha anche detto che è "importante" permettere alle persone con pensieri suicidi di esprimerli online. Venerdì, il gruppo fondato da Mark Zuckerberg ha assicurato "di essere impegnato a garantire un'esperienza positiva per tutti su Instagram, in particolare per gli adolescenti, e che avrebbe esaminato attentamente il rapporto completo del medico legale".