Los algoritmos de las redes sociales que contribuyeron a la muerte de la pequeña Molly Russell

La justicia del Reino Unido dictaminó hace una semana que Instagram y otras redes sociales habían contribuido al suicidio de una niña de 14 años en 2017. En lo que sería la primera sentencia en un caso de este tipo, el tribunal británico también cuestionó el papel de los contenidos que vio la adolescente, avivando un debate sobre sobre la influencia de estas plataformas y sus algoritmos.

Internet “afectó su salud mental de una manera negativa y contribuyó a su muerte de una manera que no es mínima”, afirmó durante la audiencia el forense Andrew Walker, quien detalló que Molly Russell “murió a causa de un acto de autolesión como consecuencia de los efectos negativos del contenido en línea”, señala el New York Times.

La pequeña Molly, que sufría de depresión, se suicidó en noviembre de 2017 cuando tenía 14 años.

Un algoritmo perturbador

A pesar de que las compañías no enfrentarán ninguna sanción económica o de otro tipo por la decisión del juez, el gigante Meta (de Mark Zuckerberg), invitada a la audiencia, reconoció durante la investigación que nunca había estudiado los efectos del contenido suicida y depresivo de Instagram en sus usuarios más jóvenes.

Y es que Instagram, como la mayoría de las redes sociales, te sugieren contenido que te podría interesar a partir de la interacción (Me gusta, Compartidos, Guardados) que tienes con las cuentas que sigues, revela Xataka.

La idea detrás de las publicaciones sugeridas es que nunca dejes de ver publicaciones nuevas en tu feed principal. De esta manera, cuando terminaste de ver las publicaciones de las páginas o cuentas que sigues, empezarás a ver un listado de publicaciones que Instagram califique de interesantes para ti.

Esto se hace a través de un algoritmo que las redes sociales ya tienen configuradas y que el usuario acepta al crear una cuenta, en el apartado de Políticas de Seguridad y Privacidad, por ejemplo.

Las redes sociales analizan el tipo de publicaciones que más sueles ver o con las que más sueles interactuar y te recomiendan otras similares. Este caso, como el de muchos otros, impulsó a Molly a ver y buscar contenidos depresivos y perturbadores.

El registro de Molly

Molly tenía en su iPhone un registro de más de 30 mil páginas visitadas con contenido perturbador, que incitaba, en su mayoría, a las autolesiones. Meta accedió a proporcionar más de 16.000 páginas de su Instagram con este contenido sugerido que Molly había guardado. 2.100 estaban relacionadas con el suicidio, las autolesiones y la depresión.

Durante las pesquisas, salieron asimismo a la luz correos electrónicos que la adolescente recibía en su buzón con titulares como “Diez publicaciones sobre depresión que podrían gustarte” y “nuevas ideas para ti sobre depresión”.

En un comunicado emitido tras la sentencia, una portavoz de Meta, casa matriz de Facebook, afirmó que sus “pensamientos están con la familia Russell y con todos los que se vieron afectados por esta trágica muerte”.

“Seguiremos trabajando con los principales expertos independientes del mundo para garantizar que los cambios que hagamos ofrezcan la mejor protección y apoyo posibles a los adolescentes”, añadió.

“Molly era una persona reflexiva, dulce, cariñosa, inquisitiva, desinteresada y hermosa”, resumió su padre Ian en un comunicado.