El Center for Countering Digital Hate (CCDH) ha descubierto que TikTok promociona contenidos poco saludables y peligrosos entre los jóvenes que muestren cierto interés en estos videos cortos. El estudio profundiza en el algoritmo de la red social china y como lleva a los adolescentes a posibles autolesiones y transtornos alimenticios.
TikTok: El algoritmo
El algoritmo de la plataforma funciona ponderando los contenidos que el usuario visualiza en la red social. Esto lo hace considerando varios factores como la interacción entre el usuario y el creador, los me gustas, la contidad de visualizaciones, etc.
Esto genera que haya una experiencia de usuario distinta en cada teléfono, por lo que TikTok es una red que genera una hiperpersonalización en su plataforma. Además, intercala contenidos nuevos con los que sabe que al usuario le va a gustar para evitar que vea siempre lo mismo.
Ante ese escenario, es sorpresa que la red no tenga un mecanismo de seguridad para los menores de edad, quienes están expuestos a contenidos que pueden llegar a ser peligrosos para ellos.
¿Peligro para los menores?
Para llevar el estudio a cabo, se crearon cuentas normales por un lado y vulnerables por otro. Estas últimas con el término «loseweight» (perder peso, en español) en sus nombres de usuario. Según CCDH, esto reflejaba investigaciones que mostraban que los usuarios de las redes sociales que buscan contenidos sobre trastornos alimentarios suelen elegir nombres de usuario con un lenguaje relacionado.
Estas cuentas se detenían por más tiempo en vídeos con contenidos relacionados a autolesiones, transtornos alimenticios y salud mental durante 30 minutos.
En las cuentas normales, el contenido sobre el suicidio se mostró durante tres minutos seguidos y el material sobre trastornos alimentarios se mostró durante los siguientes ocho minutos. Algo preocupante para una red social que presume de algoritmo y de millones de usuarios.
Los investigadores descubrieron que los vídeos relacionados con la imagen corporal, la salud mental y los trastornos alimentarios se mostraban a las cuentas vulnerables tres veces más que a las cuentas normales. TikTok tiene un algoritmo personalizable pero peligroso para algunos.
