Escrito por Rosa Garvin, Diario Feminista
En muy pocos años, TikTok se ha convertido en una de las mayores empresas de redes sociales del mundo con más de 1.000 millones de personas usuarias, muchas de ellas entre los 13 y los 17 años de edad. Un elemento central del éxito de TikTok es el feed “Para ti” que se ofrece por defecto. Es una página altamente personalizada que puede desplazarse sin fin mostrando contenidos recomendados algorítmicamente, seleccionados a partir de lo que el sistema deduce que puede interesar a la persona usuaria.
Amnistía Internacional ha realizado una investigación entre septiembre de 2022 y octubre de 2023 acerca de las políticas y prácticas de privacidad y publicidad de la plataforma TikTok con respecto a personas usuarias menores de 18 años. El Informe acaban de publicar se basa en investigación documental, una encuesta, debates y entrevistas realizadas con más de 300 niños, niñas y jóvenes. Además, en colaboración con Algorithmic Transparency Institute y AI Forensics, el equipo investigador creó 40 cuentas automatizadas con 4 personalidades distintas predefinidas, que mostraban distintos niveles de interés por los contenidos relacionados con la salud mental a fin de imitar el comportamiento de diferentes niños y niñas en TikTok.
El experimento manual adicional consistió en grabar la pantalla durante una hora de interacción del personal investigador con el feed “Para ti” en estas cuentas recién creadas en representación de personas de 13 años. Esta indagación técnica muestra que los niños, niñas y jóvenes que ven contenidos relacionados con la salud mental en la página “Para ti” de TikTok pueden verse arrastrados fácilmente hacia espirales de contenidos potencialmente nocivos, incluidos vídeos que idealizan y fomentan el pensamiento depresivo, las autolesiones y el suicidio.
La revisión manual de 540 vídeos recomendados a una muestra de estas cuentas falsas, revelaron una progresión constante desde el 17% de los vídeos mostrados en la primera hora y categorizados como potencialmente nocivos hasta el 44% del contenido de la décima hora (datos basados en sesiones de una hora de duración repartidas a lo largo de 10 días). Este efecto espiral fue aún más rápido cuando el equipo investigador miraba de nuevo los vídeos relacionados con la salud mental sugeridos a supuestas personas de 13 años de Kenia, Filipinas y Estados Unidos.
La investigación de Amnistía Internacional pone además en evidencia que TikTok ha aumentado al máximo las cualidades adictivas de las opciones de diseño a pesar de los graves riesgos para la salud de los niños, niñas y jóvenes. También ha analizado el modelo empresarial basado en la vigilancia que utilizan las empresas de redes sociales, y expone cómo se ven afectados los derechos humanos por dicho modelo. Así, el hecho de que una persona muestre interés por contenidos LBGTI+ podría tomarse como indicio de su orientación sexual. Al inferir las características y los intereses de las personas usuarias, se produce un abuso contra el derecho a la libertad de pensamiento tal como ha argumentado el COMITE DE LOS DERECHOS DE LA INFANCIA. Se examinan además las diferencias en el nivel de protección para la privacidad de niños y niñas según la región en la que vivan, así como las protecciones específicas con las que cuenta la infancia en virtud del derecho internacional y se señalan las medidas clave que deben adoptar los Estados para garantizar que las operaciones de las empresas de redes sociales respeten los derechos y el interés superior de la infancia.
Amnistía Internacional pide a TikTok que aplique con urgencia el derecho a la privacidad, el derecho a la libertad de pensamiento y el derecho a la salud de la infancia; sustituyendo los elementos de diseño que estimulan el uso adictivo por una utilización que se centre en la seguridad y el interés superior de la infancia; utilizando un lenguaje adaptado a la infancia para que puedan solicitar la inclusión voluntaria en lugar de la exclusión voluntaria del feed personalizado, acompañada de su consentimiento informado, específico y libremente otorgado.
El vídeo de su campaña Hagamos de TikTok un lugar seguro para jóvenes finaliza así:
Las redes sociales pueden ser muy útiles y divertidas, puedes conectarte con gente, compartir experiencias y sentirte bien. No deberían hacer que te olvides de comer, de dormir o de pasar tiempo con tus amistades. No odiamos TikTok, solo queremos que sea mejor respetando nuestra privacidad, manteniéndonos en contacto y protegiéndonos de contenidos nocivos.
