CULVER CITY, CALIFORNIA - MARCH 12: The TikTok logo is displayed outside TikTok offices on March 12, 2024 in Culver City, California. House Republicans are moving forward with legislation which would force the owners of the popular Chinese social media app to sell the platform or face a ban in the United States. (Photo by Mario Tama/Getty Images)

La Unión Europea (UE) pidió a TikTok modificar de manera profunda el funcionamiento de sus recomendaciones de videos, al considerar que su algoritmo puede perjudicar el bienestar y la salud mental de los usuarios. La preocupación se centra en la exposición repetida a contenidos relacionados con la tristeza, la soledad y la autoestima, que pueden generar ciclos de consumo difíciles de interrumpir.

La plataforma, propiedad del grupo chino ByteDance, se encuentra bajo el escrutinio de la Comisión Europea, que advierte sobre posibles infracciones a disposiciones fundamentales de la Ley de Servicios Digitales (DSA). Si se confirma el incumplimiento, la compañía podría enfrentar una sanción económica considerable.

Esta legislación es una de las principales herramientas de Bruselas para supervisar a las grandes empresas tecnológicas y exigirles responsabilidades sobre los riesgos que sus servicios pueden representar para los usuarios.

¿Por qué preocupa el algoritmo de TikTok?

El centro de la controversia está en el sistema de recomendaciones que organiza el contenido del apartado de videos personalizados. Su funcionamiento consiste en identificar los intereses y comportamientos de cada usuario para mostrarle publicaciones que puedan mantener su atención durante más tiempo.

El problema, según la Comisión Europea, es que este mecanismo puede favorecer la exposición constante a determinados temas, incluso cuando su consumo repetido podría afectar el bienestar emocional.

Este fenómeno se conoce como rabbit hole, una expresión que puede traducirse como «madriguera de conejo» y que describe una espiral de contenidos en la que una persona continúa viendo publicaciones relacionadas con un mismo tema, una tras otra, sin detenerse.

En TikTok, este comportamiento puede ocurrir cuando alguien interactúa con videos sobre tristeza, inseguridad, soledad o problemas de autoestima y el algoritmo interpreta esas señales como un interés que debe seguir alimentando.

La Comisión advierte que la exposición reiterada a este tipo de publicaciones puede tener consecuencias negativas para la salud mental, especialmente entre menores de edad y adultos en situaciones de vulnerabilidad.

Bruselas considera insuficientes los cambios de TikTok

TikTok ya ha introducido modificaciones en sus recomendaciones personalizadas, pero las autoridades europeas consideran que las medidas no resuelven los problemas identificados.

Uno de los puntos que más preocupa a Bruselas es que el algoritmo aparentemente puede seguir mostrando contenidos de una categoría incluso cuando el usuario ha indicado que ya no le interesan. Para la Comisión, esta situación evidencia que las preferencias expresadas por las personas no siempre tienen suficiente peso frente al objetivo de mantenerlas conectadas a la plataforma.

Por ello, la exigencia europea no se limita a pequeños ajustes en la aplicación. Busca cambios en el funcionamiento central del sistema de recomendaciones, un componente esencial del modelo de negocio de TikTok, basado en captar y prolongar la atención de sus usuarios.

La compañía rechazó los señalamientos. Un portavoz declaró a la agencia AFP que la Comisión había formulado afirmaciones «fundamentalmente inexactas» y aseguró que la plataforma cuenta con un historial de medidas para proteger a su comunidad.

La protección de menores, otro frente de investigación

El caso del algoritmo no es la única preocupación de las autoridades europeas. TikTok también está bajo sospecha por posibles incumplimientos de sus obligaciones de protección infantil, debido a los riesgos de ciberacoso y exposición de menores a posibles depredadores dentro de la plataforma.

La Ley de Servicios Digitales establece obligaciones para las grandes plataformas en materia de evaluación y reducción de riesgos. Esto incluye identificar posibles daños relacionados con el diseño de sus servicios y adoptar medidas para proteger a los usuarios, especialmente a quienes pueden ser más vulnerables.

La ofensiva regulatoria de la UE también contempla restricciones al acceso de menores a las redes sociales. Entre las propuestas que se discuten se encuentra impedir que niños menores de 13 años utilicen estas plataformas, ante las preocupaciones sobre sus efectos en el bienestar y el desarrollo infantil.

El caso de TikTok refleja un debate cada vez más relevante sobre la responsabilidad de las empresas tecnológicas: hasta qué punto los sistemas diseñados para recomendar contenido y mantener la atención deben considerar sus posibles consecuencias para la salud mental.

Para Bruselas, el desafío no consiste únicamente en retirar publicaciones dañinas, sino también en revisar los mecanismos que determinan qué ve cada persona, con qué frecuencia y durante cuánto tiempo. En ese terreno se concentra ahora la disputa entre las autoridades europeas y una de las redes sociales más populares del mundo.

Por admin

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *