El filtro en cuestión estaba diseñado para prevenir que el algoritmo inundara a los usuarios con contenido potencialmente dañino de manera repetitiva. TikTok desactivó este filtro en un grupo de control para medir el impacto en el tiempo de uso. Uno de los usuarios de este grupo fue Chase Nasca, un adolescente de 16 años quien, sin el filtro activo, recibió miles de videos relacionados con tristeza, suicidio y soledad, lo que culminó en su suicidio. Esta información fue reportada por Bloomberg.
Este experimento se distingue de las pruebas A/B habituales, ya que implicó la desactivación de una medida de seguridad destinada a proteger a los usuarios de riesgos documentados. No se trataba de determinar si un botón de «me gusta» en color azul o verde era más efectivo, sino de investigar si la eliminación de una salvaguarda frente a contenido dañino incrementaba el tiempo que los usuarios pasaban en la aplicación.
Los senadores demandan que TikTok explique por qué permitió que menores de edad formaran parte del grupo de control en un experimento que desactivaba protecciones específicamente diseñadas para ellos. Además, han establecido un plazo hasta el 1 de septiembre para que la empresa responda a 13 preguntas, que incluyen la identificación de empleados que conocían el experimento y una lista de otros experimentos realizados en EE.UU. donde se desactivaron o retrasaron funciones de seguridad. TikTok no ha respondido a la solicitud de comentarios por parte de TechCrunch.
TikTok ha enfrentado problemas con reguladores en varios países debido a su gestión de contenido dirigido a menores. En 2023, la empresa se vio obligada a cumplir con una nueva normativa en Europa que exigía a los usuarios recibir un feed no personalizado, separando la lógica de recomendación de la de personalización. En 2022, anunció que limitaría la aparición de contenido para adultos en los feeds de usuarios menores. En 2021, se enfrentó a demandas por el uso masivo de datos de niños sin el consentimiento de sus padres.
El patrón muestra que TikTok tiende a anunciar compromisos de seguridad bajo presión regulatoria, sin embargo, los reguladores han encontrado que estos compromisos a menudo no se implementan adecuadamente o coexisten con prácticas que los contradicen. El experimento que desactivó el filtro de seguridad no infringe ningún compromiso formal de la empresa, ya que estos nunca establecen explícitamente que no realizarán experimentos A/B con medidas de seguridad.
Las cartas enviadas al Congreso tienen el potencial de obligar a la transparencia, ya que TikTok debe responder formalmente a las inquietudes planteadas. Sin embargo, estas cartas no poseen poder ejecutivo directo. Si la respuesta de TikTok es evasiva o incompleta, los senadores podrían convocar audiencias, que podrían llevar a legislación o a referidos a la Comisión Federal de Comercio (FTC) o al Departamento de Justicia.
El caso de Chase Nasca ya se encuentra siendo litigado por su familia de manera independiente. Si se determina que TikTok sabía que su algoritmo estaba proporcionando contenido dañino repetidamente y no tomó medidas, la responsabilidad legal de la empresa podría ser significativa. La carta de los senadores transforma lo que podría haber sido un litigio civil individual en un asunto de supervisión del Congreso, alterando considerablemente la dinámica política y legal en torno a la compañía.
La implicación más inquietante del experimento no es solo que TikTok desactivara el filtro, sino la hipótesis detrás de esta decisión: que el filtro estaba limitando el tiempo que los usuarios pasaban en la aplicación. Si esta hipótesis es correcta y el experimento lo confirma, el algoritmo de TikTok podría estar optimizando la exposición a contenido que asegura una alta retención, incluyendo material que trata sobre temas sensibles como la tristeza, la soledad y el suicidio. Esto no necesariamente implica que TikTok desee que sus usuarios vean este tipo de contenido, sino que es una consecuencia de un modelo de negocio que prioriza el engagement sin suficientes restricciones sobre el tipo de contenido que se puede utilizar para lograrlo.
Esta situación ha sido un punto de crítica en los litigios en curso contra TikTok, Meta y otras plataformas sociales. Los demandantes alegan que el problema no es que estas empresas deseen dañar a sus usuarios adolescentes, sino que su modelo de negocio, basado en la atención, crea incentivos para maximizar el tiempo de pantalla de cualquier forma que sea efectiva. En el caso de adolescentes vulnerables, esto puede incluir contenido con efectos negativos sobre la salud mental. El experimento del filtro no genera este argumento desde cero, pero complica su refutación. La carta de los senadores asegura que la documentación interna sobre este tema deberá hacerse pública, al menos en parte.
Fuente: wwwhatsnew.com
Descubre más desde Noticias Breves
Suscríbete y recibe las últimas entradas en tu correo electrónico.
Comentarios de Facebook