EL SECRETO DETRÁS DEL ALGORITMO DE TIKTOK

has notado que el algoritmo de tiktok parece que te lee la mente no te ha pasado que te aparecen cosas que ni siquiera has buscado en Google o has hablado con otros sino que simplemente las has pensado y te aparecen en tiktok Cómo es que el algoritmo de tiktok sabe todo sobre ti incluso hasta lo que [Música] piensas tiktok es la aplicación de video más exitosa del mundo si estás entre las 1000 millones de personas que usan la aplicación seguramente pensaste más de una vez que usas demasiado a esa aplicación y que cómo puede ser que sea tan entretenida y activa Esto se debe a que tiktok te lee la mente bueno no exactamente lo que en realidad ocurre es que el algoritmo va moldeando tu mente para que pienses en ciertas cosas o de determinada manera es decir tiktok formatea tu manera de ver la realidad y te termina manipulando y haciéndote creer que te lee la mente cuen en realidad es mucho peor que eso tiktok te está diciendo Cómo pensar y te da el contenido para lograrlo por medio de un algoritmo hiper personalizado que hace que la aplicación sea cada vez más Adictiva y lo hace con contenidos de los cuales te resulta cada vez más difícil escapar el algoritmo de tiktok es tristemente célebre por el nivel de manipulación al que somete a tantas personas las recomendaciones de contenido de la aplicación tienen poco que ver con quiénes sean tus conexiones o amigos en esa red social el algoritmo monitorea tu comportamiento en respuesta a los videos en la sección de recomendaciones lo que resulta en una fuente altamente personalizada que puede llevar a la gente a creer que te están descubriendo cosas sobre ti mismo pero que en realidad pueden ser manipulación total cuando una persona se abre una cuenta lo primero que hace tiktok es mostrarle una variedad de videos sobre distintas temáticas Especialmente los más vistos en cada categoría para luego comenzar aprender tus debilidades y puntos vulnerables lo más rápido posible a partir de ahí Comienza todo un trabajo de manipulación muy marcado por ejemplo en YouTube el algoritmo recomienda un 60 por de los videos que se ven en tiktok sin embargo el 99% de los videos son impuestos por la misma red social todo este proceso algorítmico se desarrolla principalmente sin que la persona sea consciente y sin embargo está totalmente determinado por lo que atrae su atención de esa manera el algoritmo logra que la manipulación sea total porque te va probando con cada video y una vez que descubre tu estructura cognitiva lo que pasa es que te va a empezar a imponer contenido que aproveche cada una de tus debilidades Aunque parezca que tiktok te descubre cosas sobre ti mismo que No necesariamente conocías o de la que no eras consciente en realidad es más preciso decir que tiktok te dirige tu atención hacia cuestiones que luego te pueden plantear dudas existenciales o sumirte en Estados emocionales como la tristeza O la depresión muchos titulares de noticias afirman que tiktok por ejemplo te conoce mejor de lo que te conoces a ti mismo pero detecta realmente tus pensamientos y preferencias internas un examen detallado sugiere que el panorama es mucho más complejo el algoritmo de tiktok moldea tus intereses con el tiempo para maximizar el tiempo que pasas en esa aplicación en lugar de deducir instantáneamente tus deseos y Estados psicológicos la postura oficial de tiktok es que compartir algo darle me gusta o seguir cierto contenido es lo que dicta Qué tipo de contenido es probable que un usuario vea en esa aplicación Pero esto parece no ser así según un experimento del Wall Street journal el secreto de su algoritmo Es simple la vigilancia al seguir de cerca el tiempo que alguien permanece en cada video El algoritmo recoge señales sobre Qué tipo de contenido mostrar a continuación esto también significa que si un video te da una pausa no porque te guste sino porque es difícil de entender o porque te hace pensar o te hace reflex ionar o contiene información perturbadora puedes entonces fácilmente terminar en un agujero algorítmico donde encontrarás un montón de contenido sobre ideación suici sobre desórdenes alimentarios sobre cuestiones de género o todo tipo de teorías de la conspiración es decir caerás víctima de un algoritmo de manipulación total en teoría un algoritmo personalizado promete mejores videos pero la realidad es que en la práctica este algoritmo hace que sea mucho más fácil para esas plataformas dictar Con qué tipo de contenido nos va vamos a encontrar lo que a su vez afecta la experiencia mental del usuario tanto en línea como fuera de línea según nita faray quien es profesora de derecho y filosofía en la universidad de Duke y autora del libro La batalla por tu Cerebro El algoritmo de tiktok plantea una amenaza a nuestra libertad cognitiva Por qué Porque el individuo tiene un derecho a controlar sus propios procesos mentales su cognición y su consciencia Y a medida que las nuevas tecnologías continúan desarrollándose estas amenazas se multiplican extendiendose mucho más allá de las noticias falsas de la desinformación y la manipulación mediante algoritmos y amenazando a este último bastión de la privacidad que es el cerebro es decir el algoritmo de tiktok Y esto es lo que plantea ella en su libro lo que está haciendo En definitiva es moldear tu cerebro y la manera como piensas tiktok tuvo gran éxito por encima de muchas otras aplicaciones de videos cortos que terminaron fallando en el mercado en parte este éxito se debe a que la creación de videos es muy fácil y simple dando a los usuarios música de fondo para bailar o memes para viralizar en lugar de obligarlos a producir contenido que exija pensar o estudiar y mucho trabajo de edición y para muchos usuarios que consumen sin crear nada la aplicación es sorprendentemente buena para identificar tus preferencias y dirigirte a uno de sus muchos espacios ya sea que estés interesado en el socialismo o en consejos de Excel o Powerpoint o en vida íntima en política o en una celebridad específica el algoritmo siempre lo identificará inmediatamente de hecho el algoritmo de tiktok es asombrosamente bueno para supuestamente revelar intereses e incluso cuestiones personales en cada usuario por ejemplo muchos jóvenes dicen haber encontrado su orientación sexual gracias a tiktok o su identidad de género o incluso haberse podido diagnosticar de alguna condición neurológica gracias a un video de tiktok Cuántos jóvenes dicen que son autistas Porque lo vieron en un tiktoker Pero esto es así o es en idad que muchos jóvenes ahora se declaran no binarios o autistas porque en realidad han sido totalmente manipulados por el algoritmo para que se crean lo que se busca imponer un nuevo documento interno sobre el algoritmo de tiktok fue filtrado al diario de New York Times por una persona que estaba autorizada a leer ese documento pero no a compartirlo y que lo proporcionó bajo la condición del anonimato este documento interno ofrece nuevos detalles sobre cómo la aplicación de video más exitosa del mundo ha construido un producto altamente entretenido y algunos dirían incluso adictivo Pero según este documento hay cuatro objetivos principales para el algoritmo de tiktok ellos miden el valor del usuario el valor del usuario a largo plazo el valor del creador y el valor de la plataforma este documento titulado tiktok algo 10 one o 101 fue producido por el equipo de ingeniería de tiktok en Pekín China un portavoz de la compañía hillary mcquade confirmó de hecho la autenticidad de este documento y dijo que fue escrito para explicar a los empleados no técnicos Cómo funciona el algoritmo de tiktok El documento ofrece un nuevo nivel de detalle sobre esta aplicación de videos proporcionando una visión reveladora tanto del núcleo matemático de la aplicación como de la comprensión que la empresa tiene de la naturaleza humana de nuestras tendencias hacia el aburrimiento nuestra sensibilidad a las señales culturales que ayudan a explicar Por qué es tan difícil dejar deado lado esta aplicación y por qué tanta gente se está volviendo adicta a tiktok el documento también levanta el telón de la perfecta conexión de la compañía con su empresa matriz china by dan en un momento en que el departamento de comercio de los Estados Unidos está preparando un informe sobre si tiktok representa un riesgo para la seguridad de los Estados Unidos la persona que filtró este documento de tiktok se sintió tan perturbada por el empuje de la aplicación hacia contenido peligrosísimo que podría inducir incluso autolesiones y causar depresión en los usuarios el documento explica francamente que en La Búsqueda del objetivo final de la compañía de agregar usuarios activos diarios ha optado por optimizar dos métricas estrechamente relacionadas la retención es decir si un usuario regresa a la aplicación y luego el tiempo invertido la cantidad de tiempo que pasamos dentro de tiktok esas son las dos reglas máximas retención y tiempo invertido y la aplicación quiere quiere mantenerte allí el mayor tiempo posible por eso el algoritmo de tiktok está de hecho diseñado para generar una adicción o un comportamiento adictivo en cada uno de los usuarios para los analistas y psicólogos que creían que las recomendaciones algorítmicas de tiktok representaban una amenaza social el documento de tiktok confirma todas sus sospechas este sistema significa que el tiempo de vigilancia es clave el algoritmo trata de hacer que la gente se vuelva dicta en lugar de darles lo que realmente quieren como dijo guillom chaslot fundador de algo transparency un grupo con sede en París que ha estudiado el sistema de recomendaciones de YouTube y el efecto de su producto en niños dijo lo siguiente que con respecto al algoritmo de tiktok este sistema significa que el tiempo de vigilancia es clave es decir el algoritmo trata de hacer que la gente se vuelva adicta en lugar de darles lo que realmente quieren creo que es una locura dejar que el algoritmo de tiktok dirija la vida de nuestros su hijos le decía al diario New York Times Por qué Porque en cada video que un niño ve tiktok obtiene más información sobre él y en pocas horas ese algoritmo puede detectar sus gustos musicales su atracción física si está deprimido si le gustan las drogas y mucha otra información sensible por eso existe un alto riesgo de que parte de esa información Se use en su contra podría usarse potencialmente para micro dirigirlo o hacerlo más adicto a tiktok el documento de tiktok indica que el tiempo que pasamos en la aplicación no es el único factor que tiktok considera este documento ofrece una ecuación aproximada de Cómo se arma el puntaje de los videos en el que se resume una predicción impulsada por el aprendizaje automático y el comportamiento Real del usuario para cada uno de tres bits de datos los likes los comentarios y el tiempo de reproducción así como una indicación de que el video se ha reproducido este sistema de reproducción da puntuaciones a todos los videos basados en esa ecuación y devuelve a los usuarios los videos con más puntuaciones dice ese documento o sea para ser breves la ecuación que se muestra en este documento es muy simplificada la ecuación actual en uso es mucho más complicada pero la lógica detrás es la misma curiosamente el algoritmo de tiktok también trata de evitar recomendar lo mismo repetidamente lo que puede llevar al aburrimiento Entonces el documento discute los factores especiales agregados a la fórmula para aumentar la diversidad de videos mismo autor visto reduce las puntuaciones de los autores que el usuario ha visto recientemente la misma etiqueta hoy baja las puntuaciones de los videos con etiquetas o temas vistos ya ese día Todo esto para que nunca te aburras mientras estás en tiktok el algoritmo de tiktok no conoce instantáneamente tus pensamientos y preferencias internas cuando te unes a las redes social entonces lo que hace el algoritmo es tratar de predecir tu interés basado en la limitad de información inicial es decir las reacciones a algunos videos principales por ejemplo cuando abres tiktok por primera vez se te va a mostrar una gran variedad de videos populares de distintas categorías como comedia como animales comidas bailes deportes y según cuánto tiempo pasa el usuario viendo ciertos videos y cuáles les gustan o Comenta tiktok empieza a reunir señales sobre sus intereses si el usuario se queda mirando videos graciosos el algoritmo va a dejar de lado videos de baile por ejemplo o si a la persona le gustan videos de cocina tiktok comenzará a adaptar las recomendaciones para mostrar más contenido gracioso y cocina y menos videos de con el tiempo a medida que el usuario interactúa con más videos el algoritmo de tiktok va a ir mejorando continuamente Su comprensión y la comprensión de las preferencias de su usuario evalúa su comportamiento de manera continua es decir analiza métricas como tiempo de visualización los likes el compartir los comentarios para así entonces dirigir las recomendaciones cada nuevo punto de datos proporciona señales adicionales para mejorar las predicciones de qué tipo de videos mantendrán ese usuario específico involucrado Por ejemplo si el usuario comienza a ver videos sobre recetas de postres elegantes y cocina gmet tiktok puede cambiar para mostrar más ese tipo de contenido de alimentos la gran diferencia entre el algoritmo de Netflix o de Amazon y el de tiktok es que Netflix y Amazon intentan adivinar qué es lo que te puede gustar Mientras que el algoritmo de tiktok trata de demostrarte lo que siempre ha sido es decir los videos que te aparecen son más una especie de diagnóstico sobre tu propia situación mental y lo peor de todo es que están basados en pseudopsicología pue llevar a los jóvenes a zonas peligrosas en particular hacia contenido que promueva el suicidio o las autolesiones para probar plenamente las capacidades del algoritmo de tiktok El diario Wall Street journal creó más de 100 cuentas de Bots que vieron cientos de miles de videos en esa plataforma a las cuentas se le asignaron intereses pero nunca se ingresaron esos intereses directamente en tiktok es decir la plataforma no tenía manera de saberlo De antemano la única información que los Bots proporcionaron fue cuánto tiempo de visualización le daban a cada video permaneciendo en ciertos tipos o reviendo otros los resultados fueron impresionantes y Aquí vamos a hablar de algunos de los hallazgos claves intereses aprendidos en minutos por medio de la plataforma para Muchas cuentas de Bots tiktok tenía sus intereses calculados en menos de 40 minutos otros tardaron menos de 2 horas en personalizar sus fuentes los enviaban hacia comunidades Nicho de inmediato estaban basados en intereses como la astrología o la la política y los Bots fueron recomendados instantáneamente para el contenido Nicho y las comunidades no hubo un periodo general de incorporación además se vieron graves problemas con las recomendaciones ver solo unos pocos videos sobre la depresión o el trastorno de déficit de atención era suficiente para que el algoritmo metiese a los Bots en un mundo virtual donde el más del 90 por de las recomendaciones eran sobre contenido depresivo o de trastornos de déficit de la atención también se notó que habían intereses muy refinados Por qué Porque cuando los Bots cambiaban su comportamiento las recomendaciones se adaptaban rápidamente y esto muestra que tiktok optimiza continuamente su comprensión del usuario y va personalizando el algoritmo cada vez más por ejemplo si durante una época de tu vida te gustaban los videos con danzas y de repente generaste un gusto por la cocina el algoritmo de tiktok se va a adaptar para pasarte de un contenido a otro otro elemento que notó este experimento del Wall Street journal es exposición a contenido marginal es decir en comunidades especializadas los Bots vieron más videos sin moderación con contenido extremista o peligroso las implicaciones de estos hallazgos son muy significativas y demuestran que tiktok no pierde tiempo en averiguar los intereses y vulnerabilidades de los usuarios y luego aprovechan ese conocimiento para desviarlos a esos sectores del mundo virtual que parecen invisibles pero que están ahí ideando y enfermando psicológicamente a muchos adolescentes estamos interactuando con algoritmos cada vez más ya sea en tiktok en YouTube en instagram en Facebook o en Twitter estos algoritmos están diseñados para atrapar nuestra atención todo el tiempo posible y por eso van a intentar descubrir cada aspecto de nuestra vida para así poder explotar las zonas más vulnerables de nuestra existencia si quieres tomar control sobre tu vida y no sabes por dónde empezar te invito a leer mi libro Apaga el celular y enciende el cerebro para profundizar en todos estos temas y así tomar decisiones que te ayuden a rediseñar tu vida y la de tu familia también te invito a suscribirte a mi patreon donde tendrás acceso a un curso exclusivo sobre mi libro Muchas gracias Y si te gustó este video No olvides compartirlo con tus amigos y conocidos para que más personas puedan [Música] verlo i