Algospeak: Palabras secretas para derrotar al algoritmo en redes sociales

En el uso diario de las redes sociales, existen una especie de códigos usados por algunas personas para describir algunas acciones, como unalived (no vivo) en lugar de killed (asesinado), pew pews (una onamatopeya que simula en inglés el sonido de los disparos que indican armas) y las relaciones sexuales identificadas como seggs para no decir sex (sexo).

Los propios usuarios de redes sociales admiten que esto los hace sonar ridículos, sin embargo es la opción que optan denominada como Algospeak. Se trata de un lenguaje codificado completo basado en la idea de que los algoritmos entierran el contenido que usa palabras o frases prohibidas, ya sea para impulsar las agendas políticas de las empresas de redes sociales o para limpiar el feeds de los anunciantes.

La industria tecnológica insiste en que todo esto es una tontería, un portavoz de YouTube llamado Boot Bullwinkle explicó a BBC «YouTube no tiene una lista de palabras prohibidas o restringidas», refiriéndose al uso de esa plataforma en específico. En este sentido, destacó que las políticas reflejan la comprensión de que el contexto importa y que las palabras pueden tener distintos significados e intenciones «la eficacia de este enfoque matizado se refleja en la diversidad de temas, voces y perspectivas que se ven en YouTube» dijo.

Meta y TikTok dijeron lo mismo: nosotros no hacemos eso, es un mito. Sin embargo, la verdad es más complicada, debido a que la historia está llena de ejemplos de empresas de redes sociales que manipulan silenciosamente qué contenido sube y baja, a veces de maneras que contradicen sus afirmaciones sobre transparencia y neutralidad. Aunque no se trate de palabras individuales, los expertos dicen que los gigantes tecnológicos sí intervienen para limitar sutilmente ciertos materiales.

El problema es que nunca sabes por qué una publicación fracasa, si molestó a los algoritmos o simplemente se hizo una mala publicación. Esta ambigüedad ha fomentado un régimen generalizado de autocensura, en un extremo del espectro, esto lleva a que la gente hable de temas serios con lenguaje ridículo. Pero en los extremos, hay usuarios que, con tal de volverse virales, prefieren evitar ciertos temas por completo.

En un mundo donde las redes sociales son la principal fuente de noticias e información para una parte cada vez mayor del público, esto podría significar que hay ideas que algunas personas nunca llegan a escuchar.

La opinión de Alex Pearlman

Alex Pearlman es un creador de contenido con millones de seguidores en TikTok, Instagram y YouTube, que lo siguen por su comedia y sus mordaces opiniones políticas. Pearlman afirma que la censura algorítmica es una presencia constante en su trabajo «solo para empezar, hablando únicamente de TikTok, rara vez digo la palabra ‘YouTube’. Al menos según mi experiencia, si reviso mis estadísticas, cuando digo algo como ‘ve a mi canal de YouTube’, el video va a fracasar», dice Pearlman.

La experiencia ha llevado a Pearlman y a otros creadores a asumir que TikTok no quiere que envíes a la gente a un competidor, y que te penaliza por sugerirlo (TikTok, por cierto, afirma que no hace ese tipo de cosas). Sin embargo para este creador de contenido los ejemplos son más inquietantes.

Pearlman ha hecho muchos videos sobre Jeffrey Epstein, el fallecido financiero y delincuente sexual en el centro de controversias que involucran a figuras poderosas del mundo empresarial y político. Pero el pasado agosto, notó algo extraño «fue justo cuando todo lo relacionado con Epstein estaba explotando por todas partes», dice. «De repente, me eliminaron varios videos sobre Epstein en TikTok en un solo día».

Los mismos videos permanecieron intactos en Instagram y YouTube, pero aparentemente habían violado alguna norma de TikTok que él no podía identificar «no es como si vinieran y te señalaran la frase que violó las reglas. Te quedas tratando de descifrar lo que te dice esa caja negra». Pearlman afirma que sus apelaciones fueron rechazadas y que TikTok dejó «strikes» en su cuenta, lo cual pone en riesgo su capacidad de ganar dinero en la plataforma.

Él no dejó de hacer videos sobre Epstein, pero sí probó otra estrategia «empecé a hablar de él usando lenguaje codificado, llamándolo ‘el Hombre de la Isla'», dice, en referencia a la notoria isla privada de Epstein «el problema del lenguaje codificado es que gran parte del público no sabe de quién estás hablando», señala Pearlman.

Hablé por teléfono con un portavoz de TikTok y aunque no comentaron sobre el caso de Pearlman ni quisieron hablar oficialmente, aparentemente se trata de un malentendido que no refleja cómo funciona realmente su plataforma.

TikTok, Meta y YouTube afirman que los algoritmos que controlan tu feed son sistemas complejos e interconectados que utilizan miles de millones de puntos de datos para ofrecer contenido que consideran relevante y satisfactorio para cada usuario.

Las tres plataformas publican información para explicar cómo funcionan estos sistemas. TikTok, por ejemplo, dice que basa sus recomendaciones en predecir la probabilidad de que cada usuario interactúe con un video.

Las empresas aseguran que sí eliminan o suprimen publicaciones, pero solo cuando ese contenido infringe normas comunitarias claramente establecidas, diseñadas para equilibrar la seguridad con la libertad de expresión. Para ello, notifican a los usuarios sobre estas decisiones y que publican regularmente informes de transparencia con detalles sobre su labor de moderación.

En la práctica, sin embargo, las plataformas de redes sociales han intervenido repetidamente en qué voces se amplifican o se silencian, contradiciendo su discurso sobre apertura y juego limpio, según investigaciones de la BBC, grupos de activistas, investigadores y otros medios de comunicación.

Investigaciones independientes de la BBC y Human Rights Watch encontraron que Facebook e Instagram restringieron sistemáticamente a usuarios palestinos y contenido que apoyaba los derechos humanos palestinos en las semanas posteriores a los ataques de Hamás del 7 de octubre en Israel.

Un portavoz de Meta dijo que la empresa comete «errores», pero que cualquier insinuación de que suprimieron deliberadamente ciertas voces es «rotundamente falsa».

Documentos filtrados

En 2019, documentos filtrados revelaron que TikTok instruyó a sus moderadores para suprimir contenido de usuarios que fueran «feos», pobres, personas con discapacidad o LGBTQ+, porque ese material creaba un entorno «menos elegante y atractivo». En ese momento, TikTok afirmó que se trataba de una medida «tosca» contra el acoso que ya no estaba en vigor.

Las mismas filtraciones mostraron que las políticas de TikTok prohibían transmisiones en vivo «controvertidas» cuando los usuarios criticaban a gobiernos, aunque TikTok aseguró que esa política «no aplicaba al mercado estadounidense».

En 2023, TikTok admitió que tenía un botón secreto llamado «heating» (del inglés heat, calor), que usaba para hacer que ciertos videos seleccionados se volvieran virales. Se trata de una herramienta que, según informes, se utilizaba para atraer alianzas comerciales y que a veces fue mal utilizada por empleados. T

Por su parte, YouTube ha enfrentado controversias similares. Por ejemplo, en 2019 un grupo de creadores LGBTQ+ demandó a la red, alegando que la empresa desmonetizaba videos que contenían palabras como «gay» o «trans». La demanda fue desestimada, y YouTube afirma que nunca ha tenido políticas que prohíban o desmoneticen contenido relacionado con la comunidad LGBTQ+.

T/BBC