Reddit emplea LLMs para combatir el spam en su plataforma
Tecnología que genera problemas ahora se usa para solucionarlos
Reddit implementa modelos de lenguaje grandes (LLMs) para abordar la creciente proliferación de contenido no deseado en internet, un problema facilitado en gran medida por la misma tecnología. En un entorno digital con un aumento de spam y bots, Reddit ha desarrollado herramientas utilizando LLMs para combatir este fenómeno, irónicamente…
Reddit implementa modelos de lenguaje grandes (LLMs) para abordar la creciente proliferación de contenido no deseado en internet, un problema facilitado en gran medida por la misma tecnología. En un entorno digital con un aumento de spam y bots, Reddit ha desarrollado herramientas utilizando LLMs para combatir este fenómeno, irónicamente generado por la inteligencia artificial.
Hoy en día, plataformas digitales enfrentan la necesidad de usar la tecnología que contribuyó al problema para resolverlo. Reddit bloquea aproximadamente 23 millones de vistas de spam diariamente y detecta cerca de 25,000 nuevas publicaciones y comentarios de spam en el mismo periodo. Aunque las redes sociales ya utilizan herramientas automatizadas contra el spam, Reddit ha mejorado su tasa de detección gracias a los LLMs, que reconocen patrones sutiles de comportamiento fraudulento que antes pasaban desapercibidos.
Entre enero y marzo, Reddit reportó una reducción del 20% en la exposición de sus usuarios al spam comparado con los tres meses anteriores, marcando un avance significativo para mantener un entorno más seguro. Otras plataformas como YouTube, Meta e Instagram permiten contenido generado por IA con divulgación, y TikTok ofrece ajustar la cantidad de contenido de IA que los usuarios quieren ver. La capacidad de detectar contenido de IA rápidamente también ayuda a identificar violaciones como discursos de odio. Sin embargo, expertos en moderación destacan la necesidad de combinar inteligencia artificial con intervención humana para una regulación más efectiva en un entorno digital en constante evolución.