Reddit adopta LLMs para combatir el spam que ellos mismos potenciaron
La plataforma enfrenta el desafío del spam con la misma tecnología que lo incrementó
Reddit implementa modelos de lenguaje grandes (LLMs) para mitigar el problema del spam, exacerbado por la accesibilidad de esta tecnología. En un panorama digital donde el contenido no deseado prolifera, Reddit ha desarrollado herramientas utilizando LLMs para contrarrestar el fenómeno, irónicamente impulsado por la propia inteligencia artificial. Reddit reporta que…
Reddit implementa modelos de lenguaje grandes (LLMs) para mitigar el problema del spam, exacerbado por la accesibilidad de esta tecnología. En un panorama digital donde el contenido no deseado prolifera, Reddit ha desarrollado herramientas utilizando LLMs para contrarrestar el fenómeno, irónicamente impulsado por la propia inteligencia artificial.
Reddit reporta que bloquea alrededor de 23 millones de vistas de spam diarias y detecta cerca de 25,000 nuevas publicaciones y comentarios de spam cada día. Aunque las redes sociales llevan años trabajando en la automatización para reducir el spam, Reddit destaca que sus herramientas actuales logran una detección más eficaz, gracias a la capacidad de los LLMs para identificar patrones fraudulentos sutiles que antes pasaban desapercibidos.
Entre enero y marzo, Reddit consiguió reducir en un 20% la exposición de sus usuarios al spam, comparado con el trimestre anterior. Este avance subraya su compromiso por mantener un entorno más seguro. Mientras tanto, otras plataformas como YouTube, Meta e Instagram permiten contenido generado por IA siempre que se divulgue, y TikTok ofrece ajustes para la exposición a contenido de IA.
La habilidad para detectar contenido de IA rápidamente también habilita a las plataformas a identificar discursos de odio con mayor agilidad. Sin embargo, expertos en moderación de contenido recalcan la necesidad de combinar la inteligencia artificial con la intervención humana para obtener resultados más efectivos en la regulación del contenido. Este enfoque dual es crucial para que las plataformas naveguen los desafíos del entorno digital actual, donde la tecnología actúa como herramienta y amenaza simultáneamente.