Reddit combate el spam con la tecnología que lo generó
Implementación de LLMs para reducir contenido no deseado
Reddit implementa modelos de lenguaje grandes (LLMs) para enfrentar un problema que, irónicamente, ellos mismos ayudaron a crear. Con la creciente presencia de contenido no deseado en internet, impulsado por la accesibilidad de estas tecnologías, las plataformas digitales buscan soluciones efectivas. Reddit ha tomado medidas desarrollando herramientas basadas en LLMs…
Reddit implementa modelos de lenguaje grandes (LLMs) para enfrentar un problema que, irónicamente, ellos mismos ayudaron a crear. Con la creciente presencia de contenido no deseado en internet, impulsado por la accesibilidad de estas tecnologías, las plataformas digitales buscan soluciones efectivas. Reddit ha tomado medidas desarrollando herramientas basadas en LLMs para combatir el fenómeno del spam, que en gran parte fue alimentado por la misma inteligencia artificial.
La paradoja es clara: plataformas digitales como Reddit ahora emplean la misma tecnología responsable de la proliferación de spam para mitigar sus efectos. Actualmente, Reddit bloquea cerca de 23 millones de vistas de spam diariamente y detecta aproximadamente 25,000 nuevas publicaciones y comentarios de este tipo en el mismo periodo.
A pesar de que las redes sociales han desarrollado herramientas automatizadas para reducir el spam durante años, Reddit destaca que sus nuevos sistemas han mejorado significativamente las tasas de detección. La empresa asegura que los LLMs permiten identificar patrones sutiles y comportamientos fraudulentos que anteriormente pasaban desapercibidos.
Entre enero y marzo de este año, Reddit reportó una disminución del 20% en la exposición de sus usuarios al spam en comparación con el trimestre anterior, lo que representa un avance importante para ofrecer un entorno más seguro. Mientras tanto, otras plataformas como YouTube, Meta e Instagram permiten contenido generado por inteligencia artificial, siempre que se divulgue su origen, y TikTok ofrece opciones para ajustar la cantidad de dicho contenido.
La capacidad de detectar contenido generado por IA más rápidamente también permite a las plataformas identificar contenido violatorio, como discursos de odio. Sin embargo, expertos en moderación de contenido subrayan la importancia de complementar la inteligencia artificial con intervención humana para lograr una regulación más efectiva. Este enfoque dual es esencial para enfrentar los desafíos de un entorno digital en constante evolución, donde la tecnología puede ser tanto una solución como un riesgo.