Incidente en Instagram: contenido violento en Reels por error
En un incidente que ha generado preocupación generalizada, Meta, la empresa matriz de Instagram, ha reconocido un fallo técnico en su plataforma que permitió la difusión de contenido violento en la sección de Reels, afectando a una amplia gama de usuarios, incluidos menores de edad
Este error, que ya ha sido corregido según la compañía, permitió que imágenes perturbadoras como desmembramientos y cuerpos carbonizados se mostraran en los feeds de los usuarios, incluso cuando tenían activada la función de control de contenido delicado.
La situación se volvió pública cuando varios usuarios recurrieron a otras redes sociales para expresar su inquietud por la reciente afluencia de contenidos dañinos en el servicio. Estos contenidos incluían comentarios sádicos hacia imágenes que representaban el sufrimiento de personas y animales, lo que generó un amplio debate sobre la efectividad de las medidas de seguridad implementadas por Instagram.
Has anyone of you noticed that Instagram is showing you weird reels or content today? pic.twitter.com/AniRfgodZV
A pesar de las políticas de moderación de contenido establecidas por Meta, que prohíben explícitamente este tipo de material, los usuarios reportaron haber visto vídeos violentos en la pestaña de Reels
Meta afirma que sí permite cierto contenido gráfico si ayuda a los usuarios a condenar y concienciar sobre cuestiones importantes como violaciones de los derechos humanos, conflictos armados o actos de terrorismo. Dicho contenido puede tener limitaciones, como etiquetas de advertencia.
Esto incluyó imágenes gráficas de cadáveres y agresiones violentas, etiquetadas como "Contenido sensible". Medios como CNBC y The Wall Street Journal corroboraron la existencia de estas publicaciones, encontrando decenas de vídeos que mostraban personas heridas, publicados por cuentas no seguidas con nombres como "Blackpeoplebeinghurt", "ShowingTrogedies" y "PopheDinghub".
La propietaria de Instagram ha pedido disculpas por el incidente, asegurando que el fallo ha sido corregido. Un portavoz de Meta declaró a CNBC que "hemos corregido un fallo que provocaba que algunos usuarios visualizaran contenido en su feed de Instagram Reels que no debería haber sido recomendado". Aunque la empresa ha aclarado que este error no está relacionado con los recientes ajustes en sus políticas de moderación, el incidente ha generado especulación sobre la eficacia de sus sistemas de control de contenido.
En paralelo a este incidente, Meta ha estado trabajando en la posibilidad de separar Reels de Instagram y lanzarla como una aplicación independiente, con el objetivo de potenciar el contenido de vídeo en formato vertical ante la competencia de plataformas como TikTok