Con tecnología, detectan mensajes de odio en redes
Como resultado del desarrollo de métodos computacionales novedosos, investigadores mexicanos están detectando en redes sociales mensajes irónicos y de odio, así como usuarios que padecen depresión, anorexia y otros trastornos mentales.
Ello, como parte del trabajo que se desarrolla en el Laboratorio de Tecnologías del Lenguaje del Instituto Nacional de Astrofísica, Óptica y Electrónica (INAOE) y como resultado del proyecto "Fuerza de tracción textual: hacia un nuevo paradigma de clasificación de documentos", liderado por el Dr. Manuel Montes y Gómez, científico de este centro público de investigación.
El proyecto fue financiado por el Consejo Nacional de Ciencia y Tecnología (Conacyt) en la convocatoria 2017 de Fronteras de la Ciencia y estará concluido en octubre próximo.
En entrevista, el Dr. Manuel Montes explica que el Laboratorio de Tecnologías del Lenguaje del INAOE se creó en 2002 con el objetivo de analizar lenguaje natural escrito y oral. Sin embargo, en los últimos años, debido al boom de las redes sociales y a la facilidad de obtener datos de éstas, los esfuerzos se han centrado en el análisis de contenidos de redes sociales, desde buscar información hasta caracterizar usuarios. "Justo ahora estamos aplicando los métodos desarrollados en el proyecto de Fronteras de la Ciencia a distintas problemáticas", dice.
El citado proyecto está orientado a desarrollar métodos de clasificación de información textual en lo general: "Proponemos cambiar el paradigma de únicamente ver a los documentos como puntos en un espacio métrico y medir distancias entre ellos, a verlos como si fueran objetos físicos con masa, y entonces llevamos conceptos de la teoría gravitacional al modelado de documentos. Se trata de verlos como objetos que se atraen unos con otros, se atraen los que se parecen, se repelen los que no y eso aplicarlo para la recuperación y clasificación de documentos", indica.
Otra problemática en la cual han aplicado estos métodos es la detección de comentarios agresivos y de odio en redes sociales: "Este fenómeno se ha acrecentado mucho debido al fácil uso de las redes y al anonimato que hay en ellas. Incluso, aunque si se sabe quién está atrás de una cuenta, como no se está enfrente del ofendido las redes se prestan mucho a las expresiones de odio y a comentarios ofensivos en contra de mujeres, migrantes, minorías religiosas, políticas. Hemos estado analizando cómo detectar estos comentarios, lo que no es tan fácil porque no basta con detectar por ejemplo groserías y malas palabras".
Un obstáculo que enfrentan es conseguir los datos: "Hemos avanzado poco a poco pues no es sencillo conseguir datos suficientes y de calidad para estas tareas, así que
Finalmente, subraya que gracias a este proyecto el INAOE se ha vinculado a grupos de investigación de la Universidad Politécnica de Valencia, la Nacional de Colombia, la Nacional de San Luis en Argentina, la Autónoma de Chihuahua, el CIMAT y la UAM.