En los últimos años, las redes sociodigitales adquirieron enorme relevancia por la inmediatez de sus multifacéticos contenidos e intenciones, que pueden comunicar mensajes de fraternidad, democracia, odio o xenofobia. Es común leer en esas redes ideas racistas, discriminatorios o intimidaciones, generados por cuentas personales, grupos o por programas como bots.
El estudiante del Instituto Politécnico Nacional (IPN) de origen nigeriano, Segun Taofeek Aroyehun, ganó el Premio Internacional de Doctorado 2020 de Microsoft para América Latina por una investigación muy importante titulada: Métodos de aprendizaje profundo para redes sociales, con la cual se podrá identificar lenguaje de odio, tan común en esas redes sociales.
-¿Qué es lo que encontró Según Taofeek?, se le pregunta a su asesor académico de tesis doctoral Alexander Gelbukh, del Centro de Investigación en Computación del IPN.
–Con la aplicación desarrollada se puede moderar y detectar el lenguaje de odio. Es una aplicación para moderar, bloquear o advertir al usuario, no sólo en Microsoft, Facebook o Twitter (sobre lenguaje de odio). Con esta tecnología, si México lo desea, puede controlar estas cosas, por ejemplo, propaganda de drogas, odio a mujeres. No sólo puede beneficiarse Microsoft, sino el mundo.
¿Cuál sería la aplicación de esa investigación?
-Imagínese que empresas como Twitter o Facebook tengan una función automática que alerte: ‘Te pueden demandar por lo que estás diciendo. No vamos a propagar tu mensaje, porque es contra la ley. Estás recibiendo un mensaje de odio, propaganda o racista, no lo creas tal cual´. Segun trabajó en la detección de lenguaje agresivo, propaganda racista, y desarrolló una herramienta para medir ese nivel o el de odio a las mujeres, los homosexuales, lo que está prohibido.
–Su alumno ganó el premio de la empresa Microsoft con métodos de aprendizaje profundo para redes sociales. ¿Por qué es importante esta investigación?
–Nunca en la historia habíamos tenido redes sociales y no estábamos preparados para contar con información completa de cada persona en el mundo. Con estos datos se pueden hacer tanto cosas excelentes como horribles. La primera: democracia. Imaginemos una sociedad donde la administración del municipio, calle o edificio sepa qué me preocupa, si estoy a gusto, qué me falta. Lo más importante es que este proceso se cumpliría en tiempo real. Es democracia en tiempo real.
–¿Se puede aplicar en México, o es propiedad exclusiva de Microsoft?
–A la empresa le gustó su investigación y decidió apoyarlo. Segun no lo hizo para la empresa, y no tiene ninguna obligación hacia ella, que le dio 15 mil dólares para ayudar a su desarrollo, y no pidió nada.
Buscamos debates civiles e inclusivos: Segun Taofeek Aroyehun
Al joven estudiante Segun Taofeek Aroyehun, se le pregunta ¿Qué logró con su investigación, cuál es el beneficio?
-Ayudamos en la detección de contenido cuestionable en la interacción en línea, especialmente en las redes sociales, y en la moderación de conversaciones en línea. Con el fin de garantizar debates civiles, saludables e inclusivos
-¿Cuáles son los beneficios y cómo aplicar los resultados de su investigación?
-Las plataformas de discusión en línea pueden usar nuestro modelo para (semi) moderar automáticamente los contenidos publicados en sus sitios. Con esto, se pueden detectar y eliminar los casos de abuso y acoso cibernético. Los usuarios también pueden ser informados sobre lo que están a punto de publicar con un “botón de verificación” que muestra un mensaje emergente que advierte que el contenido viola ciertas normas o políticas sociales del sitio.
-¿Cómo logró los resultados de su investigación?
– Empleamos técnicas del lenguaje humano y aprendizaje automático. Modelamos el fenómeno a partir de grandes ejemplos de lenguaje abusivo en las redes sociales. Luego, aplicamos nuestro modelo a ejemplos invisibles para validar su eficacia.
