17.8 C
Málaga
28 marzo, 2024
AndalucíaJaén

Inteligencia artificial para detectar mensajes racistas y misóginos en Twitter

Usuaria Twitter

Investigadores de la Universidad de Jaén desarrollan un sistema inteligente para detectar tuits ofensivos contra mujeres y personas migrantes. Se trata de una novedosa metodología de inteligencia artificial que es capaz de aprender y distinguir matices en la lengua castellana e identificar comentarios racistas o misóginos en Twitter.

Este sistema ha sido desarrollado por el grupo Sistemas de Acceso Inteligente a la Información (SINAI) y puede ser utilizado tanto en el ámbito policial como jurídico para localizar mensajes de odio, según se desprende de un comunicado divulgado desde la Fundación Descubre. El programa se basa en algoritmos de aprendizaje automático, como redes neuronales y otras estructuras que imitan el funcionamiento del cerebro humano para identificar los matices de los mensajes.

A través del citado comunicado, los expertos de la UJA apuntan que esta tecnología es capaz de distinguir el contenido ofensivo y las ambigüedades del lenguaje, y que está centrado en la detección de comentarios que inciten al odio y a la violencia hacia las mujeres y los colectivos migrantes. De esta manera el sistema inteligente, a partir de unos datos de entrenamiento compuestos por insultos, términos y expresiones peyorativas, ‘aprende’ los patrones y estructuras del lenguaje para predecir nuevos tuits y distinguir aquellos que sean agraviantes. “En ciertas frases hay pronombres o determinantes que son esenciales y que pueden cambiar completamente el sentido de una expresión, con nuestro sistema y la ayuda de los recursos lingüísticos es posible identificar las expresiones referidas al discurso de odio”, explica a la Fundación Descubre la investigadora de la UJA, Flor Miriam Plaza.

María Dolores Molina: “Este sistema puede ser útil para la policía u organismos que actualmente funcionan en base a denuncias por bullying o discurso de odio”

Mª Dolores Molina, Mª Teresa Valdivia y L. Alfonso Ureña son, junto con la ya mencionada Flor Miriam Plaza, los autores de este estudio. Los expertos de la UJA recalcan que con esta base y tras detectar el tuit, la inteligencia artificial identifica el discurso de odio dirigido específicamente a estos dos sectores demográficos. “Actualmente continuamos incorporando nuevos recursos léxicos como diccionarios y listas de palabras a esta tecnología para que el programa detecte cada vez más matices en los tuits, así incrementamos su precisión y efectividad”, matiza María Teresa Martín.

Los investigadores han recopilado publicaciones de Twitter donde se utilizan adjetivos ofensivos como “zorra” o “negrata”. El sistema identifica el contexto en el que se aplican estas palabras y reconoce si el usuario las utiliza como insultos. En estudios previos, este grupo de la UJA centró su labor en la detección de anorexia y bulimia en las redes sociales, así como el reconocimiento de las emociones de los usuarios en Twitter. “Queremos mejorar la tecnología basada en inteligencia artificial y aprendizaje automático aplicando técnicas enfocadas en el análisis de sentimientos, así podremos aplicarla a una mayor variedad de ámbitos y ofrecer soporte a los organismos que lo necesiten, concluye L. Alfonso Ureña.


Compartir

Otras noticias de interés

La UCA y la Fundación Cádiz CF firman un protocolo para promocionar el deporte y la vida saludable

Aula Magna

Aranda: “la inversión en educación superior es hoy la mejor inversión social que un país puede hacer”

Aula Magna

La UCO se prepara para los Patios de Ciencia de la Night Spain 2021

Alexis Ojeda

Uso de cookies

Este sitio web utiliza cookies para que usted tenga la mejor experiencia de usuario. Si continúa navegando está dando su consentimiento para la aceptación de las mencionadas cookies y la aceptación de nuestra política de cookies, pinche el enlace para mayor información. ACEPTAR

Aviso de cookies