Algoritmo de aprendizaje automático identifica misoginia

El grupo de investigadores de la Universidad Tecnológica de Queensland (QUT), desarrolla un algoritmo que emplea aprendizaje profundo, evualuando millones de tuits para identificar contenido de misoginia en Twitter.  Para esto, utilizaron un millones de tuits con palabras explícitas para ayudar al modelo de aprendizaje.

El algoritmo de aprendizaje profundo, se ajusta a la terminología a medida que evoluciona el lenguaje.  Los científicos partieron de un millón de tuits, donde posteriormente, el algoritmo comenzó a identificar el lenguaje y contexto, como insultos vinculados al acoso o violación.

Posteriormente, mientras la IA construía su vocabulario, los investigadores monitorearon el contexto y la intención del lenguaje, para “ayudar al algoritmo a diferenciar entre abuso, sarcasmo y uso amigable de terminología agresiva”.

Esto dio como resultado 5,000 tweets restantes como misóginos o no, según su contexto e intención.

El profesor Richi Naya, coautor del estudio, explica:

“Tomemos la frase ‘volver a la cocina’ como ejemplo: sin un contexto de desigualdad estructural, la interpretación literal de una máquina podría perder el significado misógino”.

“Pero visto con la comprensión de lo que constituye un lenguaje abusivo o misógino, puede identificarse como un tweet misógino”.

Los científicos señalan que al identificar esta frase como misógino, es un gran avance, porque significa que el algoritmo está evaluando según el contexto. Los investigadores aseguran que actualmente el nivel de precisión del algoritmo de aprendizaje profundo es del 75% de tweets misóginos.

Esperamos que nuestra solución de aprendizaje automático pueda ser adoptada por las plataformas de redes sociales para identificar e informar automáticamente sobre este contenido para proteger a las mujeres y otros grupos de usuarios en línea.

Sin duda es un gran avance, tomando en cuenta que Twitter es una de las plataformas donde existen la mayor cantidad de divulgación de contenido violento, misógino, sexual, entre otros, a pesar de la plataforma haber implementado medidas y políticas para detener estas prácticas, se han hecho muy comunes en la actualidad.

Los científicos publicaron su estudio en la base de datos de estudios académicos Springer.