Universidad de Sevilla

Vicerrectorado de Investigación

Proyecto de investigación


Aplicación de Redes Generativas Antagónicas para Combatir la Manipulación de Clientes online (REACT)

Responsable: María del Rocío Martínez Torres
Tipo de Proyecto/Ayuda: Plan Estatal 2017-2020 Retos - Proyectos I+D+i
Referencia: PID2020-114527RB-I00
Fecha de Inicio: 01-09-2021
Fecha de Finalización: 31-08-2024

Empresa/Organismo financiador/es:

  • Ministerio de Ciencia e Innovación

Equipo:

Contratados:

  • Investigadores:
    • Nicolas Rodriguez Galvan

Resumen del proyecto:

El desarrollo del comercio electrónico ha hecho florecer la presencia de opiniones online, con un impacto importante en las decisiones de compra de los potenciales consumidores. No obstante, la presencia de opiniones falsas puede alterar las percepciones de los consumidores y manipular sus juicios y decisiones de compra. Las opiniones falsas se refieren a todas las opiniones engañosas compartidas en un entorno digital que no reflejan la opinión genuina de su autor. En la actualidad, siguen creciendo rápidamente con una presencia amplia en muchos ámbitos del comercio electrónico. Como consecuencia, la identificación de opiniones fraudulentas se ha convertido en un campo de investigación emergente. La propuesta se centra en una aproximación centrada en la opinión, es decir, trata de discriminar el carácter genuino o falso de la opinión a partir de su contenido. Numerosos estudios han propuesto diversos clasificadores basados en técnicas de Machine y Deep Learning. Recientemente, la utilización de Redes Neuronales Profundas (Deep Learning) ha revolucionado el procesamiento del lenguaje natural mediante la representación de los textos con técnicas de word embedding y la utilización de clasificadores basados en Redes Neuronales Convolucionales y Recurrentes. Su principal ventaja es considerar la secuencialidad de los textos y sus dependencias temporales. No obstante, los clasificadores de textos propuestos afrontan dos problemas importantes: Aunque existen varios datasets públicos de opiniones falsas disponibles, no son demasiados y se centran en determinados ámbitos (hoteles, restaurantes, etc.) Los algoritmos propuestos son, en general, poco robustos frente a la generación de ejemplos adversarios, es decir, ejemplos diseñados específicamente para engañar a los clasificadores (por ejemplo, mediante el uso de bots). Estos problemas limitan la respuesta a algunas preguntas de investigación e hipótesis planteadas en trabajos previos ¿Cómo afectan los ejemplos adversarios a los diferentes métodos propuestos? ¿Cómo se distribuyen las revisiones falsas en diferentes categorías de productos? La mayoría de datasets disponibles se centran en productos de experiencia. Varios autores señalan como un patrón característico de las revisiones falsas una exageración de los sentimientos positivos o negativos que dan lugar a opiniones extremas (muy positivas o muy negativas), ¿sigue siendo cierta esta afirmación cuando las opiniones son generadas por algoritmos de inteligencia artificial?

Esta propuesta da respuesta a estas cuestiones mediante el uso de las Denominadas Redes Generativas Antagónicas. Básicamente, se trata de dos redes neuronales enfrentadas: una red generadora, en este caso de opiniones falsas (a modo de bot automático), y una red discriminadora, en este caso un clasificador de opiniones genuinas y falsas. Con ello, la red generadora resuelve el problema de los datasets limitados, ya que pueden generar opiniones falsas en una gran variedad de ámbitos, y hace más robusta al clasificador de la red discriminadora frente a ejemplos adversarios, ya que ambas redes compiten en un juego de suma cero. La solución propuesta es de interés para usuarios finales y gestores de portales de opinión y plataformas de comercio electrónico, interesadas en nuevas herramientas para filtrar los comportamientos fraudulentos y capaces de hacer frente a una nueva generación de bots automáticos.

Ministerio Ciencias e Inovacion - Agencia Estatal

Vicerrectorado de Investigación. Universidad de Sevilla. Pabellón de Brasil. Paseo de las Delicias s/n. Sevilla