Inteligencia artificial e inclusión

La Dra. Georgina Curto defendió recientemente su tesis doctoral bajo el título Inteligencia artificial e inclusión: un análisis del sesgo contra los pobres. La tesis fue realizada en la Cátedra de Ética de la IQS School of Management, bajo la dirección del Dr. Flavio Comim, coordinador del grupo de investigación Social, Economic & Ethics (SEE) de IQS School of Management.

La Dra. Adela Cortina, profesora emérita de la Universidad de Valencia, el Dr. Ramón López de Mántaras, Research Professor del Instituto de Investigación en Inteligencia Artificial (IIIA) – CSIC y el Dr. Txetxu Ausín Díez, Científico Titular del Instituto de Filosofía del CSIC fueron los miembros del tribunal designado para esta defensa de tesis doctoral.

En el año 2017, la filósofa Dra. Adela Cortina acuñó el término ‘aporofobia’ para describir por qué acogemos y damos la bienvenida a los ricos, mientras que los pobres son ignorados, rechazados y en ocasiones sufren agresiones verbales y físicas. La erradicación de la pobreza es el primer Objetivo de Desarrollo Sostenible – ODS – de las Naciones Unidas en su agenda 2030. Además, las Directrices Éticas de la Comisión Europea para una Inteligencia Artificial – IA – fiable forman parte de un marco regulador para los derechos humanos básicos en el entorno digital.

En su tesis doctoral, la Dra. Curto ha puesto especial foco en este tipo discriminación en los sistemas de IA, que son entrenados a partir de los datos históricos proporcionados por el comportamiento de los usuarios on line y, por lo tanto, replican, y a menudo agrava, los sesgos existentes en nuestra sociedad. Esta situación es especialmente preocupante cuando la IA se utiliza en áreas como la justicia, la salud o la educación, sobre todo porque existe una sobrevaloración de los resultados ofrecidos desde la IA.

Un marco de estudio para la aporofobia y el uso de la IA

Existe muy poca bibliografía que describa como identificar y mitigar el sesgo hacia los pobres (aporofobia) en el uso de la IA. En este contexto, la tesis de la Dra. Curto presenta un marco conceptual que busca explicar el fenómeno del sesgo IA desde una perspectiva multidisciplinar, incluyendo los mecanismos psicológicos que describen el sesgo como una parte de la cognición humana. Esta tesis constituye también un trabajo pionero que aporta evidencia empírica acerca de la existencia de aporofobia en sistemas de IA y en redes sociales, midiendo el sesgo contra los pobres mediante la utilización de ‘word embeddings’, o representaciones vectoriales de los significados semánticos de las palabras, extraídos de modelos pre-entrenados de Google News word2vec, Twitter y Wikipedia GloVe.

Dado la complejidad para interpretar la ‘justicia en los modelos de IA’, la tesis propone un proceso de mitigación del sesgo de IA que acompaña a las partes interesadas (incluyendo desarrolladores y usuarios) para compartir la responsabilidad, llegar a acuerdos y comunicar abiertamente las siempre imperfectas soluciones en términos de equidad.

Finalmente, la Dra. Curto ha propuesto un modelo de simulación de IA para evidenciar si una disminución de la aporofobia implicaría una reducción en los niveles de pobreza (el primero de los ODS). La intención de esta vía de investigación es proporcionar un camino alternativo para luchar contra la pobreza, con el foco no solo en las tradicionales políticas redistributivas, sino también en la mitigación de la discriminación.

La IA puede constituir un eficiente agravante de la discriminación contra los más vulnerables, a la vez que una herramienta muy útil para actuar contra la discriminación. Esta tesis proporciona un marco conceptual y herramientas aplicadas para conseguir un desarrollo más justo de los sistemas de IA, y propone el uso de la IA para lograr un mundo mejor.

Esta tesis ha sido realizada en colaboración con el Instituto de Investigación en Inteligencia Artificial IIIA – CSIC y con el grupo de investigación eVida de la Universidad de Deusto.

Ha recibido financiación dentro del programa Aristos Campus Mundus, impulsado por la Universidad Ramón Llull, la Universidad de Deusto y la Universidad de Comillas.