Intel·ligència artificial i inclusió

La Dra. Georgina Curto va defensar recentment la seva tesi doctoral sota el títol Intel·ligència artificial i inclusió: una anàlisi del biaix contra els pobres. La tesi ha estat realitzada a la Càtedra d’Ètica de la IQS School of Management, sota la direcció del Dr. Flavio Comim, coordinador del grup de recerca Social, Economics & Ethics (SEE) d’IQS School of Management.

La Dra. Adela Cortina, professora emèrita de la Universitat de València, el Dr. Ramón López de Mántaras, Research Professor de l’ Institut d’Investigació en Intel·ligència Artificial (IIIA) – CSIC i el Dr. Txetxu Ausín Díez, científic titular de l’Institut de Filosofia del CSIC van ser els membres del tribunal designat per aquesta defensa de tesi doctoral.

L’any 2017, la filòsofa Dra. Adela Cortina va encunyar el terme ‘aporofòbia’ per descriure per què acollim i donem la benvinguda als rics, mentre que els pobres són ignorats, rebutjats i a vegades pateixen agressions verbals i físiques. L’eradicació de la pobresa és el primer Objectiu de Desenvolupament Sostenible – ODS – de les Nacions Unides en la seva agenda 2030. A més, les Directrius Ètiques de la Comissió Europea per a una Intel·ligència Artificial – IA – fiable formen part d’un marc regulador per als drets humans bàsics en l’entorn digital.

En la seva tesi doctoral, la Dra. Curto ha posat especialment el focus en aquest tipus de discriminació en els sistemes de IA, que són entrenats a partir de dades històriques proporcionades pel comportament dels usuaris on line i, per tant, repliquen, i sovint agreugen, els biaixos existents en la nostra societat. Aquesta situació és especialment preocupant quan la IA s’utilitza en àrees com la justícia, la salut o l’educació, sobre tot perquè existeix una sobrevaloració dels resultats oferts des de la IA. A més, existeix molt poca bibliografia per descriure com identificar i mitigar el biaix cap als pobres (aporofòbia) en l’ús de la IA.

Un marc d’estudi per a l’aporofòbia i l’ús de la IA

Existeix molt poca bibliografia que descrigui com identificar i mitigar el biaix cap als pobres (aporofòbia) en l’ús de la IA. En aquest context, la tesi de la Dra. Curto presenta un marc conceptual que busca explicar el fenomen del biaix IA des d’una perspectiva multidisciplinària, incloent-hi mecanismes psicològics per descriure el biaix com una part de la cognició humana. Aquesta tesi constitueix també un treball pioner  que aporta evidència empírica sobre l’existència d’aporofòbia en sistemes de IA i en xarxes socials, mesurant el biaix contra els pobres mitjançant la utilització de ‘word embeddings’, o representacions vectorials dels significats semàntics de les paraules, extrets de models pre-entrenats de Google News word2vec, Twitter i Wikipedia GloVe.

Donada la complexitat per interpretar la ‘justícia dels models de IA’, la tesi proposa un procés de mitigació del biaix de IA que acompanya a les parts interessades (inclòs desenvolupadors i usuaris) per tal de compartir la responsabilitat, arribar a acords i comunicar obertament les sempre imperfectes solucions en termes d’equitat.

Finalment, la Dra. Curto ha proposta un model de simulació de IA per tal d’evidenciar si una disminució de l’aporofòbia implicaria una reducció dels nivells de pobresa (el primer dels ODS). La intenció d’aquesta via de recerca és proporcionar un camí alternatiu per lluitar contra la pobresa, amb el focus no només en les tradicionals polítiques retributives, sinó també en la mitigació de la discriminació.

La IA pot constituir un eficient greuge de la discriminació contra els més vulnerables, alhora que una eina molt útil per actuar contra la discriminació. Aquesta tesi proporciona un marc conceptual i eines aplicades per tal d’aconseguir un desenvolupament més just dels sistemes de IA, i proposa l’ús de la IA per aconseguir l’ús de la IA per assolir un món millor.

La tesi ha estat realitzada en col·laboració amb l’Institut d’Investigació en Intel·ligència Artificial IIIA – CSIC i amb el grup de recerca eVida de la Universitat de Deusto.

Ha rebut finançament dins del programa Aristos Campus Mundus, impulsat per la Universitat Ramon Llull, la Universitat de Deusto i la Universitat de Comillas.