La investigadora Paula Gordaliza FBBVA
Cuando
Paula Gordaliza comenzó a trabajar en la aplicación de teorías estadísticas para crear algoritmos más justos, en 2017, aún se hablaba de la inteligencia artificial
(IA) en tiempo futuro. Hoy, los artículos científicos en torno al tema se acumulan cada semana y los debates sobre el papel cada vez más central que los algoritmos ocupan en la sociedad están omnipresentes.
Su línea de investigación está en el corazón de una de las conversaciones más importantes: su trabajo tiene por objetivo diseñar y analizar métodos de aprendizaje automático que detecten, controlen y corrijan los
posibles sesgos en los resultados, lo que contribuirá a crear algoritmos más justos, eliminar discriminaciones en los resultados y, en definitiva, a «que la población confíe más en la inteligencia artificial», según sus propias palabras.
Formada en las universidades de Valladolid (UVa) y de Toulouse III-Paul Sabatier, es investigadora posdoctoral en el Basque Center for Applied Mathematics (BCAM), en Bilbao, y profesora asociada en la Universidad Pública de Navarra, puestos desde donde reivindica el papel fundamental de las matemáticas. «En la inteligencia artificial intervienen muchos profesionales, pero la base que dan las matemáticas es la que permite resolver los problemas», asegura. Su trabajo le ha valido este año el reconocimiento de los Premios de Investigación Matemática Vicent Caselles que concede la Real Sociedad Matemática Española y la
Fundación BBVA.
Tendemos a pensar en los resultados de las máquinas como algo neutro, objetivo. ¿Qué significa hablar de sesgos en la inteligencia artificial?En realidad, la inteligencia artificial hace lo que le dicen que tiene que hacer, nada más.
Pero para funcionar necesita datos y algunos de los principales sesgos que se manifiestan en los resultados en realidad vienen de las bases de datos con las que trabaja, que son las que muchas veces están sesgadas, por diferentes motivos.
En las últimas décadas se está haciendo un esfuerzo para cuidar el proceso de recogida de datos, pero muchas veces nos encontramos con ciertos grupos que están más representados que otros y eso condiciona resultados.
Entonces los sesgos están en la sociedad, en la parte
humana del proceso. Lo estamos viendo en algunos de los resultados de ChatGPT, que
privilegian el inglés sobre otros idiomas o que pueden perpetuar ciertos estereotipos en géneros o en grupos sociales.
En parte sí, porque el algoritmo que alimenta la IA aprende de los datos que le damos y cualquier sesgo que contenga esa información también lo va a aprender (y en algunos casos, hasta empeorar).
Esos ejemplos que comentas son una de las formas en la que se manifiesta, porque es habitual en las nuevas inteligencias artificiales, llamadas generativas, donde se está viendo que es necesario hacer un trabajo para detectar y reducir esos sesgos.
¿Y qué papel juega la estadística, y en particular la teoría del transporte óptimo, en ese esfuerzo?
Como muchas otras respuestas en matemáticas, la teoría del transporte óptimo surgió para dar respuesta a un problema real y concreto.
En este caso apareció con el llamado problema de Monge, para saber cómo transportar un volumen de masa de la forma más efectiva posible (desde un montón de arena a un hoyo).
A raíz de ese planteamiento se desarrolla toda una teoría y se aplica al campo de la estadística, donde tiene mucha importancia en relación con el concepto de medida de probabilidad: Resumiendo, se trata de trasladar una medida de probabilidad a otra con el menor esfuerzo posible.
¿Cómo se relaciona con la IA?
En lo relativo a la IA, en el caso más sencillo podemos tener una base de datos con una variable sensible, como puede ser el género. Y se quiere borrar la influencia de esa variable, para que cuando se usen los datos el algoritmo no pueda reproducir sesgos.
Así que lo que se intenta es igualar el resto de características. En concreto nuestra idea es transformar las dos distribuciones originales de hombres y mujeres haciéndolas lo más similares posibles en el resto de variables y así borrar la posible influencia de ese atributo protegido.
El hecho de que muchas de las herramientas de IA que se basan en el aprendizaje automático publiquen resultados sin que se pueda conocer el proceso (el llamado problema de la caja negra) es una de las fuentes de desconfianza hacia esta tecnología.
Ése es el gran objetivo de las matemáticas, tratar de poner rigor mediante la teoría, obteniendo resultados potentes que abran esas cajas negras y que la sociedad pueda llegar a confiar más en el proceso.
A veces estas soluciones que nos dan los algoritmos pueden atraer, porque se ve que funcionan, pero les falta la trazabilidad suficiente para conocer cómo se llega a ellas.
Es un campo donde la colaboración público-privada es fundamental, lo que se investiga tiene una aplicación práctica clara e inmediata para la sociedad.
¿Cómo ve esa dualidad empresa-universidad?
La investigación siempre va por delante de las aplicaciones, especialmente en matemáticas. Pero sí es verdad que cada vez hay una mayor demanda desde las empresas para la metodología, métodos fuertes para resolver problemas en la sociedad, que son cada vez más complejos y multidisciplinares y que requieren equipos también multidisciplinares (no sólo matemáticos y estadísticos).
Creo que es positivo que la industria nos ofrezca cada vez más problemas reales, que sirvan para motivar la investigación, porque este tipo de sinergias es algo que interesa cada vez más.
¿Y qué falta para que se aumenten esas sinergias?
Creo que se juntan diferentes cuestiones: por un lado las empresas son muy protectoras con sus propios datos o de sus clientes, lo que puede generar problemas con la confidencialidad. También está el hecho de que las empresas tienen sus propios métodos y procesos, por los que en algunos casos pagan mucho dinero y de los que les cuesta separarse.
Las matemáticas en particular son una disciplina que cuesta visibilizar, pese a la importancia que tienen.
Las matemáticas tienen mala fama desde el colegio, desde que somos pequeños, porque se consideran difíciles. Pero lo cierto es que sirven para resolver problemas y hoy en día encontramos problemas cada vez más complicados.
Hay que intentar que cale el mensaje de que las matemáticas no sólo son necesarias, sino que sirven para todo. Son una constante que está detrás de cualquier avance y de cualquier ciencia. Por eso creo que muchas veces los jóvenes que están planteándose qué profesión elegir, en qué formarse, se sienten atraídos por otras disciplinas más aplicadas que por las matemáticas de base. Bajo mi punto de vista se obliga a la especialización demasiado pronto.
Se debería profundizar en aptitudes y en conocimientos básicos. Para que chicos y chicas jóvenes que se ven atraídos por la inteligencia artificial, por ejemplo, tengan una base en matemáticas, estadística y otras áreas. Y cuando estén preparados, con una maleta de herramientas de esos conceptos básicos, puedan dar el salto a conceptos más específicos.
PREMIOS AL TALENTO JOVEN
Los Premios Vicent Caselles de la Fundación BBVA y la Real Sociedad Matemática Española (RSME) nacieron en 2015 para reconocer e incentivar el talento de jóvenes investigadores en matemáticas menores de 30 años y dar más visibilidad de este campo.
Además de Paula Gordaliza, este año han resultado premiados Robert Cardona, Claudia García, Roberto Giménez, Óscar Rivero y María Soria.
Cada uno de ellos recibirá 2.000 euros. Además, el investigador Xavier Fernández-Real fue reconocido con el Premio José Luis Rubio de Francia, dirigido a jóvenes matemáticos de hasta 32 años y dotado con 35.000 euros, mientras que Francisco José Marcellán, María del Carmen Romero y Luis Vega recibieron las Medallas que concede la RSME a profesionales destacados por aportaciones al campo de las matemáticas.
https://www.elmundo.es/ciencia-y-salud/ciencia/
