Expertos subrayan la importancia de que los profesionales de la IA tengan una buena formación matemática

Expertos reunidos este martes en un coloquio organizado por la Real Sociedad Matemática Española (RSME) y la Fundación Ramón Areces han subrayado la importancia de que los profesionales de la Inteligencia Artificial tengan una buena formación matemática.

"Si la Inteligencia Artificial está en casi todos los campos de nuestra vida, las Matemáticas están en todos los campos de la Inteligencia Artificial", ha asegurado Emilio Carrizosa, catedrático de Estadística e Investigación Operativa en la Universidad de Sevilla y presidente de la red española de matemática-industria math-in, en el coloquio 'Matemáticas, Inteligencia Artificial y Ética'.

Los expertos reunidos en este coloquio han reivindicado la capacidad de las matemáticas para ofrecer soluciones a los nuevos problemas que plantean estas tecnologías, como la optimización en el tratamiento de datos que alcanzan tamaños descomunales, y responder a los diversos desafíos éticos que presentan: "Las matemáticas son la solución para lograr una Inteligencia Artificial más transparente, justa y responsable".

También han insistido en que el inmenso potencial de la IA para cambiar nuestra vida, e incluso el mundo tal y como lo conocemos, requiere una llamada especial de atención para evitar su mal uso y los sesgos heredados de los datos.

En palabras de la presidenta de la RSME, Victoria Otero Espinar, "las matemáticas están en el centro del éxito de la IA y pueden ayudar de forma decisiva a crear modelos más transparentes, justos y responsables". "Por eso es importante y necesario que los profesionales que trabajan en el desarrollo de estos sistemas y sus aplicaciones tengan una buena formación matemática", ha añadido.

"Las matemáticas son la base de los algoritmos de la Inteligencia Artificial (IA) y son también muy útiles para abordar algunos de los problemas éticos que nos plantea esta tecnología", ha destacado Alicia Dickenstein, profesora emérita de la Universidad de Buenos Aires y presidenta de la Academia Nacional de Ciencias Exactas, Físicas y Naturales de Argentina.

En este debate celebrado en la Fundación Ramón Areces se ha puesto de manifiesto el papel determinante que juegan las Matemáticas a la hora de detectar eventuales sesgos y también en el diseño de algoritmos que mitiguen su efecto. Los sesgos de los datos pueden condicionar los resultados en función del género, la edad, el nivel económico o social, la procedencia, la orientación sexual o la ideología, motivo por el cual "la Estadística tradicional siempre cuidó exquisitamente el diseño de los experimentos y el posterior tratamiento y análisis de los datos", ha recordado Emilio Carrizosa.

Sin embargo, como ha destacado, la globalización digital y el internet de las cosas ofrece ahora acceso a enormes cantidades de información de diversa calidad y procedencia.

"Los sesgos se pueden perpetuar o verso amplificados cuando, sin el debido tratamiento, son usados por la IA para predecir y, con estas predicciones, proponer decisiones que afectan a las personas y pueden vulnerar derechos fundamentales", ha advertido este investigador.

Por ello, personas y administraciones exigen también cada vez más que las decisiones propuestas por la IA sean explicables. "No podemos pretender que el cliente a quien se niega el crédito o el paciente a quien se diagnostica un riesgo alto de sufrir una enfermedad entiendan el algoritmo de IA que hay detrás del pronóstico, pero sí que la propia IA le indica cuáles son las variables más relevantes en la construcción de ese pronóstico, y que sugiere los cambios requeridos para mejorarlo", ha concluido.