Una española combate los sesgos de la inteligencia artificial

Una española combate los sesgos de la inteligencia artificial

La matemática y física española Miren Jasone Ramírez-Ayerbe, investigadora posdoctoral en la Universidad de Montreal (Canadá), trabaja en el desarrollo de herramientas que permitan detectar y explicar los sesgos de la inteligencia artificial. Su objetivo es que los algoritmos sean más transparentes y evitar que decisiones automatizadas puedan perjudicar injustamente a las personas en procesos como la selección de personal, la concesión de préstamos o el ámbito sanitario.

La investigadora desarrolla modelos matemáticos capaces de identificar por qué un algoritmo toma una determinada decisión y qué factores han influido en ella. Este sistema permite comprobar si existe un trato desigual hacia determinados colectivos y detectar posibles prejuicios heredados de los datos con los que la inteligencia artificial ha sido entrenada. Según explica, los algoritmos pueden reproducir los sesgos presentes en la sociedad si no se diseñan y supervisan adecuadamente.

Su trabajo ha sido reconocido con uno de los Premios Vicent Caselles, concedidos por la Real Sociedad Matemática Española y la Fundación BBVA. La investigación busca fomentar un uso más justo y responsable de la inteligencia artificial, ofreciendo herramientas que ayuden a comprender cómo toman decisiones estos sistemas y a reducir el riesgo de discriminación en ámbitos con un impacto directo en la vida de las personas.

 

Ver esta publicación en Instagram

 

Una publicación compartida por Radio Centro 101.3 FM (@radiocentro.ec)