Imagina la situación. Una persona inmigrante, con una determinada situación socioeconómica entra en una oficina bancaria con el objetivo de solicitar un préstamo. Su petición es rechazada. La empleada de la entidad en cuestión se justifica con un “Lo siento, la máquina no aprueba la operación”. Poco después, entra otro cliente, esta vez nacido en España, con un mismo nivel económico y pide realizar la misma operación. Esta vez, sí se aprueba. Puede parecerte que estas cosas no suceden. Pero sí. Los algoritmos pueden reflejar sesgos de la sociedad o de las personas que los han programado.

El Massachusetts Institute of Technology [MIT] acaba de presentar una inteligencia artificial [AI por sus siglas en inglés] que pretende conseguir que las máquinas sean más ecuánimes. “El sistema judicial, los bancos y compañías privadas usan algoritmos para tomar decisiones que tienen un profundo impacto en las vidas de las personas. Por desgracia, esos algoritmos a veces están sesgados”, afirman desde la institución. Como señalan, esta situación puede tener un “impacto desproporcionado” en minorías étnicas y en los grupos de población con niveles de ingresos más bajos.

El MIT ha desarrollado un nuevo lenguaje de programación para inteligencia artificial que evalúa la ecuanimidad de los algoritmos

Un nuevo lenguaje

Por ese motivo, un equipo de investigadores del MIT ha desarrollado un nuevo lenguaje de programación para inteligencia artificial que evalúa la ecuanimidad de los algoritmos de forma “más exacta y más rápida que las alternativas disponibles”.

Se llama Sum-Product Probabilistic Language (SPPL) y es un sistema de programación probabilístico. Este campo de innovación emergente se encuentra “en la intersección de lenguajes de programación y AI que busca hacer que estos sistemas sean mucho más fáciles de desarrollar”. El SPPL ya ha conseguido avances relevantes en visión por ordenador, limpieza de datos basada en el sentido común y modelado de datos automatizado.

El SPPL puede producir soluciones miles de veces más rápido

Mejor, pero no el primero

“Nuestro sistema no es el primero, pero como está especializado y optimizado para una cierta clase de modelos, puede producir soluciones miles de veces más rápido”, explica Feras Saad, que acaba de publicar un paper en el que describe este proyecto.

Un ejemplo es preguntar al sistema: ¿qué probabilidades hay de que el modelo recomiende un préstamo a una persona mayor de 40 años? O pedirle que genere mil solicitantes de un préstamo, menores de 30 años, cuyos préstamos serán aprobados. Los SPPL pueden inferir qué tipo de personas, a priori, tienen más probabilidades de ver aprobada su solicitud y clasificarlas.

¿Cuál es la probabilidad de que se contrate a un candidato cualificado, pero de un grupo infrarrepresentado?

En busca de la ecuanimidad

Una pregunta de ecuanimidad es: ¿existe una diferencia entre la probabilidad de recomendar un préstamo a una persona inmigrante que a una no inmigrante con el mismo estatus socioeconómico? Otra puede ser: ¿cuál es la probabilidad de que se contrate a un candidato cualificado para un puesto de trabajo y perteneciente a un grupo infrarrepresentado?

“Los errores provocados por inferencia probabilística aproximada son tolerables en muchas aplicaciones de inteligencia artificial. Pero no es deseable que haya errores de inferencia que corrompan los resultados en aplicaciones de AI con impacto social, como es la toma de decisiones automatizada y, en especial, en análisis de ecuanimidad”, explican desde el MIT.

El SPPL es diferente a la mayoría de lenguajes utilizados en este tipo de sistemas, porque permite a las personas usuarias escribir programas probabilísticos en los que se puede comprobar cuánto se tardará en obtener la inferencia, lo que los hace más rápidos. Además, en otros lenguajes la inferencia es aproximada, lo que genera errores en los resultados cuya naturaleza y magnitud puede ser difícil de caracterizar.

Jean-Baptiste Tristan, profesor asociado del Boston College afirma: “He trabajado con análisis de ecuanimidad en el mundo académico y el real, en industrias de gran escala. El SPPL ofrece más flexibilidad y confianza”. Y añade que es debido a “la expresividad de su lenguaje, su semántica precisa y simple y la velocidad y solidez de la máquina de inferencia simbólica exacta”.

Esperemos que con este tipo de avances tecnológicos podamos evitar situaciones como la que relatábamos al principio de esta pieza y que todas las personas seamos tratadas de verdad como iguales.