Lo del desarrollo de la inteligencia artificial va a ser más jugoso de lo que pensábamos. Creíamos que todo se limitaría a cuestiones técnicas y tecnológicas y parece que no. Parece que va a entrar en juego también la sensibilidad, incluso la ideología.
La IA se porta mal
No es la primera noticia en este sentido. Una inteligencia artificial que se desvía de su cometido y acaba reproduciendo los peores defectos de sus creados: al fin y al cabo, humanos.
En este caso es el software de IA de Amazon el que se está portan mal. En concreto, se ha revelado como una machista de tomo y lomo. El líder mundial de retail había comenzado a probar su sistema de inteligencia sintética en la selección de personal.
Hasta ahora, Amazon utilizaba esta tecnología para optimizar sus pedidos, almacenamiento o entregas. Se les ocurrió que podía aplicarlo también a los procesos de selección de personal. Analizar a los candidatos según unos criterios parecidos a los que Amazon pone a disposición de sus clientes para valorar productos. Así, a cada candidato se le adjudican valoraciones en función de cinco estrellas.
La palabra "mujer"
Pero poco después de la implementación de la IA en este proceso, los responsables se dieron cuenta de que estas valoraciones no eran tan objetivas como cabría esperar de una máquina. De hecho, notaron que sus valoraciones a las candidatas femeninas eran mucho más bajas, aunque la cualificación y experiencia fura similar a los candidatos hombres.
El problema parece ser de dónde aprende la IA. El sistema analizó los procesos de selección de los últimos 10 años en la compañía. Y esos procesos no fueron tan igualitarios como debería. De este modo, la máquina ha acabado reproduciendo un esquema aprendido.
Por ello, el software bajaba la valoración de cualquier texto que incluyera la palabra "mujer" del mismo modo que sobreponderaba cuando aparecía la palabra hombre.
La compañía ha reaccionado y de momento ha desconectado el sistema para, dicen, ajustar los parámetros a consideraciones más racionales.
