F+ Discriminación y sesgos en la inteligencia artificial

Discriminación arbitraria

Cuando hablamos de sesgos en la inteligencia artificial (IA), normalmente nos referimos a la existencia distintos tipos de «desviaciones» respecto a lo que debería ser la norma, es decir, el correcto funcionamiento de estas tecnologías. En este caso, podríamos decir que el correcto funcionamiento o la norma de la IA debería traducirse en decisiones y/o recomendaciones que beneficien o impacten a todas las personas que pueden verse afectas por esas tecnologías por igual. Por contraposición, decimos que la IA está sesgada cuando se produce daño o discriminación de manera no justificada y arbitraria a unos en favor de otros.

En este sentido, las investigadoras Batya Friedman y Helen Nissebauam explican que al hablar de sesgos en el ámbito de la computación y de la IA, lo hacemos para referirnos a «sistemas computacionales que sistemática e injustamente discriminan a ciertos individuos o grupos de individuos a favor de otros. Un sistema discrimina injustamente si niega una oportunidad o un bien o si asigna un resultado indeseable a un individuo o un grupo de individuos por motivos no razonables o inapropiados».

A su vez, los sesgos y la consecuente discriminación que de ello se deriva pueden manifestarse de muy diversas formas en el caso de la IA. A veces los sesgos aparecen en las bases de datos, cuando estas contienen mayor cantidad de datos procedentes de unos grupos frente a otros, por ejemplo, de hombres frente a mujeres, de personas blancas frente a no blancas o de angloparlantes frente a hispanohablantes.

En otras ocasiones, los sesgos se producen durante la medición y la elección de los parámetros que seguirá el algoritmo para alcanzar una decisión. También encontramos sesgos en las etiquetas que se le ponen a los datos o incluso en el hardware que da soporte a los sistemas de IA.

Decimos que la IA está sesgada cuando se produce daño o discriminación de manera no justificada y arbitraria a unos en favor de otros

La neutralidad de la ciencia

Ahora bien, antes de pasar a explicar en más detalle algunos de los sesgos y los problemas que de ellos se derivan, es importante señalar al menos dos cuestiones brevemente. La primera, que el denominador común a todos estos problemas, la verdadera problemática de fondo que subyace a todo aquello sobre lo que reflexionaremos en esta parte del dosier, es el hecho de que las tecnologías de IA no son neutrales.