La eliminación de los sesgos en los algoritmos

En la reunión en Busan, el IEC lanzó oficialmente un nuevo white paper para inteligencia artificial. El objetivo de los autores es ayudar a aclarar el estado actual de la IA y sus perspectivas de desarrollo dentro de los próximos cinco a diez años. El documento describe los principales sistemas, técnicas y algoritmos que se utilizan en la actualidad e indica qué tipo de problemas suelen ayudar a resolver. Proporciona una descripción detallada de cuatro áreas que probablemente se desarrollarán significativamente al implementar tecnologías de IA: viviendas, fabricación, transporte y energía.

Sobre el asunto del sesgo de datos, señala que aunque se eliminen los atributos propensos al sesgo de los datos de entrenamiento (como raza, género, orientación sexual o religión) es posible que no sea suficiente, ya que existen otras variables en el modelo que pueden servir como representantes del sesgo. Los autores piden un mayor trabajo interdisciplinar para desarrollar enfoques más precisos que permitan controlar el sesgo.

Como E.B White nos recuerda, el sesgo es difícil de evitar. Hoy en día quizás es más conocido como autor de libros infantiles, incluidos “Stuart Little” y “La telaraña de Carlota”, pero también es colaborador habitual de la revista The New Yorker y coautor de una de las guías de estilo más conocidas y prestigiosas. En el contexto del sesgo, White afirmó que no existe la objetividad: “nunca he visto un escrito, político o no político, que sea imparcial. Todo escrito sigue la tendencia que tiene el escritor, nadie es totalmente objetivo”.

El sesgo es una realidad en el aprendizaje automático. En la ciencia de los datos se refiere por lo general a una desviación de la expectativa o a un error en los datos; pero el sesgo es más que eso. Todos estamos condicionados por nuestros entornos y experiencias, “nadie es totalmente imparcial”, y llevamos con nosotros diferentes tipos de bagaje social, político o basado en valores. A veces nuestros horizontes no son tan amplios como nos gustaría creer y, como resultado, los grandes volúmenes de datos que se utilizan para entrenar los algoritmos no siempre son lo suficientemente diversos o variados. Es frecuente que en los datos o algoritmos haya un sesgo humano real.

La buena noticia es que el sesgo en el aprendizaje automático se puede detectar y disminuir con bastante facilidad. La mala noticia es que puede ser difícil llegar al fondo de cómo los algoritmos toman decisiones para resolver los problemas, ya que la mayoría de las veces los algoritmos operan dentro de una “caja negra“.

Hay cuatro tipos comunes de sesgos relacionados con el aprendizaje automático.

Los algoritmos solo son tan buenos como sus desarrolladores. Tal como indica The New Scientist, el aprendizaje automático tiende a amplificar el sesgo sexista y racista del mundo real. Lo vemos, por ejemplo, en el software de reconocimiento de imágenes que no identifica correctamente las caras que no son blancas. De forma parecida, las muestras de datos sesgadas pueden enseñar a las máquinas que las mujeres compran y cocinan, mientras que los hombres trabajan en oficinas y fábricas. Este tipo de problema suele ocurrir cuando los científicos que entrenan los datos introducen involuntariamente sus propios prejuicios en el trabajo que realizan.

Los sesgos también pueden ocurrir cuando una muestra se obtiene de tal manera que algunos miembros de la población estadística prevista tienen menos probabilidades de ser incluidos que otros. En otras palabras, los datos utilizados para entrenar un modelo no reflejan con precisión el entorno en el que operará.

Se podría introducir un sesgo de muestreo, por ejemplo, si un algoritmo utilizado para el diagnóstico médico se entrena solo con los datos de una población. Del mismo modo, si un algoritmo destinado a operar vehículos sin conductor durante todo el año se entrena solo a partir de los datos recopilados durante los meses de verano, una nevada podría confundir el sistema.

La distorsión del valor sistemático se produce cuando el verdadero valor de una medición se sobrestima o subestima sistemáticamente. Este tipo de error generalmente ocurre cuando hay un problema con el dispositivo o proceso utilizado para realizar las mediciones.

En un nivel relativamente simple, pueden producirse errores de medición si los datos de entrenamiento se capturan en una cámara que filtra algunos colores. A menudo el problema es más complejo.

En la atención sanitaria, por ejemplo, es difícil implementar un proceso uniforme para medir los datos de los pacientes a partir de registros electrónicos. Incluso los registros superficialmente similares pueden ser difíciles de comparar. El motivo es que un diagnóstico generalmente requiere interpretar los resultados de las pruebas y hacer varios juicios en diferentes etapas de la evolución de una enfermedad, y el momento de la decisión inicial depende de cuándo el paciente se sintió lo suficientemente mal como para acudir al médico. Un algoritmo debe ser capaz de tener en cuenta todas las variables para hacer un pronóstico preciso.

El sesgo algorítmico es lo que sucede cuando un sistema de aprendizaje automático refleja los valores de las personas que lo desarrollaron o entrenaron. Por ejemplo, el sesgo de confirmación se puede convertir en un algoritmo si el objetivo, ya sea intencional o no intencional, es demostrar una suposición u opinión. Esto podría suceder en un entorno empresarial, periodístico o político, por ejemplo.

Ha habido varios casos notorios de sesgo algorítmico relacionados con redes sociales y motores de búsqueda e incluso en el ámbito de la contratación corporativa.

Además del comité conjunto con ISO sobre IA, IEC es uno de los miembros fundadores de Open Community for Ethics in Autonomous and Intelligent Systems (OCEANIS). Reúne a organizaciones de normalización de todo el mundo con el objetivo de aumentar la conciencia sobre el papel de las normas a la hora de facilitar la innovación y abordar cuestiones relacionadas con la ética y los valores.

Es esencial que las máquinas continúen siguiendo la lógica y los valores humanos y, al mismo tiempo, eviten el sesgo humano, ya que reemplazan a las personas en algunos procesos de la toma de decisiones. Las normas internacionales ofrecen una respuesta a muchas de las preocupaciones. Crear normas basadas en el consenso implica proporcionar la transparencia necesaria que garantice la calidad de los datos utilizados. El proceso de normalización también requerirá la comprensión y la adopción de medidas que reduzcan el impacto de los posibles sesgos resultantes de los algoritmos. Por encima de todo, la normalización aumentará el conocimiento sobre la forma en que se construyen y operan los algoritmos, y facilitará que las víctimas del sesgo cuestionen las decisiones basadas en datos.