La Revista UNE nº 23 de marzo de 2020 no tendrá versión impresa, en línea con las recomendaciones de las autoridades para evitar desplazamientos que no sean imprescindibles.
#QuédateEnCasa

Abracemos el poder de la tecnología

La IA es un campo nuevo y en rápida transformación, lleno de innovaciones y disrupciones

  • Facebook
  • Twitter
  • Pinterest
  • LinkedIn
ISO Focus
La revista de ISO, la Organización Internacional de Normalización, se llama ISOfocus y es bimestral. Aquí se reproducen algunos contenidos. ISOfocus incluye artículos, reportajes y entrevistas que muestran los beneficios de la aplicación de las normas internacionales. Bajo licencia Creative Commons (CC BY-NC-ND 2.5 CH)
Kath Lockett

¿Deberían preocuparnos los robots asesinos? En pleno debate social sobre los peligros de la Inteligencia Artificial (IA), hay expertos que creen que no deberíamos temer a esta tecnología. Aquí le contamos por qué podemos abrazar el poder de la tecnología.

La inteligencia artificial (IA) está por todas partes. La IA nos recomienda películas y restaurantes, evita que los coches se estrellen, reserva vuelos, rastrea taxis, identifica fraudes financieros y elige la música con la que hacemos ejercicio. En 1950, la IA se veía como una serie de máquinas que funcionaban de una forma considerada “inteligente” o que realizaban tareas imitando al ser humano. Desde entonces, el uso de computadoras y la generación de datos han aumentado exponencialmente, y se estima que cada día se producen 2,5 billones de bytes.

 

Gran parte de estos datos son datos generados, o bien información recogida por el uso diario de teléfonos celulares, redes sociales e Internet. Esta información se conoce habitualmente con el término “big data” y es donde la IA resulta útil. La IA utiliza el aprendizaje automático para analizar estos datos en tiempo real a una velocidad y con un volumen que ningún ser humano podría emular. Por tanto, no es de extrañar que el sector privado haya abrazado la IA y la utilice cada vez más para obtener una información más precisa sobre los comportamientos de compra, las transacciones financieras y la logística y para predecir tendencias futuras.

 

Desde las Naciones Unidas reconocen el poder de la IA y están trabajando con el sector privado en la “filantropía de datos”, una filosofía que hará que cierta información, como encuestas, estadísticas y perfiles de consumidor, se utilicen en beneficio del público en general. Por ejemplo, los investigadores emplean satélites y sensores remotos con tecnología de la IA para predecir eventos climáticos extremos que influyen en la agricultura y la producción alimentaria en los países en desarrollo.

 

En esta misma línea, ISO –junto con su organización hermana, la Comisión Electrotécnica Internacional (IEC)– ha identificado la necesidad de desarrollar normas relativas a la IA capaces de beneficiar a todas las sociedades. El subcomité ISO/IEC JTC 1/SC 42 dedicado a la inteligencia artificial nació hace dos años y ha publicado ya tres normas relacionadas con el big data, con otros 13 proyectos en desarrollo. Presidido por el estratega de negocios y tecnología Wael William Diab, su objetivo es desarrollar e implementar un programa de normalización de la IA para guiar a otros comités de ISO en el desarrollo de aplicaciones de la IA.

El 90 % de los datos del mundo se ha generado en apenas los dos últimos años

Marcar límites

El campo de acción del SC 42 en el desarrollo de la IA es amplio y abarca su terminología básica y definiciones, la gestión de riesgos, el sesgo y la confiabilidad de los sistemas de la IA, la robustez de las redes neuronales, los sistemas de aprendizaje automático y una visión de conjunto de las cuestiones éticas y sociales. Son veintisiete los países miembros que participan en este programa, con otros 13 países como observadores. Ray Walshe, Profesor adjunto de Normalización de las TIC en la Universidad de Dublín, Wo Chang, asesor de datos digitales del Laboratorio de Tecnologías de la Información (ITL) del Instituto Nacional de Normas y Tecnología (NIST) de los EE. UU., y el Dr. Tarek Besold, asesor científico de Neurocat en Berlín y director general de comportamiento (CBO) de Telefónica Innovation Alpha Health en Barcelona, son tres de los miembros clave de este comité. ¿Se identifican con Peter Parker cuando se convirtió en Spiderman? Un gran poder conlleva una gran responsabilidad.

 

El Dr. Besold no se muestra preocupado: “La IA es un campo nuevo y en rápida transformación, lleno de innovaciones y disrupciones. Necesitamos definir la situación actual y hallar definiciones sensatas de los mecanismos y tecnologías de la IA. Sí, el desarrollo de normas y estándares es una ingente tarea y la interoperabilidad es vital ante el enorme alcance de la IA. La IA encaja en muchos futuros diferentes, como una herramienta más que como líder”.

 

El SC 42 está “partiendo de cero”, afirma Chang. “Aportamos marcos y herramientas de rendimiento interoperables en forma de normas sobre la IA y el big data que las administraciones y la empresa privada podrán utilizar conjuntamente. Estos marcos establecen las “condiciones límite” de la IA que es posible definir a partir de probabilidades para determinar los factores de riesgo. Pero no solo límites, sino una red de seguridad que aplica la administración de riesgos para implementarlos”.

 

Será labor de los gobiernos de todo el mundo decidir hasta dónde llegará la regulación. Ray Walshe afirma que “el público necesita comprender que hay diferencias entre la normalización, la legislación y la regulación. El noventa por ciento de los datos del mundo se ha generado en apenas los dos últimos años. Se trata de un increíble aluvión de datos estructurados y no estructurados que hay que almacenar, consolidar, analizar y correlacionar para toda una legión de empresas, gobiernos e investigadores que proporcionan herramientas y servicios. Los gobiernos y la industria privada recurrirán con frecuencia a las Normas Internacionales como referencia a la regulación para asegurarse de responder por igual a las necesidades de la industria, la seguridad de la sociedad y las cuestiones éticas”.

Cómo enredar a la IA

Cómo enredar a la IA

La seguridad de los datos y su uso son preocupaciones constantes de nuestra sociedad, especialmente si hablamos del temido “error informático”. Las matemáticas emergen como un ingrediente crucial. El Dr. Besold afirma que los programas de IA juegan un “juego numérico” en el cual los investigadores generan ataques y defensas en los sistemas de AI en un intento de “enredarlos” y desarrollar soluciones a los problemas que descubren.

 

La IA se centra en una alta especificidad, lo que significa que se adapta a una tarea específica, recuerda Besold. “La IA nos evita la lenta y aburrida tarea de programarlo todo, pero sigue necesitando reglas y medidas establecidas por seres humanos. Si aplicamos límites de seguridad a un vehículo sin conductor, resulta obvio que esta tecnología necesita salvaguardias y definiciones estándar. ¿Es un riesgo aceptable el de atropellar a una persona mayor o un niño? Por supuesto, ninguno de ellos es aceptable, y queremos ayudar a los gobiernos y a las industrias a aceptar y aplicar las medidas que recomendamos”.

“En la evaluación de riesgos, la probabilidad es la clave”, coincide Wo Chang, quien nos habla de gatos como un ejemplo contundente : “Si hablamos del reconocimiento de imágenes, veremos que cualquier sistema eficaz generará un error si el programa no lo ha experimentado con anterioridad, y lo desconecta. El sistema ha recibido millones de imágenes de gatos y perros para afinar su capacidad para distinguir entre felinos y canes. El sistema se ha entrenado en condiciones bien definidas, pero es imposible modelarlo todo. ¿Qué ocurre si se le presenta un gato que lleva pajarita? Nos demuestra que, si se modifica una parte de una imagen, los resultados pueden ser muy diferentes. Se trataría de un “bug” (o un gato con pajarita) que no responde al entorno entrenado ni al funcionamiento del sistema, e impone una restricción de seguridad para evitar fallas. En aplicaciones más serias, la realización de ensayos exhaustivos permite determinar probabilidades y desconectar el sistema para evitar decisiones o fallas más catastróficas”.

Confíe en sus datos

A medida que la IA se introduce en áreas potencialmente sensibles, como la medicina, la seguridad y la banca, sigue existiendo el riesgo de que el sesgo humano influya en los datos empleados. El Dr. Besold lo confirma:

 

“La IA padece sesgo, pero podemos acordar una definición estándar para abordarlo. Los reguladores pueden aceptar un sesgo de 5/10 como aceptable en los dispensadores de jabón, pero jamás si hablamos de vehículos sin conductor”.

 

Afirma también que, en el campo médico, los gobiernos y la sociedad deben decidir si podemos vivir en un mundo validado. ¿Nos parece bien usar datos que provienen en su mayoría del primer mundo, para el primer mundo y en el primer mundo? ¿Aceptan los reguladores que los datos solo se puedan aplicar a estas personas, o insisten en que deben funcionar para todo el mundo, aunque sean estadísticamente menos precisos?

 

“Por ejemplo, los trasplantes de órganos: la IA podría tener acceso a todos los historiales médicos disponibles en todo el mundo y aplicar una enorme variedad de parámetros para determinar qué persona encabeza la lista de espera, lo que reduciría los rechazos de los órganos trasplantados y mejoraría considerablemente los desenlaces clínicos. Sin embargo, si usted estuviera en una lista de espera de trasplantes y viera que operan antes a otras personas, ¿aceptaría los datos en los que se basa tal decisión?

 

La confiabilidad es vital. El comité y los investigadores de este campo deben examinar cómo otros campos, tales como la medicina y la automoción, aplican estas medidas y se ganan la confianza de gobiernos y de la sociedad en su conjunto. Según Wo Chang, el aprendizaje automático está empezando a examinar las necesidades más acuciantes del mundo en desarrollo. En África, el acceso a la energía es un problema considerable en las zonas rurales. Ante la gran aceptación del smartphone en este continente, se están desarrollando aplicaciones capaces de diagnosticar problemas médicos básicos en las clínicas remotas y proporcionar datos preliminares, tales como previsiones meteorológicas, calidad del suelo y recomendaciones para cultivos”.

El ámbito de la investigación progresa más rápidamente que el de las aplicaciones

Miedos y fobias

A pesar de estos avances, buena parte del público ve la IA como un desarrollo a temer, e imagina robots que se convierten en Terminators de cine capaces de reemplazar al ser humano. “Es algo que no veré durante mi vida”, afirma Ray Walshe. “Pero no me malinterpreten: la IA es toda una revolución y es capaz de realizar tareas muy precisas y a alta velocidad. Su capacidad impresiona y supone un enorme ahorro de costos, pero se conoce como “inteligencia estrecha”. El cerebro humano es capaz de hacer esa tarea “estrecha”, pero también miles de otras tareas más “amplias” y complejas”. La robótica es una de las áreas más apasionantes para el desarrollo de la IA, pero el mito de que las máquinas llegarán a poseer una inteligencia general artificial como la de Terminator no ocurrirá en un futuro previsible.

 

“La IA sigue siendo una promesa, más que un desafío superado”, coincide el Dr. Besold. “El ámbito de la investigación progresa más rápidamente que el ámbito de las aplicaciones. Los brazos robóticos de las fábricas solo saben hacer aquello para los que se programen; no hay nada de “inteligente” en ellos. Cada vez que hay que cambiar algo, quizá trabajar en el lado contrario de un vehículo, hay que cambiar la programación y se requiere un ser humano”.

 

El Dr. Besold afirma que los desarrolladores de la IA necesitan acercarse más a la sociedad para aportar transparencia; Chang considera que las normas desarrolladas por el comité para abordar la robustez de los sistemas, la calidad de los datos y los límites aumentarán la confianza y la capacidad para interactuar con toda una variedad de repositorios de datos.

 

Los tres miembros del comité prevén un cambio de los puestos de trabajo, no su desaparición. La IA realizará más trabajo manual y tareas rutinarias tales como contratos y documentos estándar, lo que dará a las personas más tiempo para centrarse en tareas que requieren empatía, dotes interpersonales en el tratamiento médico, aspectos éticos y pensamiento lateral. Surgirán oportunidades para la reeducación y para trabajar en situaciones más retadoras e interesantes.

 

“Resulta irónico que el uso creciente de la IA en los entornos de trabajo haya supuesto la revitalización de los movimientos sindicales”, afirma el Dr. Besold. “En un centro educativo u hospital, el uso de la IA para la logística o los conocimientos declarativos, tales como hechos, fechas y cifras, podría reducir el número de horas de trabajo semanales. ¿Despedirán a parte del personal los gobiernos y empleadores, o negociarán una semana de trabajo más corta para permitir una vida más equilibrada? Aquí es donde el consenso es fundamental: ¿qué es lo que más beneficia a la sociedad?”

Nuevos horizontes

Nuevos horizontes

Las tendencias futuras y los beneficios de la IA girarán en torno a más aplicaciones manos libres, según Wo Chang. “Las gafas inteligentes permitirán a los usuarios observar algún objeto, por ejemplo, una lavadora rota, y obtener información de qué falla, dónde está el problema y cómo solucionarlo. Si hablamos de turismo, podremos mirar un edificio y descubrir la historia, la función y los servicios que ofrece al pararnos frente a él”.

 

Dejando a un lado las gafas inteligentes, Chang tiene esperanzas más sublimes. “Si los gobiernos y las empresas son capaces de situar en primer plano a los ciudadanos y clientes y aprenden a aprovechar lo mejor de la IA y de su gente, estaremos ante un futuro muy prometedor”.

Ray Walshe tiene un interés personal en el uso de la IA para alcanzar los objetivos reunidos en los Objetivos de Desarrollo Sostenible de las Naciones Unidas, un llamamiento universal a la acción para garantizar la paz y la prosperidad de la humanidad. “¿Cómo podemos usar la IA para ayudar a mitigar la pobreza en todo el mundo, el hambre y la desnutrición, para mejorar el agua y el saneamiento, la igualdad de oportunidades en la educación, los aspectos laborales y de género, y para acelerar el desarrollo de las naciones en desarrollo ? Se trata de importantes desafíos que requieren tecnologías disruptivas y revolucionarias, además de la colaboración de expertos a escala mundial “.

 

Debemos ir más allá de poner orejitas en los “selfies” de nuestros amigos en las redes sociales, afirma el Dr. Besold. “Mi esperanza de cara al futuro es que las aplicaciones reales de la IA se traduzcan en un mayor esfuerzo logístico que contribuya a campos como la medicina, la agricultura, el cambio climático y los descubrimientos científicos, todas ellas aplicaciones importantes que beneficiarán a la sociedad”.

 

Todo indica que el subcomité de inteligencia artificial ISO/IEC JTC 1/SC 42 tiene mucho trabajo por delante.

Números anteriores

Consulta números anteriores en esta sección, los números a partir de marzo de 2018 están disponibles en versión Online y todos están disponibles para descarga en PDF. Utiliza los cursores o desplace las revistas para acceder a los contenidos.
Utilizamos cookies propias y de terceros para mejorar nuestros servicios y mostrarle publicidad relacionada con sus preferencias mediante el análisis de sus hábitos de navegación. Si continua navegando, consideramos que acepta su uso. Puede cambiar la configuración u obtener más información aquí.