El desafío de Pandora

«Los humanos son una enfermedad, el cáncer de este planeta. Sois una plaga, y nosotros somos la cura.» – Agente Smith (Matrix).

A finales de 2020, el gobierno español decide invertir 600 millones de € para darle un impulso a la inteligencia artificial (IA). Un poco tarde, pero en la línea de lo que un gobierno supuestamente progresista debe hacer. La IA está destinada a invadir nuestras vidas (ya lo está haciendo), y más nos vale tener algo que decir en este campo si no queremos perder la estela de los países que llevan tiempo apostando fuerte en ese terreno.
Hemos visto cómo la automatización inteligente de los procesos, la multiconectividad en la nube, la digitalización, el análisis de inmensas cantidades de datos, la monitorización instantánea y precisa de multitud de parámetros físicos, etc. nos abocan a un giro copernicano en la concepción del mundo que conocíamos. La llamada cuarta revolución industrial es ya imparable, y viene con una enmienda a la totalidad de nuestras actuales reglas de juego.
Pero toda revolución conlleva sus riesgos, y esta que nos ocupa no es una excepción. A continuación vislumbramos algunos de los retos a los que nos enfrentamos y que será necesario ir resolviendo paralelamente a la implantación de esta nueva tecnología.

Consecuencias en el empleo

La preocupación por la pérdida de puestos de trabajo a causa de la automatización de los procesos no es nueva ni es exclusiva de esta 4ª revolución industrial. Forma ya parte de nuestro inconsciente colectivo ese temor a perder el empleo cada vez que aparece un nuevo avance tecnológico. Y es que la tecnología siempre tiene ese perfil de doble filo, que por un lado nos facilita la vida y por el otro puede acabar con ella.
Pero el progreso tecnológico avanza imparable y a un ritmo exponencial. La proliferación de máquinas con una capacidad de cálculo brutal, alimentadas por unos algoritmos cada vez más sofisticados, hacen que realmente debamos reflexionar sobre la necesidad o vigencia de nuestros actuales empleos.
De hecho, ya en 2013 un estudio de la Universidad de Oxford advertía de que para el año 2035 un 47% de los actuales empleos (en EEUU) corrían riesgo de quedar obsoletos. Otro estudio de McKinsey de 2017 calculaba que, aunque solo un 5% de los trabajos pueden ser 100% asumidos por máquinas, el 60% de las profesiones es automatizable en un 30% de media. Con la tecnología de entonces.

Si quiere saber una estimación del riesgo de que su actual ocupación sea próximamente ejecutada por autómatas, puede consultarlo en una aplicación web, y tal vez concluya que debe empezar a reinventarse. En el siguiente gráfico se muestran algunos de los trabajos más afectados por la revolución tecnológica:

Probabilidad de que algunos empleos sean totalmente automatizados

Hasta no hace mucho, eran los oficios más rutinarios y físicos los que estaban amenazados de ser sustituidos por robots, y muchos se creían inmunes a ese virus por ejercer un trabajo más intelectual. Pero esa confianza era lógica si tenemos en cuenta sólo robots de hasta la 3ª generación. Hoy día, con la 4ª generación robótica en marcha y en espera de la 5ª, hasta los trabajos con un alto indice de eso que llamamos creatividad están amenazados.
El rápido desarrollo de los algoritmos de IA y el hardware necesario para ejecutarla cada vez más potente y asequible, empiezan a poner en solfa la pretendida inaccesibilidad de algunas tareas por las máquinas. Solo por poner algunos ejemplos de las barreras de creatividad que han sido ya superadas por autómatas:
– El excampeón mundial de Go se retira tras ser derrotado por AlphaGo, la máquina de IA desarrollada por Google Deepmind.
– Se lanza un disco de música interpretada por la London Symphony Orchestra, compuesta íntegramente por la máquina de IA de la UMA llamada IAMUS.
– Se pone a prueba LeoRobotIA, el primer robot periodista para generar contenidos informativos de forma totalmente autónoma.

Si tenemos en cuenta que los empleos más intelectuales son los mejor pagados, es fácil ver el aliciente que puede suponer para las grandes empresas la implantación de la IA en algunos de sus puestos de más alta remuneración. Para trabajos de carácter periódico y creatividad no muy exigente, puede ser tentador asignarlos a la IA por el ahorro de costes. Jennifer Jones, fundadora de las escuelas Green Ivy de Nueva York, cree que “la única razón por la que a día de hoy tenemos maestros para enseñar matemáticas básicas es el miedo social a reemplazarlos por una máquina, así como el impacto emocional que para la sociedad tiene que un niño aprenda de una máquina y no de una persona”.
Por último, no podemos dejar de mencionar a dos colectivos que pueden resultar especialmente perjudicados por la implantación de la Industria 4.0: parados mayores de 50 años y mujeres. Los primeros, por la dificultad de adquirir las nuevas habilidades necesarias para integrarse en el mercado laboral, a una edad en la que ni el nivel de exigencia intelectual ni el entorno social favorecen el reciclaje. En cuanto a las mujeres, y como ya ha advertido el Foro Económico Mundial en varias ocasiones, corren el riesgo de sufrir especialmente los cambios en el mercado laboral. El previsible aumento de la demanda de profesionales del área STEM (Science, Technology, Engineering and Mathematics) juega en contra de un colectivo femenino que tiene una presencia muy minoritaria en el mismo.

Auge del terrorismo cibernético

“Las empresas se dividen en dos: las que han sido ‘hackeadas’ y las que aún no lo saben”. Esta frase, popularizada por el CEO de Cisco John Chambers en el encuentro del Foro Económico Mundial en 2015, expresa de forma contundente la realidad a la que nos enfrentamos no ya en el futuro, sino hoy mismo.

Uno de los pilares de la industria 4.0 está cimentado en la Red, descargando en ella no solo cantidades ingentes de datos sino también tareas de computación y diagnóstico. Podríamos decir que dicho pilar está en la nube, lo cual sería una descripción bastante metafórica que indicaría por añadidura lo delicado de su situación. Solo por exponer una muestra, aquí incluimos algunos de los ataques informáticos más graves sufridos por grandes empresas en la última década:

Compañía	Cuentas robadas	Fecha
Yahoo	3000 millones	2013-2014
Marriott	500 millones	2014-2018
Ebay	145 millones	2014
Linkedin	100 millones	2012
Sony PlayStation	77 millones	2011
JP Morgan	83 millones	2014
Uber	57 millones	2016
Facebook	50 millones	2017

*Fuente: https://qz.com/1480809/the-biggest-data-breaches-of-all-time-ranked/

Y hay que tener en cuenta que estos ataques son únicamente los que se han hecho públicos, porque como se desprende de la frase inicial de Chambers, posiblemente estemos viendo solo la punta del iceberg. Además, a niguna empresa le gusta reconocer que los datos de sus clientes han sido expuestos por no contar con una seguridad adecuada. Según el Centro Criptográfico Nacional, en estos últimos años los ataques a empresas y organismos españoles se han incrementado de forma ininterrumpida, y no solo por parte de ciberdelincuentes o grupos hacktivistas, sino también por parte de Estados. La evolución en el número de lo que ellos llaman “incidentes de seguridad” que mostramos a continuación merece toda nuestra atención:

Incidentes de seguridad informática en empresas e instituciones públicas 2012 – 2018 (Fuente: https://www.ccn-cert.cni.es).

Actualmente, se estima que cada 39 segundos se produce un ciberataque a nivel mundial, y en España tenemos el dudoso privilegio de ser uno de los objetivos preferentes de la ciberdelincuencia. Según el Grupo CyberEdge en su última encuesta al respecto, España encabeza la lista de países por número de empresas que han visto su seguridad comprometida el último año por ataques informáticos (concretamente, el 93.7%), como se muestra en el siguiente gráfico:

Porcentaje de empresas que han visto su seguridad comprometida por ciberataques (Fuente: https://cyber-edge.com/cdr/)

Obviamente este panorama no es alentador, y es un aviso de que tenemos que tomarnos muy en serio el aspecto de la seguridad antes de desplegar la red y los dispositivos inteligentes de esta 4º revolución industrial. Hay que tener en mente que los delincuentes van a buscar cualquier vulnerabilidad, por remota que sea, para atacar nuestros sistemas. Sirva como ejemplo el caso de un casino londinense, donde los ciberdelincuentes pudieron introducirse en sus ordenadores centrales a través del termómetro inteligente de un acuario situado en el vestíbulo.
Y si le parecen pocos motivos para preocuparse, según un estudio de IBM el tiempo medio que tardan las empresas en detectar una brecha de seguridad en sus sistemas es de 197 días. Es decir, ahora mismo podrían estar entrando en el ordenador central de cualquier empresa y no se darían cuenta hasta pasados 6 meses. De media. Pero aún más preocupante, si cabe, es el hecho de que ese mismo estudio revela que estos tiempos no solo no se están reduciendo, sino que están aumentando, precisamente debido a la complejidad añadida por el despliegue de dispositivos inteligentes (IoT). Y se estima que en 2025 habrá más de 75.000.000.000 de dispositivos conectados.

El desafío de la Inteligencia Artificial

El uso intensivo de la inteligencia artificial (IA) en los procesos productivos y en los propios productos finales es sin duda uno de los rasgos diferenciadores de esta 4º revolución industrial. Está tan presente ya en nuestras vidas que incluso la RAE la seleccionó el pasado 2019 como uno de los términos que mejor definieron el año, y se ha subido también a esta ola con el proyecto LEIA para velar por el buen uso del lenguaje en humanos y máquinas.
Suponga que -en un futuro cercano- circula en un coche autónomo a gran velocidad por un puente, y de repente se cruzan en su camino una familia con niños pequeños. La IA de su vehículo calcula dos posibilidades: puede girar y salvar a la familia a costa de que usted muera en el choque o en la caída, o bien puede salvar su vida a costa de atropellar a la familia. ¿Cual es la mejor decisión, la moralmente más aceptable? Y sea cual sea su respuesta, si pudiera elegir entre versiones con las dos opciones pre-programadas según el modelo, ¿qué coche se compraría? ¿Y cuál cree que compraría su vecino?
Para estudiar estos dilemas, investigadores del MIT diseñaron una plataforma online, Moral Machine, donde cualquiera puede entrar y tomar decisiones morales según los distintos escenarios que se le plantean. Los resultados (gráfico siguiente) dieron lugar a un artículo publicado en la revista nature en 2018, y las preferencias con mayor consenso fueron salvar vidas humanas frente a animales, salvar siempre el mayor número de vidas posible, y salvar a los más jóvenes frente a los más viejos.

No obstante, cada país tiene una cultura diferente, y así se reflejó en los datos con notables variaciones en las decisiones tomadas. Y esto nos lleva a otro dilema: ¿qué decisiones morales debe tomar la IA, debería ser universal o contemplar distintos comportamientos en función de en qué cultura se comercialice la máquina? ¿Deberíamos fabricar máquinas inteligentes cuyas decisiones vayan en contra de nuestras convenciones culturales para poder venderlas a otros países?

Encuesta sobre preferencias morales concerniente a las vidas que debería salvar un coche autónomo en caso de accidente (Fuente: “The Moral Machine Experiment” – Revista Nature – https://twitter.com/edmondawad/status/1055310123604807681).

Supongamos ahora un algoritmo de inteligencia artificial que clasifica a los pacientes en una sala de urgencias, ¿debería dar prioridad a su padre con 80 años para intentar salvarle la vida o al hijo de 11 años de un amigo para intentar que no pierda un brazo? Factores como la empatía, la compasión, el altruismo… ¿cómo serán procesados por los sistemas de IA?
Watson, el sistema de IA de IBM, ya se está implantando en decenas de hospitales de todo el mundo para recomendar tratamientos a los pacientes. No obstante, en octubre de 2017 tuvo que ser retirado de un hospital danés por recetar medicamentos potencialmente mortales para los enfermos. El error se debió a que las fuentes de información de Watson eran sesgadas en cuanto a estudios y ensayos clínicos. ¿Estamos dispuestos a aceptar que una IA pueda equivocarse igual que cualquier humano, en cualquier actividad que se le asigne? ¿Bajo qué circunstancias y con qué consecuencias?
Sin embargo estas consideraciones morales en cuanto a algoritmos pensados para salvar vidas, se empequeñecen cuando entramos en el terreno de los algoritmos pensados para quitar vidas. Los drones militares son ya una realidad cotidiana, aunque aún con un nivel de inteligencia limitado. Pero la preocupación por este asunto es evidente, y como consecuencia cientos de expertos e investigadores en IA han dirigido a la ONU no una carta, sino dos, advirtiendo del peligro de implementar la inteligencia artificial en armas de destrucción. La última de estas cartas concluye con un frase ciertamente lapidaria: «No queda mucho tiempo para actuar. Una vez la Caja de Pandora se haya abierto, será difícil volverla a cerrar».

En junio de 2018, Google decidió abandonar el proyecto Maven, que en colaboración con el Pentágono consistía en dotar de inteligencia artificial a sus drones militares. La decisión fue forzada por los propios empleados de Google, que publicaron una carta respaldada por más de 3000 firmas en contra del proyecto.
Según el polifacético inventor, músico, empresario, escritor y Director de Ingeniería de Google, Raymond Kurzweil, la tecnología avanza de forma exponencial y no se detiene ante nada. Hoy día la pregunta ya no es si algún día una máquina será más inteligente que el ser humano, la pregunta es cuándo ocurrirá. Este evento es conocido como Singularidad, y Ray Kurzweil estima que ocurrirá mucho antes de lo que podríamos pensar, concretamente hacia 2029.

Podrían por tanto quedar menos de 10 años para que una máquina pueda pasar el famoso test de Touring y ser indistinguible de un humano. Y esto sería solo el principio, pues será inevitable que esa inteligencia artificial evolucione y se perfeccione en una espeluznante progresión geométrica. Quién lo consiga y para qué fines, debería ser un asunto de incumbencia internacional, no en vano tal avance supondrá un hito en la historia de la humanidad, un punto de inflexión de consecuencias imprevisibles.
La ventaja que supondrá contar con tal tecnología otorgará a su propietario un inmenso poder desconocido hasta ahora, el poder absoluto. Pensemos en un número indeterminado de dispositivos con una inteligencia igual o superior a la humana, pero con una velocidad de cálculo muy superior y con acceso instantáneo a toda la información disponible en la red. ¿Seremos capaces de consensuar, acotar y controlar dicho poder? Y si, en el mejor de los casos, así fuera, ¿podríamos mantenerlo a salvo de los innumerables ciberataques a los que sin duda será sometido?

La tecnología avanza muy rápidamente, y a veces desborda nuestra capacidad para gestionarla de forma segura. El futuro puede llegar antes de lo que pensamos, y haríamos muy bien en pensar con detenimiento cada paso que vayamos a dar, antes de avanzar el pie hacia el abismo.