Crisis inacabada: ¿quién controla al robot?

La robotización de nuestras democracias es imparable e irreversible. ¿Puede dudarse…? En una serie de artículos que iniciamos tras la publicación de nuestro ensayo ‘Democracias Robotizadas’, hemos analizado la importancia que conlleva, en tiempos de crisis, robotizar cabalmente nuestras sociedades. Las críticas que se nos han planteado pueden agruparse en dos categorías diferenciadas: a) argumentar que la robotización es inútil, ya que no ha servido efectivamente para evitar la pandemia actual, y b) robotización, sí, pero ¿quién controla al robot? O parafraseando la célebre aporía ‘¿Quis custodiet ipsos custodes?’, ¿quién vigilará a los vigilantes? Y es que, en esta segunda aproximación, al estar el robot (computador) programado por los humanos, siempre emerge la tensión entre democracia y autocracia. La derivación final de ambas críticas es que es la robotización puede ser inútil, si no maléfica. Nada tan lejos de la realidad.

Permítasenos nuestro socratismo y refresquemos la idea básica de cómo funciona un robot hoy en día utilizando el ejemplo del coche Tesla. En realidad, el robot no es más que un conjunto de algoritmos que resuelven un problema que el humano pretende solventar o hacer más funcional. Por ejemplo, el robot que controla el programa de ‘autopilot’ de un coche eléctrico Tesla no es más que una serie de algoritmos que se concentran en encontrar una carretera transitable, al igual que lo haría automáticamente nuestro cerebro. Una vez encontrada la carretera, se asegura de que el coche se mantiene en ella, dentro de los límites de velocidad reglamentados y sin causar ningún accidente, llevando al viajero del punto A al B. La razón por la que los algoritmos son hoy capaces de resolver un problema impensable hace tan sólo 20 años (¿se acuerda el lector de las risas infinitas que provocaban las imágenes de los coches robóticos en el desierto en el ‘Darpa challenge’; merece la pena ver los vídeos de 2005 sobre este evento y sus intentos iniciales de construir un vehículo robótico) es el gran avance en la capacidad de cálculo de los computadores que se pueden instalar en los coches y el desarrollo de las redes neuronales artificiales. En el año 2020, los vehículos Tesla no sólo se conducen automáticamente con su computador de inteligencia artificial, sino que mejoran continuamente sus prestaciones merced a que el software del coche se actualiza automáticamente a través de la interconexión inalámbrica de dispositivos electrónicos de la compañía.

Los algoritmos de inteligencia artificial se basan mayoritariamente en las redes neuronales avanzadas y la ‘inferencia bayesiana’. Las redes neuronales avanzadas no son más que una serie de algoritmos que, en parte imitando cómo funciona una neurona en el cerebro, usan modelos de aprendizaje iniciales para inferir patrones en los datos que analizan; en conjunción con la inferencia bayesiana de modelos, proporcionan, básicamente, el motor de la inteligencia artificial hoy en día. El lector interesado puede experimentar por sí mismo lo que es la inteligencia artificial en el sitio web de Amazon sobre la materia (el lector que no sepa inglés sólo tiene que abrir los hipervínculos de este artículo con el navegador Google Chrome, que automáticamente traducirá al español el contenido de dichos enlaces; obviamente, esto se hace usando el motor de inteligencia artificial de Google para traducción).

[Recibe diariamente los análisis de más actualidad en tu correo electrónico o en tu teléfono a través de nuestro canal de Telegram]

Para una descripción sencilla (sin términos técnicos) de lo que es una red neuronal, el lector puede consultar la excelente página web towardsdatascience y, en particular, su descripción sobre ‘machine learning’. El lector interesado en entender los detalles técnicos de la inteligencia artificial puede seguir los documentos en estos dos cursos: carnegiaAI y Emse. En towardsdatascience, los más interesados encontrarán códigos escritos en el lenguaje Python para construirse su propio sistema de red neuronal inteligente.

Con el advenimiento de la revolución en computación cuántica, estos algoritmos de búsqueda de patrones van a ser todavía mucho más capaces; de hecho, supremamente capaces. Y ello va a facilitar la gestión y resolución de problemas que hasta ahora nos resultaban muy difíciles de afrontar. Esta revolución de supremacía cuántica permitirá que podamos manejar y buscar patrones en prácticamente todos los datos que genera la humanidad. Esta capacidad hará posible analizar todas las variables de la sociedad.

Nos gustaría dar otro ejemplo de cómo la inteligencia artificial está cambiando el mundo en el que vivimos. Nuestro colega Rabih Zbib, director de Inteligencia Artificial de la compañía tecnológica Avature, comentaba cómo los nuevos sistemas de inteligencia artificial que está desarrollando la compañía para automatizar la contratación son altamente superiores a lo que un ser humano puede hacer.

Esto se consigue gracias a la capacidad de buscar patrones y la explotación, por parte de la red neuronal, de las relaciones semánticas. Algo, el análisis semántico, que si se hubiese usado para analizar los mensajes de los médicos en Wuhan, habría facilitado frenar la pandemia.

[Escuche el ‘podcast’ de Agenda Pública: ¿Y el gobierno del pueblo?]

Por supuesto, el gran peligro es la cantidad de sesgos (raciales, de género, de estatus, de edad…) que tal sistema robotizado podría implicar. Pero resulta que el robot es más igualitario y equitativo que cualquier ser humano. Ello es posible y factible, claro está, si se programan las reglas del juego con los parámetros éticos necesarios.

Tras este prolegómeno técnico, volvamos al tema central de nuestro artículo: ¿quién controla al robot? ¿Quién, la red neuronal artificial? ¿Quién le da las pautas a seguir en caso de conflicto? El caso del auto-piloto de Tesla es ejemplar en este respecto, como ejemplo de disyuntiva moral y ética. El problema normalmente se enuncia de la siguiente manera: el coche en piloto automático lleva una madre y su hija de ocho años. En la carretera se encuentra de repente un niño también de ocho años cruzando la calle detrás de la pelota de fútbol. El piloto automático tiene dos opciones: atropella al niño con el balón y salva a la madre y su hija en el coche; o da un volantazo, derrapa, se estrella contra un muro y mata, solamente, a la hija en el coche, y la madre sobrevive. La pregunta es: ¿qué debería haber programado el programador humano en la red neuronal del computador del Tesla?

Para responder a esta pregunta es útil volver al inicio. Imaginemos que el Tesla lo conduce la madre y no hay ningún computador a bordo: ¿qué debería hacer la madre: salvar a su hija, o sacrificarla y matar al niño que cruza la calle? La respuesta es que no hay respuesta; es una cuestión ética sin solución. En realidad, el programador no debería programar nada a la red neuronal del Tesla, sino implementar reglas éticas, como las que seguimos los humanos: no matar salvo en circunstancias especiales, como la defensa propia, pongamos por caso. El punto es que la red neuronal puede aprender ella misma basándose en los ejemplos que se le van presentando. No hace falta que el programador decida para cada caso explícito si ya hay un sistema ético, código de conducta o solucionador de problemas (troubleshooting) instalado en el computador.

Es útil volver al hecho de que, tal y como está diseñada ahora mismo la inteligencia artificial, no es más que un sistema de búsqueda de patrones. Dado un conjunto de datos iniciales, un conjunto de aprendizaje que la misma red neuronal se puede generar según aprende, ésta encuentra patrones en los datos nuevos. Los seres humanos funcionamos de una manera muy similar: dado un conjunto inicial de datos, nuestra educación incluso autodidacta, actuamos según estas reglas dada una función de coste (‘cost funcion’).

Ilustremos nuestro tema con algún otro ejemplo político. El gran sistema democrático estadounidense, con sus controles y contrapesos (checks and balances) forjó la constitución de la primera gran república democrática de la modernidad. Se pretendía, en suma, que hubiese un sistema de reglas iniciales (el conjunto de entrenamiento inicial en el caso de la red neuronal) de tal manera que no hubiese abusos, o se neutralizaran entre ellas.

La historia posterior ha puesto las cosas en su sitio, mostrando que el sistema no era infalible. Los abusos de las grandes corporaciones se han debido principalmente a que la función de coste del sistema se sesgó hacia el enriquecimiento de unos pocos y la polarización social de la desigualdad, no a la mejora de la sociedad humana en su conjunto y a la consecución de lo que, en el imaginario anglosajón, se conoce como la buena sociedad (good society). En realidad, el problema que confrontamos en la actualidad, y que la crisis del coronavirus no ha hecho más que agudizar, ha sido que se han roto las reglas del juego, que se ha re-programado el sistema en mitad de la jugada (moving the goalposts).

Otro tema político de gran actualidad es la posible implantación de una renta básica. Requiere que se evite la picaresca, y es aquí donde un sistema robotizado puede ser crucial. En nuestras democracias robotizadas, la digitalización dineraria permite seguir funcionando como si nada hubiese pasado durante el confinamiento por la pandemia. Con la implantación del 5G, en nuestros teléfonos inteligentes será posible (también en la España vacía) hacer todo tipo de transacciones sin necesidad de soporte físico, ni siquiera de cajeros automáticos. Con el desarrollo imparable de la computación cuántica y la inteligencia artificial en la búsqueda de patrones, es cada vez más fácil dejar que los robos rastreen las transacciones monetarias en búsqueda de malversación o uso indebido.

Si todas las transacciones fuesen digitales, no habría capacidad de picaresca con el ingreso mínimo de ciudadanía, o quedaría reducida al mínimo. Así, la obligación de los ciudadanos vulnerables que reciben la prestación de ingresos mínimos de realizar su declaración de la renta anual sería algo sencillo de cumplir (además, recibirían su borrador, como ya sucede ahora para el común de los contribuyentes, listo para firmar y enviar telemáticamente).

Piénsese en otro efecto benigno, la práctica paralización de la economía sumergida tan extendida en países europeos como España o Italia, los más golpeados por la pandemia en las últimas semanas. Por supuesto, ello supone una pérdida de privacidad, ya que si todas las transaccione se digitalizasen se sabría perfectamente lo que uno ha hecho, lo que compra, adónde va y dónde decide. Pero se nos antoja que es el único modo de evitar la picaresca y, por ende, la deslegitimación de una política necesaria y oportuna.

Algún lector se rasgará las vestiduras por las implicaciones que ello tiene en cuanto a la falta de privacidad. Pero ese debate ya ha sido amortizado y no se quiere asumir. Como ya hemos expuesto anteriormente, y como sostiene el soplón Edward Snowden, cuya bonhomía difícilmente será reconocida en su justa medida, es que la privacidad ha dejado de existir.

La gran capacidad de pervertir el sistema social humano actual ha llegado a un punto de saturación especular con la Covid-19. La desigualdad ha crecido tan perversamente en el último siglo (véanse, por ejemplo, los trabajos de Branko Milanovic o Thomas Piketty) que nos hace pensar si no ha llegado la hora de robotizar también la cadena de decisión que afecta al bienestar de las personas, a fin de obtener decisiones más lógicas y consistentes con la ética que decidamos que tenga la red neuronal, y que no estén intermediadas por intereses de algunos representantes partidistas que sólo pretender mantener su poder e influencia. El economista Daniel Kahneman, en su libro ‘Pensar rápido, pensar despacio’, ha descrito cómo es mucho más racional y lógico pensar despacio y con un algoritmo que intuitivamente. ¿No será más eficiente y justo pensar lo que se está haciendo sin tomar decisiones lastradas por las urgencias de las situaciones azarosas? ¿No sería más eficiente dotar a los robots con reglas éticas y que sus cálculos nos propongan las soluciones mejores para una función de coste en la que maximiza la felicidad y el bienestar de los ciudadanos?

**

Contra la pandemia, información y análisis de calidad
Colabora con una aportación económica

Autoría

Deja un comentario