-
+
EL PAÍS

Inteligencia Artificial en la Administración pública: explorando los límites entre el desconocimiento y la innovación

Gabriele Vestri

7 mins - 7 de Febrero de 2024, 07:00

A finales de 2020, en el seno de la Universidad de Cádiz, realizamos una investigación involucrando los cuarenta y cinco municipios que componen la provincia de Cádiz. Formulamos dos sencillas preguntas: ¿disponen de sistemas de inteligencia artificial (IA)? y ¿disponen de sistemas de automatización de la actividad administrativa? En ese momento, ningún municipio —de los que respondieron— nos informó tener algún sistema de IA. Por otro lado, fueron muy escasos aquellos que declararon tener sistemas de automatización de la actividad administrativa. Debo señalar que en ese momento tuvimos que advertir acerca de las diferencias sustanciales entre un sistema de IA y otro que en cambio automatiza determinadas actividades administrativas, los municipios no tenían clara la diferencia. En ese momento, la IA no figuraba entre las prioridades de las Administraciones públicas. Se trataba de una tecnología que el sector público en general veía como algo lejano y de cierta exclusividad del sector privado tecnológico así como de las películas de ciencia ficción. 

Hoy, tres años después y con una grave pandemia de por medio, es justo preguntarnos si el escenario que detectamos es distinto o no. Sin duda, la COVID nos ha obligado a acelerar la transformación digital en un plazo reducidísimo. La Administración pública no ha sido ajena a este cambio y como cualquier otra organización, el sector público también ha avanzado bastante en este proceso de transformación. Sin embargo, si profundizamos en el binomio Administración pública-IA, la situación actual es más compleja de lo que parece. 

[Recibe los análisis de más actualidad en tu correo electrónico o en tu teléfono a través de nuestro canal de Telegram]

Aunque, evidentemente, existen organizaciones públicas más proactivas que otras, todo parece apuntar a que el sector público y especialmente las organizaciones de las entidades locales, han resultado rehenes de la IA. En otros términos, la IA se ha apoderado del debate haciendo desviar, por ejemplo, la atención de lo que todavía no ha concluido, es decir, la transformación de la administración “analógica” a aquella electrónica que desembocará en la implantación de una administración digital en la cual, sin duda, las tecnologías disruptivas jugarán un papel fundamental. Esta afirmación y solo para hacer un ejemplo, es tremendamente visible en las aulas universitarias. Basta con preguntar a los estudiantes si poseen un certificado digital y si operan con él, para darse cuenta de las caras de asombro que ponen. En cambio, cualquiera, sea o no estudiante universitario, conoce y muy probablemente utiliza a menudo el ChatGPT. 

Esto demuestra, en mi opinión, que la IA parece haberse convertido en un tema excéntrico en el cual la Administración pública también debe, casi por obligación, intervenir. No se trata de algo necesariamente negativo, sin embargo, una Administración pública debería apostar por la implementación de sistemas de IA tras un análisis robusto de las necesidades de la organización y por lo tanto teniendo presente los objetivos principales que quiere desarrollar y resolver mediante las herramientas de IA. 

Fijémonos, por ejemplo, en el gran incremento de los chatbots basados en IA que se encuentran hoy en las web de diferentes Administraciones públicas. Estos asistentes virtuales que encontraron cierta importancia durante la crisis sanitaria de la COVID-19 —respondían a preguntas repetitivas sobre la enfermedad y la pandemia— hoy deben responder a un abanico más amplio de preguntas. Es fácil probar cómo las respuestas no son precisas y demuestran que es todavía complicado sustituir una persona con una máquina. Obviamente, estos asistentes serán cada vez más precisos aunque debo señalar que hasta la fecha su presencia en las webs públicas es bastante marginal. Hoy día, los ciudadanos siguen prefiriendo relacionarse, a modo de front offcice, con una persona. Todo esto está sin duda relacionado con la brecha digital que existe en la actual sociedad y esto es un elemento que el sector público deberá tomar en cuenta. 

En el sentido expuesto hasta aquí, son escasas las estrategias que guían a cada organización pública en materia de implementación de sistemas de IA. La Estrategia Nacional de IA o las pocas estrategias autonómicas, necesitan de una evidente adaptación a las peculiaridades de las distintas organizaciones públicas y esto, sinceramente, no está ocurriendo. 



El riesgo, muy elevado, es que las entidades públicas adquieran sistemas de IA sin tener la capacidad y los conocimientos para aprovechar las potencialidades de esta tecnología. Si me permiten una analogía, es como comprar un coche antes de tener el carnet de conducir. Es evidente que la posesión de un vehículo puede facilitar la vida de una persona, sin embargo, si no lo puedes conducir de poco servirá tenerlo. 

Tener los conocimientos sobre los sistemas de IA que se quieren implementar, conlleva la responsabilidad de saber interactuar con ellos y por lo tanto, tener la capacidad de responder a las incidencias, sesgos etc. que puedan producir. En otros términos, parece necesario que las Administraciones públicas rehúsen de la carrera hacia la IA. No deberían experimentar con sistemas de los que desconocen su funcionamiento y por los cuales no pueden garantizar una mejor eficiencia de sus servicios. En otros términos, el sector público debe tener un plan de acción y sus inversiones en materia tecnológica deben responder a necesidades reales.

Además, el sector público debe enfrentarse a un ulterior problema representado por la resistencia cultural y burocrática dentro de las instituciones gubernamentales que puede obstaculizar la adopción de la IA. La naturaleza tradicional y jerárquica de algunas administraciones puede generar resistencia al cambio, especialmente cuando se trata de la incorporación de tecnologías disruptivas que siguen siendo bastante desconocidas.

Esto no es óbice por no entender la importancia de la IA también en el ámbito público. Existen sectores en los cuales, la IA ya es prioritaria. Solo a título de ejemplo, el ámbito sanitario, las smart city en donde la IA se suma al internet de las cosas (IoT) o los sistemas que colaboran en predecir cómo la intervención humana interviene en el cambio climático. Precisamente con estos ejemplos nos damos cuenta de la importancia de tener un objetivo concreto en el cual puede intervenir la IA. 

Asimismo, queda patente la necesidad de formar a los empleados públicos en materia disruptiva. No se trata naturalmente de convertir a todos los empleados públicos en especialistas en IA sin embargo, sí es necesario que los empleados públicos consigan domesticar los conceptos básicos de esta tecnología. La potencia de la IA será cada vez más grande aunque, no debemos olvidar que las normas nacionales y europeas, apuestan por la reserva de humanidad es decir, el humano optimiza y controla el sistema de IA. Esto será posible sólo a través del conocimiento. El conocimiento sirve asimismo para evitar que un sistema de IA destruya empleos. Como en cualquier cambio, en este caso también habrá pérdida de puestos de trabajo. Para mitigar este escenario es necesario que las personas sepan utilizar las herramientas disruptivas ya que, muy probablemente, no será una IA la que quite el trabajo, sino quienes sepan utilizarla. 

Estamos ante un gran desafío y la Administración pública no puede decidir si jugar o no este partido. El árbitro ya pitó el comienzo, ahora toca sacar las mejores capacidades que ayuden a crear un sector público eficiente y a la altura de los tiempos tecnológicos que nos esperan.
 
El sector público no es un sector cualquiera. En él se aúnan características únicas que responden a la necesidad de garantizar el interés público general. Por esta razón, los ciudadanos demandan sistemas de IA transparentes, éticos y que, como ha sido mencionado antes, mejoren la eficiencia de la Administración pública y de los servicios que ésta debe de prestar. 

¿Qué te ha parecido el artículo?
Participación