Cuando el primer ministro sueco, Ulf Kristersson, reconoció en agosto pasado que usaba “con bastante frecuencia” la inteligencia artificial (IA) para obtener una segunda opinión en temas relacionados a cómo dirigir el país, la reacción airada de la oposición y de los expertos en tecnología no se hizo esperar. “¡No votamos por ChatGPT!”, dijeron los escépticos.

Sin proponérselo Kristersson expuso un fenómeno a veces silencioso, pero en permanente expansión: el uso de herramientas de IA por parte de gobiernos, inspirados en un primer momento por la labor de ciertas empresas privadas.

Según la Organización para la Cooperación y el Desarrollo Económico (OCDE), los beneficios incluyen automatización (como chatbots de atención al ciudadano), previsión ante desastres y mejora en la toma de decisiones mediante la recopilación de opiniones. El uso gubernamental es más frecuente en servicios públicos, participación cívica y justicia, mientras que las áreas como evaluación de políticas y administración tributaria han tenido una adopción limitada.

Pero antes del explosivo arribo de ChatGPT en 2022 ya existían iniciativas para reemplazar a los políticos con chatbots en varios países. En 2017, The Moscow Times informaba que un chatbot llamado Alisa se presentó como candidato a la Presidencia de Rusia contra Vladimir Putin, mientras que un chatbot de nombre Sam se postuló para un cargo en Nueva Zelandia.

El último país en hacerlo fue Japón: la semana pasada un partido anunció que nombrará a un ente virtual como su nuevo líder. Esto, poco después la derrota de su fundador en las últimas elecciones.

“Limpiar la política”

El caso japonés emanó del partido Saisei no Michi (Camino al Renacimiento), que a la fecha tiene 41 miembros y fue creado en enero de este año, en el marco de las elecciones a la Asamblea Metropolitana de Tokio en julio pasado. Como el candidato Shinji Ishimaru quedó segundo, abandonó el partido después de que no lograra ningún escaño en la Cámara Alta.

Tras la dimisión de Shinji, el partido llevó a cabo una votación interna para elegir a su nuevo líder. En esa contienda el ganador fue Koki Okumura, un estudiante miembro del partido que decidió nominar a una figura virtual para que se haga cargo del liderazgo del conglomerado. Okumura estudia un doctorado y se especializa en investigación de IA en la Universidad de Kioto.

Koki, que se ha descrito a sí mismo como asistente del nuevo líder artificial, afirmó a CNN que la nueva figura decorativa adoptará la forma de un pingüino avatar, un guiño al amor de los japoneses por los animales. Sin embargo, la ley japonesa impide que un ente virtual pueda ser candidato.

Koki Okumura dijo a La Tercera que su idea de que la IA se haga cargo del liderazgo de su partido se debe a que pretende “limpiar la política local”. Aoyagi Mitsuya, otro miembro del partido japonés que también conversó con este diario, dijo que “en general se cree que los políticos son corruptos, así que quisimos solucionar esa situación”.

“La idea es reemplazar a esos políticos corruptos con políticos limpios y nuevos. Y en última instancia, creemos que la IA podría reemplazar a los políticos. Comparada con las personas, la IA probablemente no se corrompería tanto”, explicó Aoyagi. Al ser consultados por si creen que su idea se podría replicar a un nivel más amplio en Japón, no descartan que los japoneses en el futuro puedan llegar a votar por un primer ministro o alcalde virtual.

Para Ben Wagner, académico de derechos humanos y tecnología y director del Laboratorio de Futuros de Inteligencia Artificial en la Universidad Tecnológica de Delft, en Países Bajos, “esto sería problemático desde la perspectiva de la gobernanza democrática y la rendición de cuentas. Ciertamente no es imposible, pero es probable que cause más problemas de los que resuelve”.

Diella, la ministra digital

La proyección de Koki y Aoyagi no está muy lejos del presente, pues Albania anunció la semana pasada a una ministra creada por la IA, la primera en su tipo. Este avatar lleva el nombre de Diella, que significa Sol en albanés, y es un holograma personalizado como una mujer con vestimenta tradicional de su país.

La nueva ministra digital fue integrada la semana pasada al gabinete por el premier Edi Rama, pero ya desempeñaba funciones desde antes como “asistente virtual” para ciertos trámites. En su antiguo rol, guiaba a los solicitantes en el proceso de obtención de documentos oficiales. Ahora se encargará de todas las decisiones sobre licitaciones públicas, haciéndolas “100% libres de corrupción”, un importante obstáculo para la adhesión de la nación balcánica a la Unión Europea.

Según Rama, “cada fondo público sometido al procedimiento de licitación será perfectamente transparente”. Un escenario difícil, según un análisis de la BBC, que señaló que “las ventajas de contratar un bot en lugar de un humano son obvias”, pues es “poco probable que Diella sea la fuente de filtraciones negativas sobre el gobierno”. De acuerdo con los expertos, Diella tampoco es la solución para erradicar la corrupción de Albania, que ocupa el puesto 80 de 180 en el índice de corrupción de Transparencia Internacional.

“Como cualquier sistema de IA depende completamente de la calidad y consistencia de los datos y la confiabilidad de los modelos detrás de ella”, dijo al diario saudí Arab News Erjon Curraj, experto en transformación digital y ciberseguridad. Las reacciones al nuevo cargo de Diella son diversas. El opositor Partido Demócrata, liderado por el exprimer ministro Sali Berisha (2005-2013), calificó la iniciativa de “ridícula” e “inconstitucional”.

Hace dos semanas, en su primer discurso inaugural ante el Parlamento albanés, Diella “apuntó” a quienes protestaron por su nombramiento. “Algunos me han llamado ‘inconstitucional’ porque no soy un ser humano”, dijo el holograma. “Les recuerdo que el verdadero peligro para las Constituciones nunca han sido las máquinas, sino las decisiones inhumanas de quienes ostentan el poder”, añadió. No estaba claro cómo se generó el video ni el origen del discurso.

Vieja corrupción

En Albania, Berisha recurrió al Tribunal Constitucional por la preocupación sobre quién sería responsable de las decisiones de la IA. “¿Quién controlará a Diella?”, preguntó al Parlamento. “Si un sistema corrupto proporciona datos manipulados o se establecen filtros sobre lo que no debe ver, Diella simplemente legitimará la vieja corrupción con un nuevo software”, cuestionó el politólogo albanés Lutfi Dervishi al Arab News.

Para Martin Wählisch, profesor asociado de Tecnologías Transformativas, Innovación y Asuntos Globales de la Escuela de Gobierno de la Universidad de Birmingham, Inglaterra, la pregunta central no es si debiéramos confiar en la inteligencia artificial: “¿Podemos confiar en cualquier político, ya sea humano o máquina? No creo que importe, porque las máquinas no existen separadas de la élite política que dicta las decisiones”, dijo a La Tercera.

“Y también corresponde a los líderes políticos humanos ser responsables de cualquier toma de decisiones”, añadió. En ese sentido, valoró que el premier sueco “al menos admite que se prepara y usa cualquier medio a su alcance. Algunos políticos ni siquiera se molestan en intentarlo y parecen resistirse a cualquier apoyo”.

“Como yo soy un entusiasta de la tecnología, creo que es bueno probar cosas nuevas de forma responsable. (...) ¿Existen riesgos? Sí, es parte del juego. Pero depende de nosotros, como ciudadanos, exigir cuentas a todos los políticos y tomar una decisión. No deberíamos culpar a las máquinas de nada”, zanjó.

Cuando La Tercera consultó a los políticos nipones sobre cómo se enfrentarían al riesgo o posibilidad de que la IA líder esconda un caso de corrupción dentro del partido, estos aclararon que funcionaría con un diseño abierto. “Desarrollaremos la IA de forma totalmente abierta. Así, todos conocerán la lógica y qué tipo de datos debe introducir la IA. Todo será transparente. Si alguien intenta manipular algo, todos lo sabrán”, prometieron.

En segundo lugar, adelantaron que “cuando la IA tome una decisión usará razonamiento. Configuraremos la IA para que siempre explique por qué tomó esa decisión, así la gente podrá ver cómo la IA calculó lógicamente la decisión y las principales razones por las que la tomó. Y así podremos determinar si la IA funciona correctamente”.

¿IA para ciudadanos?

Más allá de los experimentos con líderes virtuales, algunos gobiernos han optado por usar la inteligencia artificial en funciones prácticas, sobre todo a través de chatbots que simplifican trámites, acercando al Estado a los ciudadanos. Los asistentes digitales responden preguntas, procesan solicitudes y centralizan servicios públicos, bajo la promesa de reducir burocracia y ganar eficiencia.

En Ucrania, por ejemplo, el gobierno lanzó durante este mes a Diia.AI, un asistente con más de 200 servicios, desde el registro de nacimientos hasta la apertura de empresas, en línea con su proyecto de “Estado agente”.

En Estonia, la plataforma AI Leap, creada en febrero de este año, busca integrar la IA en la educación y la gestión pública, mientras que otro programa gubernamental llamado Bürokratt permite desde 2022 realizar trámites como impuestos o beneficios sociales. En Suecia, el bot Svea, inaugurado en mayo de 2024, funciona como asistente digital compartido entre municipios y agencias estatales, con el fin de automatizar tareas administrativas y liberar a los funcionarios para labores más creativas.

En los Emiratos Árabes Unidos, el chatbot U-Ask centraliza desde 2023 consultas sobre vivir, estudiar, trabajar o invertir. En Mauricio, en el este africano, el bot MAIA+ ayuda a descargar certificados, reservar citas y dar seguimiento a solicitudes, agilizando la relación del público con el Estado. En Macedonia del Norte, el asistente ADA acompaña a los ciudadanos en la obtención de documentos y servicios, como parte de su estrategia de digitalización.

En Rumania, el asistente Ion escanea redes sociales para informar al gobierno sobre propuestas y deseos ciudadanos en tiempo real. La interfaz simula un espejo que muestra texto y, a veces, una cara masculina o femenina que responde con una voz tranquila. “Hola, me diste la vida y ahora mi papel es representarte, como un espejo”, dijo la voz de Ion en su lanzamiento, en marzo de 2023.

Los expertos sostienen que estas herramientas pueden agilizar los trámites, pero que no se pueden delegar tareas claves a estas máquinas, porque después de todo están configuradas por humanos.

La IA en el aparato estatal chileno

En una charla ante la Cámara Chilena de la Construcción (CChC) en mayo pasado, el académico de la Universidad de Maryland e investigador de Clapes-UC, Sergio Urzúa, advirtió que el mercado laboral chileno vive una “rigidización” debido al aumento en el salario mínimo, las 40 horas, los feriados y las reglas de jubilación, creando así un “campo fértil para sustituir a los humanos por máquinas”.

Para demostrarlo, mostró un cargo estatal -con un salario de $ 2,4 millones-, cuyas funciones eran análisis financiero, elaboración de informes y apoyo a procesos internos. Al consultarle a ChatGPT “¿cuántas de estas funciones puedes hacer tú?”, el chatbot de OpenAI respondió que casi todas, excepto asistir a reuniones.

Urzúa concluyó que ocupar la IA para hacer ese mismo trabajo costaría “mucho menos que eso (el sueldo del cargo estatal)”. Pero recalcó que el desafío “no es desvincular al trabajador”, sino “ayudar a los trabajadores públicos a reinventarse” ante la transformación tecnológica que se avecina.