El exministro de Justicia y exprecandidato presidencial José Antonio Gómez volverá a la discusión pública con el lanzamiento de la Red de Integridad y Estado Abierto (RIEA), una nueva fundación y centro de estudios que buscará abordar materias de probidad, transparencia y acceso ciudadano a información del Estado.

Se tiene previsto que la organización sea presentada oficialmente el próximo 27 de agosto, durante un seminario que se realizará en la Cepal y que tendrá entre sus ejes la integridad pública, el Estado abierto y la confianza ciudadana.

Gómez asumirá como presidente de la nueva entidad, que pretende reunir representantes del sector público, el mundo académico, privados y organizaciones de la sociedad civil.

“Esperamos aportar en recuperar la confianza ciudadana a través de lograr la mayor transparencia en los datos del mundo público y que estos lleguen a la comunidad en un lenguaje claro”, señaló el exministro.

Uno de los primeros focos que la organización buscará instalar será el uso de inteligencia artificial y algoritmos por parte de instituciones estatales, particularmente cuando estos sistemas intervienen o apoyan decisiones que tienen efectos sobre las personas.

“Uno de los temas más relevantes hoy es el uso de la IA y cómo esto afecta a los ciudadanos. Una tarea importante es que no basta con saber que se usa la IA, sino que es necesario transparentar y conocer los algoritmos con que se trabajan”, sostuvo Gómez.

El exministro puso como ejemplo el eventual empleo de estas herramientas en el sistema judicial, donde, planteó, resulta necesario conocer los criterios utilizados cuando una tecnología interviene en decisiones públicas.

“Nuestro fin último es lograr la mayor transparencia y entregar la información con lenguaje simple y claro”, agregó.

Un registro para verificar algoritmos públicos

Entre las primeras propuestas que prepara la RIEA se encuentra la creación de un “Registro Verificado de Algoritmos Públicos”. La iniciativa busca añadir un mecanismo de verificación independiente que permita revisar si los organismos públicos están declarando efectivamente todos los sistemas que utilizan.

De acuerdo con la propuesta, la transparencia no debiera limitarse a informar que una institución utiliza un determinado sistema, sino que debería permitir conocer cómo funciona cuando interviene en decisiones que puedan afectar derechos.

Entre los ejemplos que la fundación busca poner en discusión están los algoritmos utilizados para priorizar listas de espera, asignar beneficios o determinar fiscalizaciones, además de los mecanismos disponibles para que una persona pueda cuestionar una determinación apoyada por un sistema automatizado.

La RIEA plantea que, en esos casos, debiera ser posible conocer cómo se llegó a una decisión, quién responde por ella y cuáles son las vías disponibles para impugnarla.

La organización también pretende proponer que la información obtenida mediante ese registro pueda servir como insumo para la labor fiscalizadora de la Contraloría General de la República.

Ese punto, sin embargo, corresponde por ahora exclusivamente a una propuesta de la nueva fundación y no forma parte del convenio de colaboración que ambas instituciones suscribieron el pasado 18 de agosto.

Dicho acuerdo fue firmado en el marco de los objetivos de la Convención de las Naciones Unidas contra la Corrupción (UNCAC).

Debate legislativo sobre inteligencia artificial

El lanzamiento del centro de estudios coincide además con el requerimiento del Congreso a transparentar el uso de inteligencia artificial por parte de los parlamentarios.

Según el análisis elaborado por la propia RIEA, uno de los aspectos que debieran reforzarse es la gobernanza y fiscalización de los sistemas de IA utilizados por organismos estatales.

La organización pretende instalar la discusión sobre qué estándares de transparencia deberían exigirse al Estado cuando emplea estas tecnologías, especialmente si sus resultados influyen en decisiones administrativas o en derechos de las personas.

Desde la fundación señalan que su planteamiento no busca oponerse al uso de inteligencia artificial en el sector público. Por el contrario, sostienen que estas tecnologías también pueden emplearse para detectar irregularidades y riesgos de corrupción, pero plantean que los sistemas deben ser auditables.