En el cuento de ciencia ficción ‘La respuesta’ de Fredric Brown, unos científicos crean una máquina omnisciente que conecta todos los computadores de los planetas habitados del universo, a la cual se le pregunta -¿Existe Dios?, ante lo que la creación responde -Sí, ahora existe un Dios. Frente a eso, uno de los científicos trata de desconectar la máquina, pero “un rayo procedente del cielo despejado le abatió y produjo un cortocircuito que inutilizó el interruptor”.

Recientemente Albania hizo algo que recuerda este cuento escrito en 1954, en tanto ahora quiere delegar la respuesta de una de sus preguntas trascendentales a la tecnología. Se trata de Diella, una ‘ministra’ creada con inteligencia artificial (IA), encargada de supervisar y adjudicar todas las licitaciones públicas del país. La propuesta albanesa no pretende resolver la teología de miles de años de monoteísmo, pero sí excluir ministros bajo la promesa de asegurar una gestión “perfectamente transparente” y “100% libre de corrupción”.

La medida fue criticada y aplaudida, pero por sobre todo calificada como ‘irreversible’. Lo sintomático del asunto es que -haciendo una revisión rápida en Linkedin- los argumentos en este debate resultan planos y plásticos, como cortados por la misma tijera; la de la IA que creó a Diella, como ocurre últimamente en esa red social.

No es ‘tecnofobia’, pero tampoco hay que ser ingenuos. Detrás de estas super máquinas -cuyos algoritmos nos superan en la capacidad de procesamiento de datos, los que además suelen ser cajas negras-, hay intereses ‘a la antigua’, de poderosos grupos económicos y dueños de carne y hueso, que quieren maximizar sus ganancias e incrementar su influencia. Es el caso de Peter Thiel, un empresario cercano a Donald Trump, quien a través de Palantir podría convertirse en el nuevo factotum tecnológico.

Además, hay que considerar el impacto en la vida institucional. Diella pone el último clavo al ataúd de la confianza de los albaneses en sus políticos ‘humanos’, salvo, claro está, por el caso de Edi Rama, el primer ministro que la puso en el ‘cargo’, siendo el único que obtuvo réditos políticos por esto.

Las implicancias de algo así son amplias. Hoy sabemos que los asesores parlamentarios chilenos acuden a la IA para redactar proyectos de ley o indicaciones, lo que genera múltiples inquietudes. Así, podría plantearse en un futuro si es que no vale la pena dejar que la IA resuelva -por ejemplo- los guarismos de la Ley de Presupuesto, en lugar de los parlamentarios, en aras de encontrar eficiencia en la asignación del gasto.

Cualquier respuesta razonable debiese establecer que las fórmulas tecnológicas no pueden prescindir de la deliberación humana de los fines públicos, los cuales requieren de claras responsabilidades éticas, políticas y legales. Algo así implica, necesariamente, considerar espacio para el desarrollo de valores de probidad y transparencia, cuya cautela no debe ser delegable a la IA, pues no son valores extraterrenales disponibles en la nube, sino que fundamentan nuestra vida como comunidad política. Extraer esos elementos del proceso público de decisión, supone no solo un paso más hacia la erosión de la democracia, sino que también hacia la despolitización y la deshumanización de la esfera pública.

El episodio me recuerda a ‘El jefe del jefe’, una obra de Lars von Trier, en la cual un empresario inventa un jefe ficticio para no ser él quien reciba la carga de las decisiones difíciles, lo que lo lleva a contratar un actor que represente a su pretendido jefe. Es una comedia, pero tras las risas emerge una amarga inquietud respecto del concepto actual de ‘responsabilidad’, él cual se busca frívolamente delegar bajo una ilusión de eficiencia, que sólo esconde la casi imperceptible toma de posesión de poder por parte de una oligarquía digital irresponsable.

Por Cristóbal Osorio, profesor de Derecho constitucional, Universidad de Chile.