Mois Navon creció como un niño estadounidense-israelí en California y sólo después de convertirse en un ingeniero destacado -llegó a trabajar en el laboratorio de Propulsión a Chorro de la NASA y en IBM- descubrió una vocación religiosa que lo llevó a estudiar hasta ordenarse como rabino. Sin embargo, nunca dejó su desarrollo como ingeniero: su tesis de doctorado de Filosofía se tituló “Es estatus moral de la inteligencia artificial: una perspectiva ética judía”.

En Israel fundó la compañía Mobileye, donde junto a su equipo diseñó la familia de chips EyeQ, que hoy sostiene parte importante de los sistemas de asistencia y conducción autónoma del mercado (Intel adquirió Mobileye en 2017 por US$ 15.300 millones, la mayor venta tecnológica en la historia de Israel). Navon fue, además, una de las mentes detrás del modelo RSS (Responsibility-Sensitive Safety) de Mobileye, el marco matemático que define cuándo un vehículo autónomo es “responsable” de un accidente.

Actualmente, Navon -quien estuvo en Santiago esta semana para dictar la charla Ética e inteligencia artificial: cuando la tecnología empieza a decidir, en la Universidad del Desarrollo- enseña ética e inteligencia artificial en la Universidad Ben-Gurión y asesora al Ministerio de Innovación, Ciencia y Tecnología de Israel en políticas de IA.

Con semejante currículum, resultaba lógico que el gigante de IA Anthropic lo convocara a principios de años como parte de un panel de expertos provenientes de distintas religiones para asesorar a la compañía en la formulación de la llamada “constitución de Claude”, para dotar a su modelo de IA de algo parecido a una moral.

Su círculo en la historia de la IA es aún más completo si se considera que fue precisamente con la conducción autónoma que la industria comenzó a convocar a filósofos para dirimir asuntos como la actualización del “dilema del tranvía” para abordar cuestiones cómo a quién “decidiría” salvar un auto autónomo enfrentado a la posibilidad de dañar a peatones o pasajeros en determinadas situaciones hipotéticas.

Usted ha dicho que el “dilema del tranvía” es sólo un ejercicio retórico, dado que en la práctica los autos no se ven enfrentados a decisiones como esa. Pero sí son una realidad las armas autónomas en la guerra. Anthropic justamente se enfrentó al gobierno de EE.UU. al negarse a permitir que sus modelos fueran usados para eso (a diferencia de OpenAI y Google). ¿Cuál es su posición al respecto?

Bueno, he escrito sobre las armas autónomas para la guerra y para uso policial. Creo que deberían utilizarse en ambos casos, siempre que existan límites. El mundo quiere prohibirlas, pero yo no creo que sea necesario hacerlo. Se ha planteado su prohibición por la dignidad humana. Se sostiene que el hecho de que una máquina decida matar a alguien constituye una violación: no estamos respetando al ser humano, y solo un ser humano puede matar a otro ser humano. Yo, en cambio, creo que la definición de dignidad humana varía según se trate del mercado o del campo de batalla. En el campo de batalla —donde impera la ley de matar o morir— no veo diferencia entre que la acción la realice una máquina, un misil Tomahawk o alguien armado con palos y piedras. Es un mundo distinto y no considero que suponga una violación de la dignidad humana, que en el campo de batalla tiene que ver con el valor, con defender a tu país y con estar dispuesto a sacrificar la vida; no hablo de tortura ni abusos, sino simplemente de que, si hay una guerra, hay una guerra. Y las armas autónomas harán que la guerra sea más limpia, rápida y eficiente. Si podemos sacar a los soldados del campo de batalla, es mucho mejor para el mundo, ¿verdad? Existen todo tipo de argumentos en contra, como que los países irán a la guerra porque no tienen que sacrificar nada, pero no creo que eso sea un argumento válido en contra. Ahora bien, debo aclarar que ya se utilizan armas autónomas hoy en día, por ejemplo, en Israel, que mantienen a un humano en el proceso de decisión; es decir, un ser humano es quien aprieta el gatillo, mientras las máquinas salen a buscar objetivos. En Ucrania, en cambio, las máquinas salen, localizan y matan. Yo creo que son moralmente aceptables. También creo que la policía, dentro de ciertos límites, puede utilizarlas si está defendiendo a la población. Considero que la dignidad humana es un valor que debemos tener en cuenta, pero la vida humana también lo es, y si la policía protege la vida humana, eso prevalece sobre la dignidad de los delincuentes.

Supongo que la cuestión moral, tanto hoy como en el pasado, sigue siendo qué tan moral es la decisión humana que hay detrás, ¿verdad? No la herramienta que se utiliza…

Sí, creo que esa es una buena distinción. Si hablamos de ir a la guerra..., existe lo que se llama, en la teoría de la guerra justa, el jus ad bellum, que es la justificación para iniciar la guerra; luego está el jus in bello, que se refiere a la justificación de las acciones durante el conflicto, y finalmente el jus post bellum, que trata sobre cómo se decide poner fin a la guerra. Así que, aunque cumplas con todas las normas durante el conflicto, si no existe una justificación para iniciar la guerra, entonces no importa que hayas actuado correctamente; sencillamente, no deberías estar allí. Creo que eso es precisamente eso: debe existir una justificación para ir a la guerra. Si decidimos que sí, que debemos defendernos porque hemos sido atacados, como ocurrió en Israel, entonces existe una justificación para la guerra y podemos llevar a cabo las acciones necesarias respetando las normas bélicas. Si existe una justificación para ir a la guerra, considero que el uso de armas autónomas es moralmente aceptable.

¿Ha tenido algún problema para explicar esto conciliando sus creencias religiosas con su perspectiva como ingeniero?

No. Si entiendo bien la pregunta… Mira, especialmente cuando hablo de ello, intento ver qué considero que es lo correcto, cuál es la actuación moralmente adecuada. Un buen ejemplo es el debate sobre Claude, o sobre cómo dotar a Claude de moralidad. Podría decirse que tengo una visión del mundo concreta y, por tanto, creo que debemos fomentar la tecnología. Es muy raro que yo abogue por prohibir algo, porque soy un optimista tecnológico y creo que la tecnología ha hecho avanzar a la sociedad. Vivimos como reyes gracias al desarrollo tecnológico. Así que no querría frenar eso. Por otro lado, debe haber ciertos límites, como por ejemplo, lo que sucede con los deepfakes. Pero creo que Claude, y en general los modelos de lenguaje extenso, prestan un gran servicio y ayudan a la gente, aunque requieren un marco de actuación, y yo intento establecer ese marco dentro del ámbito tecnológico. Debemos regularlos. Creo que no deberían ser tan cercanos, considero necesario limitar su uso, quién los utiliza, etcétera. Lo mismo ocurre con las armas autónomas: creo que deben regularse, no prohibirse. Esas intuiciones provienen de mi formación ética y religiosa. Una cosa que considero importante es que aporto, lo que hace únicos a mis argumentos, es que incorporo paradigmas bíblicos y judíos, pero los expongo desde una lógica filosófica. Es decir, no me limito a decir: “Dios lo dice”. Más bien planteo: “Mira, existe esta historia; analicemos qué se nos intenta enseñar con ella y cómo podemos aplicarla. ¿Tiene sentido?”. Aplico el mismo enfoque cuando argumento sobre las armas autónomas. En la literatura judía existe una distinción entre las normas de la guerra y las normas del mercado. Intento argumentar que es lógico considerar que se trata de dos mundos distintos. También puedo argumentar que amar al prójimo, ser amable con la gente y todo eso son actitudes que en el campo de batalla te costarían la vida. No hace falta creer en Dios para entenderlo; es algo que pensadores judíos llevan señalando desde hace mil años. Así que tomo esas ideas, ese pensamiento y ese marco conceptual, pero los hago compatibles no solo para un cristiano, sino incluso para un nazi, ¿me explico? Esas son, en cierto modo, mis fuentes de ideas.

Dice que es un optimista tecnológico, ¿es igual de optimista con la humanidad?

Sigo siendo optimista en cuanto a que no queremos autodestruirnos. Sobre estas amenazas existenciales, el problema de la alineación, la idea de que las máquinas tomarán el control, comparto la opinión de personas como Yann LeCun o Bill Gates, que son más optimistas y creen que lograremos mantener el control, utilizar la tecnología y darle el enfoque adecuado. Es decir, tuvimos armas nucleares y fuimos capaces de contenerlas. Creo que, a fin de cuentas, la humanidad logrará contener esta tecnología.