Por Ricardo Baeza Yates, investigador del Instituto de Inteligencia Artificial Experiencial de Northeastern University, Silicon Valley; Profesor titular, DCC, Universidad de Chile; e investigador senior del Instituto Milenio de Fundamentos de los Datos
Frecuentemente en las noticias vemos casos de discriminación causados por sistemas que usan aprendizaje automático, particularmente de reconocimiento facial. Ejemplos de los últimos 4 años incluyen reconocimiento de criminales, tanto en China como en EE.UU., u homosexuales y preferencias políticas, ambos de Stanford, con el último publicado en la famosa revista Nature el pasado mes de enero. Si creemos que una característica humana nos hace mejores o peores y permite clasificarnos en categorías, ya sea el color de piel, el color de los ojos o el pelo, la estatura, ser calvo, zurdo o tener dislexia; no aceptamos que el 99,8% de nuestro ADN es el mismo de otras personas. Este es el renacimiento de la frenología, una pseudo-ciencia de fines del siglo XVIII que parece haber adquirido un nuevo ímpetu. Y ni hablemos de la manipulación de personas en redes sociales, con textos, fotos y videos generados por redes neuronales profundas, donde es difícil distinguir la realidad de la ficción.
Por esta razón, la ética ha saltado a la palestra en los últimos años en el ámbito de la inteligencia artificial (IA), para intentar evitar que decisiones automatizadas u otras aplicaciones, discriminen a ciertos grupos o perjudiquen a la sociedad en general. Y podríamos dar una larga lista de casos culminando en el reciente fallo italiano sobre repartidores de comida y discriminación laboral. Pero si investigadores y universidades con comités éticos no entienden que hacer algo por que se puede hacer, aunque se argumente que es para demostrar el peligro de que se use, y casas editoriales internacionales lo publican, tenemos un problema peor, también de fondo ético, donde las guindas del pastel son los casos del MIT recibiendo dinero de un pederasta y Google despidiendo sin ética a la co-líder africana de su grupo de ética (¡!) en IA.
En Chile, la ética es un concepto incómodo para muchos políticos y empresarios, pero uno espera que la ciencia sea un reducto protegido para que ella florezca. Lamentablemente, vemos desde casos de acoso sexual e investigadores que usan el trabajo de sus estudiantes sin incluirlos en las publicaciones, hasta cocinar los datos engañando a revisores y editoriales.
Por todo lo anterior, el caso Hetz, la punta actual del iceberg, es muy preocupante. Más aún porque es la segunda vez que hay acusaciones similares, la primera el 2013, y porque salpica a otros investigadores chilenos. Y cuando uno ve una defensa poco transparente y prolija, uno queda con dudas de que solo la falta de supervisión científica sea lo que explica muchos de los detalles experimentales expuestos. Por esto, aplaudo la decisión de hacer una investigación profunda por parte de la Universidad de Chile, mi alma mater. Esta debe ser una investigación muy seria, pues sino es como una persona con un tumor cancerígeno que decide sanar haciendo un curso de ética, un reciente e innovador remedio chileno. Y si no quiere hacer el curso, seguro que puede comprar un certificado que lo acredite, similar a un test PCR negativo falso para ir de vacaciones al extranjero, que se vendía en una comuna adinerada, ya que la oferta es generada por la demanda, no precisamente de ética.
Y esta falta subyacente de ética en nuestro país puede ser trágica para la nueva Constitución. Así es, pues por un lado tenemos grupos políticos que se organizan para ir unidos y mantener el control de Chile, sin tener la ética necesaria para reconocer que perdieron casi 4 votos a 1 en el pasado plebiscito. Por el otro lado, tenemos otros grupos políticos que no tienen la ética para reconocer que la ciudadanía necesita espacios para tener mayor diversidad e inclusión, y prefieren enfrascarse en escaramuzas de ego y poder compitiendo separados sin renovar muchos nombres. Y entiendo lo difícil que es contener el ego, pero el ego es mala compañía para la ética, tanto en la verdadera política como en la verdadera ciencia.
He tenido la suerte de conocer a varios premios Nobel y en la mayoría de ellos me ha impresionado su humildad. Desde economistas de Stanford a un erudito compañero de asiento en un vuelo a Japón donde sólo supe después de buscarlo en la Web, usando pistas de nuestra conversación, que había obtenido el galardón en física por haber descubierto propiedades del silicio que permiten que hoy tengamos la capacidad de procesamiento que necesita la IA.
Por esto, cuando un investigador necesita ponerle su nombre a su laboratorio con una foto donde está por delante de todo su grupo o un político quiere ser reelegido u obtener un cargo a toda costa, ya comienzan los problemas de ética. Y uso el género masculino porque ese es el caso más frecuente, por lo que mi deseo ingenuo más profundo es que aparezca una Angela Merkel o una Jacinda Ardern para Chile. Ellas muestran que el color político es lo de menos y que lo que de verdad importa, es la ética. Y si no entendemos esto, en especial la élite, quiere decir que lamentablemente merecemos lo que tenemos, incluyendo la futura constitución.