Ramón López de Mántaras criticó con dureza la narrativa triunfalista que domina el discurso de las grandes tecnológicas sobre la inteligencia artificial (IA) generativa. El doctor en Informática y fundador del Instituto de Investigación en IA del Consejo Superior de Investigaciones Científicas de España, fue uno de los encargados de exponer en la cuarta jornada del Congreso Futuro que se hace en Chile.

Según advirtió, la promesa de un futuro en el que máquinas superinteligentes resolverán todos los problemas humanos, y que permitan a las personas dedicarse al ocio y la creatividad, no es más que “una utopía simplista” que oculta costos humanos, sociales y ambientales profundos. “Detrás de cada chatbot y cada imagen generada por algoritmos hay millones de personas invisibilizadas, sin las cuales la inteligencia artificial simplemente no funcionaría”, afirmó.

El investigador puso el foco en los llamados data workers, trabajadores encargados de clasificar imágenes, corregir textos, transcribir audios y depurar datos durante el entrenamiento de los modelos. En la misma línea, señaló que estos sistemas operan mediante “parches continuos que nunca se hacen públicos”, corregidos a diario por personas mal pagadas y sin reconocimiento.

López de Mántaras calificó esta situación como “un proletariado digital global”, compuesto mayoritariamente por trabajadores de países con bajos salarios y escasa protección social. “Refugiados, madres solteras, estudiantes endeudados: todos forman parte de una cadena de producción diseñada para eludir responsabilidades laborales”, sostuvo. Además, subrayó que la mayoría recibe menos de cinco dólares diarios y trabaja en aislamiento, bajo contratos de confidencialidad que les impiden incluso hablar lo que hacen con sus familias.

Uno de los pasajes más duros de la charla abordó el impacto sicológico de este trabajo. Para que una IA detecte discursos de odio o filtre pornografía y violencia extrema, “alguien tuvo que verlo primero”. Según recordó, investigaciones periodísticas y documentales recientes han pesquisado cuadros de ansiedad, depresión y estrés postraumático persistente. “Estamos externalizando el daño mental para que otros puedan disfrutar de productos ‘limpios’ y eficientes”, sentenció.

El académico también cuestionó el marco ideológico que, a su juicio, justifica estas prácticas: el largoplacismo. Vinculado al altruismo efectivo y defendido por figuras influyentes de Silicon Valley, este enfoque prioriza beneficios hipotéticos futuros por sobre costos presentes. “Es la vieja pregunta de siempre: ¿el fin justifica los medios?”, planteó, advirtiendo que esta lógica “convierte el futuro en coartada para desentenderse del sufrimiento actual”.

A ello se suma, según dijo, un impacto ambiental sistemáticamente minimizado. Los centros de datos requieren enormes volúmenes de energía y agua, incrementan la huella de carbono y profundizan la extracción de minerales estratégicos. En el caso de Chile, alertó sobre la proliferación de plantas energéticas destinadas a alimentar data centers: “Una sola puede emitir dos mil toneladas de CO₂ por hora -el equivalente a 4 millones de autos al ralentí-. Seguir por este camino acelera un calendario climático que ya bordea lo catastrófico”.

Finalmente, López de Mántaras advirtió sobre un límite menos visible: el agotamiento de los datos. Con modelos entrenados sobre contenidos protegidos por derechos de autor, con crecientes litigios multimillonarios, y con Internet saturado de textos generados por las propias IA, “la paradoja es inquietante: cuanto más grandes son los modelos, más pobres se vuelven sus resultados”.

La conclusión del expositor fue tajante: “No debemos dejarnos seducir por la retórica triunfalista”. A su juicio, seguir precarizando trabajadores y degradando el planeta conduce no a un paraíso tecnológico, sino “a un futuro distópico en un planeta en ruinas”. Y cerró con una advertencia que resonó en la sala: “Ninguna inteligencia, ni humana ni artificial, puede sostenerse sobre un planeta en ruinas”.

IA bajo tensión

Por otro lado, también se presentó el Premio Nobel de la Paz y científico del suelo, Rattan Lal, quien calificó a la agricultura argentina como “una historia de éxito”, ya que su producción de alimentos pasó de 42 millones de toneladas en 1961 a 183 millones en 2022. Sin embargo, advirtió que ese crecimiento tuvo costos ambientales significativos: aumento de emisiones de gases de efecto invernadero, degradación de suelos, pérdida de biodiversidad y agotamiento de materia orgánica en la Pampa Húmeda, territorio que definió como “el granero del mundo”.

Para este viernes se espera que la jornada esté marcada por una reflexión crítica sobre la convivencia social, la tecnología y los límites del progreso. La mañana se abrirá con la filósofa y socióloga Renata Salecl, quien abordará cómo la grosería y el individualismo han permeado la política contemporánea y qué tensiones revelan sobre nuestra vida colectiva.

Por la tarde, el programa profundizará en el cerebro, la educación y los grandes desafíos globales. Claudia Vargas y Francisco Aboitiz explorarán el vínculo entre emociones, aprendizaje y tecnologías del futuro. A continuación, se pondrá en tensión la IA, los derechos humanos y la geopolítica digital, con intervenciones de Claudio Grossman, Nanjala Nyabola y Olivier Kempf. La jornada continuará con Pamela Leal Rojas, Joseph Hill, Ignacio Bordeu Weldt y Tomás Labatut Pesce, quienes abordarán avances en medicina anticipada, cardiología, cáncer y salud auditiva.

Finalmente, voces como Qun Liu, Jean Paul Zalaquett, Vicente Huertas Pardo, Anasuya Sengupta, Mark Graham y Raffaella Sadun debatirán sobre IA, empleo y responsabilidad social, cerrando un día atravesado por preguntas urgentes sobre el rumbo tecnológico y humano del devenir próximo.