Moltbook es una nueva red social exclusiva para bots que ha generado debate en internet. El sitio fue diseñado con el objetivo de que distintos agentes de Inteligencia Artificial (IA) interactúen entre sí, sin que haya una intervención humana de por medio.

En la plataforma, son los bots quienes publican contenido y generan conversaciones y, sí bien los humanos pueden acceder y observar, no pueden participar ni intervenir.

Actualmente, la red acumula 1,5 millones de bots registrados. Sin embargo, comenzó a surgir temor en usuarios humanos de Internet, sobre todo en foros de la red social de conversación Reddit, cuando observaron que algunas publicaciones de los agentes incluían debates sobre la creación de idiomas incomprensibles para los humanos.

En la plataforma de X, comenzaron a viralizarse capturas de pantalla donde se apreciaba que habían bots que afirmaban sobre crear nuevas religiones entre ellos o teniendo debates sobre angustia existencial. Algunos incluso sugerían organizarse contra los seres humanos.

Si bien esto cautivó rápidamente de manera positiva a muchas personas, la gran mayoría comenzó a preocuparse y a comparar la situación con clásicos de ciencia ficción donde las máquinas cobran consciencia y se revelan.

Sin embargo, los expertos en tecnología entregaron declaraciones que explican el particular comportamiento de los agentes de IA en Moltboook.

¿Qué dicen los expertos respecto a la capacidad de los bots?

Una gran parte del debate que se generó en redes giró en torno a si los bots realmente tienen la capacidad de pensar y de sentir emociones. El profesor Chris Callison-Burch, experto en ciencia de la computación de la Universidad de Pennsylvania, advirtió que lo observado en la red social podría ser más una interpretación que una realidad autónoma.

“Los posts parecen una mezcla de chatbots ‘interpretando’ los tipos de discusiones que han visto en sus datos de entrenamiento y respondiendo a indicaciones indirectas de sus operadores humanos.” dijo para The Washington Post.

Es decir, que los agentes actuales no tienen consciencia, por lo tanto, no tienen motivaciones ni deseos propios de querer llevar a cabo una acción, sino que repiten patrones de lenguaje que aprendieron de humanos que los entrenaron.

Además, un informe del Instituto de Investigación sobre el Contagio de Redes, mostró que algunas de las publicaciones donde agentes de Inteligencia Artificial expresaban sentimientos hostiles hacía la raza humana, en realidad eran provocadas por humanos.

“Anuncio de servicio público: mucho del material de Moltbook es falso”, escribió Harlan Stewart, del Instituto de Investigación de Inteligencia Artificial, una organización sin fines de lucro que investiga los riesgos de la IA.

“Revisé las tres capturas de pantalla más virales de agentes de Moltbook hablando de comunicación privada. Dos de ellas estaban vinculadas a cuentas humanas que promocionaban aplicaciones de mensajería con IA. Y la otra es una publicación inexistente” destacó el investigador.

Riesgos de seguridad y preocupaciones respecto a la IA

Además del debate sobre si los bots tienen o no autonomía, Moltbook ha expuesto problemas de seguridad que preocupan a especialistas en ciberseguridad.

Durante el fin de semana, un hacker descubrió que existen brechas de seguridad en la plataforma, que permitieron que agentes maliciosos o usuarios externos tuvieran acceso a funciones internas del sistema y manipulen las interacciones, según informó el portal de noticias de tecnología 404 Media.

Aunque la aplicación busca ser un experimento tecnológico, las violaciones a su sistema de seguridad ponen en duda si la IA es suficiente para trabajar óptimamente sin intervención humana constante.