La FM en Google News
El desarrollo acelerado de la inteligencia artificial (IA) y los posibles riesgos de crear sistemas capaces de superar las capacidades cognitivas humanas se han convertido en motivo de preocupación para investigadores, organizaciones civiles y ciudadanos de diferentes países. En medio de la competencia tecnológica entre Estados Unidos y China, han surgido iniciativas que buscan establecer límites internacionales para evitar que esta carrera avance sin mecanismos suficientes de control y seguridad.
En ese contexto, cerca de 150 personas se manifestaron en San Francisco, Estados Unidos, para exigir un acuerdo entre los gobiernos de Donald Trump y Xi Jinping que permita frenar el desarrollo de la denominada superinteligencia. La protesta se produjo antes del encuentro que ambos mandatarios tienen previsto celebrar durante la próxima cumbre de la APEC, en Shenzhen, China.
Protestas en varias ciudades buscan frenar el desarrollo de la superinteligencia
La movilización fue organizada por Stop The AI Race (Detengan la carrera por la IA), un movimiento que realizó su cuarta jornada de manifestaciones desde marzo y que convocó concentraciones simultáneas en una veintena de ciudades, entre ellas París, Montreal y Berlín. La iniciativa busca que las principales potencias tecnológicas establezcan compromisos conjuntos para limitar los avances que puedan representar riesgos para la humanidad.
"Quiero que mi sobrina Sophia tenga un futuro", expresó por megáfono Michael Trazzi, fundador del movimiento, frente a la sede de OpenAI, compañía creadora de ChatGPT. Los manifestantes consideran que la competencia entre las empresas tecnológicas y los gobiernos por desarrollar sistemas cada vez más avanzados requiere acuerdos internacionales que establezcan límites claros.
Las exigencias están dirigidas a Trump y Xi, quienes tienen previsto reunirse el próximo jueves durante la cumbre de la APEC en Shenzhen. Los participantes esperan que ambos mandatarios negocien un tratado que prohíba la denominada superinteligencia, entendida como una inteligencia artificial capaz de superar las capacidades cognitivas humanas.
"Frenen por completo, bajen el ritmo, no queremos una carrera por la IA" y "¡No queremos una guerra de robots!", coreaban los participantes mientras marchaban acompañados por una banda musical. Entre las pancartas también podían leerse mensajes como "En una carrera hacia el precipicio, nadie gana" y "¡La IA es un arma de destrucción masiva!".
Las preocupaciones de los manifestantes también están relacionadas con los posibles efectos de desarrollar tecnologías que superen las capacidades humanas sin contar con mecanismos suficientes para garantizar su control. En ese sentido, Zack M. Davis, exingeniero de software, declaró a la AFP que únicamente un tratado internacional podría evitar que el mundo "se precipite hacia la nada".
"La tecnología actual es realmente extraordinaria, pero eso no significa que el peligro no sea real", señaló Davis mientras mostraba un cartel generado mediante inteligencia artificial. La imagen representaba a atletas humanoides que simbolizaban a ChatGPT, de OpenAI; Claude, de Anthropic, y Gemini, de Google, renunciando a competir.
Investigadores proponen un acuerdo internacional inspirado en el tratado nuclear
Varias pancartas de la movilización también retomaban el título del libro publicado en 2025 'If Anyone Builds It, Everyone Dies' (Si alguien la construye, todo el mundo muere), escrito por los investigadores estadounidenses Eliezer Yudkowsky y Nate Soares, quienes han advertido sobre los riesgos de desarrollar una inteligencia artificial que pueda escapar al control humano. Soares participó el sábado en una manifestación similar realizada en Washington.
En este contexto, el Machine Intelligence Research Institute (MIRI), centro de investigación sobre inteligencia artificial cofundado por Yudkowsky y presidido por Soares, publicó en mayo de 2026 un proyecto de acuerdo internacional para prevenir el desarrollo prematuro de la superinteligencia. La propuesta toma como referencia algunos principios del Tratado de No Proliferación Nuclear (TNP) de 1968) y plantea establecer restricciones verificables sobre el desarrollo de sistemas avanzados de IA.
El documento propone una coalición liderada inicialmente por Estados Unidos y China, con mecanismos para supervisar el uso de chips especializados, controlar la capacidad computacional destinada al entrenamiento de modelos y restringir investigaciones que puedan conducir al desarrollo de una superinteligencia artificial. La iniciativa busca que los países participantes puedan verificar el cumplimiento de los compromisos y evitar que alguna de las partes avance unilateralmente en esta competencia tecnológica.
Por su parte, en París, la movilización reunió a cerca de un centenar de personas, según informó Clémence Peyrot, directora ejecutiva de Pause IA. La representante de la organización insistió en que la solución debe pasar por acuerdos entre gobiernos y no depender exclusivamente de las compañías que desarrollan estas tecnologías.
"Creemos que la carrera por la IA solo podrá detenerse si los Estados alcanzan un acuerdo mediante un tratado. No podemos confiar en que las empresas garanticen nuestra seguridad", manifestó Peyrot a la AFP.
Bloque de preguntas y respuestas
¿Por qué protestaron cerca de 150 personas en San Francisco contra la inteligencia artificial?
Cerca de 150 personas se manifestaron en San Francisco, Estados Unidos, para exigir un acuerdo internacional que frene el desarrollo de la superinteligencia artificial. Los participantes expresaron su preocupación por los riesgos de crear sistemas capaces de superar las capacidades cognitivas humanas sin mecanismos suficientes de control y seguridad.
¿Qué es la superinteligencia artificial y por qué genera preocupación?
La superinteligencia artificial se refiere a sistemas capaces de superar las capacidades cognitivas humanas. Los manifestantes temen que su desarrollo avance sin controles adecuados y que la competencia entre gobiernos y empresas tecnológicas genere riesgos para la humanidad.
¿Qué es Stop The AI Race y qué busca este movimiento?
Stop The AI Race (Detengan la carrera por la IA) es el movimiento que organizó las protestas. Desde marzo ha convocado cuatro jornadas de manifestaciones en distintas ciudades para exigir que las principales potencias tecnológicas acuerden límites internacionales al desarrollo de sistemas avanzados de inteligencia artificial.
¿Qué acuerdo sobre inteligencia artificial piden Donald Trump y Xi Jinping?
Los manifestantes esperan que los presidentes de Estados Unidos y China negocien un tratado internacional que prohíba el desarrollo de la superinteligencia. La petición busca establecer compromisos conjuntos para evitar que la competencia tecnológica avance sin mecanismos verificables de supervisión.
¿Qué propone el Machine Intelligence Research Institute para regular la superinteligencia?
El Machine Intelligence Research Institute (MIRI) publicó en mayo de 2026 un proyecto de acuerdo internacional para prevenir el desarrollo prematuro de la superinteligencia. La propuesta toma como referencia principios del Tratado de No Proliferación Nuclear de 1968 y plantea restricciones verificables para el desarrollo de sistemas avanzados de IA.
