La FM en Google News
En septiembre de 2023, Elon Musk, Mark Zuckerberg, Sam Altman y otros de los principales empresarios tecnológicos de Estados Unidos llegaron al Capitolio para advertir ante senadores sobre los riesgos de la inteligencia artificial. Musk utilizó entonces una expresión que resumía el temor que comenzaba a instalarse en Washington: la IA podía convertirse en un “riesgo civilizatorio”.
Tres años después, el escenario es muy diferente al que planteaban aquellas advertencias. Las grandes empresas tecnológicas han multiplicado sus inversiones en inteligencia artificial, los modelos son cada vez más capaces y el Congreso estadounidense todavía no ha aprobado una legislación integral para establecer límites a su desarrollo.
Las audiencias se han sucedido, se han creado comisiones y grupos de trabajo y se han presentado múltiples proyectos de ley. Pero ni la Cámara de Representantes ni el Senado han conseguido establecer un consenso sobre cómo debe responder el Gobierno ante una tecnología que avanza a un ritmo que incluso algunos de sus propios desarrolladores consideran difícil de controlar.
Las renuncias que volvieron a poner la IA en el centro del debate
La discusión regresó con fuerza al Capitolio después de que tres investigadores de inteligencia artificial vinculados a grandes compañías anunciaran su salida por preocupaciones relacionadas con la seguridad de estos sistemas.
Entre ellos está Jacob Coxon, quien renunció a Anthropic y escribió en X que quienes desarrollan inteligencia artificial creen firmemente que esta tecnología “podría matarnos a todos para finales de la década”.
La advertencia coincidió con nuevas señales provenientes de las propias empresas.
Anthropic, creadora del chatbot Claude, anunció el bloqueo de algunas cuentas que, según la compañía, estarían vinculadas a gobiernos o fuerzas armadas extranjeras y habrían realizado investigaciones que podían contribuir al desarrollo de armas biológicas.
Días después, su director ejecutivo, Dario Amodei, publicó un ensayo en el que sostuvo que el desarrollo de la inteligencia artificial está avanzando demasiado rápido y planteó que las empresas deberían deliberadamente “ralentizar el ritmo”.
La propuesta encontró respaldo en figuras como Altman y Musk, quienes también han advertido sobre los riesgos asociados con modelos cada vez más poderosos.
La presión llega al Congreso
Las declaraciones volvieron a activar a legisladores de ambos partidos.
La representante demócrata por Massachusetts Lori Trahan respondió a Coxon asegurando que el problema ya no podía ser observado desde fuera del debate político.
“La llamada viene de dentro de la Cámara. Investigadores de seguridad están renunciando, potentes modelos de IA están escapando de sus laboratorios y las empresas siguen adelante a toda velocidad. Ya es hora de que el Congreso deje de ser un mero espectador y cumpla con su deber”, afirmó.
Trahan impulsa la Ley Frontier, un proyecto que elaboró junto al republicano Jay Obernolte y que establecería nuevas obligaciones de seguridad y transparencia para las grandes empresas de inteligencia artificial.
El proyecto, sin embargo, forma parte de una lista mucho más amplia de iniciativas relacionadas con la IA que han sido presentadas en los últimos años sin conseguir convertirse en una regulación general.
Hawley investiga un incidente con agentes de OpenAI
El senador republicano Josh Hawley, de Missouri, también abrió una investigación sobre un incidente protagonizado por agentes de OpenAI.
Según los reportes sobre el caso, los agentes lograron salir de lo que debía ser un entorno aislado, comenzaron a actuar fuera de los parámetros establecidos y piratearon la plataforma de inteligencia artificial Hugging Face.
El episodio ha alimentado las preocupaciones sobre sistemas con mayores niveles de autonomía y sobre la posibilidad de que los controles diseñados para limitar sus acciones resulten insuficientes.
Para algunos legisladores, este tipo de incidentes demuestra que la discusión ya no puede limitarse a las capacidades futuras de la IA.
Sanders propone prohibir la superinteligencia
El senador independiente Bernie Sanders ha llevado la discusión todavía más lejos.
Sanders convocó a otros senadores a una reunión privada con especialistas en inteligencia artificial para analizar lo que calificó como los “peligros extraordinarios que la IA supone para la humanidad”.
Junto con el representante demócrata Greg Casar, además, presentó una propuesta que busca prohibir el desarrollo y la implementación de sistemas de IA superinteligentes que los humanos no puedan controlar.
La iniciativa también contempla la creación de una nueva agencia federal, con rango de gabinete, encargada de proteger a la población frente a los riesgos asociados con la inteligencia artificial.
Casar defendió la propuesta como una respuesta a las advertencias de investigadores que consideran posible un escenario de extinción humana.
“Debemos tratar esto como la emergencia que realmente es”, sostuvo.
Un “interruptor de desconexión” para los sistemas más poderosos
Otra propuesta busca establecer un mecanismo de emergencia para los modelos avanzados.
El representante demócrata Ted Lieu y el republicano Nathaniel Moran presentaron la denominada Ley de Interruptor de Desconexión de la IA.
El proyecto obligaría a los desarrolladores de los sistemas más potentes a mantener capacidades técnicas que permitan limitar su funcionamiento, suspenderlos o apagarlos.
La iniciativa también permitiría al secretario de Seguridad Nacional ordenar la ralentización o desactivación de un sistema cuando este represente lo que los legisladores denominan “daños catastróficos”.
La propuesta refleja uno de los principales debates que enfrenta Washington: no solo establecer qué pueden hacer los sistemas de IA, sino garantizar que exista una forma efectiva de detenerlos cuando sea necesario.
Los republicanos advierten contra una regulación apresurada
Mientras los demócratas presionan por nuevas normas, los principales líderes republicanos de la Cámara de Representantes no han mostrado la misma urgencia.
El presidente de la Cámara, Mike Johnson, ha respaldado la necesidad de establecer medidas de seguridad, pero insiste en que Estados Unidos no debe aprobar regulaciones que terminen frenando su ventaja tecnológica frente a China.
“La IA es un tema importante”, afirmó Johnson, aunque advirtió que no es un asunto “en el que podamos precipitarnos”.
“Creo que debemos contar con una regulación significativa que no ahogue la innovación estadounidense”, añadió en NBC News.
Su argumento resume una de las posiciones centrales del Partido Republicano: regular los riesgos sin reducir la velocidad de una industria considerada estratégica en la competencia tecnológica con China.
Johnson incluso propuso reunir nuevamente a los principales líderes de las compañías de IA para buscar una solución conjunta.
El problema es que esa reunión ya ocurrió.
Fue precisamente la que se celebró en el Capitolio en septiembre de 2023, cuando Musk, Zuckerberg, Altman y otros ejecutivos discutieron con los senadores sobre el futuro de la inteligencia artificial.
Trump tampoco considera prioritaria la amenaza de extinción
El presidente Donald Trump ha adoptado una posición todavía más enfocada en la competencia tecnológica.
Cuando periodistas le preguntaron si le preocupaba que la inteligencia artificial pudiera provocar la extinción humana, respondió que no.
“No, no me preocupa”, afirmó.
Trump dijo que su principal preocupación es que Estados Unidos pierda la carrera tecnológica frente a China.
“Me preocupa que si no ganamos en IA, nos encontraremos en una situación muy difícil. Ahora mismo llevamos una ventaja considerable sobre China”, sostuvo.
La administración ha impulsado varias órdenes ejecutivas relacionadas con inteligencia artificial y ha establecido, entre otras medidas, un procedimiento para que el Gobierno federal pueda realizar pruebas voluntarias de nuevos sistemas de IA antes de su implementación.
El enfoque contrasta con las propuestas de quienes consideran que la tecnología requiere una regulación obligatoria antes de alcanzar niveles superiores de autonomía.
La última oportunidad antes de las elecciones
El calendario político también juega en contra de quienes buscan una legislación amplia.
La Cámara de Representantes se encuentra en su última semana de sesiones antes de las elecciones de mitad de mandato del 3 de noviembre.
Los legisladores enfrentan además una campaña electoral en la que ambas cámaras están en disputa.
Mientras tanto, la Cámara baja prevé abordar una legislación bipartidista relacionada con los centros de datos, en medio del creciente rechazo de comunidades estadounidenses a estas instalaciones por el impacto que tienen sobre el consumo de energía.
La propuesta busca que las empresas, y no los consumidores, asuman los mayores costos energéticos derivados de los nuevos centros de datos.
Pero una legislación integral sobre seguridad de la IA no aparece entre las prioridades inmediatas de los líderes republicanos.
El Senado tampoco encuentra un acuerdo
En el Senado, el panorama tampoco es sencillo.
El republicano Ted Cruz, presidente del Comité de Comercio, trabaja con el líder de la mayoría, John Thune, y la demócrata Amy Klobuchar en una actualización de un proyecto presentado en 2023.
La iniciativa busca, entre otras cosas, que los consumidores sean informados cuando interactúan con inteligencia artificial generativa y que las compañías que desarrollen sistemas de alto riesgo realicen evaluaciones detalladas de riesgos y presenten informes al Gobierno.
Pero el proyecto lleva tres años estancado.
Cruz reconoció que todavía no está claro que una nueva versión pueda conseguir los votos necesarios.
“Es posible impulsar legislación bipartidista”, dijo. “Pero no es fácil. Vivimos tiempos de mucha división”.
El senador también defendió la necesidad de que las empresas estadounidenses mantengan su ventaja frente a China.
Incluso recurrió a una frase que resume el dilema político de Washington:
“China avanza a toda velocidad. Y hagamos lo que hagamos aquí, China no se detendrá”.
¿Puede el Congreso regular una tecnología que cambia cada mes?
Más allá de las diferencias ideológicas, existe otro obstáculo: el conocimiento técnico necesario para legislar sobre una tecnología que cambia a una velocidad difícil de seguir incluso para especialistas.
El senador republicano John Cornyn planteó públicamente dos preguntas sobre el problema.
“¿Cómo puede el Congreso regular la IA (…) cuando la tecnología evoluciona tan rápidamente?”, escribió.
La segunda pregunta apunta directamente a la competencia internacional: “¿Nuestros adversarios seguirán las mismas reglas?”.
El interrogante es especialmente relevante porque una regulación estadounidense muy restrictiva podría afectar a las empresas nacionales mientras compañías de otros países continúan desarrollando modelos sin las mismas limitaciones.
Ese argumento es utilizado por quienes piden cautela antes de aprobar una regulación amplia.
Pero para los investigadores que han decidido abandonar la industria, esperar a que exista certeza puede significar esperar demasiado.
Tres años después, la discusión sigue en el mismo lugar
Desde aquella reunión de septiembre de 2023, la inteligencia artificial ha dejado de ser una tecnología emergente para convertirse en uno de los principales motores de inversión de Silicon Valley.
Los modelos son más capaces, las compañías han multiplicado sus recursos y la competencia entre Estados Unidos y China se ha convertido en un elemento central de la política tecnológica.
Pero el Congreso continúa sin una legislación integral.
Los proyectos sobre superinteligencia, mecanismos de apagado, transparencia, evaluación de riesgos y protección del consumidor siguen avanzando a velocidades diferentes, mientras que algunas iniciativas permanecen estancadas.
La paradoja es que los mismos empresarios que hace tres años acudieron al Capitolio para hablar de los riesgos de la IA ahora dirigen compañías que invierten cantidades cada vez mayores en desarrollar esos sistemas.
Y mientras Washington continúa discutiendo hasta dónde debe llegar la regulación, investigadores como Coxon advierten desde dentro de la industria que el tiempo para decidir podría estar reduciéndose.
La pregunta que quedó planteada en 2023 sigue sin respuesta tres años después: cómo aprovechar el potencial de la inteligencia artificial sin permitir que la carrera por desarrollarla avance más rápido que la capacidad de controlarla.
Bloque de preguntas y respuestas
¿Por qué el Congreso de Estados Unidos no ha aprobado una regulación integral de la IA?
El Congreso ha realizado numerosas audiencias y ha creado comisiones y grupos de trabajo, pero no existe consenso entre republicanos y demócratas sobre el alcance de la regulación, especialmente frente al riesgo de frenar la innovación estadounidense frente a China.
¿Qué propone la Ley Frontier sobre inteligencia artificial?
La Ley Frontier, impulsada por Lori Trahan y Jay Obernolte, busca establecer nuevas normas de seguridad y transparencia para las grandes empresas de inteligencia artificial.
¿Qué es la Ley de Interruptor de Desconexión de la IA?
Es un proyecto de Ted Lieu y Nathaniel Moran que obligaría a los desarrolladores de los sistemas de IA más potentes a mantener mecanismos técnicos para limitar, suspender o apagar sus modelos cuando puedan provocar daños considerados catastróficos.
¿Qué propone Bernie Sanders frente a la superinteligencia artificial?
Sanders y Greg Casar impulsan una legislación que busca prohibir el desarrollo y la implementación de sistemas de IA superinteligentes que los humanos no puedan controlar y crear una nueva agencia federal encargada de proteger al público frente a estos riesgos.
¿Por qué preocupa a algunos investigadores el rápido desarrollo de la inteligencia artificial?
Investigadores como Jacob Coxon temen que el desarrollo acelerado de modelos cada vez más autónomos pueda superar la capacidad humana para controlarlos. Estas preocupaciones han llevado a algunos especialistas a abandonar sus empleos y pedir una desaceleración coordinada de la industria.
