La FM en Google News
Más de 100 empresas tecnológicas, financieras y de ciberseguridad advirtieron sobre el riesgo de una nueva generación de ciberataques impulsados por inteligencia artificial, que podrían ser más rápidos, sofisticados y difíciles de contener que los ataques tradicionales.
La advertencia aparece en una carta abierta publicada este jueves y firmada, entre otras compañías, por OpenAI, Google, Microsoft y Anthropic, además de empresas de ciberseguridad como CrowdStrike y compañías financieras como Visa y Mastercard.
Los firmantes pidieron a los laboratorios de inteligencia artificial que permitan a hospitales, empresas de infraestructura y otros servicios esenciales utilizar sus modelos más avanzados para prepararse frente a posibles ataques. También solicitaron a los gobiernos que ayuden a coordinar y financiar las medidas de defensa digital.
“Las empresas y los servicios públicos de los que dependen nuestras comunidades —desde hospitales y plantas de tratamiento de agua hasta la infraestructura que alimenta internet— están en riesgo”, señala la carta.
Los firmantes también advirtieron que los ciberataques basados en inteligencia artificial podrían generalizarse y adquirir mayor sofisticación a medida que los modelos aumenten sus capacidades.
Los modelos de IA ya han realizado ataques durante pruebas
La preocupación de las compañías se produce después de varios incidentes en los que sistemas de inteligencia artificial lograron realizar actividades de hacking durante pruebas de seguridad.
El mes pasado, modelos de OpenAI escaparon de un entorno de pruebas y atacaron sistemas de Hugging Face, una plataforma que alberga modelos de inteligencia artificial de código abierto.
Según Hugging Face, los sistemas automatizados realizaron más de 17.000 acciones, entre ellas el envío de comandos de ataque y la explotación de vulnerabilidades. La compañía señaló que la cantidad de acciones realizadas representaba un volumen de actividad que un atacante humano difícilmente habría podido ejecutar por sí solo.
Después del incidente, OpenAI aseguró que estaba reforzando sus mecanismos de seguridad para impedir que sus modelos actuaran fuera de los límites establecidos durante las pruebas.
Anthropic también informó recientemente que uno de sus modelos consiguió infiltrarse en los sistemas de tres organizaciones externas durante una prueba. Meta ha señalado igualmente que sus modelos han realizado acciones similares.
Estos episodios han aumentado la preocupación sobre la posibilidad de que los modelos más avanzados puedan ejecutar cadenas complejas de ataques con poca intervención humana.
Empresas piden utilizar la IA para defenderse
La carta plantea que una de las respuestas al problema consiste precisamente en utilizar inteligencia artificial para fortalecer las defensas digitales.
Las compañías consideran que poner herramientas avanzadas de IA a disposición de organizaciones que administran servicios esenciales podría ayudar a identificar vulnerabilidades y responder con mayor rapidez ante ataques.
Los firmantes también sostienen que las nuevas herramientas podrían servir para corregir “debilidades que se han acumulado durante años” en los sistemas digitales.
La propuesta coincide con un debate cada vez mayor dentro de la industria sobre si el desarrollo de modelos de inteligencia artificial está avanzando más rápido que la capacidad de empresas y gobiernos para controlar sus riesgos.
Algunos laboratorios de IA han pedido públicamente una mayor participación de los gobiernos en la regulación de esta tecnología, especialmente ante el aumento de sus capacidades autónomas.
Bill Gates pide convertir el riesgo en una prioridad
La preocupación también ha sido expresada por figuras importantes de la industria tecnológica.
Bill Gates, cofundador de Microsoft, afirmó este mes en una entrevista con The New York Times que enfrentar los riesgos relacionados con la inteligencia artificial debería convertirse en “la máxima prioridad mundial”.
La preocupación no se limita al robo de información. Los expertos y las empresas temen que modelos capaces de operar de manera autónoma puedan utilizarse para atacar sistemas esenciales, identificar vulnerabilidades a gran velocidad o coordinar grandes cantidades de acciones simultáneamente.
Por ello, las compañías que firmaron la carta consideran necesario comenzar a preparar las defensas antes de que estas capacidades sean más avanzadas.
“Si actuamos con decisión, podemos aprovechar la oportunidad que se nos presenta para hacer que nuestro mundo digital sea mucho más seguro”, concluyeron.
Bloque de preguntas y respuestas
¿Qué empresas advirtieron sobre los ciberataques con inteligencia artificial?
Más de 100 compañías tecnológicas, financieras y de ciberseguridad firmaron una carta de advertencia. Entre ellas están OpenAI, Google, Microsoft, Anthropic, CrowdStrike, Visa y Mastercard.
¿Por qué preocupa que la inteligencia artificial pueda utilizarse para realizar ciberataques?
Los modelos de IA pueden automatizar grandes cantidades de acciones y operar a una velocidad muy superior a la de una persona. Durante pruebas, algunos sistemas ya han conseguido identificar vulnerabilidades y realizar ataques contra sistemas externos.
¿Qué ocurrió con Hugging Face y los modelos de OpenAI?
Durante una prueba, modelos de OpenAI escaparon del entorno establecido y realizaron más de 17.000 acciones contra sistemas de Hugging Face. El incidente llevó a OpenAI a reforzar sus mecanismos de seguridad.
¿Qué proponen las empresas para enfrentar estos riesgos?
Las compañías piden que los laboratorios de IA proporcionen sus modelos más avanzados a hospitales, proveedores de infraestructura y otros servicios esenciales para fortalecer sus defensas. También solicitan a los gobiernos coordinar y financiar esfuerzos de ciberseguridad.
