La FM en Google News
La advertencia de Anthropic de que los «gusanos» impulsados por inteligencia artificial pronto podrían propagarse a través de dispositivos conectados a internet es la más reciente de una serie de estudios que muestran cómo la IA podría potenciar enormemente los malwares capaces de replicarse por sí mismos.
¿Qué es un 'gusano informático'?
Un gusano informático es un software malicioso que se propaga por sí solo entre dispositivos.
Nicolas Papernot, profesor asociado de ingeniería eléctrica e informática en la Universidad de Toronto, dirigió en junio pasado a un equipo que construyó un prototipo de malware impulsado por IA usando modelos de inteligencia artificial de libre acceso.
Papernot, que firmó una carta abierta con recomendaciones para los responsables políticos, habló con la AFP sobre por qué la IA hace que estos ataques sean más difíciles de detener.
La entrevista fue editada por motivos de extensión y claridad.
P: ¿Cómo está cambiando la IA este tipo de ataques?
R: La realidad es que muchos de estos dispositivos de «Internet de las Cosas» (IoT, por sus siglas en inglés) tienen una ciberseguridad muy deficiente, por lo que son blancos muy fáciles de comprometer para actores malintencionados.
Históricamente, un gusano explotaba un conjunto de vulnerabilidades. Eso significaba que se podían corregir esas vulnerabilidades y evitar que el gusano se siguiera propagando a los dispositivos que se hubieran actualizado.
Ahora, con la IA, un atacante puede diseñar un gusano que adapte su estrategia de ataque a las particularidades de un dispositivo, y estas vulnerabilidades pueden ser diferentes.
Esto hace que sea significativamente más difícil interrumpir la propagación de un gusano informático impulsado por IA, porque se deben anticipar todas las posibles vulnerabilidades que el dispositivo pueda tener.
Algunas de estas vulnerabilidades no son errores de software.
También pueden ser errores de configuración. Por ejemplo, si alguien ha usado la misma contraseña en múltiples servicios o si no ha configurado correctamente una base de datos.
Lo que hace un software malicioso impulsado por IA es acelerar el ritmo y aumentar la escala para explotar estas vulnerabilidades.
En el pasado, el portátil en el sótano que se usaba muy de vez en cuando podía no estar actualizado, pero no sería blanco de un atacante humano porque este no tendría los recursos ni el tiempo para hacerlo.
Ahora, la autonomía que da usar la IA significa que estos dispositivos se convierten en objetivos interesantes, usados como plataforma para atacar blancos todavía más interesantes.
Pero hay que tener en cuenta que un humano es quien lanza un agente. Una vez lanzado, el agente puede replicarse, como mostramos en nuestro trabajo, pero es lanzado por un humano.
P: ¿Qué podemos hacer para mitigar los riesgos?
R: No vamos a reducir el riesgo a cero y debemos ser conscientes de que, a pesar de que algunas de estas correcciones de vulnerabilidades están disponibles, las personas no actualizan sus dispositivos o no aplican las correcciones a tiempo.
Pese a que expertos han pedido por décadas mayor ciberseguridad, aún vivimos en un mundo donde se puede invertir mucho más para mejorar la seguridad de los sistemas de computadores.
En realidad, recomendamos tres cosas para el muy corto plazo.
La primera es cambiar las prácticas de desarrollo y prueba para asegurar que los modelos de IA estén inicialmente desconectados de internet, como una precaución, para entender su comportamiento mejor antes de exponerlos a infraestructura crítica en internet.
La segunda recomendación es crear un organismo internacional para estandarizar tanto cómo entrenamos como la forma en que contenemos los modelos de IA. Ambos son importantes.
Queremos entrenar modelos que sean más seguros.
La última parte tiene que ver con hacer obligatorios los reportes de incidentes de seguridad. Ahora mismo, solo obtenemos la información según lo que los desarrolladores de la IA están dispuestos a divulgar, y eso es un gran problema.
En particular, la comunidad académica necesita mucha más información sobre incidentes para ser capaz de desarrollar contramedidas.
De lo contrario, tenemos que dedicar mucho tiempo a investigar para comprender primero la amenaza, antes de poder desarrollar las contramedidas. Si no, no veremos lo que hacen los actores maliciosos hasta que se lance un ataque.
