La FM en Google News
La inteligencia artificial ya ha sido adaptada a la seguridad. No son pocas las ciudades alrededor del mundo que han adaptado esta tecnología a sus sistemas de vigilancia, vinculando a la IA con la información establecida por las autoridades y ayudando detectar la identidad de personas si es necesario en medio de una investigación de un delito.
Pero no todos están de acuerdo con una vigilancia extrema. En Europa, por ejemplo, existen tiendas que, con una línea de ropa llamativa para el ojo humano, logran pasar desapercibidos para la Inteligencia Artificial. Y recientemente, un estilista se unió a esta tendencia, y presentó su diseño al que llamó 'Digital Camouflage'. Pero es irónico, porque de camuflaje poco. En una tela negra, Simon Weckert dibujó esferas que se sobreponen una sobre otra de colores rojos y verdes.
Y aunque para el ojo humano, en realidad, contraste con el gris del pavimento, lo cierto es que la Inteligencia Artificial no lo detecta como una persona. ¿Cómo es esto posible?
En un video publicado en su canal de YouTube, Simon Weckert expone en vertical un metraje de 17 segundos de duración como camina en una calle de Kottbusser Tor (Berlín, Alemania), de donde es originario. En ella, puede verse a diferentes personas pasar en el ángulo que capta la cámara. A la mayoría, la inteligencia artificial las identifica como 'personas' y las incluye dentro de recuadros verdes, no así con su sombra. Pero, en la mitad está el diseñador, que pasa desapercibido de dicho encuadramiento. Al final aparece un mensaje que dice: "Una prenda que te hace invisible a toda vigilancia".
Ropa anti IA: una tendencia que crece en Europa
Weckert desarrolló la prenda basado en cómo la Inteligencia Artificial detecta a las personas. DW cita un ejemplo en Estados Unidos, en donde los lectores automáticos de matrículas de vehículos han causado particular molestia en la ciudadanía. El medio digital Gizmodo indica que en todo el país hay 130.000 dispositivos con esta tecnología.
Volviendo a Berlín, al diseñador se le ocurrió usar los algoritmos en contra de la IA, estudiando qué usa para identificar a una persona. A ello lo llama 'ataque adversarial'. Basado en los algoritmos con los que han alimentado a cada Inteligencia Artificial, Weckert dice que en realidad, los sistemas "nunca han aprendido qué es un ser humano", según declaraciones al medio Dezeen.
El diseñador hace referencia a que las IA son alimentadas con imágenes de personas, pero no identifica rostros, sino colores, los que usan las personas para salir a caminar por las calles. Por ello, según Weckert, para los sistemas de vigilancia con IA las personas somos "un conjunto de estadísticas visuales". Y ahí es donde su camisa gana.
La combinación de manchas altera al detector, bueno, a las pistas visuales con las que está entrenado y con las que detecta la silueta humana. Entonces, entre más llamativa sea la prenda, con mayor facilidad pasará desapercibido ante cámaras de seguridad.
Durante el diseño acudió a la propia IA para saber qué era aquello que pasaba inadvertido por la misma. A este proceso, lo llamó 'bucle adversarial'; método por el que pasó en constantes ocasiones su diseño ante programas de IA y lo perfeccionó hasta que fuer imperceptible para estas.
Las pruebas de la camisa Anti IA
Weckert probó con YOLO, un sistema de detección de 'objetos' con código abierto; es decir, una inteligencia artificial de uso público para retar su diseño. Se grabó en diferentes partes, también se fotografió y demostró que estos sistemas de seguridad no identificaban a una persona, él, que usara su creación. El medio Gizmodo puso a prueba la prenda y obtuvo resultados similares.
No es la primera vez que el diseñador alemán pone a prueba a la tecnología. En una ocasión, en 2020, Weckert tomó una gran cantidad de celulares y caminó con ellos manejando un carrito. Para Google hubo un atasco de tráfico que en realidad no existía.
