Una camisa contra las cámaras con IA: el experimento que desafía a la vigilancia de Berlín

Berlín ha empezado a desplegar cámaras de videovigilancia con inteligencia artificial en el espacio público, es decir, dispositivos que no solo graban imágenes, sino que analizan lo que ven para identificar personas y comportamientos. Como respuesta, el diseñador alemán Simon Weckert ha presentado una camisa cuyo estampado busca despistar a esos algoritmos. La historia, recogida por Xataka, es anecdótica en su formato, pero apunta a una debilidad real de estos sistemas.

Qué es exactamente esta prenda

La camisa se llama Digital Camouflage Shirt y cuesta 91 dólares. A simple vista parece una prenda de estética pop, con formas abstractas en verde, rosa y naranja. Pero ese dibujo no está pensado para el ojo humano: está diseñado para interferir con las redes neuronales que detectan siluetas humanas en una imagen.

Weckert probó la prenda con YOLO (siglas de You Only Look Once), un sistema de detección de objetos de código abierto muy extendido en cámaras de seguridad. El método de evaluación es sencillo: se compara cuántas veces el algoritmo detecta a una persona con el estampado puesto y cuántas sin él. Según el diseñador, los resultados fueron aceptables, aunque él mismo evita prometer nada.

El nombre de Weckert puede sonarte por otro experimento: en 2020 paseó un carrito con 99 teléfonos móviles por calles vacías de Berlín para que Google Maps las marcara como atascos. Aquella acción también consistía en explotar la brecha entre lo que un sistema automático interpreta y lo que ocurre en realidad.

Por qué un estampado puede engañar a una IA

La clave está en cómo funciona la visión artificial. Un modelo de detección no ve como nosotros: busca patrones estadísticos de bordes, texturas y colores que ha aprendido a asociar con la categoría "persona". Si una prenda introduce formas que rompen esos patrones o que el modelo confunde con otra cosa, la detección puede fallar.

A esta práctica se la conoce como moda adversarial: diseñar ropa pensada específicamente para confundir a sistemas de visión artificial. No es una ocurrencia aislada. Existen estudios académicos que han comprobado su eficacia en escenarios reales, y ya hay otros proyectos comerciales en la misma línea, como noRecognition. Lo que era un ejercicio de laboratorio ha pasado a venderse como producto.

El propio Weckert reconoce la principal dificultad del diseño: los patrones adversariales "puros", los más efectivos técnicamente, resultan visualmente caóticos y nadie querría llevarlos puestos. Su trabajo consistió en buscar un equilibrio entre eficacia frente a la máquina y una estética asumible para una persona. Detalle curioso: usó inteligencia artificial para generar el estampado que pretende burlar a la inteligencia artificial.

Las limitaciones, según su propio creador

Conviene ser prudente. El diseñador no garantiza que la prenda funcione frente a cualquier cámara. Entre el ensayo controlado y la calle median variables como el ángulo de la cámara, la distancia, la iluminación o la resolución del sensor. Y hay un factor añadido: cuando te cruzas con una cámara en la vía pública no sabes qué modelo de IA emplea ni con qué datos ha sido entrenada.

Además, se trata de una carrera desigual. Los modelos de detección se reentrenan y actualizan precisamente para reconocer este tipo de anomalías, así que cualquier técnica de evasión tiene fecha de caducidad. Comprar la camisa esperando invisibilidad garantizada sería malinterpretar el proyecto.

Lo que realmente está en juego

Más allá de la prenda, el experimento funciona como aviso para las administraciones y empresas que despliegan estos sistemas. Que un estampado textil pueda reducir la fiabilidad de una cámara de seguridad plantea preguntas incómodas sobre la solidez de infraestructuras que se presentan como precisas y objetivas.

También abre el debate sobre hasta dónde puede llegar la vigilancia automatizada en el espacio público europeo y qué margen tiene la ciudadanía para no ser identificada. En un contexto en el que la IA se cuela en cada vez más servicios cotidianos y en el que ya hemos visto nuevas estafas que explotan errores de la IA, iniciativas como esta recuerdan que estos sistemas son estadísticos y, por tanto, falibles. No son un ojo infalible, sino una estimación probabilística que puede equivocarse.

La camisa de Weckert probablemente no cambie nada en la práctica. Su valor es otro: obligar a mirar de frente una tecnología que se está instalando en las ciudades sin demasiado debate público.