viernes, febrero 10, 2023

Cámaras de "Super High Definition", Inteligencia Artificial y Drones (o globos) de Vigilancia

En el año 2019, en mi último año como responsable ejecutivo de ElevenPaths y Chief Data Officer, poco antes de comenzar una nueva andadura como Chief Digital Consumer Officer, tuvimos el último Security Innovation Day. En aquel evento elegimos la temática de Blade Runner porque la película original estaba datada en un futuro lejano de un año 2019, exactamente en el que estábamos. En mi charla, que podéis ver en mi canal de youtube, yo hacía un recorrido a algunas tecnologías de seguridad, de pentesting, de hardening, de investigación y, por supuesto, de privacidad. 

Figura 1: Cámaras de "Super High Definition", Inteligencia Artificial
y Drones (o globos) de Vigilancia

Entre ellas, al final de mi presentación, hablaba de cómo las cámaras de Super-High Definition mezcladas con los avances en "Cognitive Services" para el reconocimiento facial ya eran una realidadSe podría controlar a todas las personas de una gran área con fotografías de Super-High Definition de manera muy sencilla. 


Para hacer una demostración a las personas de cómo de potentes eran las cámaras comerciales SHD, es decir, las que pueden comprar las empresas, hacía una demo sencilla con una fotografía de 195 billones de píxeles de la ciudad de Shangai de la empresa china Big Píxel, que podéis ver en este vídeo y con la que podéis jugar en este enlace: Shangai Big Píxel.
En muchos lugares esto ha sido una gran polémica, porque el número de cámaras que hay por la ciudad es grande, las legislaciones en algunos países permiten este tipo de control - se ha usado también como mecanismos de seguridad para entrar en actos multitudinarios o para vigilar alrededores.
De uso militar, existen cámaras  como la Super-High Def Argus IS, que es capaz de tomar imágenes claras de objetos de 15 centímetros desde una altura de 6 kilómetros, lo que está pensado en su uso en drones militar. Y su tamaño, como podéis ven en este vídeo es bastante reducido.


Como os podéis imaginar, este tipo de cámaras montadas en drones de vigilancia, drones militares, o drones de control de industrias, carreteras, etcétera son de gran utilidad, y por eso su uso se está masificando en el mundo de los amantes de los drones.
Este tipo de tecnologías, son utilizadas en sistemas de control de matrículas en las cámaras de las autopistas, los parkings o los alrededores de un edificio vigilado, y se han ido especializando para leer todo tipo de información útil para generar datos. La empresa All Read usa AI para reconocer cualquier señal, placa o información en camiones, contenedores, vehículos, etcétera, generando un base de datos con lo que sucede en un lugar concreto.


Es decir, que si sumamos cámaras de Super-High Definition con servicios cognitivos de reconocimiento facial, de lectura de datos de vehículos, de generación de metainformación de una foto, de contado de personales, de reconocimiento de casi lo que queráis, tenemos un sistema de vigilancia en modo GIS generado de forma muy sencilla mezclando estos dos avances tecnológicos.

Reconocimiento facial e industria militar

Por supuesto, este tipo de vigilancia de las ciudades está protegido en muchos países con limitaciones, pero lo cierto es que cada vez más (y mejor) la tecnología permite implementar estas soluciones de control que recuerdan mucho a la película de Enemigo Público, donde una persona no podía esconderse del mega-control de un país usando toda la potencia de estas tecnologías.
Por supuesto, esto no es perfecto, y su uso en fines militares empieza a ser un gran debate. En el año 2015, en el congreso de Future of Life, al final del mismo se firmó una carta abierta en la que se pedía el uso responsable de estas tecnologías. Elon Musk, Steve Wozniak, Bruce Shneier, en una larga lista pedían que el la Inteligencia Artificial no se explotara militarmente de esta forma.
Pero esto ya está en uso y se ha utilizado en operaciones donde Drones han usado AI para elegir su objetivo y tomar la decisión de disparar y matar un objetivo. Esto generó mucha polémica en el año 2020 y Human Rights Watch levanto el caso de los Robots Asesinos que toman decisiones autónomas de vida o muerte usando tecnología. En un artículo del año 2021, hablaba de todo esto mi compañero Sergio Sancho, donde veíamos también los drones de ataque a objetivos tipo Kargu, y los sistemas militares que utilizan los enjambres de drones bomba como Kerkes para destruir objetivos militares.


Figura 10: Sistema KERKES de vuelos en enjambre Kargu-2

La polémica está en que, si utilizan un sistema cognitivo basado en AI para el reconocimiento facial, y esta falla, podrían estar atacando al objetivo equivocado. Y por eso, yo ponía el ejemplo de cómo el servicio cognitivo de reconocimiento facial de Microsoft Azure me confundía con George Clooney, algo que este verano pasado volví a probar con otra IA en otra fotografía, y volvía a suceder.

Todo esto que conté en el año 2019, y que es un debate abierto desde el año 2015, se ha vuelto a poner de actualidad por culpa de los globos chinos que estaban sobre volando EEUU y que han sido derribados por este último país. Y de todo esto es para lo que me invitó ayer el gran Iker Jiménez para hablar en su programa Horizonte de ayer. De cómo funcionan estas tecnologías y qué podrían hacer o no.


Lo cierto es que la preocupación es grande, y empresas como Google, Microsoft, o nosotros mismos en Telefónica, tenemos controles éticos para el uso de la Inteligencia Artificial en determinados proyectos, y hay que reportar su uso y validarlo.

En el caso de Microsoft, este equipo ha puesto limitación al uso de los sistemas de Inteligencia Artificial para el reconocimiento facial, por las implicaciones que esto supone hoy en día, pero... ya os garantizo que no todas las empresas tienen esos controles y que el uso de la IA en la industria militar para la selección de objetivos ya empieza casi a ser algo que todos tienen como capacidad.

¡Saludos Malignos!

Autor: Chema Alonso (Contactar con Chema Alonso)  


No hay comentarios:

Entrada destacada

10 maneras de sacarle el jugo a tu cuenta de @MyPublicInbox si eres un Perfil Público

Cuando doy una charla a algún amigo, conocido, o a un grupo de personas que quieren conocer MyPublicInbox , siempre se acaban sorprendiendo ...

Entradas populares