Una empresa que fabrica pistolas de descargas eléctricas y cámaras portátiles colaborará con una compañía que hace drones para vender un tipo de drones a las jefaturas de policía de todo el mundo. Y eso ni siquiera es lo más preocupante. La línea de drones de Axon y DJI se llama Axon Air, y los dispositivos estarán conectados a la base de datos en la nube para agencias de policía de Axon, Evidence.com, que también se usa para procesar datos de las cámaras portátiles. Esto podría abrir un nuevo y vasto terreno para la vigilancia policial.
Al aliarse con una empresa que ya sabe lo que es trabajar con departamentos de policía, DJI, la empresa china y fabricante principal de drones para consumidores, su base de consumidores podría agrandarse: los policías. Axon Air, presentado recientemente, se ofrece como una forma de ayudar a las agencias de orden público en las operaciones de búsqueda y rescate, la supervisión de multitudes, la reconstrucción de accidentes de tránsito y la recopilación de pruebas. Los datos de los drones serían la última adición al conjunto de herramientas de Axon para la policía, que incluye pistolas de descarga eléctrica, cámaras portátiles (Axon es el mayor vendedor de estas en Estados Unidos) y cámaras para automóviles. El CEO de Axon, Rick Smith, dijo recientemente que la empresa considera utilizar el reconocimiento facial con su tecnología para cámaras.
La compañía parece estar al tanto de las alarmantes consecuencias sociales (o por lo menos de la opinión pública desfavorable) que trae esa decisión y anunció en abril la conformación de un comité ético sobre inteligencia artificial para guiar el uso de la IA en la tecnología para vigilancia policial. Sin embargo, ese anuncio desencadenó graves preocupaciones entre defensores de derechos civiles y de privacidad, incluida la Unión Estadounidense por las Libertades Civiles, dado que la combinación de los productos que ofrece Axon podría perpetuar aún más las caracterizaciones raciales por parte de la policía. Por ejemplo, es probable que una base de datos con fotografías de criminales utilizada para buscar coincidencias con las de una cámara policial portátil tenga más fotos de rostros afroamericanos que blancos. Si un policía le pide a un conductor afroamericano que detenga su auto es más probable que el oficial encuentre una coincidencia de su imagen con una fotografía del archivo policial y profundice el interrogatorio; mientras que si el conductor es blanco, las probabilidades de que se genere una coincidencia son menores.
No obstante lo dicho por Smith, confirmé con Axon que actualmente no está trabajando en la implementación del reconocimiento facial en sus cámaras. “Si bien reconocemos el valor de esta posible función, también tenemos en cuenta las preocupaciones relacionadas con los derechos de privacidad y los riesgos asociados con la identificación errónea de individuos”, escribió su vocero Steve Tuttle en un correo electrónico. Sin embargo, la vigilancia no es lo único que genera aprensión ante la posibilidad de que una compañía de tecnología policial incursione en los ámbito de los drones. “Axon también hace pistolas de descarga eléctrica, por lo que es fácil imaginarse drones con esas pistolas, gas lacrimógeno, balas de goma u otras armas”, explica Harlan Yu, director ejecutivo de Upturn, una organización sin fines de lucro que se ocupa de asuntos relacionados con tecnología y justicia social. Este escenario no es necesariamente uno hipotético. En 2015, la legislatura de Dakota del Norte aprobó una ley que legaliza el uso de drones armados por parte de cuerpos policiales, destacó Yu. Axon ya hizo una demostración de cómo se puede agregar una pistola de descarga eléctrica a un dron.
Actualmente, según el comunicado de prensa de Axon, más de 200,000 profesionales de seguridad pública usan Evidence.com. Según Tuttle, “todos los datos digitales, incluidos PDF, fotos de escenas de crimen, imágenes de circuito cerrado de televisión, cámaras en automóviles y, ahora, videos de drones de DJI, se pueden vincular a un expediente”; esto significa que es posible buscar un caso para el que haya imágenes de una cámara montada en una patrulla y ver si el mismo caso tiene imágenes de dron asociadas. Tuttle dijo que las agencias de orden público son propietarias del material que suben a Evidence.com, aunque el repositorio es propiedad de la empresa y esta se encarga de su mantenimiento. Pero eso no significa que la policía no pueda compartir esos datos con otras agencias (muchas ya comparten la información de vigilancia mediante distintas bases de datos). Tampoco significa que Axon no pueda pedir acceso a los datos para, por ejemplo, entrenar sistemas de inteligencia artificial. Vigilant Solutions, una empresa de tecnología de vigilancia que se especializa en almacenar datos de placas utilizados permite que jefaturas de policía y agencias federales de todo el país compartan sus datos entre sí, incluso entre jefaturas de policía en ciudades santuario y agencias del Servicio de Inmigración y Control de Aduanas.
Con la combinación de drones, cámaras portátiles, cámaras de patrullas e imágenes de circuito cerrado de televisión, Axon espera crear una plataforma central para que la policía acceda a datos de vigilancia y realice referencias cruzadas. De acuerdo con Elizabeth Joh, profesora de derecho en la Universidad de California en Davis que estudia derechos civiles y tecnología de vigilancia, se trata de un tesoro de información que podría resultar difícil dejar de utilizar: “No solo no existen otros proveedores que compitan, sino que, una vez que una jefatura de policía establece un determinado contrato con una empresa, es muy difícil anularlo”, dijo Joh. “Se invierte mucho en capacitar a la agencia y a los oficiales en el uso de la herramienta”. La falta de competencia podría ser un problema, ya que Axon se posicionaría como un servicio omnímodo y obligatorio para las agencias de orden público. “La pregunta es si queremos este tipo de monopolio tecnológico en una era en la que está claro que dichos monopolios, como Facebook, no han estado al servicio del interés público”, explicó Joh.
El tema del monopolio de Axon no tiene que ver solo con que las agencias estén atadas a la empresa debido a la falta de opciones o al costo de pasar a otra compañía. También está relacionado con que, en el futuro, la empresa podría monetizar su acceso a datos policiales. El dominio de Axon en el mercado de datos de vigilancia de cámaras policiales podría darle una ventaja insuperable. Esto se debe a que la IA va mejorando a medida que cuenta con más datos con los que entrenarse. Por lo tanto, la empresa que tenga la mayor cantidad de información probablemente tendrá el mejor producto. Después de todo, el año pasado, Axon adquirió dos empresas de inteligencia artificial distintas para analizar imágenes de video y, en un comunicado de prensa, anunció que las combinará para crear una división nueva, Axon AI.
Un vocero de DJI dijo que su “asociación con Axon no incluye nada relacionado con capacidades ofensivas ni tecnología de reconocimiento facial”. Sin embargo, después de que una agencia del orden público compra un dron, puede hacer lo que quiera con este siempre y cuando no infrinja la ley. Esto podría incluir vigilar una protesta con un dron, una acción que la policía ya ha considerado. En mayo, el alcalde de Chicago, Rahm Emanuel, anunció su apoyo a un proyecto de ley que podría permitirle a la policía volar drones durante eventos multitudinarios para realizar vigilancia. Además, Amazon ha estado comercializando su software de reconocimiento facial, Rekognition —que puede identificar hasta 100 personas en una solo foto—, a agencias de seguridad pública durante los últimos dos años. No hay ninguna razón para pensar que ese software no pueda aplicarse a imágenes de drones, ya sea que se incluya esa característica en el dron o que se aplique a imágenes enviadas a una computadora en tiempo real.
“Hay buenas razones para usar drones a las que no nos oponemos. Pero son situaciones limitadas en las que debe tener sentido que haya una cámara en el cielo, ya sea para construcciones o para buscar un niño perdido en el bosque”, detalló Jay Stanley, analista senior de políticas de la Unión Estadounidense por las Libertades Civiles. Además, Stanley explicó que la tecnología empieza a preocuparle cuando se quiere usar para monitorear un área amplia, como cuando se sobrevuela una ciudad y se recopilan datos desde el aire. “Esto podría darle a la policía la capacidad de ver la vida de las personas como una película y saber todos los lugares a los que hayan ido”, indicó.
Es usual que las jefaturas de policía adquieran tecnologías de vigilancia sin un debate público anterior. Sin embargo, las comunidades preocupadas por el uso de drones de vigilancia tienen opciones. En Estados Unidos, en Oakland, California, se aprobó una importante ordenanza nueva en mayo que regula el uso de tecnologías de vigilancia por parte de la policía y requiere que toda tecnología de vigilancia que la ciudad quiera adquirir se someta a revisión y aprobación de un comité local de inspectores voluntarios. De esta manera, la policía debe revelar las tecnologías de vigilancia nuevas que quiera implementar y participar de un debate al respecto, por lo que no podrían comprar drones de vigilancia sin informarle al público. Actualmente, la legislatura de California está considerando un modelo estatal para ese tipo de control de privacidad relacionado con vigilancia policial.
“Las municipalidades deben tener mucho cuidado cuando consideren el uso de drones”, aclaró Yu. “Deben hablar con las comunidades antes de adoptar esas tecnologías para conseguir su aprobación y, ya sean drones u otras tecnologías policiales, siempre debería ser una decisión democrática”.
Future Tense es una colaboración entre Slate, New America y Arizona State University que explora tecnologías emergentes, política pública y sociedad.
escribe sobre tecnología para Slate y es co-conductora del podcast If, Then
