Imagina un futuro en el que la inteligencia artificial interprete y aplique automáticamente las leyes.
Todo el día y todos los días, recibes constantemente instrucciones totalmente personalizadas sobre cómo cumplir la ley, enviadas directamente por tu gobierno y las fuerzas de seguridad. Te dicen cómo cruzar la calle, a qué velocidad conducir de camino al trabajo, qué puedes decir o hacer en internet… Si te encuentras en una situación que pueda tener implicaciones legales, se te dice exactamente y en tiempo real qué tienes que hacer.
Imagínate que el sistema informático que formula estas directivas legales personales a escala masiva es tan complejo que nadie puede explicar cómo razona o funciona. Pero si ignoras una directiva, el sistema lo sabrá, y se utilizará como una prueba en la acusación que seguramente seguirá.
Puede que este futuro no sea muy lejano: la detección automática de infracciones no es nada nuevo. Los radares de velocidad y de semáforo existen desde hace años. Estos sistemas emiten automáticamente multas o citatorios al propietario del vehículo basándose en la placa. En estos casos, al nombrar y notificar al conductor, se presume que el acusado es culpable a menos que demuestre lo contrario.
En Nueva York, los comercios utilizan sistemas de inteligencia artificial equipados con tecnología de reconocimiento facial para identificar a los ladrones. Las tiendas en Australia y el Reino Unido utilizan sistemas similares basados para identificar a los ladrones y alertar en tiempo real a los empleados o al personal de seguridad. China está experimentando con formas aún más potentes de aplicación automatizada de la ley y vigilancia selectiva.
Los alcoholímetros son otro ejemplo de detección automática. Estiman el contenido de alcohol en la sangre calculando el número de moléculas de alcohol presentes en el aliento mediante una reacción electroquímica o un análisis por infrarrojos (básicamente son computadoras con pilas de combustible o espectrómetros incorporados). Y no están exentos de polémica: los tribunales de Estados Unidos han encontrado graves fallos y deficiencias técnicas en los alcoholímetros y en el software que los controla. A pesar de ello, los acusados de delitos penales tienen dificultades para obtener acceso a los dispositivos o al código fuente de su software, y las empresas de alcoholímetros y los tribunales se niegan a conceder dicho acceso. En los pocos casos en que los tribunales han ordenado la divulgación de estos datos, normalmente se ha producido tras costosas batallas legales que han durado muchos años.
La inteligencia artificial está a punto de complicar mucho más esta cuestión y podría ampliar drásticamente los tipos de leyes que pueden aplicarse de este modo. Algunos expertos predicen que las ley personalizada por computadora y su aplicación automatizada son el futuro del derecho. Se administrarían mediante lo que Anthony Casey y Anthony Niblett denominan “microdirectivas”, que proporcionan instrucciones individualizadas para el cumplimiento legal en un escenario concreto.
Las microdirectivas, posibles gracias a los avances en vigilancia, tecnologías de la comunicación y análisis de grandes volúmenes de datos, serán una nueva forma predominante de ley, en gran medida creada por máquinas. Son “micro” porque no son reglas o normas generales impersonales, sino que se adaptan a una circunstancia específica. Y son “directivas” porque prescriben una acción o inacción que exige la ley.
Un aviso de violación de propiedad intelectual de la ley Digital Millennium Copyright Act (DMCA, por sus siglas en inglés) es un ejemplo actual de microdirectiva. La aplicación de la DMCA está casi totalmente automatizada, con “robots” que escanean constantemente internet en busca de material que infrinja los derechos de autor y envían automáticamente cientos de millones de avisos al día a plataformas y usuarios para retirar el contenido en el marco de la DMCA. Un aviso de DMCA para retirar el contenido se adapta a las circunstancias legales específicas del destinatario. También dirige a una acción, ya sea eliminar el contenido en cuestión o demostrar que este no infringe la ley.
Estos sistemas serían probablemente tan complejos que ni siquiera sus diseñadores serían capaces de explicar cómo interpretan y aplican la ley.
Es fácil ver cómo los sistemas de inteligencia artificial desplegados por tiendas para identificar a los ladrones podrían rediseñarse para emplear microdirectivas. Además de alertar a los propietarios de los comercios, los sistemas también podrían enviar alertas a las propias personas identificadas, con indicaciones o avisos legales adaptados.
Un futuro en el que la inteligencia artificial interprete, aplique y haga cumplir la mayoría de las leyes a escala social aumentará exponencialmente los problemas relacionados con la justicia, la transparencia y la libertad. Olvídate de la transparencia del software: las empresas de inteligencia artificial con muchos recursos, como las empresas de alcoholímetros hoy en día, sin duda protegerían ferozmente sus sistemas por razones de competencia. Estos sistemas serían probablemente tan complejos que ni siquiera sus diseñadores serían capaces de explicar cómo interpretan y aplican la ley las inteligencias artificiales, algo que ya estamos viendo con los actuales sistemas de redes neuronales de aprendizaje profundo, que son incapaces de explicar su razonamiento.
Incluso la propia ley podría volverse irremediablemente extensa y opaca. Las microdirectivas legales enviadas en masa para innumerables escenarios, cada una de ellas representando conclusiones legales autorizadas y formuladas por procesos computacionales opacos, podrían crear un cuerpo legal extenso y cada vez más complejo que crecería ad infinitum.
Esto nos lleva al meollo del asunto: si te acusa una computadora, ¿tienes derecho a revisar el funcionamiento interno de esa computadora y a impugnar potencialmente su exactitud ante el tribunal? ¿Cómo es el interrogatorio cuando el testigo del fiscal es una computadora? ¿Cómo podrías acceder, analizar y comprender todas las microdirectivas pertinentes para tu caso a fin de impugnar la interpretación jurídica de la inteligencia artificial? ¿Cómo podrían esperar los tribunales garantizar una aplicación equitativa de la ley? Como el hombre de El proceso, de Franz Kafka, morirías esperando poder acceder a la ley, porque la ley es ilimitada e incomprensible.
Este sistema supondría una amenaza sin precedentes para la libertad. Será necesaria una vigilancia omnipresente basada en la inteligencia artificial para hacer posible esa aplicación automatizada. Además, la investigación –incluidos estudios empíricos realizados por uno de nosotros (Penney)– ha demostrado que las amenazas u órdenes legales personalizadas que proceden de fuentes de autoridad, ya sean estatales o empresariales, pueden tener poderosos efectos disuasorios sobre la voluntad de las personas de hablar o actuar libremente. Imagina que recibes instrucciones legales muy concretas de las fuerzas de seguridad sobre lo que debes decir o hacer en una situación: ¿Sentirías que tienes la opción de actuar libremente?
Esta visión de la ley invasiva y bizantina de la inteligencia artificial del futuro hiela hasta los huesos. No se parecería a ningún otro sistema jurídico que hayamos visto antes en la historia de la humanidad, y sería mucho más peligroso para nuestras libertades. De hecho, algunos juristas sostienen que este futuro supondría la muerte de la ley.
Sin embargo, no es un futuro que debamos soportar. Las prohibiciones propuestas a las tecnologías de vigilancia, como los sistemas de reconocimiento facial, pueden ampliarse para incluir la aplicación invasiva y automatizada de la ley. Las leyes pueden obligar a que los sistemas de inteligencia artificial sean interpretables y explicables, para garantizar que todo el mundo pueda entender y explicar cómo funcionan. Si un sistema es demasiado complejo, quizá no deba utilizarse en contextos jurídicos. La aplicación mediante procesos jurídicos personalizados debe estar muy regulada para garantizar la supervisión, y solo debe emplearse cuando los efectos paralizantes sean menos probables, como en contextos benignos regulatorios o de administración gubernamental en los que los derechos y las libertades fundamentales no estén en peligro.
La inteligencia artificial cambiará inevitablemente el curso de la ley. Ya lo ha hecho. Pero no tenemos por qué aceptar sus instancias más extremas y máximas, ni hoy ni mañana. ~
Este artículo es publicado gracias a la colaboración de Letras Libres con Future Tense, un proyecto de Slate, New America, y Arizona State University.
es un experto en derecho y científico social en la Osgoode Hall Law School de Toronto; profesor asociado en el Berkman Klein Center for Internet and Society de Harvard, e investigador asociado del Citizen Lab, que forma parte de la Munk School of Global Affairs and Public Policy de la Universidad de Toronto. Su libro Chilling effects: An emerging threat to freedom and democracy in the digital age será publicado en 2024 por la Cambridge University Press in 2024.
es especialista en tecnología de la seguridad. Su libro más reciente es A hacker’s mind: How the powerful bend society’s rules, and how to bend them back.
