Imagina un futuro en el que la inteligencia artificial interprete y aplique automรกticamente las leyes.
Todo el dรญa y todos los dรญas, recibes constantemente instrucciones totalmente personalizadas sobre cรณmo cumplir la ley, enviadas directamente por tu gobierno y las fuerzas de seguridad. Te dicen cรณmo cruzar la calle, a quรฉ velocidad conducir de camino al trabajo, quรฉ puedes decir o hacer en internet… Si te encuentras en una situaciรณn que pueda tener implicaciones legales, se te dice exactamente y en tiempo real quรฉ tienes que hacer.
Imagรญnate que el sistema informรกtico que formula estas directivas legales personales a escala masiva es tan complejo que nadie puede explicar cรณmo razona o funciona. Pero si ignoras una directiva, el sistema lo sabrรก, y se utilizarรก como una prueba en la acusaciรณn que seguramente seguirรก.
Puede que este futuro no sea muy lejano: la detecciรณn automรกtica de infracciones no es nada nuevo. Los radares de velocidad y de semรกforo existen desde hace aรฑos. Estos sistemas emiten automรกticamente multas o citatorios al propietario del vehรญculo basรกndose en la placa. En estos casos, al nombrar y notificar al conductor, se presume que el acusado es culpable a menos que demuestre lo contrario.
En Nueva York, los comercios utilizan sistemas de inteligencia artificial equipados con tecnologรญa de reconocimiento facial para identificar a los ladrones. Las tiendas en Australia y el Reino Unido utilizan sistemas similares basados para identificar a los ladrones y alertar en tiempo real a los empleados o al personal de seguridad. China estรก experimentando con formas aรบn mรกs potentes de aplicaciรณn automatizada de la ley y vigilancia selectiva.
Los alcoholรญmetros son otro ejemplo de detecciรณn automรกtica. Estiman el contenido de alcohol en la sangre calculando el nรบmero de molรฉculas de alcohol presentes en el aliento mediante una reacciรณn electroquรญmica o un anรกlisis por infrarrojos (bรกsicamente son computadoras con pilas de combustible o espectrรณmetros incorporados). Y no estรกn exentos de polรฉmica: los tribunales de Estados Unidos han encontrado graves fallos y deficiencias tรฉcnicas en los alcoholรญmetros y en el software que los controla. A pesar de ello, los acusados de delitos penales tienen dificultades para obtener acceso a los dispositivos o al cรณdigo fuente de su software, y las empresas de alcoholรญmetros y los tribunales se niegan a conceder dicho acceso. En los pocos casos en que los tribunales han ordenado la divulgaciรณn de estos datos, normalmente se ha producido tras costosas batallas legales que han durado muchos aรฑos.
La inteligencia artificial estรก a punto de complicar mucho mรกs esta cuestiรณn y podrรญa ampliar drรกsticamente los tipos de leyes que pueden aplicarse de este modo. Algunos expertos predicen que las ley personalizada por computadora y su aplicaciรณn automatizada son el futuro del derecho. Se administrarรญan mediante lo que Anthony Casey y Anthony Niblett denominan “microdirectivas”, que proporcionan instrucciones individualizadas para el cumplimiento legal en un escenario concreto.
Las microdirectivas, posibles gracias a los avances en vigilancia, tecnologรญas de la comunicaciรณn y anรกlisis de grandes volรบmenes de datos, serรกn una nueva forma predominante de ley, en gran medida creada por mรกquinas. Son “micro” porque no son reglas o normas generales impersonales, sino que se adaptan a una circunstancia especรญfica. Y son “directivas” porque prescriben una acciรณn o inacciรณn que exige la ley.
Un aviso de violaciรณn de propiedad intelectual de la ley Digital Millennium Copyright Act (DMCA, por sus siglas en inglรฉs) es un ejemplo actual de microdirectiva. La aplicaciรณn de la DMCA estรก casi totalmente automatizada, con “robots” que escanean constantemente internet en busca de material que infrinja los derechos de autor y envรญan automรกticamente cientos de millones de avisos al dรญa a plataformas y usuarios para retirar el contenido en el marco de la DMCA. Un aviso de DMCA para retirar el contenido se adapta a las circunstancias legales especรญficas del destinatario. Tambiรฉn dirige a una acciรณn, ya sea eliminar el contenido en cuestiรณn o demostrar que este no infringe la ley.
Estos sistemas serรญan probablemente tan complejos que ni siquiera sus diseรฑadores serรญan capaces de explicar cรณmo interpretan y aplican la ley.
Es fรกcil ver cรณmo los sistemas de inteligencia artificial desplegados por tiendas para identificar a los ladrones podrรญan rediseรฑarse para emplear microdirectivas. Ademรกs de alertar a los propietarios de los comercios, los sistemas tambiรฉn podrรญan enviar alertas a las propias personas identificadas, con indicaciones o avisos legales adaptados.
Un futuro en el que la inteligencia artificial interprete, aplique y haga cumplir la mayorรญa de las leyes a escala social aumentarรก exponencialmente los problemas relacionados con la justicia, la transparencia y la libertad. Olvรญdate de la transparencia del software: las empresas de inteligencia artificial con muchos recursos, como las empresas de alcoholรญmetros hoy en dรญa, sin duda protegerรญan ferozmente sus sistemas por razones de competencia. Estos sistemas serรญan probablemente tan complejos que ni siquiera sus diseรฑadores serรญan capaces de explicar cรณmo interpretan y aplican la ley las inteligencias artificiales, algo que ya estamos viendo con los actuales sistemas de redes neuronales de aprendizaje profundo, que son incapaces de explicar su razonamiento.
Incluso la propia ley podrรญa volverse irremediablemente extensa y opaca. Las microdirectivas legales enviadas en masa para innumerables escenarios, cada una de ellas representando conclusiones legales autorizadas y formuladas por procesos computacionales opacos, podrรญan crear un cuerpo legal extenso y cada vez mรกs complejo que crecerรญa ad infinitum.
Esto nos lleva al meollo del asunto: si te acusa una computadora, ยฟtienes derecho a revisar el funcionamiento interno de esa computadora y a impugnar potencialmente su exactitud ante el tribunal? ยฟCรณmo es el interrogatorio cuando el testigo del fiscal es una computadora? ยฟCรณmo podrรญas acceder, analizar y comprender todas las microdirectivas pertinentes para tu caso a fin de impugnar la interpretaciรณn jurรญdica de la inteligencia artificial? ยฟCรณmo podrรญan esperar los tribunales garantizar una aplicaciรณn equitativa de la ley? Como el hombre de El proceso, de Franz Kafka, morirรญas esperando poder acceder a la ley, porque la ley es ilimitada e incomprensible.
Este sistema supondrรญa una amenaza sin precedentes para la libertad. Serรก necesaria una vigilancia omnipresente basada en la inteligencia artificial para hacer posible esa aplicaciรณn automatizada. Ademรกs, la investigaciรณn โincluidos estudios empรญricos realizados por uno de nosotros (Penney)โ ha demostrado que las amenazas u รณrdenes legales personalizadas que proceden de fuentes de autoridad, ya sean estatales o empresariales, pueden tener poderosos efectos disuasorios sobre la voluntad de las personas de hablar o actuar libremente. Imagina que recibes instrucciones legales muy concretas de las fuerzas de seguridad sobre lo que debes decir o hacer en una situaciรณn: ยฟSentirรญas que tienes la opciรณn de actuar libremente?
Esta visiรณn de la ley invasiva y bizantina de la inteligencia artificial del futuro hiela hasta los huesos. No se parecerรญa a ningรบn otro sistema jurรญdico que hayamos visto antes en la historia de la humanidad, y serรญa mucho mรกs peligroso para nuestras libertades. De hecho, algunos juristas sostienen que este futuro supondrรญa la muerte de la ley.
Sin embargo, no es un futuro que debamos soportar. Las prohibiciones propuestas a las tecnologรญas de vigilancia, como los sistemas de reconocimiento facial, pueden ampliarse para incluir la aplicaciรณn invasiva y automatizada de la ley. Las leyes pueden obligar a que los sistemas de inteligencia artificial sean interpretables y explicables, para garantizar que todo el mundo pueda entender y explicar cรณmo funcionan. Si un sistema es demasiado complejo, quizรก no deba utilizarse en contextos jurรญdicos. La aplicaciรณn mediante procesos jurรญdicos personalizados debe estar muy regulada para garantizar la supervisiรณn, y solo debe emplearse cuando los efectos paralizantes sean menos probables, como en contextos benignos regulatorios o de administraciรณn gubernamental en los que los derechos y las libertades fundamentales no estรฉn en peligro.
La inteligencia artificial cambiarรก inevitablemente el curso de la ley. Ya lo ha hecho. Pero no tenemos por quรฉ aceptar sus instancias mรกs extremas y mรกximas, ni hoy ni maรฑana. ~
Este artรญculo es publicado gracias a la colaboraciรณn de Letras Libres con Future Tense, un proyecto de Slate, New America, y Arizona State University.
es un experto en derecho y cientรญfico social en la Osgoode Hall Law School de Toronto; profesor asociado en el Berkman Klein Center for Internet and Society de Harvard, e investigador asociado del Citizen Lab, que forma parte de la Munk School of Global Affairs and Public Policy de la Universidad de Toronto. Su libro Chilling effects: An emerging threat to freedom and democracy in the digital age serรก publicado en 2024 por la Cambridge University Press in 2024.
es especialista en tecnologรญa de la seguridad. Su libro mรกs reciente es A hackerโs mind: How the powerful bend societyโs rules, and how to bend them back.
