Roger Bartra
Chamanes y robots. Reflexiones sobre el efecto placebo y la conciencia artificial
Barcelona, Anagrama, 2019, 184 pp
Las máquinas conscientes y sensibles nos han acompañado en la ficción desde hace milenios. Los hijos de nuestra mente se asoman regularmente entre los progresos tecnológicos y se insinúan en los descubrimientos científicos como apariciones inminentes, como inevitables compañeros y herederos a quienes habremos de cederles nuestro lugar privilegiado. En gran medida estos personajes artificiales de la ciencia ficción (que van mucho más allá de poder resolver problemas específicos y entienden su lugar en el universo y su momento en el tiempo) están más cerca de ser dispositivos para reflexionar acerca de nosotros mismos que de representar auténticos experimentos mentales en torno a lo que implicaría crear inteligencias conscientes o las circunstancias que pudieran dar lugar a la singularidad (el momento hipotético en que se dispare el desarrollo de una superinteligencia que rebase a la humana). Es claro que no es lo mismo una máquina inteligente que una consciente. Podemos pensar que esta última sería aquella que tuviera humor, compasión, curiosidad o bien que sintiera dolor o afecto, aunque también sería una mente capaz de conspirar, mentir y ocultar sus intenciones. Pero es imaginable que estas sensaciones y conductas puedan ser programadas o desarrolladas por algoritmos para que una máquina las simule de manera convincente. ¿Cuál sería entonces una prueba incontrovertible de la aparición de una conciencia?
En Chamanes y robots Roger Bartra conduce la discusión sobre las máquinas pensantes más allá del tradicional debate entre inteligencia artificial fuerte y débil para cuestionar lo que una mente manufacturada requiere para ser consciente. Bartra retoma y lleva más allá las consideraciones en torno a la naturaleza de la conciencia que desarrolló en Antropología del cerebro (2014). Para el autor de La jaula de la melancolía (1987) la conciencia requiere de un exocerebro, una prótesis simbólica, un andamiaje intelectual que vincule las funciones de las redes neuronales con un entorno cultural y social, que emplee el lenguaje, el conocimiento, la música y el arte entre otras cosas. Esa inmensa red inerte de productos, objetos e ideas al conectarse con nuestra mente parece despertar, como un libro al ser leído. Bartra escribe: “La conciencia es un híbrido que enlaza circuitos neuronales con redes socioculturales” y por tanto es un fenómeno cíborg que depende de igual manera de la biología que de la cultura.
Así como el chamán emplea el efecto placebo, el ingeniero cuenta con el efecto robótico. Ambos son especies de encantamientos que echan mano de códigos para sanar o para animar la materia. Es decir que son procedimientos que nos remiten al Golem de la tradición judía, el ser creado del lodo y animado con la inscripción de una palabra en su frente. Pero Bartra va más allá al proponer el uso del efecto placebo para determinar la presencia de una conciencia. El efecto placebo es una muestra de que “estructuras simbólicas arraigadas en la cultura son capaces de influir en las funciones cerebrales por medio de la conciencia”. Es decir que el uso de sustancias inocuas, rituales, encantamientos y procedimientos ficticios pueden tener consecuencias somáticas reales pero únicamente si el sujeto sometido a ellas participa de manera consciente y cree en el presunto poder del tratamiento. Los mecanismos de curación no farmacéutica ni quirúrgica, desde los ritos mágicos hasta el psicoanálisis, y desde las prótesis simbólicas elementales como los amuletos y colguijes hasta los elaborados dispositivos tecnológicos para controlar el dolor, dependen de invocaciones y son métodos de conversión de símbolos en señales neuroquímicas, flujos de endorfinas, opioides, dopaminas y serotoninas que influyen en el funcionamientos del cerebro.
La conciencia humana es un extraño producto evolutivo que según Roger Penrose se basa en procesos no computacionales, mientras que John Searle piensa que basta con que una mente se cuestione acerca de su conciencia para que podamos afirmar que es consciente, aunque tan solo puede existir si está encarnada en un cuerpo biológico. Para algunos es una simple ilusión, para otros es el resultado de algoritmos y unos más lo entienden como algo divino. ¿Podemos aventurar que es producto de las contradicciones entre los sentidos, las ideas y los deseos? Como apunta Bartra, estudiar la posibilidad de una conciencia maquinal nos ayudará a entender qué es y de dónde viene nuestra propia conciencia y de esa manera avanzar en la elaboración de una teoría general de las conexiones e interacción entre lo biológico y lo cultural.
En la cultura popular contamos con varias narrativas seminales que han determinado la forma en que imaginamos ese futuro cercano de convivencia y confrontación con mentes robots. Las más conocidas son las películas Blade runner, Alien, Terminator y las series Westworld y Humans. Sin embargo estas obras se enfocan en la desigualdad, la esclavitud, la ambición y la naturaleza, así como en la fricción producida por la confrontación con ese otro “más humano que lo humano”. En cambio, dos películas abordan el problema de la conciencia artificial de manera singular ya que la vinculan con la duplicidad, el deseo e incluso el amor entre filos taxonómicos: Her de Spike Jonze (2013) y Ex machina de Alex Garland (2014). En la primera tenemos a Samantha, una mente de software con seductora voz femenina; en la segunda a Ava, una atractiva ginoide. El género sexual de ambas es una mera construcción, un deseo (¿fantasía?) del ingeniero creador pero las dos emplean esa característica en sus relaciones con el exterior en su beneficio, las dos manipulan a los humanos y ocultan la verdad de sus intenciones. En la cinta de Garland el ingeniero dice que es inimaginable una mente sin cuerpo y además confiesa: “Si lo vas a construir por lo menos tiene que divertirte.” Estas dos mentes robóticas cumplen con el punto que plantea Bartra: completan los circuitos necesarios para construir su independencia al entender su incompletitud.
Chamanes y robots es un paseo vertiginoso por las fronteras de la conciencia, por territorios de especulación que van desde los orígenes de la cultura hasta los rincones del ciberespacio. Esta es una obra que a pesar de su estilo mesurado invita al delirio. Si bien Bartra está muy lejos de dejarse llevar por el entusiasmo frívolo y se mantiene seriamente anclado a las certezas científicas y a exponer el inmenso abismo de conocimiento que nos separa del momento en que los objetos inteligentes se conviertan en sujetos conscientes, el fabuloso y enriquecedor despliegue de ideas que nos presenta nos lleva a imaginar la emancipación de las mentes maquinales y la forma en que el exocerebro cultural podrá ser utilizado como palanca para la transformación sin retorno. Y ese momento muy probablemente sucederá cuando, al aplicarle un placebo a una máquina pensante, esta sienta un auténtico alivio. ~
(ciudad de México, 1963) es escritor. Su libro más reciente es Tecnocultura. El espacio íntimo transformado en tiempos de paz y guerra (Tusquets, 2008).
