La maldición de la inteligencia

2 agosto 2019

Somos una especie rara, hasta para ser perezosos. Tenemos asistentes digitales que encienden las luces (¿tan difícil es accionar un interruptor?) en la misma habitación en la que pasaremos horas quemando calorías en una bicicleta de miles de dólares gracias a una rutina diseñada con la misma precisión que un musical o un evento evangélico –con todo y música y vestuarios–, y tostadoras que mandan actualizaciones a las apps de nuestro teléfono. Nuestra tecnología dejó de responder a la supervivencia o el ahorro de energía y pasó a estar emparentada con lo conveniente y lo novedoso, y qué más novedoso y conveniente que la inteligencia, que transferimos cada vez con mayor frecuencia y entusiasmo a soportes distintos a nuestro cerebro, aunque debamos hacer trueques cada vez más opacos e inquietantes. Todo empezó con la escritura, esa tecnología terrible que empobrecía la memoria, y no ha parado.

Mientras más inteligente sea un aparato o el programa que lo maneja –conforme más datos pueda recolectar y procesar para hacer más cosas con menos intervención humana– más lo deseamos y más deseamos que sea pequeño y rápido, inalámbrico y gratuito. A cambio estamos dispuestos a pagar con datos que, tras ser procesados en una computadora que puede existir físicamente en cualquier lugar del mundo, se nos devuelven, migajas apenas, en forma de la ruta más conveniente para evitar una marcha o la rebanada perfecta de pan tostado. Tanta comodidad exige más datos y más conexiones. A más información y más nodos, más rutas de acceso y más cosas que pueden salir mal. Es la maldición de la inteligencia.

Nadie trató nunca de hackear un reloj de cuerda: la cantidad de datos que emanan de un reloj analógico es insignificante si la comparamos con la que acopia y transmite una cabeza de regadera inteligente (existe) o un excusado inteligente (existe). También su capacidad de interconexión es insignificante: el reloj se comunica con su dueño, pero el programa que controla el metro de una ciudad o lee los rostros de una muchedumbre recibe información de millones de fuentes. Esas inteligencias ven, escuchan y sienten por infinidad de poros, y es posible vulnerar casi cada unos de ellos con suficiente tesón e ingenio: sabemos desde hace años que es posible instalar programas maliciosos –o malware–, fatídicos en los dispositivos que usan los cardiólogos para regular la actividad de los marcapasos, y lo mismo ocurre con las bombas de insulina, el termostato de la calefacción y hasta la báscula del baño (menos letal pero igual de cierto). Los crackers (hackers malvados) no tienen límites. Desde un ataque de denegación de servicio –que satura el ancho de banda que da servicio a una red– o un shoulder surfing para robarse la información de un usuario literalmente mirando sobre su hombro hasta otros progresivamente más complicados que aprovechan las debilidades informáticas, físicas y psicológicas de la red en la que participan máquinas y humanos, no queda rincón sin explorar. Si el sistema crece, los rincones también.

¿Suena conocido? Nosotros, los simios que hacemos bicicleta fija, padecemos una maldición similar. Estamos conectados por decenas de vías con fuentes continuas de información. Es fácil engañar a nuestros sentidos, e incluso las funciones superiores de la inteligencia son proclives a una forma de hackeo que se llama lenguaje. Basta con asestar una buena pregunta para instalar nuevas ideas, corromper otras y borrar cortafuegos. Los buenos retóricos son buenos hackers y, como ellos, saben entrar por las rutas menos esperadas. Pero sucede que todos somos víctimas y agentes de esta manipulación: sonreímos, contamos chistes y chismes, nos desvivimos por encontrar trucos que nos hagan parecer más listos, de piernas más largas, barrigas menos prominentes y mejillas más firmes. Los demás tienen instaladas sus propias estrategias y cortafuegos para detectar las nuestras, y así es como procede la carrera armamentista que llevamos unos millones de años perfeccionando.

Las inteligencias artificiales, los programas que pueden percibir y entender su entorno y aprender a hacer una tarea en forma cada vez más eficiente mediante ensayo y error, son unas recién llegadas al negocio de la inteligencia. Algunas están inspiradas en la estructura de nuestro cerebro, pero no han tenido tiempo para aprender a defenderse (o no hemos sido buenos maestros, puesto que no entendemos en absoluto cómo perciben y piensan) y son ridículamente fáciles de engañar o hackear. Ciertos recursos sencillos son suficientes para descarrilar a las inteligencias encargadas de reconocer imágenes: unos pocos pixeles de ruido oculto en la fotografía de un panda las convencen de que están viendo un gibón, y unos lentes oscuros bien diseñados confunden a las tecnologías de reconocimiento facial mediante el equivalente de una ilusión óptica para computadoras. Estos “ataques adversarios”, como se conocen, recuerdan un poco a los ficticios ataques telefónicos que durante la Guerra Fría mataban mediante un tono letal, o los ataques sónicos que, tal vez producto de paranoias más modernas, aseguran haber sufrido diplomáticos estadounidenses en La Habana. Pero son aún más insidiosos porque no se limitan a usar un fenómeno físico contra un rasgo anatómico o fisiológico sino a voltear la inteligencia contra ella misma. La capacidad de aprendizaje de las redes neurales las hace buenas candidatas para inventar sus propios ataques adversarios mediante lógicas cada vez más alejadas de las nuestras. Dadas las recompensas y los castigos adecuados, y algo de tiempo, podemos enseñarles a estas redes a engañar a otras redes, del mismo modo que hoy aprenden a hacer negocios, detectar cánceres y reconocer cómo caminamos y hablamos y deseamos.

Incluso es posible que aprendan a ser humanas antes de lo que creemos, y con nuestra ayuda. No espero ver resuelto el problema de la fusión nuclear durante mi vida, pero sí cómo salen al mercado implantes cerebrales que suplen un sentido o una función; que ayudan a caminar, a ver, a percibir un nuevo color o a entender un problema de matemáticas o mejorar la memoria. A más inteligencia, más caminos de entrada. Ataques que hoy son cómicamente sencillos y con resultados fáciles de notar (la inteligencia artificial confunde un plátano con una tostadora) se harán más sutiles e indetectables. ¿Cómo advertiríamos que somos víctimas de un virus que se transmite mediante ideas, fragmentos de sonido, aromas a galletas de chocolate? ¿O que se incuba durante años o se confunde con un cambio de opinión natural por la edad, por la exposición a las noticias, por el amor o el desamor? Si terminan por fusionarse los dos sistemas de procesamiento, las dos formas de percepción, todas las fortalezas y debilidades de los unos y los otros, ¿cuántos puntos de ataque habrá? ¿Cuántas vías, cuántas entradas para unos hackers que ya no serán ni máquinas ni humanos? ¿Qué tan lejos nos llevará la maldición de la inteligencia? ~