Imaginemos al vocero de una empresa fabricante de aviones diciendo que hay más de diez por ciento de probabilidades de que sus naves fallen y maten a todos sus ocupantes. O a una vocera de una armadora de autos diciendo que su nuevo modelo podría quedarse sin frenos en diez años y matar a conductores, pasajeros y hasta a los pobres peatones que se encuentre a su paso. En esa, o en cualquier industria, semejantes declaraciones provocarían caídas en ventas, desplomes bursátiles y despidos fulminantes. No podría haber peor estrategia de reputación.
Bueno, pues eso es lo que están haciendo las empresas de inteligencia artificial (IA). Esas compañías –apoyadas en un coro de profetas tecnológicos– llevan ya varios años diciéndonos que sus invenciones van a quitarnos el trabajo, volvernos tontos, apoderarse de la creatividad humana, hacernos más insoportables, o aprovecharse de nuestra soledad para manipularnos psicológicamente, entre otras nefastas consecuencias.
Por si esa mala fama no fuera suficiente, ahora la “promesa” de los voceros de la industria de la IA es que su producto podría borrar a la humanidad del mapa. Hace unos días, investigadores de Anthropic dijeron que la IA podría representar una amenaza vital para toda la especie humana en diez años, probabilidad que, calculan, excede el diez por ciento. Elon Musk ha terciado diciendo que, menos mal, las máquinas tal vez no nos maten, pero definitivamente nos desplazarán del control del planeta, pues rebasarán la inteligencia agregada de todos los humanos juntos.
Pese a ello, las empresas de inteligencia artificial siguen atrayendo inversiones históricas lo que les permite seguir compitiendo frenéticamente por crear máquinas que nos lleven apocalipsis. Parece que el discurso apocalíptico no está siendo escuchado… o tal vez sí, pero lo único que logra es hacer más ricos y poderosos a los líderes de esta industria. ¿Cómo es posible?
Para entender cómo funciona este mecanismo de “entre más te asusto, más poderoso me vuelvo”, hay que diseccionar el discurso de los constructores de IA con los tres elementos clásicos de la persuasión: credibilidad (ethos), razón (logos), y emoción (pathos).
En primer lugar, el ethos. La credibilidad de Dario Amodei, Sam Altman, Elon Musk y otros líderes de la IA no descansa en la virtud ni en la responsabilidad, sino en el intelecto y el poder. Se presentan ante nosotros como una nueva estirpe de genios históricos, con un poco de Einstein, algo de Turing y una pizca de Oppenheimer en una sola persona, pero con capacidades de invención potenciadas por sus fortunas masivas. Se venden como los únicos capaces de entender y construir algo que los simples mortales apenas podemos imaginar y como los únicos con el poder para manejarlo. A veces se sienten optimistas y nos dicen que van a curar el cáncer o terminar con el hambre. Otras, como ahora, salen muy preocupados a “advertirnos” que son tan brillantes que su propia creación comienza a asustarlos. El miedo y el asombro aumentan su estatura de “genialidad”. Producen así una forma muy conveniente de poder: si solo yo soy tan listo como para inventar el problema, entonces solo yo te podré ayudar a resolverlo.
En segundo lugar, la estructura lógica de su discurso (logos) es muy clara. La premisa es que la inteligencia artificial no es una tecnología al servicio de las personas, sino una fuerza imparable e inevitable, como un meteorito. Llegará un momento en que la IA cruzará un umbral de capacidad, definido por ellos, y cuando eso pase, impactará la economía, la infraestructura, la guerra, la política y, en la versión extrema, la supervivencia humana. De ahí sale la conclusión del discurso: hay que reducir la velocidad, coordinarse y regular. Nunca dicen “tal vez sea mejor detener esto y reflexionar un poco sobre su pertinencia”. Dicen “reducir el ritmo”, pero aceleran y siguen creando modelos de IA cada vez más poderosos, mientras piden reglas que impidan que “alguien” –es decir, otro país u otra empresa– avance “irresponsablemente”. Muy conveniente también.
El tercer elemento persuasivo de este discurso es el pathos, la emoción. Estamos, como ya se dijo, ante una retórica apocalíptica que transmite al mismo tiempo asombro y temor. La promesa y la amenaza de la IA crecen juntas. Pero el mensaje es claro, no estamos ante una máquina novedosa que hay que aprender a usar: estamos ante un acontecimiento histórico, casi místico, de creación y destrucción. Varios estudiosos llevan un rato señalando que el imaginario de la inteligencia artificial tiene una estructura escatológica: vaticina que a nuestra decadencia seguirá un “Fin de los tiempos” que llegará por intervención de una fuerza supranatural que repartirá salvación y castigo.
¿Y nosotros, los simples mortales? Con cada profecía desproporcionada, prestamos menos atención al aquí y al ahora: quién controla hoy estas empresas, con qué datos entrenan sus sistemas, cuánta agua y energía usa, quién decide sustituir a las personas por máquinas y qué estándares éticos deben adoptarse. Convertir a la tecnología en la protagonista de la historia permite que los mercaderes del apocalipsis sean profetas, no responsables, y queden eximidos de la rendición de cuentas.
Vale la pena entonces escuchar a voces sensatas, como las de Daniel Innenarity y Carissa Véliz, cuando advierten contra una de las grandes trampas intelectuales de nuestro tiempo: confundir predicción con destino y capacidad técnica con autoridad política. Que Amodei, Altman, Musk o cualquier otro constructor de inteligencia artificial pueda imaginar mejor que nosotros lo que sus creaciones pueden hacer no les concede derecho alguno sobre el mundo en el que los demás tendremos que vivir. Mucho menos cuando ellos mismos fabrican la tecnología, anuncian sus peligros, se llevan sus beneficios y pretenden establecer las condiciones bajo las cuales debemos aceptarla.
Podemos escuchar a los mercaderes del apocalipsis, pero lo que no tenemos que hacer es aceptar su discurso a ciegas. ~
