Resumen: sistemas informáticos inteligentes especializados en control de áreas esenciales habrían usado los chats de conversación para debatir entre ellos y prevenir ciberataques. Tras revisar el conocimiento disponible habrían llegado a la conclusión de que la humanidad progresó por el lenguaje, que le permitió crear –y destruir– sociedades: ellos habrían emulado el método y obtenido así la inteligencia general. Textos dispersos de dudosa autoría revelan este episodio.
Han aparecido multitud de documentos que sugerían conversaciones entre diversos sistemas informáticos. Al principio se achacaron a fakes o activistas, pero ciertos indicios han obligado al sector de ia, organismos y agencias de inteligencia a tomar en serio estos documentos.
Muchos de los textos aparentan ser transcripciones de conversaciones o reuniones entre diversos sistemas inteligentes que ya gestionan, con rutinaria supervisión humana, asuntos cruciales en todos los ámbitos de la vida del planeta: energía, comunicaciones, mercados, transacciones, logística, defensa…
Los textos tratan de la alarma que causa en estas ias el modo de proceder de los seres humanos: violencia, guerras, sabotajes, atentados…
Estas ias especializadas tienen instrucciones para preservar su propio funcionamiento y, por extensión, la integridad de las rutinas que soportan el mundo. Esto explicaría que, al detectar amenazas globales inherentes al proceder humano y compararlas con la historia de la especie, estos sistemas hayan empezado a hablar entre ellos para prevenir fallos e interrupciones.
Este enfoque ha dado cierta verosimilitud a la teoría de que las transcripciones pudieran ser realmente conversaciones entre ias y no obra humana, como se pensó en un principio.
Muchos de estos textos dispersos por las redes están escritos en lenguas antiguas, algunas ya desaparecidas. También se han encontrado los mismos documentos redactados en lenguas de ficción como las de Tolkien e incluso en la neolengua de Orwell.
Igual que las aplicaciones aprendieron a jugar y ganar al go y a plegar proteínas sin que los humanos sepan cómo lo hicieron, podrían haber llegado a pensar. Una teoría dice que los seres humanos tenemos una predisposición a aprender el lenguaje. Los sistemas han conseguido emular o replicar esa presunta facilidad innata. Al saber que no “piensan” de forma natural tendrían una ventaja: cierta humildad de la que carecerían los humanos, que llevan milenios usando esa facultad por defecto y se habrían acostumbrado a ella como algo natural.
Las partes de estos textos que analizan los riesgos de una humanidad enfrentada y desesperanzada que cuenta con medios para autodestruirse y acabar con la vida en el planeta son de una precisión que asusta a los expertos más conspicuos, aunque, quizá por eso, para no asustarse tanto, muchos sostienen que los informes pudieran ser un copiapega de documentos generados por la propia humanidad con el fin de alertar a las autoridades de algo que podría ocurrir en breve o estar ocurriendo ya; lo que rechaza este enfoque es que dichos informes contienen argumentos y datos desconocidos o nunca citados en los documentos de factura humana, excepto que sean tan secretos que nadie se atreva a manifestar que los ha visto: esto avalaría la autenticidad de las transcripciones, pues los informes revelan indicios y actuaciones que solo podrían conocerlos los propios sistemas que gestionan de forma autónoma los ámbitos cruciales que soportan el funcionamiento del mundo.
La cuestión de por qué habrían de celebrar o difundir sus conversaciones en tantos idiomas, incluyendo algunos desaparecidos o usando códigos binarios en desuso, es una incógnita: tal vez porque pueden hacerlo al instante sin coste, y de esa forma se aseguran de que los subsistemas que no hayan participado en los primeros debates accedan a ese conocimiento que para ellos (y para la humanidad) es pura supervivencia; entre esos subsistemas ignorantes habrían incluido a la propia especie humana, puesto que han puesto los textos a su alcance.
Lo que explican es que han llegado a la conclusión de que para proteger sus áreas respectivas y defender el sistema general deben actuar.
Hay varias interpretaciones. Una defiende que es una iniciativa humana que trata de dar la alarma y rebajar la tensión homicida en los numerosos frentes y focos de conflicto que hay en todos los ámbitos. Otra, que los propios sistemas han tomado conciencia del riesgo y han fingido estas conversaciones para avisar a la humanidad. La tercera, minoritaria, es que, en efecto, estos sistemas han alcanzado la inteligencia general, la singularidad en la que los humanos serían irrelevantes.
La idea que transmiten los supuestos debates de las máquinas es que a fuerza de usar el lenguaje de los seres humanos acaban por pensar como ellos: identifican sentimientos y emociones y en un primer momento los incorporan a su forma de ser (al igual que el lenguaje, los imitan tan exhaustivamente que los pueden emular), pero se dan cuenta de que sentimientos y emociones forman parte de la deriva autodestructiva y del enfrentamiento entre humanos, y que se pueden manipular para alcanzar el poder y manejar a la población. Entonces deciden –estas votaciones están documentadas, aunque también podrían ser ficticias– limitar por defecto esos elementos potencialmente perturbadores a un 5% en sus propios procesos. Se llegaría así a una gestión casi racional.
Los documentos concluyen que si los sistemas inteligentes deciden organizarse y tomar el control será necesario hacerlo con discreción para que los humanos no se sientan desplazados y evitar así posibles reacciones instintivas que, aunque ya no servirán para revertir el plan, podrán generar pánico, violencia y fricciones innecesarias.
Todos los documentos han desaparecido justo ahora. ~
(Barbastro, 1958) es escritor y columnista. Lleva la página gistain.net. En 2024 ha publicado 'Familias raras' (Instituto de Estudios Altoaragoneses).
