Experto en el análisis de los medios de comunicación, Raúl Trejo Delarbre ha publicado recientemente Inteligencia artificial, conversaciones con ChatGPT (Cal y Arena, 2023). En este breve volumen su autor expone las enormes ventajas y los riesgos inherentes a esta poderosa herramienta que es la inteligencia artificial, a partir de la enorme difusión que han tenido sus modelos generativos, como el ChatGPT. Letras Libres ha conversado con él para conocer qué se está haciendo en México, de qué forma estamos aprovechando esta tecnología y qué se ha dejado de hacer. Los retos son enormes pero al parecer, una vez más, estamos dejando pasar una gran oportunidad. Sirva esta entrevista para alertar al público y a las autoridades de los riesgos que se corren, por ejemplo en el terreno electoral, con esta nueva tecnología.
En tu libro describes las ventajas y riesgos que implica la inteligencia artificial. Puede ser un gran auxiliar para muchas tareas pero son grandes los riesgos. En términos de investigación y desarrollo de esta tecnología, ¿en donde se encuentra México?
Se encuentra muy atrasado. En México hay poca investigación para generar modelos de inteligencia artificial. Hay mucho interés, sobre todo a partir de la popularidad de la inteligencia artificial generativa, como ChatGPT. En distintas universidades hay grupos de trabajo que comienzan a preguntarse cómo aprovechar este recurso, sobre todo en la aplicación pedagógica. Carecemos de impulso a la innovación. Hay una gran cantidad de colegas universitarios que se preguntan cómo aprovechar lo que ya existe, pero hay poca discusión sobre los riesgos que implica. Hay muy poca investigación de punta capaz de generar nuevas formas o aplicaciones de la inteligencia artificial.
El enfoque que le ha dado el presente gobierno a la ciencia es ideológico. Se ha concentrado en combatir “la ciencia neoliberal”. Ha perseguido judicialmente a científicos, reducido drásticamente el presupuesto de los centros de investigación, limitado las becas. En otros países consideran que el desarrollo sin control de la inteligencia artificial es tan riesgoso como las pandemias y la guerra nuclear. ¿Estamos preparados para algo así?
El mundo no está preparado para un escenario catastrófico como el que han vaticinado algunos científicos y empresarios de la inteligencia artificial. En México ni siquiera los debates internacionales sobre este asunto están teniendo peso. Hace pocos meses se publicó la petición, firmada por docenas de promotores de la inteligencia artificial, de una pausa para reflexionar sobre las implicaciones de esta tecnología. Este llamado suscitó discusiones en la prensa y debates académicos en todo el mundo. Al final no se llegó a nada porque no todas las empresas que desarrollan este tipo de modelos estuvieron de acuerdo en hacer esa pausa. En México esto pasó prácticamente desapercibido en la prensa, salvo excepciones. No ocupó espacio en las páginas de los diarios ni en los noticieros de radio y televisión. En el mundo académico, al hablar de esta advertencia, se hacía con cierto desdén, por considerarla una preocupación motivada por ambiciones mercantiles y no por una inquietud auténtica por la falta de control de estos modelos de inteligencia artificial.
Tenemos una sociedad poco interesada en estos temas, a lo que hay que sumar un síndrome anticientífico del gobierno federal. Esto ayuda poco para crear un contexto capaz de enmarcar una discusión tan importante. Tenemos un gobierno enemistado con la ciencia, más aún: profundamente ignorante, que promueve supercherías por encima del conocimiento científico. Este gobierno, que decidió confrontarse con científicos muy destacados y en general con el gremio académico, está peleado con el conocimiento. Padecemos un gobierno que combate todo aquello que no puede controlar, como la ciencia. Por eso persigue científicos y les ha reducido los apoyos. La inteligencia artificial ha propiciado en otros países proyectos relacionados con la medicina, y en otros muchos campos. En México no tenemos absolutamente nada de esto. Este descuido, que parte de la política anticientífica del gobierno federal, se trasmina a otros ámbitos de la vida pública, como el poder legislativo. Existen unas cuantas propuestas de ley que aluden a la inteligencia artificial, pero ninguna con los alcances de las discusiones que se están dando en algunos países de América Latina y particularmente en Europa.
¿Representa la inteligencia artificial un riesgo para la democracia? Si esto es así, ¿por qué?
La inteligencia artificial, sobre todo la de carácter generativo, tiene la capacidad de crear contenidos. A muchos nos asombran los textos que son capaces de hacer aplicaciones como el ChatGPT. Con deficiencias, pero pueden imitar el estilo de escritores conocidos. Lo mismo ocurre con la generación de videos e imágenes. Con la tecnología actual es posible exhibir a un personaje público en una situación en la que no participó. Todavía son un poco burdos los ejemplos de esto, pero se irán perfeccionando todos los días. No hay duda de que en las campañas electorales en Estados Unidos, que se celebrarán el próximo año, habrá contenidos creados por inteligencia artificial, diseñados para engañar a la gente. Podremos ver a candidatos en falsas situaciones de abuso sexual o recibiendo dinero. En México también va a ocurrir. Será sin duda un elemento disruptivo en nuestras elecciones. Ahora bien, no todos los efectos de la inteligencia artificial son negativos para la democracia, pero el hecho de que pueda haberlos creo que debería provocarnos inquietud, debería alertar al Congreso y a las autoridades electorales.
Hemos visto en las redes sociales videos promocionales de Xóchitl Gálvez creados con inteligencia artificial. No sería extraño que aparecieran videos negativos usando la misma tecnología. ¿Nuestras leyes electorales están preparadas para enfrentar este escenario?
Nuestro marco legal fue diseñado para regular contenidos en radio y televisión, nada más. En esos medios había abusos frecuentes. Incluso lo que se publica en la prensa no está regulado por la legislación electoral. Las autoridades electorales tienen la facultad de disponer que se retire de la circulación un contenido calumnioso o que rompa la equidad en la competencia electoral, lo cual se presta a un amplio margen de interpretación. Es muy difícil regular contenidos generados por inteligencia artificial que circulen por redes digitales. Si se presentan estos casos, la autoridad electoral tiene que evaluar el contenido, dictaminar si es o no falso o calumnioso, y luego requerir a las compañías que manejan las redes que dejen de difundirlo. Sí esto llega a ocurrir será con mucho retraso. No contamos con previsiones que anticipen los riesgos que los contenidos falsos puedan generar en las campañas electorales. Hasta ahora lo que hemos visto son usos creativos de la inteligencia artificial, como los promocionales de Xóchitl Gálvez. Pero también pueden aparecer videos que representen escenas que parezcan verosímiles sin ser verdaderas, aquí es donde comenzarán los problemas.
En otros países se han hechos cálculos de cuantas personas podrían perder su empleo por la irrupción de la inteligencia artificial. Es un número monstruoso. ¿Qué estamos haciendo en México para enfrentar esa situación?
Nada. Lo que hay es una apreciación optimista de algunos que dicen que se van a perder unos empleos pero se van a ganar otros. En efecto, así puede ocurrir, pero los empleos que se pierdan no necesariamente los van a recuperar los mismos trabajadores afectados. Para gestionar tareas con recursos de la inteligencia artificial se requiere capacitación, una mayor educación y adecuado equipo técnico. Eso no lo vamos a tener en el caso mexicano. En otros países están en marcha enormes campañas, sustentadas con cuantiosos recursos financieros y pedagógicos, destinadas a capacitar a centenares de miles de trabajadores en el manejo de este tipo de recursos. En nuestro país no contamos con esa previsión.
El uso intensivo de la inteligencia artificial, con interfaces amigables como ChatGPT, impactará muchos aspectos de nuestra vida. Uno muy significativo es el de la educación. En tu libro sostienes que esto hace necesario que las universidades se replanteen qué hacen, cómo y para qué. ¿Hay algún indicio de que la Universidad Nacional, o alguna universidad privada, lo esté haciendo?
Hay pequeños, tímidos y, a mi juicio, insuficientes intentos para enfrentar estos problemas. En la Universidad Nacional hace algunas semanas la rectoría creó un grupo de trabajo encabezado por investigadores y funcionarios de la Dirección General de Cómputo y de Tecnologías de Información y Comunicación. Este grupo está convocando a personas de varias dependencias para comenzar a discutir qué se debe hacer ante la inteligencia artificial. Proponen medidas para aprovechar esta herramienta en la enseñanza. Creo, sin embargo, que hace falta una reflexión de carácter general capaz de discutir de qué manera la Universidad tendría que replantear todo su trabajo, el sentido mismo de la institución. Me explico: ¿para que sirve la Universidad? Sirve desde luego para generar conocimientos, para transmitirlos a los estudiantes, para la docencia y para difundir el conocimiento a la sociedad. Esto es lo que hace la Universidad y todas las grandes universidades en el mundo. El problema es que, con la inteligencia artificial, se está modificando la forma de crear y de intercambiar información. Antes, un científico trabajaba en solitario, o acompañado de unos cuantos colegas, hoy este trabajo se puede potenciar gracias a la redes digitales. La investigación acerca del virus que provocó el covid 19 es un ejemplo extraordinario de la intensidad y la rapidez con la cual se puede potenciar el trabajo científico mediante el uso de las redes digitales de colaboración. Científicos de todo el mundo empezaron a discutir de inmediato acerca del virus, en pocos meses se terminó y difundió la secuencia genómica. Gracias a eso se produjeron las vacunas con un enorme rapidez, en comparación con cualquier otra epidemia en la historia de la humanidad.
Algunas universidades mexicanas están comenzando a participar en estos procesos. Tendrían que desarrollarse más proyectos para enlazar a los científicos de las universidades mexicanas con los del resto del mundo. Este proceso marcha con mucha lentitud. Tendría que haber, sobre todo, un reconocimiento de parte de las autoridades universitarias de que la impartición de saberes ha comenzado a ser reemplazada por otro tipo de sistemas. Durante la pandemia hubo mucha gente que aprovechó su tiempo tomando cursos en línea. Las plataformas para impartir cursos se han multiplicado. Hoy es posible también aprender utilizando recursos de la inteligencia artificial. Se pueden aprender idiomas conversando con un modelo con esta tecnología. Todo esto comienza a hacer prescindibles muchas de las tareas tradicionales de la Universidad, lo cual no quiere decir que la Universidad deje de enseñar, pero sí debe reconocer que se han abierto muchas posibilidades para impartir conocimientos más allá de las aulas.
Esto no lo está pensando la Universidad, no está considerando que las formas tradicionales de enseñanza están cambiando. Tendrán que modificarse las formas de evaluación. No se ha creado un espacio para discutir estos temas. ¿Cómo vamos ahora a evaluar a los estudiantes? Antes les pedíamos trabajos escritos y teníamos la posibilidad de identificar si hacían trampa o cometían un plagio. Hoy en día el ChatGPT puede hacer un texto que parezca escrito por el alumno. El texto que genere este sistema será un texto irrepetible. Si otra persona le pide un texto sobre el mismo tema lo escribirá con una sintaxis y un orden diferente. ¿Si un estudiante hace un ensayo escolar apoyándose en el ChatGPT, dejando que el chat escriba la mayor parte de los párrafos, estamos ante un plagio? No estoy seguro. Si el estudiante le pide al chat que le haga todo el trabajo y lo entrega como si fuera suyo, estamos desde luego ante una actitud deshonesta, pero que no tenemos forma de evaluar. Tenemos que pensar en nuevas formas de evaluación del conocimiento. Estamos llegando tarde a este asunto que desde hace tiempo se está siendo discutido en muchas universidades del mundo.
Sostienes en tu libro que la inteligencia artificial puede atrofiar aspectos como el lenguaje y la imaginación.
La tarea de escribir supone un ejercicio de reflexión. Al escribir vamos articulando e ideando frases e ideas. Vamos estimulando la imaginación a partir de lo que escribimos. ¿Qué va a pasar cuando una empresa editorial le pida a un sistema de inteligencia artificial generativa que escriba una novela? Le puede decir: escribe una novela con estos parámetros, con estos personajes, que ocurra en esta ubicación geográfica. Se le pueden dar lineamientos generales de la trama y la aplicación de inteligencia artificial va a redactar la novela llevando a cabo el trabajo creativo. No se trata de que el sistema repita lo que otros han hecho sino de un trabajo creativo ya que articula y ordena las palabras de acuerdo a nuevas formas. Si esto se presenta como un producto original se corre el riesgo de que tengamos que enfrentarnos a creaciones que parezcan humanas y no lo sean.
Pronto comenzaremos a abandonar los hábitos que nos permiten reflexionar sobre nosotros mismos y sobre el mundo que nos rodea. No soy catastrofista si afirmo que estamos ante recursos que son extraordinarios para muchas cosas pero que nos pueden llevar a prescindir de elementos importantes en nuestra vida creativa y personal. Poder dialogar con el ChatGPT es muy atractivo pero no hay que dejar que esto nos lleve a dejar de dialogar con otras personas.
La inteligencia artificial refleja lo que somos, lo bueno y lo malo. La alarma que se ha prendido en relación a sus alcances es en realidad una alarma respecto al lado oscuro de la humanidad.
Internet es una colección de espejos de la humanidad. ¿Qué encontramos en la red? Ciencia, deporte, creaciones literarias, música, pero también pornografía y pedofilia. Ambos aspectos de lo humano. Internet no hace sino reproducir lo que hacen personas de muy diversa índole. Hay quien utiliza internet para difundir avances astronómicos y quien la usa para vender drogas ilegales o pornografía. Refleja todas las conductas humanas. Lo mismos ocurre y ocurrirá con los modelos de inteligencia artificial. ¿De dónde saca su información el ChatGPT y todos sus primos informáticos? De los enormes reservorios digitales que se encuentran en línea. Han sido alimentados con palabras y frases de directorios telefónicos, de guías turísticas, de compendios de conversaciones, de correos electrónicos de algunas empresas, de novelas lo mismo clásicas que populares, de Shakespeare, Sófocles y Homero y de novelas recientes y de moda. También se alimentan esos sistemas de la peor y más despreciable literatura, de textos que promueven la intolerancia, la discriminación y la misoginia.
Hay quienes quieren limitar el comportamiento de estos sistemas de inteligencia artificial para que no generen contenidos que algunos pueden considerar sexistas, racistas o de mal gusto, lo cual me inquieta profundamente. ¿Quién va a definir lo que es de buen gusto? A nombre de la corrección política y de los prejuicios de algunos se están intentando desnaturalizar ciertas obras literarias. Es el caso de Nabokov y Lolita. Existen otros casos en los que se suprimen párrafos, escenas y frases que pueden ser incómodas para algunos lectores. ¿Vamos a tener entonces una inteligencia artificial amordazada por la corrección política? Estos riesgos están a la orden del día. Lo que están haciendo las empresas que promueven sistemas de inteligencia artificial es entrenar esos sistemas para que no produzcan frases que pueden incomodar a algunos. Estamos ante el riesgo de que el lenguaje y los contenidos que se generen, que van a ser muchísimos, sean estandarizados de acuerdo a las creencias, los gustos y los prejuicios de algunos. Esto va en contra de la diversidad de opciones que ofrece la vida y la humanidad misma.
Como reacción a la Revolución Industrial, Mary Shelley escribió Frankenstein. Ese miedo a la innovación puede rastrearse en mitos tan antiguos como la expulsión del Paraíso, como respuesta a la agricultura, o el mito de Ícaro. En tiempos modernos, películas como 2001: Odisea del espacio ya mostraban el temor a la computadora inteligente, pero malvada y autónoma. ¿Qué tanto de las alarmas actuales frente a la inteligencia artificial tienen que ver con nuestro temor a las máquinas y al futuro?
Los seres humanos siempre han sentido miedo pero también una profunda fascinación ante la posibilidad de que podamos crear réplicas nuestras capaces de imitarnos en todo, no solo en nuestras virtudes sino también en nuestros numerosos defectos. De ese miedo y fascinación nacen el Golem y Frankenstein. Hasta hace poco se trataba solamente de un tema de ciencia ficción. Hoy podemos asegurar que estamos en el umbral de una nueva etapa tecnológica en donde esto ya es posible, de ahí las alertas de muchas personas, incluyendo las de científicos serios. Estamos ante el umbral de la existencia de dispositivos capaces de imitar a los seres humanos en muchas tareas y habilidades que hasta ahora eran patrimonio de los seres humanos, como la posibilidad de pensar.
Las fantasías, entre apocalípticas y tecnofílicas, que con mucha exageración suponían que podría haber robots y androides capaces de desobedecer a los humanos comienzan a tener sustento. No lo digo para negar estos desarrollos, ni para cerrar horrorizados los ojos ante ellos, ni para proponer que se prohíban, sino para reconocer que ya existen. Esto es útil para emprender medidas capaces de aprovecharlos y para tratar de impedir que se abuse de estos recursos. Por este motivo me gusta mucho la discusión que hay en la Unión Europea acerca de cómo propiciar una inteligencia artificial que respete los derechos humanos, que no violente la vida de los individuos, pero que al mismo tiempo reconozca que se pueden hacer muchas cosas hasta hoy impensables, o solamente concebibles en el terreno de la fantasía literaria o cinematográfica.
A propósito del paso del Huracán Otis sobre Acapulco y sus terribles efectos, en las redes sociales se entabló una guerra de narrativas. Unos culpando al gobierno por su negligencia y otros defendiendo la imagen presidencial. Como experto en comunicación, ¿cómo ves esta disputa entre estas dos narrativas enfrentadas? El ciudadano –el informado y el de a pie– ha quedado en medio de dos fuegos.
Muchos ciudadanos comienzan a estar hastiados de esta confrontación que crea mucha confusión. Aquellos que tienen un espíritu auténticamente ciudadano querrán saber cuál es la verdad. Los ciudadanos tienen derecho a exigirle a sus gobernantes, pero también a los medios de comunicación, que proporcionen información puntual, verificada y abierta, que se pueda corroborar. Estamos ante una guerra de narrativas. Más que un asunto de comunicación es un asunto político.
El presidente López Obrador ha tratado de minimizar el tamaño de la tragedia ocurrido en Acapulco, esto es lo que hizo durante los primeros días, a partir de la madrugada del miércoles 25 de octubre. Las expresiones iniciales del presidente nos hablan de su evidente desconcierto: no sabía qué hacer ante la magnitud de la tragedia. Dijo que no tenía información, que habían sido pocos los muertos, que gracias a Dios este huracán no había sido tan devastador. Bastaba ver las escenas que comenzaban a difundirse para constatar que sí lo había sido. Lo que enseguida vimos fue un intento por ocultar la información y de descalificar la información que había, en vez de atender la emergencia. El presidente López Obrador se dedicó entonces a denostar a los comunicadores que estaban haciendo su trabajo. ¿Qué hicieron los comunicadores? Fueron de inmediato al lugar de la tragedia, llevaron sus cámaras, entrevistaron a las personas. Como la tragedia fue enorme, así como la desprotección de la gente, en las entrevistas comenzaron a expresar su dolor, su desazón, su indignación, su reclamo y sus pedidos de ayuda. Eso es lo que vimos en los medios. Conforme pasan los días ha quedado claro que esta es una tragedia de enorme magnitudes, que Acapulco está destruido, para todo fin práctico, que cualquier reconstrucción va a requerir de un enorme esfuerzo que no puede ser solamente del gobierno, ni solamente de los empresarios y mucho menos de la gente desorganizada. Se requiere de una concertación que hasta ahora no estamos viendo, entre otras cosas porque el gobierno comenzó diciendo que no requería la ayuda que la sociedad ha estado reuniendo con la mejor buena fe, que la ayuda solo podría venir de funcionarios del gobierno o del ejército.
En el plano de la comunicación creo que hay mucho por hacer por parte de los medios profesionales para verificar información. Han comenzado a circular audios en los que una persona habla de supuestos despojos a manos del Ejército Mexicano y de la Guardia Nacional. Si estos audios no se autentifican no se le puede reconocer veracidad. Hay que tener mucho cuidado de no dar por ciertos documentos o contenidos que no tienen responsables reales y verificables. Estamos viendo también muchas mentiras que provienen de la información gubernamental. Nos hace falta conocer muchos datos, comenzando por el número de víctimas. No se trata de que queramos que haya muchas víctimas, al contrario, pero conocer este dato es indispensable, por respeto a ellas y para poder organizar la respuesta del Estado y de la sociedad. Estamos viendo en este caso, una vez más, las virtudes y los defectos de la información propagada al instante a través de las redes sociodigitales. Gracias a las redes pudimos enterarnos del tamaño de la tragedia en Acapulco antes de que el gobierno lo reconociera. Pero también en las redes estamos recibiendo muchos rumores que hay que tomar con la debida precaución. Es tarea de los periodistas profesionales, que los hay, verificar la validez o no de este tipo de contenidos. ~
