-scaled.jpg)
Si en Google alguien realiza la búsqueda “mujer internet”, verá en su pantalla tres búsquedas sugeridas: “Mujer internet sexualidad política”, “ropa mujer” y “seducción por internet”. ¿Por qué no propone, por ejemplo, la historia de las mujeres en internet? ¿O quiénes son las científicas más destacadas en la red?
La respuesta puede sintetizarse en una palabra: algoritmos. Estos sistemas son como los lentes o filtros a través de los cuales vemos lo que sucede en la red. O más bien vemos lo que nos quieren mostrar o, lo que se supone que nos va a interesar. Así, cuando navegamos, nuestras preferencias o intereses son permanentemente interferidos. Veamos cómo.
Aunque suene muy complejo y técnico, un algoritmo es una secuencia de instrucciones. De hecho, uno aplica algoritmos a su vida cotidiana sin saber que lo está haciendo: cocinar, lavarse los dientes, ir a trabajar. En internet, los algoritmos se alimentan de la información que los internautas generan durante la navegación: hora de conexión, nombre, edad, intereses, preferencias. Estos datos quedan en la red, como huellas, pistas, indicios que muestran parte de la personalidad del navegante. Así, se producen grandes masas de datos que, analizadas mediante sistemas algorítmicos, arrojan determinados resultados.
El problema es que los algoritmos pueden procesar datos aun sin saber qué están analizando. Y lo que están analizando, generalmente, son personas. Por ello hay quienes creen que son brutos, imparciales y erróneos: es complejo analizar identidades humanas desde cálculos lógicos y matemáticos.
“No son neutros. Los algoritmos están construidos por alguien”, asegura Mariana Valente, abogada especialista en derechos digitales y directora de InternetLab, una organización que investiga sobre derecho y tecnología en San Pablo, Brasil. “En Google el término mujer bonita es asociado a mujeres blancas y jóvenes. Es un error tomar a los algoritmos como si fuesen un sistema separado de la sociedad”, asegura Valente.
La “realidad algorítmica” muestra que la vida digital y la “carnal”, por llamarla de alguna manera, no son universos separados, sino que una es continuación de la otra, y viceversa. Las discriminaciones, prejuicios y estereotipos con los que uno puede cruzarse en un café, en la oficina o en la calle, se reproducen en la red.
En general, los algoritmos arrojan un resultado “basado en lo que ellos piensan que yo quiero. Queda muy poco margen para el azar” analiza Florencia Goldsman, periodista especializada en Internet y asuntos digitales, además de ciberactivista. Pero el efecto más nocivo de los algoritmos, en palabras de Goldsman, es que anulan “la creatividad, la posibilidad de poder pensar distinto o de conocer qué piensan los que piensan distinto a uno”.
Como los algoritmos analizan datos siguiendo un patrón lógico, pareciera que no pueden tener prejuicios o que son siempre acertados. Pero el origen del prejuicio no es propio del algoritmo, sino que puede aparecer en los modelos empleados para procesar grandes volúmenes de datos. Si un algoritmo es capaz de “pseudo-aprender” sobre el mundo que le rodea, también podrá aprender de los sesgos sociales que observa. Pero al tratarse de inteligencia artificial, ¿hay alguna posibilidad de generar algoritmos que trabajen con una mirada diversa y plural?
Para el científico Demi Getschko, uno de los pioneros en instalar las primeras redes en Brasil, internet tiene un comportamiento más diverso de lo que parece. “Toda vez que alguien abusa de los poderes de internet, internet se modifica hacia regiones más seguras”. Por ejemplo, hay usuarios que son espiados en la web, entonces comienza a ser importante usar navegadores que permiten el anonimato, o implementar mensajes con criptografía.
También se están pensando alternativas en cuanto a la realidad construida por los algoritmos. Nathan Srebro es un científico de la computación en el Instituto Tecnológico de Toyota en Chicago y trabaja en el diseño de algoritmos que no arrojen miradas sesgadas en sus predicciones. Srebro y sus colegas idearon un sistema que no se centra en “las entrañas del algoritmo de aprendizaje” sino “en las predicciones que hacen”. Su enfoque funciona sobre el principio básico de que cuando un algoritmo toma una decisión acerca de un individuo –ya sea para mostrarles un anuncio en línea o arrojar un resultado de búsqueda– la decisión no debe revelar nada acerca de la raza del individuo o de su género: así se evitarían resultados sesgados. Aunque es una iniciativa que aún está en desarrollo, hay quienes ya han expresado su preocupación por este enfoque, ya que no transparenta de qué manera son tomadas las decisiones por los algoritmos.
Según Demi Getschko “la cosa más revolucionaria de Internet es la quiebra de todos los paradigmas en el área social”. Ahora bien, si internet viene a romper todos los paradigmas, ¿se crean a cambio nuevos moldes o arquetipos sociales? ¿Son los resultados algorítmicos los que construyen ese nuevo patrón?
Sin dudas estos sistemas crean –o más bien reproducen– arquetipos, que no son muy distintos de los que operan desde hace años en el sistema de significaciones hegemónicas. Por eso, cuando alguien busca mujer e internet el predictivo nos indica: “Mujer internet sexualidad política”, “ropa mujer” y “seducción por internet”: asocian a la mujer a una determinada idea (sexo y ropa).
Es probable que Getschko esté en lo cierto y que internet se modificará “hacia regiones más seguras” o en el caso de los algoritmos, a realidades más representativas y diversas. Mientras tanto, no se trata de demonizar el resultado que arroja la búsqueda, ni de caer en el determinismo tecnológico, pero es importante pensar qué otras posibles respuestas quedan ocultas, invisibilizadas. Qué otras realidades hay en internet más allá de la que muestran los algoritmos.
Licenciada en Comunicación Social y periodista digital. Colabora con varios medios de Argentina y con áreas de comunicación en organizaciones especializadas en derechos humanos.
