Si en Google alguien realiza la bรบsqueda โmujer internetโ, verรก en su pantalla tres bรบsquedas sugeridas: โMujer internet sexualidad polรญticaโ, โropa mujerโ y โseducciรณn por internetโ. ยฟPor quรฉ no propone, por ejemplo, la historia de las mujeres en internet? ยฟO quiรฉnes son las cientรญficas mรกs destacadas en la red?
La respuesta puede sintetizarse en una palabra: algoritmos. Estos sistemas son como los lentes o filtros a travรฉs de los cuales vemos lo que sucede en la red. O mรกs bien vemos lo que nos quieren mostrar o, lo que se supone que nos va a interesar. Asรญ, cuando navegamos, nuestras preferencias o intereses son permanentemente interferidos. Veamos cรณmo.
Aunque suene muy complejo y tรฉcnico, un algoritmo es una secuencia de instrucciones. De hecho, uno aplica algoritmos a su vida cotidiana sin saber que lo estรก haciendo: cocinar, lavarse los dientes, ir a trabajar. En internet, los algoritmos se alimentan de la informaciรณn que los internautas generan durante la navegaciรณn: hora de conexiรณn, nombre, edad, intereses, preferencias. Estos datos quedan en la red, como huellas, pistas, indicios que muestran parte de la personalidad del navegante. Asรญ, se producen grandes masas de datos que, analizadas mediante sistemas algorรญtmicos, arrojan determinados resultados.
El problema es que los algoritmos pueden procesar datos aun sin saber quรฉ estรกn analizando. Y lo que estรกn analizando, generalmente, son personas. Por ello hay quienes creen que son brutos, imparciales y errรณneos: es complejo analizar identidades humanas desde cรกlculos lรณgicos y matemรกticos.
โNo son neutros. Los algoritmos estรกn construidos por alguienโ, asegura Mariana Valente, abogada especialista en derechos digitales y directora de InternetLab, una organizaciรณn que investiga sobre derecho y tecnologรญa en San Pablo, Brasil. โEn Google el tรฉrmino mujer bonita es asociado a mujeres blancas y jรณvenes. Es un error tomar a los algoritmos como si fuesen un sistema separado de la sociedadโ, asegura Valente.
La “realidad algorรญtmica” muestra que la vida digital y la “carnal”, por llamarla de alguna manera, no son universos separados, sino que una es continuaciรณn de la otra, y viceversa. Las discriminaciones, prejuicios y estereotipos con los que uno puede cruzarse en un cafรฉ, en la oficina o en la calle, se reproducen en la red.
En general, los algoritmos arrojan un resultado โbasado en lo que ellos piensan que yo quiero. Queda muy poco margen para el azarโ analiza Florencia Goldsman, periodista especializada en Internet y asuntos digitales, ademรกs de ciberactivista. Pero el efecto mรกs nocivo de los algoritmos, en palabras de Goldsman, es que anulan โla creatividad, la posibilidad de poder pensar distinto o de conocer quรฉ piensan los que piensan distinto a unoโ.
Como los algoritmos analizan datos siguiendo un patrรณn lรณgico, pareciera que no pueden tener prejuicios o que son siempre acertados. Pero el origen del prejuicio no es propio del algoritmo, sino que puede aparecer en los modelos empleados para procesar grandes volรบmenes de datos. Si un algoritmo es capaz de โpseudo-aprenderโ sobre el mundo que le rodea, tambiรฉn podrรก aprender de los sesgos sociales que observa. Pero al tratarse de inteligencia artificial, ยฟhay alguna posibilidad de generar algoritmos que trabajen con una mirada diversa y plural?
Para el cientรญfico Demi Getschko, uno de los pioneros en instalar las primeras redes en Brasil, internet tiene un comportamiento mรกs diverso de lo que parece. โToda vez que alguien abusa de los poderes de internet, internet se modifica hacia regiones mรกs segurasโ. Por ejemplo, hay usuarios que son espiados en la web, entonces comienza a ser importante usar navegadores que permiten el anonimato, o implementar mensajes con criptografรญa.
Tambiรฉn se estรกn pensando alternativas en cuanto a la realidad construida por los algoritmos. Nathan Srebro es un cientรญfico de la computaciรณn en el Instituto Tecnolรณgico de Toyota en Chicago y trabaja en el diseรฑo de algoritmos que no arrojen miradas sesgadas en sus predicciones. Srebro y sus colegas idearon un sistema que no se centra en โlas entraรฑas del algoritmo de aprendizajeโ sino โen las predicciones que hacenโ. Su enfoque funciona sobre el principio bรกsico de que cuando un algoritmo toma una decisiรณn acerca de un individuo โya sea para mostrarles un anuncio en lรญnea o arrojar un resultado de bรบsquedaโ la decisiรณn no debe revelar nada acerca de la raza del individuo o de su gรฉnero: asรญ se evitarรญan resultados sesgados. Aunque es una iniciativa que aรบn estรก en desarrollo, hay quienes ya han expresado su preocupaciรณn por este enfoque, ya que no transparenta de quรฉ manera son tomadas las decisiones por los algoritmos.
Segรบn Demi Getschko โla cosa mรกs revolucionaria de Internet es la quiebra de todos los paradigmas en el รกrea socialโ. Ahora bien, si internet viene a romper todos los paradigmas, ยฟse crean a cambio nuevos moldes o arquetipos sociales? ยฟSon los resultados algorรญtmicos los que construyen ese nuevo patrรณn?
Sin dudas estos sistemas crean โo mรกs bien reproducenโ arquetipos, que no son muy distintos de los que operan desde hace aรฑos en el sistema de significaciones hegemรณnicas. Por eso, cuando alguien busca mujer e internet el predictivo nos indica: โMujer internet sexualidad polรญticaโ, โropa mujerโ y โseducciรณn por internetโ: asocian a la mujer a una determinada idea (sexo y ropa).
Es probable que Getschko estรฉ en lo cierto y que internet se modificarรก โhacia regiones mรกs segurasโ o en el caso de los algoritmos, a realidades mรกs representativas y diversas. Mientras tanto, no se trata de demonizar el resultado que arroja la bรบsqueda, ni de caer en el determinismo tecnolรณgico, pero es importante pensar quรฉ otras posibles respuestas quedan ocultas, invisibilizadas. Quรฉ otras realidades hay en internet mรกs allรก de la que muestran los algoritmos.
Licenciada en Comunicaciรณn Social y periodista digital. Colabora con varios medios de Argentina y con รกreas de comunicaciรณn en organizaciones especializadas en derechos humanos.
