Foto: Tesla

Lo que dice el robot de Tesla sobre los sesgos en el diseƱo

El diseƱo de los robots humanoides revela lo que esperamos de aquellos que nos sirven, asƭ como el origen de esas expectativas.
AƑADIR A FAVORITOS
ClosePlease loginn

A principios de octubre, Tesla hizo una demostraciĆ³n de Optimus, su robot humanoide. En una demostraciĆ³n previa, la compaƱƭa habĆ­a hecho marchar a un humano con un traje de robot, por lo que cuando Optimus caminĆ³ lentamente por el escenario, fue recibido con deleite por la multitud. A pesar del decorado futurista de la presentaciĆ³n, los expertos en robĆ³tica se sintieron decepcionados. Los torpes intentos de Optimus para hacer lo que se suponĆ­a era un baile parecĆ­an menos avanzados que los de otros robots humanoides, como ASIMO de Honda, que jugĆ³ fĆŗtbol con el expresidente Barack Obama en 2014. Los ingenieros de Tesla se jactaron de que la mano de Optimus tiene hasta 11 grados de libertad (es decir, todas las formas en que las partes robĆ³ticas pueden doblarse). A manera de comparaciĆ³n, una mano robĆ³tica diseƱada por un ingeniero japonĆ©s en 1963 tenĆ­a 27.

A pesar de sus capacidades visiblemente limitadas, Optimus desatĆ³ la familiar ansiedad en cuanto a que los robots algĆŗn dĆ­a se rebelarĆ”n contra sus creadores. ĀæQuĆ© tiene Optimus que nos hace sentir amenazados? Mi investigaciĆ³n sobre el desarrollo de la robĆ³tica japonesa revela que nuestros sentimientos sobre los robots estĆ”n menos relacionados con la idea general de artificialidad, como sugieren muchos crĆ­ticos, y mĆ”s con el hecho de que los robots son sustitutos de seres humanos reales. Los sentimientos de las personas hacia los robots a menudo reflejan sus sentimientos respecto al tipo de trabajador humano que imaginan que el robot estĆ” destinado a reemplazar.

Al ver el largo video de la demostraciĆ³n, me sorprendiĆ³ escuchar a Elon Musk y sus ingenieros hacer declaraciones que recuerdan lo que ingenieros japoneses dijeron en los aƱos 80 (e incluso antes): la necesidad de un “diseƱo inspirado biolĆ³gicamente” para crear una mĆ”quina multipropĆ³sito, la promesa de que los trabajadores robĆ³ticos nos liberarĆ”n de la carga del trabajo y traerĆ”n felicidad y prosperidad para todos en 10 o 15 aƱos, y el deseo de tener un compaƱero robĆ³tico, entre otras ideas. La experiencia de esos ingenieros japoneses, quienes hace unos 40 aƱos intentaron hacer lo que los ingenieros de Tesla estĆ”n tratando de hacer ahora, es reveladora. Tanto porque muestra que esta tarea es mucho mĆ”s difĆ­cil de lo que parece, como porque nos enseƱa a identificar suposiciones ocultas y sesgos que estĆ”n presentes en el diseƱo de un robot humanoide.

Hoy en dĆ­a, los robots en JapĆ³n despiertan cariƱo y afecto en lugar de miedo, pero no fue siempre asĆ­. El viraje que puso a los robots japoneses en camino de volverse adorables (en lugar de amenazantes) ocurriĆ³ en la dĆ©cada de 1980, cuando los lĆ­deres del gobierno y la industria buscaron remediar la escasez de mano de obra en el sector de servicios reemplazando a los humanos con robots. En ese momento, la mayorĆ­a de los robots eran industriales e inadecuados para tareas de servicio. No era seguro estar cerca de robots industriales, ni estos eran capaces de operar en entornos humanos.

RediseƱar robots para trabajar en entornos pĆŗblicos o domĆ©sticos fue difĆ­cil, pero los ingenieros de robĆ³tica enfrentaron un desafĆ­o aĆŗn mayor. Resulta que un buen servicio no se limita a completar eficazmente tareas concretas como limpiar, servir comida o cortar el cabello. Como descubrieron los ingenieros japoneses, tambiĆ©n implica un trabajo emocional: los saludos amables, la charla y las sonrisas espontĆ”neas que tranquilizan a los clientes. Para diseƱar robots capaces de realizar trabajo de servicio de manera satisfactoria, los ingenieros de robĆ³tica tuvieron que conseguir mĆ”s que solo avances en inteligencia artificial o locomociĆ³n bĆ­peda: tuvieron que investigar cĆ³mo satisfacer a los usuarios humanos. Lo que encontraron fue que los robots de servicio debĆ­an parecerse a los trabajadores humanos que anteriormente habĆ­an proporcionado el mismo trabajo: es decir, necesitaban ser humanoides.

Este episodio de la historia de la robĆ³tica japonesa explica por quĆ©, a pesar de los desafĆ­os de ingenierĆ­a que implica hacer que una mĆ”quina pesada camine sobre dos piernas, los ingenieros de Tesla hicieron que Optimus fuera humanoide. En respuesta a una pregunta sobre si las versiones futuras de Optimus podrĆ”n “reĆ­rse de nuestros chistes mientras doblan nuestra ropa”, Musk dio una respuesta que fĆ”cilmente podrĆ­a haber venido de otro ingeniero japonĆ©s de los aƱos 80: su objetivo, dijo, era crear un robot que no solo realizara tareas, sino que tambiĆ©n sirviera como “una especie de amigo”. El precio relativamente bajo que se espera que tenga Optimus (20,000 dĆ³lares, o “menos que un automĆ³vil”) revela que la estrategia de Tesla es crear un producto de consumo para pequeƱas empresas del sector de servicios y, en Ćŗltima instancia, para los hogares.

Las condiciones no podrĆ­an ser mejores para un producto asĆ­. La pandemia ha diezmado la fuerza laboral del sector servicios. Los restaurantes con poco personal cierran antes y sirven a menos personas. Algunas cadenas de comida rĆ”pida estĆ”n considerando funcionar solamente con autoservicio. Los aeropuertos son un desastre gigantesco. Todo porque muchos humanos ya no estĆ”n dispuestos a tolerar malas condiciones de trabajo a cambio de salarios precarios. Para un empleador, reemplazarlos con robots de servicio definitivamente valdrĆ­a la pena. Esto, solo si ā€“y es un gran si, tomando en cuenta que a Optimus tuvieron que cargarlo para sacarlo del escenarioā€“ los ingenieros de robĆ³tica pueden hacer que sus mĆ”quinas humanoides hagan lo que se espera de los humanos reales. (En JapĆ³n, por ejemplo, los robots “que trabajan” siguen siendo en verdad solo una truco: una gran cantidad de humanos hacen el trabajo o mantienen a los robots, y los robots mismos son dispositivos que solo complacen a la multitud, en lugar de ahorrar trabajo.)

Los robots revelan lo que esperamos de aquellos que nos sirven, asĆ­ como el origen de esas expectativas. En mi investigaciĆ³n, descubrĆ­ que los diseƱos robĆ³ticos contienen seƱales cognitivas que resuenan con las experiencias previas de los usuarios. Los robots no se modelan a partir de un ser humano “genĆ©rico”, sino de un tipo especĆ­fico de humano que realiza un tipo particular de trabajo. En otras palabras, el diseƱo robĆ³tico no solo refleja las tareas que nos gustarĆ­a que hiciera el robot, sino el tipo de humano que esperarĆ­amos que las hiciera. Los detalles del diseƱo de un robot humanoide dan pistas sobre el tipo de trabajadores humanos que los ingenieros imaginaron (incluso inconscientemente) como modelo. Estos detalles de diseƱo pueden decirnos mucho sobre las percepciones de las personas reales asociadas con un trabajo en particular, asĆ­ como las suposiciones tĆ”citas sobre el estado y la identidad. Lo mĆ”s importante es que el diseƱo de robots humanoides revela algo acerca de cĆ³mo percibimos a los trabajadores de servicio y cĆ³mo creemos que “deberĆ­an” comportarse.

En el caso de los androides japoneses, los robots de servicio son a menudo diminutos y feminizados (con una barbilla y nariz pequeƱas, una mandĆ­bula poco prominente y un timbre de voz agudo). El diseƱo de sus cuerpos ofrece pistas visuales para el tipo de humanos que estĆ”n destinados a reemplazar. El delantal sutil visible en algunos robots de servicio japoneses, por ejemplo, estĆ” asociado con la “tĆ­a” cariƱosa. Estos robots estĆ”n diseƱados para dar al usuario un sentido de simpatĆ­a familiar, de sentirse cuidado, importante. En contraste, las “recepcionistas” robĆ³ticas se basan en mujeres jĆ³venes hipersexualizadas, un diseƱo que comunica que el trabajo que se espera de ellas no es estrictamente clerical. (Los sexbots son otra historia, y son bĆ”sicamente la razĆ³n por la cual los ingenieros japoneses han trabajado tanto para desarrollar piel artificial sĆŗper realista).

Eso nos trae de vuelta a Optimus. Musk declarĆ³ que era posible “poner todo tipo de disfraces en los robots”. Entonces, ĀæquĆ© es lo que revela el diseƱo de Optimus ā€“a diferencia del prototipo dibujado o del hombre del traje que lo modelĆ³ā€“ del tipo de persona sobre la que estĆ” inspirado? En primer lugar, es innegablemente un varĆ³n, de estatura alta, cuĆ”driceps exagerados y hombros anchos. La pequeƱa cabeza de Optimus comunica que no es un pensador. La pizarra en blanco donde uno podrĆ­a esperar una cara nos asegura que sus emociones no importan. El diseƱo nos dice que el trabajador humano en el que Optimus estĆ” basado es valorado solo por su trabajo manual. Ɖl no piensa. Ɖl trabaja. Ɖl hace lo que se le pide.

TambiĆ©n vale la pena seƱalar que, en la demostraciĆ³n, la cara y las manos de Optimus son negras. ĀæEso significa algo? QuizĆ”. Muchos usuarios estadounidenses pueden (a veces inconscientemente) hacer una conexiĆ³n entre el trabajo manual masculino y la negritud. Una vez leĆ­ la transcripciĆ³n de una conversaciĆ³n entre ingenieros japoneses, quienes, en 1973, reflexionaron sobre su creencia de que Estados Unidos buscaba diseƱar robots para reemplazar a su fuerza laboral negra. No tengo dudas de que los ingenieros japoneses estaban leyendo revistas estadounidenses, donde imaginaba que los robots se hacĆ­an cargo de los trabajos a menudo asociados con los estadounidenses negros: trabajo manual duro, maufacturas y recolecciĆ³n de basura. Algunos artĆ­culos estadounidenses son aĆŗn mĆ”s explĆ­citos sobre sus intenciones. Mi colega Jason Resnikoff cita uno de 1957 de Mechanix Illustrated que promete a los lectores que “poseerĆ”n ‘esclavos’ para 1965”. Es decir, esclavos “robĆ³ticos”: mayordomos robĆ³ticos, cocineros, conductores, policĆ­as, secretarias y guardias de seguridad. Optimus podrĆ­a interpretarse como una representaciĆ³n tanto de las estructuras laborales opresivas como de la ā€œracializaciĆ³nā€ y posterior devaluaciĆ³n de diferentes tipos de trabajo. El miedo que Optimus evoca entre algunos estadounidenses, tal vez, es un miedo a la rebeliĆ³n contra esas estructuras.

El diseƱo no es neutral. La ingenierĆ­a robĆ³tica refleja lo que queremos en un trabajador y, a su vez, lo que queremos para nosotros mismos. Mientras que los robots japoneses encarnan el deseo de ser servidos con amor por alguien que da mĆ”s de lo que exige a cambio, Optimus encarna a un trabajador obediente.

No tengo miedo de que los robots se apoderen del mundo. La distancia entre lo que los robots pueden hacer ahora y lo que tendrĆ­an que ser capaces de hacer para apoderarse del mundo es mucho mayor de lo que la mayorĆ­a imagina. Pero sĆ­ temo que los robots como Optimus eventualmente causarĆ”n daƱo a los humanos; no lastimĆ”ndonos fĆ­sicamente, sino ofreciendo la falsa esperanza de soluciones tecnolĆ³gicas que resolverĆ­an mĆ”gicamente los problemas sociales. Lo que es aun mĆ”s devastador es que, sin una atenciĆ³n consciente al diseƱo, los robots humanoides inevitablemente reforzarĆ”n las asociaciones daƱinas con la raza, el gĆ©nero y el trabajo servil, y por lo tanto exacerbarĆ”n la discriminaciĆ³n y la explotaciĆ³n de los seres humanos. Los algoritmos pueden tener sesgos, y las redes sociales tambiĆ©n. Lo mismo pasa con los robots.



Este artĆ­culo es publicado gracias a una colaboraciĆ³n de Letras Libres con Future Tense, un proyecto deĀ Slate,Ā New America, yĀ Arizona State University.

Website | + posts

es profesora asociada de historia de la ciencia y la tecnologĆ­a en la universidad Johns Hopkins, donde investiga el desarrollo de la robĆ³tica japonesa. EstĆ” escribiendo un libro sobre las maneras en que el diseƱo de robots refleja y da forma a nuestras relaciones con nosotros mismos y con otros.


    × Ā 

    Selecciona el paĆ­s o regiĆ³n donde quieres recibir tu revista:

    Ā  Ā  Ā