El futuro de los sistemas autónomos que diseñan implicará etnógrafos
Nota del Editor, Tricia Wang: El siguiente paso en nuestra Co-diseñar máquinas con la edición es Madeleine Clare Elish, (@mcette), es un antropólogo e investigador de Datos & Sociedad, presenta un caso de por qué las percepciones culturales actuales del papel de los humanos en los sistemas automatizados necesitan ser actualizados con el fin de proteger contra las nuevas formas de polarización y de los trabajadores daños. Leer más acerca de su investigación sobre los drones militares y de inteligencia de la máquina en Pizarra. Madeleine también trabaja como investigador del Inteligencia & Iniciativa de autonomía en Data & Sociedad que se desarrolla la investigación empírica e histórica para fundamentar los debates sobre políticas de todo el aumento de la inteligencia artificial.
"¿Un estudio antropólogo ¿Por qué los sistemas no tripulados?"Esta es una pregunta que a menudo me preguntan por los ingenieros y gerentes de producto en las conferencias. La presunción es que los sistemas no tripulados (un término que reina en el campo, aunque el género irreflexivamente) son sólo eso, libre de los seres humanos; ¿Por qué alguien que estudia los seres humanos tomar esto como su objeto de estudio? ¡Por supuesto, nosotros, como etnógrafos, saber que siempre hay seres humanos que se encuentran. Por otra parte, pocos o ninguno de los sistemas actuales son verdaderamente "no tripulado" o "autónomo". [1] Todos requieren la planificación humana, diseño y mantenimiento. La mayoría son de la colaboración entre el ser humano y la máquina, aunque el papel de la humana es a menudo oscurecido. Cuando examinamos los sistemas autónomos (o cualquiera de los otros términos invocados en la nube de la palabra relacionada: no tripulado, inteligencia artificial, inteligente, robótica, etc) no debemos mirar a las raspaduras de la humana, pero a la formas en la que, como seres humanos, han sido recientemente implicados.
Mi tesis doctoral, así como la investigación llevada a cabo con el La inteligencia y la Iniciativa de autonomía en Datos & Sociedad, ha examinado precisamente lo que se oculta cuando llamamos a algo, "No tripulado" o "autónomo". He estado cada vez más interesados en las condiciones y consecuencias para el trabajo de la forma humana y la habilidad a ser diferente valorada en este tipo de sistemas altamente automatizados y autónomos. En este post, Tricia me ha pedido que comparta algunas de las investigaciones que he estado trabajando en torno al papel de los humanos en los sistemas autónomos y para trabajar a través de algunas de las consecuencias de la forma en que pensamos acerca de la cooperación, responsabilidad y rendición de cuentas.
Tiempos modernos, 1936 [giphy]
El conductor o el Sistema?
Permítanme comenzar con una historia: Yo volvía a Nueva York a partir de una rueda de la ley robot en Miami. Pedí un Lyft que me llevara al aeropuerto de Miami, la selección de la dirección de la primera rellena el campo de destino cuando escribí la frase "el aeropuerto de Miami" en la aplicación Lyft. El coche llegó. Pongo mi maleta en el maletero. Creo que el conductor y yo intercambiamos saludos–o por lo menos, un movimiento de cabeza y una sonrisa. Nos fuimos, y me quedé dormido;. (Había sido una larga semana de conferencias!) Me desperté, ya que estábamos dando vueltas una salida de la autopista, en un lugar que parecía claramente no como la entrada de un gran aeropuerto. Le pregunté si esto era el camino correcto para el aeropuerto. El se encogió de hombros, y pronto me puse juntos que él no hablaba nada de Inglés. Hablo español pasable, y de nuevo se le preguntó si íbamos al lugar correcto. Él respondió que él pensaba lo. Tal vez fue un camino de regreso? Estábamos hecho en el aeropuerto, pero no en la parte comercial. Mientras conducía en, Miré nerviosamente el mapa en mi teléfono.
Leer más… El futuro de los sistemas autónomos que diseñan implicará etnógrafos
Comentarios recientes