Carta del Editor: Estoy feliz de anunciar el El Co-Proyectos con la edición Máquinas. Como alguien con un pie en organizaciones de la industria rediseño que florezca en un mundo rico en datos y otro pie en la investigación, Estoy constantemente tratando de tener una vista aérea sobre los logros técnicos. Últimamente, He estado obsesionado con el futuro del diseño en un mundo cada vez más rico en datos alimentado por la inteligencia artificial y sus algoritmos. Lo que comenzó durante una conversación cocina con mi colega, Che-Wei Wang (colaborador de esta edición) sobre el diseño generativo y los algoritmos genéticos se convirtieron en una gran parte de mi hablar en el diseño de interacción 2016 en Helsinki, Finlandia. Ese trozo entonces ocupaba más de un espacio de mi cerebro y ampliado en esta edición de Espacio para la Etnografía, Co-diseño con máquinas. En el post de introducción de esta edición, Comparto una manera más productiva para enmarcar la colaboración humana y la máquina: como un sistema en red. Entonces me persiguió por nueve personas que están a la vanguardia de esta transformación para compartir sus puntos de vista con nosotros. Alicia Dudek de Deloitte se iniciará el próximo post con una ficción especulativa sobre si los robots de AI pueden realizar cualquier parte del trabajo de campo cualitativo. Janet Vertesi cerrará esta edición nos da un adelanto de su próximo libro con un artículo sobre la colaboración humana y la máquina en las expediciones de la NASA Mars Rover. Y entre Alicia y Janet son siete colaboradores provienen de la comercialización de la máquina de aprendizaje con los artículos súper reflexivos. Gracias por unirse a la carrera! Y si usted encuentra que esto sea atractiva, tenemos una Una mala en la que podemos continuar con las conversaciones y conocer a otras personas humanocentrista. Únete a nuestro @ethnomatters Twitter para las actualizaciones. Gracias. @ Triciawang
¿Quién está ganando la batalla entre humanos y ordenadores? Si usted lee los titulares sobre Inteligencia Artificial de Google (AI), DeepMind, batiendo el jugador de go-campeón del mundo, se podría pensar las máquinas están ganando. el artículo de la CNN sobre proclama DeepMind, "En la última batalla del hombre contra la máquina, los seres humanos se están ejecutando en segundo lugar. "Si, por otra parte, usted lee los titulares acerca de Facebook Tendencia de la sección Noticias y Asistente personal, M, que podría estar convencido de que las máquinas son menos puro y perfecto de lo que hemos hecho creer. A medida que la Borde titular pone, “Facebook admite su algoritmo de noticias de tendencias necesita mucha ayuda humana.”
Los titulares de ambos lados se basan en una falsa, tropo obsoleta: El binario de los seres humanos frente a los ordenadores. Estamos rodeados de argumentos similares en películas populares, ciencia ficción, y las noticias. A veces, las computadoras son intelectualmente superiores a los humanos, a veces son moralmente superior y libre de prejuicios humana. DeepMind de Google está ganando un juego de suma cero. algoritmos de Facebook de alguna manera están fallando al confiar en la ayuda humana, como si la colaboración entre humanos y ordenadores de esta batalla épica es de alguna manera vergonzosa.
El hecho es que los humanos y los ordenadores han sido siempre colaboradores. El ser humano / ordenador vista binario es perjudicial. Nos está restringiendo se acerquen a las innovaciones de IA más cuidadosamente. Se enmascara la cantidad de nos inclinamos a creer que las máquinas no producen resultados sesgados. Se permite a las empresas evitar asumir la responsabilidad por sus prácticas discriminatorias diciendo, "se salió a la superficie por un algoritmo ". Además, nos está impidiendo que inventar formas nuevas y significativas para integrar la inteligencia y la máquina de la inteligencia humana para producir mejores sistemas.
A medida que las computadoras se vuelven más humanos, tenemos que trabajar aún más duro para resistir el binario de los ordenadores frente a los humanos. Tenemos que reconocer que los seres humanos y máquinas siempre han interactuado como un sistema simbiótico. Desde los albores de nuestra especie, hemos cambiado herramientas tanto como herramientas nos han cambiado. Hasta hace poco, las formas en que nuestros cerebros y nuestras herramientas cambiaron estaban limitados a la cantidad de entrada de datos, almacenamiento, y procesar tanto podía manejar. Pero ahora, hemos roto la ley de Moore y estamos sentados en más datos de lo que es capaz de procesar. Para realizar el siguiente salto para obtener el valor social completa de la información que hemos recopilado, tenemos que hacer un salto en la forma en que concebimos nuestra relación con las máquinas. Tenemos que vernos como una sola red, no como dos campos separados. Ya no podemos darnos el lujo de ver a nosotros mismos en una posición de confrontación con los ordenadores.
Para aprovechar la enorme cantidad de datos que hemos recogido de una manera que tenga sentido para los seres humanos, tenemos que abrazar la inteligencia humana y la máquina como un sistema holístico. A pesar de los llamativos titulares juego de suma cero, esta es la verdad detrás de cómo DeepMind dominado Go. Mientras que la prensa interpretó el éxito de DeepMind como dote independiente del juicio humano, que no era el caso en absoluto.
DeepMind de Google se entrenó con técnicas van desde los mejores jugadores de Go en el mundo. Cuanto más la IA jugó contra los datos, cuanto más se supo, hasta el punto en que empezó a salir con sus propios movimientos. Pero la clave aquí es que aprendió con datos de los seres humanos. En segundo lugar, se necesitó un equipo de ordenadores a los científicos a encontrar nuevas maneras de combinar el aprendizaje de máquina con otra AI técnica. DeepMind no dijo, Oye, vamos a utilizar algo así como búsqueda de árbol de Marvin Minsky; fue un científico de la computación en el equipo DeepMind que hizo esa conexión. La victoria de DeepMind es claramente una proeza de la inteligencia humana y la máquina combinada. DeepMind es evidencia de lo que podemos lograr cuando los seres humanos co-diseño con máquinas.
Y sin embargo,, narrativa popular circula la idea de que el último triunfo tecnológico sucederá cuando las máquinas están diseñadas para trabajar sin intervención humana. Es esta narrativa que está lanzando DeepMind como un hito en la inevitable marcha el día en que el binario se convierte en una clara jerarquía de los ordenadores en la parte superior, los seres humanos en la parte inferior. Este binario es lo que alimenta la narrativa cultural más amplio que los algoritmos son imparciales y máquinas son inteligentes - que podemos corregir nuestras debilidades humanas entregando todo a las máquinas.
Pero estamos empezando a ver esto populares migaja narrativa. Estamos escuchando el discurso más público acerca la discriminación algorítmica en áreas como Justicia penal, etiquetado del contenido, política pública, y búsqueda de trabajo. Incluso los científicos de datos, tales como DJ Patel han pasado de la industria de la tecnología en la política para trabajar en este tema. Él y su equipo en la Casa Blanca acaba de publicar un informe sobre el potencial de algoritmos para discriminar. El hilo rojo en todos estos desarrollos es que las máquinas son muy capaces de crear los resultados discriminatorios que afectan negativamente la vida humana. Y esta es una de las razones más importantes por las que una máquina pura / AI / computadora para funcionar mundo no es posible. Siempre necesitaremos los seres humanos para corregir el rumbo de la máquina.
Hay varios otros defectos fundamentales en la narrativa del binario hombre-vs-máquina. Para uno, no es el simple hecho de que no todo es cuantificable. No habrá límites a lo que puede hacer una IA simplemente porque no existirá la suficiente disponibilidad de grandes y limpias conjuntos de datos suficientes. Además, AI hace bien en situaciones estructuradas que tienen un conjunto de reglas con fuertes limitaciones. Hay una razón por la DeepBlue trabajó en el ajedrez y DeepMind abordados Go y no escalar el Everest o decidir cómo limpiar un desastre natural. La tarea más difícil es modelar intuición humana en situaciones no estructuradas. Además, no capta que siempre hemos evolucionado junto con nuestras herramientas, tanto como hemos diseñado nuestras herramientas. Por último, existe la limitación epistemológica básica de máquinas: Reflejan la inteligencia y prejuicios de sus creadores. Los humanos dicen que la máquina lo que los patrones de reconocer, los criterios de selección para privilegiar una solución, y lo más importante, cómo ejecutarlo.
A pesar de un fuerte coro de voces argumentando a favor de un mundo AI ejecutar pura y sin intervención humana, hay una nueva generación de científicos que sostienen que cualquier modelo de AI que no implique un ser humano está perdiendo la oportunidad de ofrecer mejores resultados - y, algunos incluso dirían, está viciado. Por ejemplo, mirar a los nuevos desarrollos que sale de investigadores en el MIT, donde como Dinkar Krtk están trabajando en humano-in-the-loop, la integración de los recursos humanos en cómo se formó una IA. O considerar pionero AI El trabajo de Stuart Russell en el uso de refuerzo inversa aprender a "alinear demostrable" con valores humanos. O una nota soluciones muy prácticas, tales como taller itinerante Andrew Selbst de Solón y de Barocas, Justicia, Contabilidad, y Transparencia en la máquina de aprendizaje, diseñado para ser un manual sobre el tema para cualquier persona - sí, nadie. O reconocer los informáticos como hermanas Friedler que están a caballo entre la ley y la programación para evitar algoritmos de aprendizaje automático de discriminar. AI está saliendo de los laboratorios de informática, y ya que amplía en aplicaciones prácticas, es finalmente la asociación con las ciencias liberales.
En reconocimiento de este campo cada vez más importante, Etnografía de este mes Matters cuenta con escritores, tanto de la parte técnica y las humanidades que piensan acerca de las máquinas y los seres humanos de una manera simbiótica. Estos son los profesionales que no han caído en el binario de máquinas-vs-humana. Ellos han empujado los límites de su trabajo imaginar cómo sería un mundo donde las computadoras actúan más como seres humanos se parecerían. Sobre todo, se trata de personas que han abrazado la complejidad de dónde vamos, y nos están animando a adoptar una nueva lente para interactuar con esa complejidad:
- Alicia Dudek, etnógrafo diseño en Deloitte, especula si una IA puede hacer el trabajo de un etnógrafo. Su artículo de ciencia ficción al estilo es el primero de su clase para volver a imaginar qué partes del trabajo de campo se puede lograr mediante un robot.
- Che-Wei Wang, arquitecto, diseñador, y su compañero de Autodesk, contempla qué los ingenieros y arquitectos tendrán que ser más como etnógrafos con diseño generativo. Él le pregunta si es posible convertir los datos etnográficos en datos cuantitativos como entrada algorítmica.
- Angèle Christin, sociólogo, estudios de cómo las personas se ocupan de las tecnologías de la cuantificación en ambientes ricos en datos y los datos de los pobres. Ella pone de relieve sus aprendizajes que abarcan una década de ser testigo de primera mano el impacto de "grandes datos" dentro de juzgados y salas de redacción.
- Astrid Countee, antropóloga y desarrollador de software, revela cómo su fondo antropológico informa su nueva línea de trabajo como programador informático.
- Madeleine Clare Elish, antropólogo cultural y miembro de Datos & Sociedad, nos da un vistazo en su estudio sobre los sistemas a gran escala automatizados y autónomos, como aviones no tripulados militares y plataformas de trabajo.
- Molly Templeton, experto en desarrollo de la audiencia, etnógrafo digitales, y una de las primeras estrellas de Youtube, escribe acerca de por qué es importante para la estrategia de medios sociales marcas de mirar más allá de los números cuando se trabaja en la industria del entretenimiento y marketing digital. Su artículo se analiza cómo equilibrar el trabajo emocional en la gestión de audiencia con el análisis de datos.
- Steve Gustafson, científico informático y experto de AI en GE, acciones por qué el aprendizaje de la máquina es muy humana.
- Liz Kaziunas, investigador de la Universidad de Michigan, Estudios de código abierto comunidades de salud bricolaje. Su trabajo etnográfico revela cómo Tipo 1 Los diabéticos son el pirateo de sus dispositivos médicos aprobados por la FDA (por ejemplo. monitor continuo de glucosa) con el fin de acceder a los datos médicos personales, y cómo este comportamiento difiere entre clases.
- Janet Vertesi, sociólogo e historiador de la ciencia, nos da un adelanto en su próximo libro sobre el proyecto Mars Rover de la NASA donde se analiza cómo contexto de la organización cambia cómo se define una máquina.
Estos escritores son todos debate con preguntas importantes en este momento, ya que estamos en un punto de inflexión en la intersección de la IA y la informática personal. Por fin tenemos las capacidades técnicas de aprendizaje automático y procesamiento del lenguaje natural para aprovechar los datos que se están recogiendo. Pero para alcanzar este, que necesitamos para que coincida con las capacidades técnicas con capacidades sociales, tales como la empatía y la equidad.
Si miramos a través de la lente de los sistemas hombre-máquina, dejamos de preguntar ¿cómo podemos hacer ordenadores más empático y justo y empezar a hacer en vez, cómo diseñamos sistemas completos para ser más empático y justo? Dejamos de preguntar, ¿cómo podemos hacer máquinas más inteligentes que los humanos, y empezar a pensar acerca de cómo hacemos nuestras máquinas trabajan para nosotros y con nosotros.
Para hacer esto, tenemos que luchar con lo que el filósofo y científico cognitivo David Chalmers llama a la "Problema difícil de la conciencia": ¿Cómo se explica por qué experimentamos el mundo como lo hacemos? Una máquina no entiende la discriminación, pero un ser humano puede. Esto significa que necesitamos gente con los conjuntos de habilidades que pueden proporcionar la inteligencia humana para hacer que las máquinas más inteligentes. Necesitamos personas que puedan entender no sólo los sistemas técnicos, pero los sistemas sociales enteros en el que se utiliza la tecnología. Necesitamos personas que saben cómo integrar datos grande y gruesa. AI tiene que moverse en el área del significado, valores, moralidad, y la ética.
Para hacer eso, tenemos que recurrir a los etnógrafos y más ampliamente, cualquier persona que tiene un enfoque centrado en el hombre, ya sean diseñadores, vendedores, médicos, o ingenieros. expertos humanos centrada, especialmente los etnógrafos, tiene que dejar de tener miedo de las máquinas. tecnólogos, especialmente los programadores e ingenieros, tener que dejar de idealizar un sistema de interacción humana sin.
En este nuevo mundo de los sistemas hombre-máquina, empresas que empujan nuevos sistemas algorítmicos celebrarían tener equipos de ordenador y datos científicos que trabajan junto a los diseñadores y los etnógrafos centrado en humanos. Los capitalistas de riesgo que se esperan las empresas de venta de IA y productos de aprendizaje automático para demostrar que han incorporado las consideraciones morales y éticas en su flujo de trabajo producto. Facebook estaría orgulloso, sin verguenza, de la integración de los seres humanos en todas sus robots y productos de contenido algorítmicos. El futuro de DeepMind gana sobre los seres humanos serían retratados como un logro de la inteligencia humana y la máquina.
Y cuando comenzamos a hacer eso, tal vez vamos a dejar de llamar a los usuarios de la gente, y vamos a empezar a llamarlos participantes, o simplemente hacia arriba, los seres humanos.
Este artículo es parte de la Co-diseñar con máquinas Edición. Leer otros artículos en esta edición.
Al igual que lo que está leyendo? Materias de la etnografía es un sitio dirigido por voluntarios sin publicidad. Estamos encantados de que siga siendo así, Pero necesitamos tu ayuda. No necesitamos sus donaciones, sólo queremos que usted separe la palabra. Nuestra recompensa para el funcionamiento de este sitio está viendo personas repartidas nuestros artículos. Únase a nosotros en gorjeo, tweet acerca de los artículos que usted tiene gusto, compartirlos con sus colegas, o convertirse en un colaborador. También unirse a nuestro Slack tener discusiones más profundas sobre las lecturas y / o de conectarse con otras personas que utilizan la etnografía aplicada; usted no tiene que tener ninguna formación en la etnografía para unirse, damos la bienvenida a todas las personas humanas centradas desde diseñadores a los ingenieros.
Trackbacks / Pingbacks
[…] dicotomía entre los seres humanos y la IA es un tema muy común. Un artículo escrito por Tracy Wang explora esta idea largamente: ¿y si la discusión sobre la tecnología de IA era más que sólo los seres humanos […]