Trabajar menos sesgos inconscientes con Sage Franch

¿Cómo aprendes a saber lo que no sabes? Sage Franch desentraña el mundo de los prejuicios inconscientes y cómo está tratando de evitar que la IA sea intolerante.

Bienvenido de nuevo a Work Minus, donde hablamos sobre lo que necesitamos dejar de trabajar y los cambios rápidos que puede hacer hoy para acercarse a un mejor futuro del trabajo. Hoy, nuestro invitado es Sage Franch. Ella es la co-fundadora de Crescendo y este episodio es Trabajo menos sesgo inconsciente. Su edad. ¿Cómo estás hoy?

¡Hola! Lo estoy haciendo bien. ¿Cómo estás?

Haciendo excelente. Estoy emocionado de hablar contigo y conocer más sobre ti. Entonces, ¿por qué no comienzas con un breve trasfondo de quién eres y qué estás haciendo en este momento?

Está bien. Entonces, soy Sage. He tenido una larga carrera en la industria tecnológica. Comencé con el desarrollo de aplicaciones de Windows y luego me dediqué a impartir cursos de educación para desarrolladores en línea. Con el tiempo, eso me llevó al evangelismo técnico y comencé a centrarme en las tecnologías emergentes y en cómo interactúan con nosotros en términos de nuestros lugares de trabajo y nuestras vidas. Entonces, pasé algunos años en Microsoft trabajando en realidad mixta, inteligencia artificial, y luego me mudé un poco a blockchain y tuve un breve período como profesor de blockchain. Pero, recientemente, cofundé Crescendo, que es una empresa que ofrece capacitación personalizada sobre sesgos inconscientes dentro de Slack. Entonces, ahora estoy usando inteligencia artificial para identificar sesgos inconscientes en la forma en que las personas se comunican entre sí, y luego uso ese entrenamiento personalizado directamente para ellos y para sus necesidades individuales en términos de reducir sus propios sesgos.

¡Guau! Y solo como una nota rápida, ¿cómo ha sido esa transición de ser un empleado de Microsoft a tiempo completo a estar solo, haciendo lo suyo?

Oh, vaya. Ha sido absolutamente increíble. Como, siento que cada dinámica es ahora completamente opuesta en mi vida. Entonces, no más de nueve a cinco, no más tener el respaldo de una gran marca conocida detrás de usted. Al entrar en el mundo de las startups solo conmigo y con mis dos cofundadores, hemos estado trabajando juntos durante unos nueve meses, todo está sobre sus hombros como fundador. Entonces, usas todos los sombreros de la empresa. Soy cofundador técnico, pero he hecho de todo, desde un poco de ventas, marketing, ferias comerciales, todo. Entonces, ha sido realmente dinámico, ¿y sabes qué? No creo que pueda volver.

Excelente. Muy bueno. Quiero definir algunas cosas de las que ha hablado hasta ahora, empezando por el sesgo inconsciente. Por lo tanto, algunas personas pueden estar familiarizadas con eso, pero otras no. Danos una definición rápida de eso.

Si. Entonces, el sesgo inconsciente es el sesgo que no sabemos que tenemos. Entonces, todos vemos el mundo de diferentes maneras y nuestras perspectivas sobre el mundo están realmente informadas por la forma en que crecemos. Y la mayoría de las veces, esas experiencias son completamente diferentes entre sí. Aunque tengamos el mismo aspecto, todas las formas en que vemos el mundo están completamente informadas por una experiencia vivida diferente. Entonces, el sesgo inconsciente es, en nuestro caso, en Crescendo, las cosas que le decimos a otras personas o la forma en que actuamos con otras personas, que no son como nosotros, que no sabemos que son en realidad conductas dañinas u ofensivas. Entonces, un ejemplo que identifiqué recientemente en mí mismo fue el uso de la palabra loco o loco. Lo decimos todo el tiempo. Oh, hola, eso es una locura. Pero, en realidad, esa es una palabra desencadenante y bastante dañina para las personas que viven con una enfermedad mental. Entonces, eso fue una sorpresa para mí y me di cuenta de que después de profundizar un poco más, las palabras como loco y loco son solo marcadores de posición perezosos para cosas que realmente queremos decir como increíbles, increíbles o emocionantes. Entonces, desde que me di cuenta de eso, mi equipo y yo realmente hemos estado tratando de eliminar palabras como locas de nuestro vocabulario y reemplazarlas con lo que realmente queremos decir.

Genial. Es un muy buen ejemplo de en lo que estamos tratando de adentrarnos. Entonces, Crescendo es un ejemplo de entrenamiento de inclusión que está tratando de tomar conciencia y deshacerse de estos prejuicios inconscientes. Cuéntenos, antes de Crescendo, cómo afrontan la mayoría de las empresas la formación en inclusión.

Entonces, la inclusión abarca muchos medios diferentes. Por lo tanto, no es solo la forma en que nos hablamos, sino que el objetivo es realmente fomentar entornos de trabajo donde todos puedan tener éxito y ser felices y sentir que pertenecen. Entonces, la capacitación de inclusión tradicional incluye videos sobre cómo hacer que el lugar de trabajo sea aceptable, o seminarios sobre por qué necesitamos baños neutrales en cuanto al género y cosas por el estilo. La parte particular con la que Crescendo está reemplazando o trabajando es ayudar a las personas a empatizar entre sí y aprender cómo y por qué hacer que las personas se sientan realmente como que pertenecen a las conversaciones en la mesa y solo en el lugar de trabajo, en general.

Entonces, en el pasado, este tipo particular de capacitación se realizaba a través de una de dos formas, o traes a un consultor y vendrá por un día o un taller de medio día, pero solo pueden llegar a un máximo de cuarenta personas porque tienen un ancho de banda limitado. Pero eso no es escalable entre las empresas más grandes. Pero la otra forma en que lo han hecho es en línea con usted conoce videos o sketches preestablecidos que muestran su lugar de trabajo pasando por algunas áreas o escenarios donde se muestra el sesgo, y luego sigue una serie de cuestionarios y preguntas en las que ‘ Simplemente se hace una especie de prueba para ver si ha entendido qué estaba mal en esa situación. Pero esa es solo una talla para todos. Y es realmente difícil para el empleado promedio tomar algo tan genérico y aplicarlo a lo que ha experimentado en su vida diaria.

Está bien. Entonces, llévanos al presente. ¿Qué es Crescendo y cómo repasa esos viejos patrones?

Si. Por lo tanto, Crescendo está utilizando inteligencia artificial y vive dentro del canal Slack de su empresa o la comunicación en el lugar de trabajo del equipo de Microsoft, donde ocurre la mensajería en tiempo real, y escucha las cosas que las personas se dicen entre sí y las analiza en busca de sesgos. Por lo tanto, no solo toma en consideración el mensaje en sí, sino que también analiza quién es usted, con quién está hablando y cómo ha interactuado con ellos en el pasado. Entonces, puede tener una idea real del contexto de la situación y ver, ¿es este un pensamiento sesgado o no? Y si es un pensamiento sesgado, entonces eso se integra en su perfil de aprendizaje y de hecho le enviamos contenido que está dirigido específicamente a ese sesgo, para ayudarlo a identificarse con todas las personas que lo reciben, pueden haberlo recibido y por qué puede haberlo hecho. No ha sido apropiado decirlo. Por lo tanto, es muy específico, muy personalizado y se entrega directamente dentro del flujo de trabajo. Por lo tanto, es continuo durante todo el año en lugar de ser un seminario en línea o un taller en persona una vez al año.

Si. En muchos sentidos, cuando estaba viendo lo que es Crescendo, obviamente, se puede aplicar a la capacitación de inclusión, pero también sería relevante para todos los tipos de capacitación. Entonces, es realmente una tecnología muy interesante.

Si. Tal como lo vemos, cada vez más lugares de trabajo se están trasladando al trabajo remoto. Y a medida que las personas se conectan en línea, nuestra comunicación entre nosotros se vuelve mucho más asincrónica y mucho más remota. Por lo tanto, es interesante ver en el futuro de la tecnología que todos nos comunicaremos digitalmente y que la IA tendrá un impacto potencial mucho mayor solo por la disponibilidad de la comunicación y lo accesible que es para la tecnología.

Derecha. Está observando la forma en que las personas hablan, la forma en que interactúan, la forma en que se comunican y tratando de evaluar qué tan inclusivo es alguien en determinadas situaciones. ¿Cuáles son algunos de los límites a los que te enfrentas cuando solo puedes analizar correos electrónicos y chats?

Entonces, solo comenzamos con texto. Eso significa que no podemos detectar sesgos en las interacciones de otros empleados, por lo que ocurren por teléfono o cara a cara. Pero eso es intencional. Entonces, hay dos razones principales por las que decidimos comenzar solo con texto. El primero es la disponibilidad de tecnología y el segundo es la privacidad. Entonces, las plataformas de texto nos brindan un entorno bastante contenido para trabajar. Todo lo que se dice dentro de una plataforma de mensajería se sabe que está a los ojos del público, se sabe que la gente puede verlo, por lo que la gente está bastante segura de comprender la privacidad de lo que dicen allí. Pero también, todos los empleados de las empresas con las que trabajamos utilizan mensajes de texto para comunicarse, mientras que no todos los empleados están juntos en una oficina, cara a cara con otras personas, y no todos usan el teléfono o Skype para comunicarse. Entonces, comenzar con las plataformas de texto nos permite ofrecer la misma calidad de experiencia a todos en la empresa, y eso, en sí mismo, es un esfuerzo por ser más inclusivos porque es importante para nosotros que le demos a todos la misma oportunidad de tener este aprendizaje. experiencias. Pero, más en el lado de la privacidad, hay empresas que están tratando de hacer cosas similares pero de una manera mucho más invasiva. Y siempre queremos asegurarnos de que la privacidad de los clientes, la privacidad de los usuarios sea la prioridad número uno para nosotros. Hay otra empresa que en realidad está colocando dispositivos GPS y dispositivos de escucha de voz en las credenciales de los empleados, y luego rastrea su movimiento en las oficinas, y rastrea con quién habla, la demografía de las personas con las que habla, lo que les dice y si trata a ciertas personas de manera diferente con otras personas. Y, sí, eso te da muchos más datos con los que trabajar, pero también es horriblemente invasivo y eso suena a vigilancia en 1984, como una locura para mí. Oh, mírame. Dije «como un loco».

Ahí tienes.

Ver. Es un proceso continuo.

Si. Si. Absolutamente. No, en realidad es alentador hablar con personas que conocen los límites de dónde está la tecnología ahora, pero que han optado por tal vez no ir tan lejos y regresar un poco. Así que es muy interesante hablar de eso.

Si. Y creo que es realmente importante que los desarrolladores y las personas que están desarrollando tecnología, especialmente cuando tiene un componente de inteligencia artificial, sean más conscientes de cómo impacta al usuario final. Lo vemos con otras compañías como Facebook, donde publican un montón de funciones porque se ajusta a la hoja de ruta que han desarrollado o que planearon, y luego alguien más entra y lo usa maliciosamente, o había alguien dentro de la empresa, en otros casos, toma una decisión que impacta a millones de usuarios. Estamos en una época en la que los desarrolladores realmente impactan a las personas a escala global y un par de líneas de código pueden marcar la diferencia entre si una persona tiene su información personal segura o no. Entonces, mirar las cosas, especialmente cuando hablamos de analizar los prejuicios y analizar la forma en que las personas se comunican entre sí, tiene el potencial de ser muy invasivo y queremos hacer todo lo posible para asegurarnos de que no lo sea.

Está bien. Entonces, tengo una pregunta muy importante. ¿También ha podido rastrear emojis junto con el texto? Porque si alguien pone cara de guiño o tiene una etiqueta determinada que agrega a un mensaje, cambia totalmente el contexto que se agrega a esta comunicación no verbal que conduce a la verbal. Entonces, ¿hay alguna forma de que puedas rastrear esas cosas?

Si. Absolutamente. Tenemos emojis ahí. Lo que aún no hemos capturado son GIF e imágenes porque eso es un poco más difícil. Tienes que entrar en el reconocimiento facial dentro de las imágenes y los GIF. Pero con los emojis, podemos rastrear eso porque los emojis están codificados en solo un grupo de caracteres y eso está representado en el texto que obtenemos.

Excelente. Estupendo. Demos un paso atrás. Hemos estado hablando de la formación para la inclusión que alguien también podría vincular con la diversidad. Pero, ¿cuáles son algunos ejemplos de una cultura empresarial diversa pero no inclusiva?

Si. Existe una gran diferencia entre diversidad e inclusión y no todo el mundo se da cuenta de eso. Mi cita favorita para ilustrar esto es de Verna Myers y es: Se invita a la diversidad a la fiesta, pero se pide a la inclusión que baile. La diversidad realmente ocurre cuando hay muchas personas de diferentes orígenes, con diferentes experiencias, que comparten sus experiencias entre sí. Pero hasta que tengas la inclusión, esas personas no necesariamente se sentirán como parte de la comunidad y no se sentirán parte de ella. Entonces, lo que está sucediendo en tecnología es un gran ejemplo de esto. Puede contratar tantas «personas diversas» como desee, pero eso no soluciona el problema porque todavía ven personas marginadas que dejan sus trabajos tecnológicos debido a la injusticia. Hubo un gran estudio realizado por Kapor y mostró que el 36% de las personas que dejan sus trabajos de tecnología lo hacen debido a la injusticia basada en prejuicios. Entonces, es un problema sistémico. Y lo que muestra es que las empresas están contratando para la diversidad, por lo que están arreglando la tubería, pero no están haciendo los cambios en su cultura que realmente permiten que la diversidad prospere, por lo que la gente todavía se está yendo. Y esa es la diferencia entre diversidad e inclusión.

Ahora, cuando hablamos de IA y sesgos inconscientes, siempre surge la pregunta de, está bien, tenemos IA aquí en 2018. Podemos aplicarlo a estas cosas. ¿Eso va a magnificar nuestros sesgos actuales o, de alguna manera, bloquea nuestro conjunto de valores actual? ¿Cómo respondes a ese tipo de preguntas?

Tienes que tener mucho cuidado con la IA. En los círculos con personas que no saben cómo funciona la IA, parece una gran solución para cualquier cosa, simplemente que la máquina tome la decisión en lugar de nosotros. Pero estas máquinas se entrenan con datos reales y esos datos en sí pueden estar sesgados. Entonces, si construimos IA con datos sesgados, entonces eso solo toma decisiones sesgadas y eso solo perpetúa los sesgos que tenemos actualmente. Por lo tanto, es realmente importante que auditemos nuestras máquinas, que auditemos nuestros datos antes de construir estos modelos y que continuemos auditándolos a medida que evolucionan las normas culturales, a medida que evoluciona el mundo, para que seamos realmente conscientes de construir una IA imparcial.

¿Puede dar un ejemplo de cómo se vería eso en el futuro? Si se cambian ciertos valores en algunos lugares, ¿cómo podría cambiar algo como su formación?

Si. Entonces, nuestro sistema utiliza el aprendizaje activo. Entonces, reentrenar a una IA desde cero es muy costoso. Pero, en nuestro caso, estamos implementando este método de aprendizaje activo para que la herramienta siempre envíe nuevos mensajes a las personas y les diga: “Oye, ¿consideras que esto es parcial? ¿Cómo percibes esto? » Y luego, su respuesta se vuelve a incluir en nuestro conjunto de datos. Entonces, nos estamos adaptando a las normas culturales de las personas que usan nuestros sistemas y estamos haciendo todo lo posible para construir algo que evolucione con los tiempos. Un ejemplo de IA sesgada es lo que está sucediendo con las API faciales hoy en día. Entonces, las API que se utilizan para construir un sistema de detección de rostros, se realizó un estudio que mostró que la mayoría de las API principales tenían una tasa de precisión realmente alta al detectar rostros caucásicos. Pero, cuanto más oscuro sea el tono de piel de la persona en la imagen, menos preciso podría identificarlos como personas, o identificar sus rasgos o su edad, o hacer predicciones que podría hacer para rostros caucásicos. Ese es un gran ejemplo de un conjunto de datos de sesgo que sesga un algoritmo y un modelo.

Si. Es realmente interesante saber cómo los sesgos pueden infiltrarse en la IA y afectarla a medida que se manifiesta. Cuando se trata de pensar en la inclusión de sesgos inconscientes, ¿es difícil tener una definición estándar de lo que significa inclusión? Estás hablando de diferentes partes del mundo, diferentes partes del país, donde todos tienen una idea diferente al respecto. Y cuando hablamos de capacitación en inclusión, pensamos, está bien, todos deberían hacer lo mismo. Pero, ¿ha sido un desafío para usted tener diferentes niveles de inclusión?

Bueno, el objetivo siempre debe ser ese futuro dorado en el que todos sientan que pertenecen al trabajo, que todos sientan que pueden aportar todo su ser, traer sus propias culturas y sus propias perspectivas, y que esos sean respetados y valorados. Independientemente del lugar del mundo en el que se encuentre, ese debería ser el caso. No voy a fingir que soy un experto en todas las culturas y perspectivas, y en todas las dinámicas del lugar de trabajo en todo el mundo. Eso no es cierto. Y en realidad, es imposible que una sola persona tenga tanto conocimiento, por eso estamos usando IA. Pero sí. No se trata tanto de imponer un estándar de inclusión a todos. Es despertar a todos al hecho de que nuestros lugares de trabajo, nuestro mundo, nuestras vidas son mejores cuando nos incluimos unos a otros y cuando estamos todos juntos en esto.

Estupendo. Estupendo. Cuando hablamos de prejuicios inconscientes, ¿cómo crees que es la línea entre un prejuicio inconsciente y una negación rotunda, alguien que simplemente no quiere cambiar, no quiere sentir la necesidad de cambiar?

Como dije antes, todo el mundo tiene prejuicios inconscientes. No significa que seamos malas personas. Es solo un factor de que todos tengamos experiencias vividas únicas, todos con antecedentes diferentes. Pero cuando llega la negación, es difícil de aceptar para nosotros. Pero, las cosas que hacemos día a día podrían estar perjudicando a otras personas. Es mucho más fácil decir, no, no soy parcial, que decir, soy parcial. Sé que estoy lastimando a la gente, pero no tengo idea de qué hacer al respecto y ni siquiera sé por dónde empezar a aprender. Creo que es algo desafiante y también lo he visto desde que comencé esta empresa. Lo hemos visto en nuestro equipo. Es difícil. Es un desafío darse cuenta de que estás siendo parcial. Pero estar abiertos a ello es el primer paso y eso es lo que estamos tratando de hacer con Crescendo con las personas que están abiertas a reconocer sus prejuicios al cambio. Te ayudamos a identificar tus sesgos. Te enviamos cosas que te ayudarán a aprender a corregirlas. En este momento, no hay una manera fácil de hacerlo, por lo que es mucho más fácil incurrir en esa negación. Pero, si abres el camino de aprendizaje y haces que sea más fácil para las personas encontrar este contenido, más fácil para ellos pasar de Soy parcial y no sé qué hacer al respecto, oh, así es como yo ‘ Voy a tomar medidas prácticas para eliminarlo. Lo hace mucho mejor para todos en el círculo.

Si. Absolutamente. Realmente me encanta el ejemplo con el que comenzaste, donde hablaste de ser consciente de las palabras, loco y loco y cosas así, y ser consciente de ellas para reducir el uso de ellas. ¿Qué otros ejemplos has visto de otras personas a medida que han pasado por lo que hace Crescendo? ¿Cuáles son algunos de los testimonios que dan sobre cómo fueron tomando conciencia?

Es muy interesante ver a la gente en este viaje de descubrir sus prejuicios inconscientes. Creo que la mayor sorpresa para mí ha sido lo dispuesta que está la gente incluso cuando inicialmente comienzan en esa fase de negación. Creo que todo el mundo es fundamentalmente bueno. Todos, si se les da la oportunidad de identificar dónde pueden mejorar, pondrán ese esfuerzo y mejorarán. Al menos eso es lo que hemos visto. Entonces, la gente está aprendiendo de todo, desde cómo es ser una mujer embarazada en el trabajo hasta por qué la gente celebra ciertas cosas en ciertos días y cómo podemos ser parte de permitir que otras personas o dar la bienvenida a otras personas traigan sus culturas a lugares de trabajo donde tradicionalmente no lo harían. ‘t. Y uno de los viajes que ha sido realmente interesante es el viaje del aliado. Entonces, las personas aprenden sobre otras personas y aprenden sobre sus perspectivas y luego toman pasos activos fuera de la comunicación basada en texto para cambiar su lugar de trabajo y abogar por personas que no son como ellos. Ha sido muy interesante.

Si. Parece que va por un gran camino y es emocionante escuchar que la gente está muy abierta, muy dispuesta a atravesarlo ellos mismos. Como dijiste, es un programa de suscripción. Alguien tiene que elegir que lo rastree, lo cual es una dinámica muy importante.

Si. Totalmente. Debería haberlo mencionado un poco más. Con toda la pieza de análisis de texto, cada etapa se incluye dentro de Crescendo. Entonces, de manera predeterminada, en realidad no hay ningún análisis de texto involucrado hasta que lo habilita. Y la forma más básica de nuestros perfiles de aprendizaje se crea a partir de su encuesta de autoidentificación. Entonces, cuando se incorpora por primera vez a la herramienta, nuestro bot hace un montón de preguntas, dónde creció, con qué culturas está familiarizado, qué idiomas habla, etc. Y luego, a partir de eso, podemos construir un perfil que es solo un conjunto predeterminado de contenido donde puede comenzar a aprender de manera segura antes de comenzar a analizar su texto. Y luego, una vez que vea valor en la plataforma o si desea saltar directamente a la pieza de análisis de texto, optaría por eso y luego optaría por todos los canales que quisiera escuchar. Por lo tanto, nunca estará compartiendo información con nosotros sin saberlo.

Es fantástico. Muchas gracias por estar en el programa, por compartir todas estas cosas. Es un trabajo muy importante que está haciendo y me alegra que esté haciendo lo que está haciendo. ¿Cómo pueden las personas estar conectadas contigo y seguirlo?

Puedes seguir a Crescendo, @crescendo en Twitter o en nuestro sitio web, getcrescendo.com . Y puedes seguirme personalmente en todas las cuentas de redes sociales, @thetrendytechie.

Fantástico. Sage, muchas gracias y espero que tengas un gran día.

Gracias, Neil. Cuídate.

Compartir:
Facebook
Twitter
Pinterest
LinkedIn
WhatsApp
Telegram
Email
Imprimir
también podrías leer:

Artículos relacionados

Reserva tu demo personalizado aquí

Deja tu información personal para agendar una demostración de Primera Base

Por favor, déjanos tu correo electrónico antes de ver el vídeo