Los algoritmos también necesitan gestores

La idea en breve El problema Los algoritmos son herramientas esenciales para la planificación, pero pueden llevar fácilmente por mal camino a los responsables de la toma de decisiones. Las causas Todos los algoritmos comparten dos características: Son literales, es decir, hacen exactamente lo que se les pide. Y son cajas negras, lo que significa que no explican por qué ofrecen determinadas recomendaciones. La solución Cuando formule algoritmos, sea explícito sobre todos sus objetivos. Considere las implicaciones a largo plazo de los datos que examina. Y asegúrese de elegir las entradas de datos adecuadas. La mayoría de los trabajos de los directivos implican hacer predicciones. Cuando los especialistas en recursos humanos deciden a quién contratar, están prediciendo quién será más eficaz. Cuando los especialistas en marketing eligen qué canales de distribución utilizar, están prediciendo dónde se venderá mejor un producto. Cuando los capitalistas de riesgo deciden si financian una start-up, están prediciendo si tendrá éxito. Para hacer estas y otras innumerables predicciones empresariales, las empresas recurren hoy cada vez más a los algoritmos informáticos, que realizan operaciones analíticas paso a paso a una velocidad y escala increíbles. Los algoritmos hacen que las predicciones sean más precisas, pero también crean riesgos propios, sobre todo si no los entendemos. Abundan los ejemplos de alto perfil. Cuando Netflix organizó un concurso de un millón de dólares para desarrollar un algoritmo que pudiera identificar qué películas le gustarían a un usuario determinado, equipos de científicos de datos unieron sus fuerzas y produjeron un ganador. Pero era uno que se aplicaba a los DVD, y cuando los espectadores de Netflix pasaron a ver películas en streaming, sus preferencias cambiaron de forma que no coincidían con las predicciones del algoritmo. Otro ejemplo procede de las redes sociales. Hoy en día, muchos sitios despliegan algoritmos para decidir qué anuncios y enlaces mostrar a los usuarios. Cuando estos algoritmos se centran demasiado en maximizar el número de clics de los usuarios, los sitios se llenan de artículos de baja calidad "ciberanzuelo". El porcentaje de clics aumenta, pero la satisfacción general de los clientes puede caer en picado. Este artículo también aparece en: Las 10 lecturas obligadas de HBR sobre IA, analítica y la nueva era de las máquinas Tecnología y Operaciones LIBRO 24,95 Añadir a la cesta Guardar Compartir Los problemas de este tipo no son inevitables. En nuestro trabajo de diseño e implementación de algoritmos y de identificación de nuevas fuentes de datos con una serie de organizaciones, hemos visto que la fuente de dificultades a menudo no son fallos en los algoritmos; son fallos en la forma en que interactuamos con ellos. Para evitar errores, los directivos deben comprender qué hacen bien los algoritmos, a qué preguntas responden y a cuáles no. ¿Por qué los algoritmos inteligentes nos llevan por mal camino? Como demuestran cada vez más pruebas, humanizar los algoritmos hace que nos sintamos más cómodos con ellos. Esto puede ser útil si, por ejemplo, está diseñando una función de llamada automatizada. La voz de una persona real tiene más probabilidades que una voz electrónica de hacer que la gente le escuche. El problema fundamental, sin embargo, es que la gente trata a los algoritmos y a las máquinas que los manejan del mismo modo que trataría a un empleado, supervisor o colega. Pero los algoritmos se comportan de forma muy diferente a los humanos, en dos aspectos importantes: Los algoritmos son extremadamente literales. En la última película de Los Vengadores, Tony Stark (también conocido como Iron Man) crea a Ultrón, un sistema de defensa de inteligencia artificial encargado de proteger la Tierra. Pero Ultrón interpreta la tarea literalmente, llegando a la conclusión de que la mejor forma de salvar la Tierra es destruir a todos los humanos. En muchos sentidos, Ultrón se comporta como un algoritmo típico: Hace exactamente lo que se le ordena e ignora cualquier otra consideración. Nos metemos en problemas cuando no gestionamos los algoritmos con cuidado. Los sitios de medios sociales que de repente se vieron inundados de ciberanzuelos cayeron en una trampa similar. Su objetivo general era claro: ofrecer contenidos que resultaran más atractivos y atrayentes para los usuarios. Al comunicárselo al algoritmo, se les ocurrió una serie de instrucciones que parecían un buen proxy: encontrar los elementos en los que los usuarios harían más clic. Y no es un mal proxy: La gente suele hacer clic en los contenidos porque le interesan. Pero hacer selecciones basándose únicamente en los clics llenó rápidamente los sitios de material superficial y ofensivo que dañó su reputación. Un humano entendería que los diseñadores de los sitios querían decir "Maximizar la calidad medida por los clics", no "Maximizar los clics incluso a expensas de la calidad". Un algoritmo, en cambio, sólo entiende lo que se le dice explícitamente. Los algoritmos son cajas negras. En Julio César de Shakespeare , un adivino advierte a César que "tenga cuidado con los idus de marzo". La recomendación era perfectamente clara: más le valía a César tener cuidado. Pero al mismo tiempo era completamente incomprensible. ¿Cuidarse de qué? ¿Por qué? César, frustrado por el misterioso mensaje, despidió al adivino declarando: "Es un soñador; dejémosle". En efecto, los idus de marzo resultaron ser un mal día para el gobernante. El problema era que el adivino proporcionaba información incompleta. Y no había ninguna pista de lo que faltaba ni de la importancia de esa información. Al igual que el adivino de Shakespeare, los algoritmos a menudo pueden predecir el futuro con gran exactitud, pero no le dicen ni qué causará un acontecimiento ni por qué. Un algoritmo puede leer todos los artículos del New York Times y decirle cuál tiene más probabilidades de ser compartido en Twitter sin explicar necesariamente por qué la gente se sentirá movida a tuitear sobre él. Un algoritmo puede decirle qué empleados tienen más probabilidades de triunfar sin identificar qué atributos son los más importantes para el éxito. Reconocer estas dos limitaciones de los algoritmos es el primer paso para gestionarlos mejor. Veamos ahora otros pasos que puede dar para aprovecharlos con más éxito. Sea explícito sobre todos sus objetivos Todo el mundo tiene objetivos y directrices, pero también sabemos que el fin no siempre justifica los medios. Entendemos que hay objetivos y compensaciones suaves (a menudo tácitas). Podemos rechazar un poco de beneficio hoy a cambio de ganar reputación mañana. Es posible que nos esforcemos por conseguir la igualdad, aunque a corto plazo nos cause dolor organizativo. Los algoritmos, por otro lado, perseguirán un objetivo específico con una sola mente. La mejor manera de mitigar esto es tener muy claro todo lo que se quiere conseguir. Si le importa un objetivo blando, tiene que enunciarlo, definirlo y cuantificar cuánto importa. En la medida en que los objetivos blandos sean difíciles de medir, téngalos muy presentes cuando actúe en función de los resultados de un algoritmo. En Google (que ha financiado algunas de nuestras investigaciones sobre otros temas), surgió un problema de objetivos blandos con un algoritmo que determina qué anuncios mostrar. La profesora de Harvard Latanya Sweeney lo descubrió en un estudio. Descubrió que cuando se tecleaban en Google nombres típicamente afroamericanos, como "Latanya Farrell", aparecían anuncios que ofrecían investigar posibles antecedentes penales, pero no cuando se buscaban nombres como "Kristen Haring". El duro objetivo de Google de maximizar los clics en los anuncios había llevado a una situación en la que sus algoritmos, refinados a través de la retroalimentación a lo largo del tiempo, estaban en efecto difamando a las personas con cierto tipo de nombres. Sucedió porque las personas que buscaban determinados nombres tenían más probabilidades de hacer clic en los registros de arrestos, lo que llevó a que estos registros aparecieran aún más a menudo, creando un bucle que se reforzaba a sí mismo. Probablemente este no era el resultado previsto, pero sin un objetivo blando en su lugar, no había ningún mecanismo para dirigir el algoritmo lejos de él. Los algoritmos no entienden de compensaciones; persiguen objetivos con una sola mente. Hace poco vimos la importancia de los objetivos blandos en acción. Uno de nosotros estaba trabajando con una ciudad de la costa oeste para mejorar la eficacia de sus inspecciones de restaurantes. Durante décadas, la ciudad las había realizado en su mayor parte al azar, pero sometiendo a un escrutinio más frecuente a los lugares con infracciones anteriores. Sin embargo, elegir qué establecimientos inspeccionar es un trabajo ideal para un algoritmo. Nuestro algoritmo encontró muchas más variables -no sólo las infracciones anteriores- que podían ser predictivas. El resultado fue que el departamento de sanidad pudo identificar más fácilmente a los probables infractores y, a continuación, encontrar las infracciones reales con muchas menos inspecciones. A los funcionarios les encantó la idea de hacer más eficaz el proceso y quisieron avanzar hacia su aplicación. Preguntamos si había alguna pregunta o preocupación. Tras un incómodo silencio, una persona levantó la mano. "No sé cómo plantear esto", dijo. "Pero hay un tema que deberíamos discutir". Explicó que en algunos barrios más estrechos solía haber más infracciones. Estos barrios también resultaban albergar porcentajes más altos de residentes de minorías con ingresos más bajos. Ella no quería que estos barrios se vieran excesivamente afectados por el algoritmo. Estaba expresando un objetivo blando relacionado con la equidad. Nuestra sencilla solución consistió en incorporar ese objetivo al algoritmo fijando un límite máximo al número de inspecciones dentro de cada zona. De este modo se alcanzaría el objetivo duro, identificando los restaurantes con más probabilidades de tener problemas, al tiempo que se respetaba el blando, garantizando que no se señalaba a los barrios pobres. Fíjese en el paso adicional que nos permitió hornear los objetivos blandos: dar a todo el mundo la oportunidad de articular cualquier preocupación. Descubrimos que la gente suele formular los objetivos blandos como preocupaciones, por lo que pedirlas explícitamente facilita un debate más abierto y fructífero. También es fundamental dar a la gente licencia para ser sincera y franca, para decir cosas que normalmente no dirían. Este enfoque puede sacar a la luz una serie de cuestiones, pero las que vemos con más frecuencia están relacionadas con la imparcialidad y con el manejo de situaciones delicadas. Este artículo también aparece en: Las 10 lecturas obligadas 2017 de HBR Liderazgo y Gestión de Personas Libro 24.95 Añadir a la cesta Ahorre Compartir Con un objetivo central y una lista de preocupaciones en la mano, el diseñador del algoritmo puede entonces construir compensaciones en él. A menudo eso puede significar ampliar el objetivo para incluir múltiples resultados, ponderados por importancia. Minimizar la miopía Una popular empresa de bienes de consumo envasados compraba productos baratos en China y los vendía en Estados Unidos. Seleccionó estos productos tras ejecutar un algoritmo que preveía cuáles se venderían más. Efectivamente, las ventas despegaron y marcharon viento en popa... hasta varios meses después, cuando los clientes empezaron a devolver los artículos. Resulta que la tasa de devoluciones, sorprendentemente alta y constante, se podía haber previsto (aunque el algoritmo no lo hubiera previsto). Obviamente, la empresa se preocupaba por la calidad, pero no había traducido ese interés en un algoritmo que proyectara cuidadosamente la satisfacción del consumidor; en su lugar, había pedido al algoritmo que se centrara estrictamente en las ventas. En última instancia, el nuevo enfoque de la empresa consistió en convertirse en un gran pronosticador no sólo de lo bien que se venderían los productos, sino también de lo mucho que la gente disfrutaría y conservaría sus productos. La empresa busca ahora ofertas que los clientes deliren en Amazon y otras plataformas, y la tasa de devolución de productos ha caído en picado. Esta empresa se topó con un escollo común al tratar con algoritmos: Los algoritmos tienden a ser miopes. Se centran en los datos que tienen a mano, y esos datos suelen referirse a resultados a corto plazo. Puede haber una tensión entre el éxito a corto plazo y los beneficios a largo plazo y los objetivos corporativos más amplios. Los humanos entienden esto implícitamente; los algoritmos no, a menos que usted se lo diga. Este problema puede resolverse en la fase de fijación de objetivos identificando y especificando las metas a largo plazo. Pero a la hora de actuar sobre la base de las predicciones de un algoritmo, los directivos también deben ajustarse a la medida en que el algoritmo es coherente con los objetivos a largo plazo. La miopía es también la debilidad subyacente de los programas que producen contenidos de baja calidad buscando maximizar los clics. Los algoritmos están optimizando para un objetivo que puede medirse en el momento -si un usuario hace clic en un enlace- sin tener en cuenta el objetivo a más largo plazo y más importante de mantener a los usuarios satisfechos con su experiencia en el sitio. La miopía también puede ser un problema en las campañas de marketing. Pensemos en una campaña publicitaria corriente de Gap con Google. Lo más probable es que provoque un aumento de las visitas a Gap.com, porque el algoritmo de Google es bueno prediciendo quién hará clic en un anuncio. El problema es que el verdadero objetivo es aumentar las ventas, no las visitas al sitio web. Para solucionarlo, las plataformas publicitarias pueden recopilar datos de ventas a través de diversos canales, como las asociaciones con sistemas de pago, e incorporarlos a sus algoritmos. Los algoritmos se centran en los datos que tienen a mano, que a menudo se refieren a resultados a corto plazo. Es más, las visitas al sitio web son un comportamiento a corto plazo, mientras que el impacto a largo plazo de los anuncios incluye los efectos posteriores sobre la imagen de marca y la repetición de negocios. Aunque es difícil encontrar datos perfectos sobre estos efectos, las auditorías de datos cuidadosas pueden ayudar mucho. Los directivos deben hacer una lista sistemática de todos los datos internos y externos que puedan ser relevantes para el proyecto en cuestión. Con una campaña en Google, los responsables de marketing de Gap podrían empezar por exponer todos sus objetivos -altas ventas, bajas devoluciones, buena reputación, etc.- y, a continuación, detallar las formas de medir cada uno de ellos. Las devoluciones de productos, las reseñas en línea y las búsquedas del término "Gap" serían métricas estupendas. El mejor algoritmo podría entonces construir predicciones a partir de una combinación de todas estas características, calibrando su importancia relativa. Elija los datos de entrada adecuados Volvamos al ejemplo de los departamentos de sanidad que intentan identificar los restaurantes con riesgo de causar enfermedades transmitidas por los alimentos. Como ya se ha mencionado, históricamente las ciudades han inspeccionado al azar o basándose en los resultados de inspecciones anteriores. Trabajando con Yelp, uno de nosotros ayudó a la ciudad de Boston a utilizar las reseñas en línea para determinar qué restaurantes tenían más probabilidades de infringir los códigos sanitarios locales, creando un algoritmo que comparaba el texto de las reseñas con los datos históricos de las inspecciones. Al aplicarlo, la ciudad identificó el mismo número de infracciones que de costumbre, pero con un 40% menos de inspectores: un aumento espectacular de la eficacia. Este enfoque funcionó bien no sólo porque teníamos muchos restaurantes en los que fijarnos, sino porque las reseñas de Yelp proporcionaban un gran conjunto de datos, algo en lo que las ciudades no habían pensado mucho. Una reseña de Yelp contiene muchas palabras y una gran variedad de información. Los datos también son diversos, porque proceden de distintas fuentes. En resumen, es bastante diferente de los datos creados por los inspectores con los que las ciudades estaban acostumbradas a trabajar. A la hora de elegir los recursos de datos adecuados, tenga en cuenta lo siguiente: Más amplio es mejor. Una trampa en la que suelen caer las empresas es pensar que los Big Data son simplemente un montón de registros; por ejemplo, considerar un millón de clientes en lugar de 10.000. Pero esto es sólo la mitad del cuadro. Pero esto es sólo la mitad de la imagen. Imagine sus datos organizados en una tabla, con una fila para cada cliente. El número de clientes es la longitud de la tabla. Lo que sabe de cada cliente determina la anchura: cuántas características se registran en cada fila. Y aunque el aumento de la longitud de los datos mejorará sus predicciones, todo el poder de Big Data proviene de la recopilación de datos amplios. Aprovechar la información amplia es la esencia de la predicción. Cada detalle adicional que aprenda sobre un resultado es como una pista más, y puede combinarse con las pistas que ya haya recopilado. Los documentos de texto son una gran fuente de datos amplios, por ejemplo; cada palabra es una pista. La diversidad importa. Un corolario de esto es que los datos deben ser diversos, en el sentido de que las diferentes fuentes de datos deben estar relativamente poco relacionadas entre sí. De ahí procede el poder predictivo adicional. Trate cada conjunto de datos como la recomendación de un amigo. Si los conjuntos de datos son demasiado similares, no habrá mucha ganancia marginal de cada uno adicional. Pero si cada conjunto de datos tiene una perspectiva única, se crea mucho más valor. Comprender las limitaciones Saber lo que su algoritmo no puede decirle es tan importante como saber lo que sí puede. Es fácil sucumbir a la creencia errónea de que las predicciones realizadas en un contexto se aplicarán igual de bien en otro. Eso fue lo que impidió que el concurso de Netflix de 2009 reportara más beneficios a la empresa: El algoritmo que pronosticaba con precisión qué DVD querría pedir una persona por correo no era ni mucho menos tan bueno a la hora de señalar qué película querría ver una persona en streaming ahora mismo. Netflix obtuvo ideas útiles y buena publicidad del concurso, pero los datos que recopiló sobre los DVD no se aplicaban al streaming. Los algoritmos utilizan los datos existentes para hacer predicciones sobre lo que podría ocurrir con un escenario, una población, un momento o una pregunta ligeramente diferentes. En esencia, están transfiriendo una idea de un contexto a otro. Por lo tanto, es una práctica inteligente enumerar las razones por las que el algoritmo podría no ser transferible a un nuevo problema y evaluar su importancia. Por ejemplo, un algoritmo de infracciones del código sanitario basado en revisiones e infracciones en Boston puede ser menos eficaz en Orlando, que tiene un clima más cálido y, por tanto, se enfrenta a problemas de seguridad alimentaria diferentes. Recuerde también que correlación aún no significa causalidad. Supongamos que un algoritmo predice que los tuits cortos serán retuiteados con más frecuencia que los largos. Esto no sugiere en absoluto que deba acortar sus tweets. Se trata de una predicción, no de un consejo. Funciona como predicción porque hay muchos otros factores correlacionados con los tuits cortos que los hacen eficaces. Por eso también falla como consejo: Acortar sus tweets no cambiará necesariamente esos otros factores. Considere las experiencias de eBay, que llevaba años anunciándose a través de Google. EBay vio que las personas que veían esos anuncios tenían más probabilidades de comprar en ella que las que no lo hacían. Lo que no vio fue si los anuncios (que se mostraron millones de veces) estaban provocando que la gente acudiera a su sitio web. Después de todo, los anuncios se mostraron deliberadamente a probables compradores de eBay. Para separar la correlación de la causalidad, eBay realizó un gran experimento en el que mostró anuncios al azar a unas personas y no a otras. ¿El resultado? Resulta que los anuncios fueron en su mayor parte inútiles, porque las personas que los vieron ya conocían eBay y habrían comprado allí de todos modos. Los algoritmos capaces de hacer predicciones no eliminan la necesidad de tener cuidado a la hora de establecer conexiones entre causa y efecto; no sustituyen a los experimentos controlados. Pero lo que pueden hacer es extremadamente poderoso: identificar patrones demasiado sutiles para ser detectados por la observación humana, y utilizar esos patrones para generar ideas precisas e informar mejor la toma de decisiones. El reto para nosotros es comprender sus riesgos y limitaciones y, mediante una gestión eficaz, liberar su extraordinario potencial.

Los algoritmos también necesitan gestores

Resumen.

Partner Center