Os algoritmos também precisam de gerentes

A ideia em resumo O problema Os algoritmos são ferramentas essenciais para o planejamento, mas podem facilmente desviar os tomadores de decisão. As causas Todos os algoritmos têm duas características em comum: Eles são literais, o que significa que farão exatamente o que o senhor pedir. E são caixas pretas, o que significa que não explicam por que oferecem determinadas recomendações. A solução Ao formular algoritmos, seja explícito sobre todos os seus objetivos. Considere as implicações de longo prazo dos dados que o senhor examina. E certifique-se de escolher as entradas de dados corretas. A maioria dos trabalhos dos gerentes envolve fazer previsões. Quando os especialistas em RH decidem quem contratar, eles estão prevendo quem será mais eficaz. Quando os profissionais de marketing escolhem quais canais de distribuição usar, eles estão prevendo onde um produto será mais vendido. Quando os investidores de capital de risco decidem se financiam uma start-up, eles estão prevendo se ela será bem-sucedida. Para fazer essas e inúmeras outras previsões de negócios, as empresas de hoje estão se voltando cada vez mais para os algoritmos de computador, que realizam operações analíticas passo a passo em velocidade e escala incríveis. Os algoritmos tornam as previsões mais precisas, mas também criam seus próprios riscos, principalmente se não os compreendermos. Há muitos exemplos de alto nível. Quando a Netflix realizou uma competição de um milhão de dólares para desenvolver um algoritmo que pudesse identificar quais filmes um determinado usuário gostaria, equipes de cientistas de dados uniram forças e produziram um vencedor. Mas o algoritmo se aplicava a DVDs e, à medida que os espectadores da Netflix faziam a transição para o streaming de filmes, suas preferências mudavam de uma forma que não correspondia às previsões do algoritmo. Outro exemplo vem da mídia social. Atualmente, muitos sites utilizam algoritmos para decidir quais anúncios e links devem ser exibidos aos usuários. Quando esses algoritmos se concentram de forma muito restrita na maximização dos cliques dos usuários, os sites ficam sobrecarregados com artigos de baixa qualidade do tipo "caça-cliques". As taxas de cliques aumentam, mas a satisfação geral do cliente pode despencar. Este artigo também aparece em: HBR's 10 Must Reads on AI, Analytics, and the New Machine Age (10 leituras obrigatórias da HBR sobre IA, análise e a nova era das máquinas) Tecnologia e Operações LIVRO 24.95 Adicionar ao carrinho Salvar Compartilhar Problemas como esses não são inevitáveis. Em nosso trabalho de projetar e implementar algoritmos e identificar novas fontes de dados com uma série de organizações, vimos que a fonte de dificuldade muitas vezes não são os bugs nos algoritmos; são os bugs na forma como interagimos com eles. Para evitar erros, os gerentes precisam entender o que os algoritmos fazem bem - que perguntas eles respondem e que perguntas não respondem. Por que os algoritmos inteligentes nos induzem ao erro? Como mostra um crescente conjunto de evidências, humanizar os algoritmos nos deixa mais confortáveis com eles. Isso pode ser útil se, por exemplo, o senhor estiver projetando uma função de chamada automatizada. A voz de uma pessoa real tem mais probabilidade de fazer as pessoas ouvirem do que uma voz eletrônica. O problema fundamental, entretanto, é que as pessoas tratam os algoritmos e as máquinas que os operam da mesma forma que tratariam um funcionário, supervisor ou colega. Mas os algoritmos se comportam de forma muito diferente dos seres humanos, de duas maneiras importantes: Os algoritmos são extremamente literais. No último filme dos Vingadores, Tony Stark (também conhecido como Homem de Ferro) cria Ultron, um sistema de defesa de inteligência artificial encarregado de proteger a Terra. Mas Ultron interpreta a tarefa literalmente, concluindo que a melhor maneira de salvar a Terra é destruir todos os seres humanos. Em muitos aspectos, Ultron se comporta como um algoritmo típico: TI faz exatamente o que lhe é pedido - e ignora qualquer outra consideração. Temos problemas quando não gerenciamos os algoritmos com cuidado. Os sites de mídia social que foram subitamente inundados por caça-cliques caíram em uma armadilha semelhante. O objetivo geral deles era claro: fornecer conteúdo que fosse mais atraente e envolvente para os usuários. Ao comunicar isso ao algoritmo, eles criaram um conjunto de instruções que parecia ser um bom proxy - encontrar itens nos quais os usuários clicariam mais. E não é um proxy ruim: Normalmente, as pessoas clicam no conteúdo porque ele lhes interessa. Mas fazer seleções apenas com base em cliques rapidamente encheu os sites com material superficial e ofensivo que prejudicou sua reputação. Um ser humano entenderia que os designers dos sites queriam dizer "Maximizar a qualidade medida pelos cliques", e não "Maximizar os cliques mesmo às custas da qualidade". Um algoritmo, por outro lado, entende apenas o que lhe é dito explicitamente. Os algoritmos são caixas pretas. Na peça Júlio César , de Shakespeare, um adivinho adverte César para "tomar cuidado com os dias de março". A recomendação era perfeitamente clara: era melhor o senhor tomar cuidado. Mas, ao mesmo tempo, era completamente incompreensível. Cuidado com o quê? Por quê? César, frustrado com a mensagem misteriosa, dispensou o adivinho, declarando: "Ele é um sonhador; vamos deixá-lo". De fato, os ides de março acabaram sendo um dia ruim para o governante. O problema foi que o adivinho forneceu informações incompletas. E não havia nenhuma pista sobre o que estava faltando ou sobre a importância dessas informações. Assim como o adivinho de Shakespeare, os algoritmos geralmente podem prever o futuro com grande precisão, mas não dizem ao senhor o que causará um evento nem por quê. Um algoritmo pode ler todos os artigos do New York Times e dizer ao senhor qual tem maior probabilidade de ser compartilhado no Twitter, sem necessariamente explicar por que as pessoas serão levadas a tuitar sobre isso. Um algoritmo pode dizer ao senhor quais funcionários têm maior probabilidade de sucesso sem identificar quais atributos são mais importantes para o sucesso. Reconhecer essas duas limitações dos algoritmos é o primeiro passo para gerenciá-los melhor. Agora vamos analisar outras medidas que o senhor pode tomar para aproveitá-los com mais sucesso. Seja explícito em relação a todas as suas metas Todos têm objetivos e diretrizes, mas também sabemos que os fins nem sempre justificam os meios. Entendemos que há metas e compensações brandas (muitas vezes não ditas). Podemos recusar um pouco de lucro hoje em troca de um ganho de reputação amanhã. Podemos nos esforçar para obter igualdade - mesmo que isso cause dor organizacional no curto prazo. Os algoritmos, por outro lado, buscarão um objetivo específico com uma única mente. A melhor maneira de atenuar isso é ter clareza absoluta sobre tudo o que o senhor deseja alcançar. Se o senhor se preocupa com uma meta flexível, precisa declará-la, defini-la e quantificar o quanto ela é importante. Na medida em que as metas flexíveis são difíceis de medir, mantenha-as em mente ao agir de acordo com os resultados de um algoritmo. No Google (que financiou algumas de nossas pesquisas sobre outros tópicos), surgiu um problema de meta flexível com um algoritmo que determina quais anúncios devem ser exibidos. A professora de Harvard Latanya Sweeney descobriu isso em um estudo. Ela descobriu que quando o usuário digitava nomes tipicamente afro-americanos, como "Latanya Farrell", no Google, eram exibidos anúncios que ofereciam a investigação de possíveis registros de prisão, mas não quando o usuário pesquisava nomes como "Kristen Haring". O objetivo árduo do Google de maximizar os cliques em anúncios levou a uma situação em que seus algoritmos, refinados por meio de feedback ao longo do tempo, estavam, na verdade, difamando pessoas com determinados tipos de nomes. Isso aconteceu porque as pessoas que pesquisavam nomes específicos tinham maior probabilidade de clicar em registros de prisão, o que fazia com que esses registros aparecessem com ainda mais frequência, criando um loop de autorreforço. Provavelmente, esse não era o resultado pretendido, mas, sem um objetivo suave, não havia nenhum mecanismo para desviar o algoritmo dele. Os algoritmos não entendem os trade-offs; eles perseguem os objetivos com uma única mente. Recentemente, vimos a importância das metas flexíveis em ação. Um de nós estava trabalhando com uma cidade da Costa Oeste para melhorar a eficiência de suas inspeções de restaurantes. Durante décadas, a cidade as realizava, em sua maioria, de forma aleatória, mas dava mais atenção a locais com violações anteriores. No entanto, a escolha dos estabelecimentos a serem inspecionados é uma tarefa ideal para um algoritmo. Nosso algoritmo encontrou muito mais variáveis - não apenas violações anteriores - que podem ser preditivas. O resultado foi que o departamento de saúde pôde identificar prováveis infratores com mais facilidade e, em seguida, encontrar violações reais com muito menos inspeções. Os funcionários adoraram a ideia de tornar o processo mais eficiente e quiseram avançar para a implementação. Perguntamos se havia alguma dúvida ou preocupação. Depois de um silêncio constrangedor, uma pessoa levantou a mão. "Não sei como falar sobre isso", disse ela. "Mas há uma questão que devemos discutir." Ela explicou que, em alguns bairros com áreas mais apertadas, costumava haver mais violações. Esses bairros também abrigavam uma porcentagem maior de moradores de minorias com renda mais baixa. Ela não queria que esses bairros fossem excessivamente visados pelo algoritmo. A senhora estava expressando um objetivo suave relacionado à justiça. Nossa solução simples foi incorporar esse objetivo ao algoritmo, definindo um limite máximo para o número de inspeções em cada área. Isso atingiria o objetivo mais difícil, identificando os restaurantes com maior probabilidade de ter problemas, e ainda respeitaria o objetivo mais brando, garantindo que os bairros pobres não fossem escolhidos. Observe a etapa extra que nos permitiu incorporar as metas brandas: dar a todos a oportunidade de expressar suas preocupações. Descobrimos que as pessoas geralmente formulam metas flexíveis como preocupações, portanto, solicitá-las explicitamente facilita uma discussão mais aberta e proveitosa. TI também é fundamental dar licença às pessoas para que sejam francas e diretas - para que digam coisas que normalmente não diriam. Essa abordagem pode trazer à tona uma variedade de questões, mas as que vemos com mais frequência estão relacionadas à justiça e ao tratamento de situações delicadas. Este artigo também aparece em: HBR's 10 Must Reads 2017 Livro Liderança e Gestão de Pessoas 24.95 Adicionar ao carrinho Salvar Compartilhe Com um objetivo central e uma lista de preocupações em mãos, o projetista do algoritmo pode então criar compensações nele. Muitas vezes, isso pode significar estender o objetivo para incluir vários resultados, ponderados por importância. Minimizar a miopia Uma empresa popular de bens de consumo embalados estava comprando produtos baratos na China e vendendo-os nos Estados Unidos. A TI selecionou esses produtos depois de executar um algoritmo que previa quais seriam os mais vendidos. Com certeza, as vendas decolaram e se mantiveram bem - até vários meses depois, quando os clientes começaram a devolver os itens. Na verdade, a taxa de devolução surpreendentemente alta e constante poderia ter sido prevista (embora o algoritmo não a tivesse previsto). Obviamente, a empresa se preocupava com a qualidade, mas não havia traduzido esse interesse em um algoritmo que projetasse cuidadosamente a satisfação do consumidor; em vez disso, havia pedido ao algoritmo que se concentrasse estritamente nas vendas. Por fim, a nova abordagem da empresa foi tornar-se excelente em prever não apenas a qualidade das vendas dos produtos, mas também o quanto as pessoas gostariam e manteriam seus produtos. A empresa agora procura ofertas que os clientes elogiem na Amazon e em outras plataformas, e a taxa de devolução de produtos caiu drasticamente. Essa empresa se deparou com uma armadilha comum ao lidar com algoritmos: Os algoritmos tendem a ser míopes. Eles se concentram nos dados disponíveis - e esses dados geralmente se referem a resultados de curto prazo. Pode haver uma tensão entre o sucesso de curto prazo e os lucros de longo prazo e as metas corporativas mais amplas. Os seres humanos entendem isso implicitamente; os algoritmos não entendem, a menos que o senhor lhes diga isso. Esse problema pode ser resolvido na fase de definição de objetivos, identificando e especificando metas de longo prazo. Porém, ao agir com base nas previsões de um algoritmo, os gerentes também devem ajustar a medida em que o algoritmo é consistente com as metas de longo prazo. A miopia também é o ponto fraco subjacente dos programas que produzem conteúdo de baixa qualidade, buscando maximizar os cliques. Os algoritmos estão otimizando para uma meta que pode ser medida no momento - se um usuário clica em um link - sem levar em conta a meta de longo prazo e mais importante de manter os usuários satisfeitos com sua experiência no site. A miopia também pode ser um problema nas campanhas de marketing individualizadas. Considere uma campanha de publicidade comum da Gap no Google. A TI provavelmente levaria a um aumento nas visitas ao site Gap.com - porque o algoritmo do Google é bom em prever quem clicará em um anúncio. O problema é que o objetivo real é aumentar as vendas - não aumentar as visitas ao site. Para resolver isso, as plataformas de publicidade podem coletar dados de vendas por meio de vários canais, como parcerias com sistemas de pagamento, e incorporá-los aos seus algoritmos. Os algoritmos se concentram nos dados disponíveis, que geralmente se referem a resultados de curto prazo. Além disso, as visitas ao site são um comportamento de curto prazo, enquanto o impacto de longo prazo dos anúncios inclui os efeitos posteriores sobre a imagem da marca e a repetição de negócios. Embora seja difícil encontrar dados perfeitos sobre esses efeitos, uma auditoria cuidadosa dos dados pode ajudar muito. Os gerentes devem listar sistematicamente todos os dados internos e externos que possam ser relevantes para o projeto em questão. Com uma campanha do Google, os profissionais de marketing da Gap poderiam começar definindo todos os seus objetivos - altas vendas, baixas devoluções, boa reputação e assim por diante - e, em seguida, definir maneiras de medir cada um deles. Devoluções de produtos, avaliações on-line e pesquisas pelo termo "Gap" seriam ótimas métricas. O melhor algoritmo poderia então criar previsões a partir de uma combinação de todos esses recursos, calibrando a importância relativa de cada um deles. Escolha as entradas de dados corretas Vamos voltar ao exemplo dos departamentos de saúde que estão tentando identificar restaurantes com risco de causar doenças transmitidas por alimentos. Conforme mencionado anteriormente, historicamente, as cidades têm inspecionado aleatoriamente ou com base em resultados de inspeções anteriores. Trabalhando com o Yelp, um de nós ajudou a cidade de Boston a usar as avaliações on-line para determinar quais restaurantes tinham maior probabilidade de violar os códigos de saúde locais, criando um algoritmo que comparava o texto das avaliações com os dados históricos de inspeção. Com a aplicação desse algoritmo, a cidade identificou o mesmo número de violações que o habitual, mas com 40% menos inspetores - um aumento significativo na eficiência. Essa abordagem funcionou bem não apenas porque tínhamos muitos restaurantes para analisar, mas também porque as avaliações do Yelp forneciam um ótimo conjunto de dados - algo que as cidades não haviam considerado muito. Uma avaliação do Yelp contém muitas palavras e uma variedade de informações. Os dados também são diversos, pois são extraídos de diferentes fontes. Em resumo, são bem diferentes dos dados criados por inspetores com os quais as cidades estavam acostumadas a trabalhar. Ao escolher os recursos de dados corretos, tenha em mente o seguinte: Mais amplo é melhor. Uma armadilha na qual as empresas costumam cair é pensar que o Big Data é simplesmente uma grande quantidade de registros - por exemplo, olhar para um milhão de clientes em vez de 10.000. Mas isso é apenas metade do quadro. Imagine seus dados organizados em uma tabela, com uma linha para cada cliente. O número de clientes é o comprimento da tabela. O que o senhor sabe sobre cada cliente determina a largura - quantas características são registradas em cada linha. E, embora o aumento do comprimento dos dados melhore suas previsões, o poder total do Big Data vem da coleta de dados amplos. O aproveitamento de informações abrangentes é o cerne da previsão. Cada detalhe adicional que o senhor aprende sobre um resultado é como mais uma pista, e pode ser combinado com as pistas que já foram coletadas. Os documentos de texto são uma excelente fonte de dados abrangentes, por exemplo; cada palavra é uma pista. A diversidade é importante. Um corolário disso é que os dados devem ser diversificados, no sentido de que as diferentes fontes de dados devem ser relativamente não relacionadas umas às outras. É daí que vem o poder preditivo extra. Trate cada conjunto de dados como uma recomendação de um amigo. Se os conjuntos de dados forem muito semelhantes, não haverá muito ganho marginal com cada conjunto adicional. Mas se cada conjunto de dados tiver uma perspectiva exclusiva, será criado muito mais valor. Entenda as limitações Saber o que o algoritmo não pode dizer ao senhor é tão importante quanto saber o que ele pode. É fácil sucumbir à crença equivocada de que as previsões feitas em um contexto se aplicarão igualmente bem em outro. Foi isso que impediu que a concorrência da Netflix em 2009 trouxesse mais benefícios para a empresa: O algoritmo que previa com precisão qual DVD uma pessoa gostaria de encomendar pelo correio não era tão bom para identificar qual filme uma pessoa gostaria de assistir agora mesmo. A Netflix obteve insights úteis e boa publicidade com o concurso, mas os dados coletados sobre DVDs não se aplicavam ao streaming. Os algoritmos usam dados existentes para fazer previsões sobre o que poderia acontecer com uma configuração, população, tempo ou pergunta ligeiramente diferente. Em essência, o senhor está transferindo um insight de um contexto para outro. Portanto, é uma prática inteligente listar os motivos pelos quais o algoritmo pode não ser transferível para um novo problema e avaliar sua importância. Por exemplo, um algoritmo de violação do código de saúde baseado em análises e violações em Boston pode ser menos eficaz em Orlando, que tem um clima mais quente e, portanto, enfrenta problemas diferentes de segurança alimentar. Lembre-se também de que a correlação ainda não é sinônimo de causalidade. Suponha que um algoritmo preveja que os tweets curtos serão retuitados com mais frequência do que os mais longos. Isso não sugere de forma alguma que o senhor deva encurtar seus tweets. Isso é uma previsão, não um conselho. A TI funciona como previsão porque há muitos outros fatores que se correlacionam com tweets curtos e que os tornam eficazes. É também por isso que ela falha como conselho: Encurtar seus tweets não mudará necessariamente esses outros fatores. Considere a experiência do eBay, que vinha anunciando por meio do Google há anos. O eBay percebeu que as pessoas que viam esses anúncios tinham maior probabilidade de fazer compras no site do que as pessoas que não viam. O que a TI não percebeu foi se os anúncios (que foram exibidos milhões de vezes) estavam fazendo com que as pessoas acessassem seu site. Afinal, os anúncios foram deliberadamente exibidos para prováveis compradores do eBay. Para separar a correlação da causalidade, o eBay realizou um grande experimento no qual anunciou aleatoriamente para algumas pessoas e não para outras. O resultado? Descobriu-se que os anúncios eram, em sua maioria, inúteis, porque as pessoas que os viam já conheciam o eBay e teriam feito compras lá de qualquer maneira. Os algoritmos capazes de fazer previsões não eliminam a necessidade de cuidado ao estabelecer conexões entre causa e efeito; eles não substituem os experimentos controlados. Mas o que eles podem fazer é extremamente poderoso: identificar padrões sutis demais para serem detectados pela observação humana e usar esses padrões para gerar percepções precisas e informar uma melhor tomada de decisão. O desafio para nós é entender seus riscos e limitações e, por meio de um gerenciamento eficaz, liberar seu notável potencial.

Os algoritmos também precisam de gerentes

Resumo.

Partner Center