Pesquisa: Como a IA responsável protege os resultados financeiros

Oitenta e sete por cento dos gerentes reconhecem a importância da IA responsável (RAI), de acordo com uma pesquisa da MIT Technology Review de 2025. Esse consenso parece abranger todo o ecossistema de IA, desde start-ups até gigantes da tecnologia, cada um expressando um firme compromisso com os princípios da IA responsável. À primeira vista, pode-se ficar tentado a acreditar que estamos à beira de um renascimento ético da IA. No entanto, apenas 15% desses mesmos gerentes se sentem bem preparados para adotar práticas de RAI. Pouco mais da metade (52%) das empresas realmente tem um programa de IA responsável em vigor, segundo dados do BCG. Mesmo para as empresas que têm programas, a maioria é de pequena escala ou de escopo limitado (79%) e carece de controles e supervisão adequados para seus programas de IA responsável (70%). Ainda há uma lacuna entre o discurso e a ação sobre a IA responsável. A discrepância pode se originar de uma mentalidade empresarial ultrapassada, que vê as considerações éticas como um luxo ou até mesmo em desacordo com o desempenho financeiro. Na busca incessante pelo domínio da IA, as empresas estão mais inclinadas a alocar recursos para aprimoramentos de IA que elevem seus resultados financeiros em vez de esforços responsáveis de IA, que geralmente são vistos como geradores de custos. Mas será que essa dicotomia percebida entre responsabilidade ética e lucratividade se sustenta? A evidência empírica Exploramos essa questão no contexto de produtos financeiros de IA. Especificamente, analisamos como a incorporação de recursos responsáveis nesses produtos influencia a adoção pelo consumidor. Nossa pesquisa se baseou em dados qualitativos e quantitativos dos consumidores. Começamos realizando uma série de entrevistas semiestruturadas para descobrir os principais atributos de design que impulsionam a adoção de produtos de IA. Os resultados sugeriram que os consumidores consideram principalmente cinco atributos de design de produtos: Auditabilidade: A capacidade de rastrear e revisar os processos e as decisões tomadas por um sistema de IA, incorporando a supervisão humana. Autonomia: O grau em que um sistema de IA pode operar de forma independente, tomando decisões ou ações sem intervenção humana. Personalização: A capacidade de um produto de TI de adaptar suas funções, respostas e interações às preferências, ao histórico e às necessidades do usuário individual. Privacidade: A garantia de que um produto de IA protege os dados do usuário e mantém a confidencialidade. Compreensibilidade: A clareza com que um produto de IA pode delinear a lógica por trás de seus resultados, tornando seu funcionamento compreensível para os usuários. Entre eles, a auditabilidade, a privacidade e a compreensibilidade se destacam como os principais atributos ligados à IA responsável. Em seguida, realizamos três grandes estudos usando experimentos de escolha discreta que envolveram um total de 3.268 consumidores. Nos experimentos, cada participante foi apresentado a uma série de opções entre dois produtos de IA, cada um com atributos-chave diferentes. A principal vantagem desse design é que ele exige que os participantes façam trocas ponderadas entre diferentes atributos do produto, sem poder escolher pacotes "ideais". Por exemplo, os participantes podem ter de escolher entre um produto de IA que ofereça alta personalização, mas pouca privacidade, e outro que garanta alta privacidade, mas personalização limitada. Essa escolha exige que os participantes decidam qual atributo do produto eles valorizam mais: privacidade ou personalização. Essa metodologia é geralmente considerada superior às pesquisas tradicionais, em que o participante pode classificar ambos os atributos como altamente importantes sem considerar genuinamente as compensações entre eles. Em um dos experimentos, usando um aplicativo de planejamento de aposentadoria baseado em IA como produto focal, descobrimos que o recurso mais importante para orientar a escolha dos consumidores foi a privacidade, com uma pontuação média de importância de 31%. Em seguida, veio outro atributo de IA responsável, a auditabilidade, com um peso de 26%. A autonomia também surgiu como um fator importante (23%). Em contrapartida, a compreensibilidade (11%) e a personalização (9%) tiveram importância limitada. Em outro experimento, usando um aplicativo de gerenciamento de investimentos em ações baseado em IA como produto focal, incluímos dois atributos que têm o potencial de se sobrepor às preocupações éticas - preço e desempenho - no conjunto de escolhas. O desempenho liderou como esperado (29%), mas, notavelmente, a privacidade rivalizou com o preço em importância, cada um oscilando em torno de 20% de importância média. A auditabilidade (13%) foi o segundo fator mais importante, um pouco acima da autonomia (10%), enquanto a compreensibilidade e a personalização foram novamente relativamente menos importantes (ambas em torno de 4%). A principal conclusão de nossa pesquisa é animadora: A incorporação de elementos responsáveis de IA no design do produto pode afetar positivamente a escolha do consumidor, mesmo na presença de considerações de preço e desempenho. Nossas simulações de acompanhamento dos experimentos ilustram a escala dessa mudança. Por exemplo, a introdução de atributos responsáveis (ou seja, privacidade, compreensibilidade e auditabilidade) no aplicativo de planejamento de aposentadoria levou a um aumento substancial previsto nas taxas de adoção - 63,19% para um aplicativo com atributos responsáveis em comparação com 2,4% para aqueles sem atributos, mantendo todos os outros fatores constantes. Da mesma forma, adicionar níveis mais altos de atributos responsáveis - por exemplo, nenhum compartilhamento de dados com terceiros versus compartilhamento de dados identificáveis - ao aplicativo de investimento levou a um aumento de 27,5% na adoção. No entanto, as preferências dos consumidores por atributos específicos de IA responsável não são uniformes. A privacidade e a auditabilidade se destacam como essenciais, ecoando preocupações generalizadas sobre segurança de dados e responsabilidade ética. Em contrapartida, os consumidores - pelo menos por enquanto e no contexto de produtos de IA financeira - não estão particularmente preocupados com a compreensibilidade. Eles priorizam saber que seus dados estão seguros e que as ações do sistema são responsáveis em vez de entender os detalhes de como as decisões de IA são tomadas. Estratégia deIA responsável Projetando produtos de IA responsáveis nos quais os consumidores confiam Nossa pesquisa revela que os recursos responsáveis de IA - especificamente a privacidade e a auditabilidade - servem como poderosos diferenciadores de produtos que podem gerar retornos econômicos significativos. Essa constatação exige que as empresas reconsiderem a alocação de recursos no design de produtos, principalmente quando se deparam com compensações desafiadoras. Considere o paradoxo da personalização e da privacidade, um dilema comum enfrentado pelos gerentes de produtos. Os consumidores desejam experiências personalizadas, mas hesitam em compartilhar os dados pessoais que essas experiências exigem. As empresas devem priorizar a personalização ou a privacidade do usuário? Nossa pesquisa fornece uma resposta clara para os produtos de IA financeira: O valor da privacidade supera significativamente os benefícios da personalização. No entanto, muitas empresas continuam enfatizando a personalização, ignorando as mudanças nas preferências dos consumidores em um mercado cada vez mais preocupado com a privacidade, conforme ilustrado por pesquisas recentes com consumidores. Outro trade-off crítico surge entre a privacidade e os recursos do modelo. Os gerentes geralmente presumem que precisam escolher entre proteções robustas de privacidade e recursos avançados de IA. Tomemos como exemplo as decisões sobre o processamento no dispositivo. Embora manter os dados locais aumente a privacidade, isso restringe inerentemente o acesso a recursos sofisticados de IA devido a limitações de hardware. O instinto de buscar recursos de última geração é compreensível, mas concentrar-se apenas nos recursos é uma visão míope. Modelos que priorizem a privacidade e, ao mesmo tempo, mantenham um desempenho "bom o suficiente" podem se alinhar melhor às expectativas dos usuários e impulsionar uma adoção mais forte. O Apple Intelligence oferece um modelo para lidar com essa tensão. Em vez de escolher entre privacidade e recursos, a empresa desenvolveu uma solução híbrida: um pequeno modelo de linguagem executado nos dispositivos por padrão, com a computação em nuvem sendo utilizada somente quando necessário. Por meio de seu sistema Private Cloud Compute, a empresa mantém a criptografia de ponta a ponta e, ao mesmo tempo, acessa o poder computacional adicional, combinando efetivamente a proteção da privacidade com recursos avançados de IA. Outra tensão que os gerentes de produtos de IA enfrentam é entre auditabilidade e custos. A supervisão humana pode ser cara; ela exige um investimento significativo em pessoal, processos e ferramentas. No entanto, a combinação de melhores resultados, refinamento contínuo do modelo e maior adoção pelo usuário cria retornos econômicos que podem justificar o investimento. A chave para um melhor design de produtos de IA está em entender como essas compensações se desdobram em seu contexto específico. As empresas podem realizar experimentos semelhantes aos nossos com seus próprios clientes para otimizar sua abordagem. Usando um software de análise conjunta (usamos o Sawtooth) e com um investimento relativamente pequeno - pesquisando apenas algumas centenas de usuários - os gerentes podem avaliar com precisão como seus segmentos-alvo valorizam recursos específicos. Incorporando a IA responsável à estratégia de marca e de negócios Tornar as escolhas responsáveis de IA visíveis e confiáveis é tão importante quanto projetá-las bem. Comunicar valores e práticas - como faza AstraZeneca - éum bom começo, mas não é suficiente. Os consumidores e as partes interessadas buscam cada vez mais evidências, não apenas declarações. Para estabelecer a credibilidade, as empresas devem ir além das declarações e demonstrar compromissos tangíveis. Uma maneira é por meio de validações de terceiros, como as certificações de IA responsável da ISO. Da mesma forma, incorporar a IA responsável ao posicionamento mais amplo da marca fortalece a credibilidade e a diferenciação. Veja como a Apple mudou estrategicamente seu posicionamento de criatividade para privacidade. Antes conhecida por seu ethos "Think Different" (Pense diferente), a Apple se reposicionou progressivamente como a campeã da privacidade do consumidor e reforçou esse compromisso em seus vários recursos de produtos, como o App Tracking Transparency (Transparência no rastreamento de aplicativos). As empresas que adotam a TI responsável devem incorporá-la em sua promessa de marca abrangente em vez de tratá-la como uma decisão de produto isolada. Essa perspectiva deve ir além do posicionamento da marca e abranger a estratégia mais ampla. As empresas devem se alinhar com parceiros, fornecedores e colaboradores que igualmente priorizem práticas éticas para estabelecer uma imagem consistente e autêntica como uma organização responsável em toda a cadeia de valor. Por exemplo, se um produto estiver usando modelos de texto para imagem, é importante fazer parceria com desenvolvedores que selecionem seus dados de treinamento de forma responsável, como o Adobe Firefly, que é treinado exclusivamente com imagens do Adobe Stock, conteúdo licenciado abertamente e material de domínio público com direitos autorais expirados. IA responsável como uma abordagem de gerenciamento de riscos e conformidade Uma vez integradas de forma proativa e autêntica ao núcleo de uma empresa, as práticas responsáveis de IA podem até servir como um amortecedor contra possíveis contratempos. Os sistemas de IA não são infalíveis - erros e falhas são quase inevitáveis. Mas as empresas que incorporam proativamente princípios de IA responsável em suas operações estão muito mais bem posicionadas para resistir ao escrutínio. Considere os paralelos com as violações de dados. Pesquisas mostram que as empresas com práticas de dados mais responsáveis enfrentam uma reação significativamente menor quando ocorrem violações. Da mesma forma, os consumidores podem distinguir entre as empresas que demonstraram um compromisso genuíno com práticas responsáveis e aquelas que apenas falaram da boca para fora quando ocorreram falhas de IA. O compromisso com a IA responsável também é uma abordagem voltada para o futuro em relação ao cenário regulatório em evolução. À medida que os órgãos reguladores em todo o mundo aumentam seu foco na IA, exemplificado por iniciativas como a Lei de IA da UE, as empresas que adotam proativamente padrões éticos provavelmente navegarão nessas novas águas com mais facilidade, mitigando riscos e evitando possíveis obstáculos legais. Assim como a evolução dos produtos ecológicos e das práticas sustentáveis, que passaram de algo bom de se ter para algo essencial no mercado, a IA responsável pode seguir uma trajetória semelhante. Essa progressão sugere que as empresas que investem em IA responsável hoje estão se posicionando na vanguarda tanto da liderança ética quanto da prontidão do mercado. Em suma, apostar em um futuro que valorize não apenas a inovação, mas a ética por trás dela, é menos uma questão de idealismo e mais uma questão de entender a direção das tendências tecnológicas e sociais. Os líderes em IA responsável de hoje podem muito bem ser os líderes de mercado de amanhã, colhendo os frutos de sua visão.

Pesquisa: Como a IA responsável protege os resultados financeiros

Resumo.

Partner Center