Investigación: Cómo la IA responsable protege el balance final

El 87% de los directivos reconocen la importancia de la IA responsable, según una encuesta realizada en 2025 por MIT Technology Review. Este consenso parece abarcar todo el ecosistema de la IA, desde las start-ups hasta los gigantes tecnológicos, cada uno de los cuales expresa un firme compromiso con los principios de la IA responsable. A primera vista, uno podría tener la tentación de creer que estamos al borde de un renacimiento ético de la IA. Sin embargo, sólo el 15% de estos mismos directivos se sienten bien preparados para adoptar prácticas de IA responsable. Poco más de la mitad (52% ) de las empresas cuentan realmente con un programa de IA responsable, según muestran los datos de BCG. Incluso en el caso de las empresas que tienen programas, la mayoría son de pequeña escala o de alcance limitado (79%) y carecen de controles y supervisión adecuados para sus programas de IA responsable (70%). Sigue existiendo una brecha entre el discurso y la acción en materia de IA responsable. La discrepancia puede deberse a una mentalidad empresarial anticuada, que considera las consideraciones éticas como un lujo o incluso en contradicción con los resultados financieros. En la búsqueda incesante del dominio de la IA, las empresas se inclinan más por asignar recursos a las mejoras de la IA que elevan su cuenta de resultados que a los esfuerzos de la IA responsable, que a menudo se consideran inductores de costes. Pero, ¿se sostiene esta dicotomía percibida entre responsabilidad ética y rentabilidad? Las pruebas empíricas Exploramos esta cuestión en el contexto de los productos financieros de IA. En concreto, analizamos cómo influye la incorporación de características responsables en estos productos en la adopción por parte de los consumidores. Nuestra investigación se basó en datos cualitativos y cuantitativos de los consumidores. Comenzamos realizando una serie de entrevistas semiestructuradas para descubrir los atributos de diseño clave que impulsan la adopción de los productos de IA. Los resultados sugirieron que los consumidores tienen en cuenta principalmente cinco atributos de diseño de los productos: Auditabilidad: La capacidad de rastrear y revisar los procesos y las decisiones tomadas por un sistema de IA, incorporando la supervisión humana. Autonomía: El grado en que un sistema de IA puede funcionar de forma independiente, tomando decisiones o emprendiendo acciones sin intervención humana. Personalización: La capacidad de un producto de IA para adaptar sus funciones, respuestas e interacciones a las preferencias, el historial y las necesidades del usuario individual. Privacidad: La garantía de que un producto de IA protege los datos del usuario y mantiene la confidencialidad. Comprensibilidad: La claridad con la que un producto de IA puede esbozar la lógica que subyace a sus resultados, haciendo que su funcionamiento sea comprensible para los usuarios. Entre ellos, la auditabilidad, la privacidad y la comprensibilidad destacan como los atributos clave vinculados a la IA responsable. A continuación, realizamos tres grandes estudios mediante experimentos de elección discreta en los que participaron un total de 3.268 consumidores. En los experimentos, se presentó a cada participante una serie de opciones entre dos productos de IA, cada uno de los cuales difería en estos atributos clave. La principal ventaja de este diseño es que obliga a los participantes a realizar compensaciones meditadas entre los distintos atributos del producto, sin poder elegir paquetes "ideales". Por ejemplo, los participantes podrían enfrentarse a elegir entre un producto de IA que ofrezca una alta personalización pero una baja privacidad, frente a otro que garantice una alta privacidad pero una personalización limitada. Una elección de este tipo requiere que los participantes decidan qué atributo del producto valoran más: la privacidad o la personalización. Esta metodología suele considerarse superior a las encuestas tradicionales, en las que el participante podría calificar ambos atributos como muy importantes sin considerar realmente las compensaciones entre ellos. En uno de los experimentos, utilizando como producto central una aplicación de planificación de pensiones basada en la IA, descubrimos que la característica más importante a la hora de impulsar la elección de los consumidores era la privacidad, con una puntuación media de importancia del 31%. Le siguió otro atributo responsable de la IA, la auditabilidad, con un peso del 26%. La autonomía también apareció como un factor importante (23%). Por el contrario, la comprensibilidad (11%) y la personalización (9%) tuvieron una importancia limitada. En otro experimento, en el que utilizamos como producto central una aplicación de gestión de inversiones en renta variable basada en IA, incluimos en el conjunto de elección dos atributos que tienen el potencial de anular las preocupaciones éticas: el precio y el rendimiento. El rendimiento lideró como se esperaba (29%), pero notablemente, la privacidad rivalizó con el precio en importancia, rondando cada uno el 20% de importancia media. La auditabilidad (13%) fue el siguiente factor más importante, algo por encima de la autonomía (10%), mientras que la comprensibilidad y la personalización volvieron a ser relativamente menos importantes (ambas en torno al 4%). La principal conclusión de nuestra investigación es alentadora: La incorporación de elementos responsables de IA en el diseño de productos puede influir positivamente en la elección del consumidor, incluso en presencia de consideraciones de precio y rendimiento. Nuestras simulaciones de seguimiento de los experimentos ilustran la magnitud de este cambio. Por ejemplo, la introducción de atributos responsables (es decir, privacidad, comprensibilidad y auditabilidad) en la aplicación de planificación de pensiones dio lugar a un aumento sustancial previsto de las tasas de adopción: un 63,19% para una aplicación con atributos responsables frente a un 2,4% para las que no los tenían, manteniendo todos los demás factores constantes. Del mismo modo, añadir niveles más altos de atributos responsables -por ejemplo, no compartir datos con terceros frente a compartir datos identificables- a la aplicación de inversión condujo a un aumento del 27,5% en la adopción. Sin embargo, las preferencias de los consumidores por atributos específicos de IA responsable no son uniformes. La privacidad y la auditabilidad destacan como aspectos críticos, haciéndose eco de las preocupaciones generalizadas sobre la seguridad de los datos y la responsabilidad ética. En cambio, a los consumidores -al menos por ahora y en el contexto de los productos financieros de IA- no les preocupa especialmente la comprensibilidad. Priorizan saber que sus datos están seguros y que las acciones del sistema son responsables por encima de comprender los detalles de cómo se toman las decisiones de la IA. Estrategia deIA responsable Diseñar productos de IA responsable en los que confíen los consumidores Nuestra investigación revela que las características de la IA responsable -específicamente la privacidad y la auditabilidad- sirven como potentes diferenciadores de producto que pueden generar importantes beneficios económicos. Este hallazgo exige que las empresas reconsideren su asignación de recursos en el diseño de productos, especialmente cuando se enfrentan a disyuntivas desafiantes. Consideremos la paradoja personalización-privacidad, un dilema común al que se enfrentan los gestores de productos. Los consumidores desean experiencias personalizadas pero dudan en compartir los datos personales que estas experiencias requieren. ¿Deben las empresas dar prioridad a la personalización o a la privacidad del usuario? Nuestra investigación ofrece una respuesta clara para los productos financieros de IA: El valor de la privacidad supera con creces los beneficios de la personalización. Sin embargo, muchas empresas siguen haciendo hincapié en la personalización, pasando por alto las cambiantes preferencias de los consumidores en un mercado cada vez más consciente de la privacidad, como ilustran las recientes encuestas de consumidores. Otra disyuntiva crítica surge entre la privacidad y las capacidades del modelo. Los directivos a menudo asumen que deben elegir entre una sólida protección de la privacidad y las funciones avanzadas de la IA. Tomemos como ejemplo las decisiones en torno al procesamiento en el dispositivo. Aunque mantener los datos en el ámbito local mejora la privacidad, restringe intrínsecamente el acceso a las capacidades sofisticadas de la IA debido a las limitaciones del hardware. El instinto de perseguir las capacidades más avanzadas es comprensible, pero centrarse únicamente en las capacidades es miope. Los modelos que priorizan la privacidad al tiempo que mantienen un rendimiento "suficientemente bueno" podrían alinearse mejor con las expectativas de los usuarios e impulsar una mayor adopción. La Inteligencia de Apple ofrece un modelo para navegar por esta tensión. En lugar de elegir entre privacidad y capacidades, la empresa ha desarrollado una solución híbrida: un pequeño modelo de lenguaje que se ejecuta en los dispositivos por defecto, con computación en la nube contratada sólo cuando es necesario. A través de su sistema Private Cloud Compute, mantienen el cifrado de extremo a extremo a la vez que acceden a potencia computacional adicional, combinando eficazmente la protección de la privacidad con capacidades avanzadas de IA. Otra tensión a la que se enfrentan los gestores de productos de IA es entre la auditabilidad y los costes. La supervisión humana puede ser cara; requiere una inversión significativa en personal, procesos y herramientas. Sin embargo, la combinación de la mejora de los resultados, el perfeccionamiento continuo de los modelos y el aumento de la adopción por parte de los usuarios crea unos beneficios económicos que pueden justificar la inversión. La clave para un mejor diseño de productos de IA reside en comprender cómo se desarrollan estas compensaciones en su contexto específico. Las empresas pueden realizar experimentos similares a los nuestros con sus propios clientes para optimizar su enfoque. Utilizando un software de análisis conjunto (nosotros utilizamos Sawtooth) y con una inversión relativamente pequeña -encuestando sólo a unos cientos de usuarios-, los directivos pueden calibrar con precisión cómo valoran las características específicas sus segmentos objetivo. Integrar la IA responsable en la estrategia empresarial y de marca Hacer que las opciones de IA responsable sean visibles y creíbles es tan importante como diseñarlas bien. Comunicar valores y prácticas -como hace AstraZeneca-es un buen comienzo, pero no suficiente. Los consumidores y los stakeholders buscan cada vez más pruebas, no sólo declaraciones. Para establecer credibilidad, las empresas deben ir más allá de las declaraciones y demostrar compromisos tangibles. Una forma de hacerlo es mediante validaciones de terceros, como las certificaciones ISO de IA responsable. Del mismo modo, integrar la IA responsable en un posicionamiento de marca más amplio refuerza la credibilidad y la diferenciación. Considere cómo Apple cambió estratégicamente su posicionamiento de la creatividad a la privacidad. Conocida en el pasado por su filosofía "Think Different" (Piensa diferente), Apple se ha convertido progresivamente en la campeona de la privacidad de los consumidores y ha reforzado este compromiso a través de diversas características de sus productos, como la transparencia del seguimiento de las aplicaciones. Las empresas que adoptan la IA responsable deben integrarla en su promesa de marca global en lugar de tratarla como una decisión aislada sobre un producto. Esta perspectiva debe extenderse más allá del posicionamiento de la marca para abarcar la estrategia más amplia. Las empresas deben alinearse con socios, proveedores y colaboradores que prioricen igualmente las prácticas éticas para establecer una imagen coherente y auténtica como organización responsable en toda la cadena de valor. Por ejemplo, si un producto utiliza modelos de texto a imagen, es importante asociarse con desarrolladores que curen de forma responsable sus datos de entrenamiento, como Adobe Firefly, que se entrena exclusivamente con imágenes de Adobe Stock, contenido con licencia abierta y material de dominio público con derechos de autor caducados. La IA responsable como enfoque de gestión de riesgos y cumplimiento normativo Una vez integradas de forma proactiva y auténtica en el núcleo de una empresa, las prácticas de IA responsable podrían servir incluso de amortiguador frente a posibles contratiempos. Los sistemas de IA no son infalibles: los errores y los fallos son casi inevitables. Pero las empresas que incorporan de forma proactiva principios de IA responsable en sus operaciones están mucho mejor posicionadas para resistir el escrutinio. Considere los paralelismos con las violaciones de datos. Las investigaciones demuestran que las empresas con prácticas de datos más responsables se enfrentan a una reacción significativamente menor cuando se producen violaciones. Los consumidores podrían distinguir de forma similar entre las empresas que demuestran un compromiso genuino con las prácticas responsables y las que se limitan a hablar de boquilla cuando se producen fallos en la IA. Comprometerse con una IA responsable es también un enfoque con visión de futuro ante la evolución del panorama normativo. A medida que los organismos reguladores de todo el mundo agudizan su atención sobre la IA, ejemplificada por iniciativas como la Ley de IA de la UE, las empresas de que adoptan proactivamente las normas éticas probablemente naveguen por estas nuevas aguas con mayor facilidad, mitigando los riesgos y sorteando los posibles obstáculos legales. De forma muy similar a la evolución de los productos ecológicos y las prácticas sostenibles, que pasaron de ser un "nice-to-have" a un elemento esencial del mercado, la IA responsable podría seguir una trayectoria similar. Esta progresión sugiere que las empresas que invierten hoy en IA responsable se están situando a la vanguardia tanto del liderazgo ético como de la preparación para el mercado. En definitiva, apostar por un futuro que valore no sólo la innovación, sino la ética que hay detrás de ella, tiene menos que ver con el idealismo y más con la comprensión de la dirección de las tendencias tecnológicas y sociales. Los líderes actuales de la IA responsable bien podrían ser los líderes del mercado del mañana, cosechando los frutos de su previsión.

Investigación: Cómo la IA responsable protege el balance final

Resumen.

Partner Center