Cómo fomentar la seguridad psicológica cuando la IA erosiona la confianza en su equipo

Puede que esté ocurriendo algo inquietante en su equipo. A pesar del aumento de la productividad que se esperaba con la integración de herramientas de IA, el rendimiento general del equipo parece estar disminuyendo. La gente está empezando a dudar de sí misma y la confianza se está erosionando de formas difíciles de precisar. Considere este escenario hipotético: su equipo de marketing utiliza una herramienta de IA generativa para analizar el rendimiento de una campaña. La IA recomienda con confianza reasignar el presupuesto basándose en lo que parece ser un análisis de datos sólido. Pero resulta que la recomendación se basa en un malentendido fundamental sobre sus segmentos de clientes. La campaña fracasa, se desperdician los presupuestos y, de repente, todos los miembros del equipo cuestionan no solo las futuras recomendaciones de la IA, sino también su propia capacidad para evaluarlas. A medida que las organizaciones integran rápidamente la IA en sus flujos de trabajo, los líderes están descubriendo que los retos que plantea no son solo técnicos, sino que también tienen que ver fundamentalmente con la dinámica de los equipos. Las mismas herramientas de IA que prometen mejorar la productividad pueden crear patrones predecibles de disfunción en los equipos que reflejan los clásicos problemas de comportamiento organizativo. Piensen en el aumentodel «workslop»: resultados generados por la IA que no hacen avanzar un proyecto y suponen una carga cognitiva y emocional adicional para los compañeros que deben corregirlos o rehacerlos. El resultado no solo es perjudicial para la productividad, sino que también daña la confianza entre compañeros de trabajo. Pero aquí está la diferencia: la mayoría de los líderes no reconocen estos retos como problemas de integración del equipo. Pueden tratarlos como problemas tecnológicos que se resuelven con mejores herramientas o formación, en lugar de problemas de eficacia del equipo que requieren muchos de los principios que sabemos que funcionan para la colaboración humana. En nuestro trabajo —Jayshree desarrollando casos de uso de IA generativa para I+D en 3M y Amy analizando las implicaciones de la IA para la fuerza laboral y la sociedad— hemos descubierto que comprender la dinámica del equipo humano-IA es fundamental no solo desde el punto de vista de la teoría y la práctica organizativas, sino también para evitar errores costosos y la erosión de la confianza del equipo. Dónde se rompe la confianza Se sabe que la confianza es fundamental para el rendimiento de un equipo, y la IA puede cambiar esa dinámica. Cuando la IA proporciona información fiable pero incorrecta, se crea una «ambigüedad en la confianza». La ambigüedad existe cuando las personas creen que se supone que la confianza está garantizada, pero en realidad no es así; además, esa falta de confianza a menudo se considera un tema tabú. En un estado de ambigüedad de confianza, los miembros del equipo pierden la confianza no solo en los resultados de la IA, sino también en su propio criterio. Las investigaciones demuestran que el uso prolongado de la IA socava la confianza de los profesionales en su capacidad para cuestionar las recomendaciones de la IA, incluso cuando poseen los conocimientos necesarios para hacerlo. Todo ello, a su vez, amenaza directamente la seguridad psicológica que es fundamental para el aprendizaje y el rendimiento del equipo, ya que la ambigüedad inhibe la voluntad de expresarse. Considere otro escenario hipotético en el que la IA recomienda con confianza apostar por una tecnología sostenible «revolucionaria» basándose en el análisis de patentes, pero interpreta erróneamente las patentes caducadas como innovaciones activas, lo que da lugar a debates sobre la inversión en una tecnología obsoleta. No se trata solo de la precisión de la IA, sino de cómo sus imprecisiones repercuten en los equipos de una forma que los errores humanos no lo hacen. Cuando un compañero humano comete un error, los equipos suelen participar en un proceso colectivo de interpretación y actualizan sus modelos mentales y su comprensión de quién sabe qué. Los seres humanos pueden hacer preguntas («¿Qué datos estaba analizando?», «¿Cuál fue su razonamiento?»), comprender el contexto («Tenía prisa por cumplir con el plazo») y colaborar en la prevención («Incorporemos un paso de revisión»). Este proceso de aprendizaje mutuo y exploración de la responsabilidad puede, de hecho, fortalecer el aprendizaje y los vínculos del equipo. Los errores de la IA generativa pueden interrumpir este proceso fundamental de aprendizaje en equipo. Cuando la IA hace una recomendación con seguridad, los equipos no pueden participar en la creación colaborativa de sentido debido a la naturalezade «caja negra»de la IA. Esta falta de transparencia y explicabilidad puede hacer que a los miembros del equipo les resulte difícil calibrar la confianza en la IA y sentirse seguros de sus resultados. El equipo puede seguir adelante, confiando en la IA y acortando sus comprobaciones y debates habituales, lo que puede dar lugar a errores. No pueden cuestionar las suposiciones de la IA, comprobar su metodología ni comprender la cadena de razonamiento utilizada. Esto crea incertidumbre en cuanto a la atribución: los equipos saben que algo ha salido mal debido a los resultados de la IA, pero no tienen una vía clara para comprender a qué atribuirlo o cómo reducir la incertidumbre o evitar que se repita. Esta incertidumbre puede agravarse aún más, lo que conduce a una ambigüedad en la confianza. Los equipos pueden empezar a cuestionar otros resultados de la IA («Si se ha equivocado en esto, ¿en qué más se ha equivocado?») y, finalmente, su propio criterio («¿Estamos confiando demasiado en la IA? ¿Somos demasiado escépticos? ¿Cómo podemos calibrarlo?»). A diferencia de los errores humanos, que, cuando salen a la luz, se analizan, se digieren, se rumian y se metabolizan a través del debate en equipo, los errores de la IA pueden crear círculos de duda cada vez mayores que no tienen una vía clara de resolución. Dónde se rompe la coordinación Estudios recientes han demostrado que contar con un miembro del equipo con IA puede generar disrupción en procesos importantes del equipo al alterar la dinámica del mismo. Por ejemplo, en un estudio, los equipos con miembros con IA mostraron mayores problemas de coordinación y un menor rendimiento debido a la reducción del esfuerzo entre los compañeros humanos. Esto pone de manifiesto un reto común: la presencia de IA en un equipo puede perjudicar procesos importantes del grupo, como la comunicación y la coordinación, además del esfuerzo y la responsabilidad, lo que da lugar a interacciones menos eficaces entre los miembros del equipo. Esto concuerda con lo que se sabe sobre el comportamiento organizacional: para que un equipo sea eficaz, es necesaria una colaboración fluida y adaptable que surge cuando los miembros del equipo reconocen la necesidad de anticipar las necesidades y comportamientos de los demás. La IA genera disrupción en este proceso de forma sutil pero significativa, lo que repercute tanto en el desarrollo de la confianza como en la toma de decisiones. A diferencia de los compañeros de equipo humanos, la IA no capta las señales contextuales, no ajusta su estilo de comunicación en función de la dinámica del equipo y no puede conectar y participar en la creación de relaciones informales que hacen que los equipos sean eficaces. Además, la IA no sufre las consecuencias de equivocarse. Puede haber un coste acumulado por tener que trabajar con un «miembro del equipo» que opera según reglas fundamentalmente diferentes. Además, dada su percepción como una tecnología con acceso a información aparentemente ilimitada, los miembros humanos del equipo pueden volverse demasiado confiados en las capacidades de la IA, lo que da lugar a una descarga cognitiva. Esto puede llevar a los miembros del equipo a relajar su propio sentido de la responsabilidad y el compromiso crítico, creando una «paradoja de supervisión humano-IA». Aplicación de los principios de seguridad psicológica a la integración de la IA La solución no es abandonar la IA ni aceptar estas deficiencias como inevitables. En su lugar, los líderes deben aplicar principios de comportamiento organizacional probados a la integración de la IA y a la gestión del cambio relacionada. Para ello, es necesario considerar la integración de la IA como un reto de aprendizaje en equipo, y no solo como una implementación tecnológica. A continuación, se explica cómo hacerlo: Reformular la integración de la IA como un proceso de aprendizaje, no como un proceso de ejecución. Al igual que la seguridad psicológica se construye al enmarcar el trabajo como una tarea de aprendizaje en lugar de una tarea de ejecución, la integración exitosa de la IA requiere posicionar su implementación como una experimentación continua con aprendizaje práctico. Los líderes deben comunicar que esperan que el equipo descubra las limitaciones de la IA y que, como en cualquier nueva frontera, esto es información valiosa, no un fracaso. Los «errores» iniciales de la IA deben tratarse como oportunidades de aprendizaje que ayudan al equipo a calibrar las expectativas y desarrollar mejores protocolos de colaboración. En lugar de preguntar «¿Funciona bien la IA?», los líderes deberían preguntar a los miembros del equipo «¿Cómo afecta el trabajo con IA a la forma en que colaboran entre ustedes?» y «¿Qué están aprendiendo sobre cuándo confiar en la IA y cuándo confiar en el juicio humano?». Recompense los comportamientos adecuados celebrando a los miembros del equipo que detectan errores de la IA en lugar de a aquellos que aceptan ciegamente los resultados de la IA. Haga que cuestionar la IA sea un signo de buen juicio, no de resistencia a la innovación. Al desarrollar casos de uso para la IA generativa en I+D en 3M, en lugar de imponer su adopción tras lanzar una herramienta, el equipo invitó a voluntarios a participar en las primeras pruebas piloto. El objetivo era dejar claro que se encontraban en fase de aprendizaje, no de implementación. Los voluntarios y el resto de la organización sabían que podían ayudarles a comprender qué funcionaba, y no solo a evaluar un producto terminado que habían creado. El equipo destacó específicamente las mejoras basadas en los comentarios de los usuarios para demostrar una mentalidad de aprendizaje en acción. Además, en lugar de limitarse a hablar en términos de ahorro de tiempo o automatización de tareas, también se basaron en los comentarios y testimonios para inspirar confianza entre los demás. Modele la falibilidad y la curiosidad. Una de las formas en que los líderes generan seguridad psicológica es reconociendo su propia falibilidad. En lo que respecta a la IA, esto significa admitir abiertamente cuando no entienden los resultados de la IA o cuando estos parecen cuestionables. Los líderes deben fomentar el uso responsable de la IA y compartir sus propios errores con la IA y lo que han aprendido, demostrando que cuestionar la IA no solo es aceptable, sino que es lo esperado. En relación con esto, deben mostrar curiosidad por cómo y por qué funciona la IA y cómo funcionará en el futuro, para que se puedan comprender mejor sus desventajas y aprovechar mejor sus ventajas. Considere la posibilidad de instaurar rituales de aprendizaje, como «revisiones posteriores a la acción de la IA» periódicas, en las que los equipos debatan qué ha funcionado, qué no y por qué. En 3M, el equipo publicaba habitualmente en canales internos nuevos conocimientos, ideas inesperadas y limitaciones de la IA con las que se encontraban. El objetivo de este replanteamiento era cambiar la forma en que la comunidad técnica percibía el esfuerzo, permitiéndoles ver claramente que el equipo encargado de desarrollar herramientas estaba comprometido con el aprendizaje activo junto con ustedes. Gran parte de este intercambio se realizó con el objetivo de desmitificar la caja negra de la IA, y a medida que más empleados técnicos comprendieron que la IA utiliza la comparación de patrones, y no el «pensamiento», se interesaron más por sus limitaciones, en lugar de confiar ciegamente en ella o rechazarla por completo. El equipo también llevó a cabo numerosas sesiones que fomentaban la curiosidad por la IA, en lugar de justificar su uso. Crear protocolos de fallo inteligentes. Basándose en los principios del libro de Amy, Right Kind of Wrong, los equipos deben distinguir entre los diferentes tipos de fallos de la IA. Los «fallos inteligentes de la IA» —probar la IA en nuevos ámbitos o ampliar sus límites de forma controlada y con riesgos bajos— deben celebrarse como oportunidades de aprendizaje. Los «fallos básicos de la IA», como no verificar los resultados de la IA en ámbitos en los que ya se conocen las limitaciones, deben evitarse mediante procesos más eficaces. Por lo tanto, 3M probó inicialmente las herramientas con entre uno y tres expertos técnicos encargados de informar de todos los problemas que pudieran encontrar. Cuando los expertos identificaban problemas, los compartían ampliamente y mostraban exactamente qué cambios se habían introducido, creando un ciclo visible de fallos y mejoras. El equipo de 3M también se expandió de forma meditada: primero con un pequeño grupo de expertos especializados, luego con una prueba piloto más amplia con voluntarios y una implementación local más extensa, seguida de planes para una implantación regional y global con el fin de crear múltiples puntos de control para detectar los fallos y aprender de ellos. Hagan hincapié en la conexión humana. Quizás lo más importante es que, para que la integración de la IA sea satisfactoria, es necesario preservar de forma intencionada la conexión humana. A medida que la IA se encargue de más tareas rutinarias, el trabajo humano restante se volverá más complejo e interdependiente. Esto hace que la seguridad psicológica sea más importante, no menos. Los líderes deben crear un espacio explícito para debates exclusivamente humanos sobre la dinámica del equipo y los retos de la integración de la IA. Deben reconocer y debatir las preocupaciones de los miembros del equipo sobre la sustitución del valor humano por la IA, haciendo hincapié en cómo la IA mejora, en lugar de disminuir, la experiencia humana. Además, antropomorfizar la IA para hacerla más fiable puede tener consecuencias no deseadas, creando expectativas poco realistas sobre sus capacidades. Los sistemas actuales de IA no son realmente inteligentes, sino que proporcionanuna «diligencia artificial»que puede ayudar y aumentar las capacidades humanas; sin embargo, la mayoría de las personas, cuando se les pregunta, piensan en la IA como una herramienta para resolver problemas. Los líderes también deben crear protocolos de anulación para garantizar que los miembros del equipo puedan anular fácilmente las recomendaciones de la IA sin tener que justificar sus decisiones en profundidad. A veces, la intuición humana capta lo que el análisis de la IA puede pasar por alto. Permitir que el equipo prospere La confianza es fundamental para la colaboración entre humanos y IA. Los equipos deben operar en un entorno en el que todos se sientan capaces de cuestionar y desafiar el rendimiento de la IA. Las personas deben sentirse cómodas admitiendo su confusión sobre las recomendaciones de la IA, informando de los errores de la IA, sugiriendo mejoras en los flujos de trabajo entre humanos e IA y expresando sus preocupaciones sobre la sustitución del juicio humano por la IA. Los líderes deben reconocer y abordar las distintas formas en que la IA puede generar disrupción en el funcionamiento normal del equipo, desde la opacidad que impide cuestionar las suposiciones hasta la necesidad de aprender continuamente sobre las capacidades y limitaciones de la IA, que evolucionan rápidamente. El futuro del trabajo no consiste en elegir entre la inteligencia humana y la inteligencia artificial, sino en crear equipos que permitan a ambas contribuir con todo su potencial. Es importante destacar que el éxito de la integración de la IA no debe medirse solo por los parámetros de rendimiento de la IA, sino también por la eficacia general del equipo, la velocidad de aprendizaje y la capacidad de aprovechar de forma óptima tanto la inteligencia humana como la artificial. Pero esto requiere considerar la integración de la IA como un reto de desarrollo eficaz del equipo, y no solo como una implementación eficiente de la tecnología. Del mismo modo que hemos aprendido que el trabajo en equipo eficaz requiere habilidades que no todos poseen de forma natural, la colaboración eficaz entre humanos y IA requiere nuevas competencias que las organizaciones deben desarrollar de forma deliberada. La buena noticia es que, para minimizar la ambigüedad en la confianza, muchos de los principios que funcionan para los equipos humanos(seguridad psicológica, comunicación clara y aprendizaje continuo a partir de los errores inteligentes) también pueden funcionar para los equipos formados por personas e IA. Solo requieren una aplicación más intencionada e inteligente.

Cómo fomentar la seguridad psicológica cuando la IA erosiona la confianza en su equipo

Resumen.

Partner Center