Bhaskar Chakravorti

Con decenas de miles de millones invertidos en IA el año pasado y actores líderes como OpenAI en busca de <a href="https://www.wsj.com/tech/ai/sam-altman-seeks-trillions-of-dollars-to-reshape-business-of-chips-and-ai-89ab3db0">billones más,</a> la industria tecnológica se apresura a engrosar la pila de modelos generativos de IA. El objetivo es demostrar constantemente un mejor rendimiento y, al hacerlo, cerrar la brecha entre lo que los humanos pueden hacer y lo que se puede lograr con la IA.

NOkQxfLxQFv1GxKu8b4HuubVJPvlvx8mjexzBnkNBBVs9zIWi13XSplyB2clS67inPaFEpBYOq1asSkeRm0WlDxXM1jgLxdPCnqGmzizJyQu40e+gc6UyIq8sdFM9+Av

As AI becomes more powerful, it faces a major trust problem. Consider 12 leading concerns: disinformation, safety and security, the black box problem, ethical concerns, bias, instability, hallucinations in LLMs, unknown unknowns, potential job losses and social inequalities, environmental impact, industry concentration, and state overreach. Each of these issues is complex &#8212; and not easy to solve. But there is one consistent approach to addressing the trust gap: training, empowering, and including humans to manage AI tools.

AI’s Trust Problem

A medida que la IA se hace más potente, se enfrenta a un importante problema de confianza. Consideremos 12 preocupaciones principales: desinformación, seguridad y protección, el problema de la caja negra, preocupaciones éticas, sesgo, inestabilidad, alucinaciones en los LLM, incógnitas desconocidas, posibles pérdidas de empleo y desigualdades sociales, impacto medioambiental, concentración de la industria y extralimitación del Estado. Cada una de estas cuestiones es compleja y no es fácil de resolver. Pero existe un enfoque coherente para abordar la brecha de confianza: formar, capacitar e incluir a los humanos para gestionar las herramientas de IA.

El problema de confianza de la IA

As AI becomes more powerful, it faces a major trust problem. Consider 12 leading concerns: disinformation, safety and security, the black box problem, ethical concerns, bias, instability, hallucinations in LLMs, unknown unknowns, potential job losses and social inequalities, environmental impact, industry concentration, and state overreach. Each of these issues is complex — and not easy to solve. But there is one consistent approach to addressing the trust gap: training, empowering, and including humans to manage AI tools.

El problema de confianza de la IA

Resumen.

Partner Center