Por qué necesita un comité de ética de la IA

En 2019, un estudio publicado en la revista Science descubrió que la inteligencia artificial de Optum, que muchos sistemas sanitarios utilizaban para detectar a los pacientes de alto riesgo que debían recibir atención de seguimiento, estaba incitando a los profesionales médicos a prestar más atención a las personas blancas que a las negras. Sólo el 18% de las personas identificadas por la IA eran negras, mientras que el 82% eran blancas. Tras revisar los datos sobre los pacientes que realmente estaban más enfermos, los investigadores calcularon que las cifras deberían haber sido de un 46% y un 53%, respectivamente. El impacto fue de gran alcance: los investigadores calcularon que la IA se había aplicado al menos a 100 millones de pacientes.