A adoção da IA no setor de saúde será lenta e difícil

A inteligência artificial, incluindo o aprendizado de máquina, apresenta oportunidades interessantes para transformar os espaços de saúde e ciências da vida. A TI oferece perspectivas tentadoras para a tomada de decisões clínicas mais rápidas e precisas e recursos de P&D ampliados. No entanto, ainda há questões em aberto relacionadas à regulamentação e à relevância clínica, fazendo com que tanto os desenvolvedores de tecnologia quanto os possíveis investidores tenham que se esforçar para superar as barreiras atuais de adoção, conformidade e implementação. Aqui estão os principais obstáculos a serem considerados e como lidar com eles: Desenvolvimento de estruturas regulatórias. Nos últimos anos, a FDA (Food and Drug Administration, Administração de Alimentos e Medicamentos dos EUA) vem tomando medidas incrementais para atualizar sua estrutura regulatória e acompanhar o rápido avanço do mercado de saúde digital. Em 2017, a FDA lançou seu Plano de Ação de Inovação em Saúde Digital para oferecer clareza sobre o papel da agência no avanço de tecnologias de saúde digital seguras e eficazes e abordar as principais disposições da Lei 21st Century Cures. A FDA também está inscrevendo desenvolvedores selecionados de software como dispositivo médico (SaMD) em seu programa piloto de pré-certificação de software de saúde digital (Pre-Cert). O objetivo do piloto Pre-Cert é ajudar a FDA a determinar as principais métricas e indicadores de desempenho necessários para a pré-certificação de produtos, além de identificar maneiras de facilitar o processo de aprovação para os desenvolvedores e ajudar a promover a inovação na área de saúde. Centro de Insight Inovando nos cuidados com a saúde Patrocinado pela Medtronic Melhorar os resultados e a experiência do paciente. Mais recentemente, a FDA lançou em setembro sua "Policy for Device Software Functions and Mobile Medical Applications" (Política para funções de software de dispositivos e aplicativos médicos móveis) - uma série de documentos de orientação que descrevem como a agência planeja regulamentar o software que auxilia no suporte à decisão clínica (CDS), incluindo software que utiliza algoritmos baseados em aprendizado de máquina. Em uma declaração relacionada da FDA, Amy Abernethy, sua principal vice-comissária, explicou que a agência planeja concentrar a supervisão regulatória em "funções de software de alto risco", como aquelas usadas em circunstâncias de saúde mais sérias ou críticas. Isso também inclui software que utiliza algoritmos baseados em aprendizado de máquina, em que os usuários podem não entender prontamente a "lógica e as entradas" do programa sem explicações adicionais. Um exemplo de software de CDS que se enquadraria na categoria de supervisão de "risco mais alto" da FDA seria aquele que identifica um paciente em risco de uma condição médica potencialmente grave - como um evento cardiovascular pós-operatório - mas não explica por que o software fez essa identificação. Obtenção da aprovação da FDA. Para levar em conta a mudança nos processos de supervisão e aprovação da FDA, os desenvolvedores de software devem pensar cuidadosamente na melhor forma de projetar e lançar seu produto para que ele esteja bem posicionado para a aprovação da FDA, especialmente se o software se enquadrar na categoria de "risco mais alto" da agência. Um fator que deve ser considerado é o fato de que as ferramentas terapêuticas ou de diagnóstico baseadas em IA, por natureza, continuarão a evoluir. Por exemplo, é razoável esperar que um produto de software seja atualizado e mude com o tempo (por exemplo, atualizações de segurança, adição de novos recursos ou funcionalidades, atualização de um algoritmo etc.). Mas, como o produto mudou tecnicamente, seu status de aprovação da FDA pode ser colocado em risco após cada atualização ou nova iteração. Nesse caso, planejar a adoção de uma abordagem baseada em versão para o processo de aprovação da FDA pode ser do interesse do desenvolvedor. Nessa abordagem, uma nova versão do software é criada sempre que o(s) algoritmo(s) interno(s) de ML do software é(são) treinado(s) por um novo conjunto de dados, sendo que cada nova versão é submetida à aprovação independente da FDA. Embora complicada, essa abordagem evita as preocupações da FDA quanto à aprovação de produtos de software que mudam funcionalmente após a aprovação da FDA. Essas considerações de desenvolvimento estratégico são cruciais para os provedores de soluções. Da mesma forma, os investidores também devem ter uma compreensão clara dos planos de desenvolvimento de produtos de uma empresa e da abordagem pretendida para a aprovação contínua da FDA, pois isso pode proporcionar uma diferenciação clara em relação a outros concorrentes no mesmo espaço. Os médicos terão dificuldade em adotar tecnologias que não tenham sido validadas pela FDA, portanto, os investidores precisam ter certeza de que as empresas que estão pensando em apoiar têm um roteiro claro de desenvolvimento de produtos - incluindo uma abordagem para aprovações da FDA à medida que os próprios produtos de software e as diretrizes regulatórias continuam a se desenvolver. A IA é uma caixa preta. Além da ambiguidade regulatória atual, outra questão importante que apresenta desafios para a adoção de aplicativos de IA no ambiente clínico é sua natureza de caixa-preta e os problemas de confiança resultantes. Um desafio é o rastreamento: Se ocorrer um resultado negativo, o processo de tomada de decisão de um aplicativo de IA pode ser rastreado e avaliado - por exemplo, os usuários podem identificar os dados de treinamento e/ou o paradigma de aprendizado de máquina (ML) que levou à ação específica do aplicativo de IA? Em termos mais simples, a causa raiz do resultado negativo pode ser identificada dentro da tecnologia para que possa ser evitada no futuro? Desde a reclassificação dos dados de treinamento até o redesenho dos algoritmos de ML que "aprendem" com os dados de treinamento, o processo de descoberta é complexo e pode até resultar na remoção do aplicativo do mercado. Outra preocupação levantada sobre o aspecto de caixa-preta dos sistemas de IA é que alguém, de propósito ou por engano, poderia alimentar o sistema com dados incorretos, causando conclusões errôneas (por exemplo, diagnóstico errado, recomendações de tratamento incorretas). Felizmente, os algoritmos de detecção projetados para identificar dados adulterados ou incorretos podem reduzir, se não eliminar, esse risco. Um desafio maior apresentado pela natureza de caixa preta dos sistemas de IA é que os médicos relutam em confiar (devido, em parte, ao risco de responsabilidade por má prática) - e, portanto, adotar - algo que não compreendem totalmente. Por exemplo, há várias empresas emergentes de diagnóstico por imagem de IA com ferramentas de software de IA aprovadas pela FDA que podem ajudar os médicos a diagnosticar e tratar condições como derrames, retinopatia diabética, hemorragia intracraniana e câncer. No entanto, a adoção clínica dessas ferramentas de IA tem sido lenta. Um dos motivos é que os órgãos de certificação de médicos, como o American College of Radiology (ACR), só recentemente começaram a divulgar casos de uso formalizados sobre como as ferramentas de software de IA podem ser usadas de forma confiável. Também é provável que os pacientes tenham problemas de confiança com as tecnologias baseadas em IA. Embora eles possam aceitar a realidade de que erros humanos podem ocorrer, eles têm muito pouca tolerância a erros de máquina. Embora os esforços para ajudar a abrir a caixa preta estejam em andamento, a função mais útil da IA no ambiente clínico durante esse período inicial de adoção pode ser ajudar os provedores a tomar decisões melhores, em vez de substituí-los no processo de tomada de decisão. A maioria dos médicos pode não confiar em uma caixa preta, mas eles a usarão como um sistema de suporte se continuarem sendo o árbitro final. Para ganhar a confiança dos médicos, os desenvolvedores de software de IA terão de demonstrar claramente que, quando as soluções são integradas ao processo de tomada de decisões clínicas, elas ajudam a equipe clínica a fazer um trabalho melhor. As ferramentas também devem ser simples e fáceis de usar. A aplicação inicial de IA em tarefas de menor importância, como faturamento e codificação (por exemplo, diagnósticos, tratamentos assistidos por IA), também deve ajudar a aumentar a confiança ao longo do tempo. Em nível de setor, é preciso haver um esforço conjunto para publicar casos de uso mais formalizados que apoiem os benefícios da IA. Os desenvolvedores de software e os investidores devem trabalhar com associações profissionais, como a ACR, para publicar mais casos de uso e desenvolver mais estruturas para estimular a adoção pelo setor e obter mais credibilidade. Reduzir os obstáculos nas ciências da vida. Embora a aplicação da IA no ambiente de atendimento clínico ainda enfrente muitos desafios, as barreiras para a adoção são menores para casos de uso específicos de ciências da vida. Por exemplo, o aprendizado de máquina é uma ferramenta excepcional para combinar pacientes com testes clínicos e para a descoberta de medicamentos e identificação de terapias eficazes. Mas seja na área de ciências biológicas ou no ambiente de atendimento clínico, o fato é que muitas partes interessadas serão afetadas pela proliferação da TI na área de saúde e ciências biológicas. Certamente existem obstáculos para a adoção mais ampla da IA, desde incertezas regulatórias até a falta de confiança e a escassez de casos de uso validados. Mas as oportunidades que a tecnologia apresenta para mudar o padrão de atendimento, melhorar a eficiência e ajudar os médicos a tomar decisões mais informadas valem o esforço para superá-los.

A adoção da IA no setor de saúde será lenta e difícil

Resumo.

Partner Center