A IA generativa, que pode criar e analisar imagens, textos, áudio, vídeos e muito mais, está cada vez mais se inserindo na área da saúde, impulsionada tanto por grandes empresas de tecnologia quanto por startups.

A Google Cloud, divisão de serviços e produtos em nuvem do Google, está colaborando com a Highmark Health, uma empresa de saúde sem fins lucrativos sediada em Pittsburgh, em ferramentas de IA generativa projetadas para personalizar a experiência de admissão do paciente. A divisão da Amazon AWS diz estar trabalhando com clientes não revelados em uma forma de usar a IA generativa para analisar bancos de dados médicos em busca de 'determinantes sociais da saúde'. E a Microsoft Azure está ajudando a construir um sistema de IA generativa para a Providence, rede de saúde sem fins lucrativos, para triar automaticamente mensagens enviadas por pacientes para os provedores de cuidados.

As startups de IA generativa proeminentes na área da saúde incluem a Ambience Healthcare, que está desenvolvendo um aplicativo de IA generativa para clínicos; Nabla, um assistente de IA ambiental para profissionais; e Abridge, que cria ferramentas analíticas para documentação médica.

O entusiasmo generalizado pela IA generativa se reflete nos investimentos em esforços de IA generativa voltados para a saúde. Coletivamente, as startups de IA generativa na área da saúde arrecadaram dezenas de milhões de dólares em capital de risco até o momento, e a grande maioria dos investidores em saúde diz que a IA generativa influenciou significativamente suas estratégias de investimento.

No entanto, tanto profissionais quanto pacientes têm opiniões mistas sobre se a IA generativa focada na saúde está pronta para ser utilizada em larga escala.

A IA generativa pode não ser o que as pessoas querem

Em uma pesquisa recente da Deloitte, apenas cerca de metade (53%) dos consumidores dos EUA disseram que achavam que a IA generativa poderia melhorar a saúde - por exemplo, tornando-a mais acessível ou reduzindo o tempo de espera para consultas. Menos da metade disse esperar que a IA generativa torne os cuidados médicos mais acessíveis.

Andrew Borkowski, diretor de IA da VA Sunshine Healthcare Network, o maior sistema de saúde do Departamento de Assuntos de Veteranos dos EUA, não acha que o ceticismo seja infundado. Borkowski alertou que a implantação da IA generativa pode ser prematura devido às suas limitações 'significativas' - e às preocupações em torno de sua eficácia.

'Um dos problemas-chave com a IA generativa é sua incapacidade de lidar com consultas médicas complexas ou emergências', disse ele ao TechCrunch. 'Sua base de conhecimento limitada - ou seja, a ausência de informações clínicas atualizadas - e a falta de expertise humana a tornam inadequada para fornecer aconselhamento médico abrangente ou recomendações de tratamento.'

Vários estudos sugerem que há fundamento nessas afirmações.

Em um artigo no jornal JAMA Pediatrics, o chatbot de IA generativa da OpenAI, ChatGPT, que algumas organizações de saúde testaram para casos de uso limitado, foi encontrado cometer erros no diagnóstico de doenças pediátricas 83% das vezes. E testando o GPT-4 da OpenAI como assistente de diagnóstico, médicos do Beth Israel Deaconess Medical Center em Boston observaram que o modelo classificava o diagnóstico errado como sua principal resposta quase duas vezes em cada três.

A IA generativa de hoje também enfrenta dificuldades com tarefas administrativas médicas que fazem parte do fluxo de trabalho diário dos clínicos. No benchmark MedAlign para avaliar o quão bem a IA generativa pode realizar tarefas como resumir registros de saúde do paciente e pesquisar entre notas, o GPT-4 falhou em 35% dos casos.

A OpenAI e muitos outros fornecedores de IA generativa alertam contra a dependência de seus modelos para aconselhamento médico. Mas Borkowski e outros dizem que poderiam fazer mais. 'Depender exclusivamente da IA generativa para a saúde pode levar a diagnósticos errados, tratamentos inadequados ou até mesmo situações que ameaçam a vida', disse Borkowski.

Jan Egger, que lidera terapias guiadas por IA no Instituto de IA em Medicina da Universidade de Duisburg-Essen, que estuda as aplicações de tecnologia emergente para cuidados com pacientes, compartilha das preocupações de Borkowski. Ele acredita que a única maneira segura de usar a IA generativa na saúde atualmente é sob a supervisão próxima e atenta de um médico.

'Os resultados podem estar completamente errados, e está cada vez mais difícil manter a consciência disso', disse Egger. 'Com certeza, a IA generativa pode ser usada, por exemplo, para pré-escrever cartas de alta. Mas os médicos têm a responsabilidade de verificar isso e tomar a decisão final.'

A IA generativa pode perpetuar estereótipos

Uma maneira particularmente prejudicial pela qual a IA generativa na saúde pode errar é ao perpetuar estereótipos.

Em um estudo de 2023 da Stanford Medicine, uma equipe de pesquisadores testou o ChatGPT e outros chatbots alimentados por IA generativa em perguntas sobre função renal, capacidade pulmonar e espessura da pele. Não apenas as respostas do ChatGPT estavam frequentemente erradas, constataram os co-autores, mas também incluíam várias crenças antigas incorretas de que há diferenças biológicas entre pessoas negras e brancas - falsidades que se sabe terem levado os profissionais médicos a diagnosticar problemas de saúde de forma errada.

A ironia é que os pacientes mais propensos a serem discriminados pela IA generativa na saúde também são os mais propensos a usá-la.

As pessoas que não possuem cobertura de saúde - em sua maioria, pessoas de cor, segundo um estudo da KFF - estão mais dispostas a experimentar a IA generativa para coisas como encontrar um médico ou apoio à saúde mental, mostrou a pesquisa da Deloitte. Se as recomendações da IA forem marcadas por viés, isso poderia agravar as desigualdades no tratamento.

No entanto, alguns especialistas argumentam que a IA generativa está melhorando nesse sentido.

Em um estudo da Microsoft publicado no final de 2023, os pesquisadores disseram ter alcançado 90,2% de precisão em quatro desafiantes benchmarks médicos usando o GPT-4. O GPT-4 padrão não conseguiu atingir essa pontuação. No entanto, os pesquisadores afirmam que, por meio da engenharia de prompts - ou seja, projetar prompts para o GPT-4 produzir determinadas saídas -, foram capazes de aumentar a pontuação do modelo em até 16,2 pontos percentuais. (A Microsoft, vale ressaltar, é um grande investidor na OpenAI.)

Além dos chatbots

No entanto, fazer perguntas a um chatbot não é a única coisa em que a IA generativa se destaca. Alguns pesquisadores afirmam que a imagem médica poderia se beneficiar enormemente do poder da IA generativa.

Em julho, um grupo de cientistas revelou um sistema chamado abord...mplementariedade para o fluxo de trabalho clínico (CoDoC), em um estudo publicado na Nature. O sistema é projetado para descobrir em que momento os especialistas em imagens médicas devem confiar na IA para diagnósticos versus técnicas tradicionais. O CoDoC foi mais eficiente do que os especialistas, ao mesmo tempo em que reduziu os fluxos de trabalho clínicos em 66%, de acordo com os co-autores.

Em novembro, uma equipe de pesquisa chinesa demonstrou Panda, um modelo de IA usado para detectar lesões pancreáticas em raios-X. Um estudo mostrou o Panda sendo altamente preciso na classificação dessas lesões, que muitas vezes são detectadas tarde demais para intervenção cirúrgica.

De fato, Arun Thirunavukarasu, pesquisador clínico na Universidade de Oxford, disse que não há nada de 'único' na IA generativa que impeça sua implantação em ambientes de saúde.

'Aplicações mais mundanas da tecnologia de IA generativa são viáveis a curto e médio prazos e incluem correção de texto, documentação automática de notas e cartas e recursos de pesquisa aprimorados para otimizar registros eletrônicos de pacientes', disse ele. 'Não há motivo para que a tecnologia de IA generativa - se eficaz - não possa ser implantada em esses tipos de funções imediatamente.'

'Ciência rigorosa'

No entanto, enquanto a IA generativa mostra promessas em áreas específicas e limitadas da medicina, especialistas como Borkowski apontam para os obstáculos técnicos e de conformidade que devem ser superados antes que a IA generativa possa ser útil - e confiável - como ferramenta de assistência à saúde em geral.

'Significativas preocupações com privacidade e segurança cercam o uso de IA generativa na saúde', disse Borkowski. 'A natureza sensível dos dados médicos e o potencial de uso indevido ou acesso não autorizado representam riscos severos para a confidencialidade dos pacientes e a confiança no sistema de saúde. Além disso, o cenário regulatório e legal em torno do uso de IA generativa na saúde ainda está evoluindo, com questões sobre responsabilidade, proteção de dados e prática da medicina por entidades não humanas que ainda precisam ser resolvidas.'

Mesmo Thirunavukarasu, otimista como é com a IA generativa na saúde, diz que deve haver uma 'ciência rigorosa' por trás das ferramentas voltadas para os pacientes.

'Particularmente sem supervisão direta do clínico, deve haver ensaios clínicos randomizados pragmáticos demonstrando benefícios clínicos para justificar a implantação de IA generativa voltada para os pacientes', disse ele. 'Uma governança adequada daqui para frente é essencial para capturar eventuais danos não previstos após a implantação em larga escala.'

Recentemente, a Organização Mundial da Saúde divulgou diretrizes que advogam por esse tipo de ciência e supervisão humana da IA generativa na saúde, bem como a introdução de auditorias, transparência e avaliações de impacto nesse IA por terceiros independentes. O objetivo, o qual a OMS esclarece em suas diretrizes, seria incentivar a participação de uma coorte diversa de pessoas no desenvolvimento de IA generativa para a saúde e dar a oportunidade de expressar preocupações e fornecer insights ao longo do processo.

'Até que as preocupações sejam adequadamente abordadas e salvaguardas adequadas sejam colocadas em prática,' disse Borkowski, 'a implementação generalizada de IA generativa médica pode ser...potencialmente prejudicial para pacientes e para a indústria da saúde como um todo.'