Arq. Bras. Cardiol. 2025; 122(5): e20250300

Você Vai Avisá-los Quando Estiverem Errados? Viés de Automação e Inteligência Artificial na Medicina

Marcio Sommer Bittencourt

DOI: 10.36660/abc.20250300

O uso de ferramentas de suporte à decisão e de automação na prática médica não é algo recente. As primeiras ferramentas utilizavam modelos de regressão simples para reduzir a heterogeneidade e oferecer um cuidado mais estruturado. Na cardiologia, exemplos iniciais de ferramentas de suporte à decisão incluíram o escore de risco de Framingham para estratificação de risco na prevenção primária e os ajustes automatizados de doses para heparina ou varfarina. Desde então, os processos de automação tornaram-se mais sofisticados e atualmente estão amplamente disseminados em diversos aspectos rotineiros da prática médica. Na cardiologia, incluem interpretações preliminares automatizadas de traçados de eletrocardiograma (ECG), bem como medições e análises de imagens automatizadas em ecocardiografia, medicina nuclear e ressonância magnética cardíaca. Outros sistemas automatizados de suporte à decisão clínica auxiliam na redução de erros de prescrição, alertando os profissionais de saúde sobre interações medicamentosas ou dosagens incorretas, por exemplo. Com os avanços recentes da inteligência artificial (IA), as expectativas quanto ao futuro dessas ferramentas cresceram de forma expressiva. No entanto, as possíveis implicações negativas têm recebido consideravelmente menos atenção.

Os sistemas de suporte à decisão podem aprimorar a tomada de decisão médica e os desfechos dos pacientes. No entanto, esses sistemas não são infalíveis e podem gerar resultados incorretos. A maioria dos estudos que avaliam seu desempenho baseia-se em métricas médicas convencionais, como sensibilidade, especificidade, acurácia e área sob a curva receiver operating characteristic. Contudo, é ainda mais importante avaliar o impacto dessas ferramentas no mundo real, especialmente considerando a forma como os profissionais interagem com elas. Essa questão torna-se particularmente relevante à luz do Regulamento de Inteligência Artificial da União Europeia, que exige supervisão humana para sistemas de IA considerados de alto risco. O tema adquire ainda mais relevância com o uso disseminado de chatbots de IA generativa, uma vez que a atual geração de ferramentas complexas de IA tem contribuído para uma tendência crescente de dependência excessiva de processos de automação imperfeitos.

[…]