A auditoria conduzida pelo Office of the Auditor General de Ontário, no Canadá, trouxe à tona falhas recorrentes em sistemas de IA aprovados para apoiar médicos e profissionais de saúde no registro de prontuários. O relatório, publicado em 14 de maio de 2026, avaliou 20 sistemas do programa AI Scribe, iniciativa do Ministério da Saúde da província para digitalização e automação de anotações clínicas.
Erros factuais e omissões graves
Segundo o relatório, 60% dos sistemas avaliados confundiram informações sobre medicamentos prescritos nos registros dos pacientes. Nove dos 20 sistemas fabricaram informações e sugeriram tratamentos que não haviam sido discutidos nas consultas simuladas usadas para teste. Foram encontradas anotações falsas, incluindo a ausência de massas ou menção a ansiedade, sem que esses tópicos tivessem sido abordados entre médico e paciente.
Além disso, 17 dos sistemas ignoraram detalhes essenciais sobre questões de saúde mental mencionadas nas gravações. Em seis casos, problemas de saúde mental dos pacientes foram completamente omitidos ou registrados de forma parcial e incompleta.
Processo de avaliação questionado
O relatório aponta que parte do problema está nos próprios critérios de avaliação usados na seleção dos fornecedores. Dos pontos atribuídos a cada sistema, apenas 4% estavam ligados à precisão das anotações. A presença física do fornecedor em Ontário representou 30% da pontuação, enquanto controles de viés, privacidade e segurança tiveram peso marginal (2% cada).
Segundo os auditores, esse desequilíbrio pode ter levado à aprovação de sistemas incapazes de garantir registros médicos precisos ou protegidos contra vieses e vazamentos de dados sensíveis.
Revisão manual obrigatória? Ainda não
Apesar das recomendações de grupos como a OntarioMD para que médicos revisem manualmente as anotações geradas por IA, nenhuma das plataformas avaliadas exige confirmação obrigatória de revisão. Até o momento, o Ministério da Saúde afirma não ter recebido relatos de danos a pacientes, mas o relatório sugere que o risco permanece latente diante da má qualidade dos registros.
O que falta esclarecer
O Ministério da Saúde de Ontário não respondeu se irá adotar as recomendações do relatório. Resta saber se o peso dado à precisão e segurança será de fato ampliado nas próximas rodadas de contratação, e se haverá mecanismos obrigatórios de validação humana antes do uso clínico de registros automatizados.
Para sistemas de IA em ambientes críticos como a saúde, o caso de Ontário evidencia que eficiência e automação não podem se sobrepor à precisão dos dados — sob pena de comprometer a segurança do paciente.
Fonte: The Register