IA na saúde

Onde a IA aparece no ecossistema de saúde

Aplicações incluem análise de imagens, predição de risco, apoio à decisão, triagem, descoberta de fármacos, vigilância, transcrição, codificação, agendamento, gestão de leitos e comunicação. O mesmo algoritmo pode ter risco diferente conforme a ação que provoca.

Separe uso clínico, operacional, administrativo, pesquisa e autocuidado. Um resumo de reunião interna não equivale a priorizar paciente. A finalidade pretendida, o usuário, a população e o impacto determinam evidência, controle e possível enquadramento regulatório.

A OMS enfatiza autonomia, bem-estar, transparência, responsabilidade, inclusão e sustentabilidade. Esses princípios precisam virar requisitos e teste: quem decide, como o erro é detectado, que grupos foram avaliados e quem recebe reparação.

Defina finalidade, usuário e decisão clínica

Uma especificação útil informa indicação, população, ambiente, entrada, saída, usuário, momento, ação e contraindicação. “Usar IA para radiologia” é vago; “marcar exames adultos ambulatoriais com suspeita de X para segunda leitura” é testável.

Mapeie caminho sem IA e resultado atual. Descubra onde há atraso, variabilidade ou carga. A tecnologia pode apoiar a etapa anterior, como priorização, sem substituir diagnóstico. Compare também melhoria de processo e contratação.

Defina risco de cada erro. Sensibilidade, especificidade e valor preditivo têm consequências diferentes conforme prevalência. Limiar deve considerar capacidade, dano e acompanhamento, não apenas maximizar uma métrica.

Dados clínicos, representatividade e qualidade

Prontuários são produzidos para cuidado e faturamento, não para treinar modelos. Faltas, códigos e medições refletem processo. Um rótulo pode ser decisão anterior, não verdade biológica. Investigue quem foi atendido, quem ficou fora e como padrões mudaram.

Registre origem, período, instituição, dispositivo, protocolo, inclusão, exclusão, anotação e concordância. Separe pacientes e tempo entre treino e teste. Evite vazamento por exames repetidos, dados posteriores ou identificadores indiretos.

Representatividade não significa apenas tamanho. Teste sexo, idade, raça/cor quando apropriado, deficiência, condição, gravidade, equipamento, unidade e região. Pequenos grupos podem precisar de coleta específica. Privacidade e legitimidade da variável devem ser avaliadas.

• O dado representa a população de uso?
• O rótulo foi definido por referência adequada?
• Há mudança de protocolo ou equipamento?
• Pacientes repetidos cruzam conjuntos?
• A ausência de dado tem significado clínico?
• A coleta e o uso são compatíveis com a finalidade?

Evidência: desempenho técnico não basta

Validação analítica verifica se o sistema mede ou classifica corretamente; validação clínica relaciona saída ao fenômeno e uso; utilidade clínica verifica se melhora desfecho ou processo. Uma área sob a curva alta pode não reduzir atraso, complicação ou mortalidade.

Use teste externo em local, período e equipamento diferentes. Estudo prospectivo e comparação no fluxo revelam efeitos de interação. Reporte intervalo de confiança, prevalência, calibração e análise de erro. Compare com profissional e processo reais, não apenas cenário ideal.

Evite mudança simultânea sem desenho que permita atribuir efeito. Avalie dano, carga, tempo, alerta e abandono. Para alto risco, procure protocolo registrado, revisão ética e evidência proporcional. Resultados devem ser publicados de forma transparente.

Regulação e software como dispositivo médico

No Brasil, a Anvisa disciplina software como dispositivo médico. Quando a IA alcança propósito médico ou auxilia função médica, o produto pode precisar de enquadramento e regularização conforme risco e finalidade. Não conclua pela presença de “apenas recomendação”.

Fabricante deve documentar requisitos, gerenciamento de risco, verificação, validação, cibersegurança, usabilidade e ciclo de vida. Mudança de modelo, dado ou finalidade pode exigir avaliação. Instituição compradora deve confirmar situação e uso autorizado.

Ferramenta administrativa também permanece sujeita a segurança, privacidade, consumidor, exercício profissional e contrato. Regulação de produto não transfere responsabilidade nem prova desempenho em todo hospital. Consulte Anvisa, conselho profissional, jurídico e comitê interno.

IA generativa em prontuário e comunicação

Modelos podem rascunhar nota, carta, instrução e resumo, reduzindo digitação. Eles também podem adicionar sintoma, negar informação presente, confundir paciente ou suavizar incerteza. O profissional deve comparar com fonte e aprovar antes de incorporar ao prontuário.

Use templates, saída estruturada e campos obrigatórios. Diferencie fala, inferência e decisão. Destaque trechos sem evidência e preserve acesso ao áudio quando permitido. Não grave consulta sem informação e fundamento adequados.

Para mensagens ao paciente, adapte linguagem sem omitir alerta. O chatbot deve deixar claro que não substitui emergência ou consulta, reconhecer limite e encaminhar. Não use conversa pública para dados de saúde. A OMS recomenda governança específica para grandes modelos multimodais.

Supervisão humana e fatores de trabalho

“Médico no circuito” não garante segurança. O revisor precisa de competência, evidência, tempo, autoridade e interface para discordar. Se a fila é enorme e o sistema quase sempre acerta, viés de automação leva à aprovação mecânica.

Apresente saída no momento certo, com fonte e limite. Evite número de confiança sem calibração. Mostre comparação, dados ausentes e mudança relevante. Defina quem resolve divergência e como registrar discordância sem penalizar o profissional.

Avalie carga, fadiga de alerta, deskilling e responsabilidade moral. Use amostragem independente, dupla leitura em casos críticos e treinamento periódico. Não transforme eficiência em meta que torne revisão impossível.

1. Identificar decisão e consequência.
2. Selecionar revisor habilitado.
3. Fornecer contexto, fonte e incerteza.
4. Dar tempo e caminho para discordar.
5. Registrar decisão sem culpar automaticamente.
6. Auditar concordância e erros por amostra.
7. Ajustar equipe, interface ou autonomia.

Privacidade, confidencialidade e cibersegurança

Dado de saúde é sensível. Defina finalidade, base aplicável, minimização, acesso, retenção, compartilhamento e descarte. Pseudonimização reduz exposição, mas não elimina possibilidade de reidentificação. Ambientes de pesquisa precisam de governança.

Não envie prontuário a chatbot público. Contratos devem tratar treinamento, suboperadores, localização, incidente, exclusão e auditoria. Use criptografia, segregação, menor privilégio e logs. Acesso emergencial deve ser monitorado.

Modelos, imagens e integrações ampliam superfície de ataque. Valide arquivos, proteja API, segredos e cadeia de suprimento. Teste prompt injection em RAG e agentes. Tenha continuidade clínica quando serviço ou internet falhar.

• Inventário de dados, modelo e integração.
• Acesso por função e revisão periódica.
• Ambiente aprovado e contrato de dados.
• Logs protegidos e minimizados.
• Teste de segurança e resposta a incidente.
• Fallback que preserve cuidado essencial.

Viés, equidade e acesso ao cuidado

Modelo pode funcionar pior onde dados são escassos e ainda direcionar menos recurso a quem já enfrenta barreira. Proxy de custo, frequência de consulta ou código pode refletir desigualdade e não necessidade. Revise o objetivo com saúde coletiva e comunidade.

Avalie erro e benefício por grupos clinicamente e socialmente pertinentes. Uma restrição legal ou ética pode limitar uso de atributo, mas ignorar desigualdade não a corrige. Envolva pacientes e profissionais de territórios diversos.

Considere acesso à própria ferramenta. Telemonitoramento depende de conexão, dispositivo, alfabetização e apoio. Mantenha canal presencial e adaptação para deficiência e idioma. Não penalize quem não gera dados digitais.

Implantação segura no serviço de saúde

Crie equipe com assistência, enfermagem, tecnologia, segurança, qualidade, engenharia clínica, privacidade, jurídico e pacientes. Faça avaliação de impacto, confirme regularização, evidência e compatibilidade com processo.

Teste em modo silencioso antes de afetar cuidado; depois faça piloto supervisionado. Defina critérios de parada, suporte, versão e treinamento. Integre sem duplicar trabalho. Simule indisponibilidade e caso crítico.

Comunique ao paciente quando relevante, em linguagem clara. Estabeleça contestação e revisão. Não lance para toda rede até demonstrar benefício no local e capacidade operacional.

1. Especificar uso e risco.
2. Revisar evidência, regulação e fornecedor.
3. Validar dados e desempenho local.
4. Testar usabilidade, segurança e fallback.
5. Treinar equipe e executar modo silencioso.
6. Pilotar com critérios de parada.
7. Monitorar e decidir escala ou retirada.

Monitoramento, drift e tecnovigilância

Após implantação, acompanhe população, entrada, qualidade, calibração, desempenho, tempo, ação, desfecho, grupos, reclamações e incidentes. Ground truth pode chegar tarde; planeje coleta e revisão de prontuário por amostra.

Drift pode vir de doença, sazonalidade, protocolo, equipamento, codificação e comportamento. Não retreine automaticamente sem entender causa e validar. Atualização de fornecedor deve passar por regressão e aprovação proporcional.

Defina limiar, responsável e resposta: alertar, limitar, voltar à versão anterior ou pausar. Notifique eventos conforme requisitos aplicáveis e preserve evidência. Pós-incidente deve resultar em correção sistêmica, comunicação e acompanhamento do paciente quando cabível.

O que pacientes e profissionais devem perguntar

Paciente pode perguntar se IA foi usada, para qual finalidade, quem revisou, quais dados entram e como contestar. A explicação deve ser proporcional e não se esconder atrás de segredo comercial. O consentimento informado continua conforme o procedimento e a lei.

Profissional deve conhecer indicação, contraindicação, evidência, versão, erro, fonte e canal de incidente. Se não consegue avaliar a saída, não deve ser colocado como supervisor simbólico.

Gestor deve perguntar se o benefício foi medido, quem fica de fora, qual custo total, como o fornecedor muda o sistema e como sair. Comprar inovação não é o mesmo que produzir saúde.

• Qual decisão a IA influencia?
• Foi validada em pacientes como os meus?
• Que erro é mais perigoso?
• Quem revisa e pode discordar?
• Como meus dados são protegidos?
• O que acontece se o sistema falhar?
• Como relatar dano ou pedir revisão?