IA na clínica: o que pedir ao fornecedor antes de contratar

O que o relatório da ANPD registra

A Agência Nacional de Proteção de Dados publicou, em 16 de outubro de 2026, o terceiro relatório parcial de monitoramento de seu sandbox de IA e proteção de dados. Sandbox é, neste caso, um ambiente experimental controlado e supervisionado. O projeto acompanha três empresas, com aplicações nos setores financeiro, de mobilidade e de saúde, em parceria com o CIAAM/USP.

A ANPD esclarece que os testes avaliam controles de segurança e proteção de dados, sem atestar conformidade das soluções com a legislação. Pontos que exigem aprimoramento ficaram como condições para o ciclo seguinte. O acompanhamento não avalia o mercado inteiro de fornecedores nem demonstra que uma ferramenta será adequada a qualquer clínica. Esta matéria também não testou os produtos participantes.

No recorte de saúde, foram usados 30 casos clínicos simulados para analisar respostas de uma ferramenta de apoio à decisão de médicos. O relatório registra alucinações, referências inexistentes e links quebrados, além de apontar melhorias nos avisos sobre limites de uso, especialmente em emergências, e na indicação de fontes.

Os achados se referem à solução e ao ciclo examinados. Esse teste é diferente de avaliar um atendimento administrativo ou medir agendamentos. O número de casos, sozinho, não permite concluir que um produto é adequado a qualquer uso.

Análise da Cítara

Comece por uma tarefa que possa ser conferida

Na leitura da Cítara, a primeira conversa com um fornecedor deve definir o trabalho que a ferramenta fará. “Melhorar o atendimento” é amplo demais para avaliar uma entrega. Uma tarefa mais delimitada seria responder dúvidas administrativas com base em uma ficha de informações comerciais aprovada pela clínica.

Para esse exemplo hipotético, prepare perguntas com respostas conhecidas e outras que a ficha não permite responder. Confira se o sistema informa o que está confirmado, reconhece quando falta informação e encaminha a questão à equipe. Não inclua orientação clínica nesse exercício. Registre antes do teste o que conta como resposta aceitável e quem poderá aprová-la.

Análise da Cítara

Peça o registro do erro e da correção

Uma apresentação pode mostrar apenas os exemplos escolhidos para a reunião. Peça também um registro que permita repetir a avaliação na versão que será entregue. Os itens abaixo são uma proposta prática da Cítara para essa conversa; não são uma lista de obrigações criada pela ANPD.

• Tarefa e versão: qual função foi testada, em qual versão e em que data?
• Caso de teste: qual pergunta ou entrada foi usada, sem expor dados de pacientes?
• Critério: o que a clínica esperava e o que a ferramenta de fato respondeu?
• Correção: quem tratou a falha e o que mudou?
• Nova avaliação: o mesmo caso foi repetido depois do ajuste, junto dos casos que já funcionavam?

Análise da Cítara

Entenda quais informações a ferramenta usa

Pergunte quais dados entram no serviço, onde ficam armazenados, quem pode acessá-los e por quanto tempo permanecem disponíveis. Peça que o fornecedor explique o que consegue ler ou alterar nos sistemas conectados. Guarde as respostas na proposta e esclareça as lacunas antes de ampliar o acesso.

Para uma demonstração administrativa, nossa sugestão é começar com informações públicas aprovadas ou exemplos fictícios, sem prontuários e conversas identificáveis. Isso delimita o exercício; não certifica a segurança do produto nem resolve a análise de uma implantação com dados reais. Quando o escopo envolver informações de saúde, a avaliação precisa incluir os responsáveis técnicos e por proteção de dados da operação.

Análise da Cítara

A clínica precisa saber como interromper o uso

Combine o que acontece se a ferramenta inventar uma condição, deixar de encaminhar um pedido ou ficar indisponível. Quem recebe o aviso? Quem assume a tarefa? Como a clínica interrompe a automação e continua atendendo pelo canal já existente? Essas respostas devem ser compreensíveis para quem opera a rotina.

Na proposta, separe o que já funciona, o que depende de configuração e o que está apenas previsto. Se o fornecedor ainda precisa desenvolver uma função, registre essa condição e o critério de entrega. Um teste pequeno pode revelar uma pendência importante antes que a clínica dependa do serviço todos os dias.

Análise da Cítara

Comunique somente a experiência que já consegue entregar

Essa avaliação também orienta o marketing. Se uma página anuncia um canal de atendimento, o leitor precisa entender para que ele serve e quando a equipe humana entra na conversa. A clínica deve conseguir cumprir a experiência descrita na landing page, nos anúncios e no social media.

Participar de um projeto experimental ou mostrar uma demonstração não basta para sustentar frases como “atendimento sem erros”. Na proposta de comunicação da Cítara, descreva a função comprovada e seus limites, com informações da própria operação. Resultados de testes técnicos e resultados comerciais são etapas diferentes; conversas, agendamentos e vendas exigem acompanhamento próprio.