Operação 3 min de leitura

O que acontece quando a inteligência artificial erra no atendimento

Resposta curta: Erro acontece, e o que importa é o que está montado em volta dele. O conteúdo e os limites são preparados com a clínica e testados antes de liberar, a automação não responde o que não foi definido, e qualquer pessoa da equipe assume a conversa na hora, com a IA saindo do caminho.

Quando alguém pergunta isso numa reunião, a resposta errada é garantir que não erra. Erra. Qualquer um que diga o contrário está vendendo o que não pode entregar, e vai ser desmentido pelo primeiro paciente.

A pergunta certa é outra: o que está montado para o dia em que errar.

Os três tipos de erro, que são bem diferentes

Responder algo errado. Dizer um preço que a clínica não pratica, afirmar que atende um convênio que não atende, prometer horário que não existe. Esse é o erro caro, porque vira expectativa no paciente e constrangimento no balcão.

Não entender o que o paciente quis dizer. O paciente manda áudio cortado, foto de uma receita, uma frase pela metade. Aqui o erro não é grave se a automação assumir que não entendeu em vez de chutar.

Responder quando não era hora. Paciente reclamando de dor depois de um procedimento, ou pedindo uma informação clínica. Esse caso não é para automação nenhuma, é para a clínica.

Os três têm soluções diferentes, e misturar os três é o que faz uma clínica achar que automação não funciona.

O que evita o erro caro

A automação não deve deduzir informação da clínica. Preço, convênio, horário, endereço, o que cada profissional atende e o que a clínica não faz: tudo isso entra como conteúdo definido junto com a clínica e testado antes de ligar, não como algo que o sistema inventa a partir do contexto.

E existe uma trava que parece pequena e evita metade dos problemas: quando a informação não está definida, o certo é dizer que vai confirmar e passar para a equipe. Uma automação que prefere não responder a chutar é mais barata para a clínica do que uma que parece esperta.

Como o humano entra sem atropelar

Esse é o detalhe técnico que separa operação de improviso. Quando alguém da clínica assume a conversa, a automação precisa sair do caminho de verdade, e não continuar respondendo por cima. E quando a equipe devolve o atendimento, a automação precisa voltar sabendo o que foi dito no meio.

Na prática funciona assim: a conversa chega num painel, qualquer pessoa da equipe pode assumir, e a partir dali o paciente fala com gente. Quem assume não precisa avisar ninguém nem apertar nada complicado, porque em clínica isso acontece com o paciente na recepção e o telefone tocando. Quanto tempo a automação fica de fora antes de voltar sozinha é ajuste de operação, e precisa ser combinado em vez de descoberto no susto.

O que fazer quando o erro acontece

Primeiro, o erro é visível. A conversa fica registrada e pode ser lida, então não é a clínica descobrindo pelo paciente reclamando.

Segundo, o conserto é no conteúdo, não no paciente. Se a automação respondeu um valor desatualizado, o problema não é aquela conversa, é a informação que está lá dentro. Corrigir uma vez resolve para todos os próximos.

Terceiro, e isso é uma escolha de operação: no começo, vale olhar as conversas todo dia. Não para desconfiar da ferramenta, mas porque as duas primeiras semanas mostram as perguntas reais dos seus pacientes, que nunca são exatamente as que a clínica imaginou.

O que exigir de qualquer fornecedor

Se você estiver avaliando propostas, essas quatro perguntas separam quem opera de quem só instalou.

Onde fica escrito o que a IA pode e não pode dizer, e quem edita isso quando a clínica muda um preço.
Como a equipe assume uma conversa, e o que acontece com a automação nesse momento.
Onde eu leio o que foi respondido ontem.
O que acontece se o sistema cair no sábado.

Quem responde essas quatro com naturalidade já passou por isso. Quem desconversa vai descobrir junto com a sua clínica, e o laboratório vai ser o seu paciente.

Automação boa não é a que nunca erra. É a que erra pequeno, mostra o erro e deixa consertar rápido.

Perguntas rápidas sobre isso

A IA pode inventar um preço que a clínica não pratica?+

Não deve, e é por isso que preço, convênio e regras entram como informação definida e testada, não como algo que o modelo deduz na hora.

Quem assume quando o paciente fica irritado?+

A equipe da clínica. A conversa é transferida e a automação para de responder aquele paciente, por um tempo que é definido junto com a clínica.

Dá para ver tudo o que a IA respondeu?+

Sim. A conversa fica registrada pelo prazo que a clínica definir e pode ser lida, inclusive para corrigir uma resposta que saiu torta e evitar que ela se repita.