Os limites técnicos dos guard rails da Lisa: o que o agente faz, o que ele nunca faz e por quê

Um agente de IA em saúde não é útil porque responde tudo. É útil porque responde certo, dentro de limites explícitos, e sabe quando parar. Este artigo descreve, em termos técnicos, como os guard rails da Lisa funcionam hoje nos três formatos em que ela se comunica com o paciente: texto, áudio e chamada ao vivo.

O princípio central: nada chega ao paciente sem aprovação humana

Não é uma regra de conduta: é uma propriedade do sistema. Todo conteúdo destinado ao paciente passa por revisão humana antes de ser liberado. Sem aprovação, não existe link nem envio. O que foi aprovado fica congelado na ativação: se o conteúdo muda depois, o envio fica bloqueado até uma nova aprovação.

A liberação também é explícita. O botão de liberar mostra antes um resumo do sistema: quantos pacientes serão incluídos e quem ficou de fora, com o motivo. Pacientes com pendências nunca entram no lote.

O mesmo princípio aparece antes de o conteúdo existir: importar uma base de pacientes cria ou atualiza perfis, e nada mais. Nenhum agente é ativado e nenhuma mensagem é gerada ou enviada sem uma ativação explícita.

Texto: conteúdo congelado, não improvisado

No texto, o paciente não conversa com um modelo gerando respostas clínicas na hora. O principal canal é o link seguro: uma página privada com textos, áudios e vídeos já aprovados pela equipe. Ele nunca dispara sozinho; o operador copia o acesso e decide como compartilhar.

Quando o paciente conversa no chat, a Lisa se apresenta como assistente de IA. O papel dela ali é delimitado: acolher, organizar as dúvidas e chamar a equipe quando preciso. Ela não dá nenhuma orientação clínica nova. Quem responde ao conteúdo clínico é a equipe, pelo chat ao vivo. Se há demora, a Lisa envia follow-ups curtos e gentis, sempre chamando o paciente pelo nome.

O acesso ao link seguro é individual: código curto único por pessoa ou CPF. Tentativas repetidas são bloqueadas. Os links valem 30 dias e podem ser revogados a qualquer momento. E o paciente vê sempre a versão aprovada e congelada no momento da liberação: se o conteúdo muda depois, o link antigo para de funcionar. Nunca existe acesso a uma versão alterada sem nova aprovação.

Áudio: a voz lê o roteiro aprovado, versão por versão

No áudio, a Lisa não improvisa fala. O processo começa no roteiro completo: saudação com o nome do paciente, cuidado e instruções clínicas literais, e encerramento. Esse roteiro é convertido na voz oficial. A aprovação vale apenas para a versão exibida na tela de revisão; regenerar o áudio exige uma nova aprovação.

A edição do roteiro é restrita a administradores e cria uma nova versão pendente, invalidando em cadeia o áudio, o vídeo e os links derivados. Cada etapa fica registrada na linha do tempo do cliente, com versão e status.

No vídeo, a mesma lógica: o áudio aprovado é sincronizado ao avatar oficial em formato vertical. O Video Studio prepara templates visuais, mas não altera roteiro ou áudio aprovados e não gera nem envia o vídeo final.

Chamada ao vivo: uma política por jornada, com teto de uso

A voz ao vivo é o formato mais sensível, e é onde os limites são mais duros. Hoje ela funciona apenas em links de teste internos, em modo simulado e sem custo. O link de teste abre só para o operador; nada é enviado ao paciente.

Cada jornada tem sua própria política de voz, com limites explícitos: 5 minutos por chamada, 3 chamadas por dia e teto pago de 0 minutos por mês. O estado da política é visível por jornada: aprovada e ativa em Diagnóstico, em rascunho em Recuperação, e inexistente em Tratamento e Pediatria. Sem política aprovada, não há chamada.

Escalação para humanos: a fila faz parte do desenho

O limite mais importante de um agente de saúde não é técnico: é saber o que não é dele. Quando o paciente pede para falar com a equipe, o caso vai para a fila humana e aparece no chat ao vivo da equipe, com o contexto da conversa. A resposta clínica continua sendo de pessoas.

Agentes especializados refletem o mesmo desenho. O agente de pós-consulta, por exemplo, transforma o ditado e a prescrição do médico em um rascunho claro para aprovação humana, e nunca envia por conta própria.

Consentimento e revogação

A base de pacientes carregada pela instituição é considerada autorizada para contato, e a Lisa registra esse consentimento com data e responsável, de forma auditável e vinculada ao perfil. Se o paciente pedir para não ser contatado, o perfil é arquivado ou o acesso revogado.

Nos canais de mensagem, o limite também é operacional: no modo de teste do WhatsApp, apenas números com opt-in recebem mensagens, e cada mensagem é revalidada antes do envio.

O que a Lisa não faz

• Não escolhe conduta nem tratamento: o conteúdo clínico vem do que a equipe aprovou, literalmente.
• Não envia nada por conta própria: nem importação, nem link seguro, nem agente dispara sem ação humana explícita.
• Não dá orientação clínica nova no chat: acolhe, organiza e escala.
• Não faz chamadas ao vivo fora do modo de teste interno.
• Não envia WhatsApp fora do modo de teste e sem opt-in.
• Não substitui o julgamento clínico: a decisão e a palavra final são sempre da equipe.

Esses limites não são restrições temporárias a serem removidas. São o que torna possível colocar um agente na jornada do paciente com segurança: cada formato tem um teto, cada envio tem um dono, e cada exceção tem um humano do outro lado.

A pergunta certa sobre um agente de IA em saúde não é "o que ele consegue fazer?", e sim "o que ele foi desenhado para nunca fazer?". Na Lisa, essa resposta está no sistema: aprovação antes de qualquer envio, conteúdo congelado por versão, tetos explícitos de uso, escalação para humanos e revogação a qualquer momento.