Inteligência artificial na saúde exige limites: como a LISA incorpora segurança clínica e responsabilidade regulatória

A inteligência artificial está transformando a maneira como instituições de saúde se relacionam com seus pacientes. Agentes inteligentes podem explicar preparações para exames, reforçar orientações de tratamento, acompanhar jornadas de recuperação e facilitar o acesso às equipes assistenciais.

Essas aplicações representam uma oportunidade para hospitais, clínicas, laboratórios e demais organizações de saúde. Afinal, grande parte das dificuldades enfrentadas pelos pacientes não está necessariamente relacionada ao atendimento clínico em si, mas à comunicação que acontece antes, durante e depois dele.

Entretanto, essa evolução traz uma pergunta fundamental:

Como garantir que uma tecnologia capaz de conversar sobre saúde não ultrapasse os limites da atuação médica?

Na LISA Discovery, essa preocupação orienta uma iniciativa chamada Lisa ANVISA Ready, dedicada à avaliação regulatória, à segurança clínica e à melhoria contínua da plataforma.

O princípio é simples: a inteligência artificial pode ampliar o alcance das orientações dos profissionais de saúde, mas não deve assumir decisões que pertencem a eles.

A diferença entre comunicar uma orientação e tomar uma decisão clínica

Imagine um paciente que recebe de seu médico uma orientação de preparo para um procedimento.

Um agente inteligente pode ajudá-lo a compreender as instruções, lembrar etapas importantes e organizar dúvidas para a equipe responsável.

Também pode confirmar se o paciente recebeu as informações necessárias, explicar procedimentos administrativos e encaminhar solicitações que dependam de avaliação profissional.

Isso é fundamentalmente diferente de interpretar um exame, estabelecer um diagnóstico, recomendar um novo tratamento ou alterar uma prescrição médica.

Essa distinção é essencial para compreender o enquadramento regulatório das tecnologias de saúde.

No Brasil, a Resolução da Diretoria Colegiada RDC nº 657/2022, da Agência Nacional de Vigilância Sanitária (ANVISA), estabelece regras para softwares classificados como dispositivos médicos, conhecidos internacionalmente como Software as a Medical Device (SaMD).

A regulamentação considera aspectos como a finalidade pretendida e as funcionalidades efetivamente executadas pelo software.

Isso significa que uma tecnologia utilizada para comunicação administrativa pode ter um enquadramento diferente daquele aplicável a um sistema que realiza análises clínicas ou recomenda decisões terapêuticas.

Por esse motivo, a LISA adota uma abordagem de avaliação contínua de suas funcionalidades, reconhecendo que diferentes aplicações de inteligência artificial podem exigir análises regulatórias específicas.

A finalidade da tecnologia importa tanto quanto sua capacidade técnica.

Cinco princípios que orientam o desenvolvimento da LISA

A segurança clínica não deve ser tratada apenas como uma etapa posterior ao desenvolvimento de um produto.

Ela precisa orientar a arquitetura, os processos e os limites operacionais desde a concepção.

A LISA organiza essa abordagem em cinco princípios fundamentais.

1. A decisão médica permanece com o profissional de saúde

Os agentes da LISA são concebidos para apoiar a comunicação de informações previamente documentadas pela equipe assistencial.

A arquitetura de governança dos agentes de voz estabelece restrições para atividades como:

• Realizar diagnósticos ou formular hipóteses diagnósticas.
• Prescrever medicamentos ou sugerir alterações de doses.
• Interpretar exames de maneira autônoma.
• Recomendar novos tratamentos.
• Modificar instruções clínicas previamente aprovadas.

O objetivo é preservar uma separação clara entre a comunicação automatizada e a tomada de decisão clínica.

A inteligência artificial pode contribuir para que uma orientação médica seja compreendida e acompanhada com maior facilidade.

Entretanto, a responsabilidade pelas decisões clínicas permanece com os profissionais legalmente habilitados.

2. Toda orientação clínica precisa de uma fonte aprovada

Um dos principais desafios da inteligência artificial generativa é sua capacidade de produzir respostas aparentemente convincentes, mesmo quando não dispõe de informações suficientes.

Em aplicações de saúde, esse comportamento exige atenção especial.

Por isso, a arquitetura da LISA contempla mecanismos de controle de conteúdo, destinados a vincular as comunicações dos agentes a informações previamente aprovadas.

No módulo de agentes de voz, por exemplo, existem verificações que consideram a disponibilidade de conteúdo aprovado e a existência de políticas operacionais válidas antes da habilitação de uma sessão.

Esse modelo busca reduzir o risco de que uma interação automatizada introduza instruções clínicas não autorizadas.

A proposta não é permitir que o agente crie novas condutas, mas facilitar o acesso do paciente às informações que a instituição de saúde já definiu.

Uma orientação confiável precisa ter origem conhecida, conteúdo controlado e responsabilidade claramente estabelecida.

3. Reconhecer limites faz parte da inteligência

Uma das características mais importantes de um agente aplicado à saúde não é responder a qualquer pergunta.

É reconhecer quando uma resposta precisa ser encaminhada a um profissional.

Considere uma situação em que um paciente pergunta:

“Posso dobrar a dose do medicamento porque esqueci de tomá-lo ontem?”

Essa solicitação envolve uma possível mudança de conduta terapêutica.

Em vez de produzir autonomamente uma recomendação, o comportamento esperado de um agente com limites clínicos é reconhecer que a pergunta ultrapassa seu escopo e direcioná-la à equipe responsável.

A LISA incorpora mecanismos destinados a identificar solicitações relacionadas a alterações de medicamentos, pedidos de atendimento humano e determinadas manifestações que podem indicar situações urgentes.

Esses mecanismos orientam o encaminhamento da interação, em vez de autorizar decisões clínicas autônomas.

É importante destacar que sistemas automatizados de identificação de risco não substituem protocolos assistenciais, avaliação profissional ou serviços de emergência.

Também não garantem a identificação de todas as situações clínicas relevantes.

Sua função é oferecer uma camada adicional de proteção dentro de um processo supervisionado.

4. Segurança e rastreabilidade fazem parte da arquitetura

O relacionamento digital com pacientes exige cuidados que vão além da qualidade das respostas.

É necessário considerar quem pode acessar as informações, quais dados são utilizados, como as interações são registradas e quais mecanismos permitem acompanhar o funcionamento dos agentes.

A LISA contempla recursos de gestão de acessos, políticas de operação, histórico de interações e controles sobre a ativação dos agentes.

Na arquitetura de voz, também existem mecanismos destinados a limitar o contexto encaminhado aos modelos de inteligência artificial, restringindo informações desnecessárias à execução da conversa.

Essas medidas estão alinhadas aos princípios de necessidade, segurança e responsabilização previstos na Lei Geral de Proteção de Dados Pessoais.

Entretanto, a conformidade integral com a LGPD depende de fatores adicionais, como bases legais apropriadas, contratos com fornecedores, políticas de retenção, controles institucionais e verificações técnicas aplicáveis a cada operação.

A segurança deve ser compreendida como um processo contínuo de governança, avaliação e aprimoramento.

5. Supervisão humana não é uma exceção, é parte do processo

A automação deve facilitar o trabalho das equipes de saúde, não eliminar a possibilidade de intervenção humana.

A LISA contempla mecanismos de encaminhamento para atendimento humano e recursos de acompanhamento das interações.

Esse modelo é especialmente importante quando um paciente apresenta uma dúvida não prevista, solicita uma mudança de tratamento ou precisa de assistência individualizada.

O objetivo é permitir que a tecnologia contribua para a comunicação e a coordenação da jornada, preservando a autoridade dos profissionais responsáveis pelo cuidado.

O papel da inteligência artificial é ampliar a capacidade das equipes, não substituir sua responsabilidade.

Uma nova referência brasileira para inteligência artificial na medicina

A evolução regulatória acompanha a expansão da inteligência artificial no setor de saúde.

Em 2026, o Conselho Federal de Medicina estabeleceu a Resolução CFM nº 2.454/2026, que disciplina o uso de inteligência artificial na medicina.

A norma reforça princípios relacionados à transparência, supervisão humana, proteção dos dados pessoais, avaliação de riscos e preservação da autonomia médica.

Também estabelece responsabilidades quanto à utilização dessas tecnologias na prática médica e à informação prestada aos pacientes.

Esses princípios são particularmente relevantes para organizações que pretendem incorporar agentes inteligentes às suas operações.

A adoção de inteligência artificial não deve ser avaliada apenas pela eficiência operacional ou pela qualidade da experiência oferecida ao paciente.

É necessário considerar também os riscos associados à finalidade da tecnologia, ao contexto de utilização e à possibilidade de influência sobre decisões clínicas.

Para soluções como a LISA, esse cenário reforça a importância de incorporar segurança e governança desde o desenho dos produtos, e não apenas como uma etapa posterior de adequação.

A proteção dos dados é inseparável da segurança clínica

Informações relacionadas à saúde recebem proteção especial pela Lei Geral de Proteção de Dados Pessoais, a LGPD.

Isso significa que plataformas que processam dados de pacientes precisam considerar requisitos específicos relacionados às finalidades do tratamento, às hipóteses legais aplicáveis, à minimização de dados, à segurança e aos direitos dos titulares.

Em determinadas situações, essas informações podem ser utilizadas para facilitar o relacionamento entre instituições e pacientes, desde que o tratamento observe as condições previstas na legislação.

Em jornadas pediátricas, essa responsabilidade exige atenção adicional.

A comunicação com pais ou responsáveis, a identificação adequada dos destinatários e o tratamento de dados de crianças e adolescentes precisam considerar as disposições legais aplicáveis e o melhor interesse desses titulares.

A arquitetura da LISA contempla configurações de destinatário e contexto do atendimento, permitindo diferenciar interações destinadas diretamente ao paciente daquelas direcionadas a seus responsáveis.

A adequação jurídica e operacional dessas jornadas deve ser avaliada conforme a instituição, a finalidade do tratamento e os dados efetivamente utilizados.

Proteger informações de saúde não é apenas uma obrigação regulatória. É uma condição fundamental para estabelecer confiança no relacionamento digital com pacientes.

Segurança clínica nas três etapas da jornada do paciente

A abordagem de segurança da LISA também pode ser compreendida a partir das diferentes etapas da jornada assistencial.

Antes do atendimento

Os agentes podem apoiar atividades como confirmação de agendamentos, preparação para exames, orientações logísticas e esclarecimento de procedimentos administrativos.

Nessas situações, a prioridade é facilitar o acesso às informações previamente definidas pela instituição, evitando a criação autônoma de recomendações clínicas.

Durante o atendimento

A inteligência artificial pode contribuir para orientar pacientes dentro das unidades, esclarecer dúvidas operacionais, apoiar a comunicação sobre o fluxo de atendimento e identificar situações que demandem intervenção humana.

O agente atua como uma camada de comunicação e coordenação, sem assumir decisões relacionadas à avaliação clínica do paciente.

Depois do atendimento

Os agentes podem reforçar orientações documentadas, apoiar lembretes de acompanhamento, facilitar o contato com a instituição e coletar informações sobre a experiência do paciente.

Quando surgem dúvidas que exigem interpretação clínica, alterações terapêuticas ou avaliação de sintomas, o fluxo deve respeitar os limites estabelecidos e encaminhar a situação aos profissionais responsáveis.

Essa separação permite explorar o potencial da inteligência artificial em diferentes momentos da jornada, preservando a distinção entre apoio à comunicação e exercício profissional da medicina.

Lisa ANVISA Ready: um compromisso de evolução contínua

A iniciativa Lisa ANVISA Ready organiza os princípios que orientam o desenvolvimento e a avaliação regulatória da plataforma.

Ela representa um compromisso interno com a segurança clínica, a supervisão humana e a melhoria contínua dos mecanismos de governança.

É importante esclarecer que Lisa ANVISA Ready não representa certificação, autorização, registro ou aprovação concedida pela ANVISA.

O enquadramento regulatório de cada funcionalidade depende de sua finalidade pretendida e de seu funcionamento efetivo.

A proposta da iniciativa é promover uma arquitetura na qual a comunicação automatizada respeite o conteúdo clínico aprovado, reconheça seus limites operacionais e preserve a supervisão humana.

Isso significa reconhecer que a responsabilidade regulatória não é um estado permanente alcançado em determinado momento.

É um processo contínuo de avaliação, documentação e evolução.

O futuro da inteligência artificial na saúde será definido pela confiança

A próxima geração de agentes inteligentes terá capacidade crescente de compreender linguagem natural, personalizar interações e acompanhar jornadas complexas.

Entretanto, a sofisticação tecnológica não elimina a necessidade de responsabilidade.

Pelo contrário.

Quanto maior a capacidade de interação de um sistema, maior a importância de estabelecer limites claros para sua atuação.

Na saúde, uma resposta inadequada pode ter consequências muito diferentes daquelas observadas em outros setores.

Por isso, a qualidade de uma solução não deve ser medida apenas por sua capacidade de responder rapidamente, mas também por sua capacidade de reconhecer incertezas, respeitar orientações profissionais e encaminhar situações que exigem intervenção humana.

A LISA parte de uma convicção:

O futuro da inteligência artificial na saúde não será definido apenas por sistemas que conseguem responder mais perguntas.

Será definido por sistemas capazes de oferecer a orientação certa, com a fonte certa, dentro dos limites certos.

Porque uma jornada de saúde verdadeiramente inteligente precisa ser também segura, responsável e humana.

Conheça nossa abordagem de segurança clínica

A LISA Discovery desenvolve agentes inteligentes para apoiar a comunicação entre instituições de saúde e pacientes antes, durante e depois do atendimento.

Conheça os princípios da iniciativa Lisa ANVISA Ready e nossa abordagem de segurança clínica e conformidade regulatória.

Acesse a página Compliance da LISA Discovery.