A inteligência artificial deixou de ser uma promessa distante para se tornar parte concreta da transformação da assistência à saúde. Sistemas capazes de auxiliar na análise de exames, organização de informações clínicas, identificação de padrões, gestão hospitalar e apoio à tomada de decisão já demonstram que a tecnologia pode contribuir significativamente para a medicina. Ao mesmo tempo, a expansão das ferramentas de inteligência artificial generativa trouxe riscos que exigem uma resposta jurídica igualmente sofisticada. Um dos exemplos mais recentes merece especial atenção dos profissionais do Direito e da Saúde.
Em setembro de 2026, o Ministério da Saúde informou que o programa Saúde com Ciência identificou 97 perfis que utilizavam inteligência artificial para simular médicos e outros profissionais da saúde na divulgação de conteúdos relacionados a supostas curas e tratamentos sem comprovação científica.
O caso levou a Advocacia-Geral da União a notificar o YouTube, solicitando providências em relação aos conteúdos identificados. As informações também foram encaminhadas à Polícia Federal e ao Conselho Federal de Medicina.
O episódio representa mais do que um novo capítulo da desinformação digital. Ele evidencia uma transformação importante para o Direito da Saúde: a inteligência artificial já é capaz não apenas de produzir informações falsas, mas também de construir artificialmente a aparência de autoridade profissional necessária para torná-las convincentes. Essa diferença é juridicamente relevante. Da informação falsa à falsa autoridade médica. A desinformação em saúde não surgiu com a inteligência artificial. Promessas de tratamentos milagrosos, informações científicas distorcidas e publicidade relacionada a produtos sem eficácia comprovada circulam há décadas. A IA generativa, entretanto, modifica a dimensão do problema. Hoje é possível produzir avatares, vozes sintéticas, imagens e vídeos extremamente convincentes. Um personagem pode utilizar jaleco, apresentar-se em um ambiente semelhante a um consultório, empregar terminologia científica e reproduzir padrões de comunicação associados a profissionais da medicina.
O usuário deixa, portanto, de enfrentar apenas a dificuldade de verificar se a informação é verdadeira. Surge uma questão anterior: a pessoa que transmite aquela informação realmente existe e possui a qualificação profissional que aparenta possuir?
Essa mudança merece atenção jurídica porque a confiança depositada em determinado conteúdo pode decorrer justamente da autoridade profissional representada na imagem.
No campo da saúde, essa confiança possui consequências particularmente sensíveis. Uma recomendação apresentada como orientação médica pode influenciar decisões relacionadas a medicamentos, tratamentos, exames, alimentação, procedimentos ou até mesmo à decisão de procurar atendimento profissional. A vulnerabilidade informacional algorítmica do paciente
O Direito da Saúde tradicionalmente trabalha com a existência de assimetria informacional entre profissional e paciente. O conhecimento técnico e científico está concentrado no profissional, enquanto o paciente depende das informações recebidas para participar adequadamente das decisões relacionadas ao próprio cuidado. A inteligência artificial introduz uma nova camada nessa relação. O paciente contemporâneo pode estar diante de uma vulnerabilidade informacional algorítmica. Essa vulnerabilidade surge quando, além de não possuir conhecimento médico suficiente para avaliar determinada orientação, o indivíduo também não dispõe de conhecimentos tecnológicos capazes de identificar se o conteúdo, a imagem, a voz ou até mesmo o suposto profissional foram produzidos artificialmente.
A situação torna-se ainda mais delicada diante de crianças, idosos, pessoas com baixa alfabetização digital, indivíduos enfrentando doenças graves ou famílias procurando respostas rápidas para situações de sofrimento. Por isso, alfabetização digital e alfabetização em saúde passam a integrar uma mesma discussão de proteção. Não basta ensinar a população a desconfiar de informações falsas. Será cada vez mais necessário ensinar o cidadão a identificar autoridade profissional artificialmente construída. O problema jurídico não começa apenas quando ocorre o dano Um dos pontos que precisam evoluir no debate brasileiro é a tendência de discutir responsabilidade tecnológica somente depois da ocorrência de um dano. No ambiente da inteligência artificial, prevenção e governança devem ocupar posição central. Quando sistemas tecnológicos são utilizados em contextos capazes de influenciar decisões relacionadas à saúde, algumas perguntas precisam ser feitas antes que o dano aconteça.
O conteúdo foi produzido por inteligência artificial?
O usuário consegue perceber claramente essa circunstância?
Existe uma pessoa física ou jurídica responsável pela publicação?
Há interesse econômico relacionado à recomendação apresentada?
O conteúdo está promovendo medicamentos, suplementos, procedimentos ou outros produtos?
A plataforma possui mecanismos para identificar conteúdos sintéticos potencialmente prejudiciais?
Existe possibilidade de rastrear sua origem?
Há procedimentos eficientes para denúncia, análise e remoção quando identificado risco concreto à saúde?
Essas perguntas demonstram que o Direito da Saúde contemporâneo não pode mais analisar exclusivamente a relação entre médico e paciente. É necessário compreender todo o ecossistema tecnológico no qual as informações de saúde são produzidas, recomendadas, impulsionadas, monetizadas e consumidas. A responsabilidade pode envolver uma cadeia de agentes. Outro desafio relevante diz respeito à identificação dos responsáveis. Quando um conteúdo falso é produzido mediante inteligência artificial, diferentes agentes podem participar da cadeia digital: quem criou o conteúdo, quem determinou os comandos utilizados para sua produção, quem publicou, quem patrocinou, quem eventualmente comercializou produtos ou serviços associados à mensagem e as plataformas responsáveis pela circulação daquele material. Não significa afirmar que todos responderão automaticamente ou da mesma maneira. A responsabilização exige análise jurídica concreta da conduta, do regime jurídico aplicável, do nexo causal, do conhecimento sobre o risco, das obrigações legais existentes e da participação de cada agente. Essa cautela é fundamental.
O Direito não deve buscar um responsável abstrato simplesmente porque determinada tecnologia participou do processo. Precisa identificar quem tomou decisões, quem assumiu riscos, quem tinha deveres jurídicos e quem poderia razoavelmente ter adotado medidas preventivas. É justamente nesse aspecto que a governança de inteligência artificial se torna uma questão jurídica, e não exclusivamente tecnológica. O Conselho Federal de Medicina e a IA na prática médica. O debate também ocorre em um momento regulatório especialmente importante. Em agosto de 2026 entraram em vigor as regras do Conselho Federal de Medicina sobre utilização da inteligência artificial na medicina, estabelecidas pela Resolução CFM nº 2.454/2026. A regulamentação aborda aspectos relacionados à utilização responsável dos sistemas, governança, monitoramento, segurança, capacitação profissional e proteção das informações utilizadas. A premissa é relevante: a tecnologia pode apoiar a atividade médica, mas a responsabilidade profissional não desaparece simplesmente porque determinada decisão recebeu auxílio de um sistema de inteligência artificial. Essa lógica permite estabelecer uma distinção essencial para compreender o caso dos falsos profissionais digitais.
Utilizar IA como ferramenta de apoio à medicina é diferente de utilizar IA para simular o exercício da medicina.
No primeiro cenário, existe um profissional habilitado utilizando uma tecnologia dentro de uma relação assistencial sujeita a deveres éticos e jurídicos. No segundo, pode existir uma representação artificial construída justamente para induzir o usuário a acreditar que está recebendo informação proveniente de uma autoridade médica real. São situações tecnologicamente próximas, mas juridicamente muito diferentes. Proteção de dados também integra essa discussão. Outro ponto que não pode ser ignorado é a proteção de dados pessoais. Informações relacionadas à saúde recebem proteção especial pela Lei Geral de Proteção de Dados Pessoais, a LGPD, por serem classificadas como dados pessoais sensíveis. Quando aplicações de inteligência artificial são utilizadas em ambientes de saúde, questões relacionadas à finalidade do tratamento, segurança, necessidade, transparência, prevenção e responsabilização tornam-se especialmente relevantes. Além disso, a crescente interação de usuários com sistemas digitais de orientação em saúde cria um fenômeno que merece acompanhamento: pessoas fornecem espontaneamente sintomas, exames, histórico familiar, medicamentos utilizados e outras informações extremamente sensíveis a ferramentas digitais sem necessariamente compreender como esses dados poderão ser tratados. Governança de IA em saúde, portanto, também exige governança de dados. Transparência deve ser proporcional ao risco. Um dos caminhos mais importantes para enfrentar o problema está na transparência. Quando determinado conteúdo capaz de influenciar decisões relacionadas à saúde foi produzido artificialmente, essa circunstância precisa ser apresentada ao usuário de maneira compreensível.
Não é suficiente imaginar que todas as pessoas terão capacidade técnica para identificar alterações em imagens, inconsistências de voz ou características de vídeos sintéticos. Quanto maior o potencial de interferência sobre direitos fundamentais, maior deve ser a preocupação com transparência, rastreabilidade, segurança e supervisão. Essa lógica pode ser compreendida como governança proporcional ao risco. Uma ferramenta utilizada para uma atividade administrativa de baixo impacto não necessariamente exige os mesmos mecanismos de controle de um sistema empregado em contexto relacionado a diagnóstico, tratamento ou orientação de saúde.
Regular inteligência artificial adequadamente não significa tratar todas as aplicações tecnológicas como igualmente perigosas. Significa reconhecer que diferentes usos produzem diferentes níveis de risco jurídico e social. O Direito da Saúde precisa incorporar a governança tecnológica. Durante muito tempo, discutir segurança do paciente significava analisar protocolos assistenciais, medicamentos, procedimentos, estrutura hospitalar e atuação dos profissionais. Esses elementos continuam fundamentais. Entretanto, a segurança do paciente do século XXI também dependerá da segurança do ambiente informacional no qual ele está inserido. Algoritmos de recomendação, inteligência artificial generativa, plataformas digitais, aplicações de saúde, sistemas de apoio clínico e tratamento massivo de dados passaram a integrar o ecossistema assistencial.
Consequentemente, profissionais do Direito da Saúde precisarão compreender conceitos que anteriormente pareciam restritos às áreas de tecnologia: governança algorítmica, transparência, rastreabilidade, supervisão humana, gestão de riscos, proteção de dados e auditoria de sistemas. Da mesma forma, profissionais responsáveis pelo desenvolvimento e implementação dessas tecnologias precisarão compreender que saúde não é um ambiente tecnológico comum. Estamos tratando de um setor no qual uma informação equivocada pode produzir consequências sobre a integridade, a autonomia e, em determinadas situações, a própria vida das pessoas. A tecnologia pode inovar. A confiança precisa continuar humana. A inteligência artificial oferece oportunidades extraordinárias para a saúde. Pode contribuir para ampliar eficiência, organizar informações, apoiar profissionais, melhorar processos e desenvolver novas formas de assistência. O desafio jurídico não consiste em impedir essa transformação. Consiste em garantir que inovação e proteção caminhem juntas. O episódio dos falsos médicos produzidos por inteligência artificial demonstra que a próxima fronteira do Direito da Saúde talvez não esteja apenas em determinar como médicos utilizarão algoritmos, mas também em definir como proteger pacientes de algoritmos que aprenderam a parecer médicos. Essa distinção será cada vez mais importante. Na saúde digital, confiança não pode ser produto exclusivo da aparência. Ela precisa estar acompanhada de identidade verificável, qualificação profissional, transparência, responsabilidade e possibilidade de prestação de contas. A inteligência artificial pode vestir o jaleco. Pode reproduzir uma voz segura, utilizar termos científicos e construir uma imagem aparentemente confiável. Mas nenhum avanço tecnológico deve permitir que a aparência de autoridade substitua a responsabilidade profissional. Esse é um dos grandes desafios que a inteligência artificial apresenta ao Direito da Saúde contemporâneo e uma discussão que apenas começou.
