O avanço tecnológico da inteligência artificial transformou significativamente a forma de comunicação e facilidade de criação de conteúdo digital, entre essas tecnologias a que mais de destaca é a denominada “deepfake” caracterizada pela facilidade de criação de imagens e videos  ,conteúdos, esses, com elevado grau de realismo, capazes de induzir terceiros ao erro.

A utilização dessa tecnologia vem abrangendo a maioria dos cidados, a facilidade de gerar conteúdos e interagir nas redes sociais, vem sendo empregada tanto para o entretenimento, quanto para práticas ilícitas, como golpe de terceiros.

Nesse contexto, surgem relevantes questionamentos acerca da responsabilização desses indivíduos envolvidos na criação e divulgação desses conteúdos, bem como a insuficiência em nosso ordenamento jurídico para tutelar os direitos fundamentais ameaçados pelas deefakes.

A metodologia escolhida para o desenvolvimento do artigo baseia-se em pesquisa bibliográfica, doutrinária e legislativa, com analise de normas constitucionais e posicionamentos doutrinários acerca do tema.

CONCEITO DE DEEPFAKE E O AVANÇO DA INTELIGÊNCIA ARTIFICIAL

O termo deepfake consiste na junção das expressões “deep learning” e “fake”, referindo-se à utilização de inteligência artificial para produzir conteúdos falsificados com aparência extremamente realista, essa ferramenta utiliza de algoritimos avançados para substituir rostos, criar falas e vídeos inexistentes. As deepfakes consistem em conteúdos audiovisuais sintéticos gerados por meio de técnicas de aprendizagem profunda, capazes de manipular imagens e vídeos de forma altamente realista, dificultando sua distinção em relação a conteúdos autênticos. Essa tecnologia tem sido amplamente associada à disseminação de desinformação e fake news, com potencial de impacto direto em contextos sociais e políticos, especialmente no ambiente eleitoral.

Embora a tecnologia possa possuir finalidades legitimas, como entretenimento, sua utilização indevida pode apresentar ameaça significativa aos direitos fundamentais, especialmente diante da facilidade de disseminação de conteúdo nas plataformas digitais. No contexto eleitoral contemporâneo, os deepfakes representam um risco relevante à integridade do processo democrático, uma vez que possibilitam a criação de conteúdos audiovisuais falsos altamente realistas capazes de influenciar a percepção dos eleitores e comprometer a confiança nas instituições. Além disso, sua rápida disseminação nas redes sociais dificulta a identificação e a resposta adequada por parte dos órgãos de controle, exigindo constante atualização dos mecanismos jurídicos e tecnológicos de enfrentamento.

A elevada qualidade realista desses conteúdos amplia os riscos sociais, sobretudo diante da facilidade de compartilhamento dos conteúdos na internet. A utilização indevida da imagem por meio de deepfakes pode gerar danos irreparáveis à reputação da vítima, sobretudo em razão da rápida disseminação dos conteúdos nas redes sociais.

DIREITO DE PERSONALIDADE E PROTEÇÃO JURIDICA

As deepfakes atingem diretamente os direitos de personalidade, os quais possusem proteção constitucional no ordenamento jurídico brasileiro, Quando utilizadas de maneira ilícita, essas tecnologias comprometem bens jurídicos essenciais, como a honra, a imagem, a privacidade e a dignidade da pessoa humana, gerando impactos significativos tanto na esfera individual quanto social.

Os direitos da personalidade constituem um dos pilares da proteção jurídica da pessoa no ordenamento brasileiro, estando diretamente ligados à tutela da integridade moral e existencial do indivíduo. Por sua natureza, tais direitos visam resguardar atributos inerentes à condição humana, impedindo sua violação, exploração indevida ou distorção por terceiros, especialmente em ambientes digitais marcados pela ampla circulação de informações.

Nesse contexto, a utilização de deepfakes potencializa riscos jurídicos relevantes, na medida em que facilita a disseminação de conteúdos falsos com aparência de veracidade, capazes de causar danos à reputação e à vida privada das vítimas. Diante disso, a proteção jurídica desses direitos exige a aplicação de mecanismos de responsabilização civil e a interpretação sistemática das normas existentes, de modo a garantir a efetiva reparação dos prejuízos e a preservação da dignidade da pessoa humana no ambiente digital.

A RESPONSABILIDADE CIVIL PELOS DANOS CAUSADOS POR DEEPFAKES

A responsabilidade civil consiste na obrigação de reparar danos causados a terceiros, em decorrência de condutas ilícitas, no caso das deepfakes consiste na responsabilização por crianção e divulgação de conteúdos fraudulentos.Além da responsabilização pela criação desses conteúdos, discute-se também a responsabilização das plataformas digitais pela permanência  e disseminação de materiais ilícitos.

No contexto das deepfakes, essa responsabilidade se manifesta na obrigação de reparação pelos prejuízos decorrentes da criação, manipulação e divulgação de conteúdos fraudulentos que utilizam indevidamente a imagem, a voz ou a identidade de indivíduos.

A utilização maliciosa dessa tecnologia pode gerar graves danos de ordem moral e material, especialmente quando há violação à honra, à imagem e à privacidade da vítima, ampliando os efeitos lesivos em razão da rápida disseminação das redes sociais e da dificuldade de controle do conteúdo após sua publicação. Nesses casos, a responsabilização do agente que produz ou compartilha o conteúdo se torna essencial para a tutela dos direitos da personalidade.

Além disso, o debate contemporâneo também envolve a possível responsabilização das plataformas digitais pela permanência e disseminação de conteúdos ilícitos, especialmente quando há falha na adoção de medidas eficazes de remoção ou prevenção. Discute-se, assim, o equilíbrio entre a liberdade de expressão, o dever de moderação e a proteção dos direitos fundamentais, exigindo uma análise cuidadosa do papel dessas empresas na cadeia de propagação dos danos.

RESPONSABILIDADE PENAL E DESAFIOS LEGISLATIVOS

Embora o brasil ainda não possua um legislação especifica sobre deepfakes, diversas condutas relacionadas à sua utilização podem enquadrar a tipos penais já existentes. A divulgação de conteúdos falsificados com o objetivo de ofender a reputação de terceiros pode configurar os crimes contra a honra previstos no Código Penal, tais como calúnia, difamação e injúria. Além disso, deepfakes utilizadas para obtenção de vantagem ilícita podem caracterizar o crime de estelionato, especialmente em golpes praticados mediante falsificação de voz ou imagem.

Também podem ocorrer situações relacionadas à perseguição virtual (stalking), prevista no artigo 147-A do Código Penal, quando a manipulação digital é utilizada para intimidar, constranger ou perseguir determinada pessoa de maneira reiterada.

Outro ponto preocupante refere-se à utilização de deepfakes em contextos políticos e eleitorais, com potencial de disseminação de desinformação e manipulação da opinião pública. Tais práticas representam riscos à democracia, à confiança social e à credibilidade das instituições.

Apesar da possibilidade de aplicação de normas penais já existentes, observa-se que a ausência de legislação específica dificulta o enfrentamento adequado das novas formas de ilícitos digitais decorrentes do avanço da inteligência artificial. Isso porque as deepfakes apresentam características próprias, como alto grau de sofisticação tecnológica, anonimato e rápida disseminação.

NECESSIDADE DE ATUALIZAÇÃO DO ORDENAMENTO JURIDICO

O crescimento da inteligência artificial evidencia a necessidade de atualização do ordenamento jurídico brasileiro para enfrentar os desafios tecnológicos contemporâneos. Nesse cenário, torna-se necessária a criação de normas específicas capazes de regulamentar o uso da inteligência artificial, estabelecer critérios claros de responsabilização e garantir maior proteção aos direitos fundamentais dos indivíduos. A implementação de mecanismos legais voltados à identificação de conteúdos manipulados e à responsabilização mais célere dos infratores pode contribuir para a redução dos danos causados às vítimas.

Além da atuação legislativa, é fundamental o desenvolvimento de políticas públicas de educação digital e conscientização da população acerca dos riscos relacionados à desinformação e à manipulação tecnológica. O fortalecimento da cooperação entre Estado, plataformas digitais e sociedade civil também se mostra essencial para combater práticas ilícitas no ambiente virtual. Em âmbito internacional, observa-se o avanço de propostas regulatórias específicas sobre inteligência artificial, como o Artificial Intelligence Act da União Europeia, que estabelece parâmetros voltados à transparência algorítmica, mitigação de riscos e responsabilização de agentes envolvidos no desenvolvimento e utilização de sistemas de IA.

Dessa forma, a atualização do ordenamento jurídico deve acompanhar a constante evolução tecnológica, buscando equilibrar o incentivo à inovação com a proteção dos direitos da personalidade e da dignidade da pessoa humana.

CONCLUSÃO

O avanço da inteligência artificial trouxe inúmeros benefícios para a sociedade contemporânea, especialmente no campo da comunicação e da produção de conteúdo digital. Contudo, o surgimento das deepfakes também revelou novos riscos jurídicos e sociais, principalmente em relação à violação dos direitos da personalidade.

A manipulação de imagens, vídeos e áudios com elevado grau de realismo pode causar danos significativos à honra, à imagem, à privacidade e à dignidade das vítimas, além de contribuir para a disseminação de desinformação e fraudes no ambiente virtual. O Tribunal de Justiça de São Paulo reconhece que tecnologias como biometria facial e sistemas digitais avançados podem ser alvo de fraudes sofisticadas envolvendo, inclusive, técnicas como deepfakes, exigindo análise técnica rigorosa da prova digital (TJSP, Apelação Cível nº 1000946-96.2025.8.26.0286). Nesse contexto, torna-se indispensável a aplicação da responsabilidade civil e penal aos indivíduos envolvidos na criação e divulgação desses conteúdos ilícitos.

Embora o ordenamento jurídico brasileiro possua mecanismos capazes de tutelar parte dessas violações, observa-se a necessidade de atualização legislativa para enfrentar adequadamente os desafios decorrentes do avanço tecnológico. A criação de normas específicas sobre inteligência artificial e deepfakes pode fortalecer a proteção jurídica das vítimas e proporcionar maior segurança no ambiente digital.

Por fim, conclui-se que o enfrentamento dos impactos das deepfakes exige atuação conjunta do Poder Público, das plataformas digitais e da sociedade, buscando conciliar inovação tecnológica com a preservação dos direitos fundamentais e da dignidade da pessoa humana.

Referências

____________________

BRASIL. Lei nº 10.406, de 10 de janeiro de 2002. Institui o Código Civil. Diário Oficial da União: Brasília, DF, 11 jan. 2002. Disponível em: http://www.planalto.gov.br/ccivil_03/leis/2002/l10406compilada.htm. Acesso em: 10 maio 2026.

OLIVEIRA, Giovanna Aleixo Gonçalves; ÁVILA, Gustavo Noronha de. Deep fake, direitos da personalidade e o direito penal: uma análise dos impactos tecnológicos na era digital. Revista Eletrônica do Curso de Direito da UFSM, Santa Maria, v. 19, e85239, p. 1-19, 2024. Disponível em: . Acesso em: 06 maio 2026.

BRASIL. Lei nº 10.406, de 10 de janeiro de 2002. Institui o Código Civil. Diário Oficial da União: Brasília, DF, 11 jan. 2002. Disponível em: . Acesso em: 10 maio 2026.

EUROPEAN UNION. Artificial Intelligence Act. Regulation (EU) 2024/1689 of the European Parliament and of the Council laying down harmonised rules on artificial intelligence. Brussels: European Union, 2024. Disponível em: . Acesso em: 7 maio 2026.

SÃO PAULO. Tribunal de Justiça do Estado de São Paulo. Apelação Cível nº 1000946-96.2025.8.26.0286. 23ª Câmara de Direito Privado. Relator: Desembargador Jorge Tosta. Julgado em 06 maio 2026.

TAVARES, Cláudio de Mello. Inteligência Artificial e Deepfakes: Desafios Jurídicos e Tecnológicos para a Integridade do Processo Democrático e as Implicações para as Eleições Municipais de 2024. Revista Justiça Eleitoral em Debate, v. 14, n. 1, 2024.

RODRIGUES, Gustavo S.; SILVA, Carlos A. Uma abordagem a DeepFake via algoritmos de aprendizagem profunda. Instituto Federal de Minas Gerais – IFMG-Sabará, Sabará, MG.