Imagine a seguinte situação: após um conturbado dia, ao chegar em casa, com intuito de descansar a mente, você se conecta a um famoso serviço de streaming e descobre que existe uma série, baseada em fatos reais, onde você é o protagonista, retratado como se fosse uma péssima pessoa, com cenas quase idênticas às que aconteceram no seu dia.

Este é o mote para o episódio “Joan is Awful”, da sexta temporada de Black Mirror (Netflix, 2023), renomada série ontológica que apresenta, no geral, reflexões satíricas, por vezes obscuras, das “consequências” das tecnologias no cotidiano.

Muitas “previsões” de Black Mirror, apresentadas na década passada, já se concretizaram na atualidade, e o tema central do episódio em questão é contemporâneo, salvaguarda as devidas proporções e exageros de narrativa. Em suma, a abordagem de “Joan is Awful” reflete a era dos deepfakes, a captação de dados sensíveis por grandes empresas, a moldagem de algoritmos para gerar engajamento e os limites do Direito Contratual (incluindo os famigerados termos de adesão).

A personagem que dá título ao episódio, Joan, é uma pessoa comum (“Average Joe”), com problemas mundanos e insatisfações pessoais e profissionais, perpassando por dilemas éticos que a “pessoa média” passa durante o seu dia: está insatisfeita com seu noivado, precisa demitir uma funcionária de seu emprego (que inclusive não é o trabalho de seus sonhos), possui sentimentos não resolvidos com seu ex-namorado, etc.

Por qual motivo uma renomada plataforma de streaming decidiria transformar sua vida em uma série dramática estrelada por Salma Hayek?

A resposta aparece nos minutos finais do episódio, quando fica claro, através da CEO da plataforma, que existe uma proposta de gerar conteúdo (quase que exclusivo) de cada pessoa que assina o referido streaming. Isto seria permitido através da política de privacidade consentida pelos usuários, nos termos de adesão[1], em que existe uma autorização tácita para que, dentre outros, a plataforma “ouça” os seus aparelhos eletrônicos e monitore o seu dia-a-dia (o que, em realidade, já acontece) e transmita, em uma versão não tão fictícia, o conteúdo gerado.

A coleta de dados, neste ponto, não apenas é real, como não é ilógico pensar que essa realidade, de certa forma, já nos atinge de forma cotidiana. Basta pensar que os anúncios direcionados nas redes sociais são modelados, de forma proposital, a partir da coleta de dados e organização algorítmica das redes, em que seus dados são “vendidos” em troca de um serviço aparentemente gratuito, sem saber que, “ao mesmo tempo em que é compelido a fornecer seus dados na rede, poderá ver essas mesmas informações voltadas contra si num futuro não muito distante, a depender de como elas serão utilizadas”.²

Neste sentido:

A publicidade direcionada pela racionalidade algorítmica tem por objetivo explorar a irracionalidade e a compulsão do consumidor. Consequentemente, em razão da vulnerabilidade comportamental do consumidor ante as práticas predatórias de marketing, o direcionamento e a subjetivação do ciberespaço influenciam diretamente o poder de escolha do consumidor.³

E por qual motivo a plataforma faria uma série retratando uma pessoa como “péssima”, ao invés de destacar momentos mais positivos do cotidiano do indivíduo? Simples: a retratação “negativa” gera maior repercussão e, portanto, maior engajamento, o que resulta em maior percentual de lucros.

A afirmativa não é distante de nossa realidade, considerando a massiva presença de “fake news” nas mídias digitais, sendo que o imaginário cibernético se alimenta, em grande parte, de situações degradantes para geração de mais conteúdo (vide o crescente aumento de páginas de fofoca nos últimos anos).

Ainda na mesma linha do contrato apresentado no episódio, os atores e atrizes, ao assinarem contratos com a plataforma, permitiriam a recriação digital de sua imagem, de forma digital (em verdadeiro processo de deepfake, que torna as imagens cada vez mais reais), de forma em que as plataformas possuiriam direito vitalício do uso da imagem de tais personalidades, para serem recriados em filmes e séries.

Muito curiosamente, menos de um mês após a estreia do episódio em questão, se iniciou a Greve dos Atores de Hollywood, que, dentre os pontos exigidos, busca uma definição dos possíveis usos de tecnologias de inteligência artificial, para evitar a recriação digital dos atores em filmes, programas e demais mídias, o que, no fim, pode servir de pontapé inicial para uma regulamentação (ou recomendação ética) acerca da delicada questão envolvendo personalidades.

Destacou-se, inclusive, em uma coletiva de imprensa conduzida por Duncan Crabtree-Ireland, o principal negociador do SAG-AFTRA (sindicato dos atores), a proposta dos estúdios, a qual desagradou a muitos atores, em que os estúdios realizariam escaneamentos digitais dos atores, pagando-lhes apenas por um dia de trabalho, e, em seguida, adquiriam o direito de utilizar essa imagem digitalizada indefinidamente, em qualquer projeto, sem obter consentimento ou oferecer qualquer forma de compensação adicional.

A questão surge em meio ao debate acalorado nas últimas semanas da recriação digital de imagens de personalidades famosas, alavancada no Brasil pelo comercial de uma marca de carros que contou com a “presença” da cantora Elis Regina e, em campo americano, na utilização digital da imagem do ator Christopher Reeve no filme “The Flash”.

Foi revelado que a cantora Madonna exigiu que não quer que sua imagem seja usada por meio de holograma após sua morte, restringindo o uso de sua imagem recriada por inteligência artificial. A título comparativo, Elis Regina e Christopher Reeves nem poderiam imaginar os avanços da tecnologia no século XXI. Será que concordariam com Madonna? Ou caberia aos herdeiros a decisão?

A discussão se amplifica, ainda, com as recentes “criações” musicais por cantores já falecidos, tal como Frank Sinatra, que teve sua voz utilizada para cantar, quase que em tom perfeito, o hit “Flowers” da cantora Miley Cyrus.⁴

O CONAR (Conselho Nacional de Autorregulamentação Publicitária), por exemplo, abriu representação ética para averiguar a possibilidade de recriação de imagens digitais de pessoas já falecidas (no âmbito publicitário). A rigor, pelos artigos 12 e 20 do Código Civil, os familiares detém legitimidade para defender os direitos post mortem do de cujus. Mas faltam marcos regulatórios específicos para o tratamento de questões delicadas como o uso da IA. O CONAR, vale relembrar, não possui força de lei ou de polícia, mas pauta “recomendações”.

Atualmente, a ampla recriação digital de imagens de pessoas “comuns” através da inteligência artificial não está tão distante, sendo cada vez mais frequente a disseminação de conteúdo difamatório e pornográfico. Diante dessa preocupante realidade, a necessidade de uma regulamentação mais eficaz no campo legislativo se faz cada vez mais evidente, em uma espécie de “enforcement”.

A captação de dados nas plataformas digitais é notória, e nossas imagens estão cada vez mais presentes em bancos de dados cujos limites, extensão e possíveis usos nem sempre são de pleno e total conhecimento. Nesse contexto, é fundamental encarar essas questões com seriedade e tomar medidas adequadas para proteger a privacidade e a dignidade das pessoas envolvidas.

Portanto, urge a necessidade de uma abordagem legislativa mais rigorosa para coibir o uso indevido de inteligência artificial na manipulação de imagens. Isso inclui a criação de leis e regulamentos que definam claramente os limites de uso da IA para recriação de imagens, bem como a implementação de mecanismos de controle e responsabilização para os envolvidos em atividades ilícitas.

Além disso, é imprescindível que as plataformas digitais sejam mais transparentes em relação à coleta e ao armazenamento de dados de seus usuários. Os indivíduos devem ter acesso claro às informações sobre como suas imagens estão sendo utilizadas e ter o poder de autorizar ou negar o uso dessas informações para evitar abusos.

Por fim, destaca-se que é fundamental que tais plataformas assumam a responsabilidade de abordar essas questões de recriação digital de imagens com a seriedade que merecem, a fim de garantir a proteção dos direitos individuais e a preservação da dignidade humana, considerando esse cenário tecnológico marcado pela necessidade de eficazes respostas jurídicas aos incontáveis e hodiernos avanços.

Referências

____________________

1. Vale dizer, inclusive, que analisado sob o ordenamento jurídico brasileiro, tais disposições seriam nulas de pleno direito, a rigor do que determina o artigo 51 do CDC.

2. FILHO, Carlos Edison do Rêgo Monteiro; ROSENVALD, Nelson. Danos a dados pessoais: fundamentos e perspectivas. In: FALEIROS JÚNIOR, José Luiz de Moura; LONGHI, João Victor Rozatti; GUGLIARA, Rodrigo (Coords.). Proteção de Dados na Sociedade da Informação: entre dados e danos. Indaiatuba: Editora Foco, 2021, p. 11.

3. VERBICARO, Dennis; VIEIRA, Janaína. A nova dimensão da proteção do consumidor digital diante do acesso a dados pessoais no ciberespaço. Revista de Direito do Consumidor. vol. 134. ano 30. p. 195-226. São Paulo: Ed. RT, mar./abr. 2021, p. 205.

4. Para mais, necessário destacar: GUIMARÃES, Clayton Douglas Pereira; GUIMARÃES, Glayder Daywerth Pereira. Deep Voice: Afinal, existe direito à própria voz?. Magis – Portal Jurídico. Disponível em: site. Acesso em: 12 jul 2023.