Coluna, Sem Pena do Direito Penal

Algoritmos de inteligência artificial falam a verdade?

Rafael de Deus Garcia

novembro 25, 2022
5:00 pm

Quem estuda algoritmos aplicáveis no âmbito do direito tem alertado para vários problemas, como a falta de transparência e de acurácia, o dilema com o direito à privacidade e o problema dos vieses, especialmente o racial.

O que trago para refletirmos hoje aqui se dá em um nível mais profundo que aquele da mera operação tecnológica dos algoritmos.

Supondo que consigamos garantir alta qualidade dos dados no input dos algoritmos, que se faça muito bem o trabalho de filtro de vieses preconceituosos e que se efetive transparência, enfim, tudo aquilo que pode tornar legítima a decisão baseada em algoritmos. Partindo daí, em que medida é possível falar em resultado verdadeiro a partir do algoritmo?

Em meados do século XX, Merleau-Ponty nos deixou um belo e curto texto: O algoritmo e o mistério da linguagem. Não é um texto de leitura fácil, mas é absolutamente revelador. É dele que parto para fazer a reflexão de hoje.

De modo geral, a crítica do filósofo alcança tanto (a) “o objetivismo espontâneo do cientista” (b) quanto “o objetivismo tematizado pelo filósofo da ciência” (CHAUI, 2002, p. 213). Em palavras simples, isso quer dizer que não devemos ficar entre dois extremos: nem no mito da descoberta da verdade objetiva, nem no relativismo de que a verdade é só um produto do método daquele que se propõe a observar o mundo.

O resultado dos processos algorítmicos, nesse sentido, não é a descoberta desnudada da verdade, tampouco uma imagem artística, mera representação ficcional ou autorreferente daquilo que se colocou na máquina de tratamento.

Toda técnica é “técnica do corpo” e “figura e amplifica a estrutura metafísica de nossa carne” (MERLEAU-PONTY, 2013, p. 16). A própria matemática não escapa disso:

“E como, na percepção, não é uma contradição – mas, ao contrário, sua definição mesma – ser um acontecimento e abrir-se a uma verdade, precisamos também compreender que a verdade, a serviço das matemáticas, se oferece a um sujeito já envolvido nela, e se aproveita dos laços carnais que o unem a ela” (MERLEAU-PONTY, 2012, p. 205).

Isso de modo algum é reduzir a computação às amarras da percepção, o que seria cair na sedução do relativismo, do eu hermético sem referência no mundo objetivo. Porém, “Por mais firme que seja minha apreensão perceptiva do mundo, ela é totalmente dependente do movimento centrífugo que me lança a ele, e jamais o retomarei a menos que eu mesmo estabeleça, e espontaneamente, dimensões novas de sua significação” (MERLEAU-PONTY, 2012, p. 207).

A verdade à qual o conhecimento tem “acesso” ou “descobre” se estabelece num movimento de esforço de atribuir sentido àquilo que escapa à percepção. O mundo percebido existe antes de o percebemos, porém os sentidos são incapazes de apenas registrá-lo e quantificá-lo, sendo seu cálculo parte da nossa relação com o mundo (MERLEAU-PONTY, 2012, p. 206-7).

Assim, dizer que algo é “verdadeiro” decorre de um processo de identificação, de reconhecimento interior que não se furta dos signos humanamente dispostos e de valor, que juntos à temporalidade e àquilo que se considera previsível e replicável, permite-se o sinal da verdade.

A despeito da incompreensão dos meios, lacunas e opacidades do algoritmo, o sinal do verdadeiro depende da relação entre o novo significado produzido com a situação anterior (MERLEAU-PONTY, 2012, p. 211), ou então teríamos que assumir que os processos algorítmicos são uma linguagem humanamente incompreensível, o que tornaria seus resultados igualmente incompreensíveis. O lugar da verdade, portanto, é essa percepção humana de reconhecimento e de retomada do objeto de pensamento.

Um chipanzé pode transformar um galho de árvore em bastão, mas não pode pensar e reconhecer o movimento de sentido que realizou, o que só é possível a partir de um reconhecimento de si a si mesmo, através do tempo, dando-se valor de verdade a esse movimento (MERLEAU-PONTY, 2012, p. 200). Trata-se da diferença entre a inteligência prática e irrefletida das construções do conhecimento que descortinam a verdade.

Ocorre que a operação computacional pode dar a entender que há verdadeiro desnude da verdade, especialmente quando há identificação de padrões e nuances implícitas em grandes volumes de dados. Há aqui o mito da pureza da operação algorítmica.

Se é difícil trazer a todo tempo o referente humano, hermenêutico e político, em cada tomada de decisão, imagine-se na operação algorítmica, em que é uma máquina que faz quase todo o trabalho de meio, e até de fim.

Nesse mito da pureza da operação computacional, está implícita a visão ingênua do objetivismo, que pressupõe mundo e ser humano como incomunicáveis. Está implícita a ideia de que o resultado de um processo algorítmico é reflexo da verdade objetiva, inumana e imutável.

O pensamento operatório ilude a percepção quanto ao resultado da operação algorítmica, dando-lhe a aparente – e falsa – condição de verdadeiro incondicional, negando-lhe a sua condição de “técnica do corpo”, um resultado de amplificação da estrutura metafísica da carne, como movimento de sentido.

Só se pode considerar como verdadeiro o resultado de um processo algorítmico porque os signos que o compõe foram igualmente considerados dessa forma, sendo assim porque reconhecidos em um movimento de sentido a eles atribuídos, num processo do ser humano de si para si mesmo, temporalmente considerados e, mais importante, valorados como válidos e pertinentes à realidade percebida na qual se vive.

Se é correto dizer que o resultado de um processo algorítmico é verdadeiro, é igualmente correto dizer que não se trata de uma verdade sem lastro na carnalidade, ou de uma verdade incondicional e válida por si mesma.

Hui parece não partir de outro lugar quando apresenta a noção de recursividade da inteligência artificial. Ser recursiva quer dizer que “ela emprega uma causalidade não linear a fim de alcançar seu télos, como acontece no comportamento dos organismos” (HUI, 2020, p. 168).

Nisso, a inteligência “deve ser compreendida como uma operação recursiva entre cognição e mundo que modifica constantemente a estrutura que resulta de suas interações” (HUI, 2020, 168). Afinal a cognição não está somente inscrita no mundo, mas a corporifica, de modo tal que mesmo a imaginação e a percepção sempre retornam ao cálculo, para correção e exame (HUI, 2020, 169).

Não podemos crer que a moral seja axiomatizável (HUI, 2020, p. 186), passível de redução a cálculos. Ao contrário, a noção de inteligência deve ser ampliada, o que significa reconhecer sua limitação, não exatamente na sua capacidade de cálculo, que é inimaginável, mas justamente naquilo que não é calculável.

Para o autor, a inteligência artificial “precisa ser reposicionada em realidades mais amplas que excedam a pura racionalidade e que considerem o não racional”. Mais do que isso “a inteligência deve ser entendida em conjunto com seu suporte simbólico, que não pode ser excluído ou colocado em segundo plano” (HUI, 2020, p. 186).

Talvez o maior desafio que se posta diante de nós seja, enfim, compreender e então proteger o que de humano nos resta para além do potencial calculável da tecnologia. E sobre o já calculado, o desafio é entender que ali não está nem a verdade absoluta, nem a mera invenção de um programador, mas algo entre os dois.