Nesse artigo – como sempre pretendo – pretendo explorar alguns pontos para você leitor refletir a necessidade de interação com o Poder Legislativo, bem como exigir a relação de mais Audiências Pública e interações para formar uma lei que possa apoiar o desenvolvimento, inovação e utilização dos sistemas de Inteligência Artificial. O projeto atual (PL 2.338/2023) de regulação da Inteligência Artificial do Brasil possui muitos avanços, conectividade com o A.I. Act, mas claramente ainda merece ajustes e atenção em pontos abaixo transcritos.

As discussões foram trazidas nas audiências públicas, com diversas discussões para refinamento do texto, todavia, sem que tais alterações fossem efetivamente objeto de substituição, merecem aplausos. Mas ainda precisamos de mais audiências públicas, isso é certo!

Não podemos esgotar a interação da sociedade civil e acadêmica quanto ao tema. Dado que ainda faltam muitos pontos que merecem reflexão, interação, convergência e explicação ao Legislativo, para que tenhamos um Marco Regulatório que promova desenvolvimento e inovação com parâmetros regulatórios (não proibitivos) para o Brasil.

O PL 2.338/2023 precisa ainda de pontos de atenção, como obrigatoriedade de proteção e governança dos dados pessoais e corporativos, clareza de reforço e importância quanto a Lei Geral de Proteção e utilização de Dados Pessoais (corporativos e coletivos também!) para mitigar os riscos de problemas de governança, explicação, monitoramento, melhorando o impacto e auditoria algorítmica.

No início do texto do projeto dele será necessário melhorar os temas de proteção e cumprimento de princípios de Direitos Humanos Fundamentais, bem como a parte principiológica e de fundamentos, que precisam ser efetivados.

A Inteligência Artificial é um sistema computacional com diversas complexidades e execuções, com graus diferentes de autonomia, desenhados para integrar, inferir, atingir e executar, mas também para nos dar decisões e resultados eficientes e eficazes. Esse conjunto de objetivos, utiliza abordagens baseadas em aprendizagem de máquina, que por meio de linguagem algorítmica (e/ou lógica), e dados inseridos e provenientes de máquinas ou humanos, produzem as previsões, recomendações ou decisões que possam influenciar o ambiente virtual e/ou real.

O texto do projeto não manifesta expressamente a conexão e reforço da Lei Geral de Proteção de Dados – LGPD, com quem dialoga diretamente, em virtude de a Governança de Dados ter um importante papel, ou seja, ser um ator fundamental para qualidade dos dados a serem utilizados nos sistemas de Inteligência Artificial, e parte integrante da Governança de Inteligência Artificial e seu respectivo framework. A legitimação e obrigatoriedade de comprovação da Governança de Dados, a vinculação da norma sobre I.A. com a Lei Geral de Proteção de Dados é necessária, e faz com que sejam mitigados riscos para os indivíduos e toda a coletividade por ela afetados, já que por meio de suas decisões e resultados automatizados somos (mesmo que de forma colateral) influenciados e dirigidos.

Não nos esqueçamos do Governo Digital, e das Smart Citites, que utilizarão Inteligência Artificial e Dados dos Cidadãos para Políticas Públicas e promoção da Cidadania, ou seja, precisamos estar atentos a isso como Sociedade. Importante que para inovação e desenvolvimentos são necessárias Políticas Públicas e de Cidadania envolvendo letramento sobre LGPD (e de todas as normas de Direito Público) e Inteligência Artificial.

Temos os Bens Intangíveis, cujos Direitos relacionados a Propriedade Industrial, Intelectual, Segredo Industrial, Códigos Fonte, Marcas, Patentes e Direitos do Autor não estão devidamente tratados, e não foram profundamente discutidos nas audiências públicas.

A que os sistemas de Machine Learning (ML) e IA generativa devem possuir um Sandbox apropriado e distinto entre as duas. Dessa maneira, seria importante focar nessas áreas em específico, pois são as mais utilizadas e atualmente as mais dominantes. Caso também seja de interesse dos envolvidos na execução do Sandbox, esse poderia focar em tecnologias que têm um alto impacto (e risco) direto na proteção de dados pessoais e corporativos que podem alterar ofertas de produtos e serviços, bem como na privacidade do indivíduo (ferindo assim Direito de Personalidade). O Sandbox Certamente permitirá um ambiente inicial mais controlado, e que posteriormente poderá ser expandido de forma mais estruturada, como ocorreu no Sandbox promovido pelo Banco Central do Brasil – BACEN, conjuntamente com a Comissão de Valores Mobiliários – CVM, e atores do mercado de instituições financeiras e de capitais, seguros, e autarquias profissionais como OAB, CRM e outros precisam participar.

Além do Machine Learning, temos a Inteligência Artificial Generativa, o escopo do projeto de lei e das audiências públicas poderá ser estendido para abranger outras tecnologias emergentes que se utilizam (ou utilizarão) da I.A., como por exemplo a Internet das Coisas (IoT) etc.

O setor público, através da ANPD, ANATEL e demais órgãos reguladores que tem interesse e cujo mercado diretamente regulado por agências e órgão de proteção (como SENAC/PROCON, CADE etc.) poderão agir como corregulações e facilitadores, fornecendo as diretrizes legais e os padrões de conformidade, bem como recursos para a experimentação, estabelecendo ainda normas para governança e compliance para desenvolvimento e uso da IA.

Temos ainda a questão do Órgão Regulador, que é de extrema importância. Será preciso tratar do tema com “mente aberta” e um Mindset diferenciado, para que tenhamos um regulador cuja composição atenda a todos, vez que a Inteligência Artificial possui aplicações em diversos níveis (pessoais e corporativos), setores (indústria, comércio, serviços etc.), necessitando, portanto, de interação de um conjunto híbrido no órgão regulador (não agência) a ser criado. Referido órgão precisará, além de normas complementares, ter competência para fiscalização, e condução de processos administrativos sobre o tema nas mais diversas esferas e competências. Importante frisar que um regulador único, como a Autoridade Nacional de Proteção de Dados (ANPD) não pode ser admitida ou validade, primeiramente porque a ANPD não poderia absorver unicamente as questões de Inteligência Artificial, em virtude sua multi e interdisciplinaridade.

O desafio é grande!

Com efeito, um órgão com participações do setor privado, público, órgãos independentes como o Ministério Público, Banco Central, autarquias profissionais, indústria, órgãos da Sociedade Civil especializados, e claro, Universidades e Centros de Pesquisa, trabalhando nas normas, processos administrativos, e no Sandbox setoriais conjuntamente com Agências e Órgãos de Autorregularão seria a melhor forma de regular a Inteligência Artificial, não concentrando poder em um único órgão ou instância.

A parte concernente a Governança de Inteligência Artificial, compreendida como o Framework e suas Políticas, treinamentos e demais obrigações dos Desenvolvedores, Fornecedores e Usuários necessita de complemento, e interage com Sandbox e Orgão Regulador.

O substitutivo do Senador Marcos Pontes não sugeriu uma forma viável na prática de análise de riscos – e suas classificações – da Inteligência Artificial, e o P.L. 2.338/2023 também merece complementos nesse campo, cuja competência seria melhor estruturada com o Sandbox e um Regulador cujos componentes venham de diversos setores, incluindo, sempre, pesquisa e universo acadêmico. Um modelo de cotas ou fases, onde uma determinada porcentagem de vagas no Sandbox seria reservada para Startups, enquanto o restante seria aberto a empresas de maior porte, permitindo assim a implementação de fases diferentes dentro do Sandbox, cada uma destinada a empresas de diferentes tamanhos.

Importante, portanto, a manutenção de audiências públicas e Workshops envolvendo integrantes do Banco Central do Brasil (Bacen) e da Comissão de Valores Mobiliários (CVM) para que narrem sua experiência com o Sandbox dos Criptoativos, cujo formato é de corregulação regulada, e nos outros temas acima apontado como imprescindíveis para a Regulação, evitando remendos e problemas de execução, desenvolvimento e inovação.

Para garantir que os direitos dos titulares dos dados sejam respeitados e para manter a responsabilidade em caso de uso indevido ou consequências não intencionais, será necessários estruturar regras mínimas de Auditorias e Monitoramento, bem como de atualização para evitar vieses negativos. Implementar um sistema de auditorias regulares das atividades dentro do Sandbox, de modo a garantir que os participantes estejam em conformidade com as normas estabelecidas.

O Sandbox deve ter um forte enfoque na ética e na inclusão social para garantir que as tecnologias desenvolvidas e os dados coletados sejam representativos e não resultem em discriminação ou vieses, ainda mais porque o Estado não possui o expertise sozinho e necessário para o desenvolvimento de normas complementares setoriais, é preciso ouvir a Sociedade por seus diversos atores.

É primordial clarificar as responsabilidades civis e criminais em casos de violações de dados ou uso indevido de tecnologia é vital para proteger os direitos dos indivíduos afetados e assegurar uma atuação ética e legal dos participantes. A parte concernente a Responsabilidade Civil está muito aquém do necessário para nosso sistema jurídico. Existem questões atinentes a responsabilidade pelo uso da Inteligência Artificial nos campos da Fakenews, DeepFake não mencionadas no PL 2.338/2023.

O Fornecedor do Sistema de Inteligência Artificial – por exemplo – como sendo a pessoa natural ou jurídica, de natureza pública ou privada, que distribua um sistema de Inteligência Artificial, diretamente ou por encomenda, com vistas a sua colocação no mercado ou a sua aplicação em serviço por ela fornecido, sob seu próprio nome ou marca, a título oneroso ou gratuito não está no rol de responsabilidade civil do texto do PL 2.338/2023, o que precisa ser discutido, e talvez inserido.

Enfim, esses são alguns apontamentos, logo trago mais questões de Inteligência Artificial e Direito Digital.