Como venho escrevendo, ao meu ver a Inteligência Artificial (IA) é uma das mais importantes e revolucionárias criações do ser humano.

É uma área da ciência da computação que possui muitas aplicações e interfaces, sendo o Direito uma delas. E o Direito é a ciência que busca regular as questões sociais de forma aplicada, e não seria diferente com a Inteligência Artificial, dado que suas diversas aplicações e aplicabilidade, a interoperabilidade dos dados (corporativos e pessoais) inseridos nos sistemas, a criação de dados sintéticos influenciam e agem na vida cotidiana. Máquinas aprendem a cada segundo, e proferem decisões automatizadas que interferem no trabalho, na educação, no consumo, e somos todos nós destinatários de várias dessas decisões.

A ciência visa criar sistemas capazes de realizar tarefas que normalmente exigem inteligência humana, como reconhecimento de padrões, aprendizado, raciocínio, tomada de decisão e interação natural.

Nossas decisões humanas, conscientes, inconscientes, rápida e devagar, são psicometrizadas – ou seja – perfiladas (profiling) por algoritmos que recebem dados que informamos por meio de coleta de cadastros (por isso a importância da LGPD) ou informados sem que saibamos (coleta por meio de transmissão de dados pessoais transmitidos por nossos aparelhos de forma silenciosa e espontânea). A IA tem avançado rapidamente nos últimos anos, graças ao aumento da disponibilidade de dados (novamente, pessoais e corporativos), poder computacional e algoritmos sofisticados que analisam preditivamente, constatam padrões, aprendem muito sobre nós e nosso mercado, vida, família.

A IA tem potencial para transformar diversos setores e atividades econômicas, trazendo benefícios sociais e ambientais, mas também desafios éticos e regulatórios.

Por isso resolvi escrever esse mês sobre a Governança da IA, que é o conjunto de princípios, normas, regras, políticas e mecanismos que orientam o desenvolvimento, a implementação e o uso da IA de forma responsável, ética e sustentável.

O objetivo da Governança da I.A. é A governança da IA visa garantir que a IA respeite os valores humanos e os direitos fundamentais, promova a inclusão e a diversidade, seja transparente e explicável, garanta a segurança e a confiabilidade, e contribua para o bem comum e o desenvolvimento sustentável, com efeito, tornando-a mais confiável e robusta (como diz meu amigo, eticista de IA e professor André Gualtiere).

A governança da IA também busca prevenir ou mitigar os riscos e os impactos negativos da IA, como a discriminação, a invasão de privacidade, a perda de empregos, a manipulação, a polarização, a desinformação, a autonomia das armas e a superinteligência, sendo assim de absoluta importância que as empresas, negócios, profissionais, instituições privadas (o mercado) e instituições públicas (Administração Pública Direta e Indireta) dê o devido valor, importância para implementação do Compliance Digital, e obviamente da Governança da Inteligência Artificial, por meiod e treinamentos, políticas, letramento, utilização desses sistemas computacionais.

A governança da IA nos negócios é a aplicação da Governança da IA no contexto das organizações que desenvolvem, implementam ou usam a IA para gestão, fins comerciais ou industriais.

A Governança da IA nos negócios envolve tanto aspectos internos quanto externos. Os aspectos internos dizem respeito à forma como as organizações gerenciam seus processos, recursos, estratégias, objetivos, valores, cultura e ética relacionados à IA. Os aspectos externos dizem respeito à forma como as organizações se relacionam com seus clientes, fornecedores, parceiros, concorrentes, reguladores, sociedade civil e outras partes interessadas em relação à IA. A governança da IA nos negócios requer uma abordagem multidisciplinar, multissetorial e multilateral, que leve em conta as dimensões técnicas, jurídicas, sociais, econômicas e ambientais da IA.

A Governança da IA é importante por vários motivos. Em primeiro lugar, a governança da IA nos negócios pode ajudar as organizações a maximizar as oportunidades e os benefícios da IA aumentando sua competitividade, reputação, desenvolvimento, inovação, produtividade, qualidade, eficiência, lucratividade e responsabilidade social.

Em segundo lugar, a Governança da IA pode ajudar as organizações a minimizar os riscos e os impactos negativos da IA, evitando ou reduzindo custos, perdas, danos, litígios administrativos e judiciais, sanções e pagamento de indenizações, reputação, vieses, discriminações,  e dessa forma aumentando confiança institucional no uso da IA.

Em terceiro lugar, a Governança da IA nos negócios pode ajudar as organizações a cumprir suas obrigações legais, éticas e morais, respeitando as leis, os regulamentos, os códigos de conduta, as normas técnicas, as diretrizes e as boas práticas existentes ou emergentes sobre a IA.

A Governança da IA nos negócios pode ajudar as organizações a contribuírem para o desenvolvimento sustentável e o bem comum, alinhando seus objetivos e ações com os valores e as necessidades da sociedade e do meio ambiente.

Abaixo tabela com alguns exemplos de decisões automatizadas proferidas por IA, que demandam explicação por parte daquela que utiliza IA sem que tenha aderido aos programas de Governança:

Note caro leitor que esta tabela é apenas um exemplo e não abrange todas as possíveis decisões automatizadas de IA ou vieses potenciais. Além disso, é importante lembrar que os vieses em IA geralmente surgem de dados de treinamento tendenciosos, e não da IA em si. Portanto, é crucial garantir que os dados de treinamento sejam justos e representativos, sendo certo afirmar que a Governança da IA poderá auxiliar muito nesse sentido.

A Governança da IA é um tema complexo e dinâmico, que envolve diversos atores, interesses, desafios e oportunidades. Exige uma visão estratégica, holística, adaptativa e participativa, que considere as implicações a curto, médio e longo prazo da jornada IA em uma determinada instituição ou profissão. Isto também requer uma cooperação e uma coordenação entre os diferentes níveis de Governança, desde local até mesmo global, passando pelo nacional, regional e internacional. É, desse modo, um processo contínuo e evolutivo, que demanda um monitoramento, uma avaliação, uma revisão e uma atualização constantes, à luz das novas evidências, experiências, aprendizados e desafios que a IA apresenta, e por seu contínuo desenvolvimento e aprendizado.