por Andrea Filomeno, Tatiana Bauer Poli e Bruno Toranzo*
O Projeto de Lei 21/2020, de autoria do Deputado Federal Eduardo Bismarck, é um dos PLs em tramitação no Congresso Nacional para disciplinar a Inteligência Artificial (IA). Essa proposta é talvez a mais abrangente, estabelecendo princípios, direitos e deveres para o uso da IA no Brasil. Em caso de aprovação, criará o Marco Legal da Inteligência Artificial, definindo parâmetros seguros de uso, com o combate à discriminação de qualquer tipo, como a de gênero. Nesta Semana Internacional da Mulher, destacamos que a desigualdade de gênero também está nos mecanismos de IA, que apresentam os mesmos vieses inconscientes vistos no mundo real.
O PL 21/2020, em seu artigo 2º, considera que o “sistema de Inteligência Artificial é composto pelas fases, sequenciais ou não, de planejamento e design, coleta e processamento de dados e construção de modelo; de verificação e validação; de implantação; e de operação e monitoramento”. Ou seja, contempla o processo por inteiro. No artigo 9º, o PL estabelece que os agentes de IA podem ser pessoas físicas, jurídicas e entes sem personalidade jurídica, de direito público ou privado, devendo responder, na forma da lei, pelas decisões tomadas pelo sistema de IA.
No entanto, o projeto não determina as responsabilidades ou penalidades em caso de descumprimento. Essa ausência de disposição pode ser suprida ao longo da tramitação do projeto – até que efetivamente seja aprovado. O PL está na Câmara dos Deputados sob análise da Comissão de Ciência e Tecnologia, Comunicação e Informática
Independentemente da aprovação desse ou de outro Projeto de Lei, é preciso observar que a IA já faz parte das nossas vidas. Muitas vezes, nem notamos sua presença ou entendemos seu funcionamento, o que reforça a necessidade de regulação para que excessos não sejam cometidos por parte dos agentes de IA, trazendo maior segurança jurídica e facilitando sua implantação.
A IA utiliza algoritmos, redes neurais artificiais, sistemas de aprendizado, entre outros recursos, por meio de máquinas que simulam o comportamento humano. Muitas vezes, essas máquinas executam tarefas sem que haja supervisão humana. Decidem sozinhas com base nas informações que foram fornecidas a elas ou com base nos dados que captaram. Aprendem com o tempo e armazenam volume considerável de informações para embasar seu poder decisório. Esse processo é chamado de “machine learning”.
Assim, a IA, ao realizar atividades humanas de forma mecanizada, reduz custos e agiliza processos de forma considerável. Seu uso no mundo corporativo corresponde a uma forma de estruturar os dados das empresas, a fim de facilitar as decisões, como em processos de recrutamento e seleção de funcionários. Nesses casos, a IA faz a primeira triagem, economizando o tempo dos recrutadores. Há empresas especializadas nesse serviço que criam poderosas plataformas de IA que coletam as informações dos
candidatos e indicam os que têm maior aderência com o cargo.
Discriminação
O favorecimento do gênero masculino foi observado em episódio envolvendo grande companhia internacional de varejo, a qual utilizava sistema que comprovadamente favorecia a contratação de homens. Essa preferência da IA fez com que a empresa deixasse de usar o programa. Nesse caso, ficou evidente a necessidade da supervisão humana para evitar distorções e comportamentos discriminatórios.
O sistema utilizado não observou os princípios de igualdade de gênero que devem ser seguidos pelos agentes privados e públicos – em consonância com os direitos fundamentais reunidos no artigo 5º da Constituição Federal.
No PL 21/2020, o artigo 4º, inciso IV, traz
“a igualdade, a não discriminação, a pluralidade e o respeito aos direitos trabalhistas”
Já o artigo 7º estabelece que é direito dos interessados ter acesso a informações claras e adequadas sobre os critérios e procedimentos utilizados pelo sistema de IA que os afetem adversamente.
Ao analisar esses dois artigos, é possível perceber que o referido Projeto de Lei contempla toda e qualquer discriminação, incluindo a de gênero. A Inteligência Artificial deve respeitar a igualdade entre as pessoas, como determina a Constituição, sem que seus sistemas possibilitem a ocorrência de qualquer tipo de discriminação.
Caso seja aprovado, o PL fará com que as empresas e o próprio Poder Público estejam ainda mais atentos para garantir a adequação de suas tecnologias de IA às exigências legais, com destaque para os direitos fundamentais.
* Andrea Filomeno é gestora de Consultivo Digital do Opice Blum, Bruno e Vainzof Advogados Associados; Tatiana Bauer Poli é advogada da mesma área; e Bruno Toranzo, da área de Comunicação, é jornalista e graduado em Direito.