A Estratégia Brasileira de Inteligência Artificial (EBIA) foi publicada no dia 6 de abril, por meio da Portaria do Ministério de Ciência, Tecnologia e Inovações (MCTI), de nº 4.617, com entrada em vigor na mesma data. O texto é resultado do trabalho de consultoria especializada em Inteligência Artificial (IA) contratada pelo MCTI, bem como da consulta pública realizada entre dezembro de 2019 e março de 2020, que resultou no recebimento de mil contribuições. Também foram consideradas experiências nacionais e internacionais obtidas por meio de benchmarking.
O estabelecimento de eixos transversais e temáticos se deu com base nos princípios definidos pela OCDE (Organização para a Cooperação e Desenvolvimento Econômico) para gestão responsável dos sistemas de IA. Esses princípios são crescimento inclusivo, desenvolvimento sustentável e bem-estar; valores centrados no ser humano e na equidade; transparência e explicabilidade; robustez, segurança e proteção; e responsabilização ou prestação de contas (accountability).
Os seguintes eixos para a EBIA foram criados:
– Transversais: Legislação, Regulação e Uso Ético; Governança de IA; e Aspectos Internacionais.
– Verticais: Educação; Força de Trabalho e Capacitação; PD&I e Empreendedorismo; Aplicação nos Setores Produtivos; Aplicação no Poder Público; e Segurança Pública.
Finalidades da EBIA
De acordo com o artigo 1º da Portaria, as finalidades da EBIA são as seguintes:
I – Nortear as ações do Estado brasileiro em prol do fortalecimento da pesquisa, desenvolvimento e inovação de soluções em Inteligência Artificial, bem como seu uso consciente, ético para um futuro melhor; e
II – Garantir a inovação no ambiente produtivo e social na área de Inteligência Artificial, capaz de enfrentar os desafios associados ao desenvolvimento do País, nos termos do disposto na Lei nº 10.973, de 2 de dezembro de 2004, que dispõe sobre incentivos à inovação e à pesquisa científica e tecnológica no ambiente produtivo.
Responsabilidades do Ministério de Ciência, Tecnologia e Inovações
Foram estabelecidas, entre outras, as seguintes atividades para o MCTI:
I – Criar instâncias e práticas de governança para priorizar, implantar, monitorar e atualizar as ações estratégicas estabelecidas na EBIA;
II – Coordenar e estabelecer as ações que possibilitem a implementação da EBIA; e
III – Convidar instituições do setor público, privado e da academia para subsidiá-lo nas ações estratégicas definidas na EBIA.
Objetivos da EBIA
Ainda de acordo com a Portaria, os objetivos da EBIA são os seguintes:
– Contribuir para a elaboração de princípios éticos para o desenvolvimento e uso responsáveis de IA;
– Promover investimentos sustentados em pesquisa e desenvolvimento em IA;
– Remover barreiras à inovação em IA;
– Capacitar e formar profissionais para o ecossistema da IA;
– Estimular inovação e desenvolvimento da IA brasileira em ambiente internacional; e
– Promover ambiente de cooperação entre os entes públicos e privados, a indústria e os centros de pesquisas para o desenvolvimento da IA.
Eixo “Legislação, Regulação e Uso Ético”
A referida Portaria, no eixo “Legislação, Regulação e Uso Ético”, destaca a necessidade de “parâmetros jurídicos, regulatórios e éticos para orientar desenvolvimento e aplicação da tecnologia”.
Há preocupação em estabelecer ponto de equilíbrio entre “i) a proteção e a salvaguarda de direitos, inclusive aqueles associados à proteção de dados pessoais e à prevenção de discriminação e viés algorítmico; ii) a preservação de estruturas adequadas de incentivo ao desenvolvimento de uma tecnologia cujas potencialidades ainda não foram plenamente compreendidas; e iii) o estabelecimento de parâmetros legais que confiram segurança jurídica quanto à responsabilidade dos diferentes atores que participam da cadeia de valor de sistemas autônomos”.
Sobre a discriminação na Inteligência Artificial, elaboramos recentemente cartilha que discute os vieses inconscientes de gênero na IA. Acesse aqui.
Ainda segundo a Portaria, em relação à transparência e à divulgação responsável acerca dos sistemas de IA, é preciso adotar medidas que garantam a compreensão dos processos associados à tomada de decisões automatizadas, tornando possível identificar vieses envolvidos no processo decisório e desafiar as referidas decisões, quando cabível. “Elementos-chave da discussão internacional sobre o tema são a ideia de que sistemas de IA devem ser centrados no ser humano (human-centric AI) e a afirmação da necessidade de que tais sistemas sejam confiáveis (trustworthy AI)”.
“As pessoas e organizações responsáveis por projetar e implantar sistemas de IA devem ser também responsáveis pelo funcionamento. Aqueles que desenvolvem e usam sistemas de IA devem considerar os princípios balizadores dos seus sistemas e verificar periodicamente se estão sendo respeitados e se estão trabalhando efetivamente. As preocupações com a dignidade humana e com a valorização do bem-estar humano devem estar presentes desde a concepção (ethics by design) dessas ferramentas até a verificação dos seus efeitos na realidade dos cidadãos”, complementa a Portaria.
Confira aqui report que divulgamos sobre a importância crescente da privacidade no mundo, assim como das novas tecnologias, incluindo a Inteligência Artificial.
Interação com a LGPD
A Portaria define a obrigatoriedade de verificar como a evolução da Inteligência Artificial vai interagir com o arcabouço legal. Isso porque o amplo escopo da IA tende a impactar os mais diversos campos – consumerista, concorrencial, trabalhista, processual cível, processual penal etc.
No caso da LGPD (Lei Geral de Proteção de Dados Pessoais), “a operacionalização de tecnologias de IA envolve o tratamento massivo de dados (Big Data)” e, por isso, “fundamental que os princípios de IA estejam alinhados com os da LGPD, e que os valores de proteção de dados sejam considerados, tanto na aquisição, quanto no desenvolvimento e uso dessas tecnologias”.
A Portaria reconhece que a capacidade de tomar decisões sem intervenção humana é um dos principais atributos da IA. Nesse sentido, destaca que um dos pontos de discussão é avaliar quais tipos de decisão podem ser delegados a máquinas e quais exigem a intervenção humana.
“A LGPD endereça tal questão dispondo sobre os direitos de os indivíduos solicitarem a revisão das decisões tomadas apenas com base no processamento automatizado de dados pessoais, quando essas afetam seus interesses. Isso inclui decisões que visam a definir o perfil pessoal, profissional, de consumidor e crédito, bem como quaisquer aspectos da personalidade dos titulares de dados”, observa a Portaria.
Ações estratégicas para estímulo do uso ético da IA
A ética na Inteligência Artificial será estimulada por meio, entre outras, das seguintes ações estratégicas disponíveis no eixo “Legislação, Regulação e Uso Ético”:
– Financiamento de projetos de pesquisa que apliquem soluções éticas, principalmente nos campos de equidade/não discriminação (fairness), responsabilidade/prestação de contas (accountability) e transparência (transparency), ou seja, da matriz FAT;
– Estabelecimento como requisito técnico em licitações que os proponentes ofereçam soluções compatíveis com a promoção de IA ética (por exemplo, definir que soluções de tecnologia de reconhecimento facial adquiridas por órgãos públicos tenham percentual de falso positivo abaixo de determinado limiar);
– Mapeamento de barreiras legais e regulatórias ao desenvolvimento de IA no Brasil e identificação de aspectos da legislação brasileira que possam requerer atualização, de modo a promover maior segurança jurídica para o ecossistema digital;
– Desenvolvimento de técnicas para identificar e tratar o risco de viés algorítmico;
– Criação de parâmetros sobre a intervenção humana em contextos de IA em que o resultado de uma decisão automatizada implica alto risco de dano para o indivíduo;
– Criação e implementação de melhores práticas ou códigos de conduta com relação à coleta, à implantação e ao uso de dados, incentivando as organizações a melhorar sua rastreabilidade, resguardando os direitos legais.
Alinhamento com outras iniciativas do governo
A referida Portaria estabelece que a EBIA deve estar alinhada ao quadro regulatório de governança digital e às políticas públicas relacionadas ao tema, conforme lista abaixo.
– Estratégia Brasileira para a Transformação Digital (e-Digital);
– Estratégia de Governo Digital 2020-2022;
– Programa Start-Up Brasil;
– Programa IA² MCTI;
– Plano Nacional de IoT (Internet of Things – Internet das Coisas); e
– Programa de Inovação Educação Conectada.
Para mais informações, nossas equipes continuam à disposição.