Estratégia Brasileira de Inteligência Artificial é definida com base nos princípios da OCDE

MicrosoftTeams-image (64)

A Estratégia Brasileira de Inteligência Artificial (EBIA) foi publicada no dia 6 de abril, por meio da Portaria do Ministério de Ciência, Tecnologia e Inovações (MCTI), de nº 4.617, com entrada em vigor na mesma data. O texto é resultado do trabalho de consultoria especializada em Inteligência Artificial (IA) contratada pelo MCTI, bem como da consulta pública realizada entre dezembro de 2019 e março de 2020, que resultou no recebimento de mil contribuições. Também foram consideradas experiências nacionais e internacionais obtidas por meio de benchmarking.

O estabelecimento de eixos transversais e temáticos se deu com base nos princípios definidos pela OCDE (Organização para a Cooperação e Desenvolvimento Econômico) para gestão responsável dos sistemas de IA. Esses princípios são crescimento inclusivo, desenvolvimento sustentável e bem-estar; valores centrados no ser humano e na equidade; transparência e explicabilidade; robustez, segurança e proteção; e responsabilização ou prestação de contas (accountability).

Os seguintes eixos para a EBIA foram criados:

– Transversais: Legislação, Regulação e Uso Ético; Governança de IA; e Aspectos Internacionais.

– Verticais: Educação; Força de Trabalho e Capacitação; PD&I e Empreendedorismo; Aplicação nos Setores Produtivos; Aplicação no Poder Público; e Segurança Pública.

Finalidades da EBIA

De acordo com o artigo 1º da Portaria, as finalidades da EBIA são as seguintes:

I – Nortear as ações do Estado brasileiro em prol do fortalecimento da pesquisa, desenvolvimento e inovação de soluções em Inteligência Artificial, bem como seu uso consciente, ético para um futuro melhor; e

II – Garantir a inovação no ambiente produtivo e social na área de Inteligência Artificial, capaz de enfrentar os desafios associados ao desenvolvimento do País, nos termos do disposto na Lei nº 10.973, de 2 de dezembro de 2004, que dispõe sobre incentivos à inovação e à pesquisa científica e tecnológica no ambiente produtivo.

Responsabilidades do Ministério de Ciência, Tecnologia e Inovações

Foram estabelecidas, entre outras, as seguintes atividades para o MCTI:

I – Criar instâncias e práticas de governança para priorizar, implantar, monitorar e atualizar as ações estratégicas estabelecidas na EBIA;

II – Coordenar e estabelecer as ações que possibilitem a implementação da EBIA; e

III – Convidar instituições do setor público, privado e da academia para subsidiá-lo nas ações estratégicas definidas na EBIA.

Objetivos da EBIA

Ainda de acordo com a Portaria, os objetivos da EBIA são os seguintes:

– Contribuir para a elaboração de princípios éticos para o desenvolvimento e uso responsáveis de IA;

– Promover investimentos sustentados em pesquisa e desenvolvimento em IA;

– Remover barreiras à inovação em IA;

– Capacitar e formar profissionais para o ecossistema da IA;

– Estimular inovação e desenvolvimento da IA brasileira em ambiente internacional; e 

– Promover ambiente de cooperação entre os entes públicos e privados, a indústria e os centros de pesquisas para o desenvolvimento da IA.

Eixo “Legislação, Regulação e Uso Ético”

A referida Portaria, no eixo “Legislação, Regulação e Uso Ético”, destaca a necessidade de “parâmetros jurídicos, regulatórios e éticos para orientar desenvolvimento e aplicação da tecnologia”.

Há preocupação em estabelecer ponto de equilíbrio entre “i) a proteção e a salvaguarda de direitos, inclusive aqueles associados à proteção de dados pessoais e à prevenção de discriminação e viés algorítmico; ii) a preservação de estruturas adequadas de incentivo ao desenvolvimento de uma tecnologia cujas potencialidades ainda não foram plenamente compreendidas; e iii) o estabelecimento de parâmetros legais que confiram segurança jurídica quanto à responsabilidade dos diferentes atores que participam da cadeia de valor de sistemas autônomos”. 

Sobre a discriminação na Inteligência Artificial, elaboramos recentemente cartilha que discute os vieses inconscientes de gênero na IA. Acesse aqui.

Ainda segundo a Portaria, em relação à transparência e à divulgação responsável acerca dos sistemas de IA, é preciso adotar medidas que garantam a compreensão dos processos associados à tomada de decisões automatizadas, tornando possível identificar vieses envolvidos no processo decisório e desafiar as referidas decisões, quando cabível. “Elementos-chave da discussão internacional sobre o tema são a ideia de que sistemas de IA devem ser centrados no ser humano (human-centric AI) e a afirmação da necessidade de que tais sistemas sejam confiáveis (trustworthy AI)”.

“As pessoas e organizações responsáveis por projetar e implantar sistemas de IA devem ser também responsáveis pelo funcionamento. Aqueles que desenvolvem e usam sistemas de IA devem considerar os princípios balizadores dos seus sistemas e verificar periodicamente se estão sendo respeitados e se estão trabalhando efetivamente. As preocupações com a dignidade humana e com a valorização do bem-estar humano devem estar presentes desde a concepção (ethics by design) dessas ferramentas até a verificação dos seus efeitos na realidade dos cidadãos”, complementa a Portaria.

Confira aqui report que divulgamos sobre a importância crescente da privacidade no mundo, assim como das novas tecnologias, incluindo a Inteligência Artificial.

Interação com a LGPD

A Portaria define a obrigatoriedade de verificar como a evolução da Inteligência Artificial vai interagir com o arcabouço legal. Isso porque o amplo escopo da IA tende a impactar os mais diversos campos – consumerista, concorrencial, trabalhista, processual cível, processual penal etc.

No caso da LGPD (Lei Geral de Proteção de Dados Pessoais), “a operacionalização de tecnologias de IA envolve o tratamento massivo de dados (Big Data)” e, por isso, “fundamental que os princípios de IA estejam alinhados com os da LGPD, e que os valores de proteção de dados sejam considerados, tanto na aquisição, quanto no desenvolvimento e uso dessas tecnologias”.

A Portaria reconhece que a capacidade de tomar decisões sem intervenção humana é um dos principais atributos da IA. Nesse sentido, destaca que um dos pontos de discussão é avaliar quais tipos de decisão podem ser delegados a máquinas e quais exigem a intervenção humana.

“A LGPD endereça tal questão dispondo sobre os direitos de os indivíduos solicitarem a revisão das decisões tomadas apenas com base no processamento automatizado de dados pessoais, quando essas afetam seus interesses. Isso inclui decisões que visam a definir o perfil pessoal, profissional, de consumidor e crédito, bem como quaisquer aspectos da personalidade dos titulares de dados”, observa a Portaria.

Ações estratégicas para estímulo do uso ético da IA

A ética na Inteligência Artificial será estimulada por meio, entre outras, das seguintes ações estratégicas disponíveis no eixo “Legislação, Regulação e Uso Ético”:

– Financiamento de projetos de pesquisa que apliquem soluções éticas, principalmente nos campos de equidade/não discriminação (fairness), responsabilidade/prestação de contas (accountability) e transparência (transparency), ou seja, da matriz FAT;

– Estabelecimento como requisito técnico em licitações que os proponentes ofereçam soluções compatíveis com a promoção de IA ética (por exemplo, definir que soluções de tecnologia de reconhecimento facial adquiridas por órgãos públicos tenham percentual de falso positivo abaixo de determinado limiar);

– Mapeamento de barreiras legais e regulatórias ao desenvolvimento de IA no Brasil e identificação de aspectos da legislação brasileira que possam requerer atualização, de modo a promover maior segurança jurídica para o ecossistema digital;

– Desenvolvimento de técnicas para identificar e tratar o risco de viés algorítmico;

– Criação de parâmetros sobre a intervenção humana em contextos de IA em que o resultado de uma decisão automatizada implica alto risco de dano para o indivíduo;

– Criação e implementação de melhores práticas ou códigos de conduta com relação à coleta, à implantação e ao uso de dados, incentivando as organizações a melhorar sua rastreabilidade, resguardando os direitos legais.

Alinhamento com outras iniciativas do governo

A referida Portaria estabelece que a EBIA deve estar alinhada ao quadro regulatório de governança digital e às políticas públicas relacionadas ao tema, conforme lista abaixo.

– Estratégia Brasileira para a Transformação Digital (e-Digital);

– Estratégia de Governo Digital 2020-2022;

– Programa Start-Up Brasil;

– Programa IA² MCTI;

– Plano Nacional de IoT (Internet of Things – Internet das Coisas); e

– Programa de Inovação Educação Conectada.

Para mais informações, nossas equipes continuam à disposição.

Share on facebook
Facebook
Share on google
Google+
Share on twitter
Twitter
Share on linkedin
LinkedIn
Share on whatsapp
WhatsApp