Sistemas baseados em Inteligência Artificial (IA) já operam nas mais diversas áreas do cotidiano, passando muitas das vezes despercebidos por seus usuários: eles estão presentes em provedores de aplicação do comércio eletrônico, das principais plataformas de busca e compartilhamento de dados e das redes sociais. Também são cada vez mais utilizados para pautar decisões em contextos como a concessão de crédito, a análise de currículos para vagas de emprego e a obtenção de tratamentos médicos.

A Inteligência Artificial integra a chamada Indústria 4.0, termo utilizado para referenciar importantes tecnologias resultantes da transição do mundo analógico para o digital. Esse tipo de tecnologia apresenta o potencial de revolucionar o mercado, criando oportunidades de negócio e também impulsionando modelos já existentes.

Para aproveitar o melhor que a Inteligência Artificial tem a oferecer, porém, é necessário se atentar aos riscos a ela associados, bem como observar as leis e regulações aplicáveis. Assim, contamos com profissionais experientes no tema para oferecer serviços de consultoria especializada, abarcando:

• Privacy by design e Privacy by default

Hoje, os principais sistemas de IA realizam a coleta e análise de um grande volume de dados. Nesse sentido, a privacidade e a proteção de dados devem ser incorporadas ao longo de todo o ciclo de vida dessas tecnologias, desde o estágio inicial do projeto até sua implantação, uso e disposição final – abordagem conhecida como Privacy by Design. Trata-se de um panorama proativo, e não reativo, que objetiva antecipar e evitar eventos invasivos à privacidade de usuários antes que eles aconteçam, em vez de esperar a sua materialização. Além disso, incentiva-se que a privacidade seja o padrão já embutido no sistema, no sentido de que nenhuma ação é requerida pelos usuários para mantê-la em segurança (Privacy by Default).

O dever de garantir a privacidade desde a concepção de um produto ou serviço é, inclusive, previsto em normas que tratam sobre proteção de dados pessoais, como a LGPD (art. 46, § 2º) e o GDPR.

• Auditoria de sistemas de IA

Sistemas de Inteligência Artificial, sobretudo aqueles pautados em técnicas de aprendizado de máquina (machine learning), têm elevado grau de opacidade – ou seja, é difícil compreender e explicar como determinado output foi alcançado. Além disso, são capazes de reproduzir certos padrões discriminatórios ou simplesmente indesejados ao “aprender” a partir dos dados fornecidos.

Assim, a auditoria de uma IA objetiva trazer transparência ao seu funcionamento, identificando a existência de vieses e impedindo aplicações potencialmente discriminatórias. Para tanto, são analisadas informações como a qualidade dos dados utilizados para alimentar o sistema; as variáveis consideradas; e o peso atribuído a cada uma delas.

A auditoria de um sistema de IA pode ser necessária, por exemplo, à luz da LGPD, segundo a qual o titular tem direito de solicitar a revisão de decisões a seu respeito que tenham sido tomadas unicamente com base em tratamento automatizado de seus dados pessoais (art. 20). Nesse contexto, caberá ao responsável pelo tratamento oferecer informações acerca dos critérios e procedimentos utilizados para alcançar referida decisão e, caso não o faça, poderá ser realizada auditoria por parte da ANPD.

• Avaliação de Impacto de Inteligência Artificial (Artificial Intelligence Impact Assessment)

A Avaliação de Impacto de Inteligência Artificial (Artificial Intelligence Impact Assessment ou AIIA) consiste em uma ferramenta prática para auxiliar uma organização a projetar, empregar e auditar tecnologias de IA (incluindo os dados de entrada e saída) de maneira ética e legal.

A Avaliação de Impacto analisa questões como o contexto social da aplicação da IA, suas características (como autonomia, complexidade, transparência e previsibilidade), os resultados objetivados e seu impacto tanto para a organização quanto para os indivíduos afetados. São também abordados os marcos éticos e legais relevantes à aplicação da tecnologia, como leis e regulamentos, diretrizes e padrões internacionais, códigos de conduta, dentre outros.

Em suma, trata-se de metodologia apta a ajudar as organizações a mapear os benefícios de sistemas de IA, inclusive sociais; analisar a sua confiabilidade, segurança e transparência; identificar os seus valores e objetivos; entender e limitar os seus riscos; e refletir se as opções foram feitas com ponderações éticas. Referida avaliação torna-se preponderante especialmente quando a IA possa afetar direitos e garantias fundamentais.

• Capacitação e treinamento

A realização de treinamentos abordando os principais aspectos éticos e jurídicos envolvidos no uso de tecnologias de IA é fundamental para que organizações públicas e privadas, em qualquer campo ou setor, realizem sua implementação de maneira bem-sucedida.

Sessões personalizadas de capacitação têm o objetivo de conscientizar equipes multidisciplinares acerca das principais questões éticas e jurídicas envolvidas no uso de IA. Desse modo, o propósito é fazer com que os colaboradores estejam não apenas familiarizados com o tema, mas também aptos a tomar decisões que impulsionem o objetivo da organização de maneira responsável e conforme a lei.

• Política de Governança Algorítmica

A Política de Governança Algorítmica busca definir os princípios, diretrizes e melhores práticas a serem observados pela organização no desenvolvimento e implementação de produtos e serviços que façam uso de IA. Pautando-se pela legislação em vigor e pelos principais padrões de conduta do mercado, o propósito é construir uma política alinhada com os objetivos da organização e com as normas e valores do seu grupo de usuários. 

• Responsabilidade civil e criminal

A possibilidade de que certas tecnologias de IA atuem de maneira autônoma, independentemente de direcionamentos por parte de seus programadores e usuários, traz consigo questionamentos acerca da sua segurança, transparência e alocação de responsabilidade na hipótese de danos.

Nesse contexto, é fundamental compreender as regras vigentes no que diz respeito à responsabilidade, civil e criminal, por danos causados por uma IA, de forma a mitigar os riscos associados à sua utilização. Para tanto, é necessário entender os regimes de responsabilidade aplicáveis caso a caso; a possibilidade de mitigação de riscos por meio da adoção de cláusulas contratuais protetivas; e as ofertas existentes no mercado relacionadas à contratação de seguros para arcar com danos causados por uma IA.