Sistemas baseados em Inteligência Artificial (IA) já operam nas mais diversas áreas do cotidiano, passando muitas das vezes despercebidos por seus usuários: eles estão presentes em provedores de aplicação do comércio eletrônico, nas principais plataformas de busca e compartilhamento de dados e nas redes sociais. Também são cada vez mais utilizados para pautar decisões em contextos como concessão de crédito, análise de currículos para vagas de emprego e obtenção de tratamentos médicos.

De acordo com parâmetros internacionais, uma IA de confiança deve seguir basicamente três componentes, a serem observados ao longo de todo o ciclo de vida do sistema e de forma harmônica: a) deve ser lícita: em conformidade com o arcabouço normativo aplicável; b) deve ser ética: garantindo a observância de princípios e valores éticos; c) deve ser sólida: tanto do ponto de vista técnico como do ponto de vista social, uma vez que, mesmo com boas intenções, os sistemas de IA podem causar danos não intencionais.

Contamos com profissionais experientes no tema para oferecer serviços de consultoria especializada, contemplando:

• Privacy by design e Privacy by default

Os principais sistemas de IA realizam coleta e análise de grande volume de dados. Nesse sentido, a privacidade e a proteção de dados devem ser incorporadas ao longo de todo o ciclo de vida dessas tecnologias, desde o estágio inicial do projeto até sua implantação, uso e disposição final – abordagem conhecida como Privacy by Design.

Trata-se de um panorama proativo, e não reativo, que objetiva antecipar e evitar eventos invasivos à privacidade de usuários antes que eles aconteçam. Além disso, a privacidade deve ser o padrão do sistema, no sentido de que, para mantê-la em segurança, nenhuma ação é requerida dos usuários (Privacy by Default).

• Auditoria de sistemas de IA

Sistemas de Inteligência Artificial, sobretudo aqueles pautados em técnicas de aprendizado de máquina (machine learning), têm elevado grau de opacidade, sendo difícil compreender e explicar como determinado output foi alcançado. Além disso, são capazes de reproduzir certos padrões discriminatórios ou simplesmente indesejados ao “aprender” a partir dos dados fornecidos.

Assim, a auditoria de uma IA objetiva trazer transparência ao funcionamento do sistema, identificando a existência de vieses e impedindo aplicações potencialmente discriminatórias. Para tanto, são analisadas informações como a qualidade dos dados utilizados para alimentar o sistema; as variáveis consideradas; e o peso atribuído a cada uma delas.

A adoção de uma auditoria pode ser necessária, por exemplo, à luz da LGPD, segundo a qual o titular tem direito a solicitar a revisão de decisões a seu respeito que tenham sido tomadas unicamente com base em tratamento automatizado de seus dados pessoais (art. 20). Nesse contexto, caberá ao responsável pelo tratamento oferecer informações acerca dos critérios e dos procedimentos utilizados para alcançar referida decisão e, caso não o faça, poderá ser realizada auditoria por parte da ANPD.

• Avaliação de Impacto de Inteligência Artificial (Artificial Intelligence Impact Assessment)

A Avaliação de Impacto de Inteligência Artificial (Artificial Intelligence Impact Assessment ou AIIA) consiste em uma ferramenta prática para auxiliar uma organização a projetar, empregar e auditar tecnologias de IA (incluindo os dados de entrada e saída) de maneira ética e legal.

A Avaliação de Impacto analisa questões como o contexto social da aplicação da IA, suas características (como autonomia, complexidade, transparência e previsibilidade), os resultados objetivados e seu impacto tanto para a organização quanto para os indivíduos afetados. São também abordados os marcos éticos e legais relevantes à aplicação da tecnologia, como leis e regulamentos, diretrizes e padrões internacionais, códigos de conduta, dentre outros.

Em suma, trata-se de metodologia apta a ajudar as organizações a mapear os benefícios de sistemas de IA, inclusive sociais; analisar a sua confiabilidade, segurança e transparência; identificar os seus valores e objetivos; entender e limitar os seus riscos; e refletir se as opções foram feitas com ponderações éticas.

• Capacitação e treinamento

A realização de treinamentos abordando os principais aspectos éticos e jurídicos envolvidos no uso de tecnologias de IA é fundamental para que organizações públicas e privadas, em qualquer campo ou setor, realizem sua implementação de maneira bem-sucedida.

Sessões personalizadas de capacitação têm o objetivo de conscientizar equipes multidisciplinares acerca das principais questões éticas e jurídicas envolvidas no uso de IA. Desse modo, o propósito é fazer com que os colaboradores estejam não apenas familiarizados com o tema, mas aptos a tomar decisões que impulsionam o objetivo da organização de maneira responsável e conforme a lei.

• Política de Governança Algorítmica

A Política de Governança Algorítmica busca definir os princípios, diretrizes e melhores práticas a serem observados pela organização no desenvolvimento e implementação de produtos e serviços que façam uso de IA. É pautada pela legislação em vigor e pelos principais padrões de conduta do mercado, tendo como propósito a construção de uma política alinhada com os objetivos da organização e com as normas e valores do seu grupo de usuários.

• Responsabilidade civil e criminal

A possibilidade de que certas tecnologias de IA atuem de maneira autônoma, independentemente de direcionamentos por parte de seus programadores e usuários, traz questionamentos acerca da segurança, transparência e alocação de responsabilidade na hipótese de danos.

Nesse contexto, é fundamental compreender as regras vigentes no que diz respeito à responsabilidade, civil e criminal, por danos causados por uma IA, de forma a mitigar os riscos associados à sua utilização. Para tanto, é importante entender os regimes de responsabilidade aplicáveis caso a caso; a possibilidade de mitigação de riscos por meio da adoção de cláusulas contratuais protetivas; e as ofertas existentes no mercado relacionadas à contratação de seguros para arcar com danos causados por uma IA.

• Contratos envolvendo IA

Uma consultoria especializada também inclui o serviço de elaboração e de negociação de contratos que tenham como objeto sistemas de Inteligência Artificial, incluindo questões atinentes ao licenciamento, distribuição e desenvolvimento de software, transferência de tecnologia, entre outros.

Além disso, inclui-se também a análise de contratos envolvendo IA para apurar a viabilidade do negócio, bem como a validade e segurança jurídica do documento e a elaboração de pareceres jurídicos e análises de risco da operação.

• Termos de Uso e Avisos de Transparência

Entre os principais elementos do accountability elencados pelo Centre for Information Policy Leadership (CIPL) encontra-se a transparência, devendo os agentes de IA se comprometerem com a divulgação responsável em relação aos seus sistemas.

Para tanto, devem fornecer informações significativas, adequadas ao contexto e consistentes com o estado da arte, da seguinte forma:

• Promovendo a compreensão geral dos sistemas de IA;
• Conscientizando as partes interessadas sobre suas interações com os sistemas de IA;
• Permitindo que os afetados por um sistema de IA compreendam seu resultado; e
• Permitindo que os afetados adversamente por um sistema de IA desafiem seu resultado com base em informações simples e fáceis de entender sobre os fatores e a lógica que serviram de base para a previsão, recomendação ou decisão.

• Visual Law

A empresa deve ter políticas, termos, instruções e documentos que estabeleçam as diretrizes acerca da utilização de softwares de IA.

Para auxiliar na compreensão do uso das ferramentas pelos usuários, assim como pelos colaboradores, fornecedores e terceiros que participem da cadeia de fornecimento de produtos ou prestação de serviços, o Visual Law é o caminho. A utilização de elementos visuais, por meio do Visual Law, facilita o entendimento de informações legais, cuja compreensão costuma ser complexa para quem não tem familiaridade com o Direito.

• Atuação no Conselho de Inovação de IA

A consultoria envolve, ainda, o auxílio no estabelecimento de um “Conselho de inovação de IA”, multissetorial e com competência para orientar e estabelecer referências para auxiliar as organizações na identificação de IA de alto risco. O papel do Conselho é também promover as melhores práticas para mitigar riscos, podendo as organizações consultá-lo sobre casos específicos de uso da IA.

• Contencioso Estratégico

Tendo em vista a existência de litígio que discuta a tomada de decisão por sistemas automatizados, seja pela perspectiva do titular de dados pessoais, do consumidor, do empregado/trabalhador ou até mesmo em relações comerciais entre empresas, é de extrema relevância a atuação estratégica, levando em consideração a situação fática, os impactos da tecnologia aplicada e os regimes de responsabilização existentes no ordenamento jurídico.