PROJETO DE LEI No 21/2020 E A REGULAÇÃO DA INTELIGÊNCIA ARTIFICIAL (I.A.) NO BRASIL

Oscar Krost

Há décadas convivemos com a ciência computacional, cujo avanço se estende pelas mais variadas áreas da vida, despertando distintos sentimentos nas pessoas: da devoção à ojeriza, do medo à dependência. Dentre os aspectos mais desenvolvidos até o momento encontra-se a Inteligência Artificial (I.A.), produzindo debates e despertando a atenção, inclusive do Poder Legislativo brasileiro.

Nos primeiros meses de 2020, foi apresentado oProjeto de Lei n^o 21/2020 na Câmara, de autoria do Deputado Eduardo Bismarck (PDT/CE), encontrando-se na Comissão de Ciência e Tecnologia, Comunicação e Informática, desde 12.02.2020.¹Segundo justificativa apresentada, a I.A. “está transformando sociedades, setores econômicos e o mundo do trabalho”, a ponto de sua expansão se mostrar inevitável. Menciona “programas ou máquinas de computador que podem executar tarefas que normalmente exigem a inteligência humana”.²

Refere, ainda, a apresentação, no primeiro semestre de 2019, pela Organização para a Cooperação e Desenvolvimento Econômico (OCDE) de um documento no qual foram enunciados os Princípios éticos para a administração responsável de I.A., firmado por 42 países, dentre os quais o Brasil. Por fim, assume o compromisso de desenvolver uma abordagem da tecnologia centrada no ser humano e voltada para a inovação, produtividade e sustentabilidade, melhoria no bem-estar das pessoas e invoca a necessidade de capacitação e de proteção de dados, nos termos da Lei Geral de Proteção de Dados (Lei n^o 13.709/18).³

As intenções do Legislador são coerentes tanto com os anseios da sociedade, quanto com o projeto de Estado Democrático de Direito estabelecidos na Constituição. Contudo, faz-se essencial uma leitura atenta do texto, avaliando de modo pormenorizado se há uma adequação entre meios e fins.

O art. 1^o apresenta como objetivo da norma estabelecer princípios, direitos, deveres e instrumentos de governança para o uso da I.A. no país, bem como determinar diretrizes de atuação do Poder Público, em todas as esferas, e dos particulares, assim também considerados os entes não dotados de personalidade jurídica.

A redação contempla não apenas as regras jurídicas, espécie normativa que permite, proíbe ou promove, mas também Princípios, assim considerados os mandamentos de otimização, na conhecida definição de Robert Alexy. Evidencia a estruturação de um microssistema aberto, propositalmente incompleto, com hipóteses não taxativas, voltadas a pessoas naturais ou jurídicas, de direito público ou privado, ainda que não dotadas de personalidade perante o Direito. Em tese, não haveria sujeitos fora do campo de incidência da lei dentro do território nacional.

I.A. é conhecimento em forma de tecnologia, “bem” imaterial, intangível e não palpável. Ao contrário de coisas físicas e materiais, não se submetem à dimensão territorial, operando por todo o planeta sem observar fronteiras geopolíticas. Diante de tal realidade, a ausência de menção expressa sobre países, sujeitos e capitais estrangeiros significa que o Legislador não os diferencia dos nacionais ou apenas que os esqueceu? Existiria, por hipótese, alguma imunidade de jurisdição ou de aplicação legal para sujeitos não brasileiros? Eis alguns pontos para amadurecimento no curso da tramitação do Projeto de Lei.

No art. 2^o são definidos alguns conceitos-chave para a compreensão da matéria, a saber: “sistema de I.A.”, “ciclo de vida do sistema de I.A.”, “conhecimento em I.A.”, “agentes de I.A.”, “partes interessadas” e “relatório de impacto de I.A.”.

“Sistema de I.A.” é o sistema baseado em processo computacional capaz de realizar previsões/recomendações ou “tomar decisões” para um determinado objetivo (inciso I). O ato decisório corresponde àquele que influencia ambientes “reais ou virtuais”.

“Ciclo de vida do sistema de I.A.” são as fases de planejamento, desenvolvimento e implantação do sistema (inciso II). Abrange, também, a coleta e monitoramento de dados.

Por “conhecimento em I.A.” tem-se as habilidades e os recursos para conceber, gerir, entender e participar do funcionamento do sistema (inciso III) . Alcança códigos, algoritmos, pesquisas, treinamentos, governança e “melhores práticas”.

“Agentes de I.A.” são pessoas físicas e jurídicas, de direito público ou privado, bem como entes despersonalizados (inciso IV). Dividem-se em “agentes de desenvolvimento”, responsáveis pelo planejamento/design, coleta/processamento de dados, construção de modelo, verificação/validação ou implantação do sistema (alínea “a”) e “de operação”, incumbidos das fases de monitoramento e de operação (alínea “b”).

“Partes interessadas” correspondem aos envolvidos ou atingidos pelo sistema, direta ou indiretamente (inciso V). Afeta, de modo expresso, os “agentes de I.A.”

O “relatório de impacto de I.A.” representa a documentação dos “agentes de I.A.”, contendo a descrição do ciclo de vida do sistema (inciso VI). Deve prever medidas, salvaguardas e mecanismos de gerenciamento e de mitigação de riscos de cada fase, levando em conta fatores como segurança e privacidade.

Por se tratar de matéria eminentemente técnica, a um leitor leigo ou iniciante no tema, os conceitos em questão mostram-se compreensíveis, embora possam deixar dúvidas em relação ao alcance e à taxatividade. Merece particular atenção a expressão “tomada de decisões” utilizada na definição de “sistema de I.A.”. Decidir é ato volitivo, inerente à pessoa física, optar entre duas ou mais possibilidades disponíveis. Mesmo pessoas jurídicas, quando escolhem, assim o fazem por intermédio de pessoas naturais habilitadas com poderes para tanto.

Portanto, demonstra dubiedade a redação do texto. A definição sobre o acolhimento ou não de previsões apresentadas pela I.A. sempre caberá a um responsável pela operação/manejo do sistema. Ferramentas jamais serão protagonistas da ação. Quando muito, servem de apoio a alguém, no caso o sujeito ativo da prática. Do contrário, se constatada inconsistência, problema ou controvérsia, caberia responsabilizar algo e não alguém?

O art. 3^o determina que na interpretação da lei devem ser considerados não só os fundamentos, objetivos e princípios nela estabelecidos, mas também a relevância da I.A. para a inovação, aumento da competitividade, crescimento econômico sustentável/inclusivo e promoção do desenvolvimento humano/social. Propõe critérios hermenêuticos de ponderação entre meios e fins, indicando possibilidades e justificativas a amparar o emprego da tecnologia aos Operadores do Direito e destinatários da regra. Contrario sensu, acaba definindo objetivos e usos indesejáveis e proibidos.

No art. 4^o constam como fundamentos sobre o uso da I.A. o desenvolvimento tecnológico e inovação (inciso I), livres iniciativa e concorrência (inciso II), respeito aos direitos humanos e aos valores democráticos (inciso III), igualdade, não discriminação, pluralidade e o respeito aos direitos trabalhistas (inciso IV) e privacidade/proteção de dados (inciso V). Arrola hipóteses exemplificativas, reproduzindo, em apertada síntese, trechos da Constituição (preâmbulo e arts. 3^o, inciso IV, 4^o, inciso II, 5^o, incisos X, XXIX e XLI, 7^{o ,} e, caput e inciso XXXVI, 170).

Reafirma os fundamentos da responsabilidade civil e do regular exercício de direito consagrados no Código Civil (arts. 186, 187, 422, 927, 931 e 942). Eventual desvirtuamento no uso da tecnologia dá ensejo à responsabilização de quem o der causa. Faz lembrar, ainda, em sedes trabalhista e consumeirista, a responsabilidade objetiva do empregador, fabricante, produtor, construtor e importador pelos riscos do negócio ou do produto/serviço (arts. 2^o, caput, da CLT, e 12, caput, da Lei 8.078/90 – o Código de Defesa do Consumidor).

A cada artigo examinado, mais evidente se percebe a formação de um microssistema normativo aberto. Os institutos e conceitos se comunicam explícita ou implicitamente com a Constituição e com demais diplomas legais. Entretanto, tamanha fluidez, se não dosada, pode ser tão prejudicial à concretização das propostas apresentadas quanto o excesso de rigidez.

O que significa respeito aos valores democráticos ou aos Direitos Trabalhistas? E livres iniciativa ou concorrência? Alguns destes elementos costumam ocupar posições opostas em situações reais e não raramente entram em rota de colisão. O Legislador pode até optar por não descrever condutas em detalhes, evitando a desatualização do texto. Contudo, tem-se por prudente proceder à regulamentação posterior, haja vista vivemos em um país de tradição jurídica romano-germânica, no qual a lei ainda é a principal fonte de Direito.

A Constituição, neste particular, assegura que ninguém pode ser obrigado a fazer ou deixar de fazer algo, senão em virtude de lei (Princípio da Legalidade, art. 5^o, inciso II). Tamanha abstração do sistema pode reduzi-lo a mais uma norma programática, de mera recomendação, ao invés de um legítimo regramento de aplicação cogente.

No art. 5^o são enunciados os objetivos do uso da I.A. no país: pesquisa e desenvolvimento da própria I.A. “ética e livre de preconceitos” (inciso I), competitividade e aumento de produtividade, bem como da melhoria dos serviços públicos (inciso II), crescimento inclusivo, bem-estar da sociedade e redução das desigualdades sociais e regionais (inciso III), medidas para reforçar a capacidade humana e preparar a transformação do mercado de trabalho conforme a I.A. for implantada (inciso IV) e cooperação internacional com o compartilhamento de conhecimento e adesão a padrões globais, a fim de permitir a interoperabilidade dos sistemas (inciso V).

Mais uma vez são recordados os valores e promessas constitucionais, de modo amplo e genérico. Difícil afastar a impressão de estar-se diante de um remake de um filme clássico já assitido repetidas vezes, mas agora com matizes renovadas. Algo como “são direitos dos trabalhadores urbanos e rurais, além de outros que visem à melhoria de sua condição social (…) proteção em face da automação, na forma da lei” (art. 7^o, caput, e inciso XXVII da Constituição). Em tese, e somente no plano das ideias, coerente e perfeito.

O art. 6^o enuncia os Princípios para o uso responsável da I.A. no Brasil, explicando cada um. Faz referência aos objetivos da tecnologia, em rol exemplificativo, não excluindo outros estabelecidos no Direito pátrio ou mesmo Internacional, acaso internalizados (parágrafo único). São eles: finalidade (inciso I), centralidade no ser humano (inciso II), não discirminação (inciso III), transparência e explicabilidade (inciso IV), segurança (inciso V) e responsabilização/prestação de contas (inciso VI).

A finalidade recai sobre a busca por resultados benéficos às pessoas e ao planeta, aumentando a capacidade humana, reduzindo desigualdades e promovendo o desenvolvimento sustentável. A centralidade do ser humano significa o resepeito à dignidade da pessoa, intimidade, proteção de dados e direitos trabalhistas. A não discriminação quer dizer a vedação de uso para fins discriminatórios, ilícitos ou abusivos.

A transparência e a explicabilidade dizem respeito à utilização e funcionamento dos sistemas da I.A., além de divulgação responsável do conhecimento. Em todo os casos, são assegurados os segredos comercial e industrial, além da conscientização sobre o manejo, inclusive no ambiente de trabalho.

A segurança corresponde ao emprego de medidas técnicas e administrativas, compatíveis com os padrões internacionais, a fim de viabilizar a funcionalidade e gerenciamento de riscos, garantindo a rastreabilidade de processos de decisões tomadas. A responsabilização e prestação de contas consagra a demonstração dos agentes de I.A. da observância de regras e medidas eficientes ao bom funcionamento dos sistemas.

No art. 7^o são estabelecidos os direitos dos interessados, em âmbito público e privado: ciência da instituição responsável pelo sistema (inciso I), acesso a informações sobre critérios e procedimentos que possam lhes afetar de modo adverso, respeitados os segredos comercial e industrial (inciso II) e acesso a informações sobre uso de dados sensíveis, nos termos da Lei n^o 13.709/18 (LGPD), art. 5^o, inciso II (inciso III).

Os direitos mencionados não prejudicam o disposto no art. 20 da Lei n^o 13.709/18 (LGPD) (§1º), podendo ser exercidos a qualquer momento. Para tanto, basta a apresentação de requerimento à instituição responsável pelo sistema ou aos agentes de I.A., observadas as respectivas funções (§2º)

É garantida pelo art. 8^o a defesa de direitos dos interessados na esfera judicial – individual e coletivamente -, conforme legislação atinente aos instrumentos de tutela. A referência diz respeito a ferramentas existentes e manejadas largamente, a exemplo da Ação Popular e da Ação Civil Pública, de modo a prevalecer o Direito de Acesso ao Judiciário de forma ampla e facilitada.

Por sua vez, no art. 9^o são arrolados os deveres dos agentes de I.A. em sintonia com valores e Princípios descritos. Impõe a divulgação pública da instituição responsável pelo estabelecimento do sistema (inciso I), o fornecimento de informações sobre critérios e procedimentos, fazendo menção ao art. 7^o, inciso II (inciso II), a garantia de que os dados utilizados pelo sistema observem a Lei n^o 13.709/18(LGPD) (inciso III), implantação do sistema apenas após a avaliação adequada de seus objetivos, benefícios e riscos, em cada fase e, acaso responsável por ele, seu encerramento quando o controle humano não for mais possível (inciso IV). Devida, ainda, uma resposta, nos termos da lei, pelas decisões tomadas pelo sistema (inciso V) e a proteção contínua contra ameaças cibernéticas (inciso VI). A tutela à violação cabe aos agentes de desenvolvimento e de operação, observadas as respectivas funções.

O art. 10 estabelece diretrizes para atuação da União, Estados, Distrito Federal e Municípios. Ao deixar de mencionar hierarquia ou divisão de competências, adotado um critério sistemático de interpretação, conclui-se ser um agir concorrente, nos termos da Constituição. Contudo, por se tratar de matéria que supera os limites geográficos regionais, recomendável uma normativa uniforme para todo o país.

As diretrizes, em linhas gerais, consistiriam em investimentos públicos e privados em pesquisa e desenvolvimento de I.A. (inciso I), ambiente favorável à implantação dos sistemas, com adaptação de estruturas políticas e legislativas para a adoção de novas tecnologias (inciso II), interoperabilidade tecnológica dos sistemas utilizados pelo Poder Público entre Poderes e entes federados (inciso III), adoção preferencial de tecnologias, padrões e formatos abertos e livres (inciso IV), capacitação humana e preparação para o mercado de trabalho (inciso V) e mecanismos de governança multiparticipativa, transparente, participativa e democrática, envolvendo governo, setor empresarial, sociedade civil e comunidade acadêmica.

A estrutura quadripartite oportuniza a diversidade e enriquece o diálogo. Contudo, inegável haver a falha de “paralelismo” ao se garantir representação dos setores público e privado, mas não dos sujeitos responsáveis e afetados pela produção. O assento dos capitais econômico e cognitivo não possui correspondência do lado dos trabalhadores. Além disso, sociedade civil é conceito amplo e abstrato, podendo seu mandatário ser escolhido por qualquer critério, inclusive nenhum. Sem dúvida, tem-se alguns pontos à reflexão, debate e aperfeiçoamento na proposta.

O art. 11 permite a atuação da União, Estados, Distrito Federal e Municípios, diretamente ou por autarquias e fundações, como agentes de desenvolvimento e operação de sistemas. Em qualquer hipótese, observarão as mesmas regras do setor privado. Notória a incongruência do texto com os objetivos e fins da I.A. até então anunciados. O agir do Poder Público seguindo os mesmos parâmetros da iniciativa privada consagra uma ideia de disputa e concorrência, contrária aos ideias de auxílio e colaboração. Parece outro remake, desta vez da “exploração direta de atividade econômica pelo Estado só será permitida quando necessária aos imperativos da segurança nacional ou a relevante interesse coletivo”, sujeitando-se “ao regime jurídico próprio das empresas privadas, inclusive quanto aos direitos e obrigações civis, comerciais, trabalhistas e tributários” (art. 173, caput, e §1º, inciso II, da Constituição).

Mostra-se mais adequado às intenções do Constituinte tratar a I.A. como questão de interesse público, passível de criação, desenvolvimento e disseminação pelos particulares, observados limites específicos. Algo como a saúde e a educação nacionais, após 1988 (arts. 196, 199, 295 e 209 da Constituição).

Pelo art. 12 é imposto ao Poder Público o dever de adotar sistemas de I.A. na Administração e na prestação de seus serviços, visando à eficiência e redução de custos. Eficiência é fazer mais com menos ou melhor com iguais recursos. Trata-se de um dos Princípios do art. 37 da Constituição ao lado da Legalidade, Impessoalidade, Moralidade e Publicidade. Diante desta realidade, desnecessário reafirmar o interesse em reduzir despesas, tendo em vista que o equilíbrio das públicas não pode se igualar ou sobrepor sobre a busca do bem comum. A “reserva do possível” estabelecida nestes moldes deslegitima a iniciativa legiferante, enfraquece a norma e induz a seu descumprimento.

Deverão ser promovidas a gestão estratégica e orientações quanto ao uso transparente e ético do sistema de I.A. no setor público (parágrafo único). Embora cautela nunca seja demais, aqui se encontra em excesso, bem como em contradição com o artigo anterior. Naquele, as regras aplicáveis devem ser as mesmas aos sujeitos de Direito Público e Privado, porém a imposição de transparência e ética direciona-se apenas ao Estado. Por lógica e coerência, a responsabilidade alcança também o setor privado, em virtude dos valores e Princípios enunciados na própria norma. A fim de evitar controrvérsia desnecessárias, cabe uma melhora na redação do texto, no aspecto.

O art. 13 faculta à União, Estados, Distrito Federal e Municípios solicitar aos agentes do sistema, quando pertinente, a publicação de relatórios de impacto de I.A. Permite, ainda, que recomendem a adoção de padrões e de boas práticas para implantação e operação. Aqui percebe-se que embora haja igualdade de condições entre o setor público e o privado, o Legislador reservou àquele um ônus extra, de acompanhamento e fiscalização. Estivéssemos tratando de um campo de colaboração e auxílio, nenhum problema haveria, ao contrário de um âmbito concorrencial e competitivo. É preciso deixar claro “a quem” e “ao que” serve a I.A., sob risco de não sairmos do campo discursivo.

Pelo art. 14 é reafirmado o compromisso do Estado no cumprimento de seu dever constitucional de prestar serviços públicos, pela manutenção e desenvolvimento do ensino, em todos os níveis. Para tanto, deve promover a capacitação integral e outras práticas educacionais de uso confiável e responsável dos sistemas de I.A., assim entendido como ferramenta para o exercício da cidadania, avanço científico e desenvolvimento tecnológico. A capacitação inclui práticas pedagógicas inovadoras e a ressignificação dos processos de formação de professores e atividades em sala de aula, bem como ferramenta pedagógica em sala de aula (parágrafo único).

O art. 15 estabelece caber ao Poder Público, em conjunto com agentes de I.A., sociedade civil e setor empresarial formular e fomentar estudos/planos para promover a capacitação humana e para definição de boas práticas para o desenvolvimento ético e responsável do sistema de I.A. no país. Renova-se a crítica feita ao art. 10, com a agravante de que a parceria não levou em conta, no art. 15, a comunidade acadêmica. A responsabilidade é do Poder Público, mas a limitação de sujeitos envolvidos traduz um silêncio eloquente. O art. 16 estabelece a vacância de 30 dias da lei, entre a publicação e a entrada em vigor, lapso questionável, por atingir situações existentes e delinear outras tantas ainda porvir, o que abrange disposições vigentes em outros países. A regra tem aplicação aos fatos ocorridos em território nacional, porém em momento algum trata expressamente dos sujeitos estrangeiros, como alertado no comentário ao art. 1^o.

Em linhas gerais, o projeto apresenta pontos positivos, como estabelecer, de modo enfático, o viés principiológico do microssistema, ancorado na Constituição e em normativas internacionais. De outro lado, causa preocupação a referência ao mercado e aos direitos trabalhistas sem que os sujeitos subordinados ou os respectivos órgãos de classe tenham voz assegurada em instâncias deliberativas, ao contrário da comunidade acadêmica, sociedade civil e empresariado.

Máquinas e ferramentas são produtos da mente humana e, como tal, carregam suas cargas “genética” e espiritual, com anjos e demônios. Com a I.A. não se faz diferente, pois os programas refletem a visão de mundo do programador, seguindo diretrizes e parâmetros. Essencial não perder de vista que criador e criatura, como no clássico “Frankenstein”, de Mary Shelley, jamais se separam por completo. O banco de dados é alimentado e padronizado com objetivos próprios e definidos.

Tome o rumo que o Projeto de Lei tomar, assim como o reconhecimento, implantação e desenvolvimento da I.A. no Brasil, não se pode perder de vista estar-se diante de um fenômeno transnacional e de volatilidade sem precedentes, portanto, de difícil regulação pelo Direito. Como afirmado recentemente em comentário sobre a Lei n^o 13.709/18 (LGPD), conhecimento, poder e violência representam muito em termos de força e possibilidades. Portanto, essencial se fazerem acompanhar de deveres e responsabilidades,⁴ o que só pode ser alcançado por meio de profundo debate com todos os interessados, direta e indiretamente, na matéria, integrantes da sociedade civil.

1 Informação disponível em <https://www.camara.leg.br/propostas-legislativas/2236340>. Acesso em: 12 out. 2020.

2 Folha 07 do relatório parlamentar, disponível em <https://www.camara.leg.br/proposicoesWeb/prop_mostrarintegra?codteor=1853928>. Acesso em: 12 out. 2020.

3 Relatório parlamentar.

4 KROST, Oscar. Prometeu acorrentado, LGPD e o Direito do Trabalho, disponível em <https://direitodotrabalhocritico.wordpress.com/2020/09/15/prometeu-acorrentado-lgpd-e-o-direito-do-trabalho/>. Acesso em: 12 out. 2020.