Rodrigo Pacheco apresenta proposta que cria autoridade para fiscalizar uso da Inteligência Artificial

O presidente do Senado Federal, Rodrigo Pacheco (PSD-MG) protocolou na última quarta-feira (03/05) o Projeto de Lei n° 2338, de 2023, que propõe estabelecer normas gerais de caráter nacional para o desenvolvimento, implementação e o uso responsável de sistemas de inteligência artificial no país.

O texto apresentado se baseia no trabalho desenvolvido pela Comissão de Juristas, objetivando a proteção de direitos e liberdades fundamentais, a valorização do trabalho e da dignidade da pessoa humana e a inovação tecnológica representada pela inteligência artificial.

Cumpre mencionar que a proposta aborda temas referentes aos direitos fundamentais, dados pessoais, modelo regulatório, governança multissetorial, responsabilização, ética, discriminação, transparência e explicabilidade, pesquisa, desenvolvimento e inovação, educação, capacitação e trabalho, inteligência artificial na administração pública, mineração de dados, e direitos autorais.

De acordo com a justificativa apresentada por Pacheco a proposta tem um duplo sentido. De um lado, visa estabelecer direitos para proteção da pessoa natural que é diariamente é impactada pela inteligência artificial, desde a recomendação de conteúdo e direcionamento de publicidade até a análise de elegibilidade para tomada de crédito e determinadas políticas públicas.

De outro lado, também objetiva dispor de ferramentas de governança e de arranjo institucional de fiscalização e supervisão, ainda prevê a criação de condições de previsibilidade acerca da sua interpretação e, em última análise, segurança jurídica para inovação e o desenvolvimento tecnológico.

Ainda segundo o presidente do Senado, o projeto tem como premissa a inexistência de trade- off entre a proteção de direitos e liberdades fundamentais, da valorização do trabalho e da dignidade da pessoa humana face à ordem econômica e à criação de novas cadeias de valor.

O texto proposto, inicialmente, define fundamentos e princípios gerais para o desenvolvimento e utilização dos sistemas de inteligência artificial, que balizam todas as demais disposições específicas.

Ademais, a proposta dedica um capítulo específico à proteção dos direitos das pessoas afetadas por sistemas de inteligência artificial, no qual: garante acesso apropriado à informação e adequada compreensão das decisões tomadas por esses sistemas; estabelece e regula o direito de contestar decisões automatizadas e de solicitar intervenção humana; e disciplina o direito à não discriminação e à correção de vieses discriminatórios.

Além de fixar direitos básicos e transversais para todo e qualquer contexto em que há interação entre máquina e ser humano, como informação e transparência, intensifica-se tal obrigação quando o sistema de IA produz efeitos jurídicos relevantes ou impactem os sujeitos de maneira significativa (ex: direito de contestação e intervenção humana). Assim, o peso da regulação é calibrado de acordo com os potenciais riscos do contexto de aplicação da tecnologia. Foram estabelecidas, de forma simétrica aos direitos, determinadas medidas gerais e específicas de governança para, respectivamente, sistemas de inteligência artificial com qualquer grau de risco e para os categorizados como de alto risco.

Ao abordar a categorização dos riscos da inteligência artificial, a proposição estabelece a exigência de avaliação preliminar; define as aplicações vedadas, por risco excessivo; e define as aplicações de alto risco, sujeitas a normas de controle mais estritas.

No que tange à governança dos sistemas, o projeto elenca as medidas a serem adotadas para garantir a transparência e a mitigação de vieses; fixa medidas adicionais para sistemas de alto risco e para sistemas governamentais de inteligência artificial; e normatiza o procedimento para a avaliação de impacto algorítmico.

O texto ainda aborda as regras de responsabilização civil envolvendo sistemas de inteligência artificial, definindo inclusive as hipóteses em que os responsáveis por seu desenvolvimento e utilização não serão responsabilizados.

Conforme a gradação de normas de acordo com o risco imposto pelo sistema a proposta prevê um capítulo que trata da responsabilidade civil: quando se tratar de sistema de IA de alto risco ou de risco excessivo, o fornecedor ou operador respondem objetivamente pelos danos causados, na medida da participação de cada um no dano. E quando se tratar de IA que não seja de alto risco, a culpa do agente causador do dano será presumida, aplicando-se a inversão do ônus da prova em favor da vítima.

O projeto também reforça a proteção contra a discriminação, por meio de diversos instrumentos, como o direito à informação e compreensão, o direito à contestação, e em um direito específico de correção de vieses discriminatórios diretos, indiretos, ilegais ou abusivos, além das medidas de governança preventivas. Além de adotar definições sobre discriminação direta e indireta, o texto tem como ponto de atenção grupos (hiper)vulneráveis tanto para a qualificação do que venha ser um sistema de alto risco como para o reforço de determinados direitos.

Ao dispor sobre a fiscalização da inteligência artificial, o projeto determina que o Poder Executivo designe órgão ou entidade da Administração Pública Federal para zelar, implementar e fiscalizar o cumprimento das normas estabelecidas.

A autoridade terá de zelar pela proteção a direitos fundamentais e a outros direitos afetados pela utilização de sistemas de inteligência artificial; promover a elaboração, atualização e implementação da Estratégia Brasileira de Inteligência Artificial junto aos órgãos competentes; estimular a adoção de boas práticas, inclusive códigos de conduta, no desenvolvimento e utilização de sistemas de inteligência artificial; e expedir normas para a regulamentação da futura lei em vigor. Caberá ainda atualizar a lista dos sistemas de inteligência artificial de risco excessivo ou de alto risco.

São também previstas medidas para fomentar a inovação da inteligência artificial, destacando-se o ambiente regulatório experimental (sandbox regulatório), estabelecendo que a autoridade competente editará regulamentação para estabelecer procedimento para a solicitação e autorização de funcionamento de sandboxes regulatórios.

Situação Legislativa

A proposta foi apresentada ao Plenário do Senado Federal na data de 03 de maio de 2023 e aguarda despacho pela Secretaria Legislativa da Casa.

Acesse AQUI a íntegra do Projeto de Lei n° 2338, de 2023.

Permanecemos à disposição através do e-mail agfadvice@agfadvice.com.br e do telefone (51) 3573-0573.

AGF Advice Consultoria Legislativa, Tributária e Empresarial