Se o relatório do Marco Legal da Inteligência Artificial (IA) apresentado, no dia 28 de novembro, no Senado Federal, traz melhorias consideráveis em relação a versões anteriores do texto, ainda apresenta pontos que precisam ser ajustados para que a regulação não trave o avanço tecnológico e produza insegurança jurídica ao buscar a necessária proteção de direitos fundamentais, na avaliação da Federação do Comércio de Bens, Serviços e Turismo do Estado de São Paulo (FecomercioSP).
O Projeto de Lei (PL) 2.338/23, relatado pelo senador Eduardo Gomes (PL/TO) e proposto pelo presidente da Casa, Rodrigo Pacheco (PSD/MG), há quase dois anos, tem sido acompanhado de perto pela Entidade, que, desde o início dos debates, se mobiliza por uma regulação equilibrada com o Congresso e o governo. A Federação é a idealizadora de um decálogo com dez princípios que devem nortear a regulação da tecnologia no Brasil.
O conjunto de normas ressalta, dentre outros aspectos, que é preciso ter cautela ao regular uma nova tecnologia, pois a legislação deve ser suficientemente flexível e adaptável às rápidas mudanças, permitindo experimentação, inovação e evolução contínua dos sistemas de IA. Outro ponto destacado pelo decálogo é que os benefícios da IA vêm acompanhados de muitas ameaças, mas esse fato não pode produzir amarras ao desenvolvimento da tecnologia. Para isso, a norma deve trazer critérios para avaliação de risco que sirvam de diretrizes à sua utilização pelos diversos setores da economia.
Modelo de regulação da IA
Nesse sentido, em discussão sobre o PL de IA no Plenário do Senado, em junho deste ano, a FecomercioSP foi contundente ao afirmar que é preciso muita cautela, além de entendimento sobre como a IA é projetada, desenvolvida e implantada e de análise de impacto regulatório para encontrar o melhor modelo de regulação. Isso acontece porque, no Brasil, já há vários problemas de investimentos e infraestrutura, bem como desenvolvimento incipiente de pesquisa e patentes, aumento de desigualdades e fuga de talentos e de startups — o que pode causar perda de competitividade na implementação da ferramenta.
Avanços
O texto apresentado pelo senador Gomes avançou em diversos aspectos e trouxe melhorias importantes, contemplando, inclusive, sugestões da FecomercioSP, como:
- abordagem focada nas aplicações de IA de alto risco;
- redução do perigo de judicialização em massa em razão da criação de novos direitos desproporcionais para aplicações de IA de baixo risco;
- carga de governança proporcional ao risco: exclusão da obrigação de avaliação preliminar para atividades de baixo risco, com simplificação das atividades de manutenção de registros e avaliação de impacto algorítmico para as atividades de alto risco;
- diminuição da carga trabalhista, anteriormente prevista no texto do relatório da comissão, com a disciplina a respeito de demissão ou substituição extensiva da força de trabalho pelo uso da IA, que estava em conflito com a CLT;
- exclusão, da lei, das atividades de pesquisa, teste e desenvolvimento de sistemas, aplicações ou modelos de IA antes de serem lançadas no mercado ou usadas;
- tratamento diferenciado e simplificado para microempresas, empresas de pequeno porte e startups, conforme artigo 179 da Constituição Federal.
Aprimoramentos ainda necessários
Contudo, apesar dos avanços, a FecomercioSP avalia que ainda há pontos de melhorias a serem considerados para que haja segurança jurídica às empresas e à inovação, com destaque para os aspectos a seguir.
Relações trabalhistas: o texto anterior do PL trazia, em seu artigo 56, a atribuição de competência a órgãos administrativos, como o Sistema Nacional de Regulação e Governança em IA (SIA) e o Conselho de Cooperação Regulatória e Inteligência Artificial (CRIA), para a definição de normativos e políticas públicas relacionadas às relações trabalhistas e à matéria de saúde e segurança ocupacional.
Durante a apresentação da medida, a Entidade destacava que, a despeito de representar uma preocupação válida com as relações laborais diante da constante transformação do mercado de trabalho — em virtude da adoção da IA —, a complementação atribui capacidade e legitimidade para a definição de políticas públicas aos órgãos administrativos, enquanto caberia aos poderes da República a criação de normas dirigidas ao setor privado.
No texto atual, a redação da proposta, agora expressa no artigo 58, trouxe melhorias importantes, mas não resolveu a problemática por completo. O relatório continua dando à SIA e à CRIA atribuições de fixação de diretrizes na seara das relações de trabalho, que extrapolam as atribuições relativas ao tema da tecnologia, confrontando a lei de liberdade econômica e princípios constitucionais. Como se sabe, a fixação de regras trabalhistas é atributo exclusivo do legislativo federal, e atos administrativos emanados por outras instâncias tendem a ter a obrigatoriedade contestada judicialmente, causando incertezas e instabilidade. Cabe ressaltar, porém, que o texto foi aprimorado, ao valorizar os instrumentos de negociação e convenções coletivas — estes, sim, com aptidão e respaldo constitucional para a regulação das relações de trabalho.
Risco de judicialização excessiva e conflito de competências: houve avanço importante no tema, mas ainda há receio de que sistemas e processos empresariais que tenham alguma interface com uma camada de IA estejam sujeitos aos novos direitos criados (como revisão, explicação e supervisão humanas). Com isso, abre-se a possibilidade de ampla judicialização, trazendo insegurança para as organizações e aumentando ainda mais o Custo Brasil. Seria mais produtivo se esses elementos fizessem parte das medidas de governança para usos de alto risco e fossem regulados pelas autoridades setoriais competentes, as quais têm melhores condições técnicas de avaliar e mitigar os riscos. Ademais, há o risco de decisões judiciais criarem jurisprudência e concorrerem com as regulamentações pelas autoridades regulatórias competentes.
Regular o uso, e não a tecnologia: neste ponto, também houve avanços na complementação de voto do relator, mas é válido reavaliar o texto de forma estrutural para que as medidas de governança e redução de risco estejam focadas e embasadas do uso da ferramenta, e não na tecnologia em si. Por exemplo, o foco da classificação da lista de IA de alto risco, como está nos artigos 14 e 15, deve estar nas aplicações (uso/finalidade), e não nos sistemas. Não é o sistema em si que traz ameaças, mas como esse é aplicado/utilizado.
Nesse sentido, o inciso 1º do artigo 16 também mereceria ser ajustado para que a autoridade competente publique uma lista consolidada com todos os “usos” de alto risco definidos pelas autoridades setoriais, ao em vez de “sistemas”.
A regulação da IA exerce um papel fundamental e desafiador. É preciso buscar equilíbrio entre a inovação tecnológica e o desenvolvimento econômico e a necessária segurança e proteção dos direitos. A FecomercioSP reconhece o esforço do relator Eduardo Gomes, dos membros da CTIA e do governo nesse sentido, inclusive incorporando ao novo texto diversas das sugestões de melhoria propostas pela Entidade. No mesmo sentido, com espírito de colaboração e de busca pela segurança jurídica, a Federação continuará a contribuir para a construção de um Marco Regulatório equilibrado.
