30/08/2021 – 22:52
Reprodução/TV Câmara
Ingrid Soares: os sistemas devem ser regulados conforme o risco que apresentam
Magistradas, pesquisadores e especialistas em tecnologia da informação sugeriram nesta segunda-feira (30) que a Câmara dos Deputados retire a urgência e analise com mais tempo o Projeto de Lei 21/20, que cria regras para o uso de sistemas de inteligência artificial (IA) no País. A avaliação é que a proposta envolve tanto questões éticas – ligadas a direitos humanos e fundamentais – quanto legais, como a responsabilização por danos causados a terceiros, exigindo um debate mais amplo com a sociedade.
Na prática, a inteligência artificial aparece nos sistemas de reconhecimento facial, em carros que rodam sem motorista e, na medicina, em equipamentos capazes de interpretar exames de imagem, como radiografias, além de outras aplicações em diversas áreas.
O projeto em análise na Câmara, de autoria do deputado Eduardo Bismarck (PDT-CE), define os sistemas de IA como processos computacionais que podem, a partir de objetivos definidos pelo homem, fazer previsões, recomendações ou até tomar decisões por conta própria.
Coordenadora de Inteligência Artificial do Laboratório de Políticas Públicas e Internet (Lapin), Ingrid Soares disse que o principal desafio é exatamente equilibrar os pontos positivos do uso da tecnologia com os riscos a ela inerentes. Para ela, os sistemas devem ser regulados conforme o risco que apresentam para a sociedade.
“O dano causado pelo sistema pode ser tanto material – como a perda de uma vida causada por acidente com carro autônomo, por exemplo – como imaterial, envolvendo o direito à privacidade e questões ligadas à discriminação”, observou ela, durante o debate sobre o projeto na Comissão de Ciência e Tecnologia, Comunicação e Informática.
Representante do grupo de especialistas sobre a Ética da Inteligência Artificial da Unesco – braço das Organização das Nações Unidas para a Educação –, Edson Prestes disse que a entidade tem discutido com foco nos direitos humanos. “Nós temos discutido, de uma forma geral, não apenas a parte econômica, mas a proteção ambiental, a igualdade de gênero e vários outros assuntos. Esses aspectos foram debatidos pela comunidade internacional e pelo Brasil. No entanto, não vejo nada disso no projeto”, alertou.
Prestes defendeu uma legislação que proíba explicitamente alguns sistemas com finalidades indesejáveis. “Existem sistemas que nós temos que proibir, sistemas que têm conteúdo subliminar para manipular pessoas, crianças, idosos. Isso afeta a democracia, os direitos humanos e precisa estar bem definido no texto”, disse.
O debate foi proposto pela relatora do projeto no colegiado, deputada Luisa Canziani (PTB-PR), e pelos deputados Nilto Tatto (PT-SP), Aliel Machado (PSB-PR), Vitor Lippi (PSDB-SP) e Luis Miranda (DEM-DF), que presidiu a reunião. “Precisamos de uma legislação não impeditiva, mas que garanta que esse futuro chegue com segurança”, disse Miranda, citando exemplos de usos da IA no Direito e na medicina em outros países.
Lippi, por sua vez, reforçou que a IA é o futuro e disse que as empresas brasileiras precisam estar preparadas. “Temos que preparar as pessoas para esse novo momento. Sem qualificar as pessoas, preparar as nossas escolas, não conseguiremos fazer muita coisa”, disse.
Níveis de risco
Diretor do Departamento de Defesa e Segurança da Federação das Indústrias do Estado de São Paulo (Fiesp), Rony Vainzof também defendeu a abordagem focada em riscos. Segundo ele, as aplicações de IA são extremamente heterogêneas e podem geram os mais variados níveis de risco.
“Um aplicativo desenvolvido para fazer de maneira autônoma a análise de crédito no sistema financeiro apresenta risco diferente de outro usado em cirurgia assistida por robô ou ainda de outro usado em brinquedo que pode incentivar comportamentos perigosos em crianças”, disse.
Para Vaizof, no entanto, a regulamentação não deve trazer proibições prévias para nenhum tipo de IA. Ele avalia que o projeto deve tratar de princípios gerais a serem observados por desenvolvedores e operadores, deixando para cada área específica a identificação e a regulação precisa dos riscos envolvidos.
A juíza federal Caroline Tauk, do Tribunal Regional Federal da 2ª Região, que participou da redação do projeto de lei, também entende que o objetivo da futura lei não deve ser regulamentar detalhadamente o assunto e sim tratar de princípios a serem seguidos por desenvolvedores e usuários. Ela concorda com a tese de que o grau de intervenção do poder público deve ser proporcional ao risco gerado pelo uso do sistema.
Juíza no mesmo tribunal e coordenadora dos livros “Justiça Digital e Regulação 4.0”, Isabela Ferrari defendeu um plano nacional de desenvolvimento de IA, com “investimento pesado em qualificação de mão de obra”. Ela também propôs a retirada da urgência para o projeto.
Saiba mais sobre a tramitação de projetos de lei
Reportagem – Murilo Souza
Edição – Pierre Triboli
