30/03/2022 - 1ª - Comissão de Juristas responsável por subsidiar elaboração de substitutivo sobre inteligência artificial no Brasil

Horário

Texto com revisão

R
O SR. PRESIDENTE (Eduardo Gomes. Bloco Parlamentar Unidos pelo Brasil/MDB - TO. Fala da Presidência.) - Bom dia a todos!
Havendo número regimental, declaro aberta a 1ª Reunião da Comissão Temporária Interna, criada pelo Ato do Presidente do Senado Federal nº 4, de 2022, para subsidiar a elaboração de minuta de substitutivo para instruir a apreciação dos Projetos de Lei nºs 5.051, de 2019; 21, de 2020; e 872, de 2021, que têm como objetivo estabelecer princípios, regras, diretrizes e fundamentos para regular o desenvolvimento e a aplicação da inteligência artificial no Brasil.
R
A presente reunião destina-se à instalação da Comissão.
Neste momento, reitero os cumprimentos do nosso Presidente - que é Presidente também do Congresso Nacional, o Senador Rodrigo Pacheco - e de toda a Mesa Diretora
Passo aqui... Já tive a oportunidade de conversar com Presidente, Secretário e membros da Comissão, e, neste momento, até em reconhecimento e gratidão à disposição, ao comprometimento e ao trabalho que o Presidente Rodrigo Pacheco tem realizado, em especial na instalação de Comissões Especiais de Juristas, com especialistas em temas importantes para o país, passo a transmitir aqui a saudação do Sr. Presidente do Congresso Nacional e do Senado Federal, o Senador Rodrigo Pacheco.
Senhoras e senhores, como sabemos, a inteligência artificial tem influenciado, cada vez mais, a vida pública dos estados e a vida privada dos cidadãos. Em grande parte, isso se dá em proveito da sociedade, mas as consequências desse processo nem sempre são positivas, como sugerem inúmeras proposições, como a do PL 5.051, de 2019 - distopias e histórias de ficção científica hoje em dia cada vez mais frequentes no entretenimento popular.
Com a expansão vertiginosa desse ramo nos últimos anos é chegada a hora de discipliná-lo e regulamentar o seu uso no Brasil. Como as novas tecnologias afetam a cidadania e a democracia? Como identificar a responsabilidade jurídica num evento provocado ou intermediado por inteligência artificial? Como combater o potencial discriminatório e racista de algoritmos como o de reconhecimento facial? Essas são apenas algumas das questões que precisamos explorar no Congresso Nacional nas deliberações legislativas sobre o tema.
Por causa disso, esta Comissão de Juristas reuniu figuras qualificadas e relevantes da academia, da advocacia e do serviço público para instruir a apreciação dos projetos de lei ora em tramitação, proposições como o PL 5.051, de 2019; o PL 21, de 2020; e o PL 812, de 2021.
A experiência do conhecimento da realidade jurídica brasileira e do direito comparado certamente ajudarão os Parlamentares a fazer uma apreciação mais técnica e consciente dos problemas e dos impactos regulatórios aqui contemplados. O desafio regulatório nesse caso é imenso, mas o assessoramento que esta Comissão prestará certamente será à altura.
Eu, então, agradeço, em nome do Senado Federal, a participação de todas as senhoras e os senhores juristas por esse relevante serviço público prestado à nação.
Muito obrigado. (Pausa.)
R
Presidente, como há uma tradição na Casa de transferência da condução dos trabalhos, eu concluo a apresentação da Comissão, sob a Presidência do Ministro Ricardo Vilas Bôas Cueva e da Dra. Laura.
Portanto, passo a Presidência dos trabalhos, a partir desse momento, ao nosso Ministro Ricardo Vilas Bôas Cueva e desejo boa sorte e bom trabalho a todos da Comissão no desenrolar desses trabalhos, também colocando à disposição o Senado Federal, a Liderança do Governo no Congresso Nacional, e tenho certeza também do acompanhamento de todos os Parlamentares.
Faço um registro, ainda a tempo, da presença do Deputado Eduardo Bismarck, que trata do tema na Câmara dos Deputados e que vem trabalhando nesse tema também já há bastante tempo, Deputado do PDT do Ceará; do Deputado Carlos Gaguim, que é do União Brasil do Estado do Tocantins; e da minha querida amiga Prefeita Josi Nunes, de Gurupi, lá do meu Estado do Tocantins.
Passo, Ministro, a V. Exa. a Presidência dos trabalhos.
Boa sorte! Estarei pronto para cumprir os desígnios da Comissão.
Muito obrigado.
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - Muito obrigado. (Pausa.)
Bom dia a todos.
Eu saúdo inicialmente o Senador Eduardo Gomes, na pessoa de quem cumprimento todas as autoridades presentes, os Parlamentares, e reitero os agradecimentos ao Senador Rodrigo Pacheco, estendendo a ele os nossos votos de uma pronta recuperação da gripe que o acometeu ontem e hoje e que o impede de estar aqui. Eu já havia tido oportunidade de agradecer pessoalmente a ele quando da promulgação da Emenda Constitucional 115 e no momento em que foi anunciada a criação desta Comissão.
Cumprimento cada um dos integrantes da Comissão, a começar pela Profa. Laura Schertel, Relatora; Profa. Ana Frazão; Prof. Bruno Bioni; Prof. Danilo Doneda; Prof. Fabrício da Mota Alves; Profa. Miriam Wimmer, que está representando aqui também a ANPD; Dr. Wederson Advincula Siqueira; Profa. Claudia Lima Marques, que deve estar nos ouvindo de Porto Alegre; Prof. Juliano Maranhão; Prof. Thiago Sombra; Prof. Georges Abboud; Dr. Frederico Quadros D'Almeida; Dr. Victor Marcel Pinheiro; Profa. Estela Aranha; Profa. Clara Iglesias Keller; Dra. Mariana Giorgetti Valente; e o Dr. Filipe Medon. Sintam-se todos cumprimentados.
Nós temos o enorme desafio pela frente de, num período bastante exíguo de 120 dias, a contar da instalação desta Comissão hoje, subsidiar a elaboração de uma minuta de substitutivo para instruir a apreciação daqueles três projetos de lei que já foram referidos agora pelo Senador Eduardo Gomes, o que demonstra que essa fase inicial de hesitação quanto à conveniência e a oportunidade de regular ou não a inteligência artificial no Brasil, que certamente agonia tantos profissionais em tantos países, já foi de algum modo superada.
R
Superamos esse umbral já com o projeto do Deputado Bismarck, que se encontra aqui - não é? -, e com os outros projetos da Câmara. A nossa missão, então, é ajudar a minutar o substitutivo do Senado, dando continuidade ao laborioso processo legislativo já iniciado na Câmara, no qual já houve algumas audiências públicas que nós vamos procurar recuperar, já houve a convocação da participação de todos os interessados para que falassem sobre esse tema, um tema que de fato desafia algumas questões muito importantes na área ética e que tem já motivado alguns estudos no âmbito da União Europeia, da OCDE e de vários outros centros em que se pensa o desenvolvimento dessa nascente tecnologia.
Já há um relativo consenso de que a inteligência artificial deve levar em conta pelo menos cinco princípios: o crescimento inclusivo, o desenvolvimento sustentável e o bem-estar da população; valores centrados no ser humano e na equidade; transparência e explicabilidade; robustez, segurança, proteção; e, finalmente, responsabilidade.
Também já há estudos que demonstram que há um consenso básico quanto à necessidade de criar um núcleo deontológico que, de alguma maneira, "vertebre" a regulação da inteligência artificial fundada em alguns núcleos, sobretudo a proteção da privacidade, necessidade de prestação de contas, accountability, responsabilidade, proteção e segurança desses sistemas, transparência e explicabilidade, justiça e não discriminação, controle humano da tecnologia, responsabilidade funcional e promoção de valores humanos.
Obviamente, há algumas escolhas difíceis a fazer sobre o caráter mais ou menos principiológico que deva ter essa regulação da inteligência artificial. Obviamente, é arriscado já de antemão oferecer respostas para perguntas que não foram ainda formuladas, porque sequer se conhece quais serão essas perguntas já que a tecnologia é ainda nascente, mas já é aplicada em alguns setores.
Algumas indicações da regulação em estudo na União Europeia são relevantes, todavia. Lá se discute muito uma regulação baseada na gestão de risco, definindo de antemão algumas atividades que podem implicar algum risco de tal monta que justificariam uma regulação mais intensa. E os exemplos dados nas minutas apresentadas são aquelas, por exemplo, técnicas subliminares que contornem a consciência de uma pessoa, a exploração de quaisquer vulnerabilidades de um grupo específico de pessoas associadas à idade ou deficiência física ou mental, a identificação biométrica em algumas circunstâncias que possam trazer risco a alguns daqueles valores elencados.
Portanto, nós temos um trabalho considerável pela frente, mas eu tenho a confiança de que a confiança em nós depositada não foi em vão e de que aqui se encontram alguns dos melhores representantes do que se pensa hoje, do que se estuda sobre o tema no Brasil.
R
Nós tivemos a oportunidade, todos sabemos, de fazer uma reunião prévia pelo Zoom, na qual já apresentamos uma minuta de regulamento e já apresentamos também um projeto, um plano de trabalho.
Eu procuro aqui... A Relatora, Profa. Laura, vai apresentar isso, mas de antemão eu gostaria já de consultá-los, já que nós tivemos a oportunidade de distribuir a minuta de regulamento e a minuta do plano de trabalho, sobre a anuência com relação a esses documentos. Estão todos de acordo? (Pausa.)
Então, eu coloco em votação o plano de trabalho e o regulamento da Comissão.
Aqueles que os aprovam permaneçam como se encontram. (Pausa.)
Então, não havendo... Foi aprovado, portanto, o regulamento com o plano de trabalho.
Passo a palavra à Profa. Laura Mendes para sua exposição.
A SRA. LAURA SCHERTEL FERREIRA MENDES - Muito obrigada, Ministro Ricardo Villas Bôas Cueva.
Muito bom dia a todas e a todos. Cumprimento o Exmo. Sr. Ministro Ricardo Cueva, o Exmo. Deputado Bismarck, ilustres membros da Comissão, as senhoras e os senhores aqui presentes.
Em primeiro lugar, gostaria de agradecer e parabenizar o Senado Federal, nas pessoas do seu Presidente, Exmo. Senador Rodrigo Pacheco, e do Relator da matéria, Senador Eduardo Gomes, pela criação desta Comissão de Juristas, responsável por subsidiar a elaboração de minuta de substitutivo para instruir a apreciação dos Projeto de Lei de inteligência artificial nºs 5.051, 872 e 21, de 2020. É uma iniciativa valiosa, pois permitirá o aprofundamento dos debates sobre parâmetros, princípios e diretrizes para regular o desenvolvimento e a aplicação de inteligência artificial no Brasil. Além disso, possibilitará que diversos setores da sociedade potencialmente afetados sejam ouvidos, por meio de audiências públicas, trazendo insumos plurais para o debate.
O tema é desafiador, é complexo, horizontal, multidisciplinar, internacional e está em pleno desenvolvimento. A inteligência artificial perpassa hoje todas as áreas da sociedade, do Estado e da economia, seja para realização de diagnósticos na área de saúde, para o auxílio à segurança pública por meio de policiamento preditivo, por exemplo, para gestão de processos e decisões nos tribunais, para personalização e gestão de conteúdo pelas plataformas e redes sociais. É de grande aplicabilidade a inteligência artificial também para fazer previsões por meio de métodos estatísticos, desde o já muito falado credit scoring, ou mesmo para auxiliar na gestão de riscos de seguradoras, por exemplo, ou para o auxílio na seleção de candidatos a empregos das empresas. A pandemia acelerou ainda mais essa transformação e aplicação, evidenciando que a inteligência artificial pode, por meio de uma análise de enorme volume de dados, auxiliar as autoridades públicas a combater, inclusive, a transmissão da doença.
Esses exemplos evidenciam a importância que a inteligência artificial tem atualmente, trazendo inúmeras oportunidades e benefícios socioeconômicos. Esses exemplos mostram, contudo, também, os impactos negativos que podem decorrer de uma utilização inadequada ou sem parâmetros e diretrizes. Afinal, basta pensarmos no risco de diagnósticos incorretos em razão de cálculos estatísticos errados, ou na discriminação de candidatos a empregos por meio de sistemas que utilizaram bases de dados históricas e enviesadas, ou mesmo em casos extremos, na perda de liberdade de pessoas que foram identificadas de forma equivocada por sistemas de reconhecimento facial utilizados por órgãos de investigação. Se, por um lado, estudos têm demonstrado os riscos dos sistemas de inteligência artificial, como a sua opacidade, complexidade, dependência de um grande volume de dados e potencial discriminatório, por outro, esses riscos podem ser mitigados por meio da regulação.
R
Mais do que isso, conforme afirma o Prof. Cass Sunstein, a partir de uma regulação adequada, é possível, inclusive, que os sistemas de inteligência artificial sejam desenhados para identificar a discriminação, algo impossível nas decisões tomadas por seres humanos. A regulação adequada é, portanto, um grande ativo para permitir o desenvolvimento e a aplicação de tecnologias de inteligência artificial seguras e confiáveis em cumprimento com o direito infraconstitucional e com os valores e princípios da nossa Constituição. É também essencial para criar a segurança jurídica necessária para facilitara o investimento e a inovação.
Nesse sentido, entendo que qualquer esforço de regulação precisa partir de algumas premissas, que gostaria de compartilhar com todos para que possamos debatê-las nesta Comissão: aderência aos princípios e normas constitucionais, à dignidade da pessoa humana e ao Estado democrático de direito; pluralidade e diversidade de visões; diálogo entre direito e tecnologia; regulação propícia ao crescimento sustentável e à inovação; consistência com as normas atuais vigentes; interoperabilidade e diálogo internacional.
Estamos falando do presente e também do nosso futuro. Estamos falando de um tema afeto ao Brasil, mas também afeto à comunidade internacional. Estamos falando, acima de tudo, sobre a garantia de direitos previstos na Constituição Federal e que merecem e precisam ser protegidos mesmo sob condições tão diferentes como as que vivenciamos sobre a transformação digital.
É preciso garantir a dignidade da pessoa humana, fundamento da Constituição Federal, e os direitos individuais, como a capacidade do ser humano de se autodeterminar, os direitos da personalidade, à liberdade de expressão, de comunicação e informação, o devido processo legal, o direito à igualdade bem como à privacidade e à proteção de dados pessoais.
Como afirma Luciano Floridi, Filósofo e Professor de Oxford, o ser humano se diferencia não pelo que ele é, mas pelo que ele poderá vir a ser; o que nos singulariza não é um plus, mas um minus, é a nossa incompletude. Em suas palavras:
Como viajantes, estamos nas mãos dos nossos anfitriões, os outros, a natureza, o mundo físico, mas também a sociedade, a cultura, o mundo que construímos, não apenas o mundo que encontramos. Nenhum de nós está nunca no centro, viajamos interminavelmente de centro em centro. A nossa dignidade reside em podermos ser os mestres das nossas próprias viagens e manter em aberto as nossas identidades e as nossas escolhas. Qualquer tecnologia ou política que tende a corrigir e moldar tal abertura corre o risco de nos desumanizar.
Presidente, com essas palavras iniciais, eu passo a palavra ao senhor.
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - Muito obrigado, novamente agradeço.
Gostaria, então, de colher as manifestações daqueles que quiserem falar e vou seguir a ordem, aqui, da nossa nomeação, da composição, o que me remete diretamente à Profa. Ana Frazão.
Eu pediria que cada um falasse por três minutos aproximadamente, tendo em vista sermos 18. Então, tentemos ser razoáveis aqui.
Por favor, Profa. Ana Paula Frazão.
A SRA. ANA DE OLIVEIRA FRAZÃO - Muito obrigada, Ministro. Bom dia a todos.
Inicialmente eu também agradeço a iniciativa do Senado na pessoa do Presidente, Senador Rodrigo Pacheco; na pessoa do Senador Eduardo Gomes.
Cumprimento, aqui, todos colegas e reitero a honra que é fazer parte de um grupo tão qualificado e liderado pelo nosso Ministro Cueva e pela Profa. Laura. Eu acho que não poderíamos ter uma liderança mais adequada e mais qualificada neste momento.
R
Tentando ser muito sintética, eu acho que todos nós aqui desta Comissão já temos alguma reflexão sobre esses temas, provavelmente não divergimos sobre os princípios e as finalidades que devem ser buscadas, mas acredito que temos divergências, sim, sobre como essas finalidades poderão ser mais bem alcançadas, ou seja, falar de regulação de inteligência artificial é ter que administrar uma série de trade offs, é ter que fazer uma série de escolhas e, portanto, eu acho que o como, o por quê e o quando são realmente perguntas fundamentais.
Embora eu tenha as minhas pré-compreensões, acredito que todos os membros aqui da Comissão também as tenham, eu acho que o Ministro Cueva foi muito feliz quando, na sua fala inicial, disse que estamos diante de um tema tão complexo que em relação a ele nem mesmo sabemos que perguntas deveremos fazer. Eu acho que é esse o espírito que a Comissão deve adotar; ou seja, apesar de ter claras as minhas pré-compreensões sobre o assunto, eu vejo aqui uma enorme oportunidade de aprendizado, de troca com colegas tão qualificados. Acho que são fundamentais os mecanismos de participação social, para que possamos ouvir a sociedade e os demais setores. E assim eu acredito que apesar do tempo ser muito exíguo, nós vamos conseguir, sim, entender melhor que perguntas devem ser feitas e que respostas nós poderíamos desde já apresentar para a sociedade, honrando toda confiança que foi depositada no nosso trabalho.
Então, são essas as minhas palavras, agradecendo enormemente e reiterando a enorme honra que é fazer parte desta Comissão.
Muito obrigada, Presidente.
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - Obrigado.
Passo, então, a palavra ao Dr. Bruno Bioni.
O SR. BRUNO RICARDO BIONI - Bom, primeiramente, bom dia a todos e a todas. Gostaria de inicialmente agradecer a honra e a responsabilidade de fazer parte desta Comissão na pessoa do Presidente da Casa, Senador Rodrigo Pacheco, e também ao Senador Eduardo Gomes, que tiveram a serenidade e a sensibilidade de entender que o tema era complexo e que uma Comissão de Juristas tal como hoje está sendo instalada poderia oxigenar a discussão aqui na Casa e no trâmite legislativo.
Queria também agradecer a enorme honra de estar nesta Comissão presidida pelo Ministro Cueva e também relatada pela Profa. Laura Schertel Mendes. Como a Profa. Ana Frazão bem pontuou, a gente não poderia estar sob melhor liderança.
Gostaria aqui de ressaltar, na minha fala, que hoje o plano de trabalho e o regulamento que aprovamos há poucos minutos refletem e espelham a complexidade e também a posição de humildade que a gente tem, e a enorme responsabilidade de fazer esse debate sobre esse tema tão complexo de regulação. Não por outra razão, das três fases de trabalho, duas delas se dedicam e procuram ouvir a sociedade. Há uma primeira fase ali muito recheada de audiências públicas, abertura para receber insumos e contribuições via canais de participação do próprio Senado Federal, e também um segundo momento em que teremos um seminário internacional, que será uma oportunidade bem valiosa de entender como se consegue internalizar não só experiências do norte global, mas também - acredito - do sul global, ou seja, entender como dos dois lados do Atlântico mas também para baixo do globo a gente poderia oxigenar e pensar em modelos regulatórios que estejam bem sintonizados com as condições socioeconômicas e os desafios que a gente enfrenta no Brasil, que é um país pertencente ao chamado sul global.
R
A última coisa que eu gostaria de destacar é principalmente como a gente está formatando esses espaços, sempre privilegiando multissetorialidade, diversidade, e não poderia ser diferente, tamanha a complexidade do objeto sobre o qual iremos nos debruçar, e, a partir disso, verificar como a gente pode extrair dessa equação um resultado benéfico no sentido, exatamente, colocado pela Relatora, pelo Presidente também, e pela colega Ana Frazão, que me antecedeu, ou seja, como a gente consegue maximizar os benefícios dessa tecnologia e mitigar ao máximo os riscos da inteligência artificial. Dizendo em outras palavras: extrair ao máximo as externalidades positivas das atividades econômicas que serão potencializadas e otimizadas por essa área de conhecimento de inteligência artificial e mitigar ao máximo as externalidades negativas.
Dentro desse ponto de vista, uma das coisas que eu acho que chamam a atenção é o plano de trabalho estudado em quatro fases, eixos temáticos, em que, ao final, a gente pensa não só em um arranjo institucional de governança e que conte com uma perspectiva plural, mas também em arranjos de inovação, em como o Brasil pode ser um player e um país importante nessa disputa que se abre de arranjos econômicos também dentro da perspectiva internacional.
Obrigado mais uma vez. É um prazer estar aqui com vocês.
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - Muito obrigado.
Passo a palavra agora ao Dr. Danilo Doneda.
O SR. DANILO CESAR MAGANHOTO DONEDA - Muito obrigado ao Presidente da Comissão, Ministro Ricardo Villas Bôas Cueva e à Relatora, Ministra Laura Schertel Mendes.
Antes de tudo, congratulo o Senado Federal, particularmente o Presidente Rodrigo Pacheco e o Senador Eduardo Gomes, pela opção de convocar esta Comissão de Juristas para tema cujo debate e reflexão serão essenciais para a viabilidade de uma solução regulatória adequada e ao nível que o Brasil merece, missão que será, certamente, exitosa, dada a composição desta Comissão, a liderança do Ministro Ricardo Cueva e a relatoria da Dra. Laura Schertel. Agradeço o convite para participar.
Nós brasileiros possuímos formidável bagagem na regulação de tecnologias, levando em consideração a proteção de direitos e garantias, da liberdade econômica e, ainda, experiências modelares de participação cidadã. Assim foi com o Marco Civil da Internet e com a Lei Geral de Proteção de Dados, essa última, uma normativa que, ao ser promulgada, já contava com considerável bagagem de debate, o que facilita e é fundamental na sua atual consolidação.
Assim, pode parecer que o desafio de regular a inteligência artificial seja um continuum dessa tendência. Nisso, porém, reside o risco para o qual é necessário estarmos bem atentos.
O tema da inteligência artificial, ainda que seja de importância fundamental e objeto de debates constantes, ainda não está consolidado a ponto de que tenhamos conceitos, ferramentas e institutos definidos com a necessária concretude, assim como estavam, na época, o Marco Civil da Internet e a LGPD, por exemplo. E é justamente esse motivo que justifica e legitima a presente Comissão de Juristas a buscar o melhor arcabouço regulatório possível, considerando que, no intrincado tema de inteligência artificial, deve-se procurar os temas sobre os quais é urgente, é possível ou é plausível, no atual estado do debate, propor uma regulação eficaz.
A bem da verdade, abordar inteligência artificial traz à tona metáforas que perpassam as próprias relações entre Direito e tecnologia, para não dizer o emprego da tecnologia pelo homem. Mais do que em qualquer dos sistemas anteriores, é a imagem do Golem que vem à mente, uma figura da metodologia hebraica. O Golem é um ser com formato indefinido, criado pelo homem para que o servisse, mas que não era dotado de alma. O Golem, no entanto, podia crescer e sair do controle do seu criador, voltando-se contra ele, ecoando, aos olhos contemporâneos, os temores que acompanham o emprego de tecnologias que possam fugir ao controle.
R
Hoje a Comissão enfrenta vários desafios. Há um lado que poderíamos chamar de sombrio na inteligência artificial, que reside da possibilidade de mecanização do elemento humano à medida que se confiam decisões fundamentais a mecanismos automatizados. Isso implica vários efeitos: a redução do controle humano sobre várias atividades, a desvalorização de competências humanas, a erosão da autodeterminação, a facilitação de condutas controversas e a escalada de preconceitos em vieses.
Portanto, acredito que nesta Comissão a centralidade do elemento humano deva ser enfatizada em todos os seus aspectos, em todos os pontos necessários. Nossa missão certamente será propor e pesquisar instrumentos e soluções regulatórios que não contradigam e não impeçam a aplicação da inteligência artificial, que pode ser, inclusive, necessária, mas que facilitem e incentivem a sua adoção, diminuindo riscos e garantindo a segurança jurídica dentro da centralidade do elemento humano.
E, com isso, faço minhas palavras de desejo de sucesso e êxito à Comissão.
Muito obrigado.
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - Muito obrigado.
Passo a palavra, então, ao Dr. Fabrício de Mota Alves.
O SR. FABRÍCIO DE MOTA ALVES - Obrigado, Presidente, Sr. Ministro Ricardo Villas Bôas Cueva, Profa. Laura.
Quero primeiramente parabenizar, mais uma vez, pela brilhante iniciativa, o Senado Federal, promovendo o diálogo necessário com a sociedade através da visão de responsabilidade, de assertividade e de qualidade técnica sobre o assunto. Parabenizo o Deputado Eduardo Bismarck pela iniciativa, o grande responsável pelo pontapé inicial de toda essa discussão no Brasil.
Deputado, V. Exa. seguramente terá, nesta Comissão, apoiadores e incentivadores da sua proposta de regulação responsável sobre o tema.
Entendo que, entre todas as contribuições que esta Comissão poderá promover com a responsabilidade e a elevada qualidade dos seus membros, eu me associo ao interesse em discutir e debater a necessidade de uma possível ou necessária participação do Estado como agente de fiscalização e agente de promoção de incentivos necessários à aderência e à conformidade sobre esse tema.
Independentemente da qualidade técnica da proposta de regulação jurídica que se estabelece em torno da temática de inteligência artificial, é necessário pensarmos também na efetividade e na construção dos incentivos públicos e jurídicos necessários para que haja conformidade efetiva da sociedade em relação ao tema. E que haja também a necessidade de se pensar sobre instrumentos de verdadeira responsabilização em torno do tema, seja ela jurídica, seja ela administrativa.
Eu tenho certeza de que esta Comissão promoverá os debates necessários, com a participação social plural, que todos já observamos a partir da proposta deste regulamento, e com a cadência necessária para que o tema seja efetivo e muito bem promovido por este Senado Federal.
Muito obrigado, Presidente.
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - Muito obrigado.
Dra. Miriam Wimmer com a palavra.
A SRA. MIRIAM WIMMER - Muito obrigada, Ministro.
Eu gostaria de começar enaltecendo a iniciativa do Senado Federal pela constituição desta Comissão nas pessoas do Senador Rodrigo Pacheco e do Senador Eduardo Gomes. Saúdo também aqui o Deputado Eduardo Bismarck, que foi um importante promotor desse debate no âmbito da Câmara dos Deputados, e faço uma saudação muito especial ao Ministro Cueva e à Profa. Laura Schertel, sob cuja liderança certamente alcançaremos êxito nesse desafio tão importante.
É uma honra e uma alegria participar desta Comissão ao lado de tantos juristas ilustres, tantos amigos queridos. Assim como a Profa. Ana Frasão, a minha expectativa é de muito aprendizado aqui neste ambiente.
R
Parece-me que, ao abordar esse tema, temos que partir sempre de uma perspectiva de riscos e benefícios. Não há dúvida de que a inteligência artificial é uma tecnologia já presente no nosso dia a dia que nos traz inúmeras vantagens. Ao mesmo tempo, os riscos precisam ser dimensionados e mitigados. Nesse sentido, parece-me que o nosso desafio é justamente encontrar a abordagem correta, para que o Brasil possa colher os benefícios dessa nova tecnologia, sem entretanto descuidar dos princípios constitucionais, mencionados tão bem pela Profa. Laura nas suas palavras de abertura.
E, nesse sentido, a minha posição aqui é um pouquinho peculiar, porque, além de ser jurista, eu sou também servidora pública, membro do Poder Executivo federal, atualmente em exercício na ANPD, e me parece que um aprendizado que nós podemos tomar, a partir de experiências anteriores de regulação de tecnologia já mencionadas pelo Prof. Danilo, como o Marco Civil da Internet, LGPD, diz respeito à importância do debate multissetorial. Isso é algo que nós vivenciamos no marco civil, na LGPD, e eu diria que partimos aqui de um ponto muito positivo, uma vez que a Comissão se propõe já, desde o início, a ouvir os múltiplos pontos de vista, os múltiplos setores associados a essa temática.
Eu chamaria atenção também para a necessidade de compreender e ouvir as reflexões sobre o tema que transcorrem no Poder Judiciário e no Poder Executivo, que são atores também relevantes nesse debate.
Eu acrescentaria, nesta fala inicial, uma reflexão sobre a importância de cuidar para que sejam preservados os avanços e as conquistas que já alcançamos no âmbito da LGPD. Então, a partir de um esforço enorme de múltiplos atores, conseguimos firmar certos conceitos, certos princípios, certas abordagens que me parecem que são importantes e que deveriam ser reforçados aqui no âmbito do debate sobre inteligência artificial.
Por fim, eu menciono que me parece que a disciplina do tema não se esgotará nesse projeto de lei, uma vez que me parece que a temática demanda que também tenhamos abertura para mecanismos auto e corregulatórios, códigos de conduta e regras de boas práticas e que há também demanda para um debate ético, que talvez não se esgote no âmbito de uma legislação formal.
Com isso eu concluo, ainda dentro do meu tempo, agradecendo mais uma vez a oportunidade e me colocando à disposição.
Obrigada.
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - Obrigado.
Com a palavra o Dr. Wederson Advincula Siqueira, que acho que nos assiste...
Ele se encontra online talvez? (Pausa.)
Não.
Então, a Profa. Claudia Lima Marques com a palavra por favor.
A SRA. CLAUDIA LIMA MARQUES (Por videoconferência.) - Muito obrigada, caríssimo Presidente, Exmo. Prof. e Ministro Villas Bôas Cueva.
Eu queria agradecer muitíssimo o convite e a honra de estar aqui neste grupo de gigantes para tratar de um tema tão importante e saudar, em especial, a iniciativa do Senado, nas pessoas do Senador Eduardo Gomes e do Senador Rodrigo Pacheco, Presidente. Eu queria agradecer em especial e mencionar dois pontos apenas.
Primeiro, a importância desta Comissão sob a ótica do Direito Constitucional, como foi muito bem colocado pela Profa. Laura Schertel. Aqui, as lições sobre a preservação dos direitos humanos, dos direitos constitucionais e, principalmente, do patrimônio, que é o mercado interno de um país, segundo o nosso 219 da Constituição, são muito importantes para termos em vista, mas, no Direito Privado, me parece que estamos tratando de três temas importantíssimos para toda a organização da sociedade: igualdade, liberdade e fraternidade. O desenvolvimento tecnológico e a inteligência artificial podem muito bem atacar, tornar opaca a igualdade de todos, a liberdade de todos, e prejudicar o mercado e a proteção dos consumidores.
R
Então, acho que são muito importantes esses pontos, assim como - segunda e última parte da minha fala - pensarmos sobre as conexões ou os diálogos entre essa legislação e a legislação já existente ou sobre, de outra forma, as conquistas da nossa sociedade. (Falha no áudio.)... está sendo atualizado pelo Projeto de Lei 3.514, de 2015, já aprovado, de forma unânime, no Senado Federal, e está agora sob análise da Câmara dos Deputados, e é para a atualização quanto ao mundo digital.
Sem dúvida, aqui podemos fazer reenvios e nos aproveitar de todas essas conquistas já existentes, do aqui mencionado marco civil da internet, as conquistas importantíssimas da LGPD (Lei Geral de Proteção de Dados) e seus princípios, para avançar um pouco mais preservando essas conquistas e, ao mesmo tempo, abrindo-as para a inovação.
O art. 219 da Constituição está no Capítulo da Ciência, Tecnologia e Inovação. Esse é um tema também que temos que preservar permitindo o desenvolvimento científico, o desenvolvimento tecnológico do país, a autonomia e também a inovação.
Então, estou muito contente e faço eco a todos que aqui mencionaram a importância desta Comissão, não só do nosso aprendizado, mas do desenvolvimento e da colaboração ao desenvolvimento do direito brasileiro.
Muito obrigada.
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - Muito obrigado.
Com a palavra o Prof. Juliano Maranhão.
O SR. JULIANO SOUZA DE ALBUQUERQUE MARANHÃO - Obrigado.
Em primeiro lugar, eu gostaria de cumprimentar o Senado pela iniciativa nas pessoas dos Senadores Eduardo Gomes e Rodrigo Pacheco, cumprimentar também o Presidente Ricardo Cueva e a Relatora Laura Mendes pela iniciativa extremamente relevante neste momento de desenvolvimento da tecnologia no país. Também quero cumprimentar meus colegas que vão aqui enfrentar esse relevante desafio e cumprimentar também o Deputado Eduardo Bismarck por ter dado esse passo inicial para a discussão e o debate do tema.
É fundamental a organização desta Comissão, a exemplo do que se fez em outros países que regularam a inteligência artificial, para obter contribuições técnicas e um debate mais apurado em relação tanto aos riscos quanto aos benefícios da tecnologia.
Normalmente, o impulso inicial e primeiro para uma regulação da tecnologia parte dos riscos e das preocupações com seus impactos, mas nós temos que lembrar que a inteligência artificial traz uma série de benefícios a diferentes setores de aplicação na indústria, na saúde, na educação, no meio ambiente e em tantos outros. E, por esse motivo, os nossos olhos devem também estar atentos não só à mitigação dos riscos, como também a trazer incentivos ao investimento, à canalização de recursos, à desburocratização, para que haja investimento tanto público como privado, reunindo os diferentes campos de desenvolvimento, para estímulo e construção dessa tecnologia, tanto na administração quanto no setor industrial e também na academia.
R
Outro aspecto importante, a que eu gostaria de chamar atenção já de início, é o fato de que nós estamos lidando com um tema essencialmente interdisciplinar, que vai ser enriquecido não só com uma discussão jurídica de políticas de regulação, mas também com as contribuições de cientistas da computação, de engenheiros da computação, de cientistas sociais e de todos esses campos do saber, além dos representantes dos diferentes setores da economia que empregam essa tecnologia. Certamente nós teremos oportunidades de ouvi-los nas audiências públicas que vão ser realizadas, de tal forma que a gente possa ter os melhores elementos para formar o nosso convencimento e encontrar o equilíbrio adequado entre o incentivo ao desenvolvimento dessa tecnologia e a mitigação dos seus riscos.
Muito obrigado.
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - Com a palavra o Dr. Thiago Luís Santos Sombra.
O SR. THIAGO LUÍS SANTOS SOMBRA - Bom dia, Ministro.
Primeiramente, agradeço a todos nas pessoas do Senador Eduardo Gomes e do Senador Rodrigo Pacheco.
Ministro Cueva e Profa. Laura, digo que é uma grata satisfação fazer parte desta Comissão junto de tantos colegas.
Nós temos um desafio muito importante pela frente não só pelo momento em que o Brasil se encontra em relação ao fomento da tecnologia como um todo, mas pelas oportunidades que nós podemos abraçar e aquelas as quais nós já perdemos. Eu dou um exemplo em relação ao que aconteceu com a covid-19 em que nós tivemos impossibilitada, por exemplo, a utilização de testes em massa por meio de inteligência artificial para a população como um todo. E há uma série de benefícios. Há uma pesquisa da FGV que diz que a inteligência artificial é capaz de fomentar o crescimento do PIB brasileiro em até 7% até meados de 2030. Então, os dados são relevantes.
As soluções que têm sido utilizadas para o incremento do desenvolvimento econômico e do bem-estar social são inúmeras, mas estamos falando de tecnologia. E o mais importante é que nós não deixemos aqui a nossa responsabilidade e as nossas atribuições transparecerem mais do que os nossos vieses. A máquina é muito fruto daquilo que é o viés do seu criador. Eu acho que por isso a Comissão teve a virtude de ser criada de uma forma tão multidisciplinar, tão plúrima, com tantas formações distintas e ser estruturada em quatro eixos que estão muito bem equilibrados. Para efetivamente até nos proteger dos nossos vieses, eu acho que a Comissão teve a sapiência de convocar, inclusive, audiências públicas que vão nos permitir cada vez mais ouvir a sociedade, ouvir outras pessoas, para que nós não nos enclausuremos aqui simplesmente nas nossas convicções. Acho que as oportunidades serão muitas, as contribuições serão extremamente ricas.
Eu sinceramente acredito que a forma como o plano foi constituído, sob a Presidência do Ministro Cueva e da Profa. Laura, nós vamos ter plenas condições de atingir esses objetivos no prazo que foi estipulado pelo Senado da República.
Então, com essas palavras, eu quero, mais uma vez, agradecer e dizer que é uma grata satisfação.
R
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - Obrigado.
Passo a palavra ao Dr. Georges Abboud.
O SR. GEORGES ABBOUD - Obrigado, Presidente Cueva.
Antes de tudo, quero cumprimentar a liderança do Ministro Ricardo Cueva, da Profa. Laura - acho que constituem a liderança de que a gente precisa para fazer um belo trabalho nesta Comissão.
Basicamente, o desafio nosso talvez seja um dos maiores desafios em termos de regulação normativa, porque as novas tecnologias hoje constituem, na minha visão, o maior desafio do Estado, pois elas geram uma crise de estatalidade. Os métodos tradicionais de regulação e decisão são muitas vezes ineficientes ou inócuos para tratá-las, e muitas vezes o Estado tem receio em tentar analisar, trazer para o centro da estatalidade esses temas. E aqui eu cumprimento o Senado, porque a existência desta Comissão é uma resposta ao desafio, é uma ideia de que podemos fazer algo melhor para mitigar, vamos dizer assim, esse fenômeno que as novas tecnologias podem trazer - tanto os benefícios, quanto os malefícios.
Mas eu acho que, além da responsabilidade com o Legislativo que esta Comissão tem, ela tem uma responsabilidade com o Judiciário, porque, quanto melhor o trabalho aqui produzido, mais bem será decidida essa temática pelo Judiciário; e é uma responsabilidade com a sociedade, uma sociedade brasileira que, grande parcela dela, infelizmente tem experimentado muitas vezes mais os malefícios do que todos os benefícios que uma tecnologia devidamente regulamentada pode trazer.
Então, de minha parte, eu estou muito honrado em fazer parte de uma Comissão com tantas professoras e professores que eu profundamente admiro.
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - Obrigado.
Passo a palavra ao Dr. Frederico Quadros D'Almeida.
O SR. FREDERICO QUADROS D'ALMEIDA (Por videoconferência.) - Estão me ouvindo? Alô. Oi.
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - Estamos ouvindo.
O SR. FREDERICO QUADROS D'ALMEIDA (Por videoconferência.) - Bom dia a todos. Bom dia, Ministro Cueva.
Realmente, estamos diante de um desafio muito grande, pois a inteligência artificial é cada vez mais utilizada em todas as faces da nossa vida cotidiana. Em alguns momentos, nós temos mais percepção desse uso, e, em outros momentos, nós nem percebemos, não é? Então, quando recebemos alguma notificação do celular sugerindo um contato, sugerindo um destino para o nosso deslocamento diário, sugerindo até uma rota de deslocamento, em todos esses pontos nós temos aplicações da inteligência artificial. E, fora esses, é claro, muitos outros com aplicações maiores, aplicações na área médica, na área militar inclusive.
Então, temos realmente um objeto muito amplo. Os eixos temáticos definidos aqui pela Dra. Laura, logo de início, destacam que temos que definir o objeto que vamos regular. Então, acho que isso é muito importante. E com a ajuda de todos, certamente, chegaremos a uma boa conclusão desse trabalho.
Obrigado.
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - Obrigado.
Com a palavra o Dr. Victor Marcel Pinheiro.
O SR. VICTOR MARCEL PINHEIRO - Bom dia, Presidente.
Eu queria agradecer a grande honra ao Senado Federal, na pessoa do nosso Presidente, o Senador Rodrigo Pacheco, e a liderança do Senador Eduardo Gomes; e agradecer ao Deputado Bismarck, que também tem capitaneado iniciativas fundamentais para esse debate.
Eu queria registrar a honra - na condição de cidadão, de servidor público aqui desta Casa, de advogado, de acadêmico - de poder participar desses debates sob relatoria da nossa Profa. Laura, que trouxe um plano de trabalho, aprovado pela Comissão, muito equilibrado.
Eu queria registrar a importância de, nesse debate tão complexo do ponto de vista técnico, nós não perdemos a dimensão da sua politicidade. Eu queria registrar aqui a fala da Profa. Ana Frazão, que trouxe que nós temos trade-off inerente à regulação dessa questão.
R
Então, embora nós tenhamos aqui questões múltiplas que, do ponto de vista técnico, são muito específicas e detalhadas e que avançam a cada dia, a politicidade desse tema, especialmente à luz da autonomia - isto foi bem colocado pela Dra. Laura - inerente do ser humano, de como escolhemos nossos caminhos e como somos influenciados nessa trajetória, é fundamental.
Esse é um tema muito difícil porque nós não temos, como foi colocado por outros colegas, um parâmetro já internacionalmente estabelecido ou pacificado de regulação, via legislação que a gente chama de hard ou soft. Temos algumas iniciativas, algumas diretrizes e propostas em discussão, mas ainda nada que realmente seja estabelecido no plano internacional.
Acho que nós, aqui no Brasil, temos um desafio maior, sem prejuízo, obviamente, dos benefícios e do potencial de inovação tremendo que essa tecnologia tem, de olhar para a nossa realidade brasileira, especialmente em face da experiência que temos com o Marco Civil da Internet, com a LGPD e até mesmo com as normas constitucionais, com a interpretação que faz delas a nossa Casa constitucional, o Supremo Tribunal Federal, tendo em vista algumas peculiaridades do nosso sistema político e do nosso sistema social.
As pesquisas de índice de confiança no Brasil mostram, comparativamente, pelo menos, certa desconfiança da população em relação às instituições estatais, e acho que isso faz o nosso desafio ser ainda maior, porque nós estamos regulando, como o Prof. Fabrício colocou, a aplicação dessa tecnologia no âmbito público e no âmbito privado também. Nesse sentido, nós temos uma série de questões que afetam a esfera pública, e acredito que a nossa tradição, vamos dizer assim, de liberdade de expressão e de lidar com a coisa pública coloca um desafio adicional.
Vai ser muito bom trazer para a Comissão e ouvir a sociedade civil, ouvir as autoridades que foram convidadas para participar desse debate, ampliar esse debate multissetorial com diversos segmentos da sociedade, para que tragamos justamente essas diversas dimensões políticas, jurídicas, tecnológicas e institucionais para dentro dos nossos debates e para que possamos fazer essa reflexão à luz das características da nossa sociedade brasileira.
Então, agradeço, mais uma vez, Presidente, pela oportunidade.
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - Muito obrigado.
Com a palavra a Profa. Estela Aranha.
A SRA. ESTELA ARANHA - Olá! Bom dia a todos e a todas!
Primeiro, eu queria agradecer ao Senado Federal, ao Senador Rodrigo Pacheco e ao Senador Eduardo Gomes pela confiança nesta Comissão.
Também quero agradecer a criação da nossa Comissão ao Ministro Cueva e à Profa. Laura, como Relatora, e a confiança em todos nós.
A gente tem grandes desafios hoje. Como já falamos, não existe hoje nenhum diploma legal que tenha uma regulação tão ampla como um marco legal ou que dê parâmetros para inteligência artificial. Inclusive, nas discussões na Europa, são vários diplomas que dão conta de várias questões; elas não estão só num ato. Então, a gente tem um prazo exíguo, e esse é um grande desafio para a gente. Mas, enfim, tenho muita confiança no nosso plano de trabalho para fazer isso, dentro desse prazo, nos nossos limites.
Eu queria ressaltar também a importância da participação social nesse debate, dessa escuta ampla, que vai ser feita por meio de audiências públicas e por meio de consultas escritas. Desejo que toda essa participação social esteja incorporada ao texto. Com certeza, com nosso plano de trabalho, com os membros desta Comissão, ela será bastante incorporada. Também quero ressaltar a importância disso, das visões plurais, como já foi colocado aqui, e da questão da diversidade.
R
Eu queria ressaltar também a importância de a gente, como o Ministro colocou, focar o nosso centro, que é o ser humano, nesse debate. E, principalmente, quando a gente está falando de fazer essa regulação, a gente, na verdade, está fazendo uma adequação de uma situação à legislação já existente. Na verdade, é a aderência do uso dessas novas tecnologias em relação aos direitos e garantias constitucionais que já existem em relação aos bens jurídicos já protegidos, individuais e coletivos, em relação à democracia.
Entre outras coisas, eu queria ressaltar a importância também, no nosso plano de trabalho, da opção pela regulação em cima de mudanças sociotécnicas, como parece indicar, e não por fazer a regulação de uma tecnologia, porque, sempre que a gente quer regular uma tecnologia, no mínimo a gente fica muito obsoleto muito rapidamente. Então, esses usos da inteligência artificial trazem muitas mudanças, que têm riscos, e a esses riscos eu acho que a gente tem que ter muita atenção. Primeiro, há os riscos que aquelas características dessa tecnologia aliadas aos usos trazem em relação à sua arquitetura, em relação às finalidades do uso, como viés, opacidade, a questão da transparência também. E também há outras questões regulatórias do desenvolvimento do próprio mercado, do desenvolvimento da segurança jurídica do próprio mercado.
E quero ressaltar a importância também de que regulação não necessariamente é contra o desenvolvimento econômico ou contra a questão do desenvolvimento científico e da inovação. Ao contrário, a gente vai trazer regras e parâmetros que vão deixar tudo com mais segurança jurídica. Isso é muito importante para o nosso desenvolvimento de mercado e, enfim, para ingressar em uma nova era.
É isso.
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - Muito obrigado.
Profa. Clara Iglesias Keller com a palavra.
A SRA. CLARA IGLESIAS KELLER (Por videoconferência.) - Obrigada.
Bom dia a todos.
Começo agradecendo ao Presidente desta Casa, Senador Rodrigo Pacheco, pela nomeação honrosa para fazer parte da presente Comissão. Na pessoa do Deputado Eduardo Bismarck eu cumprimento todas as autoridades presentes, bem como os membros desta Comissão na pessoa do nosso Presidente, Ministro Ricardo Cueva, e de nossa Relatora, Profa. Laura Schertel Mendes, parabenizando ambos desde já pela condução dos trabalhos.
Dado que as tecnologias de inteligência artificial ainda estão longe da sua maturidade, apesar de estarem por todos os lugares, os processos de política pública que tratam de IA neste momento certamente vão contribuir para o que elas vão se tornar ao longo dos anos, para o que seria mais próximo da sua forma final.
Além de um mandato de cautela, essa percepção também é uma oportunidade para que o Parlamento use a evidência empírica que já existe sobre esses sistemas e as suas características, principalmente aquela evidência produzida dentro da realidade social brasileira, para contribuir para um desenvolvimento adequado à Constituição e ao nosso contexto socioeconômico. Então, há alguns pontos de atenção que eu gostaria de sugerir para futuros debates, já pensando na minuta e num possível substitutivo.
Em primeiro lugar, eu aponto a necessidade de consignação substantiva e procedimental de direitos, que se reflita, por exemplo, em medidas de promoção da igualdade social e antidiscriminatórias, que vão além da linguagem principiológica.
Sugiro também a gente refletir sobre a importância de mecanismos que permitam contestação do uso desses sistemas, lembrando que a ideia de contestação é um requisito normativo do direito, que nos protege da aplicação de padrões e normas de direito ou não que sejam aplicadas de forma equivocada.
Em segundo lugar, sugiro que a gente debata e tenha cautela com a sugestão de estímulo à autorregulação, em especial no art. 3º da versão atual. A mera existência de um instrumento normativo não é um indicativo de conformidade. E, acima disso, a literatura especializada contraindica arranjos autorreguladores em matérias de direitos fundamentais, que é o caso aqui, dada a multiplicidade de usos da IA, muitos deles afetando tais direitos. Sugiro, assim, a reflexão sobre esse dispositivo, sem prejuízo de se proporem arranjos híbridos, como a Dra. Miriam Wimmer já sugeriu em relação à regulação, dependendo do setor de que se trata e do grau de risco identificável.
R
Em terceiro e último lugar, muitos dos riscos em jogo aqui se relacionam com o fato de que essas tecnologias operam com base no uso massivo de dados. Enquanto a LGPD já cuida de alguns aspectos referentes à coleta e tratamento, um diploma muito importante para o nosso debate, muitas outras questões também necessitam de atenção dentro do escopo deste PL, como, por exemplo, segurança e governança participativa desses sistemas, lembrando aqui que eles se transformam constantemente, vão ganhando novas funcionalidades e características de acordo com a sua operação, até com base nos dados que vão coletando e aperfeiçoando essa operação.
Nesse sentido, eu encerro minha exposição. Nossa Comissão tem um trabalho imenso pela frente, mas tenho certeza de que, com a excelência dos membros e a participação multissetorial e diversa da sociedade civil, nós teremos a oportunidade de fazer um ótimo trabalho, que faça jus à tradição brasileira de regulação de tecnologia já tão colocada pelo Prof. Danilo Doneda.
Muito obrigada.
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - Muito obrigado.
Com a palavra a Dra. Mariana Giorgetti Valente.
A SRA. MARIANA GIORGETTI VALENTE (Por videoconferência.) - Bom dia. Bom dia a todas, a todos.
Eu gostaria muito de agradecer a nomeação para fazer parte desta Comissão, agradecendo ao Presidente desta Casa, Senador Rodrigo Pacheco; ao Senador Eduardo Gomes; ao Presidente da Comissão, Ministro Ricardo Cueva; e à nossa Relatora, Profa. Laura Schertel Mendes.
E eu gostaria de, além de agradecer a oportunidade de contribuir com esse tema, que é de imensa relevância social, louvar a iniciativa de instalação de uma Comissão para discutir os projetos de lei sobre inteligência artificial, dada justamente a relevância.
Eu divido a minha curta fala em dois pontos: um de aspectos gerais; outro de temas específicos.
Indo direto para os aspectos gerais, parece essencial que nós da Comissão consigamos pensar uma regulação que equilibre o incentivo ao desenvolvimento dessas tecnologias com a defesa de direitos, como a garantia do direito à privacidade, à não discriminação, à autodeterminação; em segundo lugar, que contemple as especificidades tecnológicas sociais e econômicas brasileiras e que saiba reconhecer também onde a tecnologia está incipiente demais - um pouco na linha do que a Clara falava e o Bruno também -, abrindo espaços para intervenções futuras e prevendo a participação de especialistas dos múltiplos grupos interessados; e que sejamos capazes de trazer participação para dentro, representando tanto os campos do conhecimento como os sujeitos múltiplos que são afetados por essas tecnologias.
Eu queria falar um pouco sobre os temas a serem trabalhados. Eu concordo com algumas exposições aqui já trazidas sobre temas que foram ressaltados, mas eu vou focar aqui três temas menos abordados, que me parece que é bastante importante que nós, como Comissão, discutamos.
Tema um. Eu tenho preocupação com o tema do uso de inteligência artificial pelo setor público e, particularmente no que diz respeito a decisões que afetam os cidadãos, parece-me que precisamos debater que requisitos especiais precisam estar presentes quando falamos de decisões algorítmicas tomadas pelo Estado, principalmente em relação a populações vulneráveis.
R
Tema dois. Precisamos enfrentar o tema - e aí informados por debates nacionais e internacionais - dos campos em que o risco das tecnologias é tão alto, em relação a potenciais benefícios, que estaríamos falando propriamente da necessidade de proibições. Várias jurisdições estão debatendo a proibição das tecnologias de inteligência artificial aplicadas ao reconhecimento facial na segurança pública, por causa do potencial de discriminação, estigmatização e revitimização.
E três, o tema do direito autoral sobre as bases de dados, que é um dos temas mais importantes para o desenvolvimento dessas tecnologias, mas um dos menos tratados no debate público. As bases de dados que alimentam as tecnologias são, no Brasil em quase todo o mundo, protegidas com direito autoral, e vários países, especialmente no norte global, já previram permissões para as bases serem mineradas para pesquisa e desenvolvimento, e na medida em que nós no Brasil não fazemos isso, temos um problema triplo: um de insegurança jurídica; outro de qualidade das bases que estão à disposição, que está diretamente relacionado com a diversidade dos perfis representados e com a não discriminação e, por fim, uma desigualdade no cenário geopolítico, já que as bases de dados brasileiras sobre os sujeitos brasileiros podem ser mineradas onde existe essa autorização, e o contrário não é verdadeiro. Parece-me que esse é um grande e silencioso problema que nós teremos aqui oportunidade de debater e eu já queria deixar registrado.
Eu cumprimento os membros e membras da Comissão, com quem espero debater, aprender muito, e agradeço pelo espaço, mais uma vez.
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - Muito obrigado.
Finalmente, o Dr. Filipe Medon com a palavra.
O SR. FILIPE MEDON - Obrigado.
Bom dia a todos e todas.
Exmo. Sr. Presidente, Ministro Cueva; Sr. Eduardo Bismarck; Sra. Laura Mendes, nas pessoas dos senhores, saúdo também todas as autoridades, os membros que compõem esta Comissão e aqueles que nos acompanham.
Coube a mim a derradeira fala, nesta manhã tão importante. E o desafio se torna ainda maior tendo em vista os notáveis juristas que me antecederam. No entanto, gostaria de tecer brevíssimas considerações.
Em primeiro lugar, não poderia deixar de agradecer pelo honroso convite para integrar esta Comissão, cujo resultado final poderá impactar decisivamente o futuro de milhões de brasileiros e brasileiras que, ainda que não o saibam, são afetados cotidianamente pela inteligência artificial em suas mais variadas aplicações. E como já foi dito, acerta este Senado Federal em ouvir a sociedade, dada a relevância do tema.
Esta Comissão será um espaço aberto para todas as vozes, em respeito à diversidade, e o Brasil tem tudo para ser pioneiro no mundo nesta área. Devemos considerar a inafastável premissa sobre o tema de que na linha do que defende Jack Balkin, embora cada vez mais estejamos rodeados de sistemas e robôs comandados por inteligência artificial, no fundo nossas relações não se dão com estes, mas, sim, com os seres humanos que se escondem por trás desses robôs e sistemas, e precisamos nos cercar dos cuidados necessários para que não haja uma irresponsabilização desses sujeitos. Por certo, devemos pensar na atribuição de responsabilidades com cautela, sob pena de inibir o desenvolvimento tecnológico e também econômico. Nada obstante, nosso foco deve ser a reparação integral das vítimas e em última instância a tutela da pessoa humana, que não é lesada por máquinas, mas pelos seres humanos que estão por trás delas.
Nessa direção, a definição apriorística de um regime de responsabilidade civil único, seja ele de natureza subjetiva ou ainda objetiva, deve ser rechaçada, porque não há como se pretender conferir resposta única a um problema que comporta inúmeras facetas, já que não é apenas uma a inteligência artificial.
Tenho a certeza de que esta Comissão encontrará sabedoria necessária para sugerir uma proposta de substitutivo que não engesse o desenvolvimento, ao mesmo tempo em que salvaguarde os direitos fundamentais. E o cuidado precisa ser redobrado, a fim de que não venhamos a construir uma lei que apenas replique princípios e diretrizes já consagrados em diplomas internacionais, sem sugerir medidas concretas de correção, por exemplo, da tão falada discriminação algorítmica.
R
Mais importante do que a responsabilidade é, sem dúvida, a prevenção dos danos, e o desenvolvimento ético da inteligência artificial é o grande pilar nessa busca.
Agradecendo a todos uma vez mais, desejo um excelente trabalho para esta Comissão, colocando-me inteiramente à disposição desta Casa.
Muito obrigado.
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - Muito obrigado.
Eu agradeço enormemente a participação de todos, tanto dos que puderam, presencialmente, participar desta sessão de instalação quanto daqueles que estão participando por videoconferência.
Como todos devem ter notado, nós acabamos de concluir a primeira etapa dos nossos trabalhos, que era exatamente a instalação da Comissão, a aprovação do regulamento, da nossa autorregulação aqui, e do plano de trabalho.
A Profa. Laura foi muito cuidadosa em levar em consideração todas as contribuições que foram feitas depois daquela nossa primeira reunião por videoconferência, preparatória deste ato de instalação. Incorporou todas as sugestões naquele bloco de eixos temáticos para o debate, que não necessariamente estarão contidos no texto final, afinal de contas, em quatro meses, seria difícil abarcar todos aqueles temas elencados ali, mas, pelo menos, no debate, estarão presentes. E são esses temas que vão dar coerência e congruência às audiências públicas - serão duas audiências públicas com dois dias cada uma.
Eu vou passar a palavra para a Relatora, Profa. Laura Schertel Mendes, para que ela, então, fale, em mais detalhes, sobre o nosso plano, sobre os próximos passos, sobre o que fazer. O próximo passo, já no dia 8 de abril, a gente vai comunicar, as audiências públicas. Então, por favor, Professora.
O SR. EDUARDO BISMARCK (Bloco/PDT - CE) - Ministro, Relatora, Dra. Laura, posso só dar uma palavrinha rapidamente?
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - Por favor, Deputado.
O SR. EDUARDO BISMARCK (Bloco/PDT - CE) - Obrigado.
Eu vou, até porque... Eu gostei muito de ouvir todos os presentes aqui, mas, logo em seguida, eu tenho que me retirar para outro compromisso. Agradeço a palavra.
Ministro Cueva, Dra. Laura, Relatora, todos os nobres colegas operadores do Direito aqui presentes, quero dizer que estou muito feliz com a instalação desta Comissão. Sou autor do Projeto de Lei 2.120, que foi aprovado na Câmara dos Deputados. E a minha palavra, o que eu queria dizer é que hoje é só para a gente poder dar o espírito daquilo que norteou o nosso projeto lá, no sentido de tentar colaborar com esta Comissão.
Nós buscamos, justamente, não fazer um projeto que tentasse prever tudo aquilo que está envolvido na inteligência artificial. A gente fez um projeto de lei principiológico, mas que pretendia estabelecer alguns parâmetros, e muito focado também, é o que a gente buscou, em algo que desse a oportunidade de a gente ter o desenvolvimento da inteligência artificial aqui no Brasil, ou seja, que isso pudesse ser uma ferramenta de engrandecimento do país, que nós tivéssemos a criação de patentes, que nós tivéssemos o desenvolvimento dentro das universidades e, portanto, gerássemos riqueza para o nosso país. A gente queria muito isso quando criamos esse projeto no âmbito da Câmara, dialogando com alguns colegas Parlamentares. Depois - a Deputada Luisa Canziani foi a Relatora -, nós fizemos alguns ciclos de debate, nós temos relatórios elaborados pela nossa assessoria, pela Dra. Heloisa, que participou desse acompanhamento também, que pode disponibilizar para a Comissão, e ficam já à disposição de vocês, desses especialistas, para contribuir com o debate.
R
Então, eram essas minhas palavras. Eu estou à disposição, sigo à disposição de V. Sas., de V. Exas., para a gente poder construir isso que, com certeza, é uma sinalização que o Brasil dá para o mundo de que a gente está aí, sempre na vanguarda da questão tecnológica.
Obrigado.
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - Eu agradeço muito o Deputado Bismark pelo empenho e dedicação nesse tema - ele, que integra a Frente Parlamentar Mista da Inteligência Artificial. Essa generosa oferta de colocar à disposição agora desta Comissão do Senado todo o trabalho valoroso, importante que foi feito ao longo do debate legislativo na Câmara, sem dúvida, será aproveitada. Nós estamos procurando apenas dar continuidade a esse processo legislativo complexo, plural, que se iniciou ali por iniciativa do Deputado, naquele Projeto 21, que talvez seja o mais debatido dos três. Então, é muito importante contar com a sua participação. Desde logo, em nome de todos, eu reitero os nossos agradecimentos à sua participação aqui.
O SR. EDUARDO BISMARCK (Bloco/PDT - CE) - Obrigado, Ministro. Um bom dia a todos e bom trabalho.
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - Profa. Laura.
A SRA. LAURA SCHERTEL FERREIRA MENDES - Bom, eu queria, até antes de começar a apresentar rapidamente o cronograma, apenas agradecer aqui a contribuição de todos a esse plano de trabalho, ao cronograma; o engajamento de todos e dizer, Ministro, que concordo com o que foi falado aqui, que o trabalho é hercúleo, mas, certamente, com todos esses especialistas, com o trabalho, com esse engajamento que já se mostrou nesse início e sob a sua liderança, chegaremos aí a um bom termo.
E foi pensando, então, nesses quatro meses - como são 120 dias o prazo que temos para cumprir essa missão - que nós estamos propondo três etapas de trabalho, sendo a primeira a instalação da Comissão e a participação pública; a segunda, reuniões de trabalho e a experiência internacional; e a terceira etapa, redação, consolidação de subsídios para elaboração de substituto. Então, exatamente porque o tempo é curto, a primeira etapa já visa obter o máximo de contribuições possíveis da sociedade, dos setores, dos próprios agentes do Governo, do setor privado e da sociedade civil de uma forma geral. E, na segunda etapa, nós realizaremos, então, um seminário internacional também para colher insumos aí e experiências internacionais. E, na terceira, vamos, então, nos debruçar, discutir, debater sobre todos esses subsídios que receberemos para, então, consolidá-los numa minuta de um projeto.
Eu queria também comentar quais são os quatro eixos. Todo o plano de trabalho, assim como o cronograma já estão na página do Senado Federal. Então, quem quiser já pode ter acesso. Lembrando que esses eixos temáticos para o debate são eixos... Talvez num primeiro olhar as pessoas possam se assustar com a especificidade, com a quantidade de temas, mas a ideia foi exatamente estruturar esses temas de modo que sociedade, que todos possam contribuir também de uma forma bastante ampla. Então, os temas não são, de forma alguma, nada parecidos com o que pode vir a ser o projeto, até porque esse não existe. São realmente eixos temáticos para o debate, que a gente acha que podem contribuir muito. Acho que as contribuições que a gente venha a receber nesse formato ou sobre esses temas podem contribuir muito com o nosso debate.
R
Então, o primeiro eixo são conceitos, compreensão e classificação de inteligência artificial, o que compreende o próprio objeto a ser regulado e por que e como regular. Esse é o primeiro eixo.
O segundo são os impactos da inteligência artificial, e aí a gente passa tanto pelo contexto econômico e social como por benefícios e riscos.
O terceiro são direitos e deveres. A gente fala de transparência, explicabilidade, revisão, atributos do design técnico, segredos comerciais e industriais.
O quarto e último trata da estrutura de governança, fiscalização e accountability, inclusive os regimes de responsabilidade.
Então, são quatro grandes eixos e, inclusive, nas audiências públicas, que estão agora no cronograma que todos podem ver aqui, a gente propôs uma divisão também conforme esses temas.
Até a nossa próxima reunião, nós precisamos trabalhar bastante para que a gente tenha o máximo de indicações de todos aqui em relação a especialistas que virão a compor essas audiências públicas. Então, a gente tem até o dia 8 de abril para obter todas essas contribuições, todas essas indicações, e então fechar a composição dessas audiências públicas, que ocorrerão nos dias 28 e 29 de abril e 12 e 13 de maio.
Como os senhores podem perceber, a gente tem, para cada eixo temático, um dia inteiro de audiência pública. É exatamente para que a gente possa debater todos esses temas de uma forma bastante ampla e profunda.
Nós teremos, então, uma reunião presencial no dia 18 de maio, que é exatamente o debate sobre as contribuições obtidas nas audiências públicas; nos dias 9 e 10 de junho, um seminário internacional; 24 de junho e 8 de julho estão aí, digamos, reservados para discussão do relatório.
Haverá uma suspensão das atividades da Comissão para que a gente não conclua os trabalhos e tenha que entregar o projeto, o relatório, durante a suspensão ou durante as férias aqui do Congresso. Então, haverá essa suspensão das atividades para que os trabalhos sejam concluídos no dia 12 de agosto.
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - E é sempre importante lembrar que nós devemos tentar alcançar o maior número de setores e de vozes que possam efetivamente trazer um quadro ainda mais completo, se possível, do que aquele que já foi atingido com as audiências públicas na Câmara dos Deputados no início do processo legislativo. A ideia é que haja realmente um amplo espectro de representantes de pontos de vista divergentes, o que é fundamental para garantir a legitimidade aqui de toda essa discussão.
(Intervenção fora do microfone.)
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - Está já projetado ali, não é?
A SRA. LAURA SCHERTEL FERREIRA MENDES - Perfeito.
Desde já, então, a gente gostaria de pedir aos setores da sociedade de uma forma geral, às empresas, ao setor privado e às entidades civis que possam já encaminhar sugestões sobre o tema, inclusive, se puderem, de forma estruturada também, ou talvez trazer sugestões sobre esses temas que nós estamos propondo. O e-mail da Comissão é esse que todos já conseguem ver; no site consta tanto o cronograma como o plano de trabalho e o regulamento da Comissão.
R
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - O Reinilson, que está aqui, é que vai nos secretariar nos trabalhos. Ele é servidor do Senado, tem experiência nisso e já nos tem emprestado um apoio decisivo para que possamos concluir os trabalhos no tempo que foi assinalado e da melhor maneira possível. Então, todos podem se reportar também a ele.
Eu consulto se há mais alguma observação ou manifestação antes de encerrar aqui a nossa reunião de instalação. (Pausa.)
Então, não havendo nenhuma outra manifestação, eu declaro encerrada esta reunião de instalação da Comissão de Juristas do Senado que vai se debruçar sobre o tema da inteligência artificial.
Muito obrigado a todos.
(Iniciada às 10 horas e 19 minutos, a reunião é encerrada às 11 horas e 37 minutos.)