06/12/2022 - 11ª - Comissão de Juristas responsável por subsidiar elaboração de substitutivo sobre inteligência artificial no Brasil

Horário

Texto com revisão

R
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva. Fala da Presidência.) - Boa tarde a todos.
Havendo número regimental, declaro aberta a 11ª Reunião da Comissão Temporária Interna destinada a subsidiar a elaboração de minuta de substitutivo para instruir a apreciação dos Projetos de Lei 5.051, de 2019; 21, de 2020; e 872, de 2021, que têm como objetivo estabelecer princípios, regras, diretrizes e fundamentos para regular o desenvolvimento e a aplicação da inteligência artificial no Brasil.
Instituída pelo Ato nº 4 do Presidente do Senado, Rodrigo Pacheco, em 17 de fevereiro do corrente ano, a presente Comissão de Juristas foi responsável por subsidiar a elaboração da minuta de substitutivo já referida, com o objetivo de estabelecer princípios, regras e diretrizes e um embrião de regulação do tema no Brasil.
A Comissão conta com Laura Schertel Mendes, como Relatora; comigo, na Presidência; e é composta pelos seguintes membros: Ana Frazão, Bruno Bioni, Danilo Doneda - em memória, pranteado por todos aqui -, Fabrício de Mota, Miriam Wimmer, Wederson Siqueira, Claudia Lima Marques, Juliano Maranhão, Thiago Sombra, Georges Abboud, Frederico D'Almeida, Victor Marcel, Estela Aranha, Clara Iglesias Keller, Mariana Valente e Filipe Medon.
O prazo original da Comissão era de 120 dias e, no dia 14 de julho, o prazo foi prorrogado por mais 120 dias.
No dia 24 de março foi realizada a primeira reunião preparatória, foi instaurada por meio da 1ª Reunião, Ordinária, do dia 30, ocasião em que foram aprovados o seu regulamento e plano de trabalho.
Houve inúmeras reuniões internas, mas a Comissão quis ouvir amplamente a sociedade. Assim, nas reuniões abertas, realizamos audiências públicas divididas por eixos temáticos, com o objetivo de auxiliar os trabalhos da Comissão.
Os dias 28 e 29 de abril e 12 e 13 de maio foram dedicados a audiências públicas com a presença de especialistas e representantes de entidades nacionais e internacionais para discussão e aprofundamento do tema.
R
No dia 28 de abril, versando sobre o Eixo 1 - conceitos, compreensão e classificação de inteligência artificial, foram feitos vários painéis: o Painel 1, por exemplo, sobre inteligência artificial e regulação, aspectos sociotécnicos e objetos a serem regulados; o Painel 2, sobre modelos de regulação e abordagens; o Painel 3, sobre fundamentos e princípios. No dia seguinte, o Painel 4 tratou do contexto econômico-social e benefícios, falando de desenvolvimento sustentável e bem-estar, concorrência e inovação, consumo e marketing, pesquisa e desenvolvimento de inteligência artificial, bases de dados, direito autoral e mineração; o Painel 5 tratou de experiências setoriais: segurança pública, execução de políticas públicas, inovação na indústria, transformação digital nas empresas e proteção à criança; e, no mesmo dia, o Painel 6 tratou dos riscos da inteligência artificial, discutindo a gradação de riscos e as hipóteses de riscos inaceitáveis e o princípio da precaução.
Finalmente, no dia 12 de maio, tratamos, nas audiências públicas, dos Eixos 2 e 3: impactos da inteligência artificial e direitos e deveres. Houve, então, no dia 12, mais três painéis. O primeiro, o Painel 7, sobre riscos: vieses e discriminação. Painel 8, sobre atributos do design sociotécnico de confiabilidade da inteligência artificial. O Painel 9 cuidou dos direitos e deveres: transparência e explicabilidade, revisão e o direito à intervenção humana, bem como à correção de vieses.
E, por fim, no dia 13, houve discussões sobre o Eixo 4 - Accountability, governança e fiscalização, com os seguintes painéis: Painel 10, regimes de responsabilidade civil; Painel 11, arranjos institucionais de fiscalização; e, finalmente, o Painel 12, instrumentos regulatórios para inovação: códigos éticos e melhores práticas.
Houve, nesses doze painéis, a contribuição de especialistas de todos os setores e de representantes de vários segmentos da sociedade civil.
Em complementação a essas audiências públicas, a Comissão abriu prazo para contribuições escritas. Foram recebidas 102 manifestações de entidades representativas da sociedade civil, de órgãos governamentais, da academia, do setor privado, além de contribuições individuais. Todas elas foram organizadas e consolidadas para subsidiar o trabalho.
Houve, na 6ª Reunião, de 18 de maio, um balanço das audiências, e, a partir daí, foram criados subgrupos de trabalhos temáticos, cujos coordenadores eram: Danilo Doneda, Miriam Wimmer, Clara Keller, Bruno Bioni e Mariana Valente. Os cinco subgrupos foram assim divididos: o primeiro grupo, conceitos, fundamentos e princípios; o segundo grupo, direitos e regras de governança; o terceiro, categorização de riscos e avaliação de impacto algorítmico; o quarto, medidas para incentivar inovação; e o quinto, supervisão e fiscalização.
R
Além das audiências públicas, nas 7ª e 8ª Reuniões, a Comissão também realizou um seminário internacional, nos dias 9 e 10 de junho, com o objetivo de levantar o estado da arte das propostas de regulação de inteligência artificial no mundo.
O Painel nº 1 tratou de democracia e direitos fundamentais, com vários especialistas. O Painel nº 2 cuidou dos desafios da regulação da inteligência artificial nas experiências comparadas ao redor do mundo. O Painel 3 cuidou da transparência, viés e devido processo na tomada de decisão automatizada. O Painel 4, proteção de dados e regulação de inteligência artificial. O Painel 5, técnicas regulatórias e abordagem baseada em risco. Painel 6, mercados, expertise. E o Painel 7, sistemas de responsabilização.
Essa leitura enfadonha das audiências públicas do cenário internacional ficará disponível com todo o detalhe, todos os nomes dos integrantes, todos muito destacados nos seus campos. Ela se presta a demonstrar como o trabalho da Comissão foi amplo e profundo ao mesmo tempo, como implicou ouvir todos os segmentos da economia, da sociedade civil, especialistas do Brasil e do mundo todo e como tudo isso, todo esse conhecimento foi processado ao longo dos meses, catalogado, compendiado. E temos hoje um mapa bastante completo do que se pensa sobre o tema no Brasil e no mundo, o que nos permitiu, então, graças também a essa divisão desse grupo, ao trabalho de todos e de cada um dos integrantes da Comissão e da Relatora, fazer um trabalho que é o espelho do que se espera da regulação da inteligência artificial.
Nós todos esperamos, como dissemos já na reunião anterior, antes de encerrar aqui hoje a nossa atividade, não termos errado nem para mais nem para menos. As escolhas políticas e técnicas que foram feitas estão todas justificadas no relatório que será apresentado agora ao Presidente do Senado, descrevendo todas essas ações e essa coleta de informações e opiniões em detalhe e todas as escolhas que foram feitas no texto de pouco mais de 40 artigos que constitui a minuta do substitutivo a ser apresentado a esta Casa.
Nós reiteramos a lembrança do nosso sempre estimado Prof. Danilo Doneda. Contamos com inestimável participação dele não apenas na liderança daquele subgrupo, mas ao longo de todo o processo, sempre muito ativo, muito atuante. A memória dele vai continuar viva em todos nós e certamente se materializou neste projeto aqui, que é uma das inúmeras contribuições que Danilo nos deixa.
Eu consulto a Profa. Laura se quer fazer algum comentário - ela que não pôde chegar aqui a Brasília; está em Frankfurt.
R
A SRA. LAURA SCHERTEL FERREIRA MENDES (Por videoconferência.) - Obrigada.
Conseguem me escutar?
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - Sim.
A SRA. LAURA SCHERTEL FERREIRA MENDES (Por videoconferência.) - Então, apenas para reiterar aquilo que o senhor já colocou, que esse trabalho também não deixa de ser uma grande homenagem ao nosso amigo Danilo Doneda, que muito nos ajudou. Nessa trajetória, ele já há tantos anos vinha trabalhando nesses temas, ajudou e foi essencial, especialmente para este projeto também.
Quero falar uma palavra de agradecimento, Ministro. Agradeço ao senhor pela liderança, por essa liderança realizada de forma muito consensual. Reitero que essa unanimidade com a qual chegamos no texto parece-me que também foi um trabalho muito árduo, e o senhor ajudou muito nisso. Então, agradeço ao senhor, a todos e a cada um dos membros desta Comissão; agradeço por todo apoio que recebemos do Senado e a toda sociedade que participou dos debates de forma tão ativa.
Muito obrigada.
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - Eu agradeço, Laura.
Agora a palavra a quem queria se manifestar. Nós todos vocalizamos nossas opiniões nas reuniões internas intensamente, mas nas reuniões públicas muito pouco, porque o trabalho quase todo foi voltado à confecção do texto, aos estudos. Quem quiser se manifestar, por favor, fique à vontade.
Profa. Claudia Lima Marques.
A SRA. CLAUDIA LIMA MARQUES - Eu gostaria, em meu nome pessoal e em nome de todos os membros desta Comissão, de agradecer a liderança ao mesmo tempo muito gentil e, eu diria, decisiva do eminente Ministro Cueva e a maneira tão gentil e democrática que a nossa Relatora geral, a Profa. Dra. Laura Schertel Mendes, conduziu esses trabalhos.
Acho que esse bom fim a que chegamos, com a magnífica contribuição do saudoso Prof. Dr. Danilo Doneda, é um resumo. Se o trabalho teve frutos, e frutos muito científicos, meritórios, harmônicos, unânimes, foi justamente com essa condução tão bem realizada e esse espaço que foi dado a todos para se manifestar.
Realmente nas reuniões públicas falamos pouco, mas fizemos muito nas outras reuniões. Então, eu queria, de público, manifestar, em nome de todos, acho, a nossa alegria de ter participado e a certeza de que nós estamos dando uma contribuição e que agora a sabedoria do Parlamenta brasileiro vai nos conduzir nos próximos passos.
Muito obrigada.
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - Muito obrigado.
Mais alguém?
Fabrício.
O SR. FABRÍCIO DE MOTA ALVES - Muito obrigado, Ministro Cueva, Presidente.
Só faço o registro, de fato, do reconhecimento do esforço de todos os membros desta Comissão.
Eu tenho muita convicção de que nós produzimos um trabalho fruto de uma média extremamente elevada de capacidades e de talentos. Acho que todos os membros da Comissão, especialmente aqueles que participaram com altivez e com dedicação fora do comum, conseguiram agregar valor a uma proposta que já veio bastante interessante da Câmara dos Deputados, mas que nós aqui entregamos ao Senado Federal para que o processo legislativo tenha a sua continuidade, com uma legitimação talvez ainda superior àquela que veio da Câmara, à medida em que nós conseguimos ouvir uma pluralidade de especialistas, de acadêmicos, de setores governamentais... A sociedade se fez muito presente durante toda a oitiva dos trabalhos e durante toda a condução.
R
Parabenizo, Ministro, V. Exa. pela liderança, pela capacidade de diálogo, pela capacidade de composição de tantos assuntos, de tantos temas, que, muito embora tenham uma espinha dorsal, são temas de difícil enfrentamento e que estão em um nível de desafio talvez ímpar. Acho que o Brasil oferece aqui, através de nosso trabalho, um produto que é ao mesmo tempo ousado e equilibrado.
Registramos, obviamente, mais uma vez, a ausência, sempre muito marcante, do nosso amigo Danilo Doneda, com certeza, uma das pessoas que mais estariam satisfeitas com o resultado desta Comissão, porque foi com ele que esta Comissão nasceu e é por ele que nós entregamos esse trabalho tão bem elaborado.
Obviamente, quero parabenizar os servidores da Casa na figura do Reinilson e da Adriana também, chefe de gabinete do Senador Eduardo Gomes. Cumprimento também o próprio Senador e o Presidente Pacheco. Logo mais, vamos entregar a ele o fruto desse trabalho. E a Maria Rosa também foi imprescindível durante toda essa evolução.
É isso.
Foram quase 240 dias, o que já é suficiente para que algumas teses sejam elaboradas. Enfim, estudantes e profissionais não terão do que reclamar, pois um relatório que agora é entregue com mais de 900 páginas será diversão para muito tempo - esperamos todos. E, certamente, o produto que interessa, com a entrega oficial, esperamos que seja muito bem recebido. Ele está muito equilibrado, muito maduro e realmente representa um posicionamento médio de grandes talentos.
Parabenizo a todos os colegas membros da Comissão também pelo excelente desempenho.
Obrigado, Ministro.
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - Mais alguma manifestação? (Pausa.)
Ah, o Bruno - o Bruno e depois o Thiago, por favor.
O SR. BRUNO RICARDO BIONI - Boa tarde a todos e a todas.
Eu gostaria de reforçar o agradecimento também por todo o processo, por como ele foi colaborativo, construído, muito devido também à sabedoria dos Parlamentares membros desta Casa, em especial o Presidente Rodrigo Pacheco e também o Senador Eduardo Gomes, que lideraram todo esse processo de criação da Comissão de Juristas, para que a gente pudesse cadenciar essa discussão à altura da complexidade que ela detinha.
Hoje, acho que a gente tem um projeto de lei que não é só meritório no seu conteúdo, mas também na forma pela qual ele foi articulado. A Comissão dedicou, das três fases de trabalho, duas para ouvir, para se lançar ao diálogo colaborativo com a sociedade civil. Isso permitiu hoje que esta Comissão possa entregar muito mais do que apenas um substitutivo de projeto de lei, mas uma verdadeira biblioteca sobre o tema de inteligência artificial, com uma curadoria bastante acurada e reunindo visões locais, regionais e globais, também em pé de igualdade com aquilo que têm o norte global e o sul global.
R
Nesse sentido, eu acho que o principal produto, que é um substitutivo a um projeto de lei, é meritório por, de certa maneira, também desmistificar alguns trade-offs ou escolhas que num primeiro momento poderiam se rivalizar, mas na verdade é possível se harmonizarem. É possível construir uma regulação que seja protetiva, afirmativa de direitos e liberdades fundamentais e que coloque no centro do debate aquele elo mais vulnerável, que nesse caso é a pessoa humana que cotidianamente tem seus interesses afetados por processos e decisões que são totalmente ou parcialmente automatizados, desde uma concessão de crédito ou uma política pública de transferência de renda ou seja lá o que for, e também pensar em segurança jurídica e previsibilidade de como essas regras do jogo serão interpretadas. Nesse sentido, uma boa parte, uma boa envergadura do projeto de lei se dedica a pensar em arranjos institucionais e também ferramentas de governança que possam ser pontos de otimização, de inovação e também de geração de cadeia de valor.
Por fim, quero registrar todo o agradecimento e a verdadeira admiração ao nosso colega Prof. Danilo Doneda, mentor intelectual de muitos, de uma geração, de uma legião de alunos e que, no final da nossa exposição de motivos, acho que sintetiza muito bem o ponto fulcral do que a gente está debatendo e do futuro que a gente pode pensar no grande ambiente de regulação e tecnologia. No dia 30 de março, logo quando a gente instalou a Comissão, o Prof. Danilo Doneda disse as seguintes palavras:
A centralidade do elemento humano deve ser enfatizada em todos os seus aspectos, em todos os seus pontos necessários. Nossa missão certamente será propor e pesquisar instrumentos e soluções regulatórios que não contradigam ou impeçam a implicação da inteligência artificial, que pode ser [...] [e será] necessária, mas que facilitem e incentivem a sua adoção, diminuindo riscos e garantindo a segurança jurídica [...].
Então, além de um jurista, era um verdadeiro humanista, e isso está no coração normativo do que a gente propõe hoje.
Obrigado a todos os membros dessa Comissão e obrigado em especial ao amigo Prof. Danilo Doneda.
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - Mais alguém? Thiago, por favor.
O SR. THIAGO LUÍS SANTOS SOMBRA - Ministro, primeiramente, boa tarde a todos.
Eu também queria fazer um comentário muito rápido. Acho que só consigo me lembrar do marco civil da internet, que teve uma capacidade de reunião de tantas vozes e uma capacidade de ouvir tantas pessoas para ter um produto final tão plúrimo, tão diverso, com tantas contribuições. De fato, acho que este projeto de lei que será entregue é um ponto de partida muito relevante, mas ele é um ponto de partida que fatalmente contemplou algumas escolhas, mas foi fruto de muita discussão, de muita composição - e aí eu queria parabenizar o Sr. Ministro e a Profa. Laura pela capacidade de composição. São pessoas muito diferentes que fizeram parte desse grupo, mas acho que, ao final, o grande mérito e o grande resultado é a possibilidade de termos aqui um texto concreto que reflete um pouco dessas diversidades e reflete sobretudo todo o material que foi possível coletar, especialmente ao longo das audiências públicas, com uma diversidade muito grande de material não só em âmbito nacional, mas também em âmbito internacional, ouvindo o setor privado, academia e especialistas do mundo inteiro.
O que eu acredito que nós podemos dar como missão cumprida hoje é que o Brasil se coloca no protagonismo nesse tema em âmbito global.
R
Sem sombra de dúvida, o texto precisará passar por uma nova série de discussões agora, na Casa Legislativa, merecerá outras sugestões e alterações, mas eu acredito que nós entregamos um trabalho muito amadurecido, muito bem refletido.
E, como não poderia deixar de falar, em termos de reflexão e amadurecimento, o Danilo tem parte disso. Ele talvez seja, entre nós, aquele que tenha tido a melhor capacidade de contribuir não só pela sua reflexão, mas sempre por aquele tom astuto, aquela capacidade de enxergar adiante com os temas que colocaria. Então, eu também queria deixar aqui o meu abraço e o meu especial agradecimento por ter tido a oportunidade de dividir com ele alguns desses dias desta nossa Comissão.
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - Muito obrigado.
Então, não havendo mais...
Ah, Filipe, por favor.
O SR. FILIPE MEDON - Obrigado, Ministro.
Uma vez mais, gostaria de reiterar os agradecimentos a V. Exa. pela condução tão democrática e segura, também à Profa. Laura pela habilidade na relatoria e organização dos debates e redação final do texto, que contou realmente com verdadeiro trabalho hercúleo de reunião das diversas sugestões, sempre acolhendo com muito trabalho democrático.
Quero reforçar, mais uma vez também, a iniciativa do Senado em ouvir a sociedade, e eu poderia dizer que a grande virtude deste trabalho me parece ter sido que nós conseguimos falar menos e ouvir mais a sociedade. Então, como foi dito por alguns aqui e por alguns participantes ao longo das audiências públicas, o Brasil pode verdadeiramente se tornar um grande marco referencial para o sul global. Cabe agora ao nosso Parlamento o aprofundamento das diversas questões que acabaram sendo suscitadas ao longo do trabalho desta nossa Comissão ao longo deste ano.
Seguiremos aqui à disposição da sociedade para contribuir no que mais seja necessário, e nunca é demais o agradecimento sincero e carinhoso ao querido Prof. Danilo Doneda, que, não tenho dúvidas, segue vivo no seu exemplo de humanista e em suas obras. Um homem à frente de seu tempo. Então, aqui também o agradecimento público e notório ao nosso querido amigo.
Obrigado.
O SR. PRESIDENTE (Ricardo Villas Bôas Cueva) - Obrigado.
Então, não havendo mais manifestações, eu coloco em votação a Ata da 11ª Reunião da Comissão, solicitando a dispensa de sua leitura.
Aqueles que aprovam permaneçam como se encontram. (Pausa.)
Aprovada.
Como não há mais nada a tratar, declaro encerrada a presente reunião, e, quanto aos trabalhos da Comissão, em breve entregaremos o produto final, o relatório vastíssimo, detalhado, e a exposição de motivos do texto da minuta de substitutivo, com a esperança e com a certeza, eu acho, de havermos, de algum modo, contribuído para o debate.
Muito obrigado.
(Iniciada às 14 horas e 55 minutos, a reunião é encerrada às 15 horas e 20 minutos.)