25/10/2023 - 10ª - Comissão Temporária Interna sobre Inteligência Artificial no Brasil

Horário	Texto com revisão

14:15 R	O SR. PRESIDENTE (Astronauta Marcos Pontes. Bloco Parlamentar Vanguarda/PL - SP. Fala da Presidência.) - Declaro aberta a 10ª Reunião da Comissão Temporária Interna sobre Inteligência Artificial no Brasil, criada pelo Requerimento nº 722, de 2023, com a finalidade de, no prazo de até 120 dias, examinar os projetos concernentes ao relatório final aprovado pela Comissão de Juristas, responsável por subsidiar a elaboração de substitutivo sobre inteligência artificial no Brasil, criada pelo Ato do Presidente do Senado Federal nº 4, de 2022, bem como eventuais novos projetos que disciplinem a matéria. Aprovação de ata. Antes de iniciarmos os nossos trabalhos, proponho a dispensa da leitura e aprovação da ata da reunião anterior. As Sras. e os Srs. Senadores que concordam permaneçam como se encontram. (Pausa.) A ata está aprovada e será publicada no Diário do Senado Federal. Esta reunião se destina à realização de audiência pública com o objetivo de debater os “impactos da inteligência artificial”, para abordar riscos, desenvolvimento e inovação apresentados pela tecnologia, assim como seus efeitos sobre a competitividade nacional e internacional, e, adicionalmente, debater sobre pesquisa, capacitação e educação e os reflexos da inteligência artificial no mercado de trabalho, em cumprimento ao Requerimento nº 4, de 2023, da Comissão Temporária de Inteligência Artificial, de autoria do Senador Eduardo Gomes, que é o nosso Relator. O público interessado em participar desta audiência pública poderá enviar perguntas ou comentários pelo endereço www.senado.leg.br/ecidadania ou ligar para 0800 0612211. Repetindo: www.senado.leg.br/ecidadania ou ligar para 0800 0612211. Encontram-se presentes no Plenário da Comissão: Caroline Somesom Tauk, Juíza Federal do Tribunal Regional Federal da 2ª Região (TRF2) - eu pediria para a Dra. Caroline ocupar o local aqui, por favor -; Dra. Ana Amelia Menna Barreto, Presidente da Comissão de Inteligência Artificial e Inovação do Instituto dos Advogados Brasileiros (IAB). (Pausa.)
14:19 R	Acompanham a Dra. Ana Amelia o Matheus Puppe, o Ilan Swartzman e o Bernardo Gicquel, da Comissão do IAB. Por favor. Encontram-se também presentes no Plenário o Dr. Luciano Vieira de Araújo, professor da Universidade de São Paulo; o Dr. Alisson Alexsandro Possa, coordenador do Subcomitê de Acompanhamento Legislativo e Regulatório no Grupo de Trabalho de Proteção de Dados e Tecnologia da Frente Parlamentar Mista do Setor de Serviços; o Dr. Affonso Parga Nina, Presidente Executivo da Associação das Empresas de Tecnologia da Informação e Comunicação e de Tecnologias Digitais (Brasscom); o Dr. André Queiroz de Andrade, Diretor de Inovação e Produto da Senno. Encontram-se também presentes, por meio do sistema de videoconferência, o Presidente do Instituto Janeraka, Time’i Awaete - Assurini, do Xingu, e o Dr. Demi Getschko, Diretor-Presidente do Núcleo de Informação e Coordenação do Ponto BR (NIC.br). Gostaria de aproveitar este momento também para agradecer a presença de todos aqueles que se encontram presentes nesta audiência, também aqueles que nos acompanham pela TV Senado, pelas redes. Esta audiência pública é uma do conjunto de audiências que nós temos feito nesta Comissão, com o objetivo de conhecer melhor os impactos da inteligência artificial. E, quando nós falamos isso, é muito importante ressaltar que qualquer tecnologia disruptiva, como inteligência artificial, tem um potencial muito grande de produzir impactos positivos em todas as áreas de atuação, no Brasil e fora do Brasil, certamente. Também é bom que nós mantenhamos em mente que é uma tecnologia em desenvolvimento, o que, inclusive, dificulta bastante quando você fala numa legislação para regular uma tecnologia em desenvolvimento. É necessário que tenhamos isso em mente, para que não haja uma restrição muito grande nessa legislação para o desenvolvimento dessa tecnologia nem para a aplicação dessa tecnologia, do ponto de vista das empresas, do ponto de vista do setor econômico, do desenvolvimento e da competitividade do Brasil. Por outro lado, como toda tecnologia disruptiva, ela também apresenta seus riscos. Isso é inerente, e é importante termos isso em mente. É natural que as pessoas e as instituições tenham um certo receio da utilização e de como essa tecnologia vai ser utilizada em termos de proteção de dados das pessoas, da ética, da discriminação - para que não haja discriminação. Então, certamente, essa legislação tem que ver por esse ponto de vista.
14:23 R	Ela foi baseada... Aliás, tudo o que nós temos feito aqui foi baseado em um estudo feito por um grupo de juristas, a partir de uma solicitação do Presidente do Congresso, o Senador Rodrigo Pacheco, e é certamente bastante louvável esse trabalho, mas é importante ouvirmos todas as partes da sociedade civil, todos aqueles envolvidos, de alguma forma, com inteligência artificial, de forma como nós tenhamos várias perspectivas desse assunto, ou seja, não só a perspectiva jurídica, mas também a perspectiva de desenvolvimento de tecnologia, da aplicação dessa tecnologia, das implicações dessa tecnologia. Então, esta audiência pública faz parte desse conjunto de audiências, para que nós possamos ter todas essas informações, para que tenhamos a melhor peça jurídica, legislativa. Como eu falei, que ela não seja restritiva, para atrapalhar o desenvolvimento da tecnologia e das suas aplicações no Brasil, mas que ela seja suficientemente adequada, para que ela possa proteger os cidadãos, para que tenhamos as melhores aplicações da inteligência artificial, com segurança, no nosso país. Dito isso, então, eu gostaria de combinar com todos os nossos debatedores, apresentadores, como é que vai ser a sequência aqui. Nós temos oito pessoas hoje - oito apresentadores, oito debatedores -, e o nosso tempo fica restrito até as 16 horas, quando começa a sessão plenária. Portanto, nós vamos dividir o tempo em oito minutos para cada debatedor. Aqueles que estão aqui têm a facilidade de ter o relógio, que vai aparecer aqui, e tem um... (Soa a campainha.) O SR. PRESIDENTE (Astronauta Marcos Pontes. Bloco Parlamentar Vanguarda/PL - SP) - ... sino como esse daqui, e também, aos 15 segundos do final do tempo, vai aparecer uma voz feminina, muito convincente, falando que faltam 15 segundos. Para aqueles que estão no remoto, eu peço que, como vocês não vão ter esses auxílios aqui com o tempo, vocês controlem o tempo dos oito minutos por aí - mas vocês vão ouvir os 15 segundos. Então, lembrar que é um tempo que a gente solicita que seja obedecido, mas não é... Se precisar terminar a ideia, termine a ideia, não tem problema. Eu posso fazer um acréscimo de um minuto aqui, sem problema nenhum. E, depois da apresentação de todos, nós vamos abrir para questionamentos. Pode ser feito entre os debatedores ou, se alguém quiser participar também... Lembrando que o público pode participar, mandando suas perguntas, comentários, sugestões através do website do Senado, www.senado.leg.br/e-cidadania, ou pelo telefone 0800 0612211. Então, quem está participando remotamente pode participar também enviando suas perguntas. E, para que nós não percamos mais tempo com as minhas falas iniciais, eu gostaria de convidar, na sequência aqui, o nosso primeiro apresentador, presencial, que é o Alisson Alexsandro Possa. Ele é o Coordenador do Subcomitê de Acompanhamento Legislativo e Regulatório no Grupo de Trabalho de Proteção de Dados e Tecnologia da Frente Parlamentar Mista do Setor de Serviços. (Pausa.)
14:27 R	Acabei de ser informado que a Juíza Caroline Somesom precisa sair e quer trocar com ele. (Pausa.) Então, o primeiro vai ser o Alisson. Depois, a Dra. Caroline, a Dra. Ana Amélia, o Time’i Awaete - Asurini, do Xingu, o Luciano Vieira, o André Queiroz, o Demi Getschko e, depois, o Affonso Parga. Essa vai ser a sequência nossa aqui. Então, Alisson, por favor, você tem a palavra por oito minutos. O SR. ALISSON ALEXSANDRO POSSA (Para expor.) - Muito obrigado, Senador. Parabenizo todos os Senadores que compõem esta Comissão por esse trabalho árduo de tentar fechar um texto sobre um tema tão complicado. Eu tenho uma apresentação e falo em nome da Frente Parlamentar do Setor de Serviços, que é uma frente parlamentar mista, hoje dividida em diversos grupos internos, entre os quais eu represento um, e conta com uma grande representatividade no Congresso Nacional, tanto no Senado quanto na Câmara dos Deputados, na defesa do setor que hoje é o setor que mais emprega no Brasil. Por conta disso, nesse grupo de produção de dados em tecnologia, nós atuamos muito em diversos projetos de lei que acabam afetando os setores que são de interesse das associações que dele fazem parte. A minha fala vai se concentrar em um ponto de que nós sentimos muita falta no projeto, no texto inicial, que é a oportunidade de esse projeto de lei incentivar políticas públicas para o impacto de inteligência artificial no mercado de trabalho e em oportunidades de educação. Muito se discute, não só no Brasil, mas mundo afora, sobre essa capacidade disruptiva do mercado de trabalho que as ferramentas de inteligência artificial trazem. Então, sempre há muito medo: "Olha, vai destruir muito os serviços...". Alguns mais otimistas dizem: "Não, mas também vai criar muitos serviços e muitos postos...". Eu acho que existem já muitas pesquisas no contexto acadêmico e no próprio cenário internacional que buscam sistematizar e trazer dados sobre o que já aconteceu, o que está acontecendo, e tentam fazer cenários de previsão. Eu não sei se está aparecendo a apresentação para o pessoal... (Pausa.) Bom, eu fiquei sabendo que a Comissão acabou não recebendo a apresentação em que trago alguns gráficos de estudos conduzidos, principalmente, pela OCDE, em 2019... (Pausa.) Agora, há um estudo extremamente recente, de outubro de 2023, e também um estudo do FMI. E esse estudo do FMI é muito interessante porque traz dados sobre o Brasil. Então, faz comparações de mercados em ascensão junto com mercados já estabelecidos, como os Estados Unidos e o Reino Unido.
14:31 R	Já no de 2019, no estudo de 2019, a OCDE conseguiu identificar que, de 2010 a 2015, a inteligência artificial fez um maior progresso nas habilidades necessárias para a realização de tarefas não rotineiras e cognitivas. Então, eles trazem aqui questões de compatibilidade, de como a inteligência artificial acaba tendo uma compatibilidade muito grande com atividades cognitivas e intelectuais, como, por exemplo, a classificação de informações, a atividade que mais teve progresso, e em relação, por exemplo, ao uso de força, que ainda demanda de um aparelho robótico e tal, em que acaba não sendo tão grande. A consequência disso é que ocupações de colarinho branco com alto nível de escolaridade estão entre as ocupações mais expostas à inteligência artificial. Então, eles pegaram uma exposição média à inteligência artificial de países por ocupação de 2012 a 2019. E, fazendo essas comparações, se identifica que as profissões mais expostas são aquelas relacionadas à área de negócios e gestão, porque, por conta da atividade intelectual, a inteligência artificial... Está no eslaide 13. Como consequência da leitura que foi feita das atividades, é muito clara aqui a relação: em cima, nós temos os profissionais da área de gestão, que realizam atividades cognitivas no dia a dia, em relação a atividades um pouco mais físicas, como, por exemplo, a agricultura. E o que foi observado nesses anos foi uma crescente exposição do emprego... A inteligência artificial aumentou o emprego em que as profissões que usam computadores é elevado. Nessa linha, ela acaba pegando profissões que pouco utilizam computadores, que têm um médio uso de computadores e aquelas que têm um alto uso. As que têm um alto uso trouxe um crescimento da quantidade de empregos. Por outro lado, nas hipóteses em que o uso de computador é baixo, houve um aumento do trabalho, indicando aqui uma dificuldade dos profissionais em se adequarem à utilização dessas novas tecnologias. E eu trago essa sugestão de análise, que eu acabei não trazendo, por uma questão de tempo, os dados específicos do Fundo Monetário Internacional que trazem dados específicos sobre o Brasil comparando com outras economias em desenvolvimento e economias já desenvolvidas, porque o resultado, assim, a grande conclusão dessas pesquisas é: com profissionais que sabem utilizar inteligência artificial, aumenta-se a produtividade; pode-se aumentar a demanda por geração de empregos, enquanto profissionais que não a sabem utilizar sofrem mais com essa transição.
14:35 R	E, nesse recente estudo, de outubro de 2023, da OCDE, eles trazem, então, as recomendações para como se solucionar esse problema de não haver aqui um índice de desemprego desenfreado. Esse gráfico é muito interessante porque ele traz uma comparação de treinamentos entre profissionais de alta capacidade, ou seja, profissionais já com ensino superior, em relação a profissionais de baixa escolaridade. (Soa a campainha.) O SR. ALISSON ALEXSANDRO POSSA - Existe uma disparidade muito grande e, nos dois níveis, é, sim, necessário treinamentos e aperfeiçoamento para se ter uma melhor conexão com a utilização de inteligência artificial para o próprio mercado nacional conseguir crescer. Agora não está passando. (Pausa.) E eles chegam, então, a uma conclusão de que o Estado, por conta dessa necessidade de educação, de ela trazer resultados muito concretos no que foi observado, ela trazer esses resultados muito concretos na questão da empregabilidade... A própria OCDE faz essa análise da necessidade de políticas públicas para a educação envolvendo essa transição para esse cenário econômico muito movido à inteligência artificial. (Soa a campainha.) O SR. ALISSON ALEXSANDRO POSSA - E eu trouxe aqui três exemplos de países. Eles analisam vários países que já possuem políticas públicas, e essas políticas públicas são de vários eixos: sejam eles 100% o Estado fazendo, bancando aqui, trazendo treinamentos; seja o Estado com a academia, então, muita parceria com as universidades - e eu vejo o Brasil aqui, a nossa estrutura de universidades públicas pode ajudar muito nisso -; ou sejam também os treinamentos do Estado com a iniciativa privada, e eles trazem exemplos nesse sentido. Então, a ideia, Senador, é a gente aproveitar esse PL para que exista um mandamento legal - aqui vem a sugestão nossa, concreta, de fato -, um mandamento legal para... (Soa a campainha.) O SR. ALISSON ALEXSANDRO POSSA - ... que existam políticas públicas voltadas à educação, principalmente uma reavaliação da estratégia brasileira de inteligência artificial, que é deficiente - existem vários artigos, a Profa. Tainá, colega nossa aqui, já tem ótimos textos sobre isso, sobre como ali é deficiente. E, havendo um mandamento legislativo para que o Executivo sempre estruture uma política de inteligência artificial e inovação focada na educação do capital humano brasileiro, a gente aí tem um bom caminho para o Brasil se colocar entre as maiores potências nessa nova realidade. Eu agradeço muito aqui todo o tempo. Existe aqui um outro ponto, que pode ser explorado futuramente. Obrigado, Senador, pelo tempo. O SR. PRESIDENTE (Astronauta Marcos Pontes. Bloco Parlamentar Vanguarda/PL - SP) - Obrigado. Obrigado, Alisson. Realmente a parte da educação é sempre uma preocupação grande.
14:39 R	Aliás, eu me lembro dos estudos da Brasscom com relação ao número de profissionais. Depois provavelmente teve um update de números, que eu já achava bem grande isso, tem uma tendência de aumentar a necessidade de profissionais da área de tecnologia de informação e comunicação no Brasil; ao mesmo tempo, tem muita gente procurando emprego. Então o que precisa para conectar esses dois lados é justamente a educação profissionalizante adequada, para que isso seja feito. Aliás, eu sou o Presidente da Frente para o Ensino Profissionalizante e Tecnológico. Eu lembro lá no Ministério, quando a gente criou aquele Brasil Futuro, para criação de vagas gratuitas para esse treinamento, mas mesmo assim o gap é muito grande, a gente precisa melhorar isso. Parabéns pela apresentação, Alisson. Gostaria então de passar a palavra - e oito minutos passam rápido, eu sinto isso bastante aqui -, eu gostaria de passar a palavra para a Dra. Caroline Somesom Tauk, Juíza do Tribunal Regional Federal da 2ª Região. Doutora, a senhora tem oito minutos para suas palavras. A SRA. CAROLINE SOMESOM TAUK (Para expor.) - Boa tarde a todos. Quero parabenizar o Senado pela promoção deste debate e o faço na pessoa do Senador Astronauta Marcos. Cumprimento todos os demais colegas aqui presentes. Eu vou falar dos três objetivos principais que eu gostaria de destacar. O principal mesmo dentre esses é relacionado ao segredo do negócio, seguro comercial, seguro industrial, que envolve essas empresas que já estão no mercado utilizando os sistemas de inteligência artificial, a competitividade delas, etc. O primeiro ponto que eu gostaria de destacar é relacionado ao objetivo inicial do projeto de lei, que nunca foi correr para regular: O Deputado Eduardo Bismarck, que foi o autor do PL 21, de 2020, aquele PL inicial que deu origem, estimulou mais os debates sobre inteligência artificial aqui no Parlamento, me convidou para participar da redação original junto com ele e sua equipe, a quem agradeço a oportunidade. E, quando nós concluímos o PL, o objetivo era trazer princípios para uma regulação setorial, não fazer uma regulação genérica para todos os sistemas de IA, porque a gente sabe que a inteligência artificial não é homogênea, os riscos que ela oferece não são homogêneos, os sistemas são diferentes, os riscos são diversos. Então, a ideia do PL original era que a regulação se desse de forma setorial, através de atos de cada um dos seus órgãos específicos, o que seria uma autorregulação regulada, como a gente chama no direito. No próprio Judiciário, a gente tem a nossa regulação, que é a Resolução 332/2020, do CNJ. Nós já temos a nossa regulação de princípios éticos para o uso da inteligência artificial e várias outras obrigações, não só de conteúdo ético. Então o primeiro ponto é esse: o objetivo do projeto de lei inicial que desencadeou toda essa discussão nunca foi correr para regular. O segundo item que eu gostaria de falar aqui é relacionado ao viés negativo do projeto de lei. Eu participei das outras audiências públicas na Câmara e também na época da Comissão de Juristas que teve aqui e muitos dos presentes enfatizaram que o projeto de lei acabava dando um viés mais negativo, com todo respeito, focando nos riscos da inteligência artificial e menos nos aspectos positivos, como o próprio Alisson falou, na oportunidade de empregos, etc. E aí eu dou um exemplo muito positivo de uso da inteligência artificial no próprio Judiciário. A gente tem hoje... Como já foi dito, eu sou juíza federal, então participo muito da inteligência artificial no nosso Judiciário. Poucos sabem, mas, dentro do serviço público, é o Judiciário que está na vanguarda do uso da inteligência artificial, mais do que o Legislativo e o Executivo, e certamente o nosso Judiciário é um dos que mais tem IA no mundo, em relação aos outros países.
14:43 R	E a gente tem hoje 60 sistemas, 64 sistemas de inteligência artificial já em uso no nosso Judiciário. E aí, todos esses sistemas, pelo que a gente vem investigando, por diversas pesquisas que vêm sendo feitas, a maior parte é para categorizar processos, categorizar processos, agrupar processos, reconhecer uma decadência, uma prescrição tributária, que são cálculos que são feitos. Não é nada que possa interferir na igualdade ou na violação de direitos fundamentais das pessoas. Então, nós não temos hoje no Judiciário casos de discriminação algorítmica no Brasil. Vem muito se falando essa palavra, discriminação algorítmica. Chama atenção, vira até um certo marketing, mas hoje no Judiciário a gente não tem. Não tem nenhum sistema que possa interferir em julgamentos relacionados a raça, cor, etnia, gênero ou algum aspecto social. E essa conclusão é reforçada por uma pesquisa que a gente acabou de fazer na FGV, que analisou os sistemas de inteligência artificial comparando com a própria Resolução do CNJ 332, que exige aspectos éticos. E nós concluímos que a maior parte desses sistemas realmente não têm nenhum tipo de... Os problemas que eles têm são de transparência, que a gente vai ver mais para frente, mas não têm problemas relacionados à discriminação algorítmica. Então, a gente não tem fatos que possam dizer que tenha isso hoje. O que nós temos é o que eu falei, isso sim é um fato, é uma dificuldade de transparência. De fato, os nossos sistemas ainda não têm a clareza que se espera e o próprio projeto de lei espera. E aí, eu entro no terceiro item que eu gostaria de destacar aqui, que é compatibilização desse princípio da transparência com o segredo do negócio. Tanto no Judiciário como na iniciativa privada, a maior parte desses sistemas de IA tem o seu código-fonte fechado. Estão protegidos por segredo comercial, por segredo industrial. E isso é normal, é assim que funciona no Brasil e no mundo. Então, o segredo do negócio, o sigilo, está presente em diversos elementos que integram os sistemas de IA. A gente tem segredo do negócio no código-fonte dos programas de computador, a gente tem nos algoritmos, a gente tem nos bancos de dados. Tudo isso pode vir a ser protegido por segredo. Os algoritmos de busca do Google, por exemplo, a gente não sabe por que é que ele coloca resultado para mim em uma ordem e para outro colega em outra ordem, porque eles estão protegidos por segredo. E não tem nada ilícito nisso. Isso faz parte da propriedade intelectual. Um dos institutos do direito da propriedade intelectual é a proteção do segredo comercial. Agora, como a gente compatibiliza as obrigações de transparência que o nosso projeto de lei prevê, assim como a União Europeia prevê, e o dever de fornecer essas informações, que muitas vezes podem estar protegidas pelo segredo comercial, que também é um direito daquela empresa? O nosso projeto de lei trata em dois artigos da obrigação de respeitar o segredo comercial e industrial. Então, é um projeto de lei que anda bem nesse ponto, quando respeita a propriedade intelectual. E também está compatibilizado com a LGPD, que também manda observar o segredo comercial e o segredo industrial, ainda que haja uma obrigação de fornecer informações em alguns casos. E no mesmo sentido, vem a União Europeia também dizendo o seguinte: "Olha, havendo segredo comercial e industrial relacionado ao algoritmo, ao código-fonte e ao banco de dados, a transparência tem que se limitar a informações mínimas necessárias para poder as pessoas terem o acesso ao seu direito de ação".
14:47 R	Então, não é aquela amplitude de informações que a gente estaria exigindo normalmente. Além disso, a União Europeia fala que, mesmo quando se precise ter o acesso a essas informações confidenciais do código-fonte, por exemplo, as autoridades públicas que têm acesso a elas têm que estar sujeitas ao dever de confidencialidade, ou seja, têm que assinar algum termo no sentido de que vão fiscalizar, mas vão manter a confidencialidade daquelas informações. Então é isso que eu gostaria de destacar aqui para o nosso projeto de lei. (Soa a campainha.) A SRA. CAROLINE SOMESOM TAUK - O nosso projeto de lei associa a transparência ao fornecimento de informações. Só que a gente tem que lembrar que se a gente tem um segredo, essas informações têm que ser mínimas, ou seja, tem que haver a descrição só da finalidade daquele sistema, dos riscos do uso daquele sistema, mas não de toda e qualquer informação relacionada ao sistema, porque a gente violaria o segredo. E em segundo lugar, é importante constar isso pelo menos nos debates do projeto de lei, ainda que não conste do projeto de lei, para mostrar qual foi a intenção do legislador. Ainda que essas informações sejam secretas, não basta que a empresa diga: "estou protegida por segredo", e aí não revelar as informações. É necessário que ela comprove que as informações, de fato, são secretas, ela manteve todas as precauções razoáveis para manter aquilo em sigilo, porque é possível que a pessoa alegue o segredo, mas não mantenha todas as informações efetivamente em segredo. Então isso é muito importante que seja verificado na prática. Inclusive, existem tratados internacionais... (Soa a campainha.) A SRA. CAROLINE SOMESOM TAUK - ... que trazem as obrigações para serem cumpridas para efetivamente haver a proteção de um segredo. Não basta que você alegue. Então, o ideal é que se desenhem esses sistemas voltados para a prestação de contas, que é a chamada accountability by design, desenhar os sistemas para haver a possibilidade de prestação de contas, respeitando o segredo. Havendo o segredo, que se observem as informações mínimas necessárias para as partes exercerem seus direitos. E aqueles que receberem essas informações têm que estar garantidos pela confidencialidade. Com isso, eu agradeço a oportunidade. Obrigada. O SR. PRESIDENTE (Astronauta Marcos Pontes. Bloco Parlamentar Vanguarda/PL - SP) - Obrigado. Obrigado, Dra. Caroline. Realmente alguns pontos que a senhora falou são uma preocupação que tem sido demonstrada com certa frequência. Um deles, que eu ressalto aqui, é essa questão da regulação setorial, porque, basicamente, acho que está ficando, de certa forma, claro aqui, durante todas essas apresentações, que a ideia de se criar um órgão regulador para trabalhar em todos os setores é praticamente inviável. Então, é lógico que eu vou colocar isso ainda para o Relator, como uma forma aqui, mas uma das possibilidades seria, porque nós já temos agências reguladoras para os diversos setores, que cada uma dessas agências pode ter o seu setor, com o nome que quiser: departamento, divisão, que seja, e que seja responsável pela análise da parte de inteligência artificial ali. E que eles componham um conselho, e, aí, sim, esse conselho analisa a aplicação da lei. Mas cada setor faz a sua regulação própria, porque cada setor tem suas especificidades muito detalhadas ali. Seria praticamente impossível, numa coisa tão transversal como a inteligência artificial, um órgão só fazer tudo isso aí. É igual à segurança cibernética, que segue um princípio semelhante também. Outra coisa é com relação a correr. A gente aqui não... A ideia: o Brasil está à frente, vamos dizer assim, em termos de buscar uma regulação. Se procurar os países que já têm uma regulação, são muito poucos que condensaram isso aí tudo. Na maior parte deles, ainda está em estudo, como o Canadá. Ontem nós tivemos uma conversa com o Canadá aqui também. Portugal também está nessa tentativa. Ontem estavam aqui também presentes.
14:51 R	Então, não existe pressa. Existe a necessidade de fazer alguma coisa que funcione direito, porque senão, fazer e desfazer... Eu tinha um professor no Senai que falava assim: "Olha, meça dez vezes e faça uma. É melhor do que medir uma e fazer dez", do que ficar corrigindo aquilo lá. Outra parte é o viés negativo, realmente isso é uma coisa que nós votamos também, já foi citado aqui. É importante ressaltar as coisas positivas que nós podemos fazer através dessa tecnologia. A questão da clareza e da transparência também é muito importante. Aí vem uma dificuldade intrínseca do sistema porque, se para um ser humano você coloca algumas informações, essa pessoa raciocina a respeito daquelas informações e dá uma decisão ou fala uma conclusão a partir daquilo ali, você pode voltar para a pessoa e perguntar: agora me explique como é que você chegou a essa conclusão. A pessoa vai ter que refazer os seus passos de pensamento para chegar: "Eu tomei por causa disso, eu parti da"... Esses machine learning ou os algoritmos utilizados para isso evoluem ali dentro com os dados, então é muito difícil esse próprio algoritmo falar como é que chegou àquela conclusão. Ele chegou porque naqueles dados, naquele momento, com aquela rede que ele tem, com aqueles pesos que tem, vamos dizer assim, ele consegue chegar a uma certa conclusão. Agora, explicar porque chegou ali é uma outra coisa, difícil. Então, realmente, há muitos pontos interessantes. Obrigado mesmo pela participação. Aliás, eu quero pedir aqui que não fique só nesta audiência, que depois a gente possa manter contato para que, durante a elaboração do relatório, também isso possa ser levado em conta, para verificar se estão ali dentro esses pontos. Então, na sequência, eu passo a palavra para a Dra. Ana Amélia Menna Barreto, Presidente da Comissão de Inteligência Artificial e Inovação do Instituto dos Advogados Brasileiros. Dra. Ana Amelia, a senhora tem oito minutos. A SRA. ANA AMELIA MENNA BARRETO (Para expor.) - Cumprimento o senhor, Presidente da Mesa e Vice-Presidente desta Comissão Temporária, e os nossos colegas de mesa. E em nome do Instituto dos Advogados Brasileiros, agradecemos o convite enviado ao nosso Presidente Sydney Sanches para participar desta importante iniciativa promovida pela Comissão Temporária. O IAB celebrou agora 180 anos de fundação e representa a academia do Direito, a academia da advocacia. Nós nos dedicamos ao estudo dos grandes temas nacionais, elaboramos pareceres e os encaminhamos para as Casas legislativas, acerca das iniciativas dos projetos de lei que aqui estão em andamento. Como o senhor disse, eu presido a Comissão de IA e estou aqui hoje acompanhada do Dr. Matheus Puppe, membro da Comissão, do Dr. Bernardo Gicquel e do Dr. Ilmar, também presente, todos aqui do IAB. É importante ressaltar, Presidente, que a nossa Comissão vem realizando, através da TVIAB, vários eventos denominados Diálogos sobre IA - para o quais eu já convido o senhor desde logo - exatamente nesse viés por segmento, porque, como o senhor disse, cada segmento apresenta as suas peculiaridades. Nós fizemos um só de Medicina, outro só de Poder Judiciário, o próximo será da advocacia, porque são olhares diferentes para o mesmo assunto. Iniciando a minha fala, eu vou me dedicar aos pontos que foram ressaltados para debate. Eu vou falar sobre cada um deles. Exatamente porque nós temos um tempo, eu tenho uma cola, porque eu quero falar exatamente sobre cada um deles. Bom, considerações iniciais. Fiquei muito feliz porque com tudo o que o senhor falou nós também concordamos, com a sua fala.
14:55 R	Bem, embora necessária, a regulação de IA deve garantir, como está sendo feito aqui agora, a ampla participação da sociedade civil para que todos esses olhares distintos e diversos possam ser levados em consideração. Mas essa discussão tem que ser amadurecida, porque a gente não pode legislar sobre aquilo que a gente não sabe, sobre aquilo que a gente não conhece. E importar soluções não é a solução. Existe um consenso sobre os desafios regulatórios, como todos nós sabemos, mas também nenhuma regulação, nenhuma legislação deve se ater a padrões tecnológicos, sob pena de rapidamente se tornar obsoleta, como foi o que aconteceu com o referido projeto de lei. O que deve ser regulado é o uso da tecnologia, mas alicerçado em diretrizes e princípios gerais. Nós não vamos sufocar a tecnologia por excesso de regulamentação, mas também não vamos deixar que ela fique sem freio. Bom, na regulação baseada em risco, como está no projeto de lei apresentado, em que a proposta legislativa categorizou apenas dois níveis de risco, o excessivo e o alto risco, nós entendemos que a atividade deve ser regulada de acordo com o impacto que o sistema traz. Devem ser criadas as regras gerais de transparência, as medidas de responsabilização, inclusive do criador, concebendo ainda, é claro, questões éticas, morais e também sociais. Mas a regulação nós entendemos que não pode ser prescritiva. Ela tem que ser calcada em sólidos princípios, porque o desenvolvimento da IA, como nós sabemos, é muito acelerado. Então, não é o tipo do assunto, da demanda que vai conceber uma regulação estática. Nós temos que promover e buscar um balanço ideal de buscar a segurança jurídica, mas calcada num texto legal que consiga enfrentar a evolução tecnológica. Por esses motivos, nós defendemos um modelo de autorregulação regulada, mas com princípios bem definidos. Não é deixar o regulador, as pessoas, o criador sozinho, inventando as suas próprias normas. Não. Ele vai ter que seguir as normas, os princípios e as diretrizes que foram balizados na norma, com obrigações de conformidade técnica - é claro -, jurídica e também ética, além de outras medidas de conformidade dos sistemas, regulamentos intracorporativos. São medidas de enforcement que nós temos que promover para que tragam parâmetros de atuação. Falando nos princípios, uma regulação ideal nós imaginamos que deve se pautar em princípios orientadores; transparência; auditoria; na responsabilidade e na responsabilização; em padrões técnicos também; educação e treinamento - porque não vai adiantar nada criar se ninguém sabe utilizar -; na gestão de riscos - se você não tem um sistema de gestão de riscos, também não vai ser eficiente -; e assim também, em último lugar, nas regras de compliance.
14:59 R	Nesse ponto, Presidente, nós gostaríamos de ressaltar o que tem sido muito discutido sobre a transparência e o black box. Já foi dito aqui que, para as empresas, abrir esses dados vai - como se chama - romper com o seu segredo industrial, com a sua propriedade industrial. Elas vão precisar... Vai ter uma ordem judicial para abrir esses dados de cumprimento impossível - não é, Doutora? - também pela insegurança técnica e proteção da propriedade intelectual. E, segundo, porque se tornaria uma ordem ilegal ou uma determinação inútil, porque o algoritmo muda, está em constante desenvolvimento, principalmente nesses modelos avançados de IA, que é o que nós estamos vivenciando. Então, a solução seria adotar obrigações de transparência quanto aos prompts de comando ou, se fosse um ambiente fechado, uma base para treinar esse algoritmo. No mais, a regulação da IA... (Soa a campainha.) A SRA. ANA AMELIA MENNA BARRETO - ... não orbita sozinha no universo, tem que integrar o ecossistema do direito digital, que carece de regulações interconectadas. Nesse ponto, eu cito a Comissão de Direito Digital da Câmara, que tem feito outras audiências públicas neste cenário que convergem, que conversam com os assuntos tratados aqui. O novo é sempre bem-vindo. Nós estamos diante de novas tecnologias que podem ser imprevisíveis e daquele desafio de se regular o que não se conhece. Em relação aos temas internacionais que nos foram propostos, antes que eu seja interrompida, nós vamos ressaltar a participação em fóruns internacionais do NIC.Br, como o Observatório de Inteligência Artificial, as recomendações do... (Soa a campainha.) A SRA. ANA AMELIA MENNA BARRETO - ... conselho da OCDE que cuida de IA, de que nós somos, o Brasil, signatários e os objetivos da Unesco na recomendação ética de IA. Reflexo no mercado de trabalho: segundo a OCDE, 27% ficarão fora do mercado. Nós estamos falando do desenvolvimento de novas competências profissionais, sendo que as atividades repetitivas serão realmente, ou podem vir a ser, automatizadas. Vai acontecer um arranjo de mercado. Eu agradeço a oportunidade. Nós nos colocamos à disposição. Muito obrigada. O SR. PRESIDENTE (Astronauta Marcos Pontes. Bloco Parlamentar Vanguarda/PL - SP) - Muito obrigado, Dra. Ana Amelia. Realmente, tem alguns pontos bastante importantes nessa apresentação. Um ponto que sempre fica aqui, eu já anotei várias vezes, mas faço questão de circular aqui, é que, realmente, você regular o que ainda não conhece é muito difícil, é praticamente impossível fazer isso. Então, essa é uma das preocupações que, do ponto de vista técnico, aqui dentro, a gente sempre tenta trazer, porque não dá para colocar, cercear cada coisa, primeiro, porque vai ser algo que você acabou de lançar, uma nova lei e, no dia seguinte, ela vai estar desatualizada. Segundo, porque você pode perder... Eu vejo isso com uma comparação meio simplista, mas imagine: se eu tenho uma planta que dê algum tipo de fruta ou vários tipos, uma planta diferente da sua, se ela dá vários tipos de frutos diferentes, dependendo de como que você a alimenta, e você não sabe o quanto ela cresce, para que lado seria melhor, se você colocar uma grade em volta dali, você pode estar perdendo uma série de oportunidades interessantes e, por outro lado, se a gente não souber utilizar esses frutos da maneira correta, também pode se envenenar, vamos dizer assim.
15:03 R	Então, é importante conhecer mais e ter uma legislação que seja realmente flexível e baseada em princípios. Isso é extremamente importante. Obrigado, obrigado mesmo pela apresentação. Eu gostaria de passar, então, a palavra, agora, no remoto, para o Sr. Time’i Awaete-Assurini, do Xingu. Desculpa se eu falei o nome errado... (Risos.) Ele é Presidente do Instituto Janeraka. Então, por favor, tenha a palavra por oito minutos. O SR. TIME’I AWAETE-ASSURINI DO XINGU (Para expor. Por videoconferência.) - (Inicia intervenção em língua indígena) Eu me chamo Time'i, sou da etnia Awaete-Assurini, do Xingu, que fica próximo ao Município de Altamira, Pará. Somos indígenas. Eu faço parte de etnia de recente contato e eu vou falar um pouco aqui do meu pensamento, do meu território também. Eu tenho um pouco de dificuldade, com o tempo, também com o português. É uma língua diferente para mim. Então, para eu estar falando aqui, eu tenho que traduzir para poder falar para vocês em português. Então, eu vou falando no meu tempo aí e, caso eu passar o tempo... Então, ficamos próximos ao Município de Altamira, somos uma etnia de recente contato, que vem enfrentando o maior índice de desmatamento do mundo. Isso está impactando boa parte do planeta, não é? Então, desde 2015, que eu vim assim a conhecer a sociedade não indígena, como nós chamamos, justamente para entender quem trabalha com monitoramento, quem tem acesso às informações sobre os territórios, as plataformas. Então, o que eu vejo é que cada coisa que vem se criando, falando como uma inovação... E eu vejo também aumento de desmatamento para ter acesso à tecnologia digital. A mineração, a matança dos rios, poluindo nossos rios. Então, assim, eu quero entender melhor como é que a gente se sente seguro com a inteligência artificial, como vocês estão chamando, porque já tem tanta coisa, e o Município de Altamira, a cidade satélite, é a cidade mais monitorada no Brasil, e a gente não tem um diálogo realmente para que a gente possa criar a nossa autonomia. Então, é difícil de a gente falar assim que vai ter uma alternativa para a gente. Eu preciso conhecer. Por quê? Para que a gente não possa ser mais uma ferramenta que vai só acumulando, acumulando, acumulando, atacando a terra para tirar ouro, para ter mais tecnologia, matando os povos, matando a floresta, os animais, o planeta também e a vida, a vida de vocês também. E eu, como pajé, e outros que estão lá na aldeia, nós já recebemos o aviso... E a ponto de ser humano criar inteligência artificial.
15:07 R	Assim, acho que nós também temos inteligência. Basta a gente perceber o que realmente vai sair como positivo para nós, para não ser só mais uma ferramenta que vai monitorar a gente, monitorar e colonizar a gente. E que não fique com essas empresas também, mas que vá em prol da comunidade. Que tenha mais capacitação também, mais educação, porque, muitas vezes, quando surge uma coisa nova, fica muito fechado, não tem uma explicação direito. Então, a gente fica na mão, sempre fica rodando enquanto o mundo está acabando. E a nossa floresta, o meu território tem 400 mil hectares. E, assim, agora a gente está precisando de ajuda para poder manter a floresta. Porque eu acredito que sem a chuva, sem a água, com o desequilíbrio... todo mundo está sentindo aí o aquecimento global. Então, para que isso não aconteça, a gente passa por esse pente fino, escuta vocês, primeiramente, para poder estar mediando também. Porque não adianta a gente aproveitar, como é falado, propagar uma coisa assim, nova. E também dar acesso para a gente, porque o que mais tem é dificuldade com as pessoas que tomam o acesso ao nosso território. Eu não estou pedindo território de ninguém, não. Eu peço às pessoas, sobre o nosso território, para criarem uma formação das pessoas para que a gente possa combater essa criminalidade que está acontecendo, desmatamento. E também para ter essa informação sobre esses acessos, porque não pode só criar. Vai estar tudo claro para vocês. Como eu falei: o português é uma língua complexa. Então, a gente tem que estar estudando, falando português e traduzindo para poder realmente ver que vai ter o resultado positivamente para nós. E aumento de mineração nas terras. Para ter essas tecnologias mais avançadas, a gente tem que pensar no nosso consumo, no que a gente está consumindo. E do nosso consumo, o que a gente está impactando? Que vida a gente está impactando? Porque não adianta a gente estar num prédio com o nosso ar-condicionado, enquanto o povo está lá sofrendo. E a tecnologia, para nós, no nosso território, quando há uma invasão no nosso território tirar o ouro que está lá embaixo da terra, desmatar a floresta... a nossa espiritualidade, nós chamamos de ynga, está muito ligada a essa tecnologia também. Se tirar, tirar, tirar, tirar, tirar, tirar, para onde é que vão? A gente vai ter conflito espiritual, conflito com todo mundo, e vão aparecendo doenças. E, assim, se a gente acredita no wi-fi, por que a gente não acredita na nossa conexão? Eu, eu sou indígena de recente contato, não sou alfabetizado, mas a minha ciência e a minha educação sempre funcionaram e funcionam. E, assim, eu me comunico com o pessoal da minha aldeia através da nossa tecnologia espiritual ancestral. E para que a gente não substitua uma coisa ou outra, não é?
15:11 R	E onde está o minério, não é? E é isso que preocupa muito a gente, cada vez mais, que vem uma inovação que seja mais uma ferramenta que não vai ser... poluir, não é? E é isso, sabe? E é essa a nossa preocupação, não é? Porque ela não conecta uma coisa com outra, não substitui. E a nossa universidade não precisa ser criada, ela precisa ser fortalecida e ser respeitada, que não seja trocada, porque ela já existe e ela funciona. E um pouco que a gente está tendo, com o conhecimento, de acesso à tecnologia digital, ela está mudando muito, não é? E o mundo está mudando junto também, e a nossa cultura também está indo embora junto, não é? E, assim, eu me preocupo muito de estar sendo monitorado pelos aplicativos, e qual é a segurança que a gente tem, para que a gente possa falar e buscar também nossas alternativas, através dessas plataformas, através dessas tecnologias que estão sendo apresentadas agora. E é difícil de a gente acreditar, não é? A gente tem que levar à discussão e também pensar em cada... nosso consumo, principalmente, não é? E, eu volto a falar de novo: não substituir nossa inteligência por artificial, porque nós somos inteligentes, vamos usar nossa mente, nossa alma para pensar, não é? Temos que ter mais ética. Gratidão. Obrigado aí. Adjepe! O SR. PRESIDENTE (Astronauta Marcos Pontes. Bloco Parlamentar Vanguarda/PL - SP) - Obrigado, obrigado ao Sr. Time’i Awaete-Assurini, presidente do Instituto Janeraka, no Xingu. Obrigado por trazer alguns temas importantes aqui, para que nós possamos discutir também. Primeiro, com relação à proteção ambiental. Nós vemos, certamente, durante muito tempo, a nossa civilização, com a utilização dos recursos naturais do nosso planeta, tem, ao longo de toda... isso eu posso falar na linguagem de quem já viu o planeta inteiro, literalmente, não é? Em todo o nosso planeta houve uma devastação muito grande por tudo que nós tínhamos em termos de recursos naturais, espalhados por esse planeta tão bonito que nós temos, a nossa espaçonave azul, maravilhosa. E nós vimos que ao longo do tempo do desenvolvimento industrial, tecnológico, muitas coisas foram destruídas. E agora a gente tem que preservar o que nós temos. E recuperar, principalmente, os lugares onde foi mais devastado. E nisso é importante a participação global de todos os países que participaram e participam hoje em dia. Principalmente os mais desenvolvidos, que têm uma responsabilidade muito grande em recuperar os seus recursos naturais também.
15:15 R	E eu vejo a utilização da inteligência artificial - de novo vendo pelo ponto positivo, que é um ponto importante de a gente pensar aqui - como uma oportunidade bastante grande. Nós temos, por exemplo, no Ministério da Ciência, Tecnologia e Inovação, vários projetos dentro da Amazônia, funcionando plenamente lá. Um deles na Reserva Sustentável Mamirauá, ali na região de Tefé, que são 2,5 milhões de hectares, ou seja, uma área extremamente grande. Essa área é a primeira área do Planeta Terra monitorada 24 horas, sete dias por semana, com sistemas de vídeo, microfones e inteligência artificial, que são capazes de detectar qualquer presença anormal, vamos chamar assim, na região. Então, a gente vê uma das utilizações da inteligência artificial dentro disto: ela consegue interpretar e dizer: "Isto aqui é um animal X ou isso aqui é um ser humano, no lugar aonde não devia estar". Então, esse é um exemplo de utilização. Um outro exemplo importante que a gente tem que levar em consideração são as dificuldades que existem na Amazônia, onde nós temos mais de 20 milhões de pessoas lá vivendo. E a gente não pode parar de pensar nelas. Elas têm que ter qualidade de vida também. São brasileiros que estão lá. E a gente precisa sempre ter em mente a possibilidade de se levar telemedicina. Para isso é preciso conectividade. Hoje nós estávamos falando aqui, agora há pouco, em conectividade, que é importante. É outro esforço que havia e existe agora no Ministério das Comunicações. Nós tínhamos esse ministério anteriormente, lá com vários projetos como o Conecta Brasil, para levar conectividade para a Amazônia, com fibra ótica nos rios, dez mil quilômetros de fibra ótica, mais satélites. E isso não é suficiente ainda. Nós temos uma área muito grande. Essa cobertura de satélite precisa ser ampliada e também a educação. Como a gente pode levá-las, através dessa conectividade e com energia? Porque só conectividade não adianta. É preciso ter energia, de alguma forma, e alguma forma sustentável, para não ficar queimando diesel para produzir energia elétrica dentro da Amazônia. Então, alguma forma mais sustentável de se fazer isso, com painéis solares, por exemplo. O próprio Instituto Mamirauá tem um desenvolvimento muito interessante de filtragem de água com energia solar, filtragem de água que reduziu a mortalidade infantil naquela região em mais de 60% - por causa de filtragem de água. E poder levar conectividade com conhecimento, computadores, você imagina a pessoa poder trabalhar lá com os cursos adequados, na área de tecnologia de informação e comunicação, ou seja, a educação e a biotecnologia em conjunto; projetos como o Projeto Salas (Sistema Amazônico de Laboratório Satélites), também do ministério, com a implantação de 50 laboratórios dentro da região amazônica para prospecção de ativos para transformar em novos medicamentos que podem ser utilizados da floresta, vamos dizer, de uma forma sustentável, dando ganho às pessoas que moram lá e, ao mesmo tempo, produzindo novos medicamentos. Lá em Botucatu tem lá a Unesp com o centro nacional de medicamentos. Esse trabalho estratégico é importante para o país. Eu ouvi o nosso representante, Presidente da fundação, do Instituto Janeraka, que foi bastante importante nesse sentido. Então, obrigado pela participação. Sem dúvida nenhuma, a gente tem que pensar na tecnologia sem esquecer a cultura tradicional. Essa junção, que é capaz de ser feita, e é muito importante que seja feita, tem que ser incentivada sempre. Eu passo a palavra, então, ao Prof. Luciano Vieira de Araújo, professor da Universidade de São Paulo. Então, bem-vindo. São oito minutos.
15:19 R	O SR. LUCIANO VIEIRA DE ARAÚJO (Para expor.) - Boa tarde. Eu gostaria de saudar a todos na pessoa do Senador Astronauta Marcos Pontes. Agradeço esse convite. É uma honra e também uma grande responsabilidade dadas a abrangência e a importância da inteligência artificial. Então, agradeço a V. Exa. por esta oportunidade. Trago aqui um pouco da experiência. Coordeno um grupo de pesquisa de cidades inteligentes na Universidade de São Paulo. É um grupo interdisciplinar. Nós vivemos esses desafios de conversar com áreas diferentes. Nós temos o pessoal das áreas de tecnologia, direito, políticas públicas, saúde, educação. Então, um grupo bastante abrangente. Trago um pouco dessa experiência. Começo falando como foi a nossa preparação para esta sessão, usando inteligência artificial, usando ferramentas que nós desenvolvemos no nosso grupo de pesquisa, em parceria com startups que surgiram do grupo de pesquisa. Nós utilizamos todo o material disponível da Comissão no site, o projeto de lei, todos os vídeos das sessões e também a legislação internacional como a legislação europeia. Então, nós usamos a inteligência artificial para comparar, resumir, buscar pontos de conectividade e também espaços. E é isso que eu vou compartilhar um pouco, sob a perspectiva tecnológica. Amanhã, a Profa. Ana Carla Bliacheriene, que coordena o grupo junto comigo, trará a perspectiva jurídica e de políticas públicas. O primeiro ponto é proteção do indivíduo. Parece protecionista demais, mas a Comissão já captou a importância. E qual é o ponto aqui que eu destaco? A velocidade, o tempo que as coisas estão acontecendo. Então, a população, a sociedade sempre se adaptou às mudanças que aconteceram, só que nós estamos diante de uma mudança muito rápida. A inteligência artificial está aí já há quase 80 anos. Mas, no último ano, nós tivemos um salto absurdo. Nós precisamos auxiliar o indivíduo e também fomentar o seu desenvolvimento. Então, esse é um grande desafio. Outro ponto que também está no projeto de lei e que eu trago aqui como destaque é que ele tem uma forte carga na proteção de dados, que é compreensível da área jurídica, etc. Mas a área de dados é um subconjunto, uma parte da proteção do indivíduo, porque vai além. A inteligência artificial afeta a vida dele em diferentes aspectos, desde a proteção de dados, mas também o dia a dia, o mercado de trabalho, a geração de renda, a educação, etc. Outro ponto que o projeto de lei mostra é a centralidade humana. Ele busca essa centralidade, o que é importante, porque a gente vê os melhores resultados quando nós temos uma integração - inteligência artificial e humanos. Mas eu destaco alguns pontos aqui, alguns artigos. Não vou entrar em detalhes em cada um deles, mas isso fica para observação. Ele vai estimulando a supervisão humana ativa no ciclo de ar. Quando o sistema tem um impacto significativo na vida das pessoas, tem que haver essa intervenção humana. Os termos usados pelos artigos são bem genéricos. Enquanto nós estamos numa área de uma escala enorme, isso pode trazer uma série de problemas. O que é significativo? Aquela parte do art. 10, que fala que a interdição humana ou revisão humana não será exigida caso sua implementação seja comprovadamente impossível. Então, aqui, a gente tem um encontro de áreas. Para a área técnica, eu posso dizer "é possível", mas não é viável por causa do custo, do tempo e do pouco resultado que a gente vai obter. Então, a gente só tem que tomar alguns cuidados nessa observação, para que a gente tenha tranquilidade.
15:23 R	Aqui estão algumas limitações e riscos também dessa intervenção humana. O primeiro é o custo que nós temos. Nós necessitamos de recursos humanos bem preparados, e eles estão escassos; e a velocidade, mais uma vez, de formação dessas pessoas não é rápida como a tecnologia. A ineficiência. Porque nós temos aqui aplicações massivas; então, não necessariamente o ser humano é capaz de lidar com esse volume de informação, de conhecimento, para que ele dê essa garantia, o que nos leva a uma falsa sensação de segurança. Então, a gente acha que, impondo essa situação, o sistema vai estar mais seguro, mas a gente não consegue garantir que o ser humano seja capaz de encontrar os defeitos, as falhas e os vieses da inteligência artificial - e nós mesmos temos os nossos vieses, os nossos erros e a fadiga. Isso nos leva a outro ponto, que o Senador já colocou muito bem aqui, da agência reguladora como órgão central. Isso é preocupante. Que bom que a gente já vê essa sensibilidade a esse tema, porque a gente vê ali... Eu destaquei alguns aspectos. Só a coordenação entre as agências regulatórias já é um desafio hercúleo; mas depois nós temos que cada regulamentação vai ocorrer depois de uma audiência pública. Então, imagine a quantidade de audiências públicas necessárias para levar esse processo - é muito desafiador. A autorização de sandbox, que são essas áreas seguras para desenvolvimento de tecnologia, pode ser uma burocracia enorme para que o processo avance. Então, a gente destaca uma concentração excessiva de atividades. Seria uma superagência e que, mesmo que sejamos capazes de implementá-la, tenho dúvida se terá eficiência para entregar esse resultado esperado. Agora aqui alguns riscos, e eu destaco os riscos colocados no projeto de lei. Destaco a questão do alto risco. Olhe quem está classificado em alto risco: sistemas que atuem na educação e formação profissional; a administração da Justiça. O que implica esse alto risco? Uma carga enorme de atividades, controles e verificações que vai sobrecarregar e onerar isso de forma absurda. Vou dar um exemplo aqui da área de educação: nós temos uma iniciativa junto com o Instituto Rui Barbosa, dos Tribunais de Contas, sobre a nova Lei de Licitações. É um curso gratuito, ilimitado, oferecido para todo o Brasil. Eu ali, hoje, tenho mais de 25 mil inscritos, de 51% dos municípios brasileiros. Nós temos, então, uma variedade enorme, nível diferente entre pessoas. Nós estamos trabalhando para oferecer inteligência artificial exatamente para fazer esse nivelamento. Numa eventual regulamentação como essa, nós estaríamos na categoria de risco alto e com possibilidade de responsabilidade objetiva, que é mais séria ainda. Então, nesse medo todo, os professores voluntariamente... (Soa a campainha.) O SR. LUCIANO VIEIRA DE ARAÚJO - ... participando, etc., provavelmente não queriam encarar esse desafio pela frente. Rapidamente sobre educação e inteligência artificial, trago alguns pontos importantes. A oportunidade de personalização que a IA traz. Hoje nós temos modelos, em salas de aula, em que todo mundo recebe o mesmo conteúdo. A inteligência artificial permite que a gente personalize para atender esses indivíduos, só que nós vamos precisar ficar atentos à formação dos professores para isso, a esse novo mercado de trabalho; verificar esse currículo, o que é preciso ensinar; e também fomentar a criação de novas ferramentas. Por fim, a questão da competitividade internacional. A IA é central hoje nesse assunto para todo o mundo. Então, é estratégico. Eu trago aqui algumas questões. Um destaque de sugestão é a questão das compras públicas, e compras públicas de IA. Esse é um recurso que vai ser gasto...
15:27 R	(Soa a campainha.) O SR. LUCIANO VIEIRA DE ARAÚJO - ... vai ser investido e nós já podemos pensar em como fomentar esse uso para o desenvolvimento local desse conhecimento dentro da sociedade e em outras sugestões que a gente apresenta dentro dessa perspectiva. Então, nós trazemos algumas observações desse resultado e já há experiências funcionais e práticas. No Brasil, nós já temos capacidade e desenvolvimento acontecendo. Como eu mostrei, tudo aqui foi utilizado com inteligência artificial, e nós podemos nos beneficiar se olharmos para esse lado positivo e para o incentivo. Então, Senador, mais uma vez, muitíssimo obrigado por esta oportunidade. O SR. PRESIDENTE (Astronauta Marcos Pontes. Bloco Parlamentar Vanguarda/PL - SP) - Obrigado, professor. Aliás, enquanto ouvia a sua fala, eu lembrei que nós tivemos - provavelmente o Demi deve falar a respeito - aquela criação dos oito institutos, oito centros de inteligência artificial no Brasil, em alguns setores, incluindo cidades inteligentes, Indústria 4.0, Agro 4.0 e Saúde 4.0. Sem dúvida nenhuma, é um avanço, mas é um pedacinho do que precisa ser feito ainda. Obrigado por trazer esses pontos muito importantes aqui. Eu gostaria, no momento, de passar a palavra ao Sr. André Queiroz de Andrade, Diretor de Inovação e Produto da Senno. André, o senhor tem oito minutos. O SR. ANDRÉ QUEIROZ DE ANDRADE (Para expor.) - Obrigado pela oportunidade de participar. Gostaria de parabenizar o Senado por esta iniciativa. Para mim, que aqui represento a figura do empresário brasileiro que desenvolve inteligência artificial e atua como consultor estratégico, nas maiores corporações do país, sobre como utilizar a inteligência artificial, é realmente um prazer estar presente. A minha fala vai estar dividida em três partes. Peço a atenção dos senhores, porque vai ser bastante denso e rápido o que eu vou falar. Na primeira parte, eu vou falar de alguns conceitos fundamentais para gente entender a mudança da relação entre o ser humano e a tecnologia e como isso vai impactar o mercado de trabalho. Na segunda parte, eu vou entrar na questão de estratégia nacional. Então, quais são as tendências que a gente deveria estar observando para bolar uma estratégia nacional, de fato, ponta a ponta, para a inteligência artificial? Garanto a vocês que não é só formar pessoas e protegê-las dos efeitos da inteligência artificial, vai muito além disso. Por fim, falarei sobre essa estratégia em quatro pilares importantes que são: pessoas, software, hardware e Governo. Bom, como eu falei, eu atuo como consultor estratégico há mais de dez anos. Fundei minhas empresas, em 2017 e 2020, para atuar no desenvolvimento de inteligência artificial proprietária no Brasil e, na segunda empresa que fundei, eu trabalho com a intersecção entre inteligência artificial e realidade virtual, inclusive atuando junto à Niantic, que é a maior empresa de realidade virtual do mundo. Acho que o motivo de todos estarem aqui preocupados com inteligência artificial é porque ela nos causa medo. Por que ela nos causa medo? Porque, assim como em outros momentos da nossa história, o ser humano está descobrindo que há algo que não é exclusivo dele. Quando a gente descobriu que a Terra não era o centro do universo, isso deu origem ao Iluminismo, quando a gente descobriu que o ser humano não era um animal único e que a gente evoluía de outros bichos, a gente deu origem ao Cientificismo, do qual nos beneficiamos até hoje. Eu diria que essa sensação de displacement, de estarmos saindo do nosso cerne, na verdade é muito boa, porque nos faz querer provar, mais uma vez, que o ser humano é, de fato, relevante e vai ter que ser, para além do que a IA faz.
15:31 R	Automatizar o trabalho humano não é nada novo, a gente faz isso há mais de 200 anos. Então, o que é que há de novo no tipo de automação que estamos fazendo hoje? Porque, até aqui, a gente vem substituindo o trabalho exato e repetitivo por meio de robotização. E o que a gente vai fazer agora, com inteligência artificial, é a capacidade de sintetizar algo novo; ou seja, não é repetir algo de forma exata, mas é eu poder falar para uma IA: "Faça-me um Teletubby segurando a taça da Copa do Mundo com as características de um quadro de Van Gogh". Hoje, para todo mundo aqui, parece supernormal falar isso, não é? Se eu falasse isso três anos atrás, vocês falariam: "Preciso de um ilustrador muito competente para fazer isso". Agora, a gente faz em segundos. Bom, o que isso muda na existência do ser humano, uma vez que a AI é capaz de sintetizar conhecimento? A gente vai... Isso tem um impacto econômico profundo, se a gente entender esse conceito. Até aqui, conhecimento foi algo passivo para a humanidade, algo que a gente tinha um custo para gerar, armazenar e manter, seja em bibliotecas, seja em servidores. E não havia nenhuma garantia de que, armazenando esse conhecimento, outras pessoas viriam, acessariam esse conhecimento e gerariam algo novo, relevante para nós. Agora, é uma certeza. Conhecimento deixa de ser um passivo para empresas, para o Governo e para as pessoas, e passa a ser um ativo. É garantido que, se você acumular de forma coerente conhecimento, ele sozinho vai gerar novos conhecimentos. E isso muda completamente a nossa lógica econômica. O primeiro impacto, para a gente entender, na mudança, é a mudança da nossa relação com a tecnologia. Até aqui, o computador não é diferente do serrote para o marceneiro; é uma ferramenta. Então, a sua produtividade é determinada pela sua proficiência no uso dessa ferramenta, na usabilidade dessa ferramenta, ou seja, é a mesma coisa que o serrote. Se o serrote for feito de bons materiais, se ele for ergonômico, etc., o marceneiro tem uma melhor produtividade. Caso contrário, não. Isso acabou. A gente não vai mais ter uma ferramenta. Quem tem as ferramentas é a inteligência artificial. A inteligência artificial é o melhor marceneiro com as melhores ferramentas. O que a gente tem que entender é que agora a gente vai passar a dialogar com a tecnologia, e não a usar como uma ferramenta. A gente ser capaz de ser claro, saber onde a gente quer chegar, e saber comunicar vai ser a skill fundamental para a produtividade, e não saber usar uma ferramenta. O segundo ponto é que isso leva a uma mudança na lógica de produção do capitalismo. Se até aqui a nossa preocupação era produzir mais com uma mesma qualidade por um menor custo, e isso representava lucratividade, isso acabou. Principalmente na economia do conhecimento, mas isso também vai chegar para coisas físicas também. Mas, na economia do conhecimento, hoje eu posso simplesmente, por meio de uma IA, gerar instantaneamente milhares de imagens, milhares de pareceres, milhares de textos, etc., e é instantâneo. O que vai determinar a qualidade do que eu faço? Ser capaz de selecionar o que a IA faz. Então, isso é capacidade crítica. Então, eu até falei aqui: clareza em se comunicar e pensamento crítico. O terceiro ponto é que, dado isso, se até aqui as nossas máquinas eram utilizadas para ajudar a gente a corrigir erros ortográficos nos nossos e-mails, que é algo exato e repetitivo, agora a IA escreve os nossos e-mails. Bom, o que ficou para o ser humano? O que é que vai ser escrito nesse e-mail? É a gente que escolhe, a IA só escreve. Então, o ser humano precisa começar a se dedicar a problemas complexos, e não a problemas simples, para os quais a gente vem treinando as pessoas. Bom, isso já está refletido na demanda do mercado de trabalho. Esse é um estudo que o Fórum Econômico Mundial produz junto com o LinkedIn, e aqui a gente pode ver quais são as skills que estão sendo mais demandadas. Eu peço desculpas se a letra está muito pequena, mas eu falo para vocês o que está em primeiro lugar: pensamento criativo; capacidade analítica; você conhecer de tecnologia; curiosidade; resiliência, flexibilidade e agilidade; pensamento sistêmico.
15:35 R	Eu tenho certeza, porque fui aluno do sistema educacional brasileiro, que nada disso está sendo enfatizado nas nossas escolas. Bom, dado o que falei agora sobre impacto no mercado de trabalho, na formação das pessoas, na relação com ferramentas e na relação da lógica econômica, isso eu acho que já está sendo amplamente debatido nesse fórum, só que tenho visto que estão ficando de fora coisas muito importantes, se o Brasil realmente quiser assegurar - e não falo de garantir; falo de assegurar, falo de defesa - seu protagonismo na indústria da inteligência artificial. A primeira tendência que a gente precisa observar, com muita cautela, é o que é de fato o poder na era da informação. Se a gente for pensar, hoje a Ucrânia, um país de 40 milhões de pessoas, depende de um algoritmo. Como é isso, André? (Soa a campainha.) O SR. ANDRÉ QUEIROZ DE ANDRADE - Simples: se mudar a percepção pública no Ocidente sobre essa guerra, acabou o financiamento da Ucrânia, a Ucrânia vai ser engolida pela Rússia. Bom, então a Ucrânia depende de algoritmos do Twitter e do Facebook para sua sobrevivência. Se a gente não criar tecnologias nacionais capazes de combater desinformação mal intencionada, ou seja, projetos de governos adversários aos nossos, de empresas adversárias à minha empresa, podem ter certeza, se já está difícil combater a desinformação com pessoas falando no WhatsApp, quando forem as IAs que estiverem criando os conteúdos, esqueçam, galera: se não tiver inteligência artificial para combater isso, vocês não vão combater. Bom, o segundo ponto é a desmobilização. Acho que todo mundo já entendeu que a PAX Americana acabou. Existe uma guerra comercial muito forte acontecendo hoje entre Estados Unidos e China, cujo foco é inteligência artificial, porque inteligência artificial é a próxima arma definitiva das guerras, e não as armas nucleares. Então, a gente tem que entender que essa desglobalização pode beneficiar o Brasil... (Soa a campainha.) O SR. ANDRÉ QUEIROZ DE ANDRADE - ... se o Brasil se posicionar como um país estável que dispõe dos recursos e de uma cultura integrada com a cultura, por exemplo, americana, que hoje é a líder em desenvolvimento de inteligência artificial e em hardware para isso. A outra questão, fundamental, é o novo perfil demográfico brasileiro. O Brasil está envelhecendo, e, em países que envelheceram como o Brasil, no caso Alemanha e Japão, a única saída econômica é aumentar a produtividade da mão de obra e o valor agregado do produto. Até aqui, isso era um grande desafio para o Brasil pensar em como fazer isso, mas, se a gente de fato surfar a onda corretamente de inteligência artificial, esses dois impactos são iminentes do uso de inteligência artificial. Bom, desculpa, peço perdão, provavelmente vou usar pelo menos mais um minuto, mas gostaria de tocar nos pontos estratégicos. Quais são as características de uma estratégia ponta a ponta, então, do ponto de vista nacional? A gente está falando de pessoas até aqui, mas, se a gente não falar de software e não falar de hardware... (Soa a campainha.) O SR. ANDRÉ QUEIROZ DE ANDRADE - ... esquece: a gente não está protegido. O que significa falar de pessoas e falar de hardware? A gente está falando de educação e de informação técnica, mas, se o Brasil não tiver protagonismo na produção de minérios raros, a gente não vai conseguir estabelecer nosso espaço na cadeia produtiva do hardware, que é fundamental para o treinamento dessas IAs. Os Estados Unidos já bloquearam, inclusive eles vão revogar a cidadania de cidadãos americanos que venham a trabalhar na China, na indústria de chips chinesa. Ou seja, se o Brasil não entender onde ele está posicionado... Porque a gente não produz esses chips aqui, a gente não produz esses minérios e não capacita as pessoa para trabalharem nessa indústria. Se a gente não começar a mudar isso imediatamente, a gente pode ficar de fora de algo fundamental. Então, não adianta ter software, não adianta ter algoritmo se você não tem máquina para treinar esse algoritmo. Bom, se a gente conseguir trabalhar nisso, a gente vai aumentar a nossa produtividade, a gente vai aumentar o nosso valor agregado e vai conseguir garantir a defesa de um setor tão importante. Eu sei que o meu tempo já acabou... (Soa a campainha.) O SR. ANDRÉ QUEIROZ DE ANDRADE - ... mas, se os senhores tiverem interesse, essa apresentação vai estar na íntegra no portal. Mas, só comentando basicamente, as quatro estratégias de que o Brasil precisava eram: uma educação da era da IA. Entender que ler, escrever e calcular é feito por inteligência artificial, mas interpretar, propor e decidir é o que de fato vai caber às pessoas.
15:39 R	Uma educação voltada para pesquisa, pensamento crítico, resolução de problemas, criatividade e inteligência emocional é o que vai formar pessoas para isso, porém, a gente também precisa trazer uma formação técnica muito mais forte para as nossas escolas. A gente tem que parar de entender engenharia, tecnologia e ciência como algo que se aprende na universidade. Não. Você já tem que ir para universidade sabendo isso. Na universidade, a gente tem que pensar como a gente aplica essas coisas. E aí, sim, uma educação focada na economia do conhecimento. Recomendo que leiam esse texto quando puderem baixar o material na íntegra. Segundo ponto: software. Então, quais são as características para que o Brasil, de fato, seja protagonista em software? A gente precisa de uma infraestrutura. E o que é essa infraestrutura? É disponibilizar, de forma aberta, os algoritmos, os dados e a produção científica neste país, porque é isso o insumo à infraestrutura que vai tornar empresas como a minha, que desenvolvem inteligência artificial proprietária no Brasil, competitivas. Se eu tiver acesso aos dados do SUS, e eles estiverem de fato estruturados de uma forma que uma shim learning funcione, eu consigo propor novos medicamentos e novos tratamentos. Já faço isso para as grandes corporações. Poderia estar fazendo para o Governo brasileiro, se de tal forma o Governo brasileiro passasse, como foi passado há cinco anos nos Estados Unidos, o open data wall, que obriga que todas as agências governamentais americanas, em nível municipal, estadual e federal, tornem digitais todos os seus dados e num formato que seja fácil de manipular por uma shim learning. Isso é lei nos Estados Unidos. Até 2030, tudo que eles produzem de dados vai ser digital, e isso vai alimentar as inteligências artificiais deles. (Soa a campainha.) O SR. ANDRÉ QUEIROZ DE ANDRADE - Se a gente não estiver fazendo algo semelhante, a gente já ficou para trás. Bom, por fim, como eu falei, sobre hardware, que eu acho que é o tema que menos foi comentado neste Plenário e que, sinceramente, para mim é o que mais me preocupa, hoje não se faz absolutamente nada sem minérios raros. Você não faz turbinas, você não faz a bateria do seu celular, você não faz o seu celular, você não faz o seu computador, você não faz nada que é interessante hoje sem isso. Bom, o Brasil é o quarto maior depósito de minérios raros do mundo, só que a gente é simplesmente insignificante na produção desses minérios. Hoje é 90% produzido pela China, e a Austrália e a Índia vêm aumentando sua produção, e grande parte da reindustrialização americana que vem acontecendo nos últimos cinco anos é focada na indústria de minérios raros, pois eles também são um dos maiores depósitos do mundo. Por que é que isso é importante? Porque hoje há uma guerra muito clara e muito séria. (Soa a campainha.) O SR. ANDRÉ QUEIROZ DE ANDRADE - Ambos os excertos que eu trouxe são de outubro deste ano, e a China vem limitando a exportação dos minérios raros para outros países, principalmente Estados Unidos, e os Estados Unidos simplesmente proibiram qualquer tecnologia, máquina ou pessoa que entenda de fazer microprocessador de ir trabalhar na China. Desculpem-me. Esqueço que tenho de apontar para lá. Bom, é evidente que a gente precisa criar uma indústria de minérios raros. Isso significa que o Brasil precisa fazer chip? Não, mas a gente precisa ser muito importante. Ou seja: se a gente conseguisse pelo menos extrair esse minério e manipular aqui, nós nos tornaríamos parte fundamental dessa cadeia produtiva, tendo poder de barganha para atrair essas indústrias de microchip para solo nacional e não estar exposto como a gente está hoje, incapazes de produzir os próprios servidores, necessários, fundamentais. Mais uma vez, não adianta eu fazer um algoritmo. Se não tiver a máquina para eu treinar esse algoritmo, ele não serve para absolutamente nada. Bom, por fim, gostaria de tocar um ponto... (Soa a campainha.) O SR. ANDRÉ QUEIROZ DE ANDRADE - ... que é sensível a todos aqui, que é como o nosso Governo poderia melhorar utilizando inteligência artificial.
15:43 R	A inteligência artificial pode ser usada em todos os aspectos do ciclo do processo legislativo. Até acho curioso que a gente não esteja utilizando inteligência artificial para fazer a legislação de inteligência artificial. A inteligência artificial tem que ser usada para determinar o que é importante estar nessa legislação, como ela deve ser confeccionada e também, até mais importante, na fiscalização. Eu entendo o que vocês pontuaram, de atomizar, nos diferentes órgãos reguladores brasileiros, um time dedicado à inteligência artificial. Colegas, quem vai fiscalizar a inteligência artificial é a inteligência artificial. Se quiserem criar um ministério só para isso ou um órgão regulatório só para isso, ele vai ser composto por robôs, não por pessoas. Não faz diferença se vocês vão atomizar em diferentes agências; o importante é entender como é que essa tecnologia, de fato, pode ser construída para isso. E atentos, pois vocês não pretendem usar o Chat GPT... (Soa a campainha.) O SR. ANDRÉ QUEIROZ DE ANDRADE - ... da Microsoft americana, para criar as leis do seu próprio país. Assim eu espero. Bom, eu recomendo que a gente passe a ter uma democracia baseada em evidências, e a inteligência artificial permite que a gente faça isso, não é? E isso pode ser muito bom, pois pode diminuir decisões, tornar nossas decisões mais informadas, reduzir a divisão política que vem assolando o nosso país, aumentar a eficiência dos ritos desta Casa e aprimorar as nossas responsabilidades. Gente, eu falei que era denso, falei que ia ser rápido... Obrigado pelo tempo de vocês. O SR. PRESIDENTE (Astronauta Marcos Pontes. Bloco Parlamentar Vanguarda/PL - SP) - Obrigado. Obrigado, André. Parabéns pela apresentação, realmente bastante interessante, bastante densa. Isso é bom demais. Alguns pontos que eu acho que vale a pena a gente ressaltar aqui: falou uma coisa que eu, durante o meu tempo lá como Ministro de Ciência, Tecnologia e Inovação, eu ficava ressaltando, e acho que as pessoas talvez não capturassem a importância disso... Quando a gente fala desenvolver as nossas tecnologias, os nossos materiais, utilizar o que o Brasil tem para desenvolver aqui. Parece simples falando assim, mas, quando entramos na discussão política, vamos dizer assim, muita gente tem a opinião de que não, isto aqui é feito lá fora, nós compramos. O problema é: compra até onde, compra até quando, de que forma, entendeu? É importante desenvolver aqui, e a gente tem capacidade para fazer isso, tem capacidade. Materiais avançados, por exemplo, é uma área bastante extensa, não é? A gente falou bastante de nióbio... Hoje o Brasil tem uma tecnologia boa de nióbio, graças à Companhia Brasileira de Metalurgia e Mineração, lá de Araxá, eles têm uma tecnologia interessante disso... Já fazemos uma série de produtos, mas não dá para parar por aqui. A gente precisa aumentar essa possibilidade. Então esse aumento vem num acordo que foi feito, que nós fizemos lá com a CBME e o CNPEM (Centro Nacional de Pesquisas em Energia e Materiais), de Campinas, onde fica o Sirius ali, para o desenvolvimento de um laboratório para supercondutores, que são baseados em nióbio também. Isso aí é nióbio e estanho, nióbio e cobre, nióbio e titânio... Uma série deles você consegue desenvolver, com temperatura um pouco mais alta do que a utilização normal. E, para complementar isso aí, a gente tem uma parceria com o CERN, lá na Europa, onde eles têm essa tecnologia já desenvolvida, para que a gente possa compartilhar isso aqui. Outro ponto importante: você falou das terras raras, não é? Terras raras. O Brasil tem essa possibilidade de desenvolvimento de várias coisas. Tem um laboratório que nós criamos em Minas Gerais, na Universidade Federal de Minas Gerais, utilizando um prédio que era da CNEN (Comissão Nacional de Energia Nuclear), e qual é a ideia ali? Chama GraNioTer, grafeno, nióbio, terras raras, para desenvolver tecnologias, conectar o Brasil nesse sentido, desenvolver tecnologias para esse desenvolvimento.
15:47 R	Um dos projetos, chamado Regina, junto com a Alemanha, é para o desenvolvimento de terras raras, supermagnetos a partir de terras raras também e o enriquecimentos... As terras raras, semelhante ao Urânio, você precisa enriquecer utilizando o laser também. E tem um projeto que se chama Pasil, lá no Instituto de Estudos Avançados do DCTA. Parece bastante coisa, mas ainda é preciso fazer muito sobre isso aí. O tema é muito extenso, e não adianta ficar só na pesquisa. Ele tem que sair da pesquisa e se transformar em produto, em nota fiscal, empregos, ou seja, essa tradução para as coisas práticas. Às vezes, a academia tem uma dificuldade em interagir com a indústria nesse sentido, mas é importante ter essa interação rápida, para que isso aconteça e se traduza no dia a dia da gente. Então, parabéns pela apresentação. Eu poderia falar bastante coisa aqui, que eu escrevi uma página aqui sobre isso, mas gostaria de passar a palavra agora para o Demi Getschko. Ele é o Diretor-Presidente do Núcleo de Informação e Coordenação do Ponto BR, o NIC.br. Nós trabalhamos bastante juntos lá no Ministério também, inclusive com a criação dos centros de inteligência artificial, o NIC.br, a USP e a Fapesp, em São Paulo. Demi, você tem os oito minutos para a sua apresentação. Obrigado por estar aqui conosco. O SR. DEMI GETSCHKO (Para expor. Por videoconferência.) - Muito bem. Obrigado. Boa tarde a todos. Eu agradeço o convite da Comissão e o convite do Senador Astronauta para falar nesse debate sobre IA. Eu serei generalista, não muito denso. Espero não esticar o tempo em acesso, mas vamos por partes. Bom, em primeiro lugar, eu estou remoto porque nós estamos numa reunião do ICANN, que cuida exatamente de internet e de domínios do primeiro nível. O BR é um dos domínios do primeiro nível. Então, estou aqui falando pelo BR. O BR é um domínio bastante bem sucedido. Temos 5,2 milhões registros debaixo do BR. E o BR tem um modelo que é invejado por vários países, pelo seguinte: a gente é uma organização privada sem fins de lucro que reverte os recursos que o registro BR carrega, que nos traz, para atividades de apoio à internet em geral. Então, só para falar como é que começam esses centros que o Senador comentou, nós, antes de termos um CNPJ específico no NIC, a gente usava o CNPJ da Fapesp. Então, durante alguns anos, os recursos que o Ponto BR amealhava pelo registro debaixo do BR foram guardados na Fapesp, quando ela fez uma conta segregada com aqueles recursos, e, para isso ser liberado numa instituição tipo Fapesp, você precisa ter um projeto que tem aspecto de projeto de pesquisa e que seja auditável como um projeto de pesquisa. A grande ideia da época, do Ministério de Ciência e Tecnologia mais a Fapesp, mais, evidentemente, o CGI e o NIC, foi usarmos esses recursos - parte deles, pelo menos - para a criação de centros de IA. E, daí, foram criados oito centros de IA financiados com esse recurso inicial, que vai evidentemente sustentá-los por algum tempo, mas não infinitamente, e esses centros de IA estão começando a se instalar em vários lugares. Então, esse é o primeiro ponto para explicar a introdução a respeito do que eu tenho a ver diretamente com isso. O Ponto BR é domínio da internet, não teria nada a ver com IA, mas os recursos do BR são usados para atividades, por exemplo, de segurança na internet. O CERT.br é sustentado pela gente, pelos pontos de troca de tráfego. Eu posso dizer, com um certo ufanismo, que o ponto de troca de tráfego de São Paulo é o maior do mundo atualmente, passou o da Alemanha. Em suma, nós temos vários pontos importantes que mostram que funcionamos bem nessa área e temos uma imagem bem, digamos, adequada, projetada mundialmente.
15:51 R	Bom, então, vamos para a IA. Do lado da IA... Eu sou da Engenharia, tenho mestrado e doutorado em Engenharia, eu sempre olho as coisas sob um ponto bem pragmático e bem de bom senso. Também o ponto é que existe aí uma onda de propaganda em que tudo virou IA. Certamente, a IA é um negócio que teve um enorme desenvolvimento. A IA tem 60 anos que existe, já foi dito aí, vários anos, não é uma tecnologia nova, mas, certamente, o impulso que ela teve atualmente com o crescimento de capacidade de computação, de capacidade de armazenamento e de software foi um enorme impulso, o que também não quer dizer que tudo é IA. Então, vou dar um exemplo. Os bancos brasileiros, há 30 anos, leem a impressão digital para garantir a identificação dos seus usuários. Isso é processamento de imagem, mas não precisa ser obrigatoriamente IA. Um monte de outras atividades de reconhecimento de imagem e de algoritmos são sofisticadas, são complexas, mas podem ser ou não IA. Uma das características que é, digamos, descritiva da IA e que é específica da IA e que não existe nos outros algoritmos é a capacidade de automodificação, quer dizer, as coisas modificam-se por si sós, porque o sistema permite que elas aprendam. Então, elas veem que erraram a decisão no caso A e no caso B e vão adicionando mais dados e pegando dados do mundo para tentarem acertar as próximas decisões. Isso é uma coisa complicada. Isso não é um algoritmo simples. Um algoritmo simples é uma receita de bolo, em que você junta os ingredientes e sai um bolo no final. Quando o bolo não foi bem recebido ou o pessoal achou que era doce demais, ou grande demais, ou fofo demais e a receita se automodifica, essa receita passa a ser um alvo móvel e você nunca sabe exatamente o que é. E aí surgem um monte de problemas na IA, sobre o que a gente não tem, digamos, clara definição. Por exemplo, se eu abrir o código do que é um programa que aprende a jogar xadrez, você descobre que tem lá um programa que aprende a jogar xadrez, mas ele aprende e ganha de um grande mestre. Como é que ele ganha de um grande mestre? Bom, ele ganha porque aprendeu. Aí não adianta você querer explicar por que ele ganhou. Se você soubesse porque ele ganhou, você fazia a jogada inversa e não o deixava ganhar. Então, essa é uma coisa em que você perdeu, digamos, o rastreamento do problema. É como uma criança para quem você ensina algo e ela tira conclusões por conta própria. Quer dizer, a IA tem essa característica de imprevisibilidade, porque, se ela se altera, ela é um alvo móvel e ela não é mais o que você imaginou. Você criou algo que se altera. Então, o que você criou hoje não é o que está lá rodando amanhã e o que vai rodar depois de manhã. Isso se altera pelos dados, se altera por aprendizagem profunda, por um monte de tecnologias sobre que nós não vamos entrar em detalhes. Mas eu queria deixar isso aí para, digamos, tirar essa aura de que nós vamos explicar por que se deu daquele jeito. Não dá para dizer por que se deu daquele jeito. Deu-se porque ele aprendeu daquele jeito. Ele pode ter aprendido com dados enviesados, ele pode ter aprendido erradamente. As pessoas aprendem coisas erradas. É normal isso aí. Mas o processo de aprendizagem é algo não explicável no sentido de que você cria uma raiz, uma semente e aquilo se desenvolve a partir das experiências que adquire no mundo e, portanto, é muito complicado explicar. Então, estou dizendo isso para dizer que a IA tem algumas complicações que eu acho que vão ser difíceis de serem, digamos, contornadas se estivermos falando, realmente, de IA profunda, com aprendizado de máquina etc. e tal. Se é simplesmente um algoritmo fixo em que, dada uma entrada, tem-se uma saída, isso eu nem chamaria diretamente de IA. Quer dizer, pode ser até que simule o comportamento humano. Uma máquina de calcular calcula maravilhosamente bem, mas ela dá sempre o mesmo resultado e isso é uma coisa explicável. Uma decisão de IA pode dizer que o sujeito é, numa decisão jurídica, culpado ou inocente. Aí você dá mais dados, ela gasta mais umas horas pensando e muda de ideia, que não é mais inocente, agora é culpado. Então, são coisas muito mais complexas para dizer.
15:55 R	Então, esse é um ponto inicial para dizer que nós temos que separar, primeiro, o que os americanos chamam de hype, dessa onda de mercado em cima que diz que tudo é IA do que de fato é IA; e, segundo, não ter, digamos, expectativas enormes sobre como você monitora e explica essas coisas, porque está na essência do processo que algumas coisas são dinâmicas e automodificáveis, e, portanto, a explicabilidade é muito difícil. Eu, evidentemente, não vou assumir uma posição nem otimista, nem apocalíptica, mas, como qualquer tecnologia, você tem grandes usos que pode usar com a IA, ela vai auxiliar você em milhares de coisas. Vejam na área médica, o diagnóstico médico com o IA consegue resultados maravilhosos, que um médico humano, por estar cansado, por estar de mau humor, por estar no começo do dia ou no fim do dia, pode deixar passar detalhes que o IA não vai deixar passar. Então, como ferramenta auxiliar para a decisão eu acho espetacular, e vai ser cada vez mais espetacular, vai desempregar muita gente em atividades repetitivas, mas vão, evidentemente, aparecer, certamente, novas atividades, mas eu tomaria muito cuidado em deixá-la tomar decisões, principalmente decisões críticas, porque aí você tem uma resposta... Poxa, já está acabando... Então, vamos rapidamente para o assunto, então. O que nós estamos fazendo do lado do NIC? Do lado do NIC, nós entramos nas normas do Ebia, que é o programa brasileiro de IA, e nós estamos nos colocando como o observatório de IA. O que será o Observatório de IA? É um lugar que nós recolheremos dados sobre IA nas diversas áreas de atividade da sociedade, como já fazemos hoje com o Cetic. A gente recolhe dados disso aí, são dados de boa qualidade, para ver como é o termômetro disso, quer dizer, como está a temperatura, como estão os sintomas da disseminação de IA, se está dando, digamos, bons resultados, maus, como é que os usuários avaliam a implementação disso. Então, esse Observatório de IA é um negócio passivo; nós não fazemos pesquisa em IA, nós vamos simplesmente sentir a temperatura do processo e dar como subsídio para as autoridades. Outro ponto são os tais centros de inteligência artificial nos quais nós vamos, de alguma forma, interligá-los, no sentido de que as informações fluam. Não faremos nada, simplesmente deixaremos as informações fluírem e faremos o repositório do que há de IA no mundo, no IRCAI, lá na Eslovênia, no Canadá, em Singapura, etc. e tal, como é que o mundo está olhando a ética de IA, o que a Unesco fez, etc. e tal, como é que a IA está evoluindo nessa área. Então, a nossa atuação nessa área é, basicamente, dar subsídios para que o Governo e o pessoal ligado às políticas públicas tomem as atitudes necessárias. Desculpem-me por ter avançado o tempo, passa realmente muito rápido. Muito obrigado. O SR. PRESIDENTE (Astronauta Marcos Pontes. Bloco Parlamentar Vanguarda/PL - SP) - Obrigado, Demi. Saudade do trabalho junto lá com a gente, mas queria agradecer, parabéns pelas falas também. E agora que eu notei que nós também estamos adiantados no tempo aqui. Eu falei das 16h... Mas eu vou, então, passar a palavra direto aqui para o Affonso. Deixe-me ver o nome correto: Affonso Parga Nina, Presidente Executivo da Associação das Empresas de Tecnologia da Informação e Comunicação e de Tecnologias Digitais (Brasscom). Então, Affonso, oito minutos. O SR. AFFONSO PARGA NINA (Para expor.) - Muito obrigado, Senador. Boa tarde a todas e a todos. Quero, antes de mais nada, agradecer aqui ao Senado e a esta Comissão pelo convite e também parabenizar pela iniciativa, na pessoa do Senador Marcos Pontes. É uma discussão extremamente importante para o Brasil.
15:59 R	Como é a última apresentação, acho que muitas coisas talvez pareçam repetitivas, mas eu estou muito feliz de ver uma convergência de ideias e de informações que estão sendo trazidas aqui. É importante que isso seja, efetivamente, repetido e ressaltado para os Senadores durante esse processo de análise dos projetos de lei, para a gente poder chegar a uma tomada de decisão em relação à questão da regulação da inteligência artificial. Em resumo, eu queria, primeiro, só rapidamente comentar que a Brasscom representa, tem mais de 80 empresas e grupos empresariais, desde startups até empresas muito grandes, desde empresas nacionais que hoje atuam no exterior, exportando e tendo operações fora do Brasil, até empresas multinacionais que trouxeram centros de pesquisa e desenvolvimento para o Brasil - então, é uma visão muito grande do ecossistema - e também, além das empresas, instituições de ensino, instituições de pesquisa e ONGs que trabalham também com formação de pessoal para a área de tecnologia da informação. Então, é realmente uma fotografia muito ampla do ecossistema de TI e comunicação aqui no Brasil. O ponto que eu acho, para tentar já resumir aqui, adiantando já a conclusão, é que, efetivamente - vou usar um chavão aqui - onde há risco, há oportunidade. Acho que ficou claro aqui, nas conversas e nas apresentações de todos, que o viés do risco está muito forte no que está sendo debatido ou proposto, pelo menos em um dos projetos de lei que a gente vê tramitando. E esse é um ponto de preocupação em que nós queremos, efetivamente, nos manifestar: é necessário que o Brasil enxergue a oportunidade de ouro que nós temos. As ondas da tecnologia vêm e vão, e um país como o Brasil, infelizmente, ficou para trás em várias das ondas, nos últimos 30, 40 anos. E aí eu falo do período em que eu sou profissional de tecnologia, já há pouco mais de 35 anos, em que vi muitas ondas passarem, e o Brasil não as surfar, mas, na tecnologia da informação, o lado bom da história é que, quando vem uma nova onda, a gente tem chance de subir nessa onda e passar na frente ou pelo menos diminuir o atraso em relação aos outros que surfaram as ondas anteriores. Nós temos agora aqui com a IA, especialmente com a IA generativa, uma oportunidade única que, se a gente não aproveitar, daqui a alguns anos, nós vamos estar chorando de novo que a onda passou e nós ficamos atrás ou fomos engolidos por ela. E o ponto que eu quero colocar - e aí, Senador, é muito importante que a gente repasse bastante essa mensagem para os demais Senadores também - é que a IA tem um potencial enorme de impacto em coisas que são caras ao Brasil hoje em dia, quando a gente fala de crescimento, de sustentabilidade e de inclusão social. A gente viu hoje aqui um depoimento extremamente importante sobre a importância da sustentabilidade, e a IA passa por isso. Eu vou passar muito rapidamente aqui em alguns exemplos. Primeiro, desmistificando: já ficou claro que a IA já existe há muito tempo. Eu comecei a trabalhar com inteligência artificial há mais de 35 anos, na época em que era ainda muito mais, vamos dizer, pré-histórica do que é hoje, e hoje coisas que estão no nosso cotidiano e parecem extremamente simples, 10, 15, 20 anos atrás, eram maravilhosas ou impensáveis. Então, simplesmente, por exemplo, reconhecimento facial - como o Prof. Demi disse, nem tudo é inteligência artificial, mas você tem aplicações de reconhecimento facial com o uso de IA - hoje é uma realidade que a gente vê na nossa mão, a gente vê nos aeroportos; enfim, a gente vê no acesso a tudo. Quando eu vi a primeira vez isso, há trinta e poucos anos atrás, era uma tecnologia supernova, e hoje é algo que a gente tem na nossa mão e é corriqueiro. A questão de predição de texto - e aí o aspecto preditivo da IA, como o Prof. Demi colocou, é importantíssimo - hoje também está na palma da nossa mão. Quando isso começou a ser desenvolvido... Eu tenho colegas de faculdade que começaram a trabalhar com isso em pesquisa em universidades quando isso ainda estava longe de virar produto, e hoje é produto na palma da nossa mão. Então, a gente tem que tomar muito cuidado para que o que hoje "assusta", entre aspas, muita gente, na verdade, é o normal da tecnologia e, daqui a cinco anos, não vai mais assustar ninguém, e a gente vai até olhar com saudade, vai dar risada do tempo em que a gente se assustava com coisas que, aos poucos, vão ficando normais.
16:03 R	Eu vou mencionar aqui quatro setores - saúde, educação, sustentabilidade e... - com exemplos claros que já estão acontecendo. Nós mencionamos câncer de mama e câncer de pulmão sendo detectados, que são exemplos reais em hospitais brasileiros, e há novos medicamentos - e aí pego aquela questão que o Senador estava falando que já existem as agências reguladoras. Se alguém vai usar inteligência artificial para desenvolver um novo medicamento, a Anvisa está aí para regular isso. Então, a gente não precisa ter uma regulação da tecnologia em si, mas, sim, das aplicações que essa tecnologia traz. Esse é um ponto que a gente vai colocar. Quanto à educação, tivemos aqui - muito mais capacitado do que eu -, o professor da USP falando de exemplos que a gente traz: como personalizar o aprendizado, como ajudar o professor a fazer um acompanhamento individualizado e aprender nesse processo também. Tudo isso vai viabilizar para o Brasil um nível de educação e um alcance de educação que hoje a gente não tem. Nós não podemos desperdiçar essa chance criando um órgão regulador que vai obrigar todas as aplicações, por exemplo, desse tipo a passarem por um crivo antes de irem ao mercado, antes de serem aplicadas. Não podemos ter amarras para esse tipo de coisa. Na agricultura, hoje, isso já é realidade, especialmente quando a gente fala de agricultura familiar. No Brasil, a gente fala muito do agronegócio, imagina os grandes produtores - e isso é uma realidade positiva, obviamente, para o Brasil -, mas, também na agricultura familiar, sobre o impacto que já existe hoje, a gente pode citar vários exemplos do que se coloca na mão do pequeno produtor rural como ferramenta até para precificar o produto que ele vende, porque, muitas vezes, ele não sabe fazer o preço correto, o monitoramento de produção e tudo mais. Aqui pega também um pouco, entre esse exemplo anterior e o próximo, falando de sustentabilidade, a gente viu o exemplo de uma nação indígena falando da sua preocupação com a qualidade do ambiente, e isso afeta a todos nós. A IA, hoje, ajuda, de forma concreta. Aqui estamos falando do exemplo aqui da Sub-bacia de Coruripe, que, efetivamente, permite monitorar a qualidade da água e atuar em cima disso. Ou seja, existem várias ferramentas, a gente poderia ficar três horas aqui falando do impacto. O resumo da ópera, efetivamente, é que isso é uma realidade que o Brasil não pode deixar passar. (Soa a campainha.) O SR. AFFONSO PARGA NINA - Nós estamos trazendo alguns números que a Brasscom publica. De modo geral, no próximo período de quatro anos, de 2023 a 2026, mais de R$660 bilhões serão investidos, no Brasil, em transformação digital, dos quais, em uma estimativa conservadora, em torno de R$70 bilhões, em IA, com crescimento acima de 20% ao ano, mas a gente entende que essa curva, na verdade, vai crescer mais ainda, por conta do efeito exponencial que essa tecnologia traz. Estamos falando de um país que precisa, hoje, formar 160 mil pessoas por ano e estimamos que, pelo menos, 20 mil pessoas precisam estar capacitadas em inteligência artificial ao ano. Estamos falando de um mercado que gera uma média salarial de 2,3 a 2,5 a média salarial nacional, ou seja, empregos qualificados. Aí vem o meu ponto inicial de inclusão social e de geração de empregos qualificados que a tecnologia, de modo geral, permite, e a IA, especialmente. (Soa a campainha.) O SR. AFFONSO PARGA NINA - Então, há vários novos tipos de qualificações e talentos sendo necessários, e a gente não pode ficar preso também na discussão: "Vai perder empregos?". Não, vai gerar novos empregos e, se a gente não investir, maciçamente, massivamente, nisso, aí sim nós vamos ter perda de emprego, mas, se a gente aproveitar a oportunidade e souber, através de políticas públicas, em coordenação com o setor privado, com o setor de ensino, com as ONGs, a gente consegue formar gente na quantidade que a gente precisa, e esse gap, na verdade, vira uma oportunidade de requalificação, de formação, de empregos com muito mais geração de riqueza e de inclusão social. É uma oportunidade que a gente não pode deixar passar.
16:07 R	O nosso companheiro aqui falou também não apenas de pessoas, mas de hardwares e softwares. Eu sou membro do CNDI, que está discutindo muito fortemente essa questão também. O fato é o seguinte: nós não podemos ter uma legislação que vai ser um freio de mão para nós, e nós estamos preocupados que isso esteja acontecendo. (Soa a campainha.) O SR. AFFONSO PARGA NINA - Então, temos muito trabalho para fazer nesse sentido. Muito obrigado. O SR. PRESIDENTE (Astronauta Marcos Pontes. Bloco Parlamentar Vanguarda/PL - SP) - Obrigado, Affonso. Realmente vai ser muito trabalho pela frente - e isso é bom. De certa forma, isso é muito bom. A gente pode trazer... Você vê a necessidade que a gente tem na educação e em tantos setores que precisam ser... Cada vez que se fala na educação, uma coisa que sempre passa pela cabeça é a velocidade com que a inteligência artificial - é típico disso -, a velocidade com que a tecnologia avança e a velocidade com que a educação avança. Ou seja, essa formação tem sempre um gap e, se a gente não cuidar para aumentar essa velocidade aqui, vai ficar cada vez maior. Isso é muito difícil. Eu estou no tempo aqui também. (Risos.) Vamos passar às perguntas. Bom, passamos agora, feitas as apresentações de todos os debatedores, e obrigado novamente pelas apresentações, à leitura de algumas perguntas e comentários feitos pela nossa audiência remota através do e-Cidadania. Eu peço aos debatedores para pensar nas perguntas. Se quiserem anotar alguma coisa sobre elas, e depois, por causa do nosso tempo, já são 16h10, eu vou fazer o seguinte expediente: vou ler as perguntas, anotem, pensem um pouco sobre elas, "eu quero responder isso ou aquilo ali", conforme os tópicos. Pensem como tópicos. E aí, eu vou passar para as considerações finais. Durante as considerações finais, eu vou dar dois minutos para cada um. Coloquem a resposta daquela pergunta dentro das considerações. (Pausa.) Ele também vai passar as perguntas para vocês terem por escrito, que é mais fácil. A mente da gente não consegue guardar tanta coisa quanto a inteligência artificial. O Lucas Vieira, de Minas Gerais: "A inteligência artificial respeita a Lei Geral de Proteção de Dados?". A Nathaly da Silva, de Pernambuco: "Qual o papel da inteligência artificial na tomada de decisões importantes [...]?". A Carla Alessandra, de São Paulo: "Quais os [...] [benefícios e desvantagens] da [...] [inteligência artificial] no ensino? Qual a estratégia para manter empregos com a expansão da [...] [inteligência artificial]?". A Ana Martimiano, de São Paulo: "Quais [...] os benefícios econômicos associados à adoção de inteligência artificial em empresas [...]?". A Elloá Barreto, do Amazonas: "Soluções de [...] inteligência artificial podem promover diferencial estratégico em um mercado globalizado. Como tornar o Brasil protagonista nesse [...] [mercado]?". Alguns comentários aqui. O Bruno Bertagnolli, do Acre: "É necessário discutir os limites da [...] [inteligência artificial] do ponto de vista ético e prático. O Douglas Gavioli, de São Paulo: "[...] [A dependência da inteligência artificial] pode minar [..] a capacidade de aprender e pensar por conta própria!".
16:11 R	Aí é uma coisa interessante, realmente, de se pensar. Eu já comentei isso outro dia numa das nossas audiências, fazendo uma comparação com a automação em aeronaves. Eu sou piloto, essa é uma área que está exatamente dentro da minha expertise, vamos dizer assim, e eu lembro lá atrás, nos tempos em que nós voávamos "pé e mão", como falavam, painel simples, dependia do piloto estar no comando da aeronave o tempo todo e, em essência, o piloto é sempre o responsável, não importa se ele está no piloto automático e tem uma inteligência artificial ajudando, mas o ser humano piloto é responsável pelas 200 vidas que estão lá atrás. Agora, naquele tempo, a gente usava basicamente o conhecimento que nós tínhamos e o controle ali de todas as superfícies de comando do avião. Hoje em dia, você tem inteligência artificial, pilotos automáticos já tem há bastante tempo, mas com muito mais precisão e capacidade. O problema disso aí é a tendência humana de se acomodar na menor energia. Por exemplo, se eu perguntar aqui para alguém quem usa ainda, lá em São Paulo, por exemplo, aquele Guia São Paulo, lembram? Um caderno desse tamanho com os mapas da cidade, ninguém usa mais. É complicado, é muito mais difícil, gasta muito mais energia para fazer isso do que usar o GPS no celular, que é muito mais fácil. Você olha no GPS, bota para onde você quer ou você fala para ele, ele indica o caminho e vai falando e dando sinal no celular quando você tem que prestar atenção nele. Agora, o problema é que ele nem sempre acerta. Eu acho que todo mundo já deve ter tido uma experiência de acabar num lugar que não era o que você queria; você simplesmente seguiu o GPS e foi parar num lugar errado ou seguiu o GPS e passou por lugares onde não deveria passar ou que você evitaria se fosse você pensando o tempo todo. Ou seja, a gente tem uma tendência de se acomodar, e isso traz uma preocupação maior no treinamento. Por exemplo, no treinamento de piloto, você tem que ter muito mais foco em treinar o piloto para assumir o avião rapidamente em uma situação, por exemplo, de descida em instrumento no Rio de Janeiro, com todas as montanhas ali em volta. Se você deixa no piloto automático para ele fazer a descida ali, é bom você estar muito bem preparado para, se ele sair do sistema, assumir aquilo lá e tomar decisão em questão de segundos, para não só controlar o avião, mas salvar a vida de todo mundo. A questão, então, do treinamento passa a ser extremamente importante nesse sentido. Se se falar em ônibus espacial, então, mais ainda, o tempo para reação ali fica muito menor. Então, esse é um ponto bacana que o Douglas Gavioli trouxe aqui, de São Paulo: "[...] [a dependência da inteligência artificial] pode minar sua capacidade de aprender e pensar por conta própria!". Henrique Puglia, de São Paulo: "[...] [A inteligência artificial será responsável] parcialmente pela automação, produção, [...] [mas só] o ser humano tem criatividade [...] e sentimentos [...]". Por enquanto, correto, não é? Nunca se sabe o que chega pela frente. Então, pessoal, antes de terminar eu queria agradecer a presença de cada um de vocês. Eu vou passar agora a palavra a cada um dos debatedores para comentar alguns dos aspectos aqui, mais ou menos como eu fiz ali, para os seus comentários finais, suas considerações finais. Eu vou seguir a mesma ordem que nós tínhamos aqui no começo - deixem-me me acertar com os papéis aqui em cima -, começando, então, pelo Alisson, que foi o primeiro. O Alisson Alexsandro Possa é Coordenador do Subcomitê de Acompanhamento Legislativo e Regulatório no Grupo de Trabalho de Proteção de Dados e Tecnologia da Frente Parlamentar Mista do Setor de Serviços. Alisson, para as suas considerações finais. Já agradeço antecipadamente. Obrigado. O SR. ALISSON ALEXSANDRO POSSA (Para expor.) - Obrigado, Senador Astronauta Marcos Pontes, todos os Senadores que compõem esta Comissão de trabalho.
16:15 R	Minhas considerações finais passam brevemente por duas manifestações, a da Carla Alessandra e a da Elloá Barreto, que são justamente a contribuição concreta que o setor de serviços traz. O setor de serviços hoje é o maior empregador do Brasil em diversos níveis, diversas esferas, diversos setores. A inteligência artificial traz riscos como traz oportunidades. O PL atual é um projeto complexo e se identificam ali abordagens da teoria da regulação da internet clássica, como Lessig e Murray, até abordagens do direito constitucional europeu, como, por exemplo, o Prof. Hoffmann-Riem. (Soa a campainha.) O SR. ALISSON ALEXSANDRO POSSA - Mas entendemos que a inserção de comandos legislativos, para que o Executivo tenha sempre uma estratégia de desenvolvimento e inovação focada, passando pela qualificação do capital humano, é muito importante para garantir que o Brasil esteja, como o colega aqui falou, surfando ou pelo menos tentando tirar o atraso das ondas de inovação em tecnologia. Fica aqui essa nossa principal contribuição concreta para a melhoria do texto. Muito obrigado. O SR. PRESIDENTE (Astronauta Marcos Pontes. Bloco Parlamentar Vanguarda/PL - SP) - Obrigado, Alisson. Agradeço a participação, lembrando a todos que nos acompanham que todas essas apresentações, todos os eslaides estão disponíveis - não só os dessa audiência, mas também os das outras audiências públicas - no website da Comissão no Senado, no Portal do Senado. Então, vamos lá olhar. Eu mesmo vou tirar algumas delas lá para fazer uma cópia. Então, fiquem à vontade. Eu passo a palavra então agora para a Dra. Ana Amelia Menna Barreto, Presidente da Comissão de Inteligência Artificial e Inovação do Instituto dos Advogados Brasileiros. Doutora, as suas considerações finais. Obrigado. A SRA. ANA AMELIA MENNA BARRETO (Para expor.) - Senador Presidente, a gente aprende muito, sempre aprende muito. Eu acho que é isso. A gente aprende todo dia. Concordei com muito do que foi dito aqui. Eu vou responder à pergunta do Lucas Vieira - que já está na minha área do conhecimento -, de Minas: "A inteligência artificial respeita a LGPD?". Lucas, a disciplina da proteção de dados é um viés da IA. A IA, como qualquer outra ferramenta ou qualquer outra tecnologia - nós não vamos regular a tecnologia, como nós dissemos, vamos regular o uso da tecnologia -, tem que estar submetida a todo o marco legal. O.k.? Então, não é apenas um. Por isso nós defendemos aqui a adoção de balizas, de princípios e de procedimentos. A gente não vai regular a tecnologia. Nós vamos fazer com que o uso da tecnologia respeite todo o marco legal. (Soa a campainha.) A SRA. ANA AMELIA MENNA BARRETO - Consegui. (Risos.) Posso continuar? (Pausa.) Ah, Bom! Então, é isso que é importante dizer, porque hoje em dia - sabe, Senador? - parece que tudo é LGPD. E não é. LGPD é um aspecto de todo o nosso marco legal. Nós estamos falando do direito digital, como eu comentei aqui, em que temos toda a interface com todos os ramos do direito. LGPD seria, então, o direito da proteção dos dados em nível constitucional, mas existe a propriedade intelectual, a propriedade industrial, as relações trabalhistas. Então, é um - um - viés de todo o nosso ecossistema legal.
16:19 R	O SR. PRESIDENTE (Astronauta Marcos Pontes. Bloco Parlamentar Vanguarda/PL - SP) - Obrigado, Dra. Ana Amelia Menna Barreto, Presidente da Comissão de Inteligência Artificial e Inovação do Instituto dos Advogados Brasileiros. Muito obrigado. Passo a palavra, agora, para as considerações finais, ao Prof. Luciano Vieira de Araújo, Professor da Universidade de São Paulo. Por favor. O SR. LUCIANO VIEIRA DE ARAÚJO (Para expor.) - Muito obrigado, Senador. São as minhas considerações finais na área da educação, que é onde eu atuo e desenvolvo as minhas pesquisas. Aproveito para responder à pergunta da Carla Alessandra, de São Paulo, sobre quais os benefícios e desvantagens da inteligência artificial no ensino e qual é a estratégia para manter empregos com a expansão da IA. Eu vejo muitas vantagens, como eu coloquei, na questão do potencial de personalizar: ir lá e resgatar aquele que não tem aquela parcela do conhecimento que é essencial para dar o próximo passo, permitindo que ele receba essa acolhida que vai transformar esse conhecimento. Nós temos aqui uma ferramenta inédita para apoiar nesse sentido e para nos oferecer a possibilidade de lidar com um conteúdo muito vasto, muito amplo de uma maneira nova. Como eu disse aqui, eu peguei todo este conteúdo que está lá no site e processei de uma forma muita rápida, fazendo cruzamentos muito interessantes, trazendo perspectivas de outras áreas - isso, pronto para a educação. (Soa a campainha.) O SR. LUCIANO VIEIRA DE ARAÚJO - Então, muitas vantagens. Qual é a estratégia para manter esses empregos? Continuar incentivando essa educação, essa transformação e a geração dessas ferramentas, para que as pessoas estejam habilitadas para a mudança, porque nós temos essa mudança de forma de trabalhar, mas também uma mudança de forma de aprender. E nós precisamos apoiar esse processo. Com essa fala, eu agradeço, mais uma vez, a oportunidade de participação aqui. Obrigado. O SR. PRESIDENTE (Astronauta Marcos Pontes. Bloco Parlamentar Vanguarda/PL - SP) - Obrigado, Prof. Luciano Vieira de Araújo, Professor da Universidade de São Paulo. Para as suas considerações finais, passo agora a palavra ao Sr. André Queiroz de Andrade, Diretor de Inovação e Produto da Senno. Por favor, suas considerações. O SR. ANDRÉ QUEIROZ DE ANDRADE (Para expor.) - Obrigado, Senador. Eu percebi que muitas das perguntas que a gente recebeu e dos comentários vão ao encontro da fala do nosso colega da USP, que é a questão da manutenção do emprego. Aqui, eu posso falar, por experiência própria, atuando há quase dez anos como consultor estratégico de inteligência artificial. As empresas nas quais eu atuei, que são líderes nos seus respectivos segmentos no Brasil, nenhuma promoveu uma onda de demissão por adotar inteligência artificial. A inteligência artificial poupa trabalho. Ela não substitui as pessoas, mesmo a sintética. Ainda há alguém que precisa dizer para a inteligência artificial o que ela deveria estar fazendo. Se uma indústria farmacêutica vai lançar um medicamento, ela ainda precisa dizer quais ela quer lançar, mesmo que a IA faça todo o resto. Então, o que as empresas vêm fazendo, na verdade, é realocar as pessoas, porque IA não entende nada de cultura corporativa. IA não sabe quem é o board da empresa... (Soa a campainha.) O SR. ANDRÉ QUEIROZ DE ANDRADE - ... com quem você tem que conversar, como eu consigo dinheiro. Tem muito aspecto da nossa vida que ainda é estritamente humano. E é nele que eu gostaria que as pessoas se concentrassem. E volto à minha fala sobre demografia: no curto prazo, parece que o Brasil ainda sofre com o desemprego, só que, nos próximos dez anos, a gente vai ter uma população bem reduzida. Então, a gente tem que, de fato, hoje aprender a fazer mais com menos. E a IA é o melhor caminho para isso. Obrigado. O SR. PRESIDENTE (Astronauta Marcos Pontes. Bloco Parlamentar Vanguarda/PL - SP) - Obrigado, André. O André Queiroz de Andrade é Diretor de Inovação e Produto da Senno.
16:23 R	Passo a palavra, agora, para as considerações finais, ao Demi - estava procurando o nome dele aqui -, Demi Getschko, o Diretor Presidente do Núcleo de Informação e Coordenação do Ponto BR (NIC.br). Demi, para as suas considerações finais, por favor. O SR. DEMI GETSCHKO (Para expor. Por videoconferência.) - Eu certamente agradeço imensamente a participação, a gente aprende muito nesses debates. Eu vou tomar um ou outro ponto para tratar. Certamente eu acho que teria muito cuidado com decisões por IA. Ela nos ajuda em decisões humanas, mas eu não repassaria isso para a IA na fase atual, mesmo porque você não sabe exatamente qual é o objetivo da IA em cada processo, que objetivo ela desenvolveu, que meta ela colocou para si própria. Às vezes, o que parece justo pode não ser eticamente correto. Isso acontece, por exemplo, em análise de crédito e coisas variáveis, em que o fator humano é sobreposto por uma matemática simples ou por uma aprendizagem de máquina que pode não dar certo. O último ponto que eu colocarei, e isto também já foi comentado por outros debatedores, e que eu achei extremamente importante é que nós temos uma vasta legislação que protege direitos plenos, conceitos, princípios - a gente tem que ser muito ligado a princípios, não à tecnologia em si -, e, então, se nós formos fazer alguma coisa adicional em relação à IA, precisaremos tomar cuidado em decidir qual é exatamente a taxonomia desse animal, para evitar legislar algo no vácuo. Eu me lembrei de uma frase latina que eu usei num artigo uns tempos atrás que diz o seguinte: festina lente, ou seja, apressa-te devagar. Se nós queremos ter pressa nisso, temos que nos apressar de uma forma cautelosa. Obrigado. O SR. PRESIDENTE (Astronauta Marcos Pontes. Bloco Parlamentar Vanguarda/PL - SP) - Obrigado, Demi Getschko, que é Diretor Presidente do Núcleo de Informação e Coordenação do Ponto BR, o NIC.br. Agora, para as considerações finais, gostaria de convidar o Affonso Parga Nina, Presidente Executivo da Associação das Empresas de Tecnologia da Informação e Comunicação e de Tecnologias Digitais (Brasscom). O SR. AFFONSO PARGA NINA (Para expor.) - Muito obrigado. Quero primeiramente agradecer, mais uma vez aqui, o convite, a presença e parabenizar a todos que hoje falaram aqui com muito conteúdo, muita propriedade. As perguntas são muito relevantes e boas, mas a gente vai perder muito tempo - que não temos aqui - em todas elas. Eu vou pular diretamente para uma síntese da preocupação efetiva que existe. Acho que ficou claro, mais uma vez aqui, que o Brasil não pode colocar um freio de mão nesse desenvolvimento, e nós temos uma preocupação concreta e bastante alta de que isso venha a acontecer por meio de uma regulação da qual hoje nós entendemos que existe uma proposta que não é adequada aos interesses do Brasil em termos de desenvolvimento, de crescimento, de geração de empregos, de sustentabilidade, de inclusão social, ou seja, de todos os impactos que todos aqui hoje falaram. Tenho certeza de que, em outros fóruns aqui também, que estão acontecendo no Senado, falaram sobre o potencial que a IA tem. É uma onda para o Brasil surfar e tirar o atraso que infelizmente a gente tem do ponto de vista de tecnologia. (Soa a campainha.) O SR. AFFONSO PARGA NINA - A gente tem uma oportunidade aqui e a gente vê alguns aspectos que são preocupantes, como uma preocupação excessiva com o risco - que a gente entende que não está adequadamente dimensionado, que está exagerado -, uma visão de risco e não de oportunidade. Sobre a questão da criação de uma agência nacional centralizadora, nós estamos falando de tecnologia que evolve muito rápido, e, então, não adianta correr atrás disso, porque, daqui a um ano, nós vamos estar criando outra lei e, daqui a dois anos, vamos estar discutindo agência para computação quântica e para outras tecnologias que vêm aí, ou seja, não podemos ficar presos nisso. Existem as regulações setoriais, que devem ser seguidas - proteção de dados é uma delas, obviamente -, a gente tem que ter um debate, sim, sobre os limites éticos, sobre as questões que isso traz, mas com esse olhar de futuro em não perder essa oportunidade. A preocupação é concreta, e trazemos aos Senadores - aqui na sua pessoa, Senador Marcos Pontes - essa preocupação de a gente não ter uma regulação que efetivamente puxe o freio de mão do Brasil.
16:27 R	O SR. PRESIDENTE (Astronauta Marcos Pontes. Bloco Parlamentar Vanguarda/PL - SP) - Obrigado, Affonso Parga Nina - deixe-me ver o nome direitinho -, que é o nosso Presidente Executivo da Associação das Empresas de Tecnologia da Informação e Comunicação e de Tecnologias Digitais (Brasscom), com quem nós trabalhamos bastante durante nosso tempo no ministério. Parabéns pela organização! Gostaria de aproveitar este momento final para agradecer novamente a todos os nossos debatedores, aos apresentadores e a todos aqueles que enviaram perguntas pelo e-Cidadania ou pelo telefone de contato durante esta audiência. Lembro que a audiência foi criada através de um requerimento do Senador Eduardo Gomes, que é o Relator da Comissão, para a discussão justamente dos temas que foram aqui... Eu acho que foi extremamente produtiva. Nós vimos isso novamente por vários aspectos, e a gente vê que, ao longo dessas audiências, algumas ideias estão realmente se solidificando. Isso é muito importante para que a gente possa ter essa legislação feita de forma adequada: aplicável ao que tem que ser feito para a proteção das pessoas, mas não restritiva ao desenvolvimento da tecnologia no Brasil. Quero aproveitar e agradecer à nossa Mesa também pelo trabalho que faz no apoio técnico e a todos nós. Não havendo mais nada a tratar, eu declaro encerrada esta reunião, com votos de uma ótima noite para todos. Espero vê-los novamente. Não se esqueçam: vamos participar ainda durante essas discussões que nós teremos para ter esta lei. Obrigado a todos. (Iniciada às 14 horas e 16 minutos, a reunião é encerrada às 16 horas e 29 minutos.)

Atividade Legislativa

Notas Taquigráficas

25/10/2023 - 10ª - Comissão Temporária Interna sobre Inteligência Artificial no Brasil