Inteligência artificial nas relações de consumo

De Amada Celli Cascaes, Andressa de Barros Figueredo, Lucas Pinto Simão e mais 3

Em um mundo em constante evolução tecnológica, as implicações da Inteligência Artificial (IA) nas relações de consumo se tornam
um foco de crescente interesse e importante debate. Este livro, idealizado pelo IBRAC – Instituto Brasileiro de Estudos de Concorrência, Consumo e Comércio Internacional, reúne uma série de ensaios e análises que abordam os desafios e oportunidades desta intersecção entre a IA e o Direito do Consumidor.
Desde os conceitos iniciais e o estágio atual de utilização da IA no Brasil e no mundo, passando pela regulamentação tanto no cenário
nacional quanto internacional, o livro explora amplamente as oportunidades e riscos desse universo, como a responsabilidade civil ligada
aos sistemas de IA, a aplicação das regras já em vigência do Código de Defesa do Consumidor nesse contexto, as questões de governança
e até mesmo como a IA pode auxiliar na definição e implementação de políticas públicas relacionadas ao direito do consumidor.

• Idioma: Português
• Editora: Editora Singular
• Data de lançamento: 5 de nov. de 2023
• ISBN: 9786586352856

Pré-visualização do livro

titulo

Inteligência Artificial nas Relações de Consumo

São Paulo

2023

titulo

Súmario

CAPA

FOLHA DE ROSTO

SUMÁRIO

APRESENTAÇÃO

PREFÁCIO

CONCEITO DE INTELIGÊNCIA ARTIFICIAL (IA) E SEU ATUAL ESTÁGIO DE DESENVOLVIMENTO NO MUNDO E NO BRASIL

Thais Matallo Cordeiro

José Pedro Boll Gallas

STATUS DA REGULAMENTAÇÃO DA INTELIGÊNCIA ARTIFICIAL NO BRASIL

Ligia Lima Godoy

Priscilla Martins de Freitas Almeida Costa

Ivo Bedini Wernecke

BREVE PANORAMA SOBRE O STATUS DA REGULAMENTAÇÃO DA INTELIGÊNCIA ARTIFICIAL NOS ESTADOS UNIDOS E NA UNIÃO EUROPEIA

Priscila David Sansone Tutikian

Juliana Tedesco Racy Ribeiro

RESPONSABILIDADE CIVIL PELOS SISTEMAS DE INTELIGÊNCIA ARTIFICIAL À LUZ DO CÓDIGO DE DEFESA DO CONSUMIDOR

Lucas Pinto Simão

Camilla Cardoso Marcellino

Isabela Barbosa Sampaio

MACHINE LEARNING E A RESPONSABILIDADE PELOS VÍCIOS E DEFEITOS NA CADEIA DE FORNECIMENTO

Amanda Celli Cascaes

Stephanie Vieira Goularte

CONSUMO E TOMADA DE DECISÃO. LIVRE ESCOLHA, OPT-IN E OPT-OUT E O CONSUMO PELO PRAZER EGOÍSTA DE FAZER O BEM

Diógenes Faria de Carvalho

Luiz Fernando Afonso

ENTRE CHATBOTS E HUMANOS: COMO FICA O ATENDIMENTO AO CONSUMIDOR

Andressa de Barros Figueredo

Marícia Longo Bruner

INTELIGÊNCIA ARTIFICIAL, PRIVACIDADE E DIREITO DO CONSUMIDOR: REFLEXÕES SOBRE A TRANSPARÊNCIA

Laura Beatriz de Souza Morganti

Danilo Weiller Roque

USO DE IA, ECONOMIA DE COMPARTILHAMENTO E PRÁTICAS COMERCIAIS NO MERCADO DE CONSUMO COM POTENCIAL DISCRIMINATÓRIO

Gustavo Gonçalves Gomes

José Felipe Machado Perroni

A INTELIGÊNCIA ARTIFICIAL E ACESSIBILIDADE NAS RELAÇÕES DE CONSUMO

Fabíola Meira de Almeida Breseghello

Joanna Lopes de Souza Teixeira

Letícia Piasecki Martins

GOVERNANÇA DOS SISTEMAS DE INTELIGÊNCIA ARTIFICIAL E A SUA RELAÇÃO COM O PRINCÍPIO DA INFORMAÇÃO PREVISTO NO CÓDIGO DE DEFESA DO CONSUMIDOR, NO CONTEXTO DE PROTEÇÃO DE DADOS

Luciana Goulart Penteado

Tatiane Taminato

Beatriz Rodrigues Alves

JURISPRUDÊNCIA BRASILEIRA E NORTE-AMERICANA SOBRE INTELIGÊNCIA ARTIFICIAL E RELAÇÕES DE CONSUMO

Patricia Helena Marta Martins

Bruna Borghi Tomé

Pedro Soares Lacaz Vieira

O USO DE FERRAMENTAS DE IA NO BRASIL COMO FORMA DE IDENTIFICAÇÃO DE DEMANDAS REPETITIVAS DE CONSUMO

Sofia Kilmar

Fernando Raposo Ramos

O USO DA INTELIGÊNCIA ARTIFICIAL COMO MECANISMO DE AUXÍLIO NA DEFINIÇÃO E IMPLEMENTAÇÃO DE POLÍTICAS PÚBLICAS RELACIONADAS AO DIREITO DO CONSUMIDOR

Renato José Cury

Caroline Lerner Castro

INTERFACE ENTRE A INTERNET DAS COISAS E AS RELAÇÕES DE CONSUMO: REFLEXÕES TEÓRICAS E PRÁTICAS À LUZ DA LEGISLAÇÃO BRASILEIRA E DA PRÁTICA ESTRANGEIRA

Lucia Ancona Lopez de Magalhães Dias

Camila Emi Tomimatsu

O uso da inteligência artificial e as práticas comerciais: perfilização do consumidor

Flávia do Canto

Matheus Lima Senna

Roberta Feiten

A INFLUÊNCIA DA INTELIGÊNCIA ARTIFICIAL NO PRINCÍPIO DO CONSUMO SUSTENTÁVEL

Alexandre Salomão Jabra

Beatriz Guthmann Spalding

ELGLISH VERSION

ABOUT THE AUTHORS

INTRODUCTION

FOREWORD

THE CONCEPT OF ARTIFICIAL INTELLIGENCE (AI) AND ITS CURRENT LEVEL OF DEVELOPMENT WORLDWIDE AND IN BRAZIL

Thais Matallo Cordeiro

José Pedro Boll Gallas

STATUS OF ARTIFICIAL INTELLIGENCE REGULATION IN BRAZIL

Ligia Lima Godoy

Priscilla Martins de Freitas Almeida Costa

Ivo Bedini Wernecke

BRIEF OVERVIEW ON THE STATUS OF ARTIFICIAL INTELLIGENCE REGULATION IN THE UNITED STATES AND THE EUROPEAN UNION

Priscila David Sansone Tutikian

Juliana Tedesco Racy Ribeiro

CIVIL LIABILITY ARISING FROM ARTIFICIAL INTELLIGENCE IN THE LIGHT OF THE CONSUMER PROTECTION CODE

Lucas Pinto Simão

Camilla Cardoso Marcellino

Isabela Barbosa Sampaio

MACHINE LEARNING AND LIABILITY FOR FLAWS AND DEFECTS IN THE SUPPLY CHAIN

Amanda Celli Cascaes

Stephanie Vieira Goularte

CONSUMPTION AND DECISION MAKING. FREE CHOICE, OPT-IN AND OPT-OUT AND CONSUMPTION FOR THE SELFISH PLEASURE OF DOING GOOD

Diógenes Faria de Carvalho

Luiz Fernando Afonso

BETWEEN CHATBOTS AND HUMANS: WHAT HAPPENS TO CUSTOMER SERVICE

Andressa de Barros Figueredo

Marícia Longo Bruner

ARTIFICIAL INTELLIGENCE, PRIVACY, AND CONSUMER RIGHTS: REFLECTIONS ON TRANSPARENCY

Laura Beatriz de Souza Morganti

Danilo Weiller Roque

THE USE OF AI, SHARING ECONOMY AND BUSINESS PRACTICES IN THE CONSUMER MARKET WITH DISCRIMINATION POTENTIAL

Gustavo Gonçalves Gomes

José Felipe Machado Perroni

ARTIFICIAL INTELLIGENCE AND ACCESSIBILITY IN CONSUMER RELATIONS

Fabíola Meira de Almeida Breseghello

Joanna Lopes de Souza Teixeira

Letícia Piasecki Martins

GOVERNANCE OF ARTIFICIAL INTELLIGENCE SYSTEMS AND ITS RELATION WITH THE PRINCIPLE OF INFORMATION SET FORTH IN THE CONSUMER PROTECTION CODE, WITHIN THE CONTEXT OF DATA PROTECTION.

Luciana Goulart Penteado

Tatiane Taminato

Beatriz Rodrigues Alves

BRAZILIAN AND US CASE RULING ON ARTIFICIAL INTELLIGENCE AND CONSUMER RELATIONS

Patricia Helena Marta Martins

Bruna Borghi Tomé

Pedro Soares Lacaz Vieira

THE USE OF AI TOOLS IN BRAZIL TO IDENTIFY REPETITIVE CONSUMER CLAIMS

Sofia Kilmar

Fernando Raposo Ramos

THE USE OF ARTIFICIAL INTELLIGENCE AS A MECHANISM TO HELP IN THE DEFINITION AND IMPLEMENTATION OF PUBLIC POLICIES RELATED TO CONSUMER RIGHTS

Renato José Cury

Caroline Lerner Castro

INTERFACE BETWEEN THE INTERNET OF THINGS AND CONSUMER RELATIONS: THEORETICAL AND PRACTICAL REFLECTIONS IN LIGHT OF BRAZILIAN LEGISLATION AND FOREIGN PRACTICE

Lucia Ancona Lopez de Magalhães Dias

Camila Emi Tomimatsu

The use of artificial intelligence and commercial practices: consumer profiling

Flávia do Canto

Matheus Lima Senna

Roberta Feiten

THE INFLUENCE OF ARTIFICIAL INTELLIGENCE ON THE PRINCIPLE OF SUSTAINABLE CONSUMPTION

Alexandre Salomão Jabra

Beatriz Guthmann Spalding

CRÉDITOS

APRESENTAÇÃO

Em um mundo em constante evolução tecnológica, as implicações da Inteligência Artificial (IA) nas relações de consumo se tornam um foco de crescente interesse e importante debate. Este livro, idealizado pelo IBRAC – Instituto Brasileiro de Estudos de Concorrência, Consumo e Comércio Internacional, reúne uma série de ensaios e análises que abordam os desafios e oportunidades desta intersecção entre a IA e o Direito do Consumidor.

Desde os conceitos iniciais e o estágio atual de utilização da IA no Brasil e no mundo, passando pela regulamentação tanto no cenário nacional quanto internacional, o livro explora amplamente as oportunidades e riscos desse universo, como a responsabilidade civil ligada aos sistemas de IA, a aplicação das regras já em vigência do Código de Defesa do Consumidor nesse contexto, as questões de governança e até mesmo como a IA pode auxiliar na definição e implementação de políticas públicas relacionadas ao direito do consumidor.

Nesse cenário, também estão em evidência a influência da IA nas decisões de compra, na interação entre chatbots e humanos, na privacidade e nas práticas comerciais, entre tantas outras áreas, que são discutidas em diferentes perspectivas, em conjunto com questões emergentes, como a interface com a Internet das Coisas, a influência da IA no consumo sustentável, e o uso dessas técnicas para o suporte à decisão dos departamentos jurídicos, tanto para auxiliar no ajuste de políticas de acordo e de provisão, como para a identificação de demandas repetitivas, o que demonstra a abrangência e a profundidade dessa obra.

Entre cada capítulo, os textos refletem as transformações trazidas pela IA e nos questionam sobre o futuro das relações de consumo em uma sociedade cada vez mais digital e automatizada.

Começando por Conceito de Inteligência Artificial (IA) e seu Atual Estágio de Desenvolvimento no Mundo e no Brasil de Thais Matallo Cordeiro e José Pedro Boll Gallas, este capítulo fundamenta os conceitos básicos e situa a leitura de toda a obra no contexto global e do estágio de aplicação dessas técnicas no Brasil.

Em seguida, Ligia Lima Godoy, Priscilla Martins de Freitas Almeida Costa e Ivo Bedini Wernecke discorrem sobre o Status da Regulamentação da Inteligência Artificial no Brasil, uma análise crítica sobre como o nosso país está estruturando sua legislação frente a essas novas tecnologias, seguindo o movimento mundial nesse mesmo sentido, conforme abordado no artigo Breve Panorama sobre o Status da Regulamentação da Inteligência Artificial nos Estados Unidos e na União Europeia de Priscila David Sansone Tutikian e Juliana Tedesco Racy Ribeiro, que trazem uma comparação internacional, oferecendo uma visão mais ampla dos movimentos regulatórios.

Já as questões de responsabilidade são tratadas por Lucas Pinto Simão, Camilla Cardoso Marcellino e Isabela Barbosa Sampaio em Responsabilidade Civil pelos Sistemas de Inteligência Artificial à luz do Código de Defesa do Consumidor, enquanto Amanda Celli Cascaes e Stephanie Vieira Goularte discutem sobre Machine Learning e a Responsabilidade pelos Vícios e Defeitos na Cadeia de Fornecimento.

Diógenes Faria de Carvalho e Luiz Fernando Afonso se aprofundam em decisões de compra em Consumo e Tomada de Decisão. Livre Escolha, Opt-in e Opt-out e o Consumo pelo Prazer Egoísta de Fazer o Bem, enquanto o atendimento ao consumidor na era digital é explorado por Andressa de Barros Figueredo e Marícia Longo Bruner em Entre Chatbots e Humanos: Como fica o Atendimento ao Consumidor.

Em relação ao uso de dados, os temas transparência e privacidade na IA são discutidos por Laura Beatriz de Souza Morganti e Danilo Weiller Roque em Inteligência Artificial, Privacidade e Direito do Consumidor: Reflexões sobre a Transparência.

Uso de IA, Economia de Compartilhamento e Práticas Comerciais no Mercado de Consumo com Potencial Discriminatório de Gustavo Gonçalves Gomes e José Felipe Machado Perroni destaca as preocupações sobre possíveis práticas discriminatórias que podem emergir com o avanço da IA no mercado, enquanto A Inteligência Artificial e Acessibilidade nas Relações de Consumo, elaborado por Fabíola Meira de Almeida Breseghello, Joanna Lopes de Souza Teixeira e Letícia Piasecki Martins, que analisam como a Inteligência Artificial pode servir de instrumento para o desenvolvimento de maior acessibilidade às relações de consumo, desde que preservados os direitos já previstos no Código de Defesa do Consumidor, independentemente da regulação.

Já em Governança dos Sistemas de Inteligência Artificial e a sua Relação com o Princípio da Informação Previsto no Código de Defesa do Consumidor, no Contexto de Proteção de Dados, Luciana Goulart Penteado, Tatiane Taminato e Beatriz Rodrigues Alves exploram como a IA se encaixa na legislação brasileira, especialmente quando se trata das proteções já previstas na lei consumerista brasileira.

Patrícia Helena Marta Martins, Bruna Borghi Tomé e Pedro Soares Lacaz Vieira trazem uma análise comparativa em Jurisprudência Brasileira e Norte-Americana sobre Inteligência Artificial e Relações de Consumo, destacando as principais decisões judiciais dos dois países no contexto da IA, trazendo as tendências da jurisprudência e os julgamentos mais importantes.

O Uso de Ferramentas de IA no Brasil como Forma de Identificação de Demandas Repetitivas de Consumo de Sofia Kilmar e Fernando Raposo Ramos aponta para o potencial da IA em identificar padrões e recorrências no consumo, visando solucionar questões de maneira mais eficiente, inclusive permitindo um novo olhar, propiciando estratégias de prevenção e ajustes de procedimentos internos para evitar a entrada de demandas recorrentes.

Renato José Cury e Caroline Lerner Castro em O Uso da Inteligência Artificial como Mecanismo de Auxílio na Definição e Implementação de Políticas Públicas Relacionadas ao Direito do Consumidor propõem reflexões sobre como a IA pode servir de ferramenta estratégica na criação e aplicação de políticas públicas, auxiliando a trazer evidências e padrões de comportamento que podem auxiliar na prevenção e na resolução de grandes problemas sociais.

No contexto da crescente interconexão de dispositivos, Lucia Ancona Lopez de Magalhães Dias e Camila Emi Tomimatsu discutem a Interface entre a Internet das Coisas e as Relações de Consumo: Reflexões Teóricas e Práticas à Luz da Legislação Brasileira e da Prática Estrangeira, o que também vai ampliar a quantidade de dados e tendências de uso de bens e de consumo, tema que é tratado no Uso da Inteligência Artificial e as Práticas Comerciais: Perfilização do Consumidor de Flávia do Canto, Matheus Lima Senna e Roberta Feiten, especialmente para entender e segmentar consumidores.

Esse caminho traçado desde o primeiro capítulo culmina no texto de Alexandre Salomão Jabra e Beatriz Guthmann Spalding, que finalizam com A Influência da Inteligência Artificial no Princípio do Consumo Sustentável, abordando a relação da IA com práticas de consumo mais sustentáveis e conscientes. analisando a interseção entre o princípio do consumo sustentável e a inteligência artificial, examinando como ela pode ser aplicada no contexto do consumo sustentável, explorando o seu potencial, benefícios e desafios de implementação, geridos pelas normas consumeristas do ordenamento jurídico brasileiro.

Essa é uma obra única, com um foco específico nas repercussões do uso de técnicas de inteligência artificial no Direito do Consumidor, trazendo a experiência técnica e de mercado de grandes especialistas que de fato vivenciam essas questões em suas atividades profissionais e acadêmicas, permitindo uma análise crítica dos diversos desafios, mas também das inúmeras possibilidades que essas novas tecnologias proporcionam às relações de consumo.

Alexandre Zavaglia Coelho

Advogado, um dos pioneiros na aplicação de IA na área do Direito no Brasil, Coordenador executivo do Grupo de Pesquisas de Regulação e Governança da Inteligência Artificial no CEPI – FGV Direito SP.

PREFÁCIO

Desafio no século XXI: Adotar a IA com padrões de governança

Os atores centrais no funcionamento da economia são as organizações, os consumidores e suas conexões, destacando-se a relação estreita entre comunicação e economia; longe de ser um fenômeno novo, uma observação atenta permite-nos identificar a presença constante do elemento comunicacional como, no mínimo, facilitador e, em geral, impulsionador das transformações econômicas. Harold Innis, em seu livro Empire and Communication (1950), atribuiu um lugar vital para a comunicação ao traçar um paralelo entre os meios de comunicação e a expansão de impérios como o Egito, a Babilônia, a Grécia e o Império Romano.

A comunicação extrapola a simples transmissão de mensagem, não é apenas um fluxo de informação: a forma como as instituições e os indivíduos se comunicam tem impactos sociais, culturais, econômicos e identitários. Na sociedade hiperconectada, parte significativa dessa comunicação ocorre em ambientes virtuais e/ou por meio de dispositivos virtuais, gerando continuamente novos dados em volumes extraordinários, denominado big data. O big data é a matéria - prima da Economia de Dados (ou Capitalismo de Dados), modelo macro que tende a predominar no século XXI.

A Economia de Dados é a) informacional, porque a produtividade e a competitividade dependem de sua capacidade de gerar, processar e aplicar com eficiência os dados; b) global porque as principais atividades produtivas estão organizadas em escala global, direta ou indiretamente; e c) em rede porque a produtividade é gerada, e a concorrência ocorre em uma rede global de interação entre redes empresariais. Na esfera microeconômica, as atividades cotidianas das empresas ocorrem predominantemente via redes digitais de comunicação, que facilitam as alianças estratégicas entre as organizações e as suas subsidiárias; facultam o acesso imediato à informação e pesquisas; e fomentam novas modalidades de cooperação e interação.

O fundamento dos modelos de negócios que sustentam a Economia de Dados (data-driven business models) está em extrair informações úteis do big data e, com base nelas, projetar cenários futuros desde o comportamento dos preços das matérias-primas e as preferências dos consumidores, até a melhor rota logística e o melhor tráfego dos navios no comércio internacional. Os modelos estatísticos tradicionais são limitados para lidar com grandes dimensionalidades (inerentes ao big data); a técnica de redes neurais profundas - em inglês deep learning, técnica de aprendizado de máquina, subcampo da inteligência artificial -, é o modelo estatístico de probabilidade capaz de lidar com o big data, o que em parte justifica a disseminação da IA na última década. Por essa capacidade da técnica de lidar com grandes volumes de dados, a tendência é gerar previsões com taxas mais altas de acurácia, simulando cenários mais assertivos. A inteligência artificial está mudando como as organizações capturam e entregam valor.

Na gestão das organizações, os modelos preditivos habilitados por IA têm o potencial de aumentar a eficiência e a produtividade, reduzir custos operacionais, melhorar a interação com os stakeholders, expandir para novos mercados, novos canais, e novos modelos de negócio e, em paralelo, transformar a operação, transformar a inovação e transformar a própria organização. A inteligência artificial está no core dos modelos de negócio das plataformas e aplicativos que acessamos cotidianamente, nos diagnósticos médicos, nos sistemas de segurança e detecção de fraude, nos videogames, na otimização de processos desde financeiro até seleção e recrutamento de RH, e mais em uma infinidade de situações. A IA está igualmente nos processos de transformação digital das empresas constituídas, transformação impulsionada por uma convergência de tecnologias tendo no cerne a inteligência artificial.

Na atividade comercial a IA contribui para a) agilizar o marketing de produtos, com previsões de vendas mais assertivas, b) otimizar os processos internos (contabilidade, financeiro, recursos humanos, logística), c) tornar mais eficiente a manutenção preditiva, d) segmentar os clientes, e d) gerar comunicação personalizada. No comércio internacional, a IA pode ser usada, por exemplo, para otimizar rotas de remessa comercial, gerenciar o tráfego de embarcações e caminhões nos portos, e traduzir consultas de pesquisa de comércio eletrônico de um idioma para outros idiomas. A adoção correta de sistemas de IA promove um incremento na velocidade de processamento em cada etapa, a possibilidade de conduzir atendimentos personalizados, a redução de riscos em toda a cadeia, menores custos operacionais, ganho de escala e crescimento mais rápido e mais consistente para a organização.

No marketing as estratégias são baseadas em mecanismos de persuasão. A arte de conhecer o ouvinte e adaptar o discurso ao seu perfil, não com o propósito de convencê-lo, o que seria um processo racional, mas de conquistá-lo pela emoção, é uma prática antiga que remete à arte retórica de Aristóteles. Cada modelo econômico tem seu mecanismo de persuasão predominante, na Economia Industrial desenvolveu-se como mecanismos de persuasão a propaganda de massa, inicialmente com foco na funcionalidade do produto migrando gradativamente aos apelos dos atributos não tangíveis; na Economia de Dados emerge a publicidade hipersegmentada (hyper-targeted advertising). A mineração adequada de vastos conjuntos de dados (big data) possibilita estabelecer correlações entre variáveis ocultas, facilitando a previsão de comportamentos futuros.

A título de exercício, o quadro abaixo contém um comparativo entre mecanismos de persuasão com e sem o uso de inteligência artificial (restrita aos modelos de IA Preditiva).

Desde 2022, os modelos de IA Generativa - capaz de sintetizar textos, imagens, vídeos e códigos - estão transformando não apenas nossa interação com a tecnologia, mas também como pensamos a linguagem, a cognição humana e a aprendizagem, a comunicação e a sociabilidade. Gradativamente, o ChatGPT e o Bard estão sendo agregados aos produtos das organizações visando melhorar a qualidade e a eficiência das interações, em um primeiro momento com foco nos colaboradores e, posteriormente, com os usuários, consumidores e clientes.

A inteligência artificial é a tecnologia de propósito geral (GPT, general purpose technologies) do século XXI; as GPTs são tecnologias que moldam toda uma era e reorientam as inovações nos setores de aplicação, como a máquina a vapor, a eletricidade e o computador. Ao reconfigurar a lógica e o funcionamento da economia e aportar inéditos modelos de negócios, as GPTs provocam períodos de reorganização no que o economista Joseph Schumpter denominou de destruição criativa. Com a IA migramos de um mundo de máquinas programadas para um mundo de máquinas probabilísticas, implicando lógicas e riscos distintos. O mundo da inteligência artificial é bem mais complexo, mas as organizações não têm escolha a não ser se adaptar se quiserem continuar sendo competitivas, entregando valor aos seus acionistas.

Para garantir o desenvolvimento e o uso de IA ética, segura e responsável, é consenso a premência de prover as organizações de estruturas de governança baseadas em riscos envolvendo todas as etapas - elaboração, desenvolvimento, treinamento, verificação, implementação, uso, visualização e interpretação dos resultados. É imprescindível romper com a assimetria de conhecimento entre os especialistas da tecnologia e os gestores, em última instância os responsáveis pelas decisões de adotar ou não sistemas habilitados por IA, de arbitrar os trade-offs, de assegurar a conformidade com os princípios e dilemas éticos da organização e da sociedade, e os requisitos legais atuais e futuros.

O desafio das organizações é evitar a perda de competitividade por não adotar a IA ou adotar a IA sem constituir padrões de governança de IA, código de ética de IA, diretrizes básicas de conduta em IA.

Dora Kaufman

Professora da PUCSP, doutora pela USP, Pós-doutora na COPPE-UFRJ e no TIDD PUCSP, Colunista Época Negócios. Pesquisadora dos impactos éticos/sociais da IA

CONCEITO DE INTELIGÊNCIA ARTIFICIAL (IA) E SEU ATUAL ESTÁGIO DE DESENVOLVIMENTO NO MUNDO E NO BRASIL

Thais Matallo Cordeiro

José Pedro Boll Gallas

Thais Matallo Cordeiro. Advogada e Sócia da área Cível e de Relações de Consumo do Machado Meyer Advogados. Mestre em Direito Processual Civil pela PUC-SP. Doutoranda em Direitos Difusos e Coletivos pela PUC-SP. Foi Diretora de Relações de Consumo do Instituto Brasileiro de Estudos de Concorrência, Consumo e Comércio (IBRAC); atualmente é Conselheira e Integrante do Comitê de Relações de Consumo.

José Pedro Boll Gallas. Advogado Sênior da área Cível e de Relações de Consumo no Machado Meyer Advogados. Bacharel em Direito pela Universidade de São Paulo (USP-SP). Pós-graduado em Direito Processual Civil pela Fundação Getulio Vargas (FGV-SP). Integrante do Comitê de Relações de Consumo do Instituto Brasileiro de Estudos de Concorrência, Consumo e Comércio (IBRAC).

Área do Direito: Direito do Consumidor.

Resumo: O presente artigo busca conceituar a Inteligência Artificial (IA), bem como analisar o atual estágio da sua regulamentação no Brasil e no mundo.

Palavras-Chave: Inteligência Artificial – Conceito – Relevância – Regulamentação no Brasil e no mundo.

Sumário: 1. Introdução e conceito de Inteligência Artificial. 2. A regulamentação da inteligência artificial na União Europeia. 3. A regulamentação da inteligência artificial nos Estados Unidos. 4. A regulamentação da inteligência artificial em outras localidades. 5. A regulamentação da inteligência artificial no Brasil. 6. Considerações finais.

1. Introdução e Conceito de Inteligência Artificial

Segundo resposta do ChatGPT, A inteligência artificial é um campo da ciência da computação que se concentra no desenvolvimento de sistemas e programas capazes de realizar tarefas que normalmente requerem inteligência humana. O objetivo da inteligência artificial é capacitar máquinas para que elas possam perceber, aprender, raciocinar, tomar decisões e resolver problemas de forma semelhante ou até mesmo superior à capacidade humana. A inteligência artificial pode ser aplicada em diversos domínios, como jogos, diagnósticos médicos, reconhecimento de fala, tradução de idiomas, condução autônoma de veículos, entre outros.1.

Ainda, "Existem alguns riscos associados à utilização de inteligência artificial. Alguns dos principais riscos incluem:

1. Viés e discriminação: Os modelos de IA podem ser influenciados por dados de treinamento tendenciosos, o que pode levar a resultados discriminatórios ou injustos. Isso pode ocorrer se os dados de treinamento refletirem preconceitos existentes na sociedade.

2. Privacidade e segurança: A IA pode exigir grandes volumes de dados para treinamento e implementação. O acesso indevido a esses dados pode comprometer a privacidade das pessoas. Além disso, a segurança dos sistemas de IA em si pode ser vulnerável a ataques maliciosos.

3. Deslocamento de empregos: A automação impulsionada pela IA pode levar à substituição ou redução de empregos no mercado de trabalho, o que pode resultar em desigualdades sociais e econômicas.

4. Dependência e confiabilidade: A confiabilidade da IA é fundamental, especialmente em setores críticos, como saúde e mobilidade. Dependendo excessivamente da IA sem salvaguardas adequadas pode criar vulnerabilidades significativas.

5. Responsabilidade e ética: A tomada de decisões autônomas por parte dos sistemas de IA levanta questões éticas, como quem é responsável por erros ou decisões prejudiciais feitas pelos sistemas.

É importante que as soluções de IA sejam projetadas considerando esses riscos e desafios, implementando medidas de responsabilidade, transparência, auditoria e regulamentação adequadas. Isso garante que os benefícios da IA sejam maximizados e os riscos minimizados."2.

"A regulamentação da inteligência artificial (IA) é importante para garantir a segurança, ética e o uso responsável dessa tecnologia. A implementação de regulamentação pode ajudar a abordar preocupações, como o viés algorítmico, proteção da privacidade, transparência nas decisões tomadas por sistemas de IA e garantia de responsabilidade adequada. É importante notar que as abordagens e os estágios da regulamentação da IA variam de país para país. Devido à natureza global da tecnologia, o estabelecimento de padrões e políticas internacionais também é essencial para promover a harmonização e cooperação em questões relacionadas à IA"3.

O presente capítulo introdutório foi elaborado utilizando exclusivamente o sistema de Inteligência Artificial ChatGPT (Generative Pre-Trained Transformer), o que demonstra de forma eficaz a relevância e acuracidade deste sistema de IA, que, se não utilizado com ética, transparência e critério, poderá trazer impactos negativos de proporções inestimáveis nos mais variados campos.

O presente artigo, portanto, visa a analisar o nível de desenvolvimento jurídico da utilização da Inteligência Artificial no Brasil e no exterior, em especial no que diz respeito à eventual regulamentação sobre o tema.

2. A regulamentação da inteligência artificial na União Europeia

A importância da regulação sobre o desenvolvimento de robôs autônomos e inteligentes foi objeto de destaque em 2017, quando o Parlamento Europeu divulgou uma resolução com recomendações sobre regras de Direito Civil e Robótica. De acordo com a exposição de motivos da referida resolução,

"O aumento da utilização de robôs e de IA requer uma normalização europeia, a fim de evitar discrepâncias entre os Estados-Membros e a fragmentação do mercado interno da União Europeia. Além disso, os receios dos consumidores em matéria de segurança e proteção no que respeita à utilização de robôs e de IA têm de ser abordados. A presente resolução sublinha especificamente que o teste de robôs em cenários da vida real é essencial para identificar e avaliar os riscos que estes podem implicar"4.

Já no ano seguinte, em 2018, a Comissão Europeia publicou um relatório em que o interesse na utilização da Inteligência Artificial foi consignado, mas destacou-se a necessidade de respeito aos valores e direitos fundamentais, além dos princípios éticos. Até então, contudo, não havia nenhuma proposta legislativa concreta5.

Em 2020 foi publicado o Livro Branco da aludida Comissão sobre a inteligência artificial, que definiu a visão europeia sobre a disciplina da Inteligência Artificial como "um ecossistema de excelência e confiança"6.

Ato subsequente, precisamente em 21 de abril de 2021, a Comissão Europeia apresentou uma proposta regulatória para a Inteligência Artificial, conhecida como Artificial Intelligence Act7.

E tal qual ocorreu quando da elaboração de políticas normativas sobre proteção de dados pessoais (GDPR – "General Data Protection Regulation"), a Comissão, com base em estudos relacionados à Inteligência Artificial e com o encaminhamento do tema ao debate público, tenta assumir o protagonismo no que tange à regulação da Inteligência Artificial para a Europa.

Referida regulação propõe que os sistemas de IA utilizados em diferentes setores sejam analisados e classificados de acordo com o risco que representam, de maneira que o nível de risco suportado implique na necessidade de maior ou menor grau de regulação. De acordo com a Artificial Intelligence Act, os riscos são classificados como:

- Risco Inaceitável ("unacceptable risk"): são aqueles atrelados a sistemas considerados como ameaças para as pessoas e que serão proibidos, como aqueles utilizados para classificação das pessoas com base no seu comportamento social ou nas suas características pessoais.

- Risco Elevado: é o grau de risco associado a sistemas de Inteligência Artificial que, de alguma forma, podem afetar negativamente a segurança ou os direitos fundamentais das pessoas. A proposta normativa identificou alguns casos que se enquadrariam nessa hipótese: identificação biométrica e categorização de pessoas singulares, gestão e funcionamento de infraestruturas essenciais, educação e formação profissional, emprego e gestão dos trabalhadores, acesso a serviços privados essenciais e serviços/benefícios públicos, gestão da migração e controle de fronteiras, dentre outros. A regulação prevê que todos os sistemas de inteligência artificial de risco elevado deverão ser avaliados antes e durante a sua colocação no mercado.

- Risco Limitado: diante de um risco baixo no que se refere à violação de direitos, a ideia é de se permitir uma significativa tolerância no desenvolvimento de sistemas de IA. Neste sentido, quando caracterizado o risco baixo ou limitado, há previsão expressa sobre a necessidade de transparência, permitindo aos usuários a tomada de decisões devidamente informados. A regulação prevê, portanto, a importância de os utilizadores serem alertados para o fato de estarem interagindo com a Inteligência Artificial. 

- Risco Mínimo: aqueles que representam risco mínimo ou mesmo nulo para os direitos e segurança dos cidadãos, que trazem obrigações mais permissivas a seus desenvolvedores antes o menor grau de exposição a violações de direitos.

Figura 1 – pirâmide de gradação de risco de uso de IA

Gr·ficoDescriÁ„o gerada automaticamente

Fonte: https://digital-strategy.ec.europa.eu/pt/policies/regulatory-framework-ai (acessado em 30/07/2023)

Na hipótese de violação às regras previstas, a regulação dispõe pela aplicação de sanções consubstanciadas em multas, cujo valor depende conforme a gravidade do ato no qual incorreu o infrator:

- Até 30 (trinta) milhões de euros ou 6% (seis por cento) do volume de negócios anual global do ano financeiro anterior (o que for maior) por infrações de práticas proibidas ou não conformidade relacionada a requisitos de dados;

- Até 20 (vinte) milhões de euros ou 4% (quatro por cento) do volume de negócios anual global do exercício anterior por não cumprimento de qualquer um dos outros requisitos ou obrigações do Regulamento;

- Até 10 (dez) milhões de euros ou 2% (dois por cento) do volume de negócios anual global do exercício anterior para o fornecimento de informações incorretas, incompletas ou enganosas a autoridades nacionais competentes.

Dessa forma, se aprovado, o marco regulatório europeu da IA deve servir não apenas como paradigma ao mundo, mas, especialmente ao Brasil, que carece de uma legislação quanto ao tema, tal como ocorreu com a influência da GPDR na Lei Geral de Proteção de Dados (LGPD), promulgada alguns anos após a normativa europeia.

3. A regulamentação da inteligência artificial nos Estados Unidos

As propostas de diretrizes regulatórias sobre inteligência artificial nos Estados Unidos são expostas por diferentes agências setoriais do país. O documento regulatório mais específico é o National AI Initiative Act8 (NAIIA) datado de 2020, mas convertido em lei em 2021. No referido documento estabeleceu-se um comitê multidisciplinar do governo federal estadunidense para tratar de temas relacionados à Inteligência Artificial, o National Artificial Inteligence Initiative (NAII).

Mais recentemente (outubro de 2022), o país adotou um guia para proteção contra as possíveis ameaças advindas da Inteligência Artificial, o Blueprint for an Artificial Inteligence Bill of Rights9. Trata-se de uma declaração de princípios que prevê 5 (cinco) direitos básicos, que devem ser respeitados no âmbito dos sistemas de IA.:

1. Proteção contra sistemas inseguros ou ineficazes: os sistemas devem ser desenvolvidos (e devidamente testados) para identificar e mitigar riscos aos cidadãos. Também é importante o monitoramento contínuo, atestando a sua segurança e eficácia.

2. Os usuários de tais sistemas devem ser protegidos contra a discriminação, inclusive algorítmica.

3. Proteção à privacidade, de maneira que os usuários possam controlar a forma como seus dados são usados e não devem estar sujeitos a quaisquer práticas abusivas.

4. Direito à explicação: os usuários devem saber que um sistema de IA está sendo utilizado e, ainda, ter informações suficientes, claras e acessíveis para compreender o impacto da sua utilização. Sempre que possível, devem ser publicados relatórios que incluam informações resumidas sobre os sistemas de IA.

5. Direito a alternativas humanas, no sentido de que os usuários devem poder optar pela possibilidade de não utilização de decisões apresentadas pela Inteligência Artificial em favor de uma alternativa humana. Neste sentido, há necessidade de acesso a uma pessoa capaz de analisar e resolver eventuais situações.

Dessa forma, nota-se que os Estados Unidos da América também estão se movimentando no sentido de regular, ainda que de forma principiológica, o uso da IA no cotidiano de seus cidadãos – também despontando como um dos pioneiros legislativos no tema.

4. A regulamentação da inteligência artificial em outras localidades

Em setembro de 2021 o Reino Unido publicou a sua Estratégia Nacional de Inteligência Artificial, estabelecendo um plano de 10 (dez) anos para o desenvolvimento e sedimentação da IA na Grã-Bretanha. Menos de um ano depois, em julho de 2022, anunciou o Plano de Ação para a Inteligência Artificial com o objetivo de apoiar a inovação sem deixar de lado a segurança na sua utilização. Em março de 2023, o governo do Reino Unido publicou o seu Livro Branco – Uma abordagem pró-inovação à regulamentação da IA10 e ao invés de centralizar a regulamentação, o governo propôs que os diferentes reguladores fizessem abordassem a IA por meio de uma legislação intersetorial, com diferentes stakeholders, cuja proposta central é estabelecer um conjunto de princípios intersetoriais adaptados a distintas características.

Na Austrália, ainda não há legislação específica sobre o uso da IA. Todavia, a nação foi um dos primeiros países a demonstrar preocupação com a regulação do tema, apresentando uma estrutura ética voluntária em 2018. Atualmente, o governo australiano visa a desenvolver um arcabouço legal sobre o tema, além da governança necessária para inserir a Austrália como um líder global no assunto.

O Japão foi o segundo país a desenvolver estratégias nacionais de IA e a estabelecer metas e alocar orçamento para o tema. Nesse sentido, as agências governamentais japonesas adotam a soft-law para lidar com possíveis vieses da tecnologia de IA. O país busca criar uma governança ágil, com o objetivo de não prejudicar investimentos e não impedir a inovação.

5. A regulamentação da inteligência artificial no Brasil

Feitas as notas acima, cumpre tecer comentários a respeito da incipiente legislação brasileira em tema de inteligência artificial. E se diz incipiente em razão de inexistir legislação atualmente em vigor versando especificamente sobre o uso da inteligência artificial, mas somente iniciativas legislativas no sentido de regular a matéria.

Com esse desígnio, despontam três iniciativas mais promissoras, quais sejam, o Projeto de Lei nº 21/2020, o Projeto de Lei nº 5.691/2019 e o Projeto de Lei nº 2.338/2023.

O PL 21/2020 é de iniciativa do deputado federal Eduardo Bismarck (PDT-CE) e tramita desde fevereiro de 2020, quando houve a sua apresentação no plenário da Câmara dos Deputados. Naquela ocasião, foi esclarecido que o PL 21/2023 Estabelece princípios, direitos e deveres para o uso de inteligência artificial no Brasil11, mas fato é que a iniciativa ainda não foi positivada.

Com efeito, depois de idas e vindas com audiências públicas perante a Comissão de Ciência e Tecnologia, Comunicação e Informática, o projeto em questão só foi apreciado depois de 23 (vinte e três) sessões deliberativas daquela Casa Legislativa – a despeito do regime de urgência imprimido à iniciativa. Assim, somente depois de o projeto de lei ter recebido a relatoria da deputada federal Luisa Canziani foi que, em setembro de 2021, houve aprovação de uma redação final pela Câmara dos Deputados, com a subsequente remessa ao Senado Federal – onde ainda não foi submetido à votação.

Já o PL 5.691/2019, de iniciativa do senador Styvenson Valentim (PODEMOS/RN), tramita desde outubro de 2019 e, apesar de ter sido submetido ao escrutínio da Comissão de Ciência, Tecnologia, Inovação e Informática no mesmo mês, igualmente segue sem um desfecho naquela Casa.

Esse projeto propõe o estabelecimento de uma "Política Nacional de Inteligência Artificial, com o objetivo de estimular a formação de um ambiente favorável ao desenvolvimento de tecnologias em Inteligência Artificial"12.

Comparando-se as disposições de aludidas iniciativas legislativas, (que são fidedignamente refletidas pelos propósitos acima expostos), conclui-se que, semelhantemente ao PL 21/2020, o PL 5.691/2019 também é de natureza mais principiológica do que específica, o que pode ser positivo de uma perspectiva de aplicação das normas do Código de Defesa do Consumidor.

Em terceiro lugar, o PL 2.338/2023, do senador Rodrigo Pacheco (PSD/MG), é a iniciativa mais recente, tendo sido proposto em maio de 2023 com a intenção de instituir

normas gerais de caráter nacional para o desenvolvimento, implementação e uso responsável de sistemas de inteligência artificial (IA) no Brasil, com o objetivo de proteger os direitos fundamentais e garantir a implementação de sistemas seguros e confiáveis, em benefício da pessoa humana, do regime democrático e do desenvolvimento científico e tecnológico13.

Como se nota em comparação ao PL 21/2020 e ao PL 5.691/2019, a iniciativa do senador Rodrigo Pacheco (que é a mais robusta delas) tem um escopo mais bem definido e menos principiológico, o que pode trazer vantagens e desvantagens.

Mas há algo de comum entre as três iniciativas14 ora tratadas: apesar da proficuidade dos dispositivos de cada uma delas (em especial o PL 21/2020 e o PL 2.338/2023), fato é que nenhuma chegou a efetivamente ser positivada, o que traz um problema de ordem prática: as redações de lei propostas, se demasiadamente específicas (como o são, especialmente no PL 2.338/2023), acabam ficando datadas mesmo antes de sua vigência.

Como se sabe, o Direito persegue perpetuamente o mundo dos fatos, de sorte que é natural que as leis estejam sempre um passo atrás dos fenômenos que se apresentam ao consumidor. Acontece que esse descompasso ganha ainda mais relevância quando o tema legislado é tecnologia ou, especificamente, inteligência artificial: em razão da velocidade exponencial com que as atualizações e modificações desse cenário acontecem, fatalmente os textos legislativos mais concretos se tornam incompletos ou inaplicáveis por conta do próprio desenvolvimento tecnológico dos dias de hoje.

A fim de corroborar isso, basta notar que, por exemplo, em nenhum dos projetos de lei ora tratados (vistos como os principais do tema nacionalmente) é enfrentado o tratamento da inteligência artificial generativa – uma das últimas novidades no contexto da inteligência artificial e que ganhou notoriedade a partir de aplicações disponibilizadas recentemente ao mercado consumidor nacional, tais como o ChatGPT, DALL-E, AIVA, Amper Music entre outros.

Dessa forma, causa certa preocupação que iniciativas como o PL 2.338/2023 contem com previsões específicas, fechadas e concretas sobre o tema da tecnologia, na medida em que esse esmero pelo detalhamento pode ser justamente a causa para a obsolescência das normas antes mesmo de sua positivação no arcabouço jurídico nacional.

Nesse passo, seja em função da morosidade do processo legislativo, seja em decorrência de as leis sempre perseguirem o mundo fenomênico, é de se questionar se não faria mais sentido que as iniciativas legislativas sobre inteligência artificial tratassem do tema de forma principiológica, estatuindo que os princípios jurídicos brasileiros (e, em especial, do Código de Defesa do Consumidor) devem ser respeitados inclusive quando o assunto é inteligência artificial – generativa ou não.

6. Considerações finais

Apesar de se tratar de um tema novo no Brasil e no mundo, parece haver um consenso de que a Inteligência Artificial é uma realidade que veio para ficar. E não poderia ser diferente, na medida em que apresenta uma série de qualidades aos seus usuários.

Importante, contudo, é buscar condições propícias que possibilitem o seu desenvolvimento com segurança e transparência, fazendo com que as tecnologias de Inteligência Artificial estejam a serviço das pessoas e não o inverso. É inquestionável que a Inteligência Artificial tem um potencial incrível para transformar positivamente a vida dos indivíduos, mas, de outro lado, se utilizadas sem o devido preparo e cuidado, poderão gerar resultados catastróficos. Neste sentido, é certo que os países e respectivas autoridades precisam garantir – e isso significa, sim, regular o tema quando necessário – para que o desenvolvimento da AI ocorra de maneira segura e eficaz.

As nações, por meio de diferentes regulamentações sobre o tema, parecem estar caminhando para isso e o Brasil não está atrás. A dúvida que se mantém é se a rapidez com que a tecnologia se desenvolve permitirá que as regulações que estão sendo mundialmente desenvolvidas possam acompanhar a evolução da AI. Talvez o histórico brasileiro possa auxiliar, especialmente quando analisamos a defesa do consumidor. O nosso Código de Defesa do Consumidor está aí para provar que o avanço não impede a utilização de leis quando suportadas por robusta base principiológica.

---

¹ Resposta do ChatGPT quando questionado sobre o conceito de Inteligência Artificial (acessado em 27/07/2023).

² Resposta do ChatGPT quando questionado sobre o os riscos advindos da utilização da Inteligência Artificial (acessado em 27/07/2023).

³ Resposta do ChatGPT quando questionado sobre regulamentação de Inteligência Artificial (acessado em 27/07/2023).

⁴ Disponível em: https://www.europarl.europa.eu/doceo/document/A-8-2017-0005_PT.html#_section2 (acessado em 31/07/2023)

⁵ https://ec.europa.eu/transparency/documents-register/api/files/COM(2018)237_0/de00000000142381?rendition=false (acessado em 29/07/2023).

⁶ Disponível em: https://eur-lex.europa.eu/legal-content/PT/TXT/HTML/?uri=CELEX:52020DC0065 (acessado em 29/07/2023).

⁷ Disponível em: https://eur-lex.europa.eu/legal-content/PT/TXT/HTML/?uri=CELEX:52021PC0206 (acessado em 30/07/2023).

⁸ Disponível em: https://www.ai.gov/wp-content/uploads/2023/04/National-Artificial-Intelligence-Initiative-Act-of-2020.pdf (acessado em: 27/07/2023).

⁹ Disponível em: https://www.whitehouse.gov/wp-content/uploads/2022/10/Blueprint-for-an-AI-Bill-of-Rights.pdf (acessado em 27/07/2023)

¹⁰ Disponível em: https://www.gov.uk/government/publications/ai-regulation-a-pro-innovation-approach/white-paper (acessado em 30/7/2023).

¹¹ Disponível em: https://www.camara.leg.br/proposicoesWeb/prop_mostrarintegra?codteor=1853928 (acessado em 31/07/2023).

¹² Disponível em: https://legis.senado.leg.br/sdleg-getter/documento?dm=8030917&ts=1690460240603&disposition=inline&_gl=1*7vm57l*_ga*MTE2Nzg1OTc3NC4xNjg4OTk1NDI4*_ga_CW3ZH25XMK*MTY5MDg0MDU3NS4zLjEuMTY5MDg0MjYxNS4wLjAuMA (acessado em 31/07/2023).

¹³ Disponível em: https://legis.senado.leg.br/sdleg-getter/documento?dm=9347593&ts=1689259290751&disposition=inline&_gl=1*1cwad41*_ga*MTE2Nzg1OTc3NC4xNjg4OTk1NDI4*_ga_CW3ZH25XMK*MTY5MDg0MDU3NS4zLjEuMTY5MDg0MjI3MC4wLjAuMA; acessado em 31/7/2023.

¹⁴ Vale mencionar que, dada a evidente conexão temática entre os projetos de lei ora tratados, foi apresentado requerimento de apensação das três iniciativas legislativas, formulado pelo Senador Jorge Kajuru em julho de 2023.

STATUS DA REGULAMENTAÇÃO DA INTELIGÊNCIA ARTIFICIAL NO BRASIL

Ligia Lima Godoy

Priscilla Martins de Freitas Almeida Costa

Ivo Bedini Wernecke

Ligia Lima Godoy. Associada do escritório Mattos Filho, Veiga Filho,