O FUTURO DA REGULAÇÃO DE PLATAFORMAS DIGITAIS:: Digital Services Act (DSA), Digital Markets Act (DMA) e seus impactos no Brasil

De Ricardo Campos

A Editora Contracorrente tem a satisfação de anunciar a publicação do livro O FUTURO DA REGULAÇÃO DE PLATAFORMAS DIGITAIS: Digital Services Act (DSA), Digital Markets Act (DMA) e seus impactos no Brasil.

Ao mesmo tempo que a comunicação digital se apresenta como um avanço no exercício na democracia, também pode representar uma ameaça, exigindo a criação de modelos de regulação coerentes e eficazes. Não há como negar que a forma de gestão adotada pelas grandes empresas de tecnologia permite e facilita a utilização do meio para manipulação de algoritmos e a prática de diversos crimes.

Em um cenário que apresenta novos atores e tecnologias, temas como regulação do ambiente digital e moderação de conteúdo, preservação dos direitos humanos e individuais, responsabilidade das plataformas e autorregulação, inteligência artificial e proteção de dados, publicidade direcionada às crianças, entre outros, se tornam ainda mais relevantes.

Com prefácio do Ministro do Superior Tribunal de Justiça (STJ), Ricardo Villas Bôas Cueva, "O Futuro da Regulação De Plataformas Digitais" reúne artigos dos mais renomados pesquisadores, integrantes do "Grupo de Estudos em Novas Regulações de Serviços Digitais no Direito Comparado" do Legal Grounds Institute, composto por mais de 40 professores e advogados, das cinco regiões do Brasil, Alemanha e Portugal, e sob a coordenação de Ricardo Campos, Juliana Domingues, Juliano Maranhão e Fabiano Menke.

Esses estudos têm como base uma análise criteriosa da legislação europeia e vão influenciar diretamente os processos regulatórios no Brasil.

A discussão em torno da liberdade de expressão e da segurança nas redes se revela fundamental para a construção de uma estrutura jurídica capaz de garantir os interesses de ambos.

• Idioma: Português
• Editora: Editora Contracorrente
• Data de lançamento: 28 de nov. de 2023
• ISBN: 9786553961449

Pré-visualização do livro

O Futuro da regulação de plataformas digitaisO Futuro da regulação de plataformas digitaisO Futuro da regulação de plataformas digitais

Copyright © EDITORA CONTRACORRENTE

Alameda Itu, 852 | 1º andar |

CEP 01421 002

www.loja-editoracontracorrente.com.br

[e-mail]

EDITORES

Camila Almeida Janela Valim

Gustavo Marinho de Carvalho

Rafael Valim

Walfrido Warde

Silvio Almeida

EQUIPE EDITORIAL

COORDENAÇÃO DE PROJETO: Juliana Daglio

REVISÃO: Francisco Cavalcante

PREPARAÇÃO DE TEXTO E REVISÃO TÉCNICA: Amanda Dorth

DIAGRAMAÇÃO: Pablo Madeira

CAPA: Mariela Valim

Ilustração: Shutterstock

EQUIPE DE APOIO

Fabiana Celli

Carla Vasconcelos

Regina Gomes

Nathalia Oliveira

Dados Internacionais de Catalogação na Publicação (CIP)

(Câmara Brasileira do Livro, SP, Brasil)

O Futuro da regulação de plataformas digitais :

Digital Services Act (DSA), Digital Markets Act (DMA) e seus impactos no Brasil / organização

Ricardo Campos ; coordenação Maria Gabriela

Grings... [et al.]. -- 1. ed. -- São Paulo :

Editora Contracorrente, 2023.

Vários autores.

Outros coordenadores: Tatiana Bhering Roxo, Samuel Rodrigues de Oliveira, Francisco Cavalcante de Sousa.

Bibliografia.

e-ISBN 9786553961449

1. Inteligência artificial 2. Mercado digital 3. Plataforma digital 4. Regulação I. Campos, Ricardo. II. Grings, Maria Gabriela. III. Roxo, Tatiana Bhering. IV. Oliveira, Samuel Rodrigues de. V. Sousa, Francisco Cavalcante de.

23-173267

CDD-006.3

Índices para catálogo sistemático:

1. Regulação : Plataformas digitais : Inteligência artificial 006.3

Aline Graziele Benitez - Bibliotecária - CRB-1/3129

@editoracontracorrente

Editora Contracorrente

@ContraEditora

LEGAL GROUNDS INSTITUTE

www.legalgroundsinstitute.com

[e-mail]

DIREÇÃO:

Juliano Maranhão

Ricardo Campos

COORDENAÇÃO:

Bianca Mollicone

Maria Gabriela Grings

Samuel Rodrigues de Oliveira

GESTOR EXECUTIVO:

Francisco Cavalcante de Sousa

GESTOR INSTITUCIONAL:

Bernardo de Souza Dantas Fico

GESTORA FINANCEIRA:

Claudia Cerullo

PESQUISADORES:

ESTAGIÁRIOS:

Lucas São Thiago

Pedro Henrique Nishioka

SUMÁRIO

APRESENTAÇÃO

SOBRE A ORGANIZAÇÃO

SOBRE AS AUTORAS E OS AUTORES

PREFÁCIO

NOTA DA ORGANIZAÇÃO

ARTIGOS INTERNACIONAIS

CAPÍTULO I - CURADORIA DE CONTEÚDO: REGULAÇÃO DE MÍDIAS PARA O SÉCULO XXI

Thomas Vesting e Ricardo Campos

CAPÍTULO II - DOMESTICANDO OS GIGANTES: O PACOTE DMA/DSA

Martin Eifert, Axel Metzger, Heike Schweitzer e Gerhard Wagner

CAPÍTULO III - A ARTE DE TORNAR POSIÇÕES DE GATEKEEPER CONTESTÁVEIS E O DESAFIO EM SABER O QUE É JUSTO: UMA DISCUSSÃO SOBRE A PROPOSTA DA LEI DE MERCADOS DIGITAIS (DIGITAL MARKETS ACT)

Heike Schweitzer

CAPÍTULO IV - OS DIREITOS HUMANOS NO REGULAMENTO SERVIÇOS DIGITAIS (DIGITAL SERVICES ACT) DA UNIÃO EUROPEIA

Domingos Soares Farinho

PARTE GERAL

CAPÍTULO V - REGULAÇÃO EX ANTE, REGULAÇÃO EX POST E REGULAÇÃO RESPONSIVA: NOTAS EXPLORATÓRIAS SOBRE O PROCESSO SANCIONADOR DA AUTORIDADE NACIONAL DE PROTEÇÃO DE DADOS

Heloisa Bianquini

CAPÍTULO VI - REGULAÇÃO DO AMBIENTE DIGITAL E O FUTURO DA INTERNET

Sílvia Piva

SERVIÇOS DIGITAIS

CAPÍTULO VII - RISCOS SISTÊMICOS E DEVER DE CUIDADO

Ricardo Campos, Samuel Rodrigues de Oliveira e Carolina Xavier Santos

CAPÍTULO VIII - O EFEITO BRUXELAS E AS NOVAS REGULAÇÕES SOBRE A MODERAÇÃO DE CONTEÚDO PUBLICADO EM REDES SOCIAIS

Letícia Redis Carvalho

CAPÍTULO IX - REGULAÇÃO BASEADA EM RISCO: A RESPONSABILIDADE DAS PLATAFORMAS DIGITAIS NO DIGITAL SERVICES ACT E O SISTEMA ESCALONADO DE OBRIGAÇÕES

Aline Klayse dos Santos Fonseca

CAPÍTULO X - OBSERVAÇÕES NA MODERAÇÃO DE CONTEÚDO: INICIATIVAS LEGAIS E SUA PRÁTICA NA AUTORREGULAÇÃO REGULADA E AUTORREGULAÇÃO

Carlos Antônio Menezes de Albuquerque

CAPÍTULO XI - PRIVATE ENFORCEMENT E O REGIME PROCEDIMENTAL DO DIGITAL SERVICES ACT (DSA)

Carolina Xavier Santos e Maria Gabriela Grings

CAPÍTULO XII - MODERAÇÃO DE CONTEÚDO COMO SERVIÇO: REFLEXÕES SOBRE A SUA TRANSPARÊNCIA E TERCEIRIZAÇÃO

Daniele Verza Marcon

CAPÍTULO XIII - DECISÕES AUTOMATIZADAS PARA MODERAÇÃO DE CONTEÚDO PELAS REDES SOCIAIS NOS CASOS DE DESINFORMAÇÃO: REGIMES JURÍDICOS NO DSA E NO DIREITO BRASILEIRO

Paulo Emílio Dantas Nazaré

CAPÍTULO XIV - DEVERES DAS PLATAFORMAS DIGITAIS NO DIGITAL SERVICES ACT (DSA): MOTIVAÇÃO DA DECISÃO DE REMOÇÃO DE CONTEÚDO E BLOQUEIO DE ACESSO

Rodolfo Assis

CAPÍTULO XV - O CONTROLE JURISDICIONAL DAS DECISÕES ALGORÍTMICAS

Tatiana Stroppa

CAPÍTULO XVI - O IMPACTO DO REGULAMENTO DOS SERVIÇOS DIGITAIS (DIGITAL SERVICES ACT) NA PUBLICIDADE DIRECIONADA ÀS CRIANÇAS VEICULADA PELAS PLATAFORMAS DIGITAIS

Raíssa Alencar de Sá Barbosa

MERCADOS DIGITAIS

CAPÍTULO XVII - DIGITAL MARKETS ACT (DMA): PROCEDIMENTO DE DESIGNAÇÃO DE GATEKEEPERS

Juliano Maranhão, Bernardo de Souza Dantas Fico e Miguel Garzeri Freire

CAPÍTULO XVIII - REGULAÇÃO CONCORRENCIAL DE MERCADOS DIGITAIS: A VISÃO DOS ESTADOS UNIDOS, UNIÃO EUROPEIA, CHINA E BRASIL

Torben Fernandes Maia

INTELIGÊNCIA ARTIFICIAL E PROTEÇÃO DE DADOS

CAPÍTULO XIX - REGULAÇÃO DA INTELIGÊNCIA ARTIFICIAL E SUAS IMPLICAÇÕES NA SAÚDE

Diogo Luís Manganelli de Oliveira

CAPÍTULO XX - INTELIGÊNCIA ARTIFICIAL, AUTOMAÇÕES E FILTROS BOLHA: COMO PROMOVER DEBATES DEMOCRÁTICOS NA SOCIEDADE WEB3?

João Sergio dos Santos Soares Pereira

CAPÍTULO XXI - O USO DE AVALIAÇÕES DE IMPACTO COMO FERRAMENTA DE PROTEÇÃO DE DIREITOS HUMANOS FRENTE AOS SISTEMAS DE INTELIGÊNCIA ARTIFICIAL

Paula Guedes Fernandes da Silva

CAPÍTULO XXII - CÓDIGO DE CONDUTA NA COMPUTAÇÃO EM NUVEM: AS CONTRIBUIÇÕES DA EXPERIÊNCIA AUTORREGULATÓRIA DO RGPD ÀS REGRAS DE BOAS PRÁTICAS NA LGPD

Tatiana Meinhart Hahn

CAPÍTULO XXIII - UMA AUTORIDADE REGULADORA PARA A INTELIGÊNCIA ARTIFICIAL NO BRASIL

Thaís Figueira de Oliveira

APRESENTAÇÃO

REGRAS DEMOCRÁTICAS PARA NOSSA VIDA DIGITAL - A LEI DE SERVIÇOS DIGITAIS EUROPEUS

A Internet é um facilitador no exercício de direitos fundamentais, como a liberdade de expressão, reunião e associação. A comunicação digital tem o imenso potencial de dar voz a todos, mobilizar e conectar globalmente, mas também pode representar uma ameaça muito real às nossas democracias e economias. Portanto, para que as liberdades floresçam, precisamos de uma estrutura jurídica sólida que combata o conteúdo on-line ilegal e proteja o conteúdo on-line legal em igual medida. A regulação balanceia assim um cenário em que as grandes empresas de tecnologia consolidaram poder de mercado excessivo, que elas usam para ditar suas regras, para manipular indivíduos e grupos específicos na economia da atenção por meio de algoritmos não transparentes e da amplificação de determinados conteúdos – tudo financiado pela publicidade baseada em vigilância como modelo de negócios.

A pressão por ações que estabeleçam regras democráticas para nossa vida digital cresceu na União Europeia nos últimos anos. Os desenvolvimentos tecnológicos e a concentração de poder de mercado estão avançando rapidamente, em contraste com as leis editadas em período anterior (ao desenvolvimento das big techs) como Google, Facebook e Cia. Estruturas legais desatualizadas na UE para conteúdo ilegal precisavam de uma atualização urgente, como a Diretiva sobre Comércio Eletrônico, a Diretiva sobre Combate ao Abuso Sexual e Exploração Sexual de Crianças ou a Regulamentação sobre a Distribuição de Conteúdo Terrorista na Internet. Isso também já foi demonstrado pelo largo espectro de expectativas que foram depositadas na nova estrutura jurídica, abarcando desde a luta contra o terrorismo até o comércio on-line e a preservação do Estado de Direito.

A Lei de Serviços Digitais (Digital Services Act, DSA) deve criar exatamente esse impacto geral por meio de regras comuns para o mercado único digital: segurança jurídica e clareza para as empresas, bem como a equiparação de direitos para os consumidores on-line e off-line. Portanto, após anos de trabalho preparatório, a Comissão Europeia apresentou essa nova lei básica para a Internet.

Após negociações no Conselho e no Parlamento Europeu, a DSA finalmente se tornou lei no ano passado. A iniciativa marca a chance de a Europa de se tornar a definidora de padrões globais para as regras que determinarão como será a Internet nos próximos anos. E o mundo está observando de perto, a exemplo do Brasil, que está trabalhando em uma direção muito semelhante. Com instituições fortes e o maior mercado do momento, a Europa tem uma oportunidade única de moldar o mundo, proteger nossa democracia e reabrir a economia digital para uma ampla gama de participantes de diferentes tamanhos.

Atualmente, estamos na fase de implementação: a Comissão Europeia identificou as empresas que estão sujeitas às regras e os departamentos relevantes da Comissão e as agências em nível nacional iniciaram seu trabalho. A aplicação e enforcement das regras determinará o poder que a DSA terá.

As chances de isso acontecer são boas. Também por causa de nós, Verdes, no Parlamento Europeu, a DSA está atacando a raiz do problema e os modelos de negócios prejudiciais baseados na exploração de dados pessoais, na venda de previsões sobre o comportamento humano e na manipulação de pessoas. Ao mesmo tempo, as decisões sobre liberdade de expressão não estão mais arbitrariamente nas mãos das próprias plataformas. Ele cria uma estrutura uniforme em toda a UE para lidar com conteúdo on-line ilegal, a responsabilidade de intermediários on-line por conteúdo carregado e compartilhado por usuários, a proteção dos direitos on-line fundamentais dos usuários e obrigações adicionais de devida diligência para plataformas on-line muito grandes para eliminar as assimetrias de informações entre intermediários on-line e seus usuários. Ao mesmo tempo, o DSA melhora significativamente a transparência e a accountability dos intermediários da Internet e garante um espaço civil on-line mais seguro e vibrante.

Mas também estamos vendo as primeiras lacunas: cada vez mais pessoas estão encomendando produtos on-line que frequentemente não atendem aos nossos padrões de segurança diretamente para suas casas. A DSA sozinha não conseguirá fazer com que as plataformas parem de vender esses produtos. Isso mostra que precisamos continuar a trabalhar no mercado único digital, desenvolvê-lo e atualizá-lo ainda mais. Teremos que complementar a DSA com leis setoriais adicionais. Essa tarefa continua sendo necessária para transformar a Internet em um espaço seguro, aberto, livre e democrático.

ANNA CAVAZZINI

Grupo dos Verdes/ALE, Presidente do Comitê de Mercado Interno e Proteção ao Consumidor do Parlamento Europeu

SOBRE A ORGANIZAÇÃO

Organização:

RICARDO CAMPOS

Docente na Goethe Universität Frankfurt am Main (Alemanha), coordenador nacional de Direito Digital da OAB Federal/ESA Nacional, diretor do Legal Grounds Institute, e ganhador do prêmio Werner Pünder sobre regulação de serviços digitais (Alemanha, 2021) e do European Award for Legal Theory da European Academy of Legal Theory (2022). Organizador do Grupo de Estudos em Novas Regulações de Serviços Digitais no Direito Comparado do Legal Grounds Institute.

Coordenação:

MARIA GABRIELA GRINGS

Mestra e Doutora em Direito Processual pela Faculdade de Direito da Universidade de São Paulo (USP). Bacharel em Direito pela Universidade Federal do Paraná (UFPR). Coordenadora do Legal Grounds Institute. Membra do Grupo de Estudos em Novas Regulações de Serviços Digitais no Direito Comparado do Legal Grounds Institute. Advogada.

TATIANA BHERING ROXO

Mestra em Direito do Trabalho pela Pontifício Universidade Católica de Minas Gerais (PUC/MG). Pesquisadora do Legal Grounds Institute. Sócia do Barra, Barros e Roxo Advogados. Advogada nas áreas Trabalhista e Privacidade e Proteção de Dados Pessoais. Professora Convidada nos cursos de pós-graduação em Direito e Processo do Trabalho da Universidade Presbiteriana Mackenzie. Professora em cursos de Pós-Graduação, in company e cursos de curta duração.

SAMUEL RODRIGUES DE OLIVEIRA

Doutorando em Teoria do Estado e Direito Constitucional pela Pontifícia Universidade Católica do Rio de Janeiro (PUC-Rio). Mestre em Direito e Inovação e Bacharel em Direito pela Universidade Federal de Juiz de Fora (SP). Especialista em Relações Internacionais. Coordenador do Legal Grounds Institute. Pesquisador no Núcleo Legalité da PUC-Rio. Advogado.

FRANCISCO CAVALCANTE DE SOUSA

Graduado em Direito pela Universidade do Estado do Rio Grande do Norte (UERN). Gestor Executivo do Legal Grounds Institute. Membro associado da Rede de Pesquisa Empírica em Direito (REED). Coordenador e pesquisador do Observatório do Direito à Educação da Universidade de São Paulo (USP). Membro do Grupo de Estudos e Pesquisa em Direitos Humanos, Desenvolvimento e Cotidiano (DHDC-UERN) e colaborador do Núcleo de Pesquisa em Memória Institucional e Direito à Informação (MIDI-UERN). Pesquisador do IDP Privacy Lab, do Centro de Direito, Internet e Sociedade (CEDIS-IDP). Realizou estágio na Câmara dos Deputados e na Defensoria Pública da União (DPU). Foi bolsista do Conselho Nacional de Desenvolvimento Científico e Tecnológico (CNPq) e ganhador do Prêmio Luiz di Souza, na área de Ciências Sociais Aplicadas. Fundador da plataforma de comunicação comunitária Jaguaribara em Foco. Representou a Comissão Europeia no One Young World Summit, e o Brasil na Brazil Conference at Harvard & MIT e no Young Americas Forum, da Cúpula das Américas. Autor de livros e artigos nacionais e internacionais nos temas de direito digital, educação e direitos humanos.

SOBRE AS AUTORAS E OS AUTORES

ALINE KLAYSE DOS SANTOS FONSECA

Doutoranda em Direito Civil na Universidade de São Paulo (USP). Advogada. Professora do Instituto Federal do Pará. Membra do Grupo de Estudos em Regulação de Serviços Digitais no Direito Comparado, do Legal Grounds Institute.

AXEL METZGER

Professor de direito civil e propriedade intelectual na Universidade Humboldt em Berlim. Autor e editor de vários livros e artigos sobre propriedade intelectual, tecnologia da informação e direito privado europeu. Um foco especial de sua pesquisa é a propriedade intelectual em plantas. É membro do Associação Alemã para a Proteção da Propriedade Intelectual (GRUR) e do Comitê Especial para a Proteção da Melhoramentos de Plantas. Foi professor visitante na Faculdade de Direito de Bucerius e na Universidade Tongji, em Xangai.

BERNARDO DE SOUZA DANTAS FICO

Mestre em Direito Internacional pela Northwestern Pritzker School of Law, Pós-Graduado em Direito Digital pela UERJ e Bacharel pela Faculdade de Direito da Universidade de São Paulo. Possui cursos de concentração em Direitos Humanos (Stanford 2016), Direito Internacional (OEA-RJ, 2017), Human Rights Advocacy (Lucerne 2017), e Media Law (Oxford, 2018) além de Diploma Superior en Diversidad Sexual y Derechos Humanos (CLACSO, 2018). Gestor Institucional do Legal Grounds Institute.

CARLOS ANTÔNIO MENEZES DE ALBUQUERQUE

Mestre em Ciência da Computação pela UFPE, Bacharel em Ciência da Computação pela UNICAP, Bacharel em Direito pela FADIC e membro do Grupo de Estudos em Novas Regulações de Serviços Digitais no Direito Comparado, do Legal Grounds Institute.

CAROLINA XAVIER SANTOS

Mestranda em Direito Constitucional pela Universidade de Lisboa e pela Universität Hamburg. Graduada em Direito pela Universidade Federal de Minas Gerais (UFMG). Membra do Grupo de Estudos em Novas Regulações de Serviços Digitais no Direito Comparado do Legal Grounds Institute. Pesquisadora no Legal Informatics Laboratory do DTIBR. Advogada.

DANIELE VERZA MARCON

Mestranda em Direito Civil na Universidade Federal do Rio Grande do Sul (UFRGS) e graduada em Direito pela mesma universidade. Advogada e membra do Grupo de Estudos em Novas Regulações de Serviços Digitais no Direito Comparado, do Legal Grounds Institute.

DIOGO LUÍS MANGANELLI DE OLIVEIRA

Advogado, graduado em Direito e mestre em Direito e Inovação pela Universidade Federal de Juiz de Fora (UFJF), doutorando em Direito Civil pela Universidade do Estado do Rio de Janeiro (UERJ), membro do Grupo de Estudos em Novas Regulações de Serviços Digitais no Direito Comparado, do Legal Grounds Institute.

DOMINGOS SOARES FARINHO

Professor Auxiliar da Faculdade de Direito da Universidade de Lisboa. Investigador Integrado Efetivo do Centro de Direito Público de Lisboa – Lisbon Public Law. Membro do Lisbon Digital Rights and Freedoms e do LxLTG – Lisbon Legal Theory Group. Advogado. Consultor do Legal Grounds Institute.

GERHARD WAGNER

Professor, possui LL.M. na Universidade de Chicago e ocupa uma cadeira de Direito Privado, Direito Comercial e Direito e Economia na Humboldt-Universität zu Berlin. É membro do Institute for Law and Digital Transformation na Universidade Humboldt em Berlim.

HEIKE SCHWEITZER

Professora da Faculdade de Direito da Universidade Humboldt em Berlim. Os seus principais interesses de investigação centram-se no direito da concorrência alemão e europeu e no direito antitruste dos EUA, no direito dos auxílios estatais, no direito das telecomunicações e no direito da Internet, no direito dos contratos públicos e nos mercados financeiros. Foi presidente de Direito da Concorrência no EUI, Florença, e de Direito Privado e Direito Econômico Europeu na Universidade de Mannheim, e Diretora do Centro de Concorrência e Inovação de Mannheim (MaCCI). Membra do Kronberger Kreis e Membra do Conselho Consultivo da WIK. Ph.D. em Direito (summa cum laude) pela Universidade de Hamburgo. Participa de eventos e seminários do Legal Grounds Institute.

HELOISA BIANQUINI

Doutoranda em Direito Econômico e Economia Política pelo Departamento de Direito Econômico, Financeiro e Tributário da Faculdade de Direito da USP. Bacharel e Mestre em Filosofia e Teoria Geral do Direito pela mesma instituição. Membra do Grupo de Estudos em Novas Regulações de Serviços Digitais no Direito Comparado, do Legal Grounds Institute.

JOÃO SÉRGIO DOS SANTOS SOARES PEREIRA:

Doutorando em Direito, Estado e Sociedade pela Universidade de Brasília (UnB), com ênfase em Direito e Novas Tecnologias. Mestre em Direito Constitucional Pelo Instituto Brasiliense de Direito Público (IDP-DF). Especialista em Direito Público e Privado pela EMERJ e Direito e Advocacia Pública pela UERJ e PGE-RJ. Membro do Grupo de Estudos em Novas Regulações de Serviços Digitais no Direito Comparado, do Legal Grounds Institute. Assessor de Órgão Julgador do Tribunal de Justiça do Estado do Rio de Janeiro.

JULIANO MARANHÃO

Professor Associado da Faculdade de Direito da Universidade de São Paulo. Pesquisador da Fundação Alexander von Humboldt. Pós-doutorado na Faculdade de Ciência da Computação da Universidade de Utrecht. Membro do Comitê Executivo da International Association for Artificial Intelligence and Law (IAAIL). Pesquisador Associado do Center for Artificial Intelligence USP-IBM (C4AI/USP) e do Centro de Pesquisa Inteligência Artificial Recriando Ambientes - IARA. Diretor do Legal Grounds Institute e da Lawgorithm (USP).

LETÍCIA REDIS CARVALHO

Bacharela em Direito pela USP, pós-graduada em Direito Digital pela UERJ e ITS-Rio, mestranda em Políticas Públicas pela FGV-SP e membra do Grupo de Estudos em Novas Regulações de Serviços Digitais no Direito Comparado, do Legal Grounds Institute.

MARIA GABRIELA GRINGS

Mestra e Doutora em direito processual pela Faculdade de Direito da Universidade de São Paulo (USP). Bacharel em Direito pela Universidade Federal do Paraná (UFPR). Coordenadora do Legal Grounds Institute. Membra do Grupo de Estudos em Novas Regulações de Serviços Digitais no Direito Comparado do Legal Grounds Institute. Advogada.

MARTIN EIFERT

Estudou Direito em Hamburgo, Genebra e Berkeley, atuou como assistente acadêmico na Universidade de Hamburgo (Prof. Dr. W. Hoffmann-Riem) e, posteriormente, como consultor no The Boston Consulting Group. Atuou como pesquisador sênior no Hans-Bredow-Institute for Media Research da Universidade de Hamburgo, foi premiado com uma bolsa de pós-doutorado pela German Research Foundation (DFG), para completar sua habilitação na Universidade de Hamburgo. Sua pesquisa se concentra em questões de regulamentação, bem como na relação entre direito e inovação. Foi professor de Direito Público na Justus-Liebig-University Giessen. Desde 2012, ele ocupa a cadeira de direito público, especialmente direito administrativo na Humboldt-Universitaet zu Berlin.

MIGUEL GARZERI FREIRE

Bacharel pela Universidade de São Paulo (USP), especializado em Direito Antitruste, Regulatório, Digital e Arbitragem. Possui especialização em Economia pela Fundação Instituto de Pesquisas Econômicas (Fipe). Advogado. Pesquisador convidado do Legal Grounds Institute.

PAULA GUEDES FERNANDES DA SILVA

Doutoranda em Direito pela Universidade Católica Portuguesa – Centro Regional do Porto (bolsista da Fundação para a Ciência e Tecnologia) e Mestra em Direito Internacional e Europeu pela mesma instituição; especialista em Direito Digital pelo ITS-Rio em parceria com a UERJ. Pesquisadora do grupo de pesquisa em Direito e Tecnologia da PUC-Rio (Legalite) e Membra do Grupo de Estudos em Novas Regulações de Serviços Digitais no Direito Comparado do Legal Grounds Institute.

PAULO EMILIO DANTAS NAZARE

Doutor em Direito (UFRGS), Mestre e Bacharel em Direito (UnB), membro do Grupo de Estudos em Novas Regulações de Serviços Digitais no Direito Comparado do Legal Grounds Institute. Procurador do Estado (PGE-RS).

RAISSA ALENCAR DE SA BARBOSA

Graduada (2010) e mestra (2013) em Direito pela Universidade Federal de Pernambuco. Pós-graduanda em LGPD, Privacidade e Proteção de Dados pela Universidade Cândido Mendes. Procuradora da Companhia Nacional de Abastecimento em exercício na Autoridade Nacional de Proteção de Dados. Membra do Grupo de Estudos em Novas Regulações de Serviços Digitais no Direito Comparado do Legal Grounds Institute.

RICARDO CAMPOS

Docente na Goethe Universität Frankfurt am Main (Alemanha), coordenador nacional de Direito Digital da OAB Federal/ESA Nacional, diretor do Legal Grounds Institute, e ganhador do prêmio Werner Pünder sobre regulação de serviços digitais (Alemanha, 2021) e do European Award for Legal Theory da European Academy of Legal Theory (2022). Organizador do Grupo de Estudos em Novas Regulações de Serviços Digitais no Direito Comparado do Legal Grounds Institute.

RODOLFO ASSIS

Mestre em Teoria do Estado e Direito Constitucional (PUC-RIO); Especialização em Direito Tributário; Graduado em Direito; Membro do Grupo de Pesquisa sobre Liberdade de Expressão no Brasil (PLEB-PUC-Rio) e do Grupo de Estudos em Novas Regulações de Serviços Digitais no Direito Comparado, do Legal Grounds Institute; Advogado e professor universitário.

SAMUEL RODRIGUES DE OLIVEIRA

Doutorando em Teoria do Estado e Direito Constitucional pela Pontifícia Universidade Católica do Rio de Janeiro (PUC-Rio). Mestre em Direito e Inovação e Bacharel em Direito pela Universidade Federal de Juiz de Fora (SP). Especialista em Relações Internacionais. Coordenador do Legal Grounds Institute. Pesquisador no Núcleo Legalité da PUC-Rio. Advogado.

SÍLVIA PIVA

Doutora e Mestra em Direito do Estado pela PUC-SP, pesquisadora do Grupo de Pesquisa sobre Tributação do Ambiente Digital da FGV-SP e do Grupo de Pesquisa Transobjeto do Programa de Pós-Graduação em Tecnologias da Inteligência e Design Digital - TIDD/PUC-SP, membra do Grupo de Estudos em Novas Regulações de Serviços Digitais no Direito Comparado, do Legal Grounds Institute.

TATIANA MEINHART HAHN

Mestra em Direito Administrativo pelo Programa de Pós-Graduação em Direito da Universidade Federal de Santa Catarina (PPGD/UFSC). Especialista em Direito Público. Master Bussines Administration em Comércio e Relações Internacionais. Estudou na Universitá degli Studi di Roma (Itália) e na Universidad Argentina De La Empresa (Argentina). Membra do Grupo de Estudos em Novas Regulações de Serviços Digitais no Direito Comparado, do Legal Grounds Institute. Tem formação e atuação especializada na resolução pacífica de conflitos. Procuradora Federal.

TATIANA STROPPA

Doutora em Direito pelo Programa de Pós-graduação Stricto Sensu da Instituição Toledo de Ensino (CEUB - ITE). Professora do Curso de Direito do Centro Universitário de Bauru e da Faculdade Iteana de Botucatu. Membra do Grupo de Estudos em Novas Regulações de Serviços Digitais no Direito Comparado, do Legal Grounds Institute. Advogada.

THAÍS FIGUEIRA DE OLIVEIRA

Advogada luso-brasileira. Mestranda em Direito e Ciência Jurídica na especialidade de Direitos Fundamentais na Faculdade de Direito da Universidade de Lisboa. Especialista em Direito Público pela Universidade Federal do Amazonas. Bacharela em Direito pelo Centro Universitário de Ensino Superior do Amazonas. Bacharel em Administração pela Universidade Federal do Amazonas. Membra do Grupo de Estudos em Novas Regulações de Serviços Digitais no Direito Comparado, do Legal Grounds Institute.

THOMAS VESTING

Professor Catedrático de direito dos meios de comunicação, direito público, e teoria do direito da Goethe Universität Frankfurt am Main, Alemanha. Doutor pela Universidade de Bremen, livre-docente pela Universidade de Hamburg. Dr. honoris causa pelo IDP, Brasilia. Foi Jean Monet Fellow no Instituto Universitário Europeu, em Florença (Itália). Autor do principal comentário jurídico sobre direito dos meios de comunicação na Alemanha, além de obras em diversas línguas, entre elas inglês, português e alemão. Consultor do Legal Grounds Institute.

TORBEN FERNANDES MAIA

Doutorando em Direito Comercial pela Universidade de São Paulo (USP). Mestre em Direito Econômico e bacharel em Direito pela UFPB. Advogado com atuação em Direito Empresarial. Membro do Grupo de Estudos em Novas Regulações de Serviços Digitais no Direito Comparado, do Legal Grounds Institute.

Tradutores:

AMÁLIA BATOCCHIO

Mestranda em Filosofia e Teoria Geral do Direito pela Faculdade de Direito da Universidade de São Paulo (USP), especialista em Business Economics pela Escola de Economia da Fundação Getúlio Vargas (FGV-SP) e pesquisadora do Legal Grounds Institute

ANI KARINI MUNIZ SCHIEBERT

Doutoranda em Direito pela Humboldt-Universität zu Berlin (Alemanha), Mestre em Direito Alemão e Europeu e Prática Jurídica pela Humboldt-Universität zu Berlin (Alemanha), pós-graduanda em Direito Digital e Novas Tecnologias (Unyleya), pós-graduada em Direito Público pela Universidade Candido Mendes (UCAM-Centro), graduada em Direito pela UCAM-Centro, graduada em Letras (Língua e Literatura Alemã) pela Universidade Federal Fluminense (UFF), Advogada e Ordem dos Advogados de Portugal, membra associada da Robotics & AI Law Society (RAILS) e.V. (Alemanha); membra associada da International Association for Artificial Intelligence (I2AI), membro titular do Instituto Brasileiro de Responsabilidade Civil (IBERC), participante da Comissão de Inteligência Artificial na OAB/MG e da Comissão de Direito Digital na OAB/SP- São José do Rio Preto.

JOSÉ HUMBERTO FAZANO FILHO

Advogado, pesquisador no Legal Grounds Institute, Doutorando e mestre em Direito pela Pontifícia Universidade Católica de São Paulo (PUC-SP). Bacharel em Direito pela Faculdade de Direito de Sorocaba (Fadi), com intercâmbio acadêmico na Universidade do Porto (Portugal).

PREFÁCIO

O incessante avanço tecnológico e a emergência de uma economia amplamente baseada em plataformas digitais têm transformado a forma como vivemos, trabalhamos e nos comunicamos, com profundos impactos políticos e sociais. Nesse cenário dinâmico e marcado por incertezas, é induvidosa a necessidade de criar modelos de regulação coerentes e eficazes, que respondam efetivamente aos desafios dos novos produtos, serviços e modos de interação introduzidos pelos novos modelos de negócios imbricados nas plataformas.

Na União Europeia, foram recentemente editados o Digital Services Act (DSA) e o Digital Markets Act (DMA) com a pretensão de criar um espaço digital mais seguro e, ao mesmo tempo, promover a inovação e assegurar a livre concorrência. Essa nova legislação, como não poderia deixar de ser, tem influenciado o debate regulatório em todo o mundo. O Futuro da Regulação de Plataformas Digitais: Digital Services Act (DSA), Digital Markets Act (DMA) e Seus Impactos no Brasil oferece uma resposta abrangente e aguda à necessidade de entendermos como esse modelo de regulação pode frutificar no Brasil.

Sob a organização de Ricardo Campos, que se tem notabilizado por fecunda produção acadêmica na Alemanha e no Brasil, o livro reúne trabalhos desenvolvidos no âmbito do Grupo de Estudos em Novas Regulações de Serviços Digitais no Direito Comparado, do Legal Grounds Institute, por experientes juristas e pesquisadores. Os estudos procedem a uma criteriosa análise da legislação europeia, de seu impacto no futuro da regulação do mundo digital e, em particular, de como pode influenciar as políticas e práticas brasileiras, consistindo em instigante material de debate – food for thought – para reguladores, acadêmicos, advogados, empresários e todos aqueles interessados na intersecção entre tecnologia, direito e política.

Além de explorar as nuances dos DSA e DMA, a obra também lança luz sobre os desafios de implementar novos paradigmas regulatórios em um ambiente tão diversificado, dinâmico e imprevisível quanto o digital. Quais são as implicações para a liberdade de expressão? Como essas normas regulatórias impactam a inovação e a competição? Qual o modelo ideal de regulação da posição de gatekeeper? Como prevenir riscos sistêmicos no ambiente digital? Como proteger os direitos humanos, a privacidade e os dados pessoais nesse ambiente em permanente transformação? Como moderar conteúdo e prevenir a disseminação de desinformação? Como regular a inteligência artificial? Essas, dentre inúmeras outras questões, ajudam a entender como o Brasil pode adaptar ou inspirar-se no regramento europeu para construir um ambiente digital mais justo, transparente e competitivo

Ao final da leitura, espera-se não apenas que o leitor tenha uma compreensão aprofundada dos DSA e DMA, mas também uma melhor perspectiva do intrincado trabalho que é regular o ciberespaço em um mundo em constante transformação. Este é um convite não apenas para a reflexão, mas para uma imersão em uma das discussões mais relevantes do nosso tempo, no que promete ser uma obra de referência na matéria.

Brasília, 15 de agosto de 2023.

RICARDO VILLAS BÔAS CUEVA

Ministro do Superior Tribunal de Justiça (STJ)

NOTA DA ORGANIZAÇÃO

Breves notas sobre a relação entre o direito e o futuro

A emergência da sociedade de plataformas e o desenvolvimento de novas tecnologias digitais estão criando um capítulo inédito na relação entre o direito e o futuro. Nessa nova relação, novos atores e tecnologias estão desempenhando um papel significativo na moldagem do futuro da sociedade. Anteriormente, a relação entre o futuro e a sociedade era caracterizada pela criação indireta de mais possibilidades de ação através de um futuro aberto; no entanto, o cenário atual assume diferentes contornos, sendo que o próprio futuro e a orientação da ação humana guiada por ele se tornam um recurso escasso e econômico para os novos modelos de negócios digitais. As plataformas digitais agora estão competindo para obter vantagem no mercado, criando novos produtos e serviços que atendam às necessidades dos usuários e moldando o futuro da sociedade.

Com essa nova realidade, a sociedade das plataformas torna-se cada vez mais caracterizada pela ampla participação de seus múltiplos atores na modelagem de formas de vinculação temporal. Isso inclui as grandes empresas de tecnologia, que têm enorme influência na criação de inovações tecnológicas e na definição de padrões de comportamento online, os próprios usuários, que contribuem para a criação de novas formas de comunicação e interação social, e governos e demais órgãos reguladores, que somente há relativamente pouco tempo se atentaram para a necessidade de maior regulação do ambiente digital. O que se percebe, assim, é que a regulamentação das plataformas digitais se torna cada vez mais importante e urgente para garantir um ambiente justo e seguro para os usuários e promover a inovação e a competição justa no mercado digital.

Diante desse novo cenário, a União Europeia recentemente publicou novas regulações para plataformas digitais: o Digital Services Act (DSA) e o Digital Markets Act (DMA). Com o objetivo declarado de criar um espaço digital mais seguro, no qual os direitos fundamentais de todos os usuários de serviços digitais sejam protegidos, e estabelecer condições equitativas para fomentar a inovação, o crescimento e a competitividade, tanto no Mercado Único Europeu quanto em âmbito global, as legislações fazem parte da estratégia digital da União Europeia, intitulada "Shaping Europe’s Digital Future – moldando o futuro digital da Europa", em tradução livre.

Assim como ocorreu com o Regulamento Geral para Proteção de Dados Pessoais (GDPR) europeu, de 2016, espera-se que o novo pacote legislativo da União Europeia exerça forte influência sobre o debate regulatório em nível mundial. Cientes da relevância do tema e diante da ausência de uma publicação que inserisse e aprofundasse a discussão no cenário brasileiro, reunimos nesta coletânea trabalhos de renomados autores estrangeiros e nacionais, que versam sobre variados assuntos relacionados à regulação de plataformas digitais, do ponto de vista das novas legislações europeias.

Em sua maioria, os trabalhos presentes neste livro foram desenvolvidos no âmbito do Grupo de Estudos em Novas Regulações de Serviços Digitais no Direito Comparado do Legal Grounds institute, seleto grupo composto por mais de 40 pesquisadores, professores e advogados, das cinco regiões do Brasil, Alemanha e Portugal, e sob minha coordenação e de Juliana Domingues, Juliano Maranhão e Fabiano Menke.

Se é possível dar novos rumos à relação entre o direito e o futuro, assim como pretende o legislador europeu com sua ambiciosa estratégia, é imprescindível que todos nós, enquanto usuários e cidadãos sujeitos ao novo direito da sociedade global, saibamos nos posicionar adequadamente neste debate. Esperamos que esta obra seja um pequeno, mas valioso primeiro passo nesse sentido.

RICARDO CAMPOS

ARTIGOS INTERNACIONAIS

CAPÍTULO I

CURADORIA DE CONTEÚDO: REGULAÇÃO DE MÍDIAS PARA O SÉCULO XXI1

THOMAS VESTING

RICARDO CAMPOS

1.1 Um novo paradigma para a regulação da mídia

A digitalização e a ascensão da Internet para se tornar a arquitetura de comunicação central de nosso tempo têm efeitos de longo alcance na regulamentação da mídia e no estado regulador.² Essa afirmação parece absolutamente trivial, já que há muito faz parte da convicção geral nos debates públicos sobre política e regulamentação da mídia. No entanto, a agitação da regulamentação da mídia desencadeada pela digitalização é um grande desafio para os legisladores da mídia e também para a própria lei de mídia: a ascensão da cultura da tecnologia da informação levanta a indagação, que é tudo menos fácil de responder, se ainda pode haver regulamentação específica da mídia no século XXI e, se for o caso, qual o paradigma pelo qual ela poderia ser guiada.

O direito de mídia é sempre o resultado de uma relação entre tecnologia de mídia e normatividade jurídica que não é fácil de entender.³ Como a normatividade jurídica é, por sua vez, uma construção cultural e a cultura faz parte da sociedade, a regulamentação da mídia não pode ser vista isoladamente da mudança social geral associada às novas tecnologias de mídia. Isso também caracteriza o desenvolvimento da ordem da mídia criada na Alemanha após a Segunda Guerra Mundial: O primeiro passo no desenvolvimento foi o estabelecimento de um modelo de radiodifusão pública financiada por taxas, que, embora livre do Estado, se baseava estreitamente no modelo de administração cultural pública e cuja condição tecnológica era uma (suposta) escassez de frequências terrestres. Em uma segunda etapa de desenvolvimento, na condição de novas tecnologias de distribuição como a transmissão por cabo e satélite, houve um movimento de abertura desse regime de direito público para uma dinâmica midiática de direito privado e financiada pela publicidade. Esta dinâmica deveria ser gerida no modelo de um sistema de radiodifusão dual composto por uma gama de programas públicos e privados, mas foi muito menos bem sucedido desde o início do que no caso da auto-organização da radiodifusão pública apoiada por grandes grupos políticos em condições de monopólio.

Em uma terceira etapa de desenvolvimento, que estamos testemunhando atualmente, a regulamentação dos meios de comunicação está agora mudando sob a condição tecnológica da distribuição onipresente das redes eletrônicas: a ascensão da Internet é acompanhada por uma migração da atenção dos receptores das tecnologias lineares dos meios analógicos para as tecnologias não lineares e dinâmicas dos meios digitais em suas diversas formas. Os legisladores de mídia agora precisam se adaptar a serviços digitais muito diferentes que estão interconectados em redes baseadas em dados e vários dispositivos ambientalmente sensíveis. Os serviços digitais, como a televisão digital, podem assumir um caráter híbrido que dificilmente permite atribuições conceituais claras. Mas eles também podem deixar a lógica de meios lineares como televisão e rádio para trás e romper o elo com um esquema de programação pré-definido. No lugar de uma sequência cronologicamente ordenada de conteúdo de acordo com uma programação de transmissão, há então – por exemplo com serviços de streaming – a disponibilização individual de uma superabundância de ofertas. Com o uso de inteligência artificial, as mídias digitais, como as redes sociais, permitem até mesmo o intercâmbio direto e a influência mútua entre os participantes da comunicação, deixando para trás a comunicação unidirecional das mídias programáticas convencionais de uma outra forma.

Diante deste background, queremos argumentar neste artigo que o mais recente passo de desenvolvimento na história da evolução das mídias representa uma ruptura tecnológica tão forte que a regulamentação das mídias deve desenvolver um novo paradigma para o século XXI. Deve colocar as mídias digitais – redes sociais, buscadores e serviços de streaming – e suas respectivas lógicas em primeiro lugar. Uma de nossas principais crenças é que a regulamentação favorável à rede e ao desenvolvimento das mídias digitais não dá mais no "mundo imaginário e com os instrumentos da regulação da radiodifusão da década de 1980".⁴ Ao contrário, a regulação da radiodifusão originada no contexto do estado industrial, a regulação das organizações, deve ser substituída pela regulação das mídias adaptada aos novos contextos informacionais. A nosso ver, isso só pode ser uma regulação (procedimental) de aprendizagem experimental que aceita a emergência de redes dinâmicas e sua complexidade. A nova função da curadoria de conteúdo em suas várias formas estaria então no centro da regulação das mídias no século XXI.⁵

1.2 O jeito americano: a (des)integração de mídias diferentes

O cenário de mudança da mídia e seu impacto nas formas tradicionais de regulação estatal também é tema recorrente nos EUA há algum tempo. No entanto, o debate americano tomou um rumo diferente do alemão. A tendência predominante na Alemanha hoje é estender a estrutura tradicional de regulação da mídia, voltada para o rádio e a televisão, aos novos serviços digitais sem grande precisão. Em contraste, nos Estados Unidos, a inadequação dos mecanismos de responsabilidade das grandes organizações construídas em torno dos meios tradicionais de comunicação de massa (rádio, televisão e imprensa) quando aplicados aos novos serviços digitais em status nascendi foi notada já nos anos 90.⁶ Isso levou à proibição inicial nos Estados Unidos – ainda em vigor hoje – de tratar um provedor ou usuário de um serviço de computador interativo como um editor ou locutor de informações fornecidas por outro provedor de informações (Seção 230 da Lei de Decência das Comunicações de 1996 – CDA).⁷ Esta forma de tratar de forma diferente a regulação de diferentes mídias teve também um claro impacto no potencial inovador dos novos mercados de serviços digitais, como destaca Jeff Kosseff, tendo em vista a criação de um novo tipo de isenção de responsabilidade para os meios digitais: "A Seção 230 atuou como incubadora, permitindo que desenvolvessem modelos de negócios baseados no conteúdo do usuário sem medo de ações judiciais e regulamentação".⁸

Nos Estados Unidos, a estrutura regulatória da Seção 230 do CDA foi a primeira grande legislação que estabeleceu novas regras de responsabilidade para os intermediários de informações digitais na sociedade.⁹ De acordo com Jeff Kosseff, essa lei incorpora até mesmo aquelas vinte e seis palavras que criaram a Internet como a conhecemos hoje.¹⁰ Pode ser um exagero, mas, de qualquer forma, a Seção 230 CDA surgiu num contexto em que os parâmetros legais estabelecidos pela Primeira Emenda, que surgiram da experiência com os antigos meios de comunicação de massa, não eram mais apropriados à nova dinâmica dos serviços digitais.¹¹ Nesse sentido, a dogmática da Primeira Emenda da Constituição Federal dos Estados Unidos enfocou – "O Congresso não fará nenhuma lei (...) restringindo a liberdade de expressão ou de imprensa – em duas categorias centrais voltadas para os corretores de informações da época: o distribuidor (distributor) e editores (Publisher") de informações.¹² Ambas as categorias, e isto merece atenção especial, dizem respeito a uma dimensão organizacional da disseminação da informação por meio da imprensa escrita e da mídia eletrônica - e não à dimensão individual do exercício do direito fundamental à liberdade de expressão no tipo ideal de autor e orador.

Nesse sentido, a construção da responsabilidade no âmbito da doutrina da Primeira Emenda girou em torno das formas de responsabilidade do editor (publisher) e da subcategoria do distribuidor (distribuidores). Ambos foram construídos como agentes de atribuição de conhecimento em nível organizacional, sendo a editora vista como detentora de ampla capacidade de conhecimento do fluxo comunicacional dentro de sua estrutura organizacional devido ao controle editorial mais intenso e, portanto, com maior responsabilidade. Já o distribuidor, que não exercia amplo controle editorial no sentido estrito da palavra, tinha uma responsabilidade mais limitada e, nesse sentido, devia cumprir o que o Supremo Tribunal considerou "exigência científica" (exigência de divulgação) da Primeira Emenda.¹³

Essa forma de construir a responsabilidade em torno de formas de atribuição de conhecimento – "exigência científica para os distribuidores e controle do editor" para as editoras – funcionou enquanto certos pré-requisitos sociais e midiáticos, que configuravam a dimensão implícita do direito, ainda encontravam certa consonância com a semântica de atribuição de conhecimento da sociedade de organizações.¹⁴ Emissoras de televisão com programas lineares e controle de conteúdo por equipes editoriais, jornais com uma estrutura central e hierárquica de controle editorial e editoras com uma estrutura organizacional equivalente orientada para o controle e seleção das informações produzidas dentro de uma estrutura uniforme em forma de conhecimento que determina a mídia convencional – rádio, radiodifusão e imprensa gráfica.¹⁵ A estrutura hierárquica com núcleo de controle editorial no topo das grandes organizações também conferiu plausibilidade cognitiva às formas legais de atribuição do conhecimento.

No entanto, a responsabilidade baseada na atribuição de conhecimento nas figuras do editor ou distribuidor atingiu seus limites quando a mídia digital associada aos novos modelos de negócios forneceu uma complexidade diferente da antiga mídia de rádio, televisão e imprensa em conexão com as formas de organização da indústria. sociedade. início da década de 1990, surgiu nos Estados Unidos da América uma nova indústria de serviços de negócios digitais, baseada em uma infraestrutura de protocolos e modems dial-up que permitiam que usuários de diferentes regiões se conectassem a quadros de avisos digitais¹⁶ e fóruns temáticos reunidos digitalmente. O conteúdo passou a ser gerado de forma espontânea e direta pelos próprios usuários, sem nenhum filtro editorial ou outro profissional.¹⁷ Aos poucos, a questão do cabimento da responsabilidade via atribuição de conhecimento nos moldes da "exigência científica" da Primeira Emenda nos novos serviços online até seus limites. Já na década de 1990, esses serviços podiam ter dezenas de milhares de usuários e, portanto, publicar muitas mensagens por dia.

A incompatibilidade da semântica da sociedade de atribuição de conhecimento das organizações com a estrutura da sociedade em rede ficou clara nos primeiros e mais importantes casos julgados em tribunais americanos na década de 1990 em conexão com a responsabilidade dos intermediários de novas mídias. Enquanto no famoso processo Cubby versus CompuServe (1991) empresa de serviços digitais não era responsável por conteúdo de terceiros,¹⁸ um tribunal no processo Stratton Oakmont versus Prodigy (1995) chegou à conclusão oposta.¹⁹ Apesar dos resultados contrastantes que emergiram das decisões, ambos os casos voltaram-se essencialmente à questão central de até que ponto os serviços digitais tinham um "controle editorial" sobre o fluxo de novas comunicações digitais de conteúdos produzidos por terceiros. Em outras palavras, ambos os casos aplicaram as categorias centrais desenvolvidas sob a Primeira Emenda, que se concentram na mídia de massa tradicional, onde o fator determinante para a atribuição de responsabilidade recai sobre o controle editorial.²⁰ Não só a insegurança jurídica causada por decisões contraditórias,²¹ mas também a inadequação da construção da responsabilidade dentro da dogmática da Primeira Emenda, que é voltada para a atribuição de conhecimento, levou aos debates sobre um estatuto jurídico diferente para as novas mídias digitais.

Nesse contexto de incerteza jurídica e discrepância entre semântica cultural e estrutura social, o Congresso dos EUA resolveu a ambiguidade ao aprovar a Lei de Decência nas Comunicações de 1996, cuja Seção 230 introduziu um novo modelo de responsabilidade para a mídia de informação digital.²² Ao afastar-se da responsabilidade pela atribuição de conhecimento, a Seção 230 CDA tornou-se uma verdadeira incubadora, criando um ambiente propício para o surgimento de modelos de negócios inovadores baseados em conteúdos gerados por terceiros.

Nos Estados Unidos, os intermediários on-line têm ampla liberdade para transmitir o conteúdo do usuário e determinar se – e como – moderar esse conteúdo. Portanto, não surpreendentemente, muitas das principais plataformas que dependem de conteúdo gerado pelo usuário – como Google, Facebook, Yelp, Wikipedia e Twitter – estão todas baseadas nos Estados Unidos.²³

A extensa imunidade a novos serviços digitais ou como Jeff Kosseff formula a Super Primeira Emenda,²⁴ não significou um vácuo legal para os novos serviços digitais. Pelo contrário, como os dois senadores americanos Chris Cox e Ron Wyden enfatizaram,²⁵ a seção 230 do CDA visa justamente incentivar a moderação privada de conteúdo pelas próprias empresas de serviços digitais.²⁶

A questão de promover a dimensão da auto-organização expressa na curadoria de conteúdo dos novos serviços digitais foi a forma que a legislação encontrou para superar o problema da equivalência da forma de responsabilidade dos novos serviços digitais com a forma de produção de conteúdo dos meios de comunicação de a velha comunicação de massa. O caso Zeran v. Am. On-line (1997) solidificou a interpretação dos novos termos de responsabilidade dos intermediários sob a Seção 230 do CDA, argumentando que mesmo casos anteriores à Seção 230 do CDA, como Stratton Oakmont Inc v. Prodigy Services Co. (1995) teve como consequência o enfraquecimento da auto-organização ao lidar com uma nova dinâmica comunicacional que não correspondia mais à dos velhos meios de comunicação.²⁷

Certamente, a ascensão da nova indústria de conteúdo de terceiros baseada no Vale do Silício não pode ser atribuída a um único fator. No entanto, nutrir um espaço criativo e inovador para explorar novas possibilidades além das experiências estabelecidas da sociedade de organizações, provavelmente teve um efeito no sucesso do Vale do Silício. A Seção 230 do CDA contribuiu para um momento de auto-organização da sociedade, em vez de uma ordem positiva²⁸ com o Estado como legislador ex-ante e um tribunal constitucional como órgão supremo de supervisão. Como Jack Balkin aponta com razão, as primeiras versões de Facebook e Google provavelmente não sobreviveriam aos processos, se tivessem sido tratados como editores do conteúdo que aparece em seus sites.²⁹ A Seção 230 do CDA é conhecida como "estatuto excepcionalista" porque ele trata a internet de maneira diferente das outras mídias.³⁰ Rebecca Tushnet argumenta que antes do CDA não havia o direito constitucional de operar, por exemplo, um mecanismo de busca isento de responsabilidade pelo conteúdo indexado, e que para tais serviços, o parâmetro para estabelecer a responsabilidade teria sido New York Times Co. v. Sullivan (1964).³¹ Em outras palavras, a diferenciação do tratamento dos diferentes meios de comunicação e suas correspondentes formas de regulação é uma das conquistas da seção 230 do CDA, que levou a Internet a ser tratada de forma diferenciada do rádio, da televisão e da imprensa, em torno dos quais as categorias dogmáticas centrais da jurisprudência da Primeira Emenda à Constituição Federal dos EUA giravam até então.

1.3 O jeito alemão: a integração de diferentes mídias

A separação dos vários meios de comunicação em seu tratamento relacionado à responsabilidade distingue amplamente a experiência da regulamentação da mídia americana da história mais recente da expansão da regulamentação da mídia, originalmente centrada na transmissão, para a mídia digital na Alemanha. Enquanto o regime americano procura tratar a Internet de uma perspectiva regulatória como um meio independente da mídia de televisão e rádio, o regime alemão procura estender e transferir experiências regulatórias da era da mídia de rádio e televisão para novos tipos de mídia digital sem uma análise mais detalhada do ambiente regulatório. As diferentes formas de lidar com a mudança na regulação da mídia são particularmente evidentes em relação à interpretação da liberdade de expressão e da presença do Estado na formação da comunicação social³² e na concepção dos regulamentos das mídias. As duas tradições jurídicas diferem drasticamente neste último ponto – a concepção do regulamento da mídia.

O ponto de partida regulatório da recente lei de mídia americana, a ampla isenção de responsabilidade civil das redes sociais para lidar com contribuições de terceiros ou usuários, foi inicialmente adotado na Europa pela Diretiva de Comércio Eletrônico. A experiência americana, inicialmente – até certo ponto – também influenciou a regulamentação das mídias digitais na Alemanha, mas de uma forma difícil de classificar, pois a regulamentação da mídia digital na Alemanha oscilou, desde o início, entre o paradigma da sociedade das organizações e o da sociedade em rede. As novas mídias digitais foram integradas ao antigo Tratado de Radiodifusão Interestadual, que, no entanto, havia se transformado em um tratado frouxo vagamente tecido de tratados estatais muito diferentes e, as mídias digitais, na recém-criada categoria de "Telemídia", classificadas e – ao contrário da radiodifusão privada – não as sujeitaram a uma aprovação condicional de acordo com o modelo de ordem positiva, mas apenas a uma regulamentação mínima semelhante à lei de imprensa, uma espécie de provisão regulatória de risco de telemídias.³³ Ao fazer isso, a distinção entre contribuições próprias jornalísticas (por exemplo, um programa de notícias) e contribuições de terceiros de todo tipo (por exemplo, o comentário de um leigo em um bate-papo), foi basicamente mantida.

Entretanto, há alguns anos, uma mudança problemática na estrutura originalmente liberal quadro normativo da mídia digital tem sido observada na Alemanha e na Europa. Tem como contexto uma transformação geralmente observável na legislação e no direito constitucional em relação à luta regulamentar e judicial contra o poder privado, que também assumiu contornos cada vez mais claros na jurisprudência do Tribunal Constitucional Federal.³⁴ O ponto de partida aqui não é mais uma presunção de liberdade social, na qual é tarefa do Estado regulador demonstrar convincentemente por que e com que finalidade quer restringir essa liberdade – a liberdade de auto-organização social – mas, inversamente, o ônus é cada vez mais colocado nas "grandes corporações para demonstrar que seu comportamento no mercado não prejudica os consumidores e concorrentes. Também no campo da regulamentação da mídia, a proteção regulatória de cada usuário e seus direitos (fundamentais) subjetivos tornou-se cada vez mais importante, um desenvolvimento que é parcialmente apoiado por ressentimentos antiamericanos articulados mais ou menos abertamente. Em qualquer caso, objetivos políticos centrais regulatórios como a salvaguarda da diversidade de opiniões não estão mais localizados em um nível regulatório, coletivo, mas se destinam a proteger diretamente os usuários individuais do poder privado dos gigantes" do Vale do Silício.³⁵ Essa tendência pode ser observada tanto nos novos projetos legislativos da UE, como no Digital Service Act, quanto no novo Tratado de Mídia Estatal. Ambos mantêm, em princípio, o princípio de isenção de responsabilidade por contribuições de terceiros, mas preveem regulamentações muito mais rígidas para as mídias digitais, que negligenciam o nível coletivo de uma distribuição de oportunidades de crescimento e desenvolvimento para diferentes mídias.

Uma distribuição apropriada ao desenvolvimento de oportunidades de crescimento e desenvolvimento para diferentes mídias requer aceitação cognitiva da ascensão da Internet à arquitetura de comunicação central de nosso tempo. Isso é particularmente difícil para as políticas midiáticas alemã e europeia. Porque este desenvolvimento confronta o legislador de mídias com a exigente tarefa de ter de conceber um regime mediático normativo para um novo tipo de ambiente multifuncional de comunicação. Ele deve passar de um modo de regulação industrial para um informacional, e isso significa, acima de tudo, entender e levar em consideração a transformação da organização em rede. O novo Tratado de Mídia Estatal também quer contribuir para isso, mas mesmo as distinções artificiais, que visam cobrir conceitualmente as muitas formas de mídia digital e submetê-las a diferentes requisitos regulatórios, são pouco convincentes.³⁶ Agora existem plataformas de mídia, incluindo serviços de TV paga, como Sky Q, serviços de streaming ou aplicativos que fornecem acesso a conteúdos ou a outras plataformas (§ 2 par. 2 nº 14 MStV). Além disso, o Tratado Estatal das Mídias reconhece interfaces de usuários em Smart-TVs ou bibliotecas de mídias (§ 2 par. 2 nº 15 MStV), bem como os chamados intermediários de mídias, como Google, Youtube, Facebook ou Twitter (§ 2 par. 2 nº 16 MStV) e, finalmente, serviços de compartilhamento de vídeo como o Netflix ou a Amazon Prime (§ 2 par. 2 nº 22 MStV).³⁷ A prática mostrará se essas distinções fazem sentido e criam mais do que caos interpretativo.

As novas regras do MStV costumam ser legitimadas pelo fato de que reagiriam ao aumento da importância que a Internet e as mídias digitais ganharam também na Alemanha para os processos de formação de opinião pública. A ascensão das grandes empresas de Internet teve um impacto no fluxo social de opiniões e nos padrões predominantes de comunicação pública.³⁸ Este é certamente um ponto válido, que também poderia falar por uma possível legitimação constitucional da expansão da regulamentação da mídia: A proteção da livre formação de opinião e da comunicação pública não é precisamente um direito personalíssimo do usuário individual, mas um bem trans-subjetivo que transcende a expressão individual de opinião desde o início.³⁹ Mais especificamente, trata-se de um fenômeno fluido, processual, constitutivo da ordem social liberal moderna e que, segundo John Locke, se baseia na comunicação de probabilidades, no conhecimento de opinião e não na verdade.⁴⁰

Uma análise mais detalhada poderia mostrar que a instituição da livre formação de opinião no Ocidente tem uma raiz comum na livre troca acadêmica de ideias que a res publica literaria tinha no início do período moderno. Mas assim como as regulamentações de mídias nos Estados Unidos e na Europa perseguem objetivos diferentes, as tradições constitucionais ocidentais diferem em seu tratamento da instituição da esfera pública. No direito constitucional midiático dos EUA, em particular, ainda se trata de garantir um espaço público como esfera de auto-organização social, um mercado de ideias, que, seguindo a formulação e interpretação da Primeira Emenda, deve ser protegido de qualquer tipo de intervenção estatal (doutrina de ação estatal).⁴¹ Em contraste, o bem trans-subjetivo da livre formação de opinião é visto mais fortemente no direito constitucional alemão como uma base legitimadora para a ação estatal que se estende à esfera social. A ideia, já difundida no direito público alemão nos anos 60, de que os processos de formação da opinião pública estavam localizados em uma fase preliminar prolongada dos processos de formação da unidade política, como uma pré-formação da vontade política constitucionalmente relevante, também contribuiu para isso em particular.⁴²

Desde a década de 1980, extensa lei constitucional da radiodifusão foi anexada a este conceito centrado em políticas, particularmente na jurisprudência do Tribunal Constitucional Federal. No entanto, esse ponto de partida constitucional esbarra em limites cognitivos intransponíveis para a regulação da mídia no século XXI. No entanto, a ideia de uma ordem positiva só pode ser aceita normativamente na medida em que a ancoragem coletiva social das liberdades de comunicação e meios de comunicação do Art. 5 par. 1 GG seja mantido e o equilíbrio necessário entre sociedade e Estado seja observado e mantido. Este não é o caso em muitas das regras recém-criadas do Tratado do Estado das Mídias que devem ser aplicadas à mídia digital.

1.4 A nova lógica da curadoria de conteúdo

Embora o Tratado do Estado da Mídia tente criar sua própria terminologia para a regulamentação das mídias digitais, como antes, trata-se essencialmente de várias novas variantes de uma curadoria de conteúdo implementada tecnologicamente. No caso do buscador, a auto-organização tecnológica introduziu um metanível até então desconhecido de busca e seleção de conteúdos acima da antiga unidade de produção e distribuição, por exemplo, de programas de televisão, por redes ou instituições criadas especificamente para esse propósito.⁴³ O fluxo de informações e a prática social da produção de formas comunicativas de produção de significado social está mudando dos escritórios editoriais nos meios de comunicação de massa, como televisão, rádio ou imprensa, para novos meios digitais e os modelos de negócios associados. A gestão desse novo tipo de fluxo de comunicação não pode ser controlada pelas estruturas tradicionais de redações hierárquicas dentro de uma organização. É fácil ilustrar que a curadoria de conteúdo do fluxo de informação tem uma dimensão diferente: no terceiro trimestre de 2021 o Facebook teve 933.426.800 conteúdos removidos, o YouTube removeu 4.806.042 canais e 6.229.882 vídeos e o Tik Tok removeu 81.518.334 vídeos no segundo trimestre de 2021.⁴⁴ Os conceitos legais também devem ser adaptados à nova sociedade e seu novo fluxo de informações, e essa adaptação obviamente não pode consistir em substituir a curadoria de conteúdo via auto-organização social pela curadoria de conteúdo por meio de legislação estadual e judicial.

Nesse contexto, a curadoria de conteúdo assume o lugar das redações como equivalente funcional da sociedade em rede, ainda que com profundas diferenças no nível de complexidade e na forma como são tratados os conteúdos que circulam nas mídias digitais. A primeira grande diferença reside na dimensão da infraestrutura cognitiva (e não normativa) dessa mudança: o meio digital e sua forma de exploração econômica nos novos modelos de negócios são cada vez mais algorítmicos e orientados por dados em uma economia de conhecimento altamente e globalmente conectada,⁴⁵ que não pode assumir uma estrutura organizacional centrada no controle editorial de um grupo de pessoas. A complexidade do controle de voz global, com milhares de conteúdos sendo postados a cada segundo, e o uso crescente de inteligência artificial em filtros de upload contrastam, fundamentalmente, a dinâmica das decisões pessoais nos conselhos editoriais da sociedade de organizações.⁴⁶

Joseph Vogel, em monografia publicada recentemente, abordou o tema da nova indústria de opinião e mostrou como a construção legal em torno da Seção 230 americanas do CDA criou uma nova forma de imunidade ilimitada para as plataformas digitais globais. A seu ver, o excepcionalismo americano criado pela Seção 230 do CDA teria a função de "de proteger as empresas de plataforma contra intervenções legais em seu(s) modelo(s) de negócios também por lei".⁴⁷ Nesse sentido, a Seção 230 do CDA tornou-se uma verdadeira "imunização das empresas contra processos judiciais".⁴⁸ No entanto, esta leitura da função da seção 230 CDA como mecanismo de desencadeamento da arbitrariedade privada no espaço digital vai contra limites e até parece ser guiada por um pensamento teleológico que é incompatível com uma regulamentação projetada experimentalmente em um espaço aberto que envolveu a construção de uma nova responsabilidade por serviços digitais nos anos 90.⁴⁹ Em vez disso, o surgimento da Seção 230 do CDA surgiu de um compromisso.⁵⁰ Esta foi uma decisão tomada em condições de incerteza entre o Congresso americano e o emergente setor dos serviços digitais, em que se estabeleceu que, em um primeiro momento, a dimensão da auto-organização dos novos serviços digitais em status nascendi deveria prevalecer sobre a velha forma de regulação dos meios analógicos – rádio, televisão e imprensa. A partir das experiências dos primeiros desenvolvimentos de serviços digitais na década de 1990, o Congresso dos EUA percebeu que o discurso online era diferente do discurso offline da antiga mídia e, portanto, merecia um tratamento diferenciado na forma de um novo tipo de responsabilidade.

A promoção da auto-organização no início da regulamentação da Internet, que tinha como objetivo tratar os meios digitais de forma diferente dos meios tradicionais, também teve impacto na subcategoria de bom samaritano da Seção 230 c par. 2 CDA.⁵¹ Trata-se de uma proteção alargada no que diz respeito à possibilidade de restringir ou eliminar determinados conteúdos ao nível da auto-organização que são legais, mas não parecem adequados ao modelo de negócio digital em questão.⁵² Entretanto, o instituto do bom samaritano, em parte devido ao papel central que a curadoria de conteúdo assumiu no fluxo da comunicação digital na última década, está perdendo seu caráter dogmático vago de um samaritano guiado por boas intenções e boa fé, e está sendo gradualmente substituído por regras de procedimento privadas auto-geradas para gerenciar a curadoria de conteúdo gerado por terceiros.⁵³ Essa reformulação do vago bom samaritano por meio de regras processuais (privadas) também serve como objeto concreto para conexões regulatórias, tanto de regulações estatais quanto de iniciativas co-regulatórias entre o Estado e os serviços digitais.⁵⁴

Devido à forte presença da promoção da auto-organização nas primeiras regulamentações da Internet, como a Seção 230 CDA e também na Diretiva Europeia de Comércio Eletrônico de 2000, o conceito de curadoria de conteúdo assume um papel central na gestão do novo fluxo de comunicação do sociedade digital.⁵⁵ Aqui há um componente dentro da sociedade organizacional que é comparável ao surgimento da Lei de condições gerais (AGB), em que, para estruturar o acesso em massa a um produto específico, as organizações da sociedade industrial pré-formulam uma série de disposições dos contratos.⁵⁶ No entanto, existem diferenças importantes entre a Lei de condições gerais (AGB) e a estrutura contratual de curadoria de conteúdo para serviços digitais: No caso da curadoria de conteúdo, não se trata de um contrato padronizado no sentido de estruturar uma relação contratual para o uso de um bem específico em uma relação claramente definida entre fabricante e cliente. Pelo contrário, trata-se de criar uma relação em que o cliente (usuário) se torna parte do produto (feed de notícias) e participa integralmente da coprodução de conteúdos e, portanto, da concepção do produto principal da relação contratual. Gerenciar essa contribuição para a produção do produto final é parte essencial da curadoria de conteúdo dos novos serviços digitais.⁵⁷

A curadoria de conteúdo, naturalmente, não se trata exclusivamente dessa gestão da participação do pólo passivo do contrato com uma plataforma. Pelo contrário, e também pelo volume e velocidade dos conteúdos geridos pelos serviços digitais privados, a moderação de conteúdos é um sistema complexo e dinâmico, largamente baseado em algoritmos e inteligência artificial, que difere significativamente em volume e velocidade da gestão e produção de conteúdos dos meios de comunicação da sociedade da organização – rádio, televisão e imprensa. E sobretudo, neste contexto, o produto final gerado é completamente diferente de uma simples mediação de conteúdo de terceiros. Nesse contexto Tarleton Gillespie afirmou com razão: "A moderação é, de muitas maneiras, a mercadoria que as plataformas oferecem".⁵⁸

1.5 Google como exemplo

Para ferramentas de busca como Google, a nova função de curadoria de conteúdo pode ser descrita da seguinte forma: o buscador não fornece nenhum conteúdo em si, mas é mais do que um intermediário no sentido estrito da palavra (do latim intermedius, localizado no meio). O Google não só faz a mediação entre os contribuições de terceiros e a questão de um usuário da ferramenta de busca, mas também estrutura o acesso ao conhecimento sobre