Sobrevivendo à IA

De Calum Chace

Este é o século de duas singularidades — a singularidade econômica (desemprego tecnológico) e a singularidade tecnológica (explosão da inteligência). Ambas apresentam enormes oportunidades e desafios. Se as administrarmos com sucesso, nosso futuro como espécie será maravilhoso. Se falharmos, pode ser horrível — e talvez curto.

O condutor é a inteligência artificial (IA) — a tecnologia mais poderosa da humanidade. Softwares que resolvem problemas e transformam dados em insights já revolucionaram nossas vidas e a revolução está ficando mais rápida.

Em 2015, a inteligência artificial raramente esteve fora das principais notícias, e com razão. Ela está se aproximando de um ponto de inflexão em que as máquinas podem executar melhor do que nós diversas tarefas anteriormente consideradas exclusivamente humanas. Os sistemas de deep learning estão prestes a reconhecer imagens e a entender a fala natural melhor do que os seres humanos. 

O argumento deste livro é que devemos monitorar as mudanças que estão acontecendo e adotar políticas que estimulem os melhores resultados possíveis. A gama de resultados possíveis é ampla, do terrível ao maravilhoso, e eles não são pré-determinados. Serão selecionados parcialmente por sorte, parcialmente por sua própria lógica interna, mas em parte também pelas políticas adotadas em todos os níveis da sociedade.

Já podemos perceber que a automação e a superinteligência são os dois avanços que provavelmente causarão grandes impactos. A automação pode levar a uma singularidade econômica e à evolução de um tipo totalmente diferente de economia. Se errarmos, uma elite pode possuir os meios de produção e suprimir o resto de nós em um regime autoritário tecnológico distópico. Se acertarmos, poderemos desfrutar de uma economia de abundância radical, onde ninguém precisa trabalhar para viver e todos somos livres para nos divertir, expandir nossas mentes e desenvolver nossas habilidades ao máximo. 

A chegada da superinteligência, se e quando acontecer, representará uma singularidade tecnológica, que será o evento mais significativo da história humana, sem exceção. Descobrir como sobreviver é o desafio mais importante que a humanidade enfrenta nesta e na próxima geração. Se evitarmos as armadilhas, isso melhorará a vida de maneiras que estão literalmente além da nossa imaginação. Uma superinteligência que melhorou repetidamente sua própria arquitetura e expandiu suas capacidades poderia resolver de forma muito plausível quase qualquer problema humano que você possa imaginar. A morte pode se tornar opcional e poderemos desfrutar de uma vida de constante felicidade e emoção. Se errarmos, pode significar a extinção. Devido à enormidade desse risco, a maior parte deste livro aborda a superinteligência: a probabilidade de ela surgir e de ser benéfica.

• Idioma: Português
• Editora: Calum Chace
• Data de lançamento: 16 de mar. de 2023
• ISBN: 9781667453118

Pré-visualização do livro

por Calum Chace

Terceira edição

Traduzido por Valquíria Faustino

Sumário

Prefácio à terceira edição

Opiniões sobre Sobrevivendo à IA

Opiniões sobre Artificial Intelligence and the Two Singularities

Sobre o autor

Introdução

Parte 1.  IA na atualidade

1  O que é inteligência artificial?

2  Uma breve história da IA

3  O Big Bang: aprendizado de máquina (machine learning)

4  A IA está em todo lugar

5  Os gigantes tecnológicos e além

6  Quão boa é a IA atualmente?

7  Ética da IA

Parte 2.  O futuro da IA

8  Um dia comum

9  Convertendo informação em conhecimento – em diferentes velocidades

10  A curto prazo:  Amigos e Automóveis

11  Tecnologias afins

12  Disrupção

13  Curvas exponenciais

14  Não é a quarta revolução industrial

15  Singularidade

Parte 3.  IAG e superinteligência

16  Podemos criar uma inteligência artificial geral?

17  Como criar uma IAG

18  Quando surgirá a primeira IAG?

19  Da IAG à superinteligência

20  Nós gostaremos dela?

21  Garantindo que a superinteligência seja amigável

22  Resumo, conclusões e recomendações

Agradecimentos

Notas finais

Prefácio à terceira edição

––––––––

Esta edição estava quase completa quando o mundo foi transformado pela COVID-19.  Ainda é muito cedo para saber os impactos duradouros desta doença terrível e as medidas extraordinárias que foram tomadas para enfrentá-la.  Não há dúvidas de que o vírus e suas consequências irão contradizer os comentários nesse livro; e com o benefício do olhar em retrospectiva, alguns deles poderão parecer uma grande bobagem.  Ser ultrapassado pelos acontecimentos é um risco inevitável de escrever sobre o futuro, embora isso raramente aconteça de forma tão rápida e drástica como agora.

Ainda não sabemos se a recuperação econômica e as medidas de enfrentamento ao vírus serão em forma de V, U ou L.  Isso será determinado por quanto tempo as economias mundiais conseguem se manter total ou parcialmente paralisadas e pela sabedoria e competência de seus líderes.

Se a recuperação for em forma de V, os impactos duradouros serão sutis em vez de acentuados. Se a recuperação acontecer em forma de U e a depressão econômica for longa, então o mundo provavelmente sairá dela muito diferente e as sugestões e especulações neste livro talvez precisem de uma revisão mais radical.  Isso terá que aguardar a quarta edição para ser feito.

O que quer que aconteça, deixará cicatrizes.  Muitas pessoas já morreram e muitas mais também irão.  Cada morte é uma tragédia e deixa um rastro de famílias e amigos em luto.  Empresas vão fechar e deixar desempregados.  Muita riqueza esvanecerá e pessoas que antes desfrutavam de rendimentos confortáveis se encontrarão em dificuldades financeiras.

As mudanças a curto prazo são impossíveis de serem previstas.  As pessoas pararão de se cumprimentar dando as mãos?  A onda populista enfraquecerá com a demanda da população por um governo mais honesto e competente ou prosperará com o medo levando as pessoas ainda mais para o nacionalismo e outras soluções simplistas?  A animosidade pública contra os gigantes tecnológicos se intensificará ou a nossa crescente dependência da internet fará com que os vejamos com outros olhos?  A busca por um propósito corporativo mais amplo do que o valor para o acionista (shareholder value) continuará ou será vista como uma onerosa indulgência cometida pelos CEOs no próspero passado de 2019?

No longo prazo, podemos estar razoavelmente confiantes sobre algumas coisas. Pessoas no mundo todo foram forçadas não só a experimentar o trabalho e reuniões de maneira remota, mas também precisaram tornar-se bons nisso.  Muitas delas acharam algo surpreendentemente conveniente, em especial pela economia de tempo e locomoção. Encontros de grupos, famílias, amigos e outros eventos certamente retornarão, mas uma quantidade maior de reuniões entre apenas duas pessoas será feita por vídeo. A automação do serviço de lojas e de entregas será acelerada, apesar de ainda haver uma grande barreira para a adoção da tecnologia. Haverá uma pletora de startups digitais, fomentada pelo fato de pessoas encontrarem online soluções para problemas que nem sabiam que tinham. E a maior competência demonstrada pelos governos da Ásia em comparação com seus pares do ocidente pode apressar a mudança no equilíbrio global de poder.

Há algumas coisas que deveriam acontecer como consequência da pandemia de COVID-19. Em primeiro lugar, é necessário que nos preparemos melhor para a próxima vez. Esta pandemia mesmo não deveria ter sido uma surpresa. Bill Gates nos avisou sobre ela com cinco anos de antecedência. Hollywood fez um ótimo filme (Contágio) sobre o assunto, e vários ruins também. Não era um acontecimento impossível de ser previsto.

Em segundo lugar, devemos entender melhor o poder espantoso do crescimento exponencial. Ele foi fortemente demonstrado no aumento das taxas de mortalidade durante a primeira fase de contágio. O crescimento exponencial está conduzindo outras mudanças em nossas vidas e, se entendermos isso, iremos lidar com elas bem melhor.

Opiniões sobre Sobrevivendo à IA

––––––––

Uma revisão lúcida e fácil de ler sobre os riscos e oportunidades que a humanidade irá enfrentar com a IA.

Jaan Tallinn, cofundador - Skype, CSER e FLI

Compreender a IA – suas promessas e perigos – está se tornando um dos maiores desafios das próximas décadas e esse é um guia inestimável para qualquer pessoa que estiver interessada, confusa, animada ou assustada.

David Shukman, editor de ciência da BBC

À medida que a inteligência artificial conduz o ritmo da automação cada vez mais rápido, é oportuno que nós consideremos em detalhe como isso pode, com o tempo, gerar uma mudança mais profunda em nossas vidas - como a inteligência artificial geral pode verdadeiramente exceder de forma substancial nossas capacidades em todas as áreas de atuação. As oportunidades e desafios desse cenário são intimidadores para a humanidade considerar, quanto mais administrar de uma forma que seja melhor para nós. Nós vimos recentemente um aumento repentino no volume de análises especializadas sobre esse tema; Chace soma-se a elas de forma impressionante, com uma discussão de alta qualidade voltada mais para o público em geral.

Aubrey de Grey, CSO - SENS Research Foundation e ex-pesquisador da área de IA

Calum Chace fornece um resumo claro, simples e instigante das principais posições e ideias sobre o futuro da inteligência artificial geral e seus potenciais riscos.    Para o principiante que busca uma introdução não técnica e imparcial das várias perspectivas, disseminadas indiscriminadamente, sobre essas questões controversas, o livro de Chace oferece um ótimo ponto de partida para a literatura da área. É raro ver um livro sobre o possível fim do mundo que seja divertido de ler sem descer ao nível do sensacionalismo ou da simplificação exagerada e grosseira.

Ben Goertzel, presidente - Novamente LLC

Calum Chace é um mensageiro presciente dos riscos e recompensas da inteligência artificial. Em Sobrevivendo à IA, ele identificou as questões mais essenciais e as desenvolveu com perspicácia e sagacidade - para que a própria propositura das questões auxilie nossa busca pelas respostas. O sensato equilíbrio entre a promessa e o perigo da IA delineado por Chace faz de Sobrevivendo à IA uma excelente cartilha para qualquer pessoa que esteja interessada no que está acontecendo, como chegamos até aqui e para onde estamos indo.

Kenneth Cukier, coautor de Big Data: A Revolution that Transforms How We Work, Live and Think

Se você não está pensando sobre IA, você não está pensando.  Toda empresa precisa avaliar o potencial disruptivo das atuais capacidades da IA; todo formulador de políticas deveria estar se planejando para a combinação entre alta produtividade e a radical perda de empregos; todos deveriam estar cientes de que estamos percorrendo uma estrada nebulosa em direção a tecnologias poderosas e amplamente difundidas.  Sobrevivendo à IA combina uma fundamentação essencial do estado da arte com um levantamento de cenários que serão discutidos com o mesmo vigor em coquetéis e colóquios acadêmicos.

Chris Meyer, autor de Blur, It’s Alive, e Standing on the Sun.

O surgimento do livro de Calum Chace é de uma considerável satisfação pessoal para mim, porque significa que o nível de consciência social de que o desenvolvimento de máquinas extremamente inteligentes (as quais eu chamo de artilectos, artilects no inglês, intelectos artificiais) finalmente atingiu sua terceira fase, que eu chamo de "mainstream". (Fase zero = nenhuma consciência, fase um = intelectuais gritando na selva, fase dois = grupos de ação, fase três = mainstream, fase quatro = política).

Como uma das poucas pessoas que estavam na fase um nos anos 80, afirmo que tem sido uma atividade solitária, então, com o livro de Chace explicando o que eu chamo de debate sobre a dominância das espécies para a audiência de massa, fica claro que a humanidade já entrou na fase três. A clareza prática do estilo de Chace ajudará a guiar a humanidade para o que poderia ser uma fase quatro violenta, real e similar ao filme Transcendence - A Revolução.

Se você quer sobreviver a esta próxima quarta fase nas próximas décadas e preparar-se para ela, você não pode se dar ao luxo de NÃO ler o livro de Chace.

Prof. Dr. Hugo de Garis, autor de The Artilect War, diretor aposentado do Artificial Brain Lab da Universidade de Xiamen, China

Avanços na IA devem afetar o progresso em todas as outras áreas nas próximas décadas. Se esse impulso levar à conquista de um IA forte dentro deste século, então, nas palavras de um líder na área, seria o maior evento na história humana. Agora, portanto, é o momento perfeito para uma discussão cuidadosa sobre os desafios e oportunidades que Chace fornece.

Sobrevivendo à IA é uma introdução clara, bem pesquisada e equilibrada para um assunto complexo e controverso, além de ser uma leitura irresistível.

Seán Ó hÉigeartaigh, diretor executivo - Cambridge Centre for the Study of Existential Risk

Sobrevivendo à IA é bem escrito e apresenta praticamente todos os fatos e informações básicos sem especulação excessiva.

Randal Koene, fundador - carboncopies.org

Sobrevivendo à IA é uma introdução clara, imparcial e atualizada para o debate sobre inteligência artificial e o que ela significará para o futuro da humanidade.

Dan Goldman, palestrante - Intelligent Systems and Networks Group, Imperial College

Um bom panorama geral das diversas questões que envolvem a IA pontencialmente superpoderosa.

Dr. Stuart Armstrong, Future of Humanity Institute

Em Sobrevivendo à IA, Calum Chace fornece um guia maravilhosamente acessível para as reviravoltas da polêmica que envolve a discussão sobre o que é provavelmente o acontecimento mais importante da história humana - o surgimento da superinteligência artificial. Do começo ao fim, Sobrevivendo à IA se mantém claro e livre de jargões, possibilitando aos recém-chegados no assunto entender por que muitos dos pensadores proeminentes se sentiram compelidos a falar publicamente sobre o tema.

David Wood, presidente - London Futurists

Inteligência artificial é a tecnologia mais importante da nossa era.  O desemprego tecnológico pode nos forçar a adotar toda uma nova estrutura econômica e a criação da superinteligência seria o maior acontecimento na história humana.  Sobrevivendo à IA é uma introdução de primeira classe para tudo isso.

Brad Feld, cofundador - Techstars

As promessas e os perigos da superinteligência das máquinas são muito debatidos atualmente. Mas, entre a produção escrita complexa e às vezes esotérica de teóricos e acadêmicos da IA, como Nick Bostrom, e os prognósticos de Elon Musk, Bill Gates e Stephen Hawking destinados à imprensa popular, há uma lacuna. Sobrevivendo à IA, de Calum Chace, preenche essa lacuna perfeitamente. Ele fornece um guia compacto, mas rigoroso para todos os principais argumentos e questões da área. Uma fonte excelente para aqueles que são novos nesse assunto.

John Danaher, Institute for Ethics and Emerging Technologies (IEET)

Calum Chace dá um ar de clareza e equilíbrio para o importante e frequentemente discordante diálogo sobre os benefícios e potenciais perigos da inteligência artificial. É um debate que precisamos ter e Calum é um guia acessível e profícuo.

Ben Medlock, cofundador - Swiftkey

Opiniões sobre Artificial Intelligence and the Two Singularities

––––––––

Persuasivo e baseado em uma pesquisa minuciosa. O argumento principal de Chace parece estar correto: precisamos nos preparar agora para a singularidade econômica ou enfrentar uma séria ruptura da nossa civilização.

Stuart Russell, Universidade da California, Berkeley

Um guia brilhantemente lúcido para a atual situação da IA. Não é um alarme distópico, mas uma convocação para começar a pensar em como lidaremos com isso — um roteiro útil e que entretém.

Mark Mardell, apresentador - BBC Radio Four

Provocativo e oportuno: uma discussão bem-informada e agradável de ser lida que aborda potenciais mudanças econômicas sobre as quais já deveríamos estar pensando.

Margaret Boden, Universidade de Sussex

Calum Chace, um extraordinário pensador e contador de histórias, apresenta uma descrição detalhada, mas fácil de digerir, dos assuntos mais urgentes que envolvem a IA.

Irakli Beridze, Centro de Inteligência Artificial e Robótica, Nações Unidas (UNICRI)

Este livro fornece um recurso valioso, que traça a história da IA e sua atual capacidade. Chace explora minuciosamente o potencial incrível da IA, mas é sábio ao clamar por um planejamento proativo com o objetivo de garantir um resultado positivo.

Ray Eitel-Porter - Accenture

Este é o livro que eu gostaria de ter escrito. Ele oferece uma ótima introdução à IA e desafia todos nós a nos envolvermos proativamente na discussão que precisamos ter sobre nosso futuro.

Shamus Rae, chefe de disrupção digital - KPMG

Este é um guia completo para qualquer pessoa que queira entender a IA e seu impacto no nosso futuro. Como sempre, Calum sintetiza conceitos técnicos e filosóficos complexos e os torna maravilhosamente acessíveis.

Daniel Hulme, CEO - Satalia

Eu fortemente recomendo a leitura de AI and the Two Singularities. O estilo da escrita é claro e agradável e o conhecimento de Calum na área é verdadeiramente notável.

Simon Thorpe, diretor - Toulouse Mind & Brain Institute

Sobre o autor

––––––––

Calum Chace é um autor best-seller de livros de ficção e não ficção, com enfoque no tema da inteligência artificial. Ele frequentemente realiza palestras sobre inteligência artificial e tecnologias afins e mantém um blog sobre o assunto (www.pandoras-brain.com).

Antes de se tornar um escritor em tempo integral, Calum teve uma carreira de 30 anos no jornalismo e no setor empresarial, em que desempenhou as funções de profissional de marketing, consultor de estratégia e CEO.

Há muito tempo atrás, Calum estudou filosofia na Universidade de Oxford, onde descobriu que a ficção científica que ele lia desde a infância é, na verdade, filosofia enfeitada.

––––––––

Outras obras de Calum Calum Chace

Stories From 2045 (editor e colaborador)

Artificial Intelligence and the Two Singularities

Our Jobless Future

The Economic Singularity

Pandora’s Brain

The Internet Startup Bible (coautor)

The Internet Consumer Bible (coautor)

Para Julia e Alex

SOBREVIVENDO À IA, 3a edição

Um livro de Three Cs

ISBN 978-0-9932116-3-8

Primeira edição publicada em 2015 por Three Cs

Segunda edição publicada em 2018 por Three Cs

Terceira edição publicada em 2020 por Three Cs

Copyright © Calum Chace 2015, 2018, 2020

Capa e design interno © Rachel Lawston

Lawston Design, www.lawstondesign.com

Fotografia © iStockphoto.com and Shutterstock.com

Todos os direitos reservados

O direito de Calum Chace de ser considerado autor deste livro foi assegurado por ele em concordância com o Copyright, Design and Patents Act 1988

Introdução

––––––––

Inteligência artificial (IA) é a tecnologia mais poderosa da humanidade.  Ela está se tornando mais poderosa a uma velocidade exponencial.

Para a maioria de nós, a manifestação mais óbvia da IA atualmente é o smartphone.  Nós já estamos tão acostumados com sua presença que já nem notamos, mas muito de nós vivemos grudados a eles: eles trazem o conhecimento do mundo para a ponta de nossos dedos, assim como também nos trazem angry birds e zumbis.  Eles categoricamente não são apenas um luxo para as pessoas de um país desenvolvido: eles oferecem sistemas de pagamento inteligentes, educação e informação sobre o mercado que permitem às pessoas de mercados emergentes competir e participar do mundo moderno.

A evolução dos smartphones até agora nos oferece uma analogia intrigante para o desenvolvimento da IA no futuro.  Ninguém sugeriu há trinta anos que nós teríamos poderosas IAs nos nossos bolsos em forma de telefones, mas agora que isso já aconteceu, parece óbvio e completamente lógico.  Nós somos animais altamente sociais.  Por termos uma linguagem, nós conseguimos comunicar ideias complexas, sugestões e instruções; podemos trabalhar conjuntamente em grandes grupos, organizar e produzir excedentes econômicos e desenvolver tecnologias.  É por causa da nossa incomparável habilidade de comunicação que nós controlamos o destino deste planeta e de todas as espécies nele.  Isso não foi e não poderia ter sido previsto com antecedência, mas, olhando para trás, o que seria mais lógico do que a nossa mais poderosa tecnologia, IA, estar disponível na forma de um equipamento de comunicação?

Há trinta anos, não sabíamos como o mercado do telefone celular se desenvolveria. Hoje, não sabemos como a disrupção digital, que está transformando muitas indústrias, evoluirá nos próximos trinta anos. Não sabemos com certeza se o desemprego tecnológico será um resultado da automação dos postos de trabalho causada pela IA ou se a automação facilitará a criação de novos empregos, da mesma forma como tem sido desde muito antes do início da revolução industrial. Qual é o equivalente do fenômeno do smartphone para a disrupção digital e a automação? É provável que seja algo diferente do que hoje a maioria das pessoas espera, mas, olhando em retrospectiva, parecerá completamente natural e previsível.

Fazer previsões é arriscado, especialmente quando dizem respeito ao futuro, mas esse livro descreverá uma série de desafios formidáveis que a IA apresentará, junto com seus enormes benefícios. Ele argumentará que devemos monitorar mais de perto as mudanças que estão acontecendo e que devemos desenvolver uma série de opções de políticas para assegurar os melhores resultados possíveis. A gama de possíveis resultados é grande, do terrível até o maravilhoso, e eles não são predeterminados. Eles serão selecionados parcialmente por sorte, parcialmente por lógica interna própria, mas também em parte pelas políticas adotadas por todos os níveis da sociedade.

Indivíduos devem se preparar para ser o mais flexíveis possível para enfrentar os desafios de um mundo que muda rapidamente. Organizações precisam tentar antecipar as mudanças mais relevantes para elas e adaptar suas estratégias e táticas de acordo. Os governos devem estabelecer regulamentações que encorajem os melhores resultados e evitem os piores. Eles também devem, até certo ponto, empregar os enormes recursos financeiros e humanos à sua disposição, embora, dada a incerteza sobre os futuros desenvolvimentos que prevalecerão em todas as etapas, eles devem ser cautelosos quanto a isso.

Automação e superinteligência são duas forças que já podemos ver serem prováveis causadoras de enormes impactos. Muitas pessoas permanecem céticas sobre uma ou ambas e é claro que ninguém sabe ao certo como elas se desdobrarão, mas seria muito imprudente ignorá-las.

A automação pode ter como consequência o que eu chamo de singularidade econômica. Singularidade é um termo emprestado da matemática e da física e significa um ponto onde a variável torna-se infinita e, como resultado, as regras gerais não são mais aplicáveis.[i] Uma singularidade econômica poderia resultar em uma elite que possui os meios de produção e que restringe o restante de nós a um regime autoritário tecnológico e distópico. Ou nos levar a uma economia de abundância radical, na qual ninguém tem que trabalhar para viver e somos todos livres para nos divertir, expandir a mente e desenvolver nossas faculdades ao máximo. Eu espero e acredito que a última seja possível, mas talvez precisemos influir nos eventos. Eu abordo esse assunto em um livro complementar, The Economic Singularity.

A chegada da superinteligência, se e quando acontecer, representaria uma singularidade tecnológica (referida geralmente apenas como a singularidade) e seria, sem exceção, o acontecimento mais