O cérebro e o robô: Inteligência artificial, biotecnologia e a nova ética

De João de Fernandes Teixeira

Nos últimos dois séculos, o crescimento econômico, aliado ao progresso tecnológico, foi considerado um caminho indiscutível para o bem-estar, a saúde e a conquista de mais tempo para o lazer. Muitas pessoas acreditaram que a ciência e a tecnologia nos tornariam livres e felizes, e que isso se reverteria no aperfeiçoamento social e ético dos povos. No começo do século XXI, essa perspectiva mudou. A inteligência artificial, a nanotecnologia e a biotecnologia poderão produzir mudanças tão radicais que poderão pôr em risco a própria sobrevivência da humanidade. Testar essas hipertecnologias pode comprometer, de modo irreversível, o meio ambiente e a economia das sociedades nas próximas décadas.



A inteligência artificial pode tornar o ser humano descartável, a biotecnologia pode intervir de forma desastrosa no curso da evolução, e a nanotecnologia pode levar à destruição da atmosfera. Novos dilemas éticos surgirão com essas hipertecnologias, e não estamos preparados para enfrentá-los. A tecnologia é um fenômeno planetário irreversível que tem sua história própria. Precisamos reconstruir nossa relação com ela e perceber que, embora já não possamos controlá-la, podemos pelo menos influenciar seu desenvolvimento para que ela não se volte contra nós.

• Idioma: Português
• Editora: Paulus Editora
• Data de lançamento: 6 de jan. de 2016
• ISBN: 9788534942980

João de Fernandes Teixeira

João de Fernandes Teixeira é um dos pioneiros da filosofia da mente no Brasil. Bacharel em filosofia pela USP e mestre em filosofia da ciência pela UNICAMP é também PhD pela University of Essex, na Inglaterra. Fez pós-doutorado nos Estados Unidos, sob orientação de Daniel Dennett. Foi colaborador do Instituto de Estudos Avançados da USP e lecionou em várias universidades brasileiras como a UNESP, a UFSCar e a PUC-SP. Publicou 14 livros na área de filosofia da mente e ciência cognitiva. Mantém a página Filosofia da Mente no Brasil no Facebook.

Pré-visualização do livro

AGRADECIMENTOS

À minha ex-aluna e amiga Suely Molina, pelas sugestões. Ao meu ex-aluno e amigo André Sathler Guimarães, pelas críticas sempre construtivas. Ao meu amigo Gustavo Leal-Toledo, que generosamente leu e comentou a primeira versão deste livro.

A Paula Felix Palma, pela revisão cuidadosa do texto.

À minha esposa, Malu.

A Lili, minha assistente.

No estágio atual do mundo, o controle que temos das energiasfísicas, do calor, da luz, da eletricidade etc., sem o controle do uso de nós mesmos, é algo muito arriscado. Sem o controle de nós mesmos, o uso de todas as coisas é cego.

John Dewey

PREFÁCIO

Este é um livro de filosofia que não é dirigido apenas para filósofos. É um longo ensaio no qual se esboça uma reflexão sobre a relação do homem com a tecnologia, um dos problemas que se tornaram cruciais no início do século XXI.

As novas hipertecnologias, como a inteligência artificial, a nanotecnologia e a biotecnologia, prometem ajudar na superação de vários problemas que podem comprometer a sobrevivência da espécie humana nas próximas décadas, como o aquecimento global, as novas doenças que se originam do aumento da longevidade e a qualidade da alimentação num planeta superpovoado.

Contudo, o que pode nos salvar pode também nos aniquilar, pois a instauração dessas hipertecnologias envolve riscos sobre os quais não temos pleno controle. Várias encruzilhadas se colocam à nossa frente; algumas das quais podem levar a becos sem saída. A certeza otimista e reconfortante de que a expansão da tecnologia sempre trará benefícios para a humanidade não existe mais.

Não podemos mais nos refugiar sob a ideia de que há limites intransponíveis para a tecnologia, o que poderia aliviar essa preocupação. A tecnologia sempre prosseguirá e é difícil resistir às suas tentações.

O sonho da replicação do ser humano será atingido nas próximas décadas pela inteligência artificial, que, unida à biotecnologia, produzirá seres artificiais conscientes, mesmo sem poder compreender ainda a natureza da consciência humana. Robôs associados a cérebros humanos abrirão caminho para a inteligência artificial biológica, um novo programa de pesquisa para o qual convergem a robótica e a neurociência.

Não sabemos como conviveremos com a presença dessas novas criaturas no século XXI. Sua existência trará modificações profundas na antropologia e na filosofia, especialmente na discussão de questões éticas que se tornaram um problema mais urgente do que a ameaça de uma guerra nuclear ou do aquecimento global.

Não tratamos, aqui, do futuro, mas apenas das bordas do presente. É difícil pensar além do presente, pois ele se tornou tão opressivo que nos impede de vislumbrar cenários futuros. Por isso, além da filosofia, utilizamos a ficção científica como uma sentinela avançada para sondar algumas paisagens insólitas nas quais a razão, forçada a seus extremos, se enreda com o fantástico.

INTRODUÇÃO

Muitas vezes, quando nos aventuramos pela filosofia, temos a impressão de ter embarcado numa nau de marinheiros insensatos em busca de uma ilha do tesouro cheia de relíquias ancestrais. Depois de percorrer o mundo e visitar muitos arquipélagos, voltamos com o porão vazio ao mesmo lugar do qual partimos, pois, afinal, a terra é redonda. Contudo, por mais paradoxal que pareça, é a frustração que torna essa viagem fascinante, pois o ponto de partida ao qual se retorna nunca mais será o mesmo. Quando o exilado retorna, seus olhos não encontram mais a terra de onde ele partiu, embora, muitas vezes, ela tenha permanecido igual. São os relatos dessas viagens aos confins do pensamento, nas quais se misturam razão e insensatez, que compõem as narrativas de filósofos consagrados como Descartes, Kant e Wittgenstein, que até hoje nos impressionam por seu brilho e nos cativam com uma atração irresistível.

Muitas pessoas acreditam que a filosofia não existe mais ou que se tornou inútil. Entretanto, a filosofia, na verdade, nunca esteve tão presente em nossas vidas. Se vivemos na era digital, isso se deve não apenas ao fato histórico de a ciência ter se desenvolvido como uma ramificação da filosofia, mas também porque o pensamento de filósofos do passado permitiu que o mundo digital florescesse, mesmo que somente quatrocentos anos após as reflexões sobre os autômatos (os robôs, naquela época). Se hoje podemos passar grande parte do dia flutuando numa bolha virtual, e se a internet se tornou uma das características distintivas do próprio ecossistema humano, isso se deve à reflexão filosófica de René Descartes, no século XVII, continuada, posteriormente, nas obras de Charles Darwin, no século XIX, e nas de Alan Turing, no século XX.

Turing completou a trajetória iniciada por Descartes, que culminou com a invenção do computador digital. Esse dispositivo marca o início da pós-modernidade e da completa digitalização de nossa representação do mundo. O processo de digitalização tornou a tecnologia um fenômeno planetário tão esmagador que não há mais como evitá-lo. No século XXI, já não existe nenhum país que não se utilize de algum tipo de tecnologia digital, nem mesmo aqueles caracterizados como sociedades pré-tecnológicas, nas quais predomina a mais insuportável miséria. Algumas tecnologias convivem bem com a miséria, ou seja, seu uso não é, necessariamente, acompanhado por benefícios sociais ou morais. Até agricultores que ainda usam cavalos ou jegues para puxar seus arados usam celulares para falar e enviar mensagens.

As sociedades contemporâneas se tornaram totalmente dependentes da internet. Governos, corporações, transações econômicas e bancárias, atualizações de dados em prontuários de hospitais, elaboração de jornais e de programas de televisão, enfim, tudo que envolve algum tipo de fluxo de símbolos depende da internet. Ela se tornou uma espécie de sistema nervoso do planeta. Não estamos preparados para o caso de essa gigantesca rede de informação entrar em colapso. Pequenas amostras do que esse colapso poderá significar podem ser notadas nas falhas na rede que ocorrem diariamente e que já são suficientes para gerar muita ansiedade. Caixas eletrônicos saem do ar, transações bancárias são interrompidas pela sobrecarga e há sempre notícias de ataques de piratas cibernéticos que invadem sites ou roubam senhas, inclusive de órgãos governamentais supostamente protegidos, como a NASA.

Essa situação de dependência vem produzindo uma inversão peculiar em nossa relação com a tecnologia. Ela já não é mais adaptada a nós, seres humanos. Ao contrário, estamos cada vez mais nos adaptando a ela, como já notaram alguns filósofos da tecnologia no século XX. Passamos os dias atrelados a máquinas, pois elas se tornaram a interface inevitável com o mundo. As máquinas não são mais nossa extensão, nós é que nos tornamos extensões delas. Tornamo-nos periféricos em relação à tecnologia que criamos; componentes biológicos das máquinas que inventamos, ou apenas seus cuidadores. A tecnologia adquiriu vida própria e passou a coordenar o ritmo das sociedades humanas. Não é por acaso que, atualmente, há um temor de que, no futuro, as máquinas se apoderem ainda mais de nós e que passem a controlar nossa imaginação e delimitar nossas experiências subjetivas.

Adaptamos nossos corpos para dirigir carros, guindastes e empilhadeiras, o que tem levado à atrofia de nossos músculos, que precisa ser compensada por exercícios regulares. O que ocorrerá no caso das tecnologias mentais, que substituirão nosso raciocínio, memória e capacidade de calcular? A convivência quase ininterrupta com o mundo virtual se tornou um desafio para a plasticidade do cérebro humano, que precisa se reconfigurar com mais agilidade.

A tecnologia nos desacopla da natureza de forma radical. Faz tempo que a perdemos de vista. A natureza se tornou, no máximo, uma palavra da qual só nos lembramos quando ocorrem grandes catástrofes, como terremotos e tsunamis, que, nos lapsos de pensamento animista, julgamos ser uma espécie de vingança do planeta contra a devastação ambiental: a vingança de Gaia.

Nessa nova era, a tecnologia, quando se afasta da ciência e da filosofia, que contribuíram para a sua constituição, transforma-se em tecnociência. Mas, se a filosofia deu origem à ciência, vivemos agora um fenômeno ainda mais curioso: é a tecnologia que, tornando-se praticamente autônoma, passa a orientar os temas sobre os quais os filósofos se debruçam no século XXI. Hoje em dia, a aparição de novos produtos tecnológicos precede a nossa capacidade de poder pensar neles e refletir sobre suas consequências, o que leva a uma inversão histórica. É a tecnologia que compõe a agenda da filosofia, que também teria se tornado refém da explosão tecnológica.

Com suas novas e incessantes inovações, a ciência e a tecnologia passaram a antecipar os temas da reflexão filosófica contemporânea. Exemplos típicos dessa situação são os dilemas éticos que surgem com a inteligência artificial e com a biotecnologia, além, é claro, dos que começam a aparecer da mistura entre ambas.

Contudo, a ciência e a tecnologia ainda não conseguiram se livrar da filosofia e tropeçam nela. Certamente, a ciência já não precisa ser precedida pela filosofia. Mas a filosofia reaparece onde a ciência parece terminar. As realizações no campo da genética, das biociências e da inteligência artificial transbordaram em direção à filosofia, apesar de a física e a neurociência terem tentado substituí-la ou até mesmo suprimi-la. Tudo se passa como se tivéssemos arremessado um bumerangue e, agora, as questões colocadas pela tecnologia estivessem respingando de volta na filosofia, sobretudo na forma de questões e conflitos éticos.

Essas novas realizações nos forçam a repensar a posição do homem no universo, pois, paradoxalmente, no mundo que criamos para nós, através da ciência e da tecnologia, não encontramos mais nosso lugar. Como a nau dos marinheiros insensatos, que, depois de dar a volta na Terra, regressa ao ponto de partida, a filosofia volta à cena, mas agora numa situação na qual se quer fechar a porteira depois que o cavalo escapou.

No século XX, a filosofia se tornou uma atividade acadêmica profissional, mas são os próprios cientistas ou tecnólogos que se puseram, na maioria dos casos, e muitas vezes de forma filosoficamente ingênua, a refletir sobre o que estão fazendo. Os filósofos profissionais perderam espaço para a ficção científica, que passou a ser a grande guia da agenda futura da ciência, lançando memes que potencializam o presente. É a partir da ficção científica que se torna possível vislumbrar e discutir as consequências e dilemas éticos para os quais a tecnologia nos conduz.

A inteligência artificial, iniciada com as descobertas matemáticas pioneiras de Alan Turing, é a disciplina mais importante do mundo contemporâneo. No século XX, todas as ciências passaram a depender da tecnologia da informação. A neurociência, que hoje desfruta de lugar de destaque na mídia, não teria se desenvolvido nas últimas décadas sem seus novos instrumentos de observação do cérebro em funcionamento, como é o caso da neuroimagem. Porém esses instrumentos, por sua vez, só se tornaram possíveis graças ao desenvolvimento do computador digital e das tecnologias de informação que o acompanharam. Nesse sentido, as discussões em torno da inteligência artificial continuam a polarizar as reflexões filosóficas, incluindo a nova agenda que a ética tem de enfrentar.

Na década de 1990, a inteligência artificial passou por uma espécie de inverno prolongado, quando se pensou que a elaboração de modelos computacionais da mente e da inteligência humana deveria ceder lugar à pesquisa em neurociência. Foi a década do cérebro, na qual parecia haver um consenso de que a neurobiologia era a ciência privilegiada para desvendar o funcionamento da mente e da consciência.

O inverno da inteligência artificial ocorria também por outras razões. Após décadas de pesquisa, que se iniciaram depois da Segunda Guerra Mundial, os modelos computacionais da mente ainda não eram capazes de simular a linguagem humana, e a possibilidade de criar robôs conscientes estava se tornando um sonho cada vez mais remoto, além de extraordinariamente caro. A inteligência artificial, definida por um de seus pioneiros, Marvin Minsky, como a ciência de construir máquinas capazes de fazer operações que, habitualmente, requerem inteligência humana para ser executadas, não cumprira suas promessas. Não se vislumbrava como, por meio de modelos computacionais, seria possível responder às questões fundamentais da filosofia da mente, ou seja, saber como o mental poderia emergir do físico através de simulações computacionais.

No início da década de 1980, os pesquisadores da inteligência artificial foram aturdidos pelas objeções do filósofo americano John Searle, em especial pelo que mais tarde ficou conhecido como seu argumento do Quarto Chinês. Era um impasse que, ao mesmo tempo, mostrava os limites da inteligência artificial e, por outro lado, suas pretensões de replicar a vida mental humana. A mente humana não podia ser apenas um programa de computador, pois haveria uma barreira intransponível. Searle argumentava que uma simulação computacional da mente humana nunca poderia replicar o significado que o cérebro humano atribui aos estados mentais. Programas de computador só poderiam seguir, cegamente, as regras estabelecidas por um programador.

Searle imaginou uma pessoa trancada em um quarto sem portas nem janelas, com apenas duas portinholas em paredes opostas. Essa pessoa só conhecia o português, mas lhe era