O mundo como uma imensa teia de coreografias de existências em que os seres constituem-se mutuamente e ao mesmo tempo constroem o futuro. Para alianças com aqueles que não pensam como nós, que não pensam como humanos, ou que não pensam, precisaremos ser, além de eticistas-bricoleurs, coreógrafos.

Renzo Taddei, Piseagrama n.14, 2020

Estamos em um momento de transição, e uma quantidade significativa dos fundamentos materiais de nossa percepção – o que nos dá a certeza de que as coisas são como são e que amanhã continuarão sendo o que sempre foram – está se transformando. Isto já estava claro antes mesmo da pandemia de coronavírus. Ocorre, no entanto, que sequer somos capazes de determinar, de forma inequívoca, a direção que as coisas estão tomando: o mundo parece andar para frente e para trás ao mesmo tempo. Na ausência de certeza a respeito do devir, o essencial talvez seja colocar atenção na forma como caminhamos.

Para ilustrar essa confusão a respeito de como entendemos o presente, cito dois autores de imenso sucesso editorial, o psicólogo norte-americano Steven Pinker e o historiador israelense Yuval Harari, que recentemente publicaram ideias que desafiam o senso comum mais progressista.

No livro Os bons anjos da nossa natureza, Pinker argumenta que nunca houve momento melhor para se ser humano. A obra mostra, com estatísticas, tabelas e gráficos, que os níveis de violência são hoje, em geral, os mais baixos registrados. O século XX, considerado o mais sangrento da história, está longe de sê-lo, e a 2ª Guerra Mundial aparece apenas em nono lugar na lista de conflitos mais mortais. Após a 2ª Guerra, a quantidade de mortes violentas, que já vinha caindo desde pelo menos o século XIV, despencou; o uso legal da tortura como instrumento de Estado praticamente desapareceu; não há mais países onde a escravidão é legalizada; minorias ganharam direitos; a violência doméstica diminuiu; fala-se globalmente em direitos humanos e em direitos dos animais. Mas isso não quer dizer que as coisas não possam retroceder, diz Pinker.

O segundo livro é Homo Deus, de Harari. O autor abre o livro argumentando que as três grandes calamidades que assolaram a imaginação humana ao longo de toda a história da espécie – fome, epidemias e guerras – foram finalmente controladas no final do século XX. Para a maior parte da população do planeta, pela primeira vez na história nenhuma das três é entendida hoje como inevitável.

Isso tudo não parece estar em franca oposição com o que se vê nos jornais, todos os dias? Um dos paradoxos que caracterizam o momento presente é exatamente o fato de estarmos o tempo todo indignados com o melhor mundo que a humanidade já produziu. Ocorre que é exatamente a percepção de que as violências do mundo não são inevitáveis que produz nossa indignação. Este é elemento inédito: a ubiquidade de deuses e santos ligados à chuva, às doenças, às colheitas e à proteção, de forma geral, ao longo da história, denota a percepção de que os soberanos tinham pouco controle sobre essas coisas. Se você acha que todo evento de epidemia de fome foi uma construção política deliberada, você está projetando seu contexto presente sobre o passado. Ao longo dos milênios, pessoas morreram sistematicamente até sob os melhores soberanos disponíveis. Hoje, ainda que queira, a maioria dos psicopatas que chega ao poder não é capaz de aniquilar as populações que elegem como bode expiatório, e isto se dá, dentre outras coisas, em função das interconexões planetárias dos sistemas políticos, militares, econômicos e comunicacionais. Ou seja, enquanto no passado os virtuosos não eram capazes de evitar calamidades, hoje os psicopatas não são capazes de produzi-las facilmente. Como diz Harari, é apenas no atual nível global de produção de riqueza e distribuição de bens e serviços que os eventos de epidemia de fome e as guerras passaram a ser “construções políticas”.

Ambos os autores exageram na história com H maiúsculo. Sabemos que o mundo real é bem mais complexo. Meu intuito em mencioná-los é argumentar que a ideia de que vivemos um momento de transformação parece emergir em diversas áreas do pensamento – até mesmo em áreas das humanidades pautadas pela agenda positivista. Além disso, as avaliações de Pinker e Harari quanto ao passado recente emprestam cores especiais aos desafios que estão por vir: da mesma forma como o oxigênio nos dá a vida e, ao mesmo tempo, nos mata (porque oxida nossas células), a modernidade que nos livrou das grandes calamidades apresenta, como contrapartida, um planeta em processo acelerado de devastação. É aqui que as coisas dão a impressão de estarem andando para trás enquanto andam para frente. E quando isso acontece, o problema quase sempre está na forma como medimos e avaliamos o desenrolar das coisas.

O que parece inegável é que somos hoje capazes de uma percepção imensamente mais complexa de nossas realidades – como etnia, raça, grupo religioso, grupo de interesse econômico, ativistas políticos, sujeitos de governos nacionais, sujeitos de ordens econômicas transnacionais, atores de dramas políticos intercontinentais, espécie. Não se trata, necessariamente, de sabermos mais, mas apenas de que as várias formas institucionalizadas de percepção e reflexão produzem um cenário mais complexo, em que o mundo não é mais o mesmo que Galileu, Newton, Boyle, Arrhenius ou Einstein tinham em mente; ou que imaginavam Darwin, Wallace, Mendel ou Rosalind Franklin; ou, ainda, Montaigne, Rousseau, Marx, Durkheim, Wittgenstein, Bourdieu ou Foucault. Quanto mais complexidade percebemos, mais evidente fica que não estamos no controle do desenrolar das coisas. Talvez nada tenha feito isso mais claro do que a epidemia de coronavírus.

Uma singularidade parece pairar no horizonte, e não é o sonho romântico dos cientistas de computação, no qual os computadores transformam-se em seres conscientes e capazes de ação política. A singularidade é apenas pressentida; não é possível descrevê-la. Não temos sequer como dar conta, com o nível de eficácia de que gostaríamos, do mundo que nos cerca. Trata-se de um futuro a ser construído, e por isso a singularidade não está dada.

O que parece certo é que a novidade tem dois elementos que a estruturam: o Antropoceno e a inteligência artificial. O Antropoceno refere-se à nomeação de uma nova era geológica – em curso – na qual os efeitos da ação humana deixam marcas nos sistemas geológicos, biológicos, atmosféricos e hidrológicos, de modo inédito e não intencional. O antropos, aqui, não se refere à razão iluminista, mas, sim, ao que a humanidade que se sonhou iluminada produz e destrói sem se dar conta: um elefante em uma loja de cristais é o que somos. A emergência ambiental é uma das formas como o Antropoceno se manifesta. Não será possível habitar o futuro sem que sejamos capazes de reconstituir, de forma profunda, nossos modos de existência e sua relação com os demais seres do planeta; e o faremos, necessariamente, às apalpadelas.

Muito se tem escrito sobre o Antropoceno. Por isso, me deterei com mais calma no segundo elemento desta equação: as transformações radicais na tecnosfera, com o advento da inteligência artificial.

Nos idos de 1970 e 1980, o desafio era construir máquinas capazes de mimetizar habilidades cognitivas humanas – e os engenheiros mostravam-se persistentemente ineficazes quanto a isto. Essa incapacidade alimentou as indústrias culturais com fantasias de todos os tipos – na imaginação de um futuro em que a automação seria a plataforma sobre a qual todas as atividades domésticas e produtivas se desenvolveriam, deixando o humano livre para dedicar-se a suas confusões e intrigas; ou em cenários distópicos em que a máquina manifesta capacidades indesejadas e impõe restrições à liberdade humana.

O que começa a ocorrer a partir da virada do milênio é a transformação desse panorama: os efeitos da Lei de Moore – que prevê que a capacidade de computação dobre a cada dois anos, a partir da década de 1970, em razão da miniaturização e dos circuitos integrados – fizeram com que a humanidade finalmente fosse capaz de construir máquinas potentes o suficiente para mimetizar, e superar, as capacidades humanas de raciocínio.

Em 1997, o programa Deep Blue, da IBM, venceu o campeão mundial de xadrez, Gary Kasparov. As pesquisas em inteligência artificial deixaram de produzir máquinas antropomórficas e passaram a construir programas capazes de perceber a realidade através de sensores ou entrada de dados, como parte da tarefa de resolver problemas. O passo seguinte foi programar o computador para “aprender” com esses dados, ou seja, buscar padrões e elaborar modelos. Surgem as tecnologias de “aprendizado de máquina” (machine learning). Essa capacidade de elaborar modelos foi acoplada a formas complexas de modelagem, os modelos neurais, surgindo assim a “aprendizagem profunda” (deep learning). É nesse ponto que as coisas começam a ficar interessantes – e assustadoras.

Os computadores passaram a criar programas, ou seja, a se autoprogramar. A autoprogramação mostra-se ferramenta poderosíssima na solução de problemas complexos, uma vez que ocorre ao mesmo tempo que o computador continua a coletar dados e a construir modelos. A parte assustadora é que, muito rapidamente, os computadores começam a fazer coisas que os engenheiros não entendem.

É curioso que o cenário atual não tenha qualquer paralelo com os sonhos ou pesadelos tecnológicos do passado. Não há nada que remeta à cena no filme Matrix, na qual o agente Smith, um programa da matriz, diz ao acorrentado Morpheus que os humanos são como um vírus que destrói tudo com o que se relaciona – sugerindo, assim, uma espécie de “fundamento moral” para sua escravização. As máquinas continuarão a ser incapazes de julgamento moral, e isto torna a questão mais complicada e perigosa do que o cenário apresentado em Matrix. O que o filme retrata é o conflito entre humanos e máquinas reproduzindo os dilemas milenares da política como os humanos a entendem.

O que gente como Stephen Hawking, Elon Musk, ou Bill Gates tem dito é que a questão é muito mais complexa: as máquinas podem literalmente destruir as bases da existência da política, por não serem capazes de operar “politicamente”. Nas palavras de Sam Harris, no momento em que as máquinas tomam o controle e se tornam mais inteligentes do que os humanos, a “explosão de inteligência” criará máquinas tão poderosas que divergências minúsculas entre como humanos e máquinas interpretam comandos simples podem exterminar os primeiros.

Nick Bostrom oferece uma analogia interessante: imagine que um programador dá a uma máquina superinteligente um problema matemático muito difícil. A máquina pode concluir, na tentativa de solução do problema, que precisa de mais poder computacional, e aumentar seu tamanho até transformar tudo em um imenso computador, causando o colapso da biosfera.

Há quem diga que tais problemas foram conceitualmente resolvidos por Isaac Asimov, em seu livro de 1942, Eu, robô, com as três leis da robótica: 1) um robô não pode ferir um ser humano, nem deixar que este seja ferido pela inação do robô; 2) um robô deve obedecer aos seres humanos, exceto quando isto está em conflito com a primeira lei; e 3) os robôs devem proteger a própria existência, exceto em casos em que isto esteja em conflito com a primeira e a segunda leis. O que não é considerado, nesse caso, é o fato de que não há como definir de maneira inequívoca o que é um ser humano e o que significa “ferir”. Alguém poderia dizer que o DNA é uma assinatura inequivocamente humana. O problema é que a vida humana depende dos milhões de bactérias presentes no intestino, nenhuma das quais possui DNA humano, e este é apenas um exemplo de como são importantes as relações simbióticas, dentro das quais a própria definição do que é um organismo é ambígua.

Uma solução possível seria fazer com que a superinteligência fosse programada para pautar-se pelos nossos valores. Mas repete-se, aqui, o problema: a heterogeneidade das culturas não está se reduzindo, e definir quais são “nossos valores” está longe de ser tarefa elementar. O caso mais notório é o de Tay, experimento de inteligência artificial da Microsoft que, em menos de 24 horas de “vida social” no Twitter, começou a expressar comportamentos racistas. A incapacidade de julgamento moral das máquinas faz delas plataformas para que os problemas da moralidade humana sejam potencializados, e não reduzidos.

Não seria isso tudo alarmismo injustificado? Afinal, o mundo de hoje não é como as pessoas, há cinquenta anos, imaginavam que seria, quando o trabalho humano teria sido substituído por máquinas. Hannah Arendt, em 1958, abre o livro A condição humana com a observação de que, no momento em que toda a humanidade havia – finalmente – sido transformada em uma imensa massa de trabalhadores, a automação ameaçava pôr tudo em risco, o que, na percepção da filósofa, prefigurava crise em proporções inéditas. Ocorre que, seis décadas depois, grande parte da tecnologia imaginada pela ficção científica dos anos 1950 existe e está disponível; no entanto, a exploração da mão de obra humana é mais barata do que a automação, e não há razão para esperar que o sistema econômico adote novas tecnologias apenas porque são interessantes.

Mas as coisas estão mudando. A automação passa por intenso processo de barateamento, e em razão disto a quantidade de situações da vida cotidiana organizadas por automação e inteligência artificial cresce de forma exponencial. Dentro do mundo da ciência e da tecnologia, o uso de plataformas digitais e/ou o barateamento de equipamentos digitais produz bases imensas de dados, os chamados big data; a única forma de uso produtivo destas bases enormes é, justamente, através do uso de algoritmos de computadores que usam inteligência artificial.

É nesse contexto que Harari diz que pelo menos duas ocupações profissionais serão consideradas arriscadas no futuro, a ponto de serem proibidas: a condução de automóveis e a elaboração de diagnósticos médicos. Em ambos os casos, as máquinas farão o trabalho de forma mais barata, segura e eficiente. Não é difícil aceitar o que propõe Harari. Menos intuitivo é o fato de que quase todas as atividades do que atualmente se considera o “método científico” – organizar o mundo de modo a gerar dados numéricos, e posteriormente procurar padrões para embasar explicações causais, ou seja, a criação de modelos conceituais ou numéricos da realidade – serão feitas com rapidez e eficiência por máquinas.

É possível que a profissão de cientista, como a entendemos hoje, se una à de motorista e à de médico clínico dentro do grupo de atividades que serão lembradas apenas em museus de profissões do passado. A universidade, no Brasil, no resto da América Latina, nos Estados Unidos ou na Europa, não está preparada, e sequer está se preparando, para essa transição. O que se vê são lampejos de intuição em que cientistas expressam sua ansiedade, na forma psicanalítica da fantasia romântica, na qual se imaginam como heróis salvadores da humanidade – como se vê na capa da revista Nature, edição de 17 de setembro de 2015.

Thomas Edison disse prosaicamente que a inovação científica se faz com 99% de transpiração e 1% de inspiração. No futuro que se anuncia, os cientistas deixarão de ser os operários dos dados que são hoje, e terão que se contentar com o 1% que lhes sobra. Ocorre, no entanto, que Edison estava equivocado em sua equação: uma variável que sempre esteve presente no trabalho científico, ainda que de forma marginal, é a sua dimensão ética. E é esse o elemento que será o mais importante no futuro, tanto na ciência como em todas as demais áreas de ação humana no mundo. Todos seremos filósofos.

Poucos cientistas têm habilidades reflexivas para engajar-se em debates éticos, e isto é um problema de imensa magnitude. Um exemplo disso reside no fato de que a imensa maioria dos cientistas e engenheiros rejeita a afirmação de que “é eticamente óbvio que nem todo conhecimento ou tecnologia que pode ser produzido deve sê-lo”, a despeito de ela refletir exatamente a mensagem dos filósofos que se dedicam a pensar a inteligência artificial, a energia nuclear ou a geoengenharia.

A ideia não é que cientistas e engenheiros desaparecerão, mas que a natureza de seu trabalho mudará. Uma competência – e uma habilidade – necessária a eles (e a todas as pessoas do planeta) será a de atuar como eticistas. Seu trabalho não será apenas o de construir as bases conceituais para a inovação, mas principalmente o de avaliar suas implicações éticas, seus riscos e impactos, estando preparados para descartar as mais inspiradoras das ideias; levarão em conta uma quantidade imensamente maior de variáveis, comparando-se com as atuais formas de avaliação de impacto e risco. Paradigmas pós-newtonianos e pós-darwinistas conformarão as relações entre os seres vivos. Ironicamente, isso cria paralelos interessantes com Isaac Newton: os cientistas passarão a ser filósofos naturais. Caso contrário, serão uma ameaça à existência da própria espécie.

Um indicador do quão complexo é o futuro é o fato de que não seremos capazes de lidar com os efeitos e sintomas do Antropoceno sem as ferramentas da inteligência artificial. Na verdade, não se trata de uma situação futura, mas presente: o descomissionamento do reator 4 da usina nuclear de Fukushima-Daiichi foi considerado por Charles Perrow, o pai da “teoria dos acidentes normais”, a mais arriscada tarefa tecnológica que a humanidade já teve de enfrentar – e ela não pode ser levada a cabo por seres humanos, apenas por máquinas, devido ao ambiente radioativo inóspito dentro do reator. O mesmo se dá com a corrida pelo desenvolvimento de medicamentos e vacinas para a epidemia de covid-19: o uso da IA irá reduzir o tempo da avaliação de substâncias e princípios ativos, literalmente salvando milhões de vidas. O caráter criativo da inovação técnica será mais necessário do que nunca. No entanto, é preciso que se qualifique a natureza ética de tal criatividade.

Isto tudo posto, seremos todos também, inevitavelmente, engenheiros. Uso a palavra no sentido de alguém que constrói mundos por meio de bricolagem, e não na forma como Claude Lévi-Strauss entende o conceito no seu livro O pensamento selvagem. Como bem colocou Jacques Derrida, o engenheiro levistraussiano, que constrói conceitos manipulando estruturas lógicas, é um mito criado pela própria filosofia estruturalista europeia. Apenas o bricoleur – aquele que trabalha com a improvisação dos elementos que retira do mundo sensível, que age com o real, em relação horizontal, através de improvisação criativa, e não “contra” ou “sobre” o real, em relação hierárquica e vertical, – é o que existe de fato.

O caminhar humano será, necessariamente (porque sempre foi), um exercício de bricolagem. Nas ciências sociais e humanas, essa ideia está refletida em abordagens recentes que defendem o uso criativo da dimensão performativa da linguagem de forma especulativa, que rejeitam a dimensão platônica do trabalho intelectual e propõem a construção de narrativas, em gêneros discursivos não necessariamente realistas, mas que tenham o poder de agenciamento de realidades, sociais e mais-que-humanas, alinhadas com as agendas de reconstrução das condições de vida no planeta.

Filósofos-engenheiros construindo uma ciência social do mais-que-humano, ou uma ciência mais-que-social, poder-se-ia dizer, em que a capacidade performativa da linguagem é associada aos processos de reprodução de vida. Vivemos em um momento no qual libertar humanos de seus grilhões através da denúncia deixou de ser suficiente (apesar de ainda necessário); é preciso participar dos processos de construção de mundos; isso necessita ser algo maior do que o humano, e só pode ocorrer em forma de bricolagem.

Sermos eticistas-bricoleurs ainda não será suficiente, ante o imenso, incontornável e irresoluto desafio do agir de forma coletiva, em sincronia ou de maneira complementar, em escala planetária, e de forma voluntária. O grau de cooperação e eficácia de que necessitamos é inédito. Como construir as condições para coordenar nossas ações em escala global se jamais fomos capazes de coordenar nossas ideias a respeito da realidade?

Para sermos capazes de construir um futuro habitável, precisaremos fazer alianças com sujeitos que não pensam como nós, com sujeitos que não pensam como humanos, e com sujeitos que não pensam. Teremos que dar mais importância à dimensão pragmática da comunicação, aquela que coloca a atenção em como o mundo é afetado.

Os modelos clássicos da vida política estão profundamente ancorados na dimensão epistemológica da existência humana: atores políticos negociam suas diferenças na Ágora, através do diálogo. Ocorre, no entanto, que esse modelo político, para poder funcionar, requer certos pressupostos que são de reprodução difícil: os participantes precisam ter modos de vida que sejam facilmente traduzíveis uns nos outros. O fato de que na Grécia clássica os membros da Ágora eram todos gregos, homens, livres e advindos da elite fazia com que aquela forma de pensar e viver a política funcionasse relativamente bem; grande parte do mundo (mulheres, escravos, crianças, animais) estava tacitamente excluída da esfera política.

Inspirado na Grécia clássica, o Ocidente acreditou que o modelo seria aplicável em qualquer lugar, tomando como simples pressuposto a ideia de que todos os humanos seriam capazes de funcionar nele. Dessa forma, os sistemas políticos ocidentais se organizam ao redor de certa imaginação de como se gostaria que o ser humano fosse.

A política centrada na necessidade de equalização das ideias produz situações bizarras. Dois exemplos breves ilustram a questão. O primeiro diz respeito às formigas zumbi. Na comunicação "Grandes Divisores: teoria e prática no conhecimento tradicional e na ciência", Mauro Almeida apresenta o caso das histórias sobre formigas que viram cipó na Amazônia, narrativas de ampla circulação na região não apenas entre povos indígenas, mas também entre seringueiros. Almeida descreve tentativas bem-intencionadas de pesquisadores em elaborar material didático explicando que o fato é impossível. Ocorre que uma série de artigos publicados na última década descreve a existência de fungos no solo que infectam o sistema nervoso de algumas formigas e as transformam em formigas-suicidas; estas escalam as árvores e morrem no seu topo. O fungo então brota de dentro do corpo das formigas e lança esporos – ação que tem sua eficácia aumentada pela altura de onde é feita. Eventualmente brotam outras formas de vegetal de dentro do corpo das formigas, dentre as quais o cipó.

Este é um exemplo de interobjetividade – o fenômeno ganha lastro científico e pode-se dizer que seringueiros e cientistas estão se referindo à mesma coisa – mas, como não há intersubjetividade, não entendem a coisa da mesma forma. A beleza da história está na compreensão de que ninguém está equivocado aqui: a narrativa de indígenas e seringueiros entende corpo, vida e morte de modo distinto da ciência. A metamorfose só é impensável se tomarmos os conceitos de corpo, vida e morte de forma objetificada e naturalizada, como o faz a ciência.

O segundo exemplo diz respeito a alianças políticas entre indígenas e não indígenas. Em 2016, na reserva indígena de Standing Rock, nos estados americanos Dakota do Norte e Dakota do Sul, emergiram protestos contra o projeto de um oleoduto que seria construído sobre território sagrado dos Sioux. O protesto contou com a participação de ambientalistas, estudantes e astros de Hollywood, em sua maioria sem condições para entender o significado cultural da ameaça ao território sagrado, mas focada na necessidade de reduzir emissões de carbono. A possibilidade de ação conjunta entre indígenas e astros de Hollywood se baseia na compatibilidade das ações em sua dimensão pragmática, ou seja, produzindo os mesmos efeitos no mundo, sem que exista compatibilidade epistemológica (formas de pensamento) nem ontológica (pressupostos sobre o que existe). A tentativa de equalização das formas de pensamento teria produzido desgaste político desnecessário, com o eventual risco de racha no movimento, além da sempre presente possibilidade de o pensamento indígena ser atropelado por formas ocidentais de compreensão da realidade.

Para que sejamos capazes de construir alianças com entes que não pensam como nós, que não pensam como humanos, ou que não pensam, é mais importante que sejamos capazes de construir formas de coexistência e coabitação em que as muitas formas de vida possam florescer e, nas palavras de Donna Haraway, viver e morrer bem, do que seguir alimentando o sonho romântico de uma modelagem perfeita do real sem problemas práticos e conflitos epistêmicos.

Uma metáfora que se aplica bem à coexistência e à coabitação é a da dança. Tomemos o caso de gêneros em que se dança a dois, como o bolero, por exemplo. A performance da dança exige que duas pessoas posicionem-se, em geral, de forma espacialmente invertida; os corpos são diferentes, o acoplamento nunca é perfeito, e aí produzem-se tensões que são exploradas de forma criativa; os partícipes movem-se de forma que exista sempre um equilíbrio instável entre sincronia e improviso; e a eficácia da performance não está, de forma alguma, condicionada ao entendimento compartilhado a respeito do que está ocorrendo.

Talvez seja por isso que a dança tenha sido usada, em inúmeras culturas no decorrer dos tempos, como estratégia de conexão existencial entre coisas desiguais, como humanos e deuses, humanos e ecossistemas, humanos e animais, e humanos em situação de diferença (de gênero, por exemplo). O mundo, seguindo esse raciocínio, pode ser pensado como uma imensa teia de coreografias de existências em que os seres constituem-se mutuamente e ao mesmo tempo constroem o futuro. É nesse contexto que precisaremos ser, além de eticistas-bricoleurs, coreógrafos.

Renzo Taddei é professor da UNIFESP, é autor de Meteorologistas e profetas da chuva: conhecimentos, práticas e políticas da atmosfera. Uma versão expandida do texto desta edição foi publicada em 2019 no nº 2 do periódico Moringa Artes do Espetáculo (UFPB).