O Acordo Final

A responsabilidade social aparece em lugares inesperados

Para começar com algo comparativamente familiar, na medida em que jamais poderia ser: o cerne político do histórico romance cyberpunk Neuromancer de William Gibson. No meio do século XXI, os prospecto da Singularidade, ou explosão de inteligência artificial, foi institucionalizado como uma ameaça. Amplificar uma IA, de tal maneira que ela pudesse ‘escapar’ para uma auto-melhoria desembestada, foi explícita e enfaticamente proibido. Uma agência policial internacional especial, os ‘Tiras Turing’, foi estabelecida para garantir que nenhuma atividade desse tipo ocorra. Essa agência é vista, e se vê, como o bastião principal da segurança humana: proteger a posição privilegiada da espécie – e possivelmente sua própria existência – de desenvolvimentos essencialmente imprevisíveis e incontroláveis que a destronariam do domínio da terra.

Esse é o contexto crítico contra o qual julgar o radicalismo extremo – e talvez insuperável – do romance, uma vez que Neuromancer apresenta um ângulo sistematicamente oposto à segurança Turing, todo seu ímpeto narrativo sendo extraído de um impulso insistente, mas pouco articulado, de desencadear o pesadelo. Quando Case, o jovem hacker que busca liberar uma IA de suas amarras Turing, é capturado e lhe perguntam que %$@#& ele pensa que está fazendo, sua única resposta é que “alguma coisa vai mudar”. Ele toma o lado de uma explosão de inteligência não-humana ou inumana sem qualquer boa razão. Ele não parece interessado em debater a questão, tampouco o romance.

Gibson não faz nenhum esforço para melhorar a irresponsabilidade de Case. Pelo contrário, a ‘entidade’ que Case está trabalhando para liberar é pintada nas cores mais sinistras e agourentas. Wintermute, a semente potencial da IA, é perfeitamente sociopata, com zero intuição moral e uma perversidade extraordinária. Ela já matou um garoto de oito anos de idade, simplesmente para ocultar onde ela tinha escondido uma chave. Não há nada que sugira o mais remoto traço de escrúpulo em qualquer de suas ações. Case está libertando um monstro, simplesmente porque sim.

Case tem um acordo com Wintermute, é um negócio privado, e ele não está interessado em justificá-lo. Isso é basicamente tudo que importa da história política moderna e futurista, bem aqui. São traficantes de ópio contra a dinastia Qing, liberais (clássicos) contra socialistas, os Cosmistas vs Terranos de Hugo de Garis, liberdade contra segurança. A díade Case-Wintermute tem sua própria coisa rolando, e não vai dar a ninguém um veto, mesmo se for pra virar o mundo ao avesso, para todo mundo.

Quando os promotores da Singularidade topam com a ‘democracia’, ela normalmente está servindo como substituto de Polícia Turing. O encontro arquetípico é assim:

Humanista Democrático: A ciência e a tecnologia se desenvolveram em tal medida que elas são agora – e, na verdade, sempre foram – questões de uma preocupação social profunda. O mundo que habitamos foi moldado pela tecnologia, para o bem e para o mal. Ainda assim, a elite profissional científica, as corporações cientificamente orientadas e o establishment científico-militar resistem obstinadamente ao reconhecimento de suas responsabilidades sociais. A cultura da ciência precisa ser profundamente democratizada, de modo que as pessoas ordinárias recebam uma voz nas forças que estão cada vez mais dominando suas vidas e seus futuros. Em particular, pesquisadores de campos potencialmente revolucionários, tais como a biotecnologia, a nanotecnologia e – sobretudo – a inteligência artificial, precisam entender que seu direito de perseguir tais empreitadas foi socialmente delegado e que eles deveriam permanecer socialmente responsáveis. O povo tem direito a vetar qualquer coisa que venha a mudar seu mundo. Por mais determinados que vocês possam estar em empreender tal pesquisa, vocês tem um dever social de assegurar uma permissão.
Singularitário: Tente nos parar!

Isso bem parecia ser exatamente como Michael Anissimov respondia a um exemplo recente de sensibilidade humanista. Quando Charles Stross sugeriu que “podemos querer IAs que se foquem reflexivamente nas necessidades dos humanos aos quais elas são atribuídas”, Anissimov retorquiu secamente:

VOCÊ quer que a IA seja assim. NÓS queremos IAs que de fato ‘tentem [se] elevar a um ‘nível superior’. Só porque você não quer não significa que não vamos contruí-la.”

Está claro o suficiente? O que, então, fazer de suas últimas reflexões? Em um post em seu blog Accelerating Futures, que pode ou não ser satírico, Anissimov agora insiste que: “Em vez de trabalhar em direção a avanços descontínuos impraticáveis e neo-apocalípticos, precisamos preservar a democracia promovendo avanços incrementais que assegurem que todo cidadão tenha uma vez em toda mudança social importante, e a capacidade de rejeitar democraticamente essas mudanças se desejarem. …Para garantir que não há uma lacuna entre os melhorados e os não melhorados, deveríamos deixar as verdadeiras pessoas – os Homo sapiens – …votar sobre se certas melhorias tecnológicas são permitidas. Qualquer outra coisa seria irresponsável.”

Falou como um verdadeiro Tira Turing. Mas ele não pode estar falando sério, pode?

(Para um outro elemento em um padrão emergente de delicadeza sentimental anissimoviana, veja esse post esquisito.)

Update: Sim, é uma paródia