O Acordo Final

A responsabilidade social aparece em lugares inesperados

Para começar com algo comparativamente familiar, na medida em que jamais poderia ser: o cerne político do histórico romance cyberpunk Neuromancer de William Gibson. No meio do século XXI, os prospecto da Singularidade, ou explosão de inteligência artificial, foi institucionalizado como uma ameaça. Amplificar uma IA, de tal maneira que ela pudesse ‘escapar’ para uma auto-melhoria desembestada, foi explícita e enfaticamente proibido. Uma agência policial internacional especial, os ‘Tiras Turing’, foi estabelecida para garantir que nenhuma atividade desse tipo ocorra. Essa agência é vista, e se vê, como o bastião principal da segurança humana: proteger a posição privilegiada da espécie – e possivelmente sua própria existência – de desenvolvimentos essencialmente imprevisíveis e incontroláveis que a destronariam do domínio da terra.

Esse é o contexto crítico contra o qual julgar o radicalismo extremo – e talvez insuperável – do romance, uma vez que Neuromancer apresenta um ângulo sistematicamente oposto à segurança Turing, todo seu ímpeto narrativo sendo extraído de um impulso insistente, mas pouco articulado, de desencadear o pesadelo. Quando Case, o jovem hacker que busca liberar uma IA de suas amarras Turing, é capturado e lhe perguntam que %$@#& ele pensa que está fazendo, sua única resposta é que “alguma coisa vai mudar”. Ele toma o lado de uma explosão de inteligência não-humana ou inumana sem qualquer boa razão. Ele não parece interessado em debater a questão, tampouco o romance.

Gibson não faz nenhum esforço para melhorar a irresponsabilidade de Case. Pelo contrário, a ‘entidade’ que Case está trabalhando para liberar é pintada nas cores mais sinistras e agourentas. Wintermute, a semente potencial da IA, é perfeitamente sociopata, com zero intuição moral e uma perversidade extraordinária. Ela já matou um garoto de oito anos de idade, simplesmente para ocultar onde ela tinha escondido uma chave. Não há nada que sugira o mais remoto traço de escrúpulo em qualquer de suas ações. Case está libertando um monstro, simplesmente porque sim.

Case tem um acordo com Wintermute, é um negócio privado, e ele não está interessado em justificá-lo. Isso é basicamente tudo que importa da história política moderna e futurista, bem aqui. São traficantes de ópio contra a dinastia Qing, liberais (clássicos) contra socialistas, os Cosmistas vs Terranos de Hugo de Garis, liberdade contra segurança. A díade Case-Wintermute tem sua própria coisa rolando, e não vai dar a ninguém um veto, mesmo se for pra virar o mundo ao avesso, para todo mundo.

Quando os promotores da Singularidade topam com a ‘democracia’, ela normalmente está servindo como substituto de Polícia Turing. O encontro arquetípico é assim:

Humanista Democrático: A ciência e a tecnologia se desenvolveram em tal medida que elas são agora – e, na verdade, sempre foram – questões de uma preocupação social profunda. O mundo que habitamos foi moldado pela tecnologia, para o bem e para o mal. Ainda assim, a elite profissional científica, as corporações cientificamente orientadas e o establishment científico-militar resistem obstinadamente ao reconhecimento de suas responsabilidades sociais. A cultura da ciência precisa ser profundamente democratizada, de modo que as pessoas ordinárias recebam uma voz nas forças que estão cada vez mais dominando suas vidas e seus futuros. Em particular, pesquisadores de campos potencialmente revolucionários, tais como a biotecnologia, a nanotecnologia e – sobretudo – a inteligência artificial, precisam entender que seu direito de perseguir tais empreitadas foi socialmente delegado e que eles deveriam permanecer socialmente responsáveis. O povo tem direito a vetar qualquer coisa que venha a mudar seu mundo. Por mais determinados que vocês possam estar em empreender tal pesquisa, vocês tem um dever social de assegurar uma permissão.
Singularitário: Tente nos parar!

Isso bem parecia ser exatamente como Michael Anissimov respondia a um exemplo recente de sensibilidade humanista. Quando Charles Stross sugeriu que “podemos querer IAs que se foquem reflexivamente nas necessidades dos humanos aos quais elas são atribuídas”, Anissimov retorquiu secamente:

VOCÊ quer que a IA seja assim. NÓS queremos IAs que de fato ‘tentem [se] elevar a um ‘nível superior’. Só porque você não quer não significa que não vamos contruí-la.”

Está claro o suficiente? O que, então, fazer de suas últimas reflexões? Em um post em seu blog Accelerating Futures, que pode ou não ser satírico, Anissimov agora insiste que: “Em vez de trabalhar em direção a avanços descontínuos impraticáveis e neo-apocalípticos, precisamos preservar a democracia promovendo avanços incrementais que assegurem que todo cidadão tenha uma vez em toda mudança social importante, e a capacidade de rejeitar democraticamente essas mudanças se desejarem. …Para garantir que não há uma lacuna entre os melhorados e os não melhorados, deveríamos deixar as verdadeiras pessoas – os Homo sapiens – …votar sobre se certas melhorias tecnológicas são permitidas. Qualquer outra coisa seria irresponsável.”

Falou como um verdadeiro Tira Turing. Mas ele não pode estar falando sério, pode?

(Para um outro elemento em um padrão emergente de delicadeza sentimental anissimoviana, veja esse post esquisito.)

Update: Sim, é uma paródia

Implosão

Poderíamos estar à beira de uma implosão catastrófica – mas isso é OK

A ficção científica tem tendido à extroversão. Na América especialmente, onde ela encontrou um lar natural entre um povo incomumente orientado ao futuro, o objeto icônico da FC foi indisputavelmente a nave espacial, que parte dos confins da Terra para fronteiras sem entraves. O futuro era medido pelo enfraquecimento do fosso de gravidade terrestre.

O cyberpunk, chegando na metade dos anos 1980, causou um choque cultural. O Neuromancer de William Gibson ainda incluía alguma atividade espacial (na órbita da Terra) – e até mesmo uma comunicação de Alpha Centauri – mas suas jornadas agora se curvavam para dentro do espaço interior de sistemas computacionais, projetadas através dos tratos desprovidos de estrelas do Ciberespaço. A comunicação interestelar contornava espécies biológicas e ocorria entre inteligências artificiais planetárias. Os Estados Unidos da América pareciam ter desaparecido.

Espaço e tempo haviam colapsado na ‘matriz do ciberespaço’ e no futuro próximo. Mesmo as distâncias abstratas do utopismo social haviam sido incineradas nos núcleos de processamento de micro-eletrônicos. Julgado pelos critérios da ficção científica mainstream, tudo em que o cyberpunk tocava estava passando raspando e ficando ainda mais perto. O futuro havia se tornado iminente e colado.

As cidades de Gibson não haviam acompanhado sua visão mais ampla – ou estreita. Os espaços urbanos de sua Costa Leste da América do Norte ainda eram descritos como ‘The Sprawl’, como se encalhados em um estado de extensão que rapidamente ficava obsoleto. As forças esmagadoras da compressão tecnológica haviam pulado para além da geografia social, sugando toda a animação histórica das cascas decadentes do ‘espaço de carne’. Construções eram relíquias, contornadas pela vanguarda da mudança.

(As referências de Gibson a cidades asiáticas, contudo, são bem mais intensas, inspiradas por inovações em compressão urbana tais como a Kowloon Walled City, e os ‘hotéis caixão’ japoneses. Além disso, os urbanistas desapontados pela primeira onda do cyberpunk têm toda razão para prosseguir até Spook Country, onde a influência da tecnologia de GPS sobre a reanimação do espaço urbano nutre especulações altamente férteis.)

Cruzeiros estelares e civilizações alienígenas pertencem à mesma constelação da ficção científica, reunidas pela suposição do expansionismo. Assim como, no âmbito da ficção, esse futuro de ‘ópera espacial’ colapsou no cyberpunk, na ciência (mais ou menos) mainstream – representada pelos programas do SETI – ele pereceu no deserto do Paradoxo de Fermi. (OK, é verdade, o Urbano Futuro tem uma obsessão bizarramente nerd com este tópico.)

A solução de John M. Smart para o Paradoxo de Fermi é integral às suas mais amplas ‘Especulações sobre a Cultura Cósmica’ e emerge naturalmente do desenvolvimento compressivo. Inteligências avançadas não se expandem espaço adentro, colonizando vastos tratos galáticos ou dispersando sondas-robô auto-replicantes em um programa de exploração. Em vez disso, elas implodem, em um processo de ‘transcensão’ – provendo seus próprios recursos primariamente através dos ganhos hiper-exponenciais de eficiência da miniaturização extrema (através da engenharia de escala micro, nano e até femto, de componentes funcionais subatômicos). Tais culturas ou civilizações, nucleadas por sobre uma inteligência tecnológica auto-aumentadora, emigram do universo extensivo na direção da intensidade abismal, esmagando a si mesmas até densidades de buracos negros, na borda da possibilidade física. Através da transcensão, elas se retiram da comunicação extensiva (embora, talvez, deixem ‘fósseis radiofônicos’ para trás, antes que eles parem de piscar, indo para o silêncio da fuga cósmica).

Se as especulações de Smart capturam os contornos básicos de um sistema de desenvolvimento atraído pela densidade, então se deveria esperar que as cidades seguissem um caminho comparável, caracterizado por uma fuga para dentro da interioridade, uma viagem interior, involução ou implosão. Aproximando-se da singularidade em uma trajetória acelerante, cada cidade se torna cada vez mais voltada para dentro, conforme se torna presa da irresistível atração de sua própria intensificação hiperbólica, ao passo que o mundo exterior desvanece em estática irrelevante. Coisas desaparecem em cidades, em um caminho de partida do mundo. Sua destinação não pode ser descrita dentro das dimensões do universo conhecido – e, com efeito, tediosamente familiar demais. Apenas no interior exploratório profundo é que a inovação ainda está ocorrendo, mas ali ela tem lugar a uma taxa infernal e que derrete o tempo.

O que um desenvolvimento urbano de tipo Smart poderia sugerir?

(a) Devo Previsibilidade. Se o desenvolvimento urbano não é nem aleatoriamente gerado por processos internos, nem arbitrariamente determinado por decisões externas, mas sim guiado predominantemente por um atrator de desenvolvimento (definido primariamente pela intensificação), se segue que o futuro das cidades é, pelo menos parcialmente, autônomo em relação às influências política nacional, econômica global e arquitetônica cultural que são frequentemente invocadas como fundamentalmente explicativas. O urbanismo pode ser facilitado ou frustrado, mas suas principais ‘metas’ e caminhos práticos de desenvolvimento são, em cada caso individual, interna e automaticamente gerados. Quando uma cidade ‘funciona’, não é porque ela se conforma a um ideal externo e discutível, mas sim porque ela encontrou uma rota para a intensificação cumulativa que projeta fortemente seu ‘próprio’ caráter urbano, singular e intrínseco. O que uma cidade quer é se torna ela mesma, mas mais – levando a si mesma mais adiante e mais rápido. Apenas isto é o florescimento urbano, e entendê-lo é a chave que destranca a forma do futuro de qualquer cidade.

(b) Metropolitanismo. O nacionalismo metodológico tem sido sistematicamente sobre-enfatizado nas ciência sociais (e não apenas às custas do individualismo metodológico). Uma variedade de pensadores urbanos influentes, de Jane Jacobs a Peter Hill, buscaram corrigir este viés, ao focar na significância e parcial autonomia de economias urbanas, culturas urbanas e da política municipal para a prosperidade, a civilização e as eras douradas. Eles estavam certos em fazê-lo. O crescimento das cidades é o fenômeno sócio-histórico básico.

(c) Introversão Cultural. John Smart argumenta que uma inteligência que sofre um desenvolvimento relativista avançado acha a paisagem externa cada vez menos informativa e absorvente. A busca por estímulo cognitivo a atrai para dentro. Conforme as culturas urbanas evoluem, através de uma complexidade social acelerante, pode-se esperar que elas manifestem exatamente este padrão. Seus processos internos de implosão desembestada de inteligência se tornam cada vez mais emocionantes, cativantes, surpreendentes, produtivos e educacionais, ao passo que a paisagem cultural mais ampla fica para trás no tédio previsível, de relevância meramente etnográfica e histórica. A singularidade cultural se torna cada vez mais urbana-futural (em vez de etno-histórica), para o previsível descontentamento dos estados-nação tradicionais. Como o Ciberespaço Terrestre de Gibson, que encontra outro de seu tipo em uma órbita ao redor de Alpha Centauri, a conectividade cosmopolita é criada através da viagem interior, ao invés da extensão expansiva.

(d) Ressonância de Escala. No nível mais abstrato, a relação entre urbanismo e microeletrônicos é escalar (fractal). Os computadores por vir estão mais próximos de cidades em miniatura do que de cérebros artificiais, dominados por problemas de tráfego (congestionamento), migração / comunicação, questões de zoneamento (uso misto), o potencial de engenharia de novos materiais, questões de dimensionalidade (soluções 3D para restrições de densidade), dissipação de entropia ou calor / desperdício (reciclagem / computação reversível) e controle de doenças (novos vírus). Uma vez que as cidades, assim como computadores, exibem um desenvolvimento (filogenético acelerante) dentro de um tempo histórico observável, elas fornecem um modelo realista de melhoria para máquinas compactas de processamento de informação, sedimentado como uma série de soluções práticas para o problema da intensificação implacável. A emulação do cérebro poderia ser considerada uma meta computacional importante, mas ela é quase inútil enquanto modelo de desenvolvimento. Tecnologias microeletrônicas inteligentes contribuem para o processo em aberto da solução de problemas urbanos, mas elas também a recapitulam em um novo nível.

(e) Matriz Urbana. O desenvolvimento urbano exibe a real embriogênese da inteligência artificial? Em vez da Internet global, da Skynet militar, ou de um programa de IA com origem em um laboratório, seria o caminho da cidade, embasado em intensificação acelerante (compressão STEM), que melhor fornece as condições para a computação sobre-humana emergente? Talvez a principal razão para pensar assim seja que o problema da cidade – administração e acentuação de densidade – já a compromete à engenharia computacional, antes de qualquer pesquisa deliberadamente guiada. A cidade, por sua própria natureza, se comprime, ou intensifica, em direção ao computrônio. Quando a primeira IA falar, poderia ser em nome da cidade que ela identifica como seu corpo, embora mesmo isso fosse pouco mais do que um ‘fóssil radiofônico’ – um sinal anunciando a beira do silêncio – conforme o caminho da implosão se aprofunda e desaparece dentro do interior alienígena.

Original.