Prontidão para o Impacto

Qualquer que seja o status da Singularidade enquanto evento de mídia, uma premonição irradia dela em uma cascata. O recente veículo hollywoodiano com Johnny Depp, Trancendence, estimulou uma onda de respostas, incluindo comentários de Steven Hawking (que sabe uma uma coisa ou outra sobre a popularização de tópicos científicos). Um artigo de Hawking em um grande jornal trouxe a conversa a um novo nível de animação. (Meu feed no Twitter não pode ter sido o único a ficar entupido a ponto de explodir com ela.)

Transcendence

  • Isso pode ser bem brusco

O argumento de Hawking, montado de maneira lúcida para uma audiência geral, é de que a IA é plausível, já está em uma medida considerável demonstrada, é suscetível em teoria a uma amplificação cibernética radical (‘explosão de inteligência’), é bastante possivelmente calamitosa para a espécie humana e ainda precisa ser engajada socialmente com a seriedade apropriada. Como ele concede, "é tentador descartar a noção de máquinas altamente inteligentes como mera ficção científica. Mas isso seria um erro, e potencialmente nosso pior erro na história".

Dinâmicas explosivas já são evidentes na trajetória de desenvolvimento da IA, que está sofrendo uma aceleração, guiada por uma "corrida armamentista de TI, alimentada por investimentos sem precedentes e se embasando em uma fundação teórica cada vez mais madura".

Olhando para o futuro, não há limites fundamentais para o que pode ser alcançado: não há nenhuma lei física que impeça que partículas estejam organizadas em maneiras que desempenhem computações ainda mais avançadas que os arranjos de partículas nos cérebros humanos. Uma transição explosiva é possível, embora ela possa terminar diferente do filme: como Irving Good percebeu em 1965, máquinas com inteligência sobre-humana poderiam repetidamente melhorar seu design ainda mais, desencadeando o que Vernos Vinge [aqui] chamou de uma "singularidade" e o personagem de Johnny Depp chama de "transcendência".

Hawking emprega sua plataforma na mídia para argumentar que algo deveria ser feito:

O sucesso em se criar uma IA seria o maior evento na história humana. […] Infelizmente, ele também seria o último, a menos que aprendamos como evitar os riscos. […] Embora estejamos potencialmente enfrentando a melhor ou pior coisa a acontecer à humanidade na história, pouca pesquisa séria é devotada a essas questões fora de institutos sem fins lucrativos tais como o Cambridge Centre for the Study of Existential Risk, o Future of Humanity Institute, o Machine Intelligence Research Institute, e o Future of Life Institute.

Conforme seu prospecto se condensa, a Singularidade Tecnológica já está operando como uma influência cultural e, assim, como um fator causal no processo social. Neste estágio, contudo, como Hawking observa, ela ainda está relativamente limitada. Quais seriam as implicação de ela vir a importar ainda mais?

A cibernética sócio-histórica é compelida a perguntar: um problema da Singularidade incandescente funcionaria como um inibidor, ou ele excitaria ainda mais os desenvolvimentos sob consideração? Certamente é difícil imaginar uma resposta preventiva sofisticada à emergência da Inteligência Artificial que não canalizasse recursos adicionais para técnicos de elite trabalhando na área da cognição sintética avançada, mesmo antes da quase inevitável captura de instituições reguladoras pelas indústrias que elas visam.

Respostas institucionais ao hackeamento de computadores têm sido caracterizadas por exercícios de recrutamento estrategicamente ambíguos em que o "caçador vira o guarda-caça", e algum análogo próximo desses jogos de caça seriam uma parte inevitável de qualquer tentativa de se controlar o desenvolvimento da cognição de máquina. Jogar jogos de traição extremamente complicados contra uma super-inteligência virtual poderia ser bastante divertido, por um tempo…

ADICIONADO: Daniel Dewey, do FHI, chegou.


Original.

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Google photo

You are commenting using your Google account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.