21/07/2020, por John Horgan - A filósofa Susan Schneider pesa os prós e os contras do aprimoramento tecnológico radical. No início de março - o Antes do Tempo - sentei-me em um auditório lotado na minha escola e ouvi um filósofo falar sobre coisas ....
totalmente não relacionadas a, bem, você sabe. A palestrante, Susan Schneider, considerou como a inteligência artificial e outras tecnologias podem alterar nossos corpos e mentes, para o bem ou para o mal. Ela também investiga esses tópicos em seu novo livro animado, Artificial You: AI and the Future of Your Mind.
Os eventos recentes nos distraíram de refletir sobre o aprimoramento tecnológico, a Singularidade e todo aquele jazz, mas essas questões ainda importam, e Schneider tem abordagens provocativas sobre elas. Schneider, que detém a cadeira Baruch S. Blumberg NASA / Biblioteca do Congresso em Astrobiologia, tem estado ocupado ultimamente. Recentemente, ela se tornou Professora Distinta de Filosofia William F. Dietrich na Florida Atlantic University, com uma nomeação conjunta no Brain Institute; ela também está fundando um centro sobre o futuro da inteligência. Mesmo assim, ela encontrou tempo para responder a algumas perguntas. - John Horgan
Segue-se uma transcrição editada da entrevista.
Horgan: O neurocientista Christof Koch sugeriu que façamos implantes cerebrais para acompanhar as máquinas. Isso te parece uma boa ideia?
Leia também - Alguns dos segredos da primeira bomba atômica soviética
Schneider: Depende do cenário social e político mais amplo. Vários grandes projetos de pesquisa estão atualmente tentando colocar IA dentro do cérebro e do sistema nervoso periférico. O objetivo deles é prendê-lo à nuvem sem a ajuda de um teclado. Para empresas que fazem isso, como Neuralink, Facebook e Kernel, seu cérebro e corpo são uma arena para lucros futuros. Sem proteções legislativas adequadas, seus pensamentos e dados biométricos poderiam ser vendidos para quem pagar mais, e ditaduras autoritárias terão o dispositivo de controle da mente final. Portanto, as salvaguardas da privacidade são essenciais.
Eu também tenho outras preocupações. Tenho medo de que as pessoas se sintam pressionadas a usar implantes cerebrais para se manterem competitivas em seus empregos ou na faculdade. O aprimoramento deve ser verdadeiramente opcional. Além disso, estou preocupado com o fato de que, se apenas alguns poucos da elite forem aprimorados, haverá um vasto abismo intelectual entre os que têm e os que não têm. A divisão digital de hoje pode se transformar em uma divisão digital da mente! Tenho certeza de que Christof não gostaria desse tipo de futuro, e ele estava assumindo um cenário igualitário para essas melhorias. Mas o problema é como chegar lá a partir daqui.
Horgan: As investigações filosóficas da consciência são relevantes para o debate sobre o aprimoramento?
Schneider: Sim. Aqui está um cenário hipotético que exploro em Artificial You. Suponha que seja 2040 e você esteja fazendo compras. Você entra em uma loja que se dedica à “neurologia cosmética”: o Center for Mind Design. Lá, os clientes podem escolher entre uma variedade de aprimoramentos cerebrais. Por exemplo, “Calculadora Humana” lhe dará habilidades matemáticas de nível savant; “Zen Garden” pode lhe dar os estados meditativos de um mestre Zen. Também há rumores de que, se os testes clínicos correrem como planejado, os clientes poderão comprar um pacote de melhorias chamado “Merge”. Merge é uma série de melhorias que permitem aos clientes aumentar e transferir gradualmente todas as suas funções mentais para a nuvem ao longo de um período de cinco anos.
Presumindo que esses aprimoramentos sejam medicamente seguros, o que você compraria?
Aqui estão duas preocupações filosóficas que você deve ter em mente ao tomar sua decisão, além das preocupações que acabei de levantar. Em primeiro lugar, para entender se é sensato melhorar dessas maneiras radicais, você deve primeiro entender o que e quem você é. Os filósofos debateram por muito tempo a natureza do self e da mente, e basta dizer que há uma grande discordância filosófica. Por exemplo, se o eu ou a mente dependem intimamente de você ter um cérebro que funcione bem, se você substituir muito do seu cérebro por microchips, em algum momento você se matará! Isso dificilmente é um aprimoramento. Eu chamo esse fenômeno de “fuga de cérebros”.
Uma segunda preocupação envolve a natureza da consciência. Observe que durante toda a sua vida desperta, e mesmo quando você sonha, sempre parece algo que você é. Neste momento você está tendo sensações físicas, ouvindo ruídos de fundo, vendo as palavras na página. Você está tendo experiência consciente.
Os filósofos há muito consideram a natureza da consciência um mistério. Eles apontam que não entendemos totalmente por que todo o processamento de informações no cérebro parece algo. Eles também acreditam que ainda não entendemos se a consciência é exclusiva do nosso substrato biológico ou se outros substratos - como microchips de silício - também podem ser um substrato subjacente às experiências conscientes.
Para fins de argumentação, assuma que os microchips não são o substrato certo para a consciência. Nesse caso, se você substituir uma ou mais partes de seu cérebro por microchips, você diminuirá ou terminará sua vida como um ser consciente!
Se isso for verdade, você não gostaria de comprar o Merge, pelo menos se você se preocupasse em sobreviver. Na verdade, você gostaria de ter muito cuidado ao adicionar até mesmo um único chip cerebral, por medo de que isso afetaria a consciência ou alteraria quem você é de uma maneira radical demais. Caso contrário, você pode estar pagando para acabar com sua existência!
Se os chips são o substrato errado para a consciência, a consciência pode ser uma espécie de teto de projeto para o aumento da inteligência humana. A IA, em contraste, não teria esse limite, mas eles seriam incapazes de consciência. Mas eles ainda podem nos superar, e se o fizessem, isso significaria que as entidades mais inteligentes da Terra nem mesmo estariam conscientes. Esse problema torna muito importante determinar se as máquinas estão conscientes. Felizmente, suspeito que eventualmente possamos descobrir se os microchips são um substrato para a consciência. Eu proponho dois testes de consciência artificial no livro.
Horgan: Em Artificial You, você se descreve como um transhumanista e, ainda assim, expressa dúvidas sobre os objetivos transhumanistas, como fazer uploads como uma rota para a imortalidade. De que forma você é um transhumanista?
Schneider: Como estudante universitário, fiquei encantado com a visão transhumanista de uma tecnotopia na Terra. Os transumanistas acreditam que a inteligência humana aumentada e a longevidade radical são desejáveis, tanto do ponto de vista do próprio desenvolvimento pessoal quanto para o desenvolvimento de nossa espécie como um todo. Ao nosso redor, a visão transhumanista está se tornando mais real. Por exemplo, o laboratório de Ted Berger criou um hipocampo artificial para substituir o funcionamento hipocampal perdido naqueles que são incapazes de armazenar novas memórias. O Departamento de Defesa dos Estados Unidos financiou um programa, chamado “Synapse”, que tenta desenvolver um computador que se assemelha ao cérebro em forma e função. E o futurista Ray Kurzweil, que agora é diretor de engenharia do Google, chegou a discutir as vantagens potenciais de formar amizades, ao estilo dela, com sistemas de IA personalizados.
Ainda me considero um transhumanista porque espero que as tecnologias emergentes nos forneçam curas de doenças, extensão radical da vida e até mesmo melhorem nossa vida mental, se desejarmos melhorar. No entanto, acredito que certos objetivos transhumanistas são mal concebidos, como o upload mental. Minhas preocupações são semelhantes às que discuti a respeito de sua visita hipotética a um Center for Mind Design.
Considere, por exemplo, o popular programa Upload da Amazon. É 2033 e Nathan Brown tem um acidente raro e, em um último esforço para sobreviver, e instigado na sala de emergência por uma namorada controladora esperando para colocar suas garras em seu futuro avatar, ele carrega seu cérebro em um computador. Ele acorda no “céu digital”, mais ou menos. (Isso é uma comédia.) O paraíso é, na verdade, um barato corporativo das últimas férias em um chalé na montanha, cheio de folhagens coloridas de outono, mas repleto de falhas algorítmicas, fazendo com que ele às vezes deseje a morte autêntica. (Este programa é divertido de assistir durante uma pandemia; o isolamento da casa de Nathan era pior do que o meu.)
Artificial You argumenta que mesmo se a tecnologia funcionasse, pessoas como Nathan não sobreviveriam. Na melhor das hipóteses, um doppelganger digital é criado pela tentativa de digitalização. Talvez esse ser esteja consciente, talvez não, mas não seria ele de qualquer maneira. Infelizmente, o verdadeiro Nathan morreu na mesa de varredura, quando seu cérebro biológico foi destruído.
Horgan: Existe algum tipo de aprimoramento cognitivo que você gostaria de abraçar? Você gostaria de ser imortal?
Schneider: Estou dividido. Por um lado, sou atraído pela ideia de aumentar a consciência, as emoções, as habilidades cognitivas e as habilidades perceptivas. Pode vir! Por outro lado, temo que, dada a incerteza metafísica envolvendo a natureza da pessoa, podemos enfrentar decisões de aprimoramento antes de termos uma resposta clara e incontroversa para a pergunta "Qual é a natureza do self ou da pessoa?" Claro, posso ter pouco a perder tentando. Talvez, por exemplo, eu tenha aprendido que morrerei em um mês devido a um tumor cerebral progressivo. Estou convencido de que enviar apenas criaria um doppelganger, mas posso dar um salto de fé e optar por alguns chips cerebrais, dada a situação sombria. Talvez eu tenha sorte e a fuga de cérebros não funcione.
Claro, a verdadeira imortalidade exigiria uma alma ou mente imaterial. Aqueles que anseiam pela imortalidade por meio do aprimoramento radical buscam algo diferente, um arranjo tecnológico que lhes permita estar por aí até o big crunch ou mesmo ser um espectador no calor da morte do universo. Eu chamo isso de “imortalidade funcional” para distingui-la da verdadeira imortalidade.
Meu ex-professor Bernard Williams notoriamente achou a imortalidade desagradável. Ele temia que, sem tarefas novas e desafiadoras, acharíamos a imortalidade tediosa. Talvez nos sentiríamos entediados, como Williams suspeitava, mas duvido que possamos prever como nos sentiríamos nesta situação. Eu, por exemplo, adoraria a opção de descobrir como saber que poderia viver até o fim do universo parece, 2.000, 200.000 ou dois milhões de anos dentro!
Há todos os tipos de aprimoramentos cognitivos que eu aceitaria com prazer, se soubesse que ainda seria eu. Para ficar seguro, eu preferiria melhorias biológicas lentas para não danificar o cérebro biológico ou causar mudanças radicais em minhas habilidades em um curto período de tempo. Talvez, depois de centenas de anos sendo eu mesma, eu desejasse uma mudança, e me aprimoraria mesmo sabendo que posso estar terminando minha própria existência. Nesse caso, eu não seria realmente imortal, mesmo no sentido de imortalidade funcional, mas meu "descendente" pode viver até o fim do universo.
Horgan: Alguns especialistas, como Gary Marcus, estão sugerindo que a IA foi exagerada e pode estar caminhando para outro “inverno IA”. Mas em Artificial You, você prevê que o tão procurado objetivo da inteligência artificial “geral”, ou AGI, pode ser alcançado “nas próximas décadas”. O que o torna tão otimista? "
Schneider: Eu estava tentando manter as coisas abertas usando a palavra "vários". Estou feliz em tentar ser mais específico, mas primeiro, deixe-me dizer que acho que as discussões atuais sobre a AGI geram um monte de questões juntas e que "IA de nível humano" é uma referência enganosa. Os IAs de hoje são sistemas específicos de domínio - sistemas que se destacam em um único domínio, como xadrez ou reconhecimento facial. As inteligências gerais vão além do mero processamento de domínio específico. Humanos, bem como animais não humanos (ratos, gatos, chocos, etc.) são inteligências gerais; eles integram o material através dos domínios sensoriais e exibem flexibilidade cognitiva.
Generalidade é uma questão de grau. De fato, alguns afirmam que o cérebro humano é mais parecido com um canivete suíço, tendo uma variedade de módulos específicos de domínio que não são integrados por um executivo central ou estrutura semelhante à CPU. Talvez os sistemas de IA do futuro distante sejam mais gerais do que nós, exibindo um processamento geral de domínio mais flexível e uma integração mais intermodal entre as modalidades sensoriais. Talvez existam inteligências alienígenas com cérebros que exibem muito mais integração do que o cérebro humano. Então, talvez não sejamos cognizadores muito "gerais" em tudo!
Dito isso, suspeito que as primeiras gerações de inteligências gerais sintéticas serão deficientes de uma forma que os humanos adultos normais não são. Eles serão semelhantes a savant, superando-nos em certos aspectos que envolvem bancos de dados de memória sofisticados, reconhecimento de padrões, processamento matemático e assim por diante. Eu chamo essas inteligências gerais hipotéticas de “sistemas savant” porque elas têm todos os tipos de déficits em relação aos humanos normais.
A propósito, isso tem implicações importantes para a compreensão dos debates envolvendo sistemas superinteligentes. Uma superinteligência é, por definição, uma máquina hipotética que nos supera em todos os aspectos: raciocínio científico, habilidades sociais e muito mais. Nick Bostrom, Bill Gates, o falecido Stephen Hawking e muitos outros enfatizaram que tais sistemas apresentam perigos porque seriam difíceis de controlar. Se a IA superinteligente nos supera, por que acreditar que ela seguirá nossos valores éticos? Ele pode formular seus próprios objetivos ou interpretar nossos objetivos de maneiras perversamente literais que acabam sendo prejudiciais para nós. Esse problema é chamado de “problema de controle”.
Após reflexão, os sistemas savant também apresentam um problema de controle, mesmo que não sejam superinteligências, e o próprio fato de exibirem déficits em certas áreas, talvez, por exemplo, julgamento moral, poderia torná-los muito mais perigosos do que os sistemas superinteligentes.
Como resultado, temo que as questões levantadas por Gates e outros possam realmente aparecer mais cedo, antes que a superinteligência seja desenvolvida.
Dito tudo isso, você ainda pode querer que eu faça um benchmark de AGI em nível humano. Isso é complicado, mas aqui estão alguns fatores que informam os esforços de benchmarking. Em primeiro lugar, uma coisa que pode acelerar a criação de AGI é se as regiões do neocórtex podem se tornar bastante uniformes, de modo que diferentes partes do neocórtex sigam o mesmo algoritmo. Portanto, se descobrirmos o algoritmo preciso executado por uma pequena área, descobriremos muito sobre como construir um neocórtex artificial.
Agora, aqui está algo que pode segurá-lo, que pertence à ênfase atual na pesquisa de IA em sistemas de aprendizado profundo, em particular. Como meu supervisor de dissertação, o famoso cético da IA, Jerry Fodor, gostava de perguntar: a cognição é realmente uma espécie de reconhecimento de padrões? Os sistemas de aprendizado profundo de hoje são mecanismos de associação sofisticados que inserem volumes gigantescos de dados e, ao longo do tempo, desenvolvem algoritmos que reconhecem padrões com um grau impressionante de precisão. Considere, por exemplo, os sistemas de reconhecimento facial. Veremos feitos impressionantes semelhantes com sistemas de aprendizado profundo, em toda a linha? Ou seja, a cognição é apenas uma espécie de reconhecimento de padrões? Eu duvido.
Então, por que eu disse “vários”, se tenho essa dúvida? Em primeiro lugar, sou muito mais otimista do que Fodor. Pois o aprendizado de máquina envolve uma variedade de técnicas de programação que vão além de meros recursos de aprendizado profundo. Conforme os cientistas cognitivos descobrem os algoritmos neurais calculados por diferentes áreas do cérebro, podemos fazer a engenharia reversa desses recursos em IAs.
Leia também - Mentira temível
Em segundo lugar, embora descobrir algoritmos neurais seja um empreendimento de pesquisa complexo e demorado, não temos que esperar por uma compreensão completa de cada parte do cérebro. Novamente, eu não esperaria que uma inteligência geral sintética fosse muito parecida conosco. Assim como Alpha Go venceu o campeão mundial de Go por meio de técnicas algorítmicas que eram surpreendentes e não humanas, as inteligências gerais sintéticas do futuro realizarão muitas tarefas cognitivas e perceptivas de maneiras que não fazemos. É por isso que realmente não gosto da expressão "AGI" - a expressão frequentemente sugere que a inteligência geral sintética calcula o mesmo tipo de algoritmo que o cérebro usa e que se comportará de maneira muito semelhante a nós. Eles podem ser, em vez disso, o que chamei de "sistemas savant".
Horgan: Em Artificial You, você pondera a possibilidade de extraterrestres superinteligentes. No fundo, você acha que eles estão lá fora?
Schneider: Se eu tivesse que adivinhar, a vida microbiana será abundante, e há vida altamente complexa por aí também, até mesmo civilizações tecnologicamente sofisticadas. Os astrobiólogos afirmam que existem muitos exoplanetas por aí que são habitáveis, em princípio. A Terra não parece ser tão especial, então a vida deveria estar surgindo em toda a nossa galáxia. Na verdade, como a Terra é um planeta relativamente jovem, deve haver muitos planetas com civilizações mais antigas que a nossa.
Pense no que tudo isso significa. Pode haver civilizações que têm, ou irão criar, suas próprias IAs, bem como aumentar seus cérebros e corpos. Em Artificial You, argumento que as maiores inteligências do universo podem ser sintéticas, tendo se desenvolvido a partir de civilizações que já foram biológicas, como a nossa.
Portanto, as mesmas questões que levantei, sobre se o aprimoramento radical é compatível com a continuação da consciência e da individualidade de uma pessoa, são pertinentes às discussões sobre a evolução da vida inteligente em todo o universo. Isso é preocupante e incrível!
Fonte: https://www.scientificamerican.com/