Nick Bostrom: Are We Living in a Computer Simulation (2001)

Coleciono todos os textos mais importantes de todos os tempos e povos, influenciando a visão de mundo e a formação da imagem do mundo ( "Ontol" ). E aqui eu pensei e pensei e apresentei uma hipótese ousada de que este texto é mais revolucionário e importante em nossa compreensão da estrutura do mundo do que a revolução copernicana e as obras de Kant. Em Runet, esse texto (versão completa) estava em péssimo estado, penteei um pouco e, com a permissão do tradutor, publiquei para discussão.

"Você está vivendo em uma simulação de computador?"

por Nick Bostrom [Publicado em Philosophical Quarterly (2003) Vol. 53, No. 211, pp. 243-255. (Primeira versão: 2001)]



Este artigo afirma que pelo menos uma das três suposições a seguir é verdadeira:

• (1) é altamente provável que a humanidade morrerá antes de atingir a fase "pós-humana";
• (2) toda civilização pós-humana é extremamente improvável de executar um número significativo de simulações de sua história evolutiva (ou suas variantes), e
• (3) quase certamente estamos vivendo em uma simulação de computador .

Segue-se disso que a probabilidade de estar na fase de uma civilização pós-humana que será capaz de fazer simulações de seus predecessores é zero, a menos que aceitemos o caso de que já estamos vivendo em uma simulação como verdadeira. Outras consequências desse resultado também são discutidas.

1. Introdução

Muitas obras de ficção científica, bem como as previsões de futuristas sérios e pesquisadores de tecnologia, prevêem que quantidades colossais de poder de computação estarão disponíveis no futuro. Vamos supor que essas previsões estejam corretas. Por exemplo, as gerações futuras com seus computadores ultra-poderosos serão capazes de executar simulações detalhadas de seus predecessores ou de pessoas como seus predecessores. Como seus computadores serão tão poderosos, eles poderão executar muitas simulações como esta.Suponha que essas pessoas simuladas tenham consciência (e eles terão se a simulação for altamente precisa e se um certo conceito amplamente aceito de consciência na filosofia estiver correto). Isso implica que o maior número de mentes como a nossa não pertence à raça original, mas sim aos humanos simulados pelos descendentes avançados da raça original. Com base nisso, pode-se argumentar que é razoável esperar que estejamos entre as mentes biológicas naturais simuladas, e não entre as mentes biológicas naturais originais. Assim, se não acreditamos que agora vivemos em uma simulação de computador, não devemos supor que nossos descendentes farão muitas simulações de seus ancestrais. Essa é a ideia principal. No restante deste trabalho, examinaremos isso com mais detalhes.



Além do interesse que esta tese pode representar para os envolvidos em discussões futurísticas, há também um interesse puramente teórico aqui. Essa prova é um incentivo para a formulação de alguns problemas metodológicos e metafísicos, e também oferece algumas analogias naturais para conceitos religiosos tradicionais, e essas analogias podem parecer surpreendentes ou sugestivas.



A estrutura deste artigo é a seguinte: no início, formularemos uma certa suposição que precisamos importar da filosofia da mente para que essa prova funcione. Em seguida, examinamos algumas das razões empíricas para acreditar que a execução de uma vasta gama de simulações de mentes humanas estará disponível para uma civilização futura que desenvolverá muitas das tecnologias que foram deixadas claras para serem consistentes com as leis físicas conhecidas e restrições de engenharia.



Esta parte não é necessária do ponto de vista filosófico, mas incentiva a atenção à ideia principal do artigo. Isso é seguido por uma apresentação da prova em sua essência, usando algumas aplicações simples da teoria da probabilidade, e uma seção que justifica o princípio da equivalência fraca que esta prova usa. Por fim, discutiremos algumas interpretações da alternativa mencionada no início, e esta será a conclusão da prova do problema de simulação.

2. Presunção de independência da transportadora

Um pressuposto comum na filosofia da mente é o pressuposto da independência do portador. A ideia é que os estados mentais podem surgir em qualquer meio de uma ampla classe de portadores físicos. Desde que o conjunto correto de estruturas e processos computacionais esteja incorporado ao sistema, experiências conscientes podem surgir nele. A propriedade intrínseca não é a implementação de processos intracranianos em redes neurais biológicas baseadas em carbono: processadores baseados em silício dentro de computadores podem fazer exatamente o mesmo truque. Argumentos a favor desta tese foram apresentados na literatura existente e, embora não seja completamente consistente, iremos considerá-la como certa aqui.



A prova que oferecemos aqui, no entanto, não depende de nenhuma versão muito forte de funcionalismo ou computacionalismo. Por exemplo, não devemos aceitar que a tese sobre a independência do portador seja necessariamente verdadeira (tanto no sentido analítico quanto metafísico) - devemos apenas aceitar que, na realidade, um computador sob o controle do programa correspondente poderia ter consciência ... Além disso, não devemos presumir que, para criar consciência em um computador, teríamos que programá-lo de forma que se comporte como um humano em todos os casos, passe no teste de Turing, etc. Precisamos apenas de um mais fraco a suposição de que é suficiente para criar experiências subjetivasde modo que os processos computacionais no cérebro humano são copiados estruturalmente em detalhes apropriados de alta precisão, por exemplo, no nível das sinapses individuais. Essa versão refinada de independência da mídia é amplamente aceita.



Neurotransmissores, fatores de crescimento do nervo e outras substâncias químicas menores que as sinapses claramente desempenham um papel na cognição e no aprendizado humanos. A tese da independência da mídia não é que os efeitos desses produtos químicos sejam pequenos ou insignificantes, mas que eles afetam apenas a experiência subjetiva por meio do impacto direto ou indireto na atividade computacional. Por exemplo, se não houver diferenças subjetivas sem que haja também uma diferença na descarga sináptica, então o detalhe da simulação necessária está no nível sináptico (ou superior).

3 limites tecnológicos de computação

No atual nível de desenvolvimento tecnológico, não temos nem equipamento poderoso o suficiente nem o software apropriado para criar mentes conscientes em um computador. No entanto, fortes argumentos foram apresentados de que, se o progresso tecnológico continuar sem parar, essas limitações serão eventualmente superadas. Alguns autores argumentam que essa fase chegará em apenas algumas décadas. No entanto, para os fins de nossa discussão, nenhuma suposição de cronograma é necessária. A prova de simulação funciona tão bem para aqueles que acreditam que levará centenas de milhares de anos para chegar a uma fase "pós-humana" de desenvolvimento, quando a humanidade adquirirá a maioria das capacidades tecnológicas que agora podem ser demonstradasconsistente com as leis físicas e restrições materiais e de energia.



Esta fase madura de desenvolvimento tecnológico permitirá transformar planetas e outros recursos astronômicos em computadores de poder colossal. No momento, é difícil ter certeza sobre os limites finais do poder de computação que estarão disponíveis para as civilizações pós-humanas. Como ainda não temos uma "teoria de tudo", não podemos descartar a possibilidade de que novos fenômenos físicos, proibidos pelas teorias físicas modernas, possam ser utilizados para superar as limitações que, segundo nossa visão atual, impõem limites teóricos ao processamento da informação no interior. um determinado pedaço de matéria. Com um grau de confiabilidade muito maior, podemos estabelecer os limites inferiores da computação pós-humana, assumindo a implementação apenas dos mecanismos que já são compreendidos. Por exemplo,Eric Drexler deu o esboço de um sistema, do tamanho de um cubo de açúcar (excluindo o sistema de refrigeração e energia), que poderia fazer 10²¹ operações por segundo. Outro autor deu uma estimativa aproximada de 10 ⁴² operações por segundo para um computador do tamanho de um planeta. (Se aprendermos como criar computadores quânticos, ou aprendermos a construir computadores a partir de matéria nuclear ou plasma, podemos chegar ainda mais perto dos limites teóricos. Seth Lloyd calculou o limite superior para um computador pesando 1 kg em 5 * 10 ⁵⁰ operações lógicas por segundo realizadas em 10 ³¹ bits. No entanto, para nossos propósitos, é suficiente usar estimativas mais conservadoras, que implicam apenas os princípios operacionais atualmente conhecidos.)



A quantidade de energia do computador necessária para emular um cérebro humano leva à mesma estimativa aproximada. Uma estimativa com base em quão computacionalmente caro seria copiar o funcionamento de um pedaço de tecido neural que já entendemos e cuja funcionalidade já foi copiada em silício (ou seja, o sistema de aumento de contraste na retina foi copiado), dá uma estimativa de cerca de 10 ¹⁴ operações por segundo. Uma estimativa alternativa com base no número de sinapses no cérebro e na frequência de seu disparo dá um valor de 10 ¹⁶ -10 ¹⁷operações por segundo. Consequentemente, ainda mais poder de computação pode ser necessário se quisermos simular em detalhes o funcionamento interno das sinapses e ramos dendríticos. No entanto, é altamente provável que o sistema nervoso central humano tenha uma certa medida de redundância no nível micro para compensar a falta de confiabilidade e o ruído de seus componentes neurais. Consequentemente, seria de se esperar ganhos significativos em eficiência ao usar processadores não biológicos mais confiáveis ​​e flexíveis.



A memória não é mais uma limitação do que o poder de processamento. Além disso, uma vez que o fluxo máximo de dados sensoriais humanos é da ordem de 10 ⁸bits por segundo, então simular todos os eventos sensoriais seria insignificante em comparação com a simulação da atividade cortical. Dessa forma, podemos usar a capacidade de processamento necessária para simular o sistema nervoso central como uma estimativa do custo computacional total da simulação da mente humana.



Se o ambiente for incluído na simulação, ele exigirá potência adicional do computador - cuja quantidade depende do tamanho e dos detalhes da simulação. Simular todo o universo até o nível quântico é obviamente impossível, exceto se alguma nova física for descoberta. Mas é preciso muito menos para obter uma simulação realista da experiência humana - tanto quanto é necessário para garantir que as pessoas simuladas interagindo de uma maneira humana normal com o ambiente simulado não notarão nenhuma diferença. A estrutura microscópica do interior da Terra pode ser facilmente omitida. Objetos astronômicos distantes podem estar sujeitos a um nível muito alto de compressão: a similaridade exata deve estar apenas em uma faixa estreita de propriedades,que podemos observar de nosso planeta ou de uma espaçonave dentro do sistema solar. Na superfície da Terra, objetos macroscópicos em lugares desabitados devem ser simulados continuamente, mas fenômenos microscópicos podem preencherad hoc , isto é, conforme necessário. O que você vê através de um microscópio eletrônico deve parecer suspeito, mas normalmente você não tem como verificar sua consistência com partes não observáveis ​​do micromundo. Exceções surgem quando projetamos sistemas propositadamente para controlar fenômenos microscópicos inobserváveis ​​que operam de acordo com princípios conhecidos para produzir resultados que podemos verificar independentemente. O exemplo clássico disso é o computador. A simulação, portanto, deve incluir simulações contínuas de computadores até o nível de portas lógicas individuais. Isso não é um problema, pois nosso poder de computação atual é insignificante para os padrões pós-humanos.



Além disso, um simulador pós-humano terá poder de computação suficiente para rastrear em detalhes o estado de pensamento em todos os cérebros humanos em todos os momentos. Assim, quando ele descobre que uma pessoa está pronta para fazer alguma observação sobre o microcosmo, ele pode preencher a simulação com o nível de detalhe suficiente, tanto quanto necessário. Se algum erro acontecer, o diretor de simulação pode facilmente editar os estados de qualquer cérebro que sabia sobre a anomalia antes que ela arruinasse a simulação. Como alternativa, o diretor pode retroceder a simulação alguns segundos e reiniciá-la de forma a evitar o problema.



Segue-se disso que o mais caro na criação de uma simulação que é indistinguível da realidade física para as mentes humanas será criar simulações de cérebros orgânicos até o nível neural ou subneural. Embora não seja possível dar uma estimativa muito precisa do custo de uma simulação realista da história humana, podemos usar uma estimativa de 10 ³³ -10 ³⁶ operações como uma estimativa aproximada.



À medida que ganhamos mais experiência na criação de realidade virtual, obteremos um melhor entendimento dos requisitos computacionais necessários para fazer esses mundos parecerem realistas para seus visitantes. Mas mesmo que nossa estimativa esteja errada em várias ordens de magnitude, isso realmente não importa para a nossa prova. Notamos que uma estimativa aproximada do poder de computação de um computador do tamanho de um planeta é 10 ⁴²operações por segundo, e isso apenas levando em consideração os desenhos nanotecnológicos já conhecidos, que provavelmente estão longe de serem ótimos. Um desses computadores pode simular toda a história mental da humanidade (vamos chamá-la de simulação de ancestrais) usando apenas um milionésimo de seus recursos em 1 segundo. A civilização pós-humana poderia eventualmente construir um número astronômico de tais computadores. Podemos concluir que a civilização pós-humana pode executar uma enorme quantidade de simulações de ancestrais, mesmo que gaste apenas uma pequena fração de seus recursos nela. Podemos chegar a essa conclusão, mesmo admitindo um erro significativo em todas as nossas estimativas.

• , -, .

4.

A ideia principal deste artigo pode ser expressa da seguinte forma: se há uma chance significativa de que nossa civilização algum dia alcance o estágio pós-humano e lance muitas simulações de ancestrais, então como podemos provar que não vivemos em uma dessas simulações?



Vamos desenvolver essa ideia na forma de uma prova rigorosa. Vamos apresentar as seguintes designações:



- a parcela de todas as civilizações do nível humano que sobrevivem até o estágio pós-humano;

N é o número médio de simulações de ancestrais lançadas pela civilização pós-humana;

H é o número médio de pessoas que viveram em uma civilização antes de ela atingir o estágio pós-humano.



Então, a proporção real de todos os observadores com experiência humana que vivem na simulação é:







Vamos denotar como a proporção de civilizações pós-humanas que estão interessadas em executar simulações de ancestrais (ou que contêm pelo menos um certo número de criaturas individuais que estão interessadas nisso e têm recursos significativos para executar um número significativo de simulações) e como o número médio de simulações de ancestrais lançadas por tais civilizações interessadas, obtemos:







E portanto:







Devido ao colossal poder computacional das civilizações pós-humanas é extremamente grande, como vimos na seção anterior. Considerando a fórmula (*), podemos ver que pelo menos uma das três suposições a seguir é verdadeira:

5. O princípio suave da equivalência

Podemos dar um passo adiante e concluir que dado (3) ser verdadeiro, você pode quase certamente ter certeza de que está em uma simulação. De um modo geral, se sabemos que a fração x de todos os observadores com experiência do tipo humano vive em uma simulação, e não temos informações adicionais que mostram que nossa própria experiência particular está mais ou menos provavelmente incorporada em uma máquina, e não in vivo do que outras experiências humanas, caso em que nossa confiança de que estamos em uma simulação deve ser x:







Esta etapa é justificada por um princípio de equivalência muito fraco. Vamos dividir os dois casos. No primeiro caso, que é mais simples, todas as mentes sob investigação são semelhantes à sua, no sentido de que correspondem exatamente à sua mente qualitativamente: possuem as mesmas informações e as mesmas experiências que você. No segundo caso, as mentes são semelhantes entre si apenas em um sentido amplo, sendo o tipo de mentes típicas dos seres humanos, mas qualitativamente diferentes umas das outras e cada uma tem um conjunto diferente de experiências. Eu argumento que mesmo quando as mentes são qualitativamente diferentes, a prova de simulação ainda funciona, desde que você não tenha nenhuma informação que responda à questão de quais mentes diferentes são simuladas e quais são biologicamente realizadas.



Uma fundamentação mais rigorosa do princípio, que inclui tanto de nossos exemplos particulares como casos especiais triviais, foi fornecida na literatura. A falta de espaço torna impossível fornecer todo o fundamento lógico aqui, mas podemos apresentar aqui um dos motivos intuitivos. Imagine que x% de uma população tem uma certa sequência genética S dentro de uma certa parte de seu DNA, que normalmente é chamada de "DNA lixo". Suponha, além disso, que não haja manifestações de S (com exceção daquelas que podem aparecer em testes genéticos) e não há correlações entre a posse de S e quaisquer manifestações externas. Então, é bastante óbvio que antes de seu DNA ser sequenciado, é racional atribuir confiança em x% à hipótese de que você tem um fragmento S. E isso é bastante independente do fato de queque as pessoas que têm S têm mentes e experiências que são qualitativamente diferentes daquelas que não têm S. (Eles são diferentes simplesmente porque todas as pessoas têm experiências diferentes, não porque haja alguma conexão direta entre S e o tipo de experiência que a pessoa está experimentando.)



O mesmo raciocínio se aplica se S não é a propriedade de ter uma determinada sequência genética, mas sim o fato de estar em uma simulação, na suposição de que não temos informações que nos permitam prever quaisquer diferenças entre as experiências das mentes simuladas e entre as experiências do biológico original mentes.



Deve-se enfatizar que o princípio suave da equivalência enfatiza apenas a equivalência entre as hipóteses de que tipo de observador você é, quando você não tem informações sobre qual dos observadores você é. Geralmente, não atribui equivalência entre hipóteses quando você não tem informações específicas sobre qual hipótese é verdadeira. Ao contrário de Laplace e outros princípios mais fortes de equivalência, ele é, portanto, imune ao paradoxo de Bertrand e a outras dificuldades semelhantes que complicam a aplicação ilimitada dos princípios de equivalência.



Leitores familiarizados com o argumento do Juízo Final (DA) (J. Leslie, "Is the End of the World Nigh?" Philosophical Quarterly 40, 158: 65-72 (1990)) podem estar preocupados que o princípio de equivalência, usado aqui é baseado nas mesmas suposições que são responsáveis ​​por tirar o solo do AD, e que a contra-intuição de algumas das conclusões deste último lança uma sombra sobre a validade do raciocínio sobre a simulação. Isso não é verdade. DA se baseia na premissa muito mais estrita e controversa de que uma pessoa deve raciocinar como se fosse uma amostra aleatória de todo o conjunto de pessoas que já viveram e viverão (no passado, presente e futuro), apesar do fato de que que sabemos que estamos vivendo no início do século 21, e não em algum momento no futuro distante. O princípio da incerteza suave aplica-se apenas a esses casosquando não temos informações adicionais sobre a qual grupo de pessoas pertencemos.



Se apostar é algum tipo de base para crença racional, então se todos apostarem se estão em uma simulação ou não, então se as pessoas usarem o princípio da incerteza suave e apostarem que estão em uma simulação, confiando em sabendo que a maioria das pessoas está nele, quase todos ganharão suas apostas. Se apostarem que não estão na simulação, quase todos perderão. Parece mais útil seguir o princípio da equivalência suave. Além disso, pode-se imaginar uma sequência de situações possíveis em que uma proporção crescente de pessoas vive em simulações: 98%, 99%, 99,9%, 99,9999% e assim por diante. À medida que nos aproximamos do limite superior, quando todos estão vivendo em uma simulação (do qual se pode deduzir que todos estão em uma simulação), parece um requisito razoável,de modo que a certeza que alguém atribui a estar em uma simulação se aproxima de maneira suave e contínua do limite da certeza total.

6. Interpretação

A possibilidade mencionada no ponto (1) é perfeitamente compreensível. Se (1) for verdade, então a humanidade quase certamente falhará em alcançar o nível pós-humano; nenhuma espécie em nosso nível de desenvolvimento se torna pós-humana, e é difícil encontrar qualquer justificativa para pensar que nossa própria espécie tem alguma vantagem ou proteção especial contra desastres futuros. Sob a condição (1), portanto, devemos atribuir uma alta certeza de Doom (DOOM), ou seja, à hipótese de que a humanidade irá desaparecer antes de atingir o nível pós-humano:







Pode-se imaginar uma situação hipotética em que temos dados que se sobrepõem nosso conhecimento sobre f _p... Por exemplo, se descobrirmos que um asteróide gigante está prestes a nos atingir, podemos supor que tivemos muito azar. Nesse caso, podemos atribuir à hipótese da Perdição mais credibilidade do que nossa expectativa da proporção de civilizações de nível humano que não serão capazes de alcançar a pós-humanidade. No nosso caso, porém, não parecemos ter motivos para pensar que somos especiais a esse respeito, para o bem ou para o mal.



A suposição (1) por si só não significa que provavelmente morreremos. Isso sugere que é improvável que alcancemos a fase pós-humana. Essa possibilidade pode significar, por exemplo, que permaneceremos nos níveis atuais ou ligeiramente acima por muito tempo antes de nos extinguirmos. Outra possível razão para a verdade de (1) é que, muito provavelmente, a civilização tecnológica entrará em colapso. Ao mesmo tempo, as sociedades humanas primitivas permanecerão na Terra.



Existem muitas maneiras pelas quais a humanidade pode se extinguir antes de atingir a fase pós-humana de desenvolvimento. A explicação mais natural (1) é que morreremos como resultado do desenvolvimento de alguma tecnologia poderosa, mas perigosa. Um candidato é a nanotecnologia molecular, cujo estágio maduro permitirá a criação de nanorrobôs auto-replicantes que podem se alimentar de sujeira e matéria orgânica - algo como uma bactéria mecânica. Esses nanorrobôs, se projetados para fins maliciosos, podem levar à morte de toda a vida no planeta.



Uma segunda alternativa para a inferência do raciocínio da simulação é que a proporção de civilizações pós-humanas que estão interessadas em fazer simulações de ancestrais é insignificante. Para (2) ser verdade, deve haver uma convergência estrita entre os caminhos de desenvolvimento das civilizações avançadas. Se o número de simulações de ancestrais produzidas por civilizações interessadas for excepcionalmente grande, a raridade de tais civilizações deve ser correspondentemente extrema. Praticamente nenhuma civilização pós-humana decide usar seus recursos para criar um grande número de simulações de ancestrais. Além disso, quase todas as civilizações pós-humanas carecem de indivíduos com os recursos apropriados e interesse para executar simulações de ancestrais; ou eles têm leis respaldadas pela força,impedindo o comportamento dos indivíduos de acordo com seus desejos.



Que força pode levar a tal convergência? Alguém poderia argumentar que civilizações avançadas, todas como uma só, se desenvolvem ao longo de uma trajetória que leva ao reconhecimento da proibição ética de fazer simulações de ancestrais devido ao sofrimento que os habitantes da simulação vivenciam. No entanto, do nosso ponto de vista atual, não parece óbvio que a criação da raça humana seja imoral. Pelo contrário, tendemos a perceber a existência de nossa raça como de grande valor ético. Além disso, a convergência apenas de visões éticas sobre a imoralidade de fazer simulações de ancestrais não é suficiente: ela deve ser combinada com a convergência da estrutura social civilizacional, o que leva ao fato de que atividades consideradas imorais são efetivamente proibidas.



Outra possibilidade de convergência é que quase todos os pós-humanos individuais em quase todas as civilizações pós-humanas se desenvolvem em uma direção na qual perdem o impulso de executar simulações ancestrais. Isso exigirá mudanças significativas nas motivações que impulsionam seus ancestrais pós-humanos, já que certamente existem muitas pessoas por aí que gostariam de fazer simulações de ancestrais se tivessem a chance. Mas talvez muitos de nossos desejos humanos pareçam tolos para qualquer um que se torne pós-humano. Talvez o valor científico das simulações de ancestrais para civilizações pós-humanas seja insignificante (o que não parece muito incrível, dada sua incrível superioridade intelectual) e talvezOs pós-humanos consideram a atividade recreativa uma forma muito ineficaz de obter prazer - que pode ser obtida de forma muito mais barata, estimulando diretamente os centros de prazer do cérebro. Uma conclusão que se segue de (2) é que as sociedades pós-humanas serão extremamente diferentes das sociedades humanas: elas não terão agentes independentes relativamente ricos que tenham uma gama completa de desejos semelhantes aos humanos e que sejam livres para agir de acordo com eles. ...e que são livres para agir de acordo com eles.e que são livres para agir de acordo com eles.



A oportunidade descrita pela inferência (3) é a mais intrigante conceitualmente. Se vivemos em uma simulação, o espaço que observamos é apenas um pequeno pedaço na totalidade da existência física. A física do universo onde o computador está localizado pode ou não ser semelhante à física do mundo que observamos. Embora o mundo que observamos seja um tanto “real”, ele não está localizado em algum nível fundamental de realidade. Pode ser possível que civilizações simuladas se tornem pós-humanas. Eles podem, por sua vez, executar simulações de ancestrais em computadores poderosos que construíram no universo simulado. Esses computadores seriam “máquinas virtuais”, um conceito muito comum na ciência da computação. (Aplicativos da Web escritos em script Java, comoé executado em uma máquina virtual - um computador simulado - em seu laptop.)



As máquinas virtuais podem ser aninhadas umas nas outras: é possível simular uma máquina virtual simulando outra máquina, e assim por diante, com um número arbitrariamente grande de etapas. Se pudermos criar nossas próprias simulações de ancestrais, isso seria uma forte evidência contra os pontos (1) e (2), e, portanto, teríamos que concluir que estamos vivendo em uma simulação. Além disso, teremos que suspeitar que os pós-humanos que iniciaram nossa simulação são criaturas simuladas, e seus criadores, por sua vez, também podem ser criaturas simuladas.



A realidade, portanto, pode conter vários níveis. Mesmo que a hierarquia termine em algum nível - o status metafísico dessa afirmação é bastante obscuro - pode haver espaço suficiente para um grande número de níveis de realidade, e esse número pode aumentar com o tempo. (Uma consideração que fala contra essa hipótese em camadas é que o custo computacional para simuladores básicos será muito alto. Simular até mesmo uma civilização pós-humana pode ser proibitivamente caro. Se for assim, devemos esperar que nossa simulação seja desativada. quando nos aproximamos do nível pós-humano.)



Embora todos os elementos desse sistema sejam naturalistas, até físicos, é possível traçar algumas analogias vagas com conceitos religiosos do mundo. Em certo sentido, os pós-humanos que lançaram a simulação são como deuses em relação às pessoas na simulação: os pós-humanos criam o mundo que vemos; eles têm uma inteligência superior; eles são onipotentes no sentido de que podem interferir no funcionamento de nosso mundo de maneiras que violam as leis físicas, e são oniscientes no sentido de que podem monitorar tudo o que acontece. No entanto, todos os semideuses, com exceção daqueles que vivem no nível fundamental de realidade, estão sujeitos às ações de deuses mais poderosos que habitam em níveis mais elevados de realidade.



Uma reflexão mais aprofundada sobre esses temas pode terminar com a teogonia naturalística, que estudará a estrutura dessa hierarquia e as restrições impostas aos habitantes pela possibilidade de que suas ações em seu nível possam afetar a atitude dos habitantes de um nível mais profundo de realidade para com eles. Por exemplo, se ninguém pode ter certeza de que está em um nível básico, então todos devem considerar a probabilidade de que suas ações sejam recompensadas ou punidas, talvez com base em alguns critérios morais, pelos mestres da simulação. A vida após a morte será uma possibilidade real. Por causa dessa incerteza fundamental, até mesmo a civilização em um nível básico será motivada a se comportar de maneira ética. O fato de que eles têm uma razão para se comportar moralmente, é claro, será uma razão convincente para outra pessoa se comportar moralmente, e assim por diante,formando um círculo virtuoso. Assim, você pode obter algo como um imperativo ético universal, que será do interesse pessoal de todos e que surge do nada.



Além das simulações de ancestrais, pode-se imaginar a possibilidade de simulações mais seletivas que envolvam apenas um pequeno grupo de pessoas ou um indivíduo. O resto das pessoas serão então "zumbis" ou "pessoas sombras" - pessoas simuladas apenas em um nível suficiente para que as pessoas totalmente simuladas não percebam nada suspeito.



Não está claro o quanto será mais barato simular pessoas na sombra do que pessoas reais. Nem mesmo é óbvio que seja possível para um objeto se comportar indistinguivelmente de uma pessoa real e, portanto, não ter experiências conscientes. Mesmo se tais simulações seletivas existirem, você não precisa ter certeza de que está dentro delas antes de ter certeza de que tais simulações são muito mais numerosas do que simulações completas. O mundo deve ter cerca de 100 bilhões de auto-simulações (simulações da vida de apenas uma consciência) do que simulações completas de ancestrais - para que a maioria das pessoas simuladas estejam em auto-simulações.



Também existe a possibilidade de que os simuladores saltem sobre uma determinada parte da vida mental das criaturas simuladas e lhes dêem memórias falsas do tipo de experiência que podem ter durante os períodos ausentes. Nesse caso, pode-se imaginar a seguinte solução (esticada) para o problema do mal: que na realidade não existe sofrimento no mundo e que todas as memórias de sofrimento são uma ilusão. É claro que essa hipótese só pode ser considerada seriamente nos momentos em que você mesmo não está sofrendo.



Supondo que estejamos vivendo em uma simulação, quais são as implicações para nós, humanos? Ao contrário do que foi dito antes, as consequências para os humanos não são particularmente drásticas. Nosso melhor guia de como nossos criadores pós-humanos escolheram organizar nosso mundo é a exploração empírica padrão do universo que vemos. As mudanças em grande parte de nosso sistema de crenças são provavelmente pequenas e suaves - proporcionais à nossa falta de confiança em nossa capacidade de compreender os sistemas de pensamento pós-humanos.



Uma compreensão correta da verdade da tese (3) não deve nos tornar "insanos" ou nos forçar a encerrar nosso negócio e parar de fazer planos e previsões para amanhã. A principal importância empírica de (3) no momento, aparentemente, reside em seu papel na tripla conclusão dada acima.



Devemos esperar que (3) seja verdade porque reduz a probabilidade de (1), no entanto, se as restrições computacionais tornarem provável que os simuladores desliguem a simulação antes que ela atinja níveis pós-humanos, então nossa melhor esperança é que (2) seja verdade. ...



Se aprendermos mais sobre motivação pós-humana e restrições de recursos, talvez como resultado de nosso desenvolvimento em direção à pós-humanidade, então a hipótese de que somos simulados receberá um conjunto muito mais rico de aplicações empíricas.

7. Conclusão

Uma civilização pós-humana tecnologicamente madura teria um enorme poder de computação. Com base nisso, o raciocínio sobre a simulação mostra que pelo menos uma das seguintes teses é verdadeira:

• (1) , , .
• (2) , , .
• (3) , , .

Se (1) for verdade, então quase certamente morreremos antes de atingir o nível pós-humano.



Se (2) for verdade, então deve haver uma convergência estritamente coordenada dos caminhos de desenvolvimento de todas as civilizações avançadas, de modo que nenhuma delas tenha indivíduos relativamente ricos que gostariam de executar simulações de ancestrais e seriam livres para fazê-lo.



Se (3) for verdade, então quase certamente estamos vivendo em uma simulação. A floresta escura de nossa ignorância torna razoável distribuir nossa confiança quase uniformemente entre os itens (1), (2) e (3).



A menos que já vivamos em uma simulação, nossos descendentes quase certamente nunca farão simulações de ancestrais.

Agradecimentos

Sou grato a muitas pessoas por seus comentários, especialmente Amara Angelica, Robert Bradbury, Milan Cirkovic, Robin Hanson, Hal Finney, Robert A. Freitas Jr., John Leslie, Mitch Porter, Keith DeRose, Mike Treder, Mark Walker, Eliezer Yudkowsky, e árbitros anônimos.



Tradução: Alexey Turchin





Mais trabalhos de Alexey Turchin:

• Uma mensagem para uma inteligência artificial hostil
• Falha na matriz: lenda urbana ou evidência da simulação?
• Tipologia de simulação e riscos de rescisão

---

Sobre Ontol

Ontol é um mapa que permite escolher a rota mais eficaz para a formação de sua visão de mundo.



Ontol é baseado em uma superposição de avaliações subjetivas, reflexão dos textos lidos (idealmente, milhões / bilhões de pessoas). Cada pessoa que participa do projeto decide por si mesma qual é o top 10/100 dos mais importantes, o que ela leu / assistiu sobre aspectos significativos da vida (pensamento, saúde, família, dinheiro, confiança, etc.) nos últimos 10 anos ou durante toda a sua vida ... O que pode ser compartilhado em um clique (textos e vídeos, não livros, conversas e eventos).



O resultado final ideal do Ontola é o acesso 10x-100x mais rápido (do que os análogos existentes da wikipedia, quora, chats, channels, LJ, motores de busca) a textos e vídeos significativos que afetarão a vida do leitor ("Oh, como eu gostaria que leia este texto antes! Muito provavelmente a vida teria sido diferente "). Grátis para todos os habitantes do planeta e com um clique.

• Canal de telegrama: t.me/ontol
• Protótipo de serviço da Web: beta.ontol.org
• Em Habré:
  
  
  
  
  • DeepMind Ontol: Os recursos de IA mais úteis do mundo
  • Ontol (= o mais útil) sobre trabalho remoto [seleção de mais de 100 artigos]
  • Ontol: uma seleção de artigos sobre "burnout" [100+]
  
  
  
• Ontol em startups de Y Combinator: www.ycombinator.com/library