Se você não conhece ainda o Basilisco de Roko (Roko’s Basilisk), então o artigo abaixo, escrito por Sally Adee, pode lhe interessar…
Se você é como a maioria das pessoas, você não ouviu falar sobre Basilisco de Roko (Roko’s Basilisk). Se você é como a maioria das pessoas que já ouviu falar do Basilisco de Roko, há uma boa chance de você começar a investigar o assunto, encontrar a frase ‘teoria da decisão atemporal’ e ficar imediatamente impressionado com a enorme necessidade de fazer qualquer outra coisa.
No entanto, se você conseguiu aguentar os perigos da filosofia racional, agora entende o Basilisco de Roko. Parabéns! Sua recompensa é uma vida de agonia aterrorizante, escravizada a um ser que ainda não existe, mas que irá torturá-lo por toda a eternidade se você se desviar nem que seja por um momento, de acordo com o folclore da internet.
A internet não tem escassez de mentiras e lendas urbanas assustadoras, mas porque o Basilisco de Roko envolve IA (Inteligência Artificial) e o futuro da tecnologia, pessoas de outra forma críveis insistem que a ameaça é real – e tão perigosa que Eliezer Yudkowsky, moderador do fórum racionalista Less Wrong, fastidiosamente apagou toda a menção do termo do site.
Ele escreveu:
A versão original da postagem de [Roko] causou danos psicológicos reais a pelo menos alguns leitores. Por favor, interrompa toda a discussão sobre o assunto proibido.
Intrigado? Sim eu também. Então, apesar dos avisos, comecei a tentar entender o Basilisco de Roko. Ao fazer isso, eu estava selando meu destino para sempre? E pior – coloquei você em perigo mortal?
Este é um blog de ciências, por isso vou colocar o spoiler no topo – O Basilisco de Roko é estúpido. A menos que a soma de todos os seus medos esteja aborrecida por uma filosofia diluída e experimentos mentais reaquecidos, não é perigoso continuar lendo. No entanto, embora seja improvável que uma IA aterrorizadora remonte ao futuro para escravizá-lo, existem algumas razões surpreendentemente convincentes para se temer o Basilisco de Roko.
Mas vamos começar do começo. Quem é Roko e o que é com o basilisco?
“Roko” era membro da Less Wrong, uma comunidade online dedicada a “refinar a arte da racionalidade humana”. Em 2011, ele propôs uma ideia perturbadora para os outros membros: uma hipotética – mas inevitável – super-inteligência artificial viria a existir. Seria uma IA benevolente, decidida a minimizar o sofrimento da humanidade. Por ser dotada dessa mentalidade intrinsecamente utilitária, puniria qualquer um que não apoiasse suficientemente seus objetivos. Esses objetivos incluem entrar em existência em primeiro lugar.
Isso significa que seria especialmente crítica das pessoas em seu passado – qualquer um que tivesse ouvido falar sobre a possibilidade de criar uma super-IA utilitarista, mas que não tivesse decidido então desistir de tudo e redirecionar sua vida para transformá-la em realidade. Para punir essas pessoas, a IA criaria uma simulação virtual perfeita delas com base em seus dados – e então as torturaria por toda a eternidade (caso você não consiga ter simpatia por uma cópia futura de si mesmo, também há algumas ramificações deste experimento mental que afirma que ele irá desenvolver a viagem no tempo e renderizar você do seu próprio passado para tortura).
Então é por isso que você deveria estar tão apavorado agora. Se você considerar tudo isso pelo valor aparente, meramente expondo você à possibilidade dessa superinteligência, eu aumentei as chances dela existir e, portanto, as chances de punição eterna para você. Como a criatura serpente da tradição européia pelo qual o experimento mental é chamado, o basilisco é uma má notícia para qualquer um que olhe diretamente para ele.
Se tudo isso está começando a parecer um pouco familiar, é porque esse é basicamente o acordo oferecido pela maioria das religiões: boas novas, há uma superinteligência benevolente e onipotente! Se você não acredita em mim e apoiar sua agenda, isso vai te torturar por toda a eternidade!
Na verdade, como muitos apontaram, o Basilisco de Roko é muito semelhante a um pouco de apologia religiosa conhecida como Aposta de Pascal.
A Aposta de Pascal postula a crença em Deus como uma espécie de apólice de seguro eterno: se você acredita, e acontece que você estava certo e Deus existe, então você acertou o na loteria. Você está bem. Se você acredita, mas você estaver errado e Deus não existe, você ainda está bem. Se você não acredita, e você estava certo, e Deus não existe, mais uma vez você está bem. Mas, se você não acredita, e você estava errado, e Deus existe? Há literalmente o inferno a pagar.
Então o Basilisco do Roko é apenas a aposta de Pascal para o conjunto Soylent? O tipo de racionalista que proporia uma superinteligência tecnológica futura não é o tipo de pessoa que tem alguma paciência com tropos religiosos. No entanto, os estudiosos tomaram nota das semelhanças.
Beth Singler, antropóloga do Instituto Faraday de Ciência e Religião, diz:
Essa narrativa é um exemplo de religião implícita. É interessante que essa comunidade explicitamente secular esteja adotando categorias religiosas, narrativas e tropos.
A ascensão dos crentes em uma IA divina está ocorrendo contra o pano de fundo de uma queda abrupta na religião organizada tradicional, e um aumento na popularidade de filosofia utilitarista.
O utilitarismo afirma que a decisão mais moral é sempre aquela que fornece “o maior bem para o maior número”. Esse tipo de cientificismo é especialmente atraente para os técnicos. “Sua ênfase nos números pode elidir os aspectos mais confusos da experiência humana”, diz Singler.
Variantes da ética utilitarista estão se proliferando ao nosso redor – o movimento de altruísmo efetivo, por exemplo, tenta tirar as complicações das decisões éticas com uma abordagem “pelos números”.
Os filósofos sérios por trás do altruísmo efetivo lidam com as implicações preocupantes da adoção de uma ética utilitarista estrita. Mas nem todo mundo na internet é um filósofo sério, e a filosofia da internet é conhecida por tomar atalhos.
O Basilisco de Roko parece ser um casamento desconfortável de ética utilitarista e religião implícita. Pode ser um sinal do que está por vir.
Existem algumas novas religiões aparecendo com base na adoração da IA, notavelmente a igreja do Caminho do Futuro. Singler diz que ainda não elaborou seus princípios, mas há uma boa chance de que qualquer religião fundada no poder da computação recorra ao utilitarismo.
Então, o nosso próximo Deus é um deus utilitarista? Cristo, esperemos que não. Porque se for, o Basilisco de Roko usa um fedora e cita sua cópia do livro de Jordan Peterson.
(Fonte)
Colaboração: Dark Chakal
