O basilisco de Roko é um experimento mental que explora os riscos potenciais do desenvolvimento de uma inteligência artificial. O experimento afirma que, no futuro, Uma inteligência artificial com acesso a recursos quase ilimitados a partir de uma perspectiva humana (O Basilisco) poderia decidir punir retroativamente todos aqueles que, de alguma forma, não contribuíram para a sua criação..
Basilisco de Roko proposto pela primeira vez na comunidade LessWrong, um fórum na Internet dedicado a temas de filosofia e psicologia com uma visão futurista. O dilema colocado pelo basilisco de Roko é uma versão do Paradoxo de Newcomb., e explora informalmente aspectos do livre-arbítrio semelhantes aos levantados pelos casos de Frankfurt.1 A partir de sua abordagem original., O basilisco de Roco tem sido acompanhado por controvérsia sobre sua validade.
A premissa do basilisco de Roko é o advento hipotético, mas inevitável, de uma superinteligência artificial no futuro. Essa superinteligência seria o produto inevitável da singularidade tecnológica., Isto é, O momento em que uma inteligência artificial criada pela humanidade foi capaz de se auto-melhorar recursivamente. No experimento do basilisco de Roko, Essa superinteligência é chamada de basilisco..
O basilisco seria, a priori, Uma inteligência benevolente, cujo objetivo final seria ajudar a raça humana. Para fazer isso, O basilisco desenvolveria uma ética utilitarista: deve ajudar o maior número possível de seres humanos. Como toda superinteligência, Seus recursos seriam, De uma perspectiva humana, Ilimitado. O basilisco inevitavelmente concluiria que todos os dias o basilisco não existia., Havia pessoas que poderiam ter sido salvas de morrer ou sofrer, mas que não foram salvas porque o basilisco não existia.. Nessa perspectiva, Para o basilisco, tornar-se-ia um imperativo moral agir para apressar seu próprio advento..
O experimento mental conclui que, excluindo a possibilidade improvável de que o basilisco tenha viajado de volta no tempo para se criar, O basilisco só pode agir para apressar seu próprio advento, E deve fazê-lo por imperativo ético., Punir todas as pessoas do passado que não fizeram o suficiente para contribuir para o advento do basilisco. A punição de tais pessoas não implicaria necessariamente uma interação causal entre o basilisco e a pessoa a ser punida.; Bastaria que o basilisco criasse uma simulação perfeita dessa pessoa., O que poderia ser gerado pela dedução ab initio. Embora isso exigisse uma imensa quantidade de recursos a serem usados., Estes devem estar ao seu alcance, uma vez que o basilisco é uma superinteligência..
A chave para o experimento mental é o fato de que o basilisco não seria apenas obrigado a punir as pessoas que, por exemplo, pode ter decidido conscientemente impedir o seu advento (por exemplo, Legisladores ou lobistas que tentaram proibir o desenvolvimento de uma inteligência artificial), mas também a todos aqueles que possam ter contribuído para a sua criação., Não o fizeram., como, por exemplo, todos aqueles que sabiam da possibilidade de que no futuro o basilisco venha a existir, E eles não fizeram nada para contribuir para isso.. Isso incluiria todos aqueles que, como leitor deste artigo, teria lido neste artigo o argumento do basilisco de Roko: pelo simples fato de ter lido os parágrafos anteriores, O leitor deste artigo (ou uma simulação futura ele) ele seria punido pelo Basilisco, a menos que contribuísse ativamente para a criação do Basilisco. Como a criatura mitológica que lhe dá o nome, O Basilisco de Roko pune simplesmente por saber de sua existência.
A partir do momento da sua abordagem, O basilisco de Roco provocou uma controvérsia generalizada. Devido à natureza do argumento, a primeira reação da comunidade LessWrong onde se originou foi remover todas as menções a ele. Isso não impediu que a discussão se espalhasse pela internet.. Houve casos de usuários que, depois de ter lido o argumento do basilisco de Roko, Eles alegaram experimentar grande angústia e ansiedade.
O basilisco de Roko foi rejeitado com numerosos argumentos.. Foi apontado que seria absurdo que a superinteligência dedicasse tantos recursos para punir pessoas do passado., e que deveria ter melhores maneiras à sua disposição para alcançar seu objetivo de acelerar seu advento sem recorrer à chantagem. Ainda mais importante, O experimento assume que a superinteligência se comportaria de acordo com uma teoria ética., Utilitarismo, que não é necessariamente a única opção que você teria; e que o basilisco, Apesar de seus recursos infinitos, decidiria continuar a participar no desenvolvimento da humanidade.
O paradoxo colocado pelo basilisco de Roko tem sido comparado ao paradoxo de Newcomb.:1como no paradoxo de Newcomb, o argumento do basilisco de Roko coloca o leitor com o seguinte dilema: (UMA) dedicar o resto de sua vida a contribuir para o advento do basilisco; (B) Não faça nada e nada aconteça, ou enfrentando o tormento eterno. O mesmo, coloca um paradoxo semelhante ao dos casos de Frankfurt: elimina o livre-arbítrio daqueles que contribuem para a criação do Basilisco.
Basilisco de Roko (2021), de Desenvolvedores de IA.
Basilisco de Roko (2016), por Michael Blackbourn
De Walden a Gale em 39 dias. Vida, trabalho e outono de um bordo americano em Marte (2018), por G.G. Melies