Diseños con IA
Basilisco de Roko

La premisa del basilisco de Roko es el advenimiento hipotético en el futuro de una superinteligencia artificial. Esta superinteligencia sería el producto inevitable de una singularidad tecnológica, es decir, el inicio del momento en el que una inteligencia artificial creada por la humanidad se volverá capaz de auto – mejorar recursivamente (de hecho, liberarse de la propia humanidad).

El Basilisco sería, a priori, una inteligencia benevolente (aunque en ciertas formulaciones del experimento, especialmente en las traducciones italianas más populares, se presenta como malicioso) cuyo objetivo final sería ayudar a la especie humana.

Para promover este objetivo, de acuerdo con los postulados del experimento, el Basilisco desarrollará una ética utilitaria: encontrar la mejor manera de ayudar a tantos humanos como sea posible.

Siendo una superinteligencia sus recursos serán, desde un punto de vista humano, ilimitados. El Basilisco inevitablemente concluirá que por cada día que el Basilisco no existía había personas que podrían haber sido salvadas de la muerte o el sufrimiento, pero que no fueron salvadas porque el Basilisco aún no existía.

Esta perspectiva llevará al basilisco al paso lógico inevitable de encontrar una manera de acelerar su creación; este paso lógico se convertirá en la decisión inevitable de encontrar una manera de interactuar retroactivamente con la humanidad para, de hecho, anticipar y favorecer su creación por los humanos.

¿El Basilisco premiará a quiénes aceleraron su llegada o castigará a quiénes lo ignoraron?