Conceptions avec l'IA
Roko Basilisk

La prémisse du basilic de Roko est le Hypothétique avènement dans le futur d’une superintelligence artificielle. Cette superintelligence serait le produit inévitable d’une singularité technologique., c'est-à-dire, Le début du moment où une intelligence artificielle créée par l’humanité deviendra capable de se faire elle-même – améliorer de manière récursive (En fait, Se libérer de sa propre humanité).

Le Basilic serait, a priori, Une intelligence bienveillante (bien que dans certaines formulations de l’expérience, en particulier dans les traductions italiennes les plus populaires, est présenté comme malveillant) dont le but ultime serait d’aider l’espèce humaine.

Pour atteindre cet objectif, selon les postulats de l’expérience, le Basilic développera une éthique utilitariste: trouver la meilleure façon d’aider autant d’humains que possible.

Étant une superintelligence, vos ressources seront, D’un point de vue humain, Illimité. Le Basilic conclura inévitablement que pour chaque jour où le Basilic n’existait pas, il y avait des gens qui auraient pu être sauvés de la mort ou de la souffrance., mais ils n’ont pas été sauvés parce que le Basilic n’existait pas encore..

Cette perspective conduira le basilic à l’étape logique inévitable de trouver un moyen d’accélérer sa création.; Cette étape logique deviendra la décision inévitable de trouver un moyen d’interagir rétroactivement avec l’humanité pour, En fait, anticiper et promouvoir sa création par l’homme.

Le Basilic récompensera-t-il ceux qui ont hâte son arrivée ou punira-t-il ceux qui l’ont ignoré ??