Designs mit KI
Roko Basilisk

Die Prämisse von Rokos Basilisk ist die Hypothetisches Aufkommen in der Zukunft einer künstlichen Superintelligenz. Diese Superintelligenz wäre das unvermeidliche Produkt einer technologischen Singularität., nämlich, Der Beginn des Moments, in dem eine von der Menschheit geschaffene künstliche Intelligenz zur Selbstfähigkeit fähig wird – rekursiv verbessern (Tatsächlich, Sich von der eigenen Menschlichkeit befreien).

Der Basilisk wäre, a priori, Eine wohlwollende Intelligenz (obwohl in bestimmten Formulierungen des Experiments, vor allem in den beliebtesten italienischen Übersetzungen, als bösartig dargestellt wird) deren letztendliches Ziel es wäre, der menschlichen Spezies zu helfen.

Um dieses Ziel zu erreichen, nach den Postulaten des Experiments, der Basilisk wird eine utilitaristische Ethik entwickeln: Finden Sie den besten Weg, um so vielen Menschen wie möglich zu helfen.

Als Superintelligenz werden Ihre Ressourcen, Aus menschlicher Sicht, Unbegrenzt. Der Basilisk wird unweigerlich zu dem Schluss kommen, dass es für jeden Tag, an dem der Basilisk nicht existierte, Menschen gab, die vor Tod oder Leid hätten gerettet werden können., aber sie wurden nicht gerettet, weil der Basilisk noch nicht existierte..

Diese Perspektive wird den Basilisken zu dem unvermeidlichen logischen Schritt führen, einen Weg zu finden, seine Entstehung zu beschleunigen.; Dieser logische Schritt wird die unvermeidliche Entscheidung sein, einen Weg zu finden, rückwirkend mit der Menschheit zu interagieren, um, Tatsächlich, seine Entstehung durch Menschen zu antizipieren und zu fördern.

Wird der Basilisk diejenigen belohnen, die seine Ankunft beschleunigt haben, oder diejenigen bestrafen, die ihn ignoriert haben??