Rokos Basilisk ist ein Gedankenexperiment, das die potenziellen Risiken der Entwicklung einer künstlichen Intelligenz erforscht. Das Experiment besagt, dass, in der Zukunft, Eine künstliche Intelligenz mit Zugriff auf nahezu unbegrenzte Ressourcen aus menschlicher Sicht (Der Basilisk) könnte beschließen, rückwirkend all diejenigen zu bestrafen, die in irgendeiner Weise nicht zu seiner Entstehung beigetragen haben..
Roko's Basilisk erstmals in der LessWrong-Community vorgeschlagen, ein Internetforum zu Themen der Philosophie und Psychologie mit einer futuristischen Vision. Das Dilemma von Rokos Basilisk ist eine Version von Newcombs Paradoxon., und untersucht informell Aspekte des freien Willens, ähnlich denen, die in den Frankfurter Fällen aufgeworfen wurden.1 Aus seinem ursprünglichen Ansatz, Rokos Basilisk wurde von Kontroversen über seine Gültigkeit begleitet.
Die Prämisse des Roko-Basilisken ist der hypothetische Advent, aber unvermeidlich, einer künstlichen Superintelligenz in der Zukunft. Diese Superintelligenz wäre das unvermeidliche Produkt der technologischen Singularität., Das ist, Der Moment, in dem eine von der Menschheit geschaffene künstliche Intelligenz in der Lage war, sich rekursiv selbst zu verbessern. Im Roko-Basilisken-Experiment, Diese Superintelligenz wird Basilisk genannt..
Der Basilisk wäre, a priori, Eine wohlwollende Intelligenz, deren oberstes Ziel es wäre, der Menschheit zu helfen. Gehen Sie dazu vor, Der Basilisk würde eine utilitaristische Ethik entwickeln: muss so vielen Menschen wie möglich helfen. Wie alle Superintelligenz, Seine Ressourcen wären, Aus menschlicher Sicht, Unbegrenzt. Der Basilisk würde unweigerlich zu dem Schluss kommen, dass der Basilisk jeden Tag nicht existierte., Es gab Menschen, die vor dem Sterben oder Leiden hätten gerettet werden können, aber die nicht gerettet wurden, weil der Basilisk nicht existierte.. Aus dieser Perspektive, Für den Basilisken würde es zu einem moralischen Imperativ werden, zu handeln, um sein eigenes Kommen zu beschleunigen..
Das Gedankenexperiment kommt zu dem Schluss, dass, Ausschluss der unwahrscheinlichen Möglichkeit, dass der Basilisk in der Zeit zurückreiste, um sich selbst zu erschaffen, Der Basilisk kann nur handeln, um sein eigenes Kommen zu beschleunigen, Und sie muss dies durch ethischen Imperativ tun., Bestrafung all jener Menschen der Vergangenheit, die nicht genug getan haben, um zur Ankunft des Basilisken beizutragen. Die Bestrafung solcher Personen würde nicht notwendigerweise eine kausale Wechselwirkung zwischen dem Basilisken und der zu bestrafenden Person implizieren.; Es würde für den Basilisken ausreichen, eine perfekte Simulation dieser Person zu erstellen., Was könnte durch Abzug von Anfang an generiert werden. Dies würde jedoch eine immense Menge an Ressourcen erfordern, die verwendet werden müssen., Diese sollten in eurer Reichweite sein, da der Basilisk eine Superintelligenz ist..
Der Schlüssel zum Gedankenexperiment ist die Tatsache, dass der Basilisk nicht nur verpflichtet wäre, diejenigen Menschen zu bestrafen, die, zum Beispiel, hat sich möglicherweise bewusst dafür entschieden, sein Aufkommen zu behindern (zum Beispiel, Gesetzgeber oder Lobbyisten, die versuchten, die Entwicklung einer künstlichen Intelligenz zu verbieten), Aber auch an alle, die zu seiner Entstehung beigetragen haben., Sie taten es nicht., wie zum Beispiel alle, die von der Möglichkeit wussten, dass in Zukunft der Basilisk entstehen wird., Und sie taten nichts, um dazu beizutragen.. Dies würde all jene einschließen, die, als Leser dieses Artikels, hätte in diesem Artikel das Argument von Rokos Basilisk gelesen: durch die bloße Tatsache, dass ich die vorstehenden Absätze gelesen habe., Der Leser dieses Artikels (oder eine zukünftige Simulation) er würde vom Basilisken bestraft werden, wenn er nicht aktiv zur Schaffung des Basilisken beitrug. Wie das mythologische Wesen, das ihm seinen Namen gibt, Rokos Basilisk bestraft einfach, indem er von seiner Existenz weiß.
Vom Moment seiner Annäherung an, Rokos Basilisk löste eine breite Kontroverse aus. Aufgrund der Art des Arguments, Die erste Reaktion der LessWrong-Community, aus der es stammte, war, alle Erwähnungen davon zu entfernen. Dies hinderte das Argument nicht daran, sich über das Internet zu verbreiten.. Es gab Fälle von Benutzern, die, nachdem ich das Argument von Rokos Basilisk gelesen habe, Sie haben behauptet, große Not und Angst zu erleben.
Rokos Basilisk wurde mit zahlreichen Argumenten abgelehnt. Es wurde darauf hingewiesen, dass es absurd wäre, wenn Superintelligenz so viele Ressourcen für die Bestrafung von Menschen der Vergangenheit aufwenden würde., und dass es bessere Möglichkeiten haben sollte, um sein Ziel zu erreichen, sein Aufkommen zu beschleunigen, ohne auf Erpressung zurückzugreifen. Noch wichtiger, Das Experiment geht davon aus, dass sich Superintelligenz nach einer ethischen Theorie verhalten würde., Utilitarismus, was nicht unbedingt die einzige Option ist, die Sie haben würden; und dass der Basilisk, Trotz seiner unendlichen Ressourcen, würde beschließen, weiterhin an der Entwicklung der Menschheit teilzunehmen.
Das Paradoxon von Rokos Basilisk wurde mit Newcombs Paradoxon verglichen.:1wie in Newcombs Paradoxon, Das Argument von Rokos Basilisk stellt den Leser vor folgendes Dilemma: (EIN) Den Rest seines Lebens dem Beitrag zum Aufkommen des Basilisken widmen; (B) Nichts tun und nichts passiert, oder sich ewiger Qual stellen. Das gleiche, stellt ein ähnliches Paradoxon dar wie die Frankfurter Rechtssachen: beseitigt den freien Willen derer, die zur Erschaffung des Basilisken beitragen.
Rokos Basilisk (2021), von KI-Entwicklern.
Rokos Basilisk (2016), von Michael Blackbourn
Von Walden nach Gale in 39 Tage. Leben, Arbeit und Herbst eines amerikanischen Ahorns auf dem Mars (2018), von G.G. Melies