Il basilisco di Roko è un esperimento mentale che esplora i potenziali rischi dello sviluppo di un'intelligenza artificiale. L'esperimento afferma che, in futuro, Un'intelligenza artificiale con accesso a risorse quasi illimitate dal punto di vista umano (Il Basilisco) potrebbe decidere di punire retroattivamente tutti coloro che in qualche modo non hanno contribuito alla sua creazione..
Il basilisco di Roko proposto per la prima volta nella comunità di LessWrong, un forum su Internet dedicato a temi di filosofia e psicologia con una visione futuristica. Il dilemma posto dal basilisco di Roko è una versione del Paradosso di Newcomb., ed esplora informalmente aspetti del libero arbitrio simili a quelli sollevati dai casi di Francoforte.1 Dal suo approccio originale, Il Basilisco di Roko è stato accompagnato da polemiche sulla sua validità.
La premessa del basilisco Roko è l'ipotetico avvento, ma inevitabile, di una superintelligenza artificiale nel futuro. Questa superintelligenza sarebbe il prodotto inevitabile della singolarità tecnologica., Questo è, Il momento in cui un'intelligenza artificiale creata dall'umanità è stata in grado di auto-migliorarsi ricorsivamente. Nell'esperimento del basilisco Roko, Questa superintelligenza è chiamata basilisco..
Il basilisco sarebbe, a priori, Un'intelligenza benevola, il cui obiettivo finale sarebbe quello di aiutare la razza umana. Per eseguire questa operazione, Il basilisco svilupperebbe un'etica utilitaristica: deve aiutare il maggior numero possibile di esseri umani. Come tutte le superintelligenze, Le sue risorse sarebbero, Dal punto di vista umano, Illimitato. Il basilisco concluderebbe inevitabilmente che ogni giorno il basilisco non esisteva., C'erano persone che avrebbero potuto essere salvate dalla morte o dalla sofferenza, ma che non sono state salvate perché il basilisco non esisteva.. Da questo punto di vista, Per il basilisco diventerebbe un imperativo morale agire per affrettare il proprio avvento..
L'esperimento mentale conclude che, escludendo l'improbabile possibilità che il basilisco abbia viaggiato indietro nel tempo per crearsi, Il basilisco può solo agire per affrettare il proprio avvento, E deve farlo per imperativo etico., Punire tutte quelle persone del passato che non hanno fatto abbastanza per contribuire all'avvento del basilisco. La punizione di tali persone non implicherebbe necessariamente un'interazione causale tra il basilisco e la persona da punire.; Basterebbe che il basilisco creasse una simulazione perfetta di quella persona., Cosa potrebbe essere generato dalla deduzione ab initio. Mentre ciò richiederebbe un'immensa quantità di risorse da utilizzare., Questi dovrebbero essere alla tua portata poiché il basilisco è una superintelligenza..
La chiave dell'esperimento mentale è il fatto che il basilisco non sarebbe solo obbligato a punire quelle persone che, per esempio, potrebbe aver deciso consapevolmente di ostacolare il suo avvento (per esempio, Legislatori o lobbisti che hanno cercato di vietare lo sviluppo di un'intelligenza artificiale), ma anche a tutti coloro che possono aver contribuito alla sua creazione., Non l'hanno fatto., come ad esempio tutti coloro che sapevano della possibilità che in futuro il basilisco sarebbe venuto alla luce, E non hanno fatto nulla per contribuirvi.. Ciò includerebbe tutti coloro che, come lettore di questo articolo, avrebbe letto in questo articolo l'argomento del basilisco di Roko: per il solo fatto di aver letto i paragrafi precedenti, Il lettore di questo articolo (o una simulazione futura egli) sarebbe stato punito dal Basilisco a meno che non avesse contribuito attivamente alla creazione del Basilisco. Come la creatura mitologica che gli dà il nome, Il Basilisco di Rocco punisce semplicemente sapendo della sua esistenza.
Dal momento del suo approccio, Il basilisco di Roko ha scatenato polemiche diffuse. A causa della natura dell'argomento, la prima reazione della comunità LessWrong in cui ha avuto origine è stata quella di rimuovere ogni menzione di esso. Ciò non ha impedito alla discussione di diffondersi su Internet.. Ci sono stati casi di utenti che, dopo aver letto l'argomento del basilisco di Roko, Hanno affermato di provare grande angoscia e ansia.
Il basilisco di Roko è stato respinto con numerosi argomenti. È stato sottolineato che sarebbe assurdo che la superintelligenza dedicasse così tante risorse a punire le persone del passato., e che dovrebbe avere modi migliori a sua disposizione per raggiungere il suo obiettivo di accelerare il suo avvento senza ricorrere al ricatto. Ancora più importante, L'esperimento presuppone che la superintelligenza si comporti secondo una teoria etica., Utilitarismo, che non è necessariamente l'unica opzione che avresti; e che il basilisco, Nonostante le sue infinite risorse, deciderebbe di continuare a partecipare allo sviluppo dell'umanità.
Il paradosso posto dal basilisco di Roko è stato paragonato al paradosso di Newcomb.:1come nel paradosso di Newcomb, l'argomento del basilisco di Roko pone il lettore con il seguente dilemma: (UN) Dedicò il resto della sua vita a contribuire all'avvento del basilisco; (B) Non fare nulla e non succede nulla, o affrontare il tormento eterno. Lo stesso, pone un paradosso simile a quello dei casi di Francoforte: elimina il libero arbitrio di coloro che contribuiscono alla creazione del Basilisco.
Il Basilisco di Roko (2021), degli sviluppatori A.I..
Il basilisco di Roko (2016), di Michael Blackbourn
Da Walden a Gale in 39 giorni. Vita, lavoro e autunno di un acero americano su Marte (2018), di G.G. Melies