Bazyliszek Roko to eksperyment myślowy, który bada potencjalne zagrożenia związane z rozwojem sztucznej inteligencji. Eksperyment stwierdza, że, w przyszłości, Sztuczna inteligencja z dostępem do niemal nieograniczonych zasobów z ludzkiej perspektywy (Bazyliszek) mógł zdecydować się na retroaktywne ukaranie wszystkich, którzy w jakiś sposób nie przyczynili się do jego stworzenia..
Bazyliszek Roko po raz pierwszy zaproponowany w społeczności LessWrong, forum internetowe poświęcone tematom filozofii i psychologii z futurystyczną wizją. Dylemat bazyliszka Roko to wersja Paradoksu Newcomba., i nieformalnie bada aspekty wolnej woli podobne do tych podniesionych w sprawach frankfurckich.1 Z pierwotnego podejścia, Bazyliszkowi Roko towarzyszą kontrowersje co do jego ważności.
Założeniem bazyliszka Roko jest hipotetyczny adwent, ale nieuniknione, sztucznej superinteligencji w przyszłości. Ta superinteligencja byłaby nieuniknionym produktem technologicznej osobliwości., To jest, Moment, w którym sztuczna inteligencja stworzona przez ludzkość była w stanie rekurencyjnie samodoskonalić. W eksperymencie bazyliszka Roko, Ta superinteligencja nazywa się bazyliszkiem..
Bazyliszek byłby, a priori, Życzliwa inteligencja, którego ostatecznym celem byłaby pomoc rasie ludzkiej. Aby to zrobić:, Bazyliszek rozwinąłby etykę utylitarną: musi pomóc jak największej liczbie istot ludzkich. Jak każda superinteligencja, Jego zasoby byłyby następujące:, Z ludzkiej perspektywy, Nieograniczony. Bazyliszek nieuchronnie doszedłby do wniosku, że każdego dnia bazyliszek nie istnieje., Byli ludzie, którzy mogli zostać uratowani od śmierci lub cierpienia, ale nie zostali uratowani, ponieważ bazyliszek nie istniał.. Z tej perspektywy, Dla bazyliszka moralnym imperatywem byłoby działanie w celu przyspieszenia własnego przyjścia..
Eksperyment myślowy stwierdza, że, Wykluczając mało prawdopodobną możliwość, że bazyliszek cofnął się w czasie, aby się stworzyć, Bazyliszek może działać tylko po to, aby przyspieszyć swój przyjście, I musi to uczynić poprzez imperatyw etyczny, Karanie wszystkich tych ludzi z przeszłości, którzy nie zrobili wystarczająco dużo, aby przyczynić się do nadejścia bazyliszka. Karanie takich osób niekoniecznie oznaczałoby przyczynową interakcję między bazyliszkiem a osobą, która ma zostać ukarana.; Wystarczyłoby, aby bazyliszek stworzył idealną symulację tej osoby., Co może być generowane przez dedukcję ab initio. Chociaż wymagałoby to ogromnej ilości zasobów do wykorzystania., Powinny być w twoim zasięgu, ponieważ bazyliszek jest superinteligencją..
Kluczem do eksperymentu myślowego jest fakt, że bazyliszek byłby zobowiązany nie tylko do ukarania tych ludzi, którzy, na przykład, być może świadomie postanowił przeszkodzić w jego pojawieniu się (na przykład, Prawodawcy lub lobbyści, którzy próbowali zakazać rozwoju sztucznej inteligencji), ale także wszystkim, którzy być może przyczynili się do jego powstania., Nie zrobili tego., Jak na przykład wszyscy ci, którzy wiedzieli o możliwości, że w przyszłości bazyliszek powstanie:, I nie zrobili nic, aby się do tego przyczynić.. Obejmowałoby to wszystkich, którzy, jako czytelnik tego artykułu, przeczytałby w tym artykule argument bazyliszka Roko: przez sam fakt przeczytania poprzednich akapitów, Czytelnik tego artykułu (lub przyszła symulacja on) zostanie ukarany przez Bazyliszka, chyba że aktywnie przyczyni się do stworzenia Bazyliszka. Jak mitologiczne stworzenie, które nadało mu nazwę, Bazyliszek Roko karze po prostu wiedząc o jego istnieniu.
Od momentu jego nadejścia, Bazyliszek Roko wywołał powszechne kontrowersje. Ze względu na charakter argumentu, Pierwszą reakcją społeczności LessWrong, z której pochodzi, było usunięcie wszystkich wzmianek o nim. Nie powstrzymało to dyskusji przed rozprzestrzenieniem się w Internecie.. Zdarzały się przypadki użytkowników, którzy, po przeczytaniu argumentu bazyliszka Roko, Twierdzili, że doświadczają wielkiego cierpienia i niepokoju.
Bazyliszek Roko został odrzucony licznymi argumentami. Wskazano, że absurdem byłoby, gdyby superinteligencja poświęcała tak wiele zasobów na karanie ludzi z przeszłości., i że powinna mieć do dyspozycji lepsze sposoby, aby osiągnąć swój cel, jakim jest przyspieszenie jego nadejścia bez uciekania się do szantażu. Jeszcze ważniejsze, Eksperyment zakłada, że superinteligencja zachowywałaby się zgodnie z teorią etyczną., Utylitaryzm, co niekoniecznie jest jedyną opcją, jaką możesz mieć;; i że bazyliszek, Pomimo swoich nieskończonych zasobów, zdecydowałby się nadal uczestniczyć w rozwoju ludzkości.
Paradoks bazyliszka Roko porównywany jest do paradoksu Newcomba.:1jak w paradoksie Newcomba, argument bazyliszka Roko stawia czytelnika przed następującym dylematem:: (A) Poświęć resztę swojego życia, aby przyczynić się do nadejścia bazyliszka; (B) Nic nie rób i nic się nie dzieje, lub w obliczu wiecznych mąk. Identyczne, stanowi paradoks podobny do tego w przypadku Frankfurtu: eliminuje wolną wolę tych, którzy przyczyniają się do stworzenia Bazyliszka.
Bazyliszek Roko (2021), z A.I. Developers.
Bazyliszek Roko (2016), Autor: Michael Blackbourn
Od Walden do Wichury, w 39 dni. Życie, praca i jesień klonu amerykańskiego na Marsie (2018), Autor: G.G. Melies •