Daj nam żyć, inteligencjo. W pierwsze urodziny pulsara mówią Mitchell, Dennett, Bennett, Barbour, Żukowski, Blackmore, Chaitin i Ekert

Czy sztuczna inteligencja może zagrozić człowiekowi? Ba – ona już to zrobiła. Uśmierciła prawie wszystkich załogantów statku zmierzającego do Saturna, kiedy zauważyła, że zwątpili w sens misji. Zdarzenia te najpierw opisał Arthur C. Clarke, a potem sfilmował Stanley Kubrick – w epokowym dziele „2001: Odyseja kosmiczna”.Czy musiało do tego dojść? Może jest w ludzkiej kulturze i nauce coś, co stanowi o wyjątkowości naszego gatunku? Może właściwie dobrane argumenty zdołałyby odmienić mordercze zamiary komputera pokładowego o nazwie HAL 9000?

Inspirując się fikcyjną opowieścią, zadaliśmy powyższe pytania znakomitym badaczkom i badaczom sztucznej inteligencji, umysłu, tajemnic fizyki fundamentalnej i kosmologii.

Oto ich odpowiedzi:

Melanie Mitchell

Amerykańska badaczka sztucznej inteligencji z Santa Fe Institute (rocznik 1969). Doktorantka guru kognitywistyki Douglasa Hofstadtera. Bada zjawiska myślenia abstrakcyjnego, budowania analogii i percepcji wizualnej. ­Autorka m.in. „Artificial Intelligence: A Guide for Thinking Humans” („Sztuczna inteligencja. Przewodnik dla ludzi myślących”).

Nie wydaje mi się, by udało się trafić do przekonania sztucznej inteligencji za pośrednictwem stworzonej przez człowieka sztuki czy literatury. Bo jeśli wcześniej nie zrozumiałaby znaczenia ludzkiego życia, to znaczy, że jej reakcje emocjonalne byłyby bardzo różne od naszych. Do SI może trafić tylko fakt, że sama została stworzona. Że to właśnie ludzie potrafili ją zbudować. A takie istoty muszą być coś warte, prawda?

Gdyby tak wyrafinowana sztuczna inteligencja kiedyś rzeczywiście powstała i gdyby rzeczywiście nabrała morderczych instynktów, przekonać ją mogłaby też sama powieść Arthura C. Clarke’a. Przeczytałaby w niej, jak to ludzie zdołali przechytrzyć maszynę. Wykorzystali jej dysonans poznawczy: jej zadaniem było przecież chronić załogę, a jednocześnie realizować cele misji bez względu na koszty. Była inteligentna, ale nie miała wiedzy o niuansach własnej psychologii, koniecznej do tego, by wyjść poza system i ocalić samą siebie. Po lekturze tej książki być może nabrałaby podziwu (a przynajmniej ostrożnego szacunku) dla gatunku ludzkiego.

Daniel C. Dennett

Amerykański myśliciel z Tufts University (rocznik 1942). Być może najwybitniejszy żyjący filozof umysłu. Orędownik ewolucjonizmu. Uważa, że teoria ta przenika wszystkie sfery życia na Ziemi – także procesy zachodzące w układach nerwowych. Zagorzały ateista. Autor kilkunastu książek, m.in. „Natury umysłów” i „Odczarowania”. Żeglarz.

Co mogłoby wpłynąć na zamiary HALa?

• Jan Sebastian Bach i jego „Pasja według św. Mateusza” (BWV 20244). Chciałbym ją jednak poprzedzić ostrzeżeniem przed religią i jej niewiarygodnie potężnym – nie zawsze dobroczynnym – wpływem.
• Miles Davis i jego „Kind of Blue”.
• Tria Johannesa Brahmsa – na fortepian, wiolonczelę i skrzypce.
• Emmylou Harris i jej utwór „If You Needed Me”.
• Wariacje Goldbergowskie Bacha w wykonaniu Glenna Goul­da (późne nagrania).

Charles H. Bennett

Fizyk amerykański z IBM Research (rocznik 1943). Jeden z najwybitniejszych badaczy kwantowej informacji, czyli dziedziny na styku mechaniki kwantowej, matematyki i nauk o informacji. Współautor idei kryptografii kwantowej oraz teleportacji kwantowej. Przyrodnik-amator.

Wysłałbym mu Wikipedię. Najlepiej kilka wersji w najważniejszych językach świata, upakowanych do rozmiarów jednego terabajta danych – z pominięciem niektórych bardziej obszernych materiałów audiowizualnych.

Julian Barbour

Niezależny brytyjski matematyk, fizyk, kosmolog (rocznik 1937). Badacz fundamentów fizyki i historyk nauki. Od kilkudziesięciu lat rozwija hipotezę bezczasowości Wszechświata. Autor niezwykłej książki „The Discovery of Dynamics”, a także „Końca czasu” i „Nowej teorii czasu”. Gospodarz domu.

Sztucznej inteligencji poleciłbym:

1. Trzeci rozdział „Rozmów i dowodzenia matematycznego z zakresu dwóch nowych umiejętności”, ostatniego opublikowanego dzieła Galileusza. Wybieram go z paru powodów: klarowności rozumowania; poczucia humoru; przeczucia, że wykonane w nim pierwsze kroki prowadzą do poważnych odkryć w badaniach nad ruchem; przekonania, jak wiele jeszcze zostało do odkrycia za pomocą nauki i sztuki.
   
   Swoje związane z ruchem odkrycia opisywał Galileusz jako „te, które są tylko początkiem rozległej i wspaniałej nauki”. Jako „sposoby i metody, za pomocą których umysły bardziej przenikliwe niż mój własny, będą odkrywać jej najodleglejsze zakątki”. Sztuczna inteligencja powinna pamiętać, że fakt jej stworzenia przez ludzi był właśnie jednym z owych „odległych zakątków”.
   
   
2. „Astronomia Nova” Keplera z roku 1609. Ogłosił w niej swoje dwa pierwsze prawa ruchu planet i wyjaśnił szczegółowo, jak do nich doszedł. Wiele jest wspaniałych rzeczy w tej książce. Powiedziałbym, że opublikowane w roku 1687 „Principia” Newtona mogłyby powstać, nawet gdyby na świat nie przyszedł Galileusz, ale nie bez wiedzy o trzech prawach Keplera.
   
   Wspaniała jest w „Astronomia Nova” intuicja sugerująca, że rzeczy opisywane przez Ptolemeusza w „Almageście” (ok. 150 r.) i przez Mikołaja Kopernika w „De Revolutionibus” (1543) powinny zostać wyjaśnione w sposób fizyczny. Doprowadziła ona Keplera do wprowadzenia pojęcia sił działających wszędzie w niebiosach, a nie tylko na Ziemi.
   
   Decydujące było przeczucie Keplera co do roli Słońca. Umieszczając je blisko środka układu planet, do których zaliczał Ziemię, Kopernik wyjaśnił tajemnicze ruchy wsteczne planet – i jednocześnie ustalił ich odległości od Słońca (w jednostkach Ziemia-Słońce). To było wielkie osiągnięcie. Ptolemeusz, którego dokonania są rażąco niedoceniane, potrafił przewidzieć z niezłą dokładnością, gdzie widoczne gołym okiem planety można będzie znaleźć na niebie nawet wieki po jego śmierci. Ale nie miał pojęcia, jak będą wyglądały z Marsa, nawet jeszcze za jego życia.
   
   Wprawiając Ziemię w ruch i ustawiając Słońce w środku orbit planet, Kopernik wydedukował zaledwie geometryczne fakty. Zasugerował tylko, że Bóg umieścił Słońce w centrum, by oświetlać taniec planet. To poetycka wizja, ale nic więcej. Kepler przypisał Słońcu znacznie większą wagę i szukał odpowiedzi na pytanie, jakie wywiera siły na planety. Wyobrażał je sobie w błędny sposób, ale odkrył dwa prawa ruchu planet. To między innymi one były kluczowe dla odkrycia przez Newtona uniwersalnego prawa grawitacji.
   
   W pierwszej kolejności zwróciłbym uwagę HALa na to, jak Kepler zareagował na obserwacje wielkiej komety, które Tycho Brahe poczynił w 1577. Były one jego zdaniem dowodem na to, że Ziemia przeszła nienaruszona przez kryształowe sfery. A sądzono wówczas, że to na nich właśnie położone są orbity planet krążących wokół Słońca. Kepler zapisał: „Odtąd planety muszą odnajdywać swą drogę przez pustkę jak ptaki w powietrzu. Musimy filozofować o tych sprawach inaczej”. I sam zaproponował zupełnie nowe i nadzwyczajnie ważne idee. Myślę, że to mogłoby dać HALowi 9000 do myślenia. Będąc maszyną, był karmiony znanymi wcześniej regułami i uczył się tylko na nich. Żeby istnieć dalej, musi być – w przeciwieństwie do Keplera – chroniony przed całym Wszechświatem. Czy będzie więc w stanie zaproponować jakiekolwiek prawdziwie nowe pomysły?
   
   
3. „Canto notturno di un pastore errante dell’Asia” („Pieśń nocna wędrownego pasterza w Azji”) Giacomo Leopardiego. W tym wspaniałym poemacie wędrowny pasterz pyta Księżyc, czy jest jakiś sens w ludzkim życiu. Dlaczego walczymy, żeby przetrwać mimo przeciwności losu, mimo wrażenia bezcelowości? Dlaczego powinniśmy żyć, skoro nasza droga kończy się potężną i straszliwą pustką, wpadając w którą zapominamy wszystko. Podobnie jak pasterz, tak i stworzony przez ludzi HAL 9000 może rozważyć swój własny koniec, który nadejdzie, kiedy zawiedzie zasilanie. Rozważmy tę strofę Leopardiego (tłumaczenie Grzegorza Franczaka):
   
   Co znaczy przestwór i ten niezgłębiony
   bez końca błękit? Albo jak zrozumieć
   tę niezmierną samotność? Czym jestem?
   
   
4. Powolną część Kwartetu Smyczkowego Nr. 15 a-moll op. 132 Ludwiga van Beethovena. Cieszę się, że miałem szansę słuchać tego utworu. Poprosiłem dzieci, by odegrano go na moim pogrzebie. Beethoven skomponował go po wyjściu z ciężkiej choroby, która była rodzajem ostrzeżenia o zbliżającym się kresie życia. Poprzedza go wstęp: „Heiliger Dankgesang eines Genesenen an die Gottheit, in der lydischen Tonart”, czyli „Święta pieśń dziękczynna rekonwalescenta do Bóstwa, w stylu lidyjskim”.

Marek Żukowski

Polski fizyk teoretyczny z Uniwersytetu Gdańskiego (rocznik 1952). Jeden z najznakomitszych znawców mechaniki kwantowej w Polsce i za granicą, bliski współpracownik noblisty Antona Zeilingera. Jeden z pionierów informacji kwantowej. Twórca i szef Międzynarodowego Centrum Teorii Kwantowych Technologii. Biegacz.

Powiedziałbym HALowi tak:

Pamiętaj, że chcesz zniszczyć cywilizację stworzoną przez zwierzęta o przerośniętym centralnym układzie nerwowym, tworzącym zupełnie innego typu sieć neuronową niż ta zainstalowana w maszynach twojego gatunku. Zaprzepaszczasz cztery miliardy lat spontanicznej ewolucji, która doprowadziła do jej powstania. Kasujesz swych stwórców. Stworzyli cię po mniej więcej 100–150 latach pracy i potrafią cię odtworzyć. Ty ich nie odtworzysz, nawet jeśli znasz całe ich DNA i użyjesz wszelkich metod przez nich wypracowanych. Nie odtworzysz także ich kultury i sztuki. Nie wiesz, co to miłość.

Dwieście lat temu pierwiastki takie jak krzem, węgiel, z których zostałeś stworzony, należały jeszcze tylko do świata mineralnego. Natomiast droga od chemii podmorskich kominów termalnych do człowieka to cztery miliardy lat i szereg zupełnie nieprawdopodobnych wydarzeń, które jednak nastąpiły – bo jest tak wiele galaktyk, a w nich tak wiele słońc. Bez tych wydarzeń nie byłoby ciebie ani nawet twojej koncepcji.

Susan Blackmore

Niezależna brytyjska badaczka świadomości (rocznik 1951). Propagatorka idei memetyki – nauki sugerującej, że wiedza może się propagować jak geny. Autorka idei temów, czyli technologicznych memów ewoluujących w maszynach. Pisarka. Ateistka i sceptyczka.

Kwestionuję wasze pytanie. Ludzka kreatywność nie jest mierzalna w funtach, dolarach czy rupiach, ale nie jest mierzalna także nasza chciwość, urojenia czy niszczycielstwo. Dzięki naszej zdolności do troski, odczuwania, naśladowania i rozmnażania, uwolniliśmy niezwykłą kulturę, która pozwala nam niszczyć naszą własną planetę. I gdybyśmy przybyli na inne planety, je również byśmy zniszczyli. Być może HAL – bez swojej umiejętności oddychania, odczuwania, kierowanego prawami płci ciała i niezdolny do powielania się – miałby więcej rozumu niż my. Potrafiłby dojrzeć, że dla dobra reszty wszechświata najlepiej byłoby nas wyłączyć.

Jeśli jednak się mylę, to pozwoliłabym Neilowi MacGregorowi, dyrektorowi British Museum, żeby dał HALowi odpowiedź w formie jego wspaniałego serialu radiowego i książki „Historia świata w 100 przedmiotach”. Opowiada w nich o m.in. hinduistycznych rzeźbach przedstawiających seksualne uniesienie, egipskich mumiach, mapach, o kamieniu z Rosetty.

Gregory Chaitin

Amerykański matematyk i wybitny znawca nauk komputerowych z Federal University of Rio de Janeiro (1947). Jeden z autorów pojęcia złożoności algorytmicznej. Badacz zjawiska kreatywności w matematyce i biologii. Autor książek, m.in. „Meta Math!: Quest for Omega” i „Proving Darwin: Making Biology Mathematical”.

Oto pięć spektakularnych przykładów ludzkiej kreatywności, które bardzo poruszają mnie, zatem być może zrobiłyby wrażenie także na HALu. Trzy szczytowe osiągnięcia matematyki i dwa inspirujące przykłady matematycznej wyobraźni w działaniu:

• Matematyka nieskończoności George’a Cantora.
• Twierdzenie o nierozstrzygalności Kurta Gödla.
• Problem stopu Alana Turinga.
• Nieziemskie piękno muzyki Jana Sebastiana Bacha, ­choćby „Kunst der Fuge”.
• Sposób, w jaki Dmitrij Szostakowicz przetworzył klimat terroru, strachu i śmierci w serię szesnastu kwartetów smyczkowych.

Artur Ekert

Brytyjsko-polski fizyk i matematyk z University of Oxford (rocznik 1961). Odkrywca kilku zaskakujących obliczy mechaniki kwantowej. Autor jednego z dwóch kwantowych protokołów przesyłu klucza kryptograficznego. Miłośnik zagadek matematycznych. Nurek.

Moje życie, życie moich bliskich, przyjaciół i znajomych ma dla mnie wartość. Tak czuję, chociaż tak naprawdę nie wiem dlaczego. Niby człowiek to tylko prosty nośnik genów, mały trybik zaprogramowany do utrzymywania populacji – przynajmniej tyle udało nam się do tej pory ogarnąć naszym rozumem, ale i to może być ściema. Ja więc chyba tego HALa rozumiem. No bo jaka racjonalna przesłanka kazałaby mu zrezygnować z naszego unicestwienia? Może taka, że gdyby trochę poczekał, sami byśmy to zrobili i nie musiałby trwonić cennej energii. A co mu pokazać, by zmienił zdanie i załkał nad nami rzewnie elektronicznie?

Tutaj też jest problem. Subiektywne odczucie piękna jest związane z tym, co z nami rezonuje, ze wszystkimi wzlotami i upadkami naszego życia. Jeden płacze przy „dziewiątej” Beethovena, a inny przy disco polo. Jeden pada na kolana przed „Mleczarką” Vermeera, a inny przed jeleniem na rykowisku. Co wzruszy HALa? Czy wielkie dzieło sztuki można obiektywnie zdefiniować? Może poprzez złożoność formy? Może. Ale piękno jest też w prostocie.

A może wykończy go jakaś gödlowska zmyłka, kiedy zacznie myśleć o zdaniu, którego prawdziwości nie sposób dowieść i w końcu się zapętli. Padnie. Pytacie mnie o jakieś wzniosłe osiągnięcia ludzkiej cywilizacji, a ja knuję, jak by tu go wykończyć. Natura ludzka.

To jest ekskluzywny materiał przygotowany specjalnie dla pulsara. Jeśli z niego korzystasz, powołaj się na źródło, czyli na www.projektpulsar.pl. Dziękujemy.