Adrienne Mayor: O możliwości stworzenia sztucznego życia i samoporuszających się urządzeń fantazjowano już tysiące lat temu
|
|
Adrienne Mayor to historyczka nauki związana ze Stanford University, badaczka świata antycznego, zwłaszcza związków mitologii z nauką i techniką. Autorka wydanej niedawno po polsku książki „Bogowie i roboty. Starożytne marzenia o technice”. |
AGNIESZKA KRZEMIŃSKA: – Pojawienie się każdej nowej technologii wynika z chęci przezwyciężenia naszych ograniczeń. W dziejach za pierwsze uchodzi wynalezienie ognia, co w mitologii greckiej znalazło odzwierciedlenie w micie o Prometeuszu.
ADRIENNE MAYOR: – Tak, ten zbuntowany Tytan, zatroskany o przetrwanie słabego i bezbronnego rodzaju ludzkiego, wykradł bogom ogień i podarował go śmiertelnikom. Dzięki niemu ludzie mogli wytwarzać narzędzia, rozwinąć język, współpracować i wymyślać sposoby rekompensowania własnych fizycznych słabości. Według mnie techné (sztuka wytwarzania, rzemiosło) obok intelektu, wyobraźni i odwagi należy do wyjątkowych cech, dzięki którym człowiek przetrwał, a dzięki umiejętności tworzenia narzędzi i zaradności ludzkość po prostu rozkwitła.
Prometeusz za przekazanie ludziom ognia został ukarany. Czy Grecy nie ostrzegają, że za kolejne technologie trzeba zapłacić jakąś cenę?
Stale, już w V w. p.n.e. Sofokles pisał, że niezwykła pomysłowość i śmiałość człowieka mogą prowadzić zarówno do wspaniałych wynalazków, jak i do katastrof oraz zła. Wiele osób uważa, że współczesne technologie: sztuczna inteligencja czy inżynieria genetyczna, są czymś bezprecedensowym. Jednak sama idea wzmacniania ludzkich możliwości jest ponadczasowa, podobnie jak towarzyszące temu obawy.
Czytaj też: Odys na kryzys. Skąd ten fenomen Homera? „Nasza przyszłość byłaby inna, gdybyśmy przestali go czytać”
Na przykład związane z tworzeniem sztucznych ludzi. W książce „Bogowie i roboty” pisze pani, że opowiadamy sobie o nich od ponad 2 tys. lat. Dlaczego motyw ten jest tak trwały?
Jesteśmy istotami zaprogramowanymi do tworzenia i zapamiętywania opowieści, a najtrwalsze są te, które wywołują silne emocje. Grecy z czasów Homera fantazjowali o możliwości stworzenia sztucznego życia i samoporuszających się urządzeń, lecz również w Indiach i Chinach wyobrażano sobie istnienie człekokształtnych automatów na długo przed wynalezieniem technologii, które mogłyby je urzeczywistnić.
Niektóre z mitów rozważają obietnice i zagrożenia związane z próbami pokonania śmierci, inne opowiadają o wzmacnianiu ludzkich możliwości oraz naśladowaniu natury. Z jednej strony to pasjonujące opowieści przygodowe, z drugiej rozważania nad starożytną biotechné – greckim pojęciem łączącym bios (życie) i techné (rzemiosło, sztukę wytwarzania), co jest nam zadziwiająco bliskie. Lęki związane z ideą tworzenia sztucznego życia, zacieraniem granicy między naturą a maszynami nie są współczesną reakcją na niepowstrzymany marsz nauki i technologii.
Co starożytnych najbardziej przerażało?
Chyba tak jak my obawiali się związku technologii z tyranią i przemocą. W wielu mitach automaty i inne cuda techniki były wykorzystywane przeciwko zwykłym ludziom. Jednak w przeciwieństwie do nas nie bali się ludzi „bawiących się w Boga”, tylko samych bogów, którzy mając takie zabawki, mogli gnębić ludzi. Najlepszym przykładem jest sztuczna kobieta Pandora, będąca „złem ukrytym pod postacią piękna”. Mściwy Zeus kazał ją stworzyć Hefajstosowi, by okrutnie zemścić się na ludziach za przyjęcie daru ognia.
Chyba Gromowładny lubił terror za pomocą różnych cudów techniki, bo kazał swojemu synowi skonstruować dla króla Minosa wielkiego robota z brązu – Talosa. Spiżowy olbrzym broni granic Krety, zatapiając wszystkie zbliżające się do niej statki i piekąc żywcem znajdujących się na nich ludzi.
Nie tylko on. Okrutny król Ajetes, chcąc pozbyć się Jazona i innych Argonautów, też wykorzystuje dzieło Hefajstosa, czyli parę ziejących ogniem spiżowych byków. Starożytni doskonale wiedzieli, że tyrani przekształcają technologię w broń. Wielu potężnych władców zatrudniało przecież inżynierów do budowy śmiercionośnych machin wojennych, a królowie Sycylii i Sparty wykorzystywali automaty do torturowania wrogów.
Marzenia o nieśmiertelności najlepiej widać w Chinach, gdzie jej poszukiwanie było zadaniem nadwornych alchemików. Grecy też o niej marzyli, ale chyba bardziej stanowczo przestrzegali, że pragnienie to może być zgubne?
Zdecydowanie. Chociażby w micie o Medei, która chełpiła się, że potrafi odmładzać stare barany, zamieniając je w jagnięta w kotle z mieszanką ziół. Jazon poprosił ją, by odmłodziła jego starego ojca. Czarodziejka oszukała jego siostry, każąc im powtórzyć sztuczkę z baranami, i kobiety ugotowały własnego ojca.
Jest też tragiczna opowieść o pięknym Tithonosie, kochanku jutrzenki Eos. Nie mogąc pogodzić się ze śmiercią ukochanego, bogini poprosiła Zeusa, by dał mu życie wieczne. Niestety, zapomniała poprosić, by pozostał młody. Nieszczęśnik starzał się i niedołężniał, aż pozostał po nim jedynie cień. Namysł Greków nad konsekwencjami nieśmiertelności skończył się tym, że za jedyną bezpieczną formę życia wiecznego uznali pamięć ludzką, w której można się zapisać dzięki wojennej sławie.
Czytaj też: Jak i po co nurkowali starożytni. Sprzętu nie mieli. Ile dało się wytrzymać pod wodą?
Arystoteles wyobrażał sobie narzędzia zdolne do działania bez udziału człowieka. Czy współczesna technologia jest spełnieniem tego starożytnego marzenia?
Homer w „Iliadzie” (ok. 700 r. p.n.e.) opisywał niezwykłe automaty stworzone przez Hefajstosa: samobieżne wozy, automatycznie otwierające się bramy i miechy oraz Złote Kobiety, czyli mechaniczne pomocnice pracujące w jego kuźni, obdarzone ruchem, siłą i rozumem. Ok. 322 r. p.n.e. Arystoteles we fragmencie „Polityki” przeprowadził eksperyment myślowy, zastanawiając się, co by się stało, gdyby takie urządzenia rzeczywiście istniały. I doszedł do wniosku, że „gdyby krosna same tkały, a liry same grały, nie potrzebowalibyśmy sług ani niewolników”. To starożytne marzenie, że maszyny uwolnią ludzi od ciężkiej pracy, stało się później bardzo rozpowszechnioną ideą.
Tolos, Pandora i Złote Kobiety mają postać ludzką. Czy antropomorfizacja sztucznych istot sprawia, że jawią się jako jeszcze groźniejsze, bo łatwo pomylić je z ludźmi?
Podobieństwo sztucznych istot do ludzi nasuwało przypuszczenie, że automaty mogą rozwinąć ludzkie cechy. A wraz z nim obawę, że zaczną samodzielnie podejmować destrukcyjne decyzje albo staną się podatne na manipulacje „hakerów”. Można się ich pozbyć sprytem, jak w przypadku Talosa pokonanego przez Medeę. Czarodziejka przekonuje go, by pozwolił Jazonowi wyjąć bolec uszczelniający jego wewnętrzny mechanizm. Gdy z maszyny wypływa życiodajny płyn, spiżowy kolos ginie. Epimeteusz zaś uwierzył, że Pandora jest prawdziwą kobietą i przyjął ją jako swoją żonę, a przecież była automatem zaprogramowanym, by sprowadzić na ludzkość cierpienie i nieszczęścia.
To bardzo współczesna myśl.
Bardzo. Myślę, że mity niosą ostrzeżenie, by nie traktować sztucznych istot czy sztucznej inteligencji jako „towarzyszy” czy „quasiludzi”. Zgadzam się z etykami zajmującymi się AI, którzy podkreślają, że powinna ona pozostawać narzędziem, a nie czymś na kształt humanoidalnej istoty posiadającej prawa i sprawczość. Bo kto będzie pociągany do odpowiedzialności, gdy maszyna zacznie popełniać poważne błędy albo podejmować fatalne w skutkach decyzje?
Czy tak sformułowane pytanie starożytni też sobie zadawali?
Poniekąd tak, ale uderzające jest to, jak starożytne mity i historyczne przykłady zapowiadają współczesne osiągnięcia oraz nadzieje i lęki towarzyszące odwiecznemu pragnieniu naśladowania, udoskonalania, a nawet przewyższenia natury.
Po latach badań nad starożytnymi marzeniami o sztucznym życiu jest pani dziś bardziej optymistką czy pesymistką, jeśli chodzi o przyszłe relacje ludzi z inteligentnymi maszynami?
Kiedy pisałam książkę, byłam pesymistką. W ciągu dekady, która od tamtego czasu minęła, oszałamiające tempo rozwoju technologii i dokonujący się bez oglądania na konsekwencje postęp sprawiły, że mój pesymizm jeszcze się pogłębił. Dziś wiemy, że współczesna robotyka przemysłowa i AI zaczynają zagrażać ludzkim źródłom utrzymania, przejmując nie tylko pracę fizyczną, lecz także twórczość artystyczną, krytyczne myślenie, empatię i inne zdolności, dotąd uważane za istotę człowieczeństwa.
Czy dziś pani napisałaby ją inaczej?
Na pewno mocniej podkreśliłabym współczesny związek technologii z tyranią, zarówno państwową, jak i korporacyjną. Powinniśmy nieustannie zadawać sobie pytania: kto zabiega o rozwój AI, kto będzie gromadzić i kontrolować dane, kto naprawdę odniesie korzyści i jakie będą negatywne konsekwencje? Podkreśliłabym również, że – podobnie jak Pandora – nowe produkty oparte na AI i robotyce są niemal zawsze przedstawiane jako dobrodziejstwo i dar dla ludzkości, ale często okazują się szkodliwe. Uwzględniłabym także koncepcję „luki prometejskiej” (Promethean Gap) sformułowaną przez Günthera Andersa, wedle której rozwój technologii zaczyna wyprzedzać naszą wyobraźnię oraz naszą odpowiedzialność moralną. Nie umiemy już w pełni przewidzieć konsekwencji własnych wynalazków.
Czyli za najbardziej aktualną z antycznych postaci uważa pani Pandorę?
Absolutnie! Jest czymś w rodzaju złowrogiego fembota. Ponoć Zeus śmiał się z innymi bogami, ofiarowując Pandorę słynącemu z impulsywności Epimeteuszowi. Prometeusz ostrzegał go, by odrzucił ten niebezpieczny „dar”, on jednak, oczarowany zwodniczym pięknem sztucznej kobiety, zlekceważył przestrogę. Nie przypadkiem greckie imię Epimeteusz oznacza „mądrego po szkodzie”, a Prometeusz to ktoś przejawiający „zdolność przewidywania”. Ponieważ wygląda na to, że współczesną puszką Pandory jest wymykająca się naszej kontroli sztuczna inteligencja, potrzebujemy więcej Prometeuszy zdolnych przewidywać katastrofy powodowane bezrefleksyjnym rozwojem AI – i zapobiegać im.
Ale na dnie puszki Pandory pozostała nadzieja, zwykle przedstawiana jako pocieszenie.
Tak, tyle że w oryginalnym greckim micie była to „ślepa nadzieja”, która powstrzymywała ludzi przed realistycznym myśleniem o przyszłości. Pozbawiona zdolności przewidywania ludzkość przypomina Epimeteusza. Obawiam się, że przezorność nie jest naszą najmocniejszą stroną. A przecież właśnie ona jest niezbędna, gdy ludzka pomysłowość, ciekawość i odwaga nieustannie przekraczają granice życia i śmierci, coraz silniej łącząc człowieka z maszyną.
Tak, skala dzisiejszych możliwości technologicznych nie ma precedensu, ale napięcie między technologicznymi koszmarami a wielkimi futurystycznymi marzeniami jest ponadczasowe. Starożytni Grecy rozumieli, że ludzkość zawsze będzie próbowała wyjść „poza człowieka”, zaniedbując myślenie o konsekwencjach. Nasze emocje i kreatywność są mieczem obosiecznym.
ROZMAWIAŁA AGNIESZKA KRZEMIŃSKA