Sztuczna dominacja
Odkąd komputery zaczęły wygrywać z ludźmi w skomplikowane gry strategiczne (szachy, go), zrobiło nam się trochę nieswojo. Wprawdzie wciąż syntetyczne mózgi nie wiedzą, że wygrywają, nie mają pojęcia, po co wygrywają, ale słabe to pocieszenie. Co się stanie, gdy sztuczne inteligencje zyskają samoświadomość? Czy dojdzie do tego w przewidywalnej przyszłości? Co oznacza dla ludzkości pojawienie się silnej sztucznej inteligencji? Na te pytania próbuje udzielić odpowiedzi fizyk Max Tegmark w książce „Życie 3.0. Człowiek w erze sztucznej inteligencji”.
Tegmark dyskredytuje wprawdzie wizje wojen cybernetycznych, agresji rozumnych komputerów skierowanej przeciw ludzkości, znane z filmów SF, ale dostrzega realnie rysujące się zagrożenia wynikające z pojawienia się fenomenu SI. Czy możliwe jest „etyczne spętanie” inteligentnej maszyny? Wydaje się to, paradoksalnie, nieetyczne, a przy tym niezasadne z punktu widzenia pragmatyki działania mechanizmów (słynne trzy prawa robotyki Asimova). Czy da się przewidzieć dalekosiężne skutki nakierowania działań maszyn nawet na cele moralnie słuszne? Co np. oznacza tak już zużyta fraza o „dobru ludzkości”? Czy dla dobra ludzkości nie należałoby ograniczyć naszej populacji i zamknąć nas w rezerwatach?
Tegmark przedstawia szereg możliwych scenariuszy koegzystencji inteligencji sztucznych i naturalnych, wiele mówią już same tytuły niektórych („Dobrotliwy dyktator”, „Strażnik”, „Bóg opiekuńczy”, „Dozorca w zoo”, „1984”). Stosunkowo najbardziej neutralny wydaje się scenariusz „Utopia libertariańska”, w ramach którego ludzie, cyborgi i superinteligencja współistnieją pokojowo dzięki prawom własności. Jednak „utopijność” (czyli narzucająca się wątpliwość co do realności) tego rozwiązania wydaje się mącić nasz spokój. Na pewno mamy do czynienia z przełomem technologicznym bezprecedensowym, takiego w historii naszego gatunku dotąd nie było. Jego dalsze konsekwencje są trudne do oszacowania.
Max Tegmark, Życie 3.0. Człowiek w erze sztucznej inteligencji, przeł. Tomasz Krzysztoń, Prószyński i S-ka, Warszawa 2019