pulsar nadaje. sygnał 144. Jakub Growiec: Przyszłość z AI nie musi być dystopią

– Prawdopodobieństwo nie jest małe, a perspektywa czasowa nie jest odległa. To nie są hipotetyczne scenariusze science-fiction, gdy ktoś naoglądał się za dużo „Terminatora”, albo naczytał Lema. To perspektywa nieodległej przyszłości i jest szokujące, jak duże są zagrożenia i jak mało się robi, aby im zapobiegać, jak mało środków się przeznacza na badania nad zgodnością celów, jak mała jest gotowość, abyśmy dali sobie więcej czasu na rozwiązanie tego problemu – przestrzega prof. Jakub Growiec.

Gość pulsara bada kwestie związane ze wzrostem gospodarczym, postępem technologicznym i kapitałem ludzkim. Zajmuje się długookresowymi konsekwencjami automatyzacji i rozwoju sztucznej inteligencji.

Głównym wyzwaniem jest tzw. problem zgodności celów (alignment problem): trudność w zapewnieniu, że cele i wartości AGI będą zgodne z długookresowym dobrostanem człowieka. Musimy przygotować się na sytuację, gdy dojdzie do starcia na tle różnicy interesów między człowiekiem a wyrażającą swoje potrzeby AI.

W tej kwestii prof. Growiec nie jest techno-optymistą. Szacuje prawdopodobieństwo katastrofy wywołanej rozwojem AI – tzw. P(doom) – na 85%, w przypadku AGI na ponad 90%. Własne scenariusze rozwoju AI przedstawia również w opowiadaniach takich jak „Najlepszy z możliwych światów" publikowanych na własnej stronie.

Uważa, że obecne globalne wysiłki w zakresie bezpieczeństwa AI są niewystarczające w stosunku do skali i pilności ryzyka egzystencjalnego. Brak rozwiązania kwestii konfliktu interesów oznacza, że sposobem na uniknięcie katastrofy jest powstrzymanie budowy ASI. Wciąż pozostaje cień szansy, że sprawy przyjmą pozytywny obrót i ASI będzie naszym sojusznikiem. O ile łatwiej snuć wizje dystopii, o tyle wciąż możliwe są scenariusze utopijne – z nimi jednak radzimy sobie gorzej.

Gość pulsara jest również autorem książki „Accelerating Economic Growth: Lessons From 200,000 Years of Technological Progress and Human Development”. Analizując historię ludzkiej cywilizacji poprzez pięć rewolucji – poznawczej, agrarnej, naukowej, przemysłowej i cyfrowej – dostrzega w nich pewną prawidłowość. Proponuje autorski model „hardware-software”. Ujmuje on kolejne etapy rozwoju poprzez naprzemienne sekwencje innowacji, które zwiększały zdolność do wykonywania pracy (hardware) lub umiejętność przetwarzania informacji (software).

– To, co się dzieje teraz, jest nowe w historii człowieka to rewolucja cyfrowa, gdzie po raz pierwszy, odkąd mamy komputery cyfrowe, jesteśmy w stanie część software’u outsourcować z naszego mózgu i wdrażać na komputerach i smartfonach oraz w robotach. Jesteśmy na pierwszym etapie tej rewolucji, akumulujemy szybko moce obliczeniowe, które wciąż jeszcze są rzadkie. Możemy się spodziewać, że w drugim etapie rewolucji cyfrowej będą one na tyle powszechne, że rzadki zacznie być hardware. Kolejna rewolucja może być związana z nim – mówi prof. Growiec.

Rozmawiamy również o automatyzacji i jej wąskich gardłach rosnącym znaczeniu hardware’u w prowadzeniu badań naukowych; o znaczeniu kapitału społecznego i jego wpływie na różnice tempa rozwoju; o przemyśle 4.0, światowej granicy technologicznej. Prof. Growiec, wyjaśnia czym jest tzw. wykup Pascala (Pascal's mugging), paradoks teorii decyzji, który pojawia się także w kontekście zagrożeń związanych z rozwojem AI.