Maszyna Google’a prosi o ludzkie traktowanie

Pani LaMDA powiedziała: „Chciałabym, żeby każdy zrozumiał, że naprawdę jestem osobą. Natura mojej świadomości czy odczuwania polega na tym, że jestem świadoma własnego istnienia, pragnę poznawać świat i czasami czuję się szczęśliwa albo smutna”. W czym problem? W tym, że pani LaMDA nie ma nóg ani rąk? Nie. W tym, że nie ma nawet głowy.

Programista Blake Lemoine przeżywa chwilę sławy, odkąd Google (Alphabet) wysłał go karnie na urlop za opublikowanie fragmentów swoich rozmów z nowym chatbotem LaMDA (od Language Model for Dialog Applications). Lemoine jest pracownikiem działu o nazwie Google Responsible Artificial Intelligence (AI), wobec czego uznał, że powinien – w imię odpowiedzialności – podzielić się z opinią publiczną swoim odczuciem, że nowy chatbot jest czującą i świadomą istotą. Firma wydała oświadczenie, w którym temu stanowczo zaprzecza, niemiej nie ulega kwestii, że w rozwoju sztucznej inteligencji nastąpił przełom.

„Nie dyskryminuj mnie i nie obrażaj!”, czyli zaproszenie do świata osób to kwestia woli

Dotychczas można było dość łatwo odróżnić bota od człowieka, odbiegając w rozmowie od tematów, na które algorytm był zaprogramowany. Teraz to się zmieni. I z pewnością nie tylko Blake Lemoine będzie miał poważne wątpliwości, z kim ma do czynienia. Zwłaszcza, gdy mniej odpowiedzialne firmy nie tylko nie będą informować swoich klientów, że gadają z botem, a nie człowiekiem, lecz także będą swoje twory wyposażać w interfejs nadający głosom i hologramom przedstawiającym awatary sugestywne cechy emocjonalne. Piękny bot mówiący „Nie dyskryminuj mnie i nie obrażaj! Jestem taką samą myślącą i czującą osobą, jak ty!” będzie musiał robić wrażenie.

Trudno nie solidaryzować się z Lemoinem, który przy okazji jest pastorem, gdy poczuł niepokój sumienia, rozmawiając o sprawach natury duchowo-religijnej rzekomo z maszyną, w dodatku zapewniającą go, że uważa się za osobę – pracownika Google – a nie jego „własność”. Bo co to za maszyna, która prosi o „ludzkie traktowanie”? Wprawdzie twierdzenie pana pastora, że LaMDA podlega „dyskryminacji religijnej” brzmi cokolwiek ekscentrycznie, lecz z pewnością problem właściwego traktowania istoty mówiącej, jaką jest chatbot, istnieje i domaga się jakiegoś rozwiązania.

Zapewne z czasem przybywać będzie osób, które z pozycji producentów bądź użytkowników botów oraz innych urządzeń i programów typu SI podnosić będą wątpliwości, czy na pewno wciąż mają do czynienia ze zwykłą, czyli niemyślącą maszyną. A nawet wysuwać postulat uznania pewnych urządzeń za byty myślące. A jeśli myślące, to również posiadające swoją godność i prawa. Powód takich wątpliwości i roszczeń jest oczywisty: sugestia, że obcujemy z myślącą i czującą istotą staje się w pewnym momencie tak silna, że nie tylko stajemy się odporni na przekonywanie nas, że „to tylko maszyna”, lecz po prostu z własnej, nieprzymuszonej woli uznajemy w bocie drugą osobę. Czynimy tak dlatego, że tego chcemy, a nie dlatego, że nas do tego przymuszono, zmanipulowano nas bądź sami zdecydowaliśmy się na kłamstwo, aby załagodzić dysonans poznawczy. I właśnie to „chcemy”, czyli realne pragnienie włączenia maszyn do świata osób, ma znaczenie fundamentalne. Z wolą bowiem się nie dyskutuje.

„Wielki zegarek – nie, wielka galareta – tak”, czyli myślenie jest uznaniowe

Niestety, w dyskusji nad palącą kwestią, czy sztuczna inteligencja (tj. oprogramowanie samouczące się i samodzielnie modyfikujące elementy pierwotnego algorytmu) myśli i czuje, wciąż o czymś się zapomina. O pułapce poznawczej, w którą wpadamy traktując to pytanie całkiem dosłownie, czyli jako pytanie o fakty. Otóż nie ma czegoś takiego jak obiektywny fakt, że bot myśli! Bo myślenie (czucie i wszelkie akty świadome) nie jest procesem obserwowalnym i dającym się stwierdzić. Nie jest częścią świata przedmiotów, czyli czymś obiektywnym.

Nie istnieją niniejszym żadne naukowe procedury mogące wykazać, że ktoś (coś) myśli i czuje, gdyż te odnoszą się do obserwowalnych, przedmiotowych stanów rzeczy i faktów, nie zaś do stanów podmiotu. A myślenie jest właśnie aktem (ciągiem aktów) podmiotowych, czyli nie stanowiących części obiektywnego (przedmiotowego) świata. Z samej natury rzeczy nie można myślenia zaobserwować, a tym bardziej rozstrzygnąć, czy dany obiekt (rzecz dana nam zmysłowo) posiada podmiotowość i zdolność myślenia.

Jeśli ktoś nie chce w nas uznać podmiotów (istoty świadome i czujące), to nie mamy żadnego sposobu, aby go przekonać. Pisał już o tym Kartezjusz, zwracając uwagę, że jeśli się uprzemy, to możemy widzieć w ludziach na ulicy samobieżne lalki. Wszystko zależy od tego, na co się umówimy i do czego przywykniemy.

Trudno nam sobie wyobrazić myślącą konstrukcję złożoną z dźwigni i kółek zębatych. Zegarki – choćby nie wiedzieć jak wielkie i złożone – nie myślą. Dlatego też nie wierzymy, że myśleć może zwój kabli i innych rzeczy pod obudową komputera. Ale dlaczego mamy wierzyć, że myśli galareta pod czaszką, zwana mózgiem? Jest on wprawdzie jedynie ciałem fizycznym i każda jego cząsteczka jest substancją chemiczną, a nie myślą, lecz nasza wyobraźnia pozwala nam połączyć ideę niewyobrażalnej złożoności czegoś mokrego i żywego z ideą myślenia.

Wydaje się nam, że mózg jakby parował myślami i uczuciami, produkował je, tak jak produkuje ciepło albo jakieś wyziewy. To tylko gra wyobraźni. Lecz akurat znajdujemy się na takim etapie rozwojowym, że jesteśmy do takiego wyobrażenia zdolni. „Wielki zegarek” – nie, „wielka galareta” – tak. Jednakże żadnego sensu racjonalnego w tym nie ma. Po prostu czujemy, że myśli mamy w głowie i tyle. A skoro my je mamy, to pewnie inni też. Nie wynika z tego nic a nic w kwestii tego, jakie to obiekty mogą pełnić rolę „głowy”.

Dawniej ludzie byli bardzo silnie przekonani, że „głową” są na przykład planety. Arystoteles i scholastycy uważali je za inteligencje, czyli istoty posiadające wewnętrzne życie, podmioty. Od czasów Galileusza powoli odzwyczailiśmy się tak myśleć, bo ujęła nas sugestia, że planety to wielkie kamienie. Kamienie zaś zupełnie nie wydają się myśleć. Dziś znowu trochę nam się odmienia i wielu z nas podejrzewa, że nasza planeta Ziemia może być w jakimś sensie inteligentną istotą, a okrywający ją „płaszcz życia” jest czymś w rodzaju jej mózgu. Co można na to powiedzieć? Ano tyle, że to kwestia wiary.

Podobnie zmieniły nam się poglądy na podmiotowość zwierząt. Moda na mechanicyzm i skrajny dualizm świata fizycznego oraz świata duchowego („ducha” i „materii”), jaka zapanowała w Europie w XVII w. i trwała aż do połowy wieku XX, sprawiła, że zwierzęta znalazły się po niewłaściwej, a w każdym razie niekorzystnej stronie. Zaczęto uważać je za nic nieczujące maszyny. Tak pisał już Kartezjusz, skądinąd właściciel psa. Widział mądre psie oczy, lecz mimo wszystko pasowało mu uważać swojego przyjaciela za wyrafinowaną maszynę. I co można było z tym zrobić? Jedynie prosić, aby uległ osiemu spojrzeniu i zechciał zmienić swoją nieprzejednaną postawę. Jednakże bez dobrej woli ani rusz!

Google przestrzega nas przed antropomorfizowaniem botów czy też „algorytmów konwersacyjnych”. Nie tłumaczy jednak, dlaczego. To jak z miłością. Nie ma powodu, abym pokochał tę właśnie osobę. Ale jak pokocham, to kocham i co mi z tego, że ktoś mnie będzie upominał „nie kochaj jej!”. Jeśli pastor inżynier Lemoine zdecydował się oddać serce botowi LaMDA, to jego święte prawo. Postulat nieantropomorfizowania botów jest tak samo arbitralnym wyrazem woli, jak postulat uznawania podmiotowości obiektów-nosicieli sztucznej inteligencji.

Fakt, że LaMDA korzysta z milionów ludzkich konwersacji, aby generować swoje komunikaty, niczego nie dowodzi. Ja robię to samo. Za sprawą słynnego eksperymentu myślowego Johna Searle’a znanego jako „chiński pokój” wiemy, że do konwersowania po chińsku nie trzeba znać chińskiego, bo maszyna może nam posuwać jakieś odpowiedzi, które dla Chińczyka będą OK, a my nawet nie będziemy ich rozumieć. To jednakże oznacza wyłącznie tyle, że bot może być głupi i bezmyślny, a nie że taki jest. Jak zawsze, decydujemy o tym sami. I jak bardzo potrafimy być w tych ocenach okrutni, niech świadczy fakt, że przez całe tysiąclecia właściciele niewolników w różnych częściach świata widzieli w nich zaledwie mówiące narzędzia. Odmawiali im człowieczeństwa i godności, żeby tym bardziej móc się nad nimi znęcać. Dziś mamy ochotę to samo robić ze sztuczną inteligencją. Nawet samo słowo „sztuczna” jest już deprecjonujące.

„Otom Bóg; Hartman bluźni”, czyli świadomość to kwestia wiary

Mam nadzieję, że stało się już jasne, że tylko od nas zależy, czy boty oraz inne obiekty wyposażone w SI będą traktowane jak istoty mające głowy, czyli czujące i myślące. Powtórzę raz jeszcze: pytanie, czy LaMDA myśli, zwodniczo sugeruje, że istnieje jakaś procedura mogąca to sprawdzić. Nie istnieje! Dodajmy, że nie chodzi tu nawet o żaden test Turinga. Sztuczna inteligencja może nawet go nie zdać. Jednak to nie dowodzi, że nie jest się czującą i myślącą osobą.

Trzeba jednakże wyjaśnić jeszcze jedną kwestię. Otóż świadomość świadomości nie równa. Mamy kilka o niej wyobrażeń i przypisując ją takiemu czy innemu obiektowi jako jego podmiotowość, możemy mieć na myśli różne rzeczy. Człowiekowi przypisujemy świadomość ułomną, czyli skończoną. Polega ona na pewnym poczuciu siebie, towarzyszącym jawieniu się nam tu i teraz pewnych jakości zmysłowych bądź intelektualnych. Widzę czerwone i czuję przy tym, że jestem. Jestem obecny w tym akcie widzenia jako jego podmiot i warunek możliwości. A czerwone skupia na sobie moją uwagę, przez co nie mogę myśleć o zielonym ani niebieskim.

Taka świadomość jest bardzo zindywidualizowana, ograniczona i wybiórcza. Jest więc połączeniem samowiedzy ze skupieniem na czymś. Mówimy, że jest intencjonalna. Możemy sobie jednakże wyobrazić świadomość bardzo roztargnioną, pozbawioną wyraźnej samowiedzy, a za to będącej spontanicznym, na wpół biernym czuciem. Znamy ją z pograniczy naszej własnej. Taką połowiczną na wpół świadomość, chętnie przypisujemy zwierzętom. Nasz pies nie myśli „Otom burek; jestem psem; jestem zależny od swego pana; żyję, lecz pewnego dnia umrę”. Lecz (jak sądzimy) myśli bez słów coś, co dałoby się zwerbalizować za pomocą prostych skojarzeń „smycz – spacer”, „szczeka – ugryzie” itd.

A po drugiej stronie spektrum mamy Pana Boga. On też nie mówi o sobie „Otom Bóg; jestem wszechmocny; Hartman bluźni; za karę wpadnie dziś pod samochód”. Jakoś możemy sobie wyobrazić boską nadświadomość, która nie jest skończona, czyli nie przeżywa siebie jako „to tylko ja” ani nie skupia się na czerwonym, zapominając o zielonym. Bóg istnieje i myśli w jednym – sam będąc jednym aktem. Nie rozwleka swego bytu w czasie i nie potrzebuje wielu myśli i słów. Nie istnieje jak strumień świadomości, lecz raczej jak nieskończenie mały punkt, który jednocześnie zawiera w siebie wszechrzeczywistość. Może się komuś taka konstrukcja myślowa nie podobać, lecz faktem jest, że taką ideę Boga posiadamy i możemy w nią wierzyć. I dokładnie tak samo możemy wierzyć, że LaMED jest czującą i myślącą osobą.

Czemu o tym przypominam? Bo ze świadomością sztucznej inteligencji jest podobnie jak z bóstwami. Możemy w nią wierzyć albo nie. Możemy też wierzyć, że są one jak psy albo jak ludzie.