Anil Seth: Czy AI już ma świadomość? Moja odpowiedź brzmi: „nie”
|
|
Prof. Anil Seth jest brytyjskim neuronaukowcem i dyrektorem Centre for Consciousness Science przy University of Sussex. Współkieruje programem „Brain, Mind and Consciousness” w Canadian Institute for Advanced Research. W 2024 r. miesięcznik „Prospect” umieścił go na liście 25 najwybitniejszych myślicieli świata. W 2017 r. wystąpił w TED z prelekcją „Twój mózg halucynuje twoją świadomą rzeczywistość”, którą obejrzano ponad 11 mln razy. |
MARCIN ROTKIEWICZ: – Richard Dawkins, znany biolog i popularyzator nauki, stwierdził niedawno, że model sztucznej inteligencji Claude firmy Anthropic, konkurent ChatGPT i Gemini, najprawdopodobniej wykształcił świadomość.
ANIL SETH: – Rzeczywiście napisał, że po trzech dniach spędzonych na konwersacjach z tym modelem, którego pieszczotliwie nazywa Claudią, trudno sobie wyobrazić, iż mógłby nie posiadać świadomości. Tak świetnie mu się rozmawiało, m.in. na temat… świadomości.
Ta odważna teza Dawkinsa szybko stała się przedmiotem żartów w internecie, bo ktoś przerobił okładkę jego słynnej książki „The God Delusion” („Bóg urojony”) na „The Claude Delusion” („Claude urojony”).
Mój przyjaciel prof. Gary Marcus – znany z krytycznego komentowania szumu wokół tzw. dużych modeli językowych, czyli takich algorytmów AI jak właśnie Claude – zauważył, że Dawkins używa uzasadnienia, które sam wielokrotnie krytykował w kontekście dyskusji o teorii ewolucji. Jej przeciwnicy twierdzili, że nie są w stanie wyobrazić sobie, by np. tak złożony narząd jak oko mógł powstać bez udziału inteligentnego stwórcy. Ale to bardzo kiepski argument, ponieważ z faktu, że coś trudno sobie wyobrazić, wcale nie wynika, że jest to niemożliwe.
Im więcej wiemy o ewolucji, tym łatwiej pojmujemy, że trwające miliony lat procesy mogły doprowadzić do powstania oka. Podobnie z dużymi modelami językowymi: nie trzeba obdarzać ich świadomością, by docenić, w jaki sposób generują inteligentnie brzmiące teksty.
Czyli są tylko „kalkulatorami językowymi”, programami komputerowymi bezmyślnie tworzącymi mądrze brzmiące wypowiedzi?
Określenie „kalkulator językowy” nieco umniejsza ich znaczenie, a nie chciałbym nie docenić tej technologii. Duże modele językowe zaskoczyły wszystkich, łącznie z ich twórcami, gdyż nikt się nie spodziewał, że będą działać aż tak dobrze. Mnie najbardziej uderza to, że położyły kres wieloletniej debacie dotyczącej tez słynnego amerykańskiego lingwisty i filozofa Noama Chomsky’ego.
Dyskutowano mianowicie, czy zdolność posługiwania się językiem może zostać nabyta wyłącznie na podstawie przykładów, czyli z samych danych. Chomsky argumentował, że nie. Tymczasem duże modele językowe to wyraźny kontrprzykład, co jest po prostu niezwykłe. Nie oznacza to oczywiście, że ludzie przyswajają język w ten sam sposób, ale dowodzi, że inna droga też jest możliwa.
Niezależnie od tego, czy modele takie jak Claude są świadome i czy w ogóle cokolwiek rozumieją, to bez wątpienia posiadają zdolność prowadzenia płynnej konwersacji. I pozostaje pewną zagadką, jak dokładnie to robią, czyli w jaki sposób wydobywają ukryte wzorce z gigantycznej liczby tekstów, na których są trenowane. Za całym tym procesem musi stać niezwykle interesujący i wyrafinowany zestaw obliczeń.
Może tlić się w nim iskierka świadomości?
Musimy rozdzielić trzy pojęcia: inteligencję, rozumienie i świadomość. Jeśli to pierwsze zdefiniujemy jako zdolność do wykonywania określonych zadań, to uważam, że duże modele językowe można uznać za inteligentne. Wykazują co prawda inteligencję zupełnie innego rodzaju niż ludzka, ale bez wątpienia potrafią sprawnie i skutecznie rozwiązywać problemy. Jeśli zaś chodzi o „iskierkę świadomości”, to moja odpowiedź brzmi „nie”.
Sama idea, że tego typu sztuczna inteligencja mogłaby być świadoma, opiera się na bardzo silnym założeniu, że świadomość jest wyłącznie kwestią odpowiednich obliczeń i algorytmów, całkowicie niezależną od materialnego nośnika. Bardzo w to wątpię. W swoich badaniach pokazuję, że wiąże się ona nierozerwalnie z naszą biologią, czyli z ciałem i z samym faktem bycia żywym organizmem.
Między inteligencją a świadomością zawieszone jest pojęcie „zrozumienia”. Skłaniam się ku tezie, że obecne modele AI mimo niewątpliwej inteligencji prawdopodobnie niczego nie rozumieją. Funkcjonują bowiem w środowisku zupełnie pozbawionym fizyczności i nie wchodzą w interakcje z prawdziwym światem. A dla nas słowa ostatecznie nabierają znaczenia dzięki fizycznemu doświadczeniu. Trudno więc oczekiwać, że maszyna zrozumie sens słów, znając jedynie reguły ich układania. Zasadnicze pytanie – moim zdaniem bardziej kontrowersyjne niż sama kwestia świadomości – brzmi zatem: czy z samej składni można wywieść znaczenie?
Jak dyskutować o świadomości AI, skoro naukowcy nie potrafią uzgodnić między sobą, czym ona jest? Miesięcznik „Scientific American” (polskie wydanie: ŚWIAT NAUKI 3/26) zestawił aż 29 teorii na ten temat, ale w literaturze naukowej można znaleźć ich pewnie jeszcze więcej.
Zgadzam się, że teorii tych jest zbyt wiele, choć część to po prostu stanowiska filozoficzne lub luźne opinie. Stworzenie rzetelnej koncepcji świadomości stawia poprzeczkę bardzo wysoko. Wymaga jasnego określenia warunków koniecznych i wystarczających dla zaistnienia tego zjawiska oraz wyjaśnienia jego konkretnych właściwości oraz funkcji. Dlatego cztery lata temu – wspólnie z Timem Baynem, filozofem umysłu i kognitywistą – przygotowaliśmy systematyczny przegląd teorii świadomości i wyselekcjonowaliśmy tylko cztery główne ich „rodziny”, na których warto się skupić.
Pan preferuje i rozwija jedną, tzw. przetwarzania predykcyjnego. Dlaczego akurat tę teorię uznał pan za najlepszą?
Najbardziej pociągające jest w niej to, że nie mówi wyłącznie o świadomości. Jest naturalnym przedłużeniem szerszej koncepcji opisującej działanie mózgu i umysłu. Zgodnie z tym ujęciem mózg człowieka jest przede wszystkim „maszyną predykcyjną”, przewidującą. Czyli nie postrzega otoczenia w sposób bierny i nie odczytuje świata jedynie przez zmysły. To, czego świadomie doświadczamy, jest zawsze zbiorem najlepszych domysłów – przewidywań mózgu na temat tego, co jest źródłem sygnałów docierających do nas z zewnątrz oraz z wnętrza naszego ciała.
Nasz mózg jest organem uwięzionym w ciemnej i cichej przestrzeni czaszki. Nie dociera tam światło ani dźwięk. Jedyne, czym dysponuje, to sygnały elektryczne płynące ze zmysłów, które nie mają etykiet z informacjami, że zaobserwowany obiekt jest np. „kotem” czy „kubkiem kawy”. Aby zinterpretować te impulsy i dowiedzieć się, co faktycznie znajduje się na zewnątrz, musi połączyć je z wcześniejszymi oczekiwaniami. Tak formułuje swoje najlepsze domysły, a w rezultacie to, co ostatecznie świadomie widzimy, nie jest biernym odczytem danych, lecz właśnie owymi domysłami mózgu na temat ich przyczyny.
Świetnie ilustrują to złudzenia optyczne, jak słynna szachownica Adelsona. Nasz mózg w drodze ewolucji i doświadczenia „dowiedział się”, jak zachowują się obiekty znajdujące się w cieniu oraz jaki układ ma szachownica. Łącząc tę wiedzę z sygnałami z oczu, aktywnie konstruuje obraz. Sprawia to, że patrząc na dwa pola o identycznym odcieniu szarości, postrzegamy jedno z nich jako dużo jaśniejsze. Dlatego często nazywam takie doświadczenie „kontrolowaną halucynacją”. Prawdziwe halucynacje pojawiają się wtedy, gdy proces aktualizowania przewidywań wymyka się spod kontroli.
Dlaczego mózg tworzy te „kontrolowane halucynacje”? Bez nich by sobie nie poradził?
Wyjaśnieniem jest ewolucja. Wyobraźmy sobie najprostszą jednokomórkową formę życia. Jej główny cel to przetrwanie, więc musi utrzymać odpowiedni bilans chemiczny i energetyczny, czyli homeostazę. Z punktu widzenia matematyki i fizyki przeżycie nie jest niczym innym niż ciągłym minimalizowaniem „niespodzianek”. Z czasem organizmy stawały się coraz bardziej złożone i zaczęły poruszać się w skomplikowanym środowisku.
Dlatego pojawił się układ nerwowy, a potem mózg. I okazało się, że aby skutecznie regulować to, co dzieje się wewnątrz ciała – czyli nasz metabolizm, ciśnienie krwi czy zapasy energii – musiał zacząć przewidywać również to, co dzieje się na zewnątrz. Na przykład orientować się, jak zdobyć pożywienie lub uniknąć drapieżnika.
Z tego wszystkiego wynika, że dokładnie ten sam nadrzędny proces, czyli ciągłe dążenie organizmu do minimalizacji błędów przewidywań, napędza zarówno podstawowe, chemiczne funkcje życiowe wewnątrz narządów, jak i skomplikowany proces, w którym mózg aktywnie konstruuje bogaty obraz otaczającego świata. Innymi słowy, nie postrzegamy rzeczywistości po to, by ją obiektywnie poznać, ale by w niej przeżyć.
Skoro świadomość wyewoluowała, to kiedy pojawiła się na „drzewie życia”? I czy posiadają ją np. psy lub małpy, ale w formie mniej złożonej niż u ludzi?
Trudno mi powiedzieć, jak głęboko należy zejść w dół tego „drzewa życia”, by znaleźć początki świadomości. Dlatego nie wiem, czy np. owady lub ryby ją posiadają. Natomiast w przypadku organizmów jednokomórkowych lub takich prostych zwierząt, jak mikroskopijne robaki nicienie, mam już mniej wątpliwości. Moja intuicja podpowiada, że potrafią przeżyć bez świadomości.
Tego właśnie zagadnienia dotyczy projekt, nad którym pracuję z Timem Bayne’em i z izraelską neurobiolożką i filozofką Liad Mudrik. Zaczynamy analizę od ludzi oraz większości naczelnych i ssaków. Szukamy u nich wzorców uczenia się i wskaźników neurofizjologicznych, które na pewno korelują ze świadomością. Następnie próbujemy ostrożnie zaadaptować te miary do kolejnych gatunków (w planach mamy m.in. ptaki) i krok po kroku weryfikować, czy te wskaźniki wciąż występują. W ten sposób chcemy spróbować odpowiedzieć na pytanie, które organizmy wykształciły świadomość, a które nie.
A jak wygląda w tym kontekście kwestia odrębności własnego „ja”? U zwierząt testuje się ją za pomocą lustra – jeśli rozpoznają w nim siebie, to traktowane jest to jako przejaw samoświadomości.
Utożsamianie tych pojęć jest błędem. Samoświadomość nie jest tym samym co świadomość ani warunkiem koniecznym jej posiadania. Nawet my, dorośli ludzie, którzy zazwyczaj jesteśmy samoświadomi, możemy doświadczać stanów takich jak całkowity rozpad ego podczas medytacji czy pod wpływem psychodelików, kiedy poczucie własnego „ja” praktycznie zanika. Wciąż jesteśmy wtedy świadomi, ale już nie samoświadomi, a przynajmniej nie w tym samym stopniu.
Podobnie jest z ludzkimi dziećmi, które zdają test lustra dopiero w okolicach 18. miesiąca życia. Nie oznacza to przecież, że do tego momentu są pozbawione świadomości. Wskazuje tylko, że wcześniej nie postrzegają siebie jako odrębnych istot w ten specyficzny sposób.
Jeśli chodzi o test lustra na zwierzętach, to zgadzam się, że gdy dany organizm, a ich lista jest zaskakująco krótka, w ewidentny sposób zalicza ten sprawdzian, to mamy dobry argument za istnieniem u niego pewnej formy samoświadomości. Chociaż w przypadku niektórych eksperymentów mam wątpliwości, czy faktycznie dają tak bezsporne rozstrzygnięcie.
Należy też brać pod uwagę, że oblanie testu lustra absolutnie nie oznacza, iż u danego zwierzęcia samoświadomość nie występuje. Przyczyn może być wiele: zwierzę może po prostu nie lubić luster, nie zwracać najmniejszej uwagi na zrobiony na ciele znacznik, co jest podstawą tego testu, lub mieć wrodzoną awersję do kontaktu wzrokowego. Dlatego nie jest to sprawdzian doskonały. Test na samoświadomość nie stanowi ostatecznego dowodu ani na obecność, ani na brak świadomości w ogóle.
W środowisku naukowym słynny był zakład o skrzynkę wina z 1998 r. między neurobiologiem Christofem Kochem a filozofem Davidem Chalmersem. Ten pierwszy twierdził, że w ciągu 25 lat badacze odkryją wyraźny wzorzec aktywności mózgu leżący u podstaw świadomości. Tymczasem do dziś go nie znaleźli.
Rozstrzygnięcie tego zakładu stało się głośne w środowisku neuronaukowców. Koch zachował się zresztą z wielką klasą, publicznie przyznając się do porażki i wręczając Chalmersowi skrzynkę doskonałego portugalskiego wina. Jednak jego przegrana nie oznacza, że wracamy do punktu wyjścia i nic nie wiemy. Samo założenie, czyli nadzieja na znalezienie jednego, prostego i uniwersalnego „wzorca” czy sygnału, tzw. neuronalnego korelatu świadomości, było po prostu zbyt optymistyczne i uproszczone.
Problem polega bowiem już na samym sformułowaniu pytania: gdzie w mózgu kryje się świadomość? Ona nie jest czymś, co można schować w jednym magicznym miejscu. Nie ma żadnej „siedziby duszy”, jaką miała być np. szyszynka według Kartezjusza, ani przełącznika, który nagle rozświetla umysł. Świadomość nie jest obiektem. To zjawisko systemowe, niezwykle złożony i dynamiczny proces. A dzięki ostatniemu ćwierćwieczu intensywnych badań wiemy już sporo, które obszary są w niego zaangażowane. Na przykład struktury głębokie, jak pień mózgu, okazują się kluczowe dla ogólnego poziomu pobudzenia mózgu, czyli samego faktu bycia świadomym.
Z kolei za to, czego doświadczamy, np. widzenie koloru czerwonego czy odczuwanie zapachu, odpowiadają rozległe sieci neuronowe na powierzchni kory mózgowej, zwłaszcza jej tylne obszary oraz ich nieustanna komunikacja ze wzgórzem. Zakład Kocha z Chalmersem pokazał, że biologia naszego umysłu jest znacznie wspanialsza i bardziej skomplikowana, niż wydawało się ćwierć wieku temu.
A jak ta kwestia wygląda z perspektywy teorii przetwarzania predykcyjnego?
Pytanie „gdzie?” siłą rzeczy schodzi na dalszy plan na rzecz pytania „jak?”. Moim zdaniem świadome doświadczenie pojawia się wtedy, gdy rozległe sieci neuronowe współpracują ze sobą, aby zminimalizować błędy predykcji. To nieustanny, zsynchronizowany „taniec” miliardów sygnałów płynących z góry na dół, czyli naszych przewidywań dotyczących rzeczywistości, oraz z dołu do góry, czyli bodźców napływających ze zmysłów i ciała. Żeby świadomość zaistniała, potrzebuje symfonii granej przez niemal cały mózg.
Jak można przetestować w laboratorium tę teorię?
Jeden z jej głównych postulatów zakłada, że ludzkie doświadczenie zależy w większym stopniu od naszych oczekiwań i przewidywań, podczas gdy sygnały napływające ze zmysłów pełnią funkcję informacji o „błędzie predykcji”, czyli korygują te przewidywania. Aby to badać, budujemy modele AI odwzorowujące tego typu procesy. Przy czym są one tak projektowane, aby możliwie dokładnie naśladować pracę mózgu, dlatego bardzo różnią się od popularnych dużych modeli językowych.
Następnie zestawiamy je z zachowaniami ludzi podczas eksperymentów, a niekiedy również z danymi z obrazowania aktywności mózgu. Wykorzystujemy w tym celu np. konkretne złudzenia wzrokowe. Jednym z nich jest „iluzja jednorodności”, polegająca na tym, że to, na co patrzymy w centrum pola widzenia, niejako przejmuje kontrolę nad tym, co widzimy na peryferiach. W rezultacie napływające ze zmysłów informacje różnią się od tego, czego ostatecznie i świadomie doświadczamy.
Dziś dysponujemy też technologią, która pozwala „podglądać” mózg z tak ogromną precyzją, że widzimy jego aktywność dosłownie warstwa po warstwie, nawet w obrębie konkretnego obszaru, takiego jak kora wzrokowa. Podczas jednego z eksperymentów pokazywaliśmy badanym wspomniane złudzenie optyczne i za pomocą skanera sprawdzaliśmy, gdzie dokładnie w mózgu powstaje ostateczne świadome doświadczenie, a także do których warstw kory wzrokowej docierają jedynie „czyste” dane z naszych oczu. Dzięki temu mogliśmy odkryć, że świadomy obraz świata jest konstruowany przez nasze własne oczekiwania, a nie tylko biernie rejestrowany przez narządy zmysłów.
Pod koniec wykładu w ramach tegorocznego Copernicus Festival w Krakowie, który można obejrzeć na YouTube, powiedział pan: „Aby zrozumieć, czym jest świadomość, trzeba zrozumieć życie”. Co dokładnie miał pan na myśli?
W neuronauce przez dekady dominowała tendencja do traktowania mózgu jak komputera, w którym biologiczne detale schodzą na dalszy plan, a on sam służy jedynie do wykonywania określonych algorytmów. Ta metafora była niezwykle wpływowa i odegrała swoją rolę, ale w moim przekonaniu jej użyteczność właśnie dobiega końca. Naszym największym wyzwaniem, leżącym na styku nauki i filozofii, jest teraz wyjście poza ten informatyczny schemat.
Moim zdaniem świadomości nie da się oderwać od jej biologicznego nośnika i skopiować gdzieś indziej w postaci czystego kodu. W przeciwieństwie do maszyn, które dzielimy na sprzęt i oprogramowanie, w naszym mózgu nie ma ostrej granicy między działaniem umysłu a żywą tkanką.
Wszystko jest tu ze sobą głęboko zintegrowane. Aby zatem dokonać prawdziwego badawczego przełomu, musimy rozwijać nowe narzędzia matematyczne i eksperymentalne, które pozwolą tę złożoność uchwycić. Prawdziwe zrozumienie świadomości nadejdzie dopiero wtedy, gdy w pełni docenimy fakt, że jesteśmy przede wszystkim żywymi organizmami, a świata doświadczamy nie mimo naszej biologicznej natury, lecz właśnie dzięki niej.
ROZMAWIAŁ: MARCIN ROTKIEWICZ
Wywiad przeprowadzony dzięki uprzejmości Centrum Kopernika Badań Interdyscyplinarnych Uniwersytetu Jagiellońskiego.