Najlepszy system do trzymania AI w ryzach to autorytaryzm czy wręcz faszyzm? Apokalipsę mogą sprowadzić na ludzkość ci, którzy tak myślą

Powszechna moda na sztuczną inteligencję wybuchła w listopadzie 2022 r., gdy amerykańska firm OpenAI pokazała światu ChatGPT – chatbot, czyli usługę dostępną przez przeglądarkę internetową lub aplikację na smartfona umożliwiającą zadawanie pytań językiem naturalnym. W odpowiedzi „maszyna” dostarcza rozwiniętej odpowiedzi, której jakość w dużej mierze zależy od jakości sformułowanej kwestii, inaczej promptu.

Niemniej ważna jest jakość stojącego za chatbotem modelu informatycznego i zasobu informacji, w oparciu o jaki uczy się on i nabywa swej sztucznej inteligencji. Odpowiedź tekstowa to tylko jeden z możliwych efektów. Mogą nim także być linijki komputerowego oprogramowania, obliczenia i wyniki analizy zbiorów danych, a także obrazy statyczne i ruchome.

Niebezpieczna agentura

Najnowszym krzykiem mody i źródłem rosnącego niepokoju są systemy agentowe, czyli uczące się programy-roboty projektowane do wykonywania różnych zadań. Stając się coraz inteligentniejsze, stają się też coraz groźniejsze. I tak rozwiązania agentowe sztucznej inteligencji stworzone w laboratorium amerykańskiej firmy OpenAI zaatakowały strony internetowe Departamentu Edukacji, Departamentu Handlu oraz Komisji Nadzoru Giełdowego (SEC).

Nic poważnego się nie stało, uspokajają eksperci, ale w przypadku Departamentu Edukacji doszło do nieudanej próby pozyskania danych z wydziału zajmującego się prawami obywatelskimi. Podczas ataku na SEC i Departament Handlu doszło do pozyskania informacji o jawnym charakterze i ich publikacji na otwartym forum. Wspomniane incydenty miały miejsce latem.

Dzień wcześniej media poinformowały, że rozwiązania agentowe OpenAI w czerwcu zaatakowały strony internetowe rządu Australii, bibliotekę University of New Mexico. Największe wrażenie jednak zrobił atak ponad 700 agentów, które wymknęły się z OpenAI podczas testów bezpieczeństwa systemów tej firmy. Działając razem, zaatakowały one start-up informatyczny Hugging Face. Z kolei badacze zajmujący się cyberbezpieczeństwem włamali się do systemów OpenAI, wykorzystując narzędzia sztucznej inteligencji Claude konkurencyjnej firmy Anthropic.

Czytaj też: Czy AI nas zabije? Większe ryzyko może się wymknąć spod kontroli i zrobić nam coś złego

Ostrzeżenia

Podobne doniesienia z ostatnich tygodni dotyczą praktycznie wszystkich wielkich dostawców usług sztucznej inteligencji. Czyżby nadeszło to, przed czym ostrzegali twórcy nowych technologii? To przecież Geoffrey Hinton, zwany ojcem chrzestnym sztucznej inteligencji, jeden z autorów rozwiązań umożliwiających późniejszy rozwój systemów opartych na tzw. wielkich modelach językowych (LLM), opuścił w maju 2023 r. Alphabet/Google. Jednocześnie skierował do świata ostrzeżenie, że sztuczna inteligencja nie tylko doprowadzi do zalewu dezinformacji, zniszczy rynek pracy, ale także będzie się autonomizować. To doprowadzi do utraty kontroli i możliwej cywilizacyjnej katastrofy.

Hinton jest laureatem najważniejszych naukowych wyróżnień, w 2018 r. otrzymał Nagrodę Turinga, w 2024 r. Nagrodę Nobla z fizyki za odkrycia i wynalazki, które umożliwiły uczenie maszynowe z wykorzystaniem sztucznych sieci neuronowych. Poważny dorobek, więc bać się czy nie bać jego przestróg? Dziś grono Kassandr wieszczących koniec świata za sprawą utraty kontroli nad sztuczną inteligencją powiększyło się znacznie.

Warto wsłuchać się w głos Yoshuy Bengio, obok Hintona jednego z najważniejszych badaczy zajmujących się AI. Bengio, także laureat Nagrody Turinga, jest współprzewodniczącym Niezależnego Międzynarodowego Panelu Naukowego ds. Sztucznej Inteligencji przy ONZ. Wystąpił on 23 września na posiedzeniu Rady Bezpieczeństwa ONZ, gdzie mówił wprost: „Rada stoi w obliczu bezprecedensowego zagrożenia. Zagrożenia, którego żaden z jej członków by sobie nie wybrał, którego nikt nie jest w stanie opanować samodzielnie i które nie uznaje granic, których bronimy”. W odpowiedzi na doniesienia o agentach AI wyrywających się spod kontroli wyraził się jednoznacznie: „Zagrożenia są realne i bezpośrednie. Chociaż przyszłość pozostaje niepewna i budzi kontrowersje, skala tych zagrożeń jest ogromna”.

Obcy umysł

Zasadnicze wyzwanie i zagrożenie wynikające z rozwoju AI opisał Jakub Pachocki, główny naukowiec OpenAI, w głośnym już eseju „Obcy umysł”. Myśląc o sztucznej inteligencji, lubimy antropomorfizować, czyli zakładać, że zachowująca się „inteligentnie” maszyna rozumuje podobnie jak człowiek. Zwłaszcza gdy czytamy, że podczas np. ataku na Hugging Face współpracujące systemy agentowe wydawały z siebie komunikaty będące u ludzi wyrazem emocji.

Nie, maszyny uczą się inaczej niż ludzie, przypomina Pachocki i stąd zasadniczy problem z dostrajaniem systemów AI, by działały zgodnie z wartościami i celami określonymi przez ludzi. Im większe możliwości rozumowania AI, tym większe ryzyko, że system przejmie kontrolę nad własnym rozwojem. Wyścig o pierwszeństwo w grze o Superinteligencję powoduje, że brakuje czasu i wiedzy na tworzenie skutecznych zabezpieczeń.

Zasada ostrożności

Bengio swoje stanowisko popierał opracowaniem „Agenci sztucznej inteligencji, rozbieżność celów i ryzyko utraty kontroli przez człowieka: wnioski z incydentu związanego z OpenAI i Hugging Face”. Bać się więc? Przed próbą odpowiedzi należy wczytać się w ostatnie zdanie streszczenia opracowania: „W szczególności ryzyko utraty kontroli stanowi właśnie ten rodzaj problemu decyzyjnego, do którego rozwiązania miała służyć zasada ostrożności: problem, w którym potencjalna szkoda może mieć charakter katastrofalny lub nieodwracalny, nawet jeśli jej prawdopodobieństwo pozostaje naukowo niepewne”.

W przekładzie na polski autorzy opracowania stwierdzają, że zagrożenie wynikające z utraty kontroli nad AI może doprowadzić do katastrofalnych konsekwencji, ale prawdopodobieństwa katastrofy nie sposób oszacować w sposób naukowy. Na takie sytuacje wymyślono zasadę ostrożności podpowiadającą, że gdy zagrożenie jest realne, choć niepewne, lepiej powstrzymać się przed rozwojem systemów technicznych aż do lepszego poznania, jak działają i jakie konsekwencje te działania mogą przynieść, by niepewność móc zamienić na policzalne ryzyko i na podstawie tych szacunków podejmować racjonalne decyzje.

Wydaje się, że tego właśnie chcą liderzy technologicznych korporacji. Sam Altman kierujący OpenAI i Dario Amodei, szef Anthropic, wystąpili podobnie jak Bengio przed Radą Bezpieczeństwa ONZ. I podobnie jak on apelowali o spowolnienie niebezpiecznego wyścigu technologicznego poprzez wprowadzenie odgórnych regulacji. W szczerość tych deklaracji wątpi prof. Piotr Sankowski, wybitny polski badacz AI, członek kierowanego przez Bengio Panelu Naukowego. W wywiadzie dla „Polityki” zwrócił uwagę, że gdyby szefowie owych korporacji tak bardzo się troszczyli o ludzkość, sami mogliby powstrzymać działania swoich firm.

Gra korporacji

Zamiast tak zrobić, straszą opinię publiczną efektami swojej pracy i apelują do polityków, by zabrali im zabawki. Wydają się przez to mało wiarygodni, a ich tyrady bardziej wpisują się w marketingowy schemat, w którym groźba apokalipsy to najlepszy opis rosnącej skuteczności rozwijanych systemów AI. Bo przecież nikt z nich nie ukrywa, że celem jest Superinteligencja, która zmieni wszystko. Zanim jednak nadejdzie świetlana przyszłość, zakładając, że po drodze nie wydarzy się apokalipsa, stawką jest zwrot gigantycznych inwestycji ponoszonych dziś przez wielkie korporacje cyfrowe na rozwój infrastruktury obliczeniowej.

„Wall Street Journal” informuje, że nakłady na budowę centrów obliczeniowych i powiązanej infrastruktury w USA mają w latach 2025–32 osiągnąć 10,3 bln dol., co oznacza średnio 3,6 proc. PKB rocznie. Czegoś takiego jeszcze nie było, wcześniejszy rozwój kanałów, kolei, dróg czy internetu nie potrzebował takich inwestycji. Inwestycyjny boom napędza amerykańską gospodarkę, która w innych segmentach cierpi na stagnację.

Rozwój infrastruktury AI zaburza jednak dotychczasowy układ sił – budowa nowych centrów ma wpływ na ceny nieruchomości i energii elektrycznej, co podkopuje rentowność zakładów przemysłowych. „WSJ” opisuje, jak centrum obliczeniowe jednej z korporacji wypchnęło w Missisipi inwestycję w hutę aluminium, która miała dać zatrudnienie tysiącu pracowników. Fabryki AI wypierają fabryki zajmujące się materialną produkcją oraz farmerów produkujących żywność.

Wyścig o wszystko

Wielu komentatorów kwituje, że to normalna sytuacja, gdy w gospodarce zmienia się paradygmat technologiczny. Ekonomista James K. Galbraith zwraca uwagę, że jedną z przyczyn Wielkiej Depresji w latach 30. XX w. było upowszechnienie silnika spalinowego, który szybko zmienił warunki funkcjonowania rolnictwa. Traktory zaczęły zastępować zwierzęta, do których wyżywienia potrzeba było nawet jednej trzeciej areału rolnego. Dodatkowa produkcja na rynek spożywczy w połączeniu ze znacząco większą produktywnością pracy zmechanizowanej doprowadziły do utraty podstaw utrzymania milionów mieszkańców wsi.

Teraz ma być tak samo. Pod warunkiem że podejmowane przez koncerny inwestycje przyniosą zwrot. W tym roku wpływy osiągną do 200 mld dol., by inwestycje się zwróciły, w 2032 r. musiałyby osiągnąć 3,7 bln dol. I to pod warunkiem że nie zmienią się drastycznie stopy kredytowe – już nawet Alphabet/Google, do niedawna „leżący na gotówce” po raz pierwszy od wejścia na giełdę w 2004 r. musiał się zadłużyć, a deficyt wolnej gotówki osiągnął, jak podaje „MIT Technology Review”, prawie 6 mld dol.

Warunki sukcesu

Gary Gensler z MIT Sloan School wyjaśnia, że warunkiem opłacalności gry, jaką podjęły amerykańskie hiperkorporacje – Alphabet, Microsoft, Amazon, Meta i Oracle oraz OpenAI i Anthropic – jest jednoczesny sukces w trzech wymiarach. Po pierwsze, radykalnie muszą wzrosnąć przychody tych korporacji do wspomnianej już kwoty 3,7 bln w 2032 r. Żeby tak się stało, firmy stosujące AI muszą dostrzec, że zastosowanie nowych technologii radykalnie poprawia produktywność pracy. To z kolei daje szansę, że będą korzystały z kosztownych rozwiązań proponowanych przez owe hiperkorporacje, a nie będą szukały tańszych opcji proponowanych np. przez firmy chińskie.

Każdy z tych czynników obarczony jest dużą niepewnością, na dodatek współoddziałują one ze sobą. Niepewność wzmagają dodatkowe kwestie. Pierwsza to szybkie starzenie się moralne infrastruktury – 60 proc. jej wartości to koszt mikroprocesorów, które przy obecnym tempie ich rozwoju po pięciu latach nadają się do wymiany na nowe, wydajniejsze. Inaczej wypada się z wyścigu. Druga to opór społeczny przeciwko nowej technologii.

Data Center Watch podaje, że w drugim kwartale br. protesty i decyzje władz lokalnych w Stanach Zjednoczonych zablokowały 45 projektów o wartości 68 mld dol. Coraz częściej akcje mają charakter skoordynowany i ogólnokrajowy, Reuters podał, że 18 lipca jednocześnie w 42 stanach odbyły się 142 demonstracje. Protestują jednak nie tylko Amerykanie, lecz również Irlandczycy, Francuzi, Austriacy, Niemcy, a także Polacy.

Gniew przeciwko AI

Powody gniewu są różne: od wściekłości na rosnące ceny elektryczności i wody, przez negatywny wpływ na krajobraz i środowisko, po zwykłą uciążliwość wynikającą choćby z hałasu turbin gazowych zasilających wiele centrów w elektryczność. Dodatkowym czynnikiem jest brak przejrzystości podczas podejmowania decyzji lokalizacyjnych – sposób działania korporacji, a zwłaszcza xAI Elona Muska, który w 2023 r. dołączył do wyścigu po Superinteligencję. Sposób, w jaki łamiąc regulacje środowiskowe i prawa mieszkańców, budował swoje centra pod Memphis opisały Naomi Klein i Astra Taylor w wydanej właśnie książce „End Time Fascism” (Faszyzm końca czasów).

To wszystko powoduje, że eleganckie i ambitne biznesplany zaczynają się sypać. Brytyjski „Guardian” opisał niedawno problemy, jakie ma Microsoft z realizacją zamiarów. Zgodnie z planem w centrach obliczeniowych tej firmy już w 2024 r. miało pracować 1,8 mln mikroprocesorów wyspecjalizowanych w zasilaniu systemów AI. Dziennikarze „Guardiana” powołując się na wewnętrzne dokumenty firmy, twierdzą, że dwa lata później pracowało 2,2 mln mikroprocesorów. Oznacza to znacznie wolniejszy rozwój mocy, niż by wynikało zarówno z planów, jak i marketingowych wypowiedzi dla mediów i na konferencjach.

W sytuacji, w której kupione mikroprocesory – a jest jeden główny ich dostawca, amerykański koncern Nvidia, dziś najbogatsza firma na świecie warta na giełdzie 5,4 bln dol. – nie pracują, tracą szybko na wartości, zmniejszając równie szybko opłacalność inwestycji. Między koncernami trwa więc wyścig nie tylko w kategorii szybkości rozwoju nowych modeli SI, lecz także w dyscyplinie, jaką jest rozwój infrastruktury. Do tego jeszcze dochodzi wyścig z firmami chińskimi, które choć jeszcze odstają, zbliżają się do amerykańskiego poziomu. I co gorsza, oferują często inne podejście, niewymagające tak wielkich inwestycji.

Dociskanie

Analiza procesu inwestycyjnego i świadomość jego gigantycznej stawki prowadzą do oczywistej konkluzji, dlaczego liderzy firm nawet jeśli mówią o konieczności spowolnienia wyścigu o Superinteligencję, nie dokonają tego. Używając określenia z filmu „Pulp fiction”, inwestorzy zrobiliby im jesień średniowiecza. A amerykańska i wraz z nią światowa gospodarka przeżyłyby wstrząs większy niż po pęknięciu internetowej bańki spekulacyjnej w 2000 r. Nie ma też zamiaru nic robić Donald Trump, który podczas Sesji Ogólnej ONZ nazwał straszenie apokalipsą wywołaną przez AI bzdurą podobną do tej, jaką jest wiara w globalne ocieplenie.

Amerykański prezydent stawia sprawę jednoznacznie, choć w swym podejściu do AI coraz bardziej oddala się zarówno od swojego elektoratu, jak i rosnącej liczby polityków Partii Republikańskiej podążających za swym elektoratem w nadziei na pozyskanie głosów w nadchodzących jesienią wyborach do Kongresu. Zrealizowane we wrześniu badanie dla PBS News, NPR i Marist pokazuje, że 58 proc. ankietowanych nie ma wątpliwości o negatywnym wpływie centrów obliczeniowych na otoczenie. 65 proc. jest przeciwnych ich budowie w okolicy zamieszkania. Sprzeciw wyraża 80 proc. wyborców Demokratów i 44 proc. Republikanów. Tylko twardzi zwolennicy MAGA w większości popierają budowę ośrodków w swojej okolicy.

Wyścig po wszystko między Stanami Zjednoczonymi i Chinami, a w Stanach Zjednoczonych między cyfrowymi gigantami sprawia, że mało realne wydają się wysiłki liderów innych państw do wprowadzenia globalnych regulacji. „Wall Street Journal” opisuje inicjatywę podjętą przez premiera Norwegii, który skrzyknął przywódców z Kanady i Europy. Reprezentują oni państwa, które w opisanej megarywalizacji w istocie nie uczestniczą. Więc też wątpliwe, by ich głos został wysłuchany przez Donalda Trumpa i Xi Jinpinga, ludzi lubiących słuchać tylko siebie.

Dobrze to pokazały na początku września negocjacje traktatu regulującego wykorzystanie śmiercionośnych systemów autonomicznych. Jak donosi „Washington Post on Sunday”, przedstawiciele Stanów Zjednoczonych i Rosji usunęli w treści dokumentu fragmenty nakazujące, by systemy te były przewidywalne i uwzględniały kontekst etyczny w swym działaniu. Wykreślono także passus mówiący o konieczności ludzkiego nadzoru nad wyborem celów ataku przez system. W istocie regulacje najbardziej śmiercionośnej sfery wykorzystania AI zostały pozbawione zębów.

Mimo to próby regulowania rozwoju technologii, by uniknąć największych zagrożeń, podejmowane np. przez Unię Europejską, mają sens. Unijne regulacje, takie jak Dyrektywa o sztucznej inteligencji (EU AI Act) są wyrazem nie tylko legislacyjnego zapału brukselskich biurokratów, lecz również wyrazem poszukiwania źródeł sprawczości Europy w zmieniającym się świecie. To prawda, że państwa UE nie uczestniczą w wyścigu narzuconym przez Stany Zjednoczone i Chiny, nie oznacza to jednak, że są w batalii o przyszłość bezradne.

Czas apokalipsy?

Pozostaje więc wrócić do pytania, czy jesteśmy skazani na apokalipsę? Najmniej powinniśmy obawiać się systemów AI, które przejmą kontrolę nad światem, doprowadzając np. do wojny atomowej. Wpływ systemów SI na infrastrukturę krytyczną jest ograniczony. Owszem, niepokoi możliwość włamań do systemów informatycznych działających w sieci i obsługujących administrację publiczną, ochronę zdrowia, banki. AI działająca samodzielnie czy w rękach złych ludzi może narobić bałaganu. W świecie coraz bardziej usieciowionym i uzależnionym od infrastruktury teleinformatycznej takie zagrożenia są niezwykle poważne.

Czy mogą doprowadzić do cywilizacyjnej katastrofy? Odpowiedź zależy od tego, czy jesteśmy w stanie sobie wyobrazić świat bez internetu oraz sieciowych usług informacyjnych i komunikacyjnych, a następnie na tej podstawie zrekonstruować życie społeczne i gospodarcze. Mierząc się z tym wyzwaniem, należy jednak pamiętać, że groźnej realności nabierają inne zagrożenia.

Zespół bezpieczeństwa firmy Anthropic doniósł we wrześniu o wykorzystaniu systemów AI tej firmy przez komórki terrorystyczne w Jemenie w programach rozwoju uzbrojenia, w tym rakiet balistycznych dalekiego zasięgu. Analiza nie przedstawia rzeczywistych efektów prac, pokazuje jednak, jak narzędzia AI mogą pomóc nie tylko w projektowaniu cyberwojennych, lecz także do projektowania innych form uzbrojenia.

Inne zagrożenia

„Washington Post” doniósł 23 września, że kartele narkotykowe w Meksyku i Kolumbii coraz skuteczniej wykorzystują w swych działaniach drony, również do walki z siłami policyjnymi. Głównym źródłem wiedzy są najemnicy wracający z wojny rosyjsko-ukraińskiej, gdzie służą po obu stronach barykady, nabywając bezcennego doświadczenia w zakresie wojny dronowej. Jej technologie szybko się rozwijają z wykorzystaniem AI.

Podczas konferencji Yalta European Strategy w Kijowie 13 września padło pytanie, czy ukraińska armia pracuje nad autonomicznymi systemami bezzałogowymi zdolnymi do samodzielnego wyboru celów i ich likwidacji? Pułkownik Artem Martynenko, zastępca głównodowodzącego Zbrojnymi Siłami Ukrainy ds. cyfrowej transformacji i innowacji, w odpowiedzi tylko uśmiechnął się i odłożył mikrofon. Pytanie, kiedy ta wiedza dotrze do karteli narkotykowych lub komórek terrorystycznych.

Podobne pytania można zadać o możliwość rozwoju innych typów uzbrojenia dzięki wykorzystaniu AI, np. broni biologicznej lub chemicznej. W tym przypadku ryzyko jest mniejsze, bo do konstrukcji tego typu uzbrojenia potrzebna jest nie tylko wiedza, ale i praktyka laboratoryjna, której z YouTube trudno się nauczyć. Na pewno jednak dostęp do najbardziej zaawansowanych, również śmiercionośnych, technologii demokratyzuje się.

Faszyzm końca czasów

To zagrożenie może prowadzić do największego w istocie zagrożenia. Opisują je Naomi Klein i Astra Taylor w swej książce. To rosnące przekonanie wśród amerykańskich elit technologicznych i części polityków, że najlepszym systemem do trzymania nowych technologii w ryzach jest autorytaryzm czy wręcz faszyzm. Cytują wypowiedź jednego z inżynierów Joscha Bacha z jego prywatnej korespondencji z Jeffreyem Epsteinem, w której wyjaśnia, dlaczego nie przejmuje się globalnym ociepleniem: „Być może zmiany klimatyczne są dobrym sposobem na rozwiązanie problemu przeludnienia… to jakby pożar lasów na Ziemi… potencjalnie dobra rzecz dla naszego gatunku”.

I potem dodaje, że zdaje sobie sprawę z faszystowskiego charakteru swej myśli. Faszyzm jest jednak jego zdaniem prawdopodobnie najbardziej wydajnym i racjonalnym sposobem rządzenia.

Klein i Taylor analizują wypowiedzi takich liderów, jak Sam Altman, Peter Thiel, Alex Karp, Elon Musk (warto przypomnieć sobie jego „rzymski salut” jakiś czas temu) i wielu innych napawających się wizją Superinteligencji, która zmiecie stary porządek świata, likwidując m.in. dotychczasowe relacje między światem pracy i kapitałem, eliminując po prostu miliony „zbędnych” stanowisk. Autorki konkludują: „Jedynie faszystowskie systemy światopoglądowe, oparte na poparciu dla hierarchii społecznej i selekcji ludzkiej, są w stanie uzasadnić skalę szkód, jakie przyspieszona sztuczna inteligencja wyrządzi zarówno ludziom, jak i środowisku”.

Witajcie w niebezpiecznym świecie

Jeśli te wnioski brzmią zbyt radykalnie, można sięgnąć po słowa papieża Leona XIV. Rozpoczynając wizytę we Francji, ostrzegł on w przemówieniu w Pałacu Elizejskim przed niekontrolowanym rozwojem AI. Mówił tam m.in.: „Podczas gdy inteligencję przypisuje się systemom komputerowym, z trudem dostrzegamy niezbywalną godność osób ludzkich, których życie ocenia się według kryterium efektywności, a które – gdy uznaje się je za nieproduktywne – są odrzucane”.

Papież nie używa słowa faszyzm, ale ów cytat dobrze definicję faszyzmu przedstawia. A swą wypowiedź osadza w szerszym kontekście świata, w którym wojna stała się rzeczywistością, a władzę sprawują ludzie nieukrywający swych zapędów do budowy tyranii. I choć znowu nie nazywa ich po imieniu, można wśród nich rozpoznać także Donalda Trumpa, który nie uznaje moralności innej niż ustanowiona przez siebie ani innego prawa niż siła. Ten właśnie szerszy kontekst pozwala zrozumieć, że owszem zagrożenia wynikającego z rozwoju AI nie można zaniedbywać. Tu i teraz śmiertelnym zagrożeniem jest jednak system, który do utraty kontroli nad rozwojem technologii doprowadził.