Zarząd OpenAI zwolnił Sama Altmana. Dlaczego?
Zwolniony w piątek, 17 listopada br., były już prezes OpenAI Sam Altman to biznesmen. Zgłębianie arkanów wiedzy o komputerach zakończył na zaledwie jednym roku studiów w Stanford University. Skupił się na patronowaniu dobrze rokującym startupom Doliny Krzemowej. Miał nosa oraz talent do przekonywania inwestorów. Po sukcesie OpenAI postrzegany jest – tyleż powszechnie, co błędnie – za guru świata AI.
Ilya Sutskever, główny naukowiec OpenAI, to niekwestionowany autorytet w dziedzinie AI, współtwórca nowatorskich modeli komputerowych sieci neuronowych. Pracował nad nimi z m.in. samym Geoffreym Hintonem, dziś jednym z głównych krytyków niekontrolowanego wyścigu zbrojeń firm rozwijających AI. Studiował nie tylko informatykę. Jest doktorem filozofii, potrafi postrzegać swą pracę w szerszym kontekście. Podczas gdy Altman w ramach światowego tournée ściskał dłonie premierów państw i korporacyjnych grubych ryb, Sutskever – przekonany, że pojawienie się superinteligencji jest kwestią nieodległej przyszłości – intensyfikował w OpenAI prace nad stworzeniem zabezpieczeń przed niekontrolowanym rozwojem AI. Stworzył Super Alignment, osobny zespół badawczy, zajmujący się wyłącznie zapobieganiem czarnym scenariuszom.
Zgodnie z relacjami pracowników OpenAI, Sutskever był coraz bardziej zaniepokojony kierunkiem rozwoju narzuconym przez Altmana. Firma powstała w 2015 r. jako inicjatywa non-profit. Założycieli – przynajmniej niektórych, jeśli wierzyć deklaracjom – łączyło przekonanie, że potężna sztuczna inteligencja może stanowić nie tylko olbrzymią pomoc, ale i zagrożenie dla ludzkości. Uznali, że jeśli to oni będą czuwać nad jej rozwojem, zdołają zapobiec sytuacji, w której stracimy nad AI kontrolę. W 2019 r. OpenAI powołała jednak spółkę zależną oraz inne podległe podmioty, tym razem już for-profit. Z zastrzeżeniem, że nie mogą przekroczyć stukrotności inwestycji. Ewentualna nadwyżka miała wrócić do OpenAI jako fundusz na prace badawcze.
Sam jest szczery, ale nie do końca
Sutskever i inni pracownicy z wątpliwościami albo nie mogli nic zrobić, albo nie doszacowali zagrożenia. I właśnie wtedy dżin wydostał się z butelki. Najpierw Microsoft zainwestował miliard dolarów (dziś wartość jego wkładu sięga 13 mld USD). Nie można jednak zawrzeć paktu z demonem korporacyjnym, zachowując cnotę. Zaraz po tym, jak pod koniec ubiegłego roku OpenAI udostępniło w internecie ChatGPT, Microsoft zintegrował go ze swoimi produktami, w tym przeglądarką Edge i wyszukiwarką Bing. To zapoczątkowało wyścig zbrojeń w dziedzinie AI. Egzystencjalnie zagrożony poczuł się holding Alphabet, który lwią część zysków czerpie z wyszukiwarki Google. Prace nad AI zdolną rywalizować z ChatGPT gwałtownie w Google przyspieszyły. I nikt już nie zawracał sobie specjalnie głowy rozterkami, czym to się wszystko może skończyć.
Wydarzenia tamtych i kolejnych miesięcy musiały wstrząsnąć Sutskeverem i innymi pracownikami OpenAI. 22 maja 0n, Altman wraz z innym współzałożycielem i członkiem zarządu OpenAI Gregiem Brockmanem opublikowali oświadczenie „Governance of superintelligence”. Apelowali o zapewnienie większej kontroli nad zaawansowanymi modelami AI.
Wydaje się jednak, że dalsze działania Sama Altmana mogły w oczach Sutskevera przeczyć szczerości jego intencji. Altman dążył do zwiększenia poziomu inwestycji oraz podniesienia wartości spółki do 80 mld dolarów. Głosił chęć rozszerzenia działalności OpenAI o produkcję urządzeń. Planował konkurować z Nvidią, tworząc czipy napędzane algorytmami AI. Japoński miliarder Masayoshi Son zgodził się zainwestować miliard dolarów, zachęcony przez Altmana wizją urządzeń zasilanych sztuczną inteligencją OpenAI. Altman chciał, by za wzornictwo odpowiadał sam Jonathan Ive, były projektant urządzeń Apple. Co więcej, Sutskever mógł dojść do wniosku, że Altman próbuje zmniejszyć jego znaczenie w firmie. Niedawno mianował na stanowisko dyrektora ds. badań – równorzędne ze stanowiskiem Sutskevera – Jakuba Pachockiego, naukowca zaangażowanego w prace nad GPT-4.
Altman wraca, ale nie do OpenAI
Zamachowcy nie przewidzieli wszystkich konsekwencji. Zgodnie z relacją Brockmana, jednego z sześciorga członków zarządu OpenAI, w noc poprzedzającą zwolnienie Sam Altman odebrał wiadomość od Sutskevera, który poprosił go o rozmowę w piątkowe popołudnie. Gdy Altman dołączył do spotkania w Google Meet (sic!), pozostałe cztery osoby zarządu – Ilya Sutskever, Adam D'Angelo, Helen Toner i Tasha McCauley, wszystkie oprócz Grega Brockmana, który też został usunięty z zarządu, choć zachował inne funkcje w formie – poinformowały go, że został zwolniony. Przy tym zarówno Helen Toner, jak i Tasha McCauley są silnie zaangażowane w inicjatywy głoszące potrzebę silnego nadzoru nad rozwijaniem AI. Co tylko wzmacnia hipotezę o rzeczywistych powodach odspawania Altmana od steru.
Do przewidzenia było, że Microsoft – który do końca nie wiedział, co się szykuje – wpadnie w szał. Nie tylko dlatego, że zarząd firmy, w którą zainwestował 13 mld USD, odbywa spotkania za pośrednictwem Google Meet. Zaraz po upublicznieniu informacji o zwolnieniu Altmana kurs akcji Microsoftu zaczął spadać. Altman i Brockman – który rzucił papierami – zaczęli natychmiast mówić o założeniu nowej firmy. W ich ślad rezygnację zaczęli składać kolejni pracownicy OpenAI, w tym pochodzący z Polski wspomniany beneficjent posunięć kadrowych Altmana Jakub Pachocki, Szymon Sidor i Aleksander Mądry. Pojawiły się komentarze, czy OpenAI – gdzie zapanował chaos, pracowników zaskoczył obrót zdarzeń – jest w stanie to przetrwać.
Niewątpliwie to naciski zaniepokojonych inwestorów sprawiły, że zarząd OpenAI zaprosił Sama Altmana w sobotę na rozmowę o powrocie do firmy. Altman opublikował jednak selfie z wizyty w siedzibie OpenAI, z identyfikatorem „Gość” na szyi, pisząc, że używa czegoś takiego pierwszy i ostatni raz. To raczej nie zapowiada kolejnych tur negocjacji.
Od redakcji: Dzień po opublikowaniu tego tekstu Sam Altman został ponownie zatrudniony. Zmienił się jednak zarząd OpenAI. Temat ten będziemy musieli jeszcze niejednokrotnie, niestety, aktualizować.