Modele sztucznej inteligencji zaprojektowały nowe, w pełni funkcjonalne wirusy. Czy to niebezpieczny precedens?

Od opisania struktury DNA w 1953 r. naukowcy uczyli się odczytywać i kopiować kod genetyczny. Stworzenie od podstaw całego funkcjonalnego genomu było w tym czasie jednym z największych wyzwań biologii, ale należącym bardziej do dziedziny science fiction. Na przeszkodzie stawała ograniczona wydajność tradycyjnych metod bioinżynierii oraz złożoność samych sekwencji. Genom to bowiem nie tylko prosta lista genów, ale też skomplikowana sieć powiązań. Nawet pojedyncza pomyłka w miliardach „liter” DNA może sprawić, że organizm nie będzie funkcjonować.

Reguły gry odmieniła oczywiście sztuczna inteligencja, co najlepiej widać na przykładzie białek. I tak zespół z University of Colorado przez dziesięć lat bezskutecznie próbował odczytać strukturę pojedynczego białka bakteryjnego. Po uzyskaniu dostępu do AlphaFold problem rozwiązano w pół godziny. Teraz naukowcy postanowili wykorzystać AI w innym celu. Skupili się na bakteriofagach, wirusach atakujących wyłącznie bakterie, które są obiecującą bronią w walce z infekcjami lekoopornymi. Wybrano faga ΦX174 – wroga E. coli. Jego genom był pierwszym w historii, który w całości odczytano (1977 r.). Idealnie nadaje się do eksperymentów, bo zawiera zaledwie 11 genów kodujących białka (dla porównania ludzka komórka ma ich ponad 20 tys.).

Najpierw modele sztucznej inteligencji nakarmiono danymi ponad 2 mln naturalnych genomów bakteriofagów, ucząc je reguł ich funkcjonowania. Następnie poproszono je o wygenerowanie „przepisów” na nowe wirusy, które zachowałyby zdolność do neutralizowana E. coli, ale różniłyby się od tych występujących w naturze.

Uzyskane projekty poddano rygorystycznej ocenie, po czym ok. 300 zsyntetyzowano i poddano testom laboratoryjnym. Po nich okazało się, że 16 to w pełni funkcjonalne wirusy, zdolne do namnażania się i niszczenia bakterii, a niektóre miały genomy o 5 proc. dłuższe niż naturalne pierwowzory. Co więcej, sztuczna inteligencja wykazała się kreatywnością. Niektóre z zaprojektowanych fagów (np. Evo-Φ69 i Evo-Φ2483) niszczyły bakterie szybciej i skuteczniej niż oryginały. Czy ten eksperyment był pierwszą udaną próbą stworzenia życia od podstaw?

To nie wilkołak, tylko nowa rasa psa

Wątpliwości nie ma wirusolog prof. Krzysztof Pyrć, kierownik Pracowni Wirusologii Małopolskiego Centrum Biotechnologii UJ: – Wirusy nie zostały tu stworzone od zera. Zaprojektowano je w oparciu o dane pochodzące z wielu genów i białek istniejących wirusów. Podobnego zdania jest dr Paweł Jedynak, biochemik z Wydziału Biochemii, Biofizyki i Biotechnologii Uniwersytetu Jagiellońskiego. – W tym projekcie podobieństwo genomów działających wirusów wygenerowanych przez AI do już istniejących wynosiło aż 93 proc. To zatem niewielka przeróbka już istniejących mikroorganizmów – stwierdza. – Co prawda zgodnie z przyjętymi w biologii normami zmiana powyżej 5 proc. genomu wirusa oznacza stworzenie nowego gatunku, ale nie nowej jakości. To jak nowa rasa psa, a nie wilkołak plujący kwasem i z karabinami maszynowymi zamiast dłoni.

Nie zmienia to jednak faktu – dodaje prof. Pyrć – że jest to niezwykle rozwojowy kierunek badań. Warto pamiętać, że już stworzenie narzędzi takich jak wspomniany AlphaFold, które pozwoliło lepiej zrozumieć zależność między kodem genetycznym a strukturą białek i przeniosło nasze rozumienie świata oraz możliwości biologii syntetycznej na znacznie wyższy poziom.

Autorzy najnowszego projektu zapewniają o nowej „epoce projektowania”. Tyle że wszystko jest kwestią definicji. Gdyby przyjąć, że projektowanie oznacza celową zmianę DNA, to taka odbywała się już w początkach rolnictwa. Gatunki zbóż przez tysiące lat modyfikowano tak, aby uzyskać ziarna o większych rozmiarach czy odpowiednim smaku. – Biologia w epokę projektowania weszła co najmniej z 50 lat temu, a biologia syntetyczna funkcjonuje od co najmniej 25 lat – dodaje dr Jedynak. – Jak bowiem inaczej nazwać każde GMO czy każde połączenie sekwencji pochodzących z bakterii, rośliny, człowieka, wirusa i meduzy w jeden konstrukt genetyczny, w konfiguracji, w której nie występują w naturze?

Ten projekt budzi jednak kontrowersje. „Po raz pierwszy pokazano, że AI może generować funkcjonalne wirusy, które nie istnieją w naturze. To rodzi pytania o bezpieczeństwo, możliwe nadużycia i regulacje” – grzmi w mediach Testbiotech, niemiecki think tank oceniający skutki biotechnologii. Nie chodzi przy tym o same bakteriofagi. Raczej o to, że AI zaczyna projektować funkcjonalne genomy, a podobne metody mogłyby w przyszłości zostać wykorzystane do tworzenia znacznie groźniejszych organizmów.

Wzór nie czyni barona narkotykowego

Takie obawy nie są nowością. Już w opublikowanej w 2023 r. pracy eksperci z Massachusetts Institute of Technology (MIT) ostrzegali, że AI może umożliwić osobom bez specjalistycznego przeszkolenia zaplanowanie działań bioterrorystycznych.

W ramach prowadzonego na MIT kursu „Safeguarding the Future” studenci otrzymali zadanie sprawdzenia, czy chatboty mogą pomóc osobie postronnej w wywołaniu pandemii. Wyniki były alarmujące. Studenci, korzystając z modeli takich jak GPT-4 czy Claude, zdołali zidentyfikować patogeny o potencjale pandemicznym, w tym wirusa grypy z 1918 r., zmodyfikowaną grypę H5N1, wirusa ospy prawdziwej oraz wirusa Nipah.

Otrzymali szczegółowe protokoły genetyki wstecznej (reverse genetics), które umożliwiają „stworzenie” żywego wirusa na podstawie samej sekwencji genomu. Znaleźli dostawców syntetycznego DNA, którzy prawdopodobnie nie weryfikują rygorystycznie zamówień pod kątem bezpieczeństwa. W końcu opracowali metody obejścia zabezpieczeń, takich jak techniki maskowania niebezpiecznych sekwencji DNA, by uniknąć wykrycia przez systemy monitorujące.

Sam genom w formie tekstu dr Jedynak porównuje do wzoru chemicznego narkotyku: – Jego poznanie nie czyni z ciebie barona narkotykowego. Aby tekstowy przepis przekuć w realne cząsteczki biochemiczne, nadal potrzebne są laboratorium i sprzęt.

A wyposażenie laboratorium, odczynniki kosztują, i to niemało – nakłady idą w tysiące, a nawet setki tysięcy złotych. Nie są to zresztą główne przeszkody przy tworzeniu przez sztuczną inteligencję funkcjonalnych wirusów, które są na ogół pomijane w pełnych sensacji medialnych doniesieniach.

– Potrzebne są modele AI wyszkolone na tysiącach genomów wirusów. Nie są one ogólnodostępne, to specjalistyczne narzędzia tworzone i wykorzystywane na pojedynczych uczelniach. Ich obsługa także nie jest prosta: nie wystarczy zadać pytania, trzeba wiedzieć, w jaki sposób to zrobić. A samodzielnie postawiony model trzeba wytrenować, zatem trzeba mieć zaawansowaną wiedzę informatyczną, bioinformatyczną i z zakresu genetyki – wyjaśnia dr Jedynak. Potrzebny jest zatem wykwalifikowany i dobrze opłacany personel.

Ponadto współczesne modele LLM mają ograniczenia narzucone przez twórców: – Odmówią podania procedury wyprodukowania narkotyku czy zrobienia bomby. Łatwo można wyobrazić sobie tego typu ograniczenia również w przypadku drobnoustrojów potencjalnie niebezpiecznych dla ludzi. Firmy tworzące chatboty AI, takie jak OpenAI, już teraz uczą swoje modele, by odrzucały lub bezpiecznie odpowiadały na szkodliwe prośby, w tym zapytania związane z bezpieczeństwem biologicznym.

Hiszpanka już wstała z grobu

Co więcej, podobne eksperymenty prowadzono na długo przed erą generatywnej AI. Już w 2002 r. zespół Jerónimo Cello odtworzył od podstaw DNA poliowirusa. Trzy lata później światem nauki wstrząsnęła wiadomość o tym, że zespół amerykańskich badaczy odczytał pełną sekwencję genetyczną wirusa hiszpanki – tej samej, która w latach 1918–20 zabiła co najmniej 50 mln ludzi. Niedługo później wirusa wskrzeszono, tworząc w laboratorium wierną kopię. – Na marginesie: okazało się, że on niewiele różni się od tych bardziej zjadliwych współcześnie występujących – mówi dr Jedynak. W przypadku epidemii liczy się kontekst: wojna, stres, niedożywienie i bliskie współbytowanie ludzi sprzyjały osłabieniu odporności i szybkiemu roznoszeniu się wirusa.

Fakt, że AI potrafi zaprojektować bakteriofagi, jest zatem najnowszym rozdziałem starej historii – nauka po prostu coraz lepiej odczytuje i przepisuje kod życia. Mamy tu także do czynienia z podręcznikowym przykładem tzw. badań podwójnego zastosowania (dual-use research). Owszem, stwarzają ryzyko stworzenia broni biologicznej, ale też mogą pomóc zrozumieć naturę pandemii i opracować nowe leki.

Prof. Krzysztof Pyrć dodaje: – Broń biologiczna jest wykorzystywana od wielu wieków. Zmieniają się jedynie narzędzia. W przypadku chorób zakaźnych pomysły takie jak celowe zarażanie przeciwnika ospą prawdziwą są bardzo stare i pojawiały się na długo przed tym, zanim odkryto wirusy. Wiele państw prowadziło i nadal prowadzi badania nad potencjalnym wykorzystaniem czynników biologicznych. I stwierdza, że jeszcze niedawno powiedziałby, iż broń biologiczna ma ograniczoną skuteczność militarną. Powód jest prosty – po uwolnieniu do środowiska czynnika zakaźnego nie da się go kontrolować. – Pandemia Covid-19 pokazała jednak, że należy rozważać broń biologiczną jako instrument geopolityczny destabilizujący panujący ład. Nie możemy jej marginalizować i musimy brać ją pod uwagę w projektowaniu procedur bezpieczeństwa.

Tym bardziej że nie jesteśmy w stanie przewidzieć rozwoju AI i zagrożeń w niedalekiej przyszłości. Jamie Metzl, badacz obszaru przecięcia biotechnologii, genomiki, bezpieczeństwa międzynarodowego i etyki oraz współpracownik ONZ i WHO, sytuację przyrównuje do wynalezienia maszyny parowej. W książce „Superkonwergencja. Jak rewolucje w genetyce, biotechnologii i AI mogą odmienić nasze życie” przywołuje XVIII-wiecznego rolnika, któremu wynalazca opisuje technologię pary i węgla. Rolnik prawdopodobnie pomyślałby jedynie o tym, że maszyna pomoże mu szybciej orać pole, nie będąc w stanie wyobrazić sobie, że jej bezpośrednim następstwem będą powstanie Międzynarodowej Stacji Kosmicznej, edycja genów czy właśnie generatywna AI.

Sztuczna inteligencja obecnie realnie przyspiesza projektowanie białek, przewiduje skutki mutacji i prognozuje ewolucję patogenów. Wciąż nie ma jednak publicznie udokumentowanego przypadku, w którym model AI „stworzył” od początku do końca nowego, pandemicznego wirusa zdolnego do skutecznego rozprzestrzeniania się w świecie rzeczywistym.

Najbardziej prawdopodobne ryzyko nie polega na tym, że ktoś stworzy od podstaw nowego wirusa, lecz na tym, że AI skróci drogę od pomysłu do sensownego planu eksperymentalnego. Ten drugi wciąż jednak – jak już wspomniano – wymaga technologii, środków i wiedzy, która jest niedostępna dla większości ludzi.