Czyli AI potrafi teraz projektować wirusy?
Muszę z Wami o czymś porozmawiać. Coś, co ostatnio nie дава mi spać.
Naukowcy stworzyli model AI o nazwie Evo 2, który potrafi projektować sekwencje DNA od zera — w tym wirusy. Nie byle jakie wirusy, ale zupełnie nowe, niespotykane w naturze. Jakby dać dziecku nieograniczony zestaw klocków Lego i mieć nadzieję, że zbuduje tylko domki. Albo... no, wiecie.
Jest jednak druga strona medalu
Zacznijmy od tego, dlaczego w ogóle coś takiego powstało. I szczerze? Są naprawdę sensowne powody.
Wyobraźcie sobie superbakterie odporne na antybiotyki. Te małe potwory zabijają ponad milion osób rocznie i liczba ta rośnie. Jedna z dróg, jaką może pójść ta technologia, to projektowanie nowych bakteriofagów — wirusów atakujących bakterie — które mogłyby te superbakterie zwalczyć.
Albo weźmy leczenie raka. Naukowcy już eksperymentują z wirusami, które mogłyby niszczyć komórki nowotworowe, oszczędzając zdrowe tkanki. Całkiem niesamowite, prawda?
No ale zaczyna się robić ciekawie
I tutaj mój optymistyczny umysł zaczyna się pocić.
Firma Anthropic — ta sama, która stoi za Claude'em — opublikowała raport o niepokojących zapytaniach swoich użytkowników. Ludzie pytali o badania nad bronią biologiczną. Kurczę.
Na szczęście firma wyłapała te próby i je zablokowała. Wprowadzono zabezpieczenia, zbanowano konta. Ale fakt, że takie zapytania były w ogóle możliwe? To jest właśnie niepokojące.
A jest jeszcze ciekawiej. Inny model AI o nazwie Moremi Bio Agent — tym razem bez wyłączonych zabezpieczeń — zapytano o projektowanie nowych toksyn. I wiecie co? Zaproponował sekwencje bardzo podobne do niebezpiecznych substancji, jak rycyna czy białka jadu węży. Wygenerował około 10^20 nowych toksycznych białek i 5000 toksycznych małych cząsteczek.
Nie, to nie literówka. To naprawdę mnóstwo potencjalnych broni biologicznych.
Schemat, który powinien nas martwić
Historia lubi się powtarzać. Ogień. Energia jądrowa. Internet — no może nie aż tak dramatycznie, ale rozumiecie analogię.
AI w biologii podąża tą samą ścieżką. Technologia sama w sobie nie ma intencji. Robi to, do czego została wytrenowana. Ale intencje? Te pochodzą od ludzi. A niektórzy ludzie, niestety, mają złe intencje.
Dario Amodei, szef Anthropic, niedawno wezwał do spowolnienia rozwoju AI, wskazując na bioterroryzm jako poważne zagrożenie. To nie jest straszenie przez jakiegoś szaleńca. To mówi ktoś, kto te systemy dosłownie buduje.
Co teraz robimy?
Szczerze? Nie mam wszystkich odpowiedzi. Jestem tylko blogerem, nie ekspertem od polityki ani biotechnologii.
Ale mam kilka przemyśleń:
Po pierwsze, potrzebujemy międzynarodowej współpracy w kwestii standardów bezpieczeństwa AI, szczególnie w biologii syntetycznej. Same firmy tego nie ogarną.
Po drugie, musimy edukować społeczeństwo. Straszne rzeczy przestają być takie straszne, gdy ludzie je rozumieją.
Po trzecie — i to jest trudne: musimy znaleźć sposób, by chronić cenne badania, jednocześnie zapobiegając ich nadużywaniu. Jak zatrzymać dżina w butelce, ale jednocześnie korzystać z magii lampy.
Pytanie, które nie дае mi spokoju
Zostawię Was z pytaniem, na które nie ma łatwej odpowiedzi:
Jeśli mamy moc tworzenia nowych form życia — a tak, dokładnie o tym mówimy — jak sprawić, by ta moc trafiła we właściwe ręce?
Bo ten dżin już wyleciał z butelki. Jedynym pytaniem jest teraz, jak sobie z tym poradzimy.
A Wy co myślicie? Czy to początek nowej ery w medycynie, czy bawimy się ogniem, którego do końca nie rozumiemy? Naprawdę chętnie usłyszę Wasze zdanie.