AI teď umí navrhovat viry. A to je... problém
Potřebuju s váma mluvit o něčem, co se děje ve vědeckém světě. A upřímně? Trochu mi to nedá spát.
Vědci nedávno vyvinuli AI model jménem Evo 2, který dokáže navrhovat DNA sekvence úplně od píky. Včetně virů. Ne ledajakých virů – úplně nových, jaké v přírodě nikdy neexistovaly. Představte si, že dáte dítěti neomezenou sadu Legínek a doufáte, že z nich postaví jen domečky. A ne... no, chápete.
Ale než začnete vykupovat konzervy, vysvětlím vám, proč něco takového vůbec existuje. A věřte mi, jsou tu vážně dobré důvody.
Ta dobrá stránka (ano, opravdu existuje)
Tady je ten háček. Tahle technologie není z podstaty zlá. Vůbec ne.
Vemte si superbaktérie odolné vůči antibiotikům. Tyhle potvůrky naše současné léky prostě nezabíjejí. Ročně na ně umírá přes milion lidí a číslo roste. Jedna cesta, kam by mohla AI výzkum směřovat, je vývoj nových bakteriofagů – virů, které specificky cílí na bakterie a ničí je. Mohly by tyto superbaktérie porazit.
Nebo zkuste rakovinu. Vědci už zkoumají, jak využít upravené viry k tomu, aby cíleně zničily rakovinné buňky a nechaly zdravou tkáň na pokoji. Docela skvělé, co?
Ale je tu i ta druhá strana
Tady už můj optimistický mozek začíná trošku protestovat.
Společnost Anthropic, která stojí za AI asistentem Claude, nedávno zveřejnila reportáž o znepokojivých dotazech svých uživatelů. Lidi se ptali na výzkum biologických zbraní. Ááách.
Teď jasně – firma tyhle pokusy zachytila a zablokovala. Zavedla ochranná opatření a zakázala účty. Ale fakt, že takové dotazy vůbec byly možné? To je ta znepokojivá část.
A je to ještě intenzivnější. Vědci otestovali jiný AI model jménem Moremi Bio Agent – s odstraněnými bezpečnostními bariérami, pro účely testu. Ptali se ho, aby navrhl nové toxiny. AI přišel se sekvencemi, které se blíží nebezpečným látkám jako ricin nebo bílkoviny hadího jedu. Vygeneroval zhruba 10^20 nových toxických bílkovin a 5000 toxických malých molekul.
Ne, není to překlep. Je to hodně potenciálních bioteroristických materiálů.
Vzorec, který možná vidíte
Napříč historií jsme vytvářeli nástroje, které se daly použít jak k neuvěřitelnému dobru, tak k obrovské škodě. Oheň. Jaderná energie. Internet (dobra, možná ne na úrovni ohně, ale chápete, co myslím).
AI v biologii jde stejnou cestou. Technologie samotné je jedno, jaké jsou úmysly – prostě dělá to, k čemu byla natrénovaná. Ale ty úmysly? Ty přicházejí od lidí. A někteří lidi bohužel mají úmysly velmi špatné.
Dario Amodei, šéf Anthropicu, nedávno vyzval ke zpomalení vývoje AI právě kvůli biologickému terorismu. Tohle není strašení od nějakého paranoidního vizionáře. Tohle říká někdo, kdo tyhle systémy doslova staví.
Co teď?
Upřímně? Nemám všechny odpovědi. Jsem jen přívětivý science blogger z vedlejšího baráku, ne expert na politiku nebo biosecurity.
Ale tady je můj názor:
Za prvé – potřebujeme mezinárodní spolupráci na standardech bezpečnosti AI, obzvlášť když jde o syntetickou biologii. Firmy to samy nezachrání.
Za druhé – potřebujeme víc veřejného vzdělávání o tom, co se děje. Děsivé věci přestávají být tak děsivé, když jim lidi rozumí.
Za třetí – a to je ta těžká část – musíme najít způsob, jak zachovat prospěšný výzkum a zároveň zabránit zneužití. Je to jako kdybyste se snažili udržet džina v láhvi, zatímco chcete používat kouzelnou sílu lampy k dobrým věcem.
Otázka, která mi nedá spát
Takže vás tady nechám s otázkou, která nemá jednoduchou odpověď:
Pokud máme moc vytvářet nové živé formy – a ano, v podstatě o tom mluvíme – jak zajistíme, aby tahle moc zůstala ve správných rukou?
Protože tenhle džin je už venku z láhve. Jediná otázka teď je, jak s ním naložíme.
Co si myslíte vy? Je to úsvit nové éry v medicíně, nebo si hrajeme s ohněm, kterému úplně nerozumíme? Rád bych slyšel váš názor.