Ами сега... Изкуственият интелект вече може да проектира вируси?

Трябва да си поговорим за нещо, дето ме тормози от известно време. Сериозно, малко не ми даваше мира.

Учени създадоха AI модел на име Evo 2. Той може да проектира ДНК последователности от нулата — включително вируси. Не какви да е вируси, ами напълно нови, каквито природата никога не е създавала. Представи си, че даваш на дете неограничен брой LEGO блокчета и се надяваш само къщи да строи. Абе, схващаш идеята.

Защо изобщо съществува тази технология?

Преди да почнеш да трупаш консерви, нека ти обясня.

Тази технология не е лоша по природа. Напротив.

Помисли за супербактериите, дето са устойчиви на антибиотици. Малките изчадия, дето нашите лекарства вече не могат да убият. Те отнемат над милион живота всяка година и бройката расте. С този AI бихме могли да разработим нови бактериофаги — вируси, дето точно нападат и унищожават бактерии. Потенциално решение срещу тези кошмари.

Или пък раковата терапия. Учените вече проучват как да използват проектирани вируси, за да залавят и унищожават ракови клетки, без да закачат здравите. Не е ли това невероятно?

Където става притеснително

Ама ето къде оптимизмът ми започва да ме боли.

Anthropic — компанията зад AI асистента Claude — публикува доклад за доста притеснителни запитвания от свои потребители. Хората питали за оръжия за масово унищожение. Да, точно така.

Ясно, компанията е хванала тези опити и ги е спряла. Заключила е акаунтите. Ама фактът, че изобщо са били възможни? Това ме притеснява сериозно.

Става още по-зле. Изследователи тествали друг AI модел — Moremi Bio Agent (с премахнати предпазни мерки, за щастие). Питали го да проектира нови токсини. AI-ът предложил последователности, близки до опасни субстанции като рицин и протеини от змийска отрова.

Генерирал около 10^20 нови токсични протеини и 5000 токсични малки молекули.

Не, не е печатна грешка. Това е огромен брой потенциални биологични оръжия.

Паттернът, който забелязвам

През цялата човешка история сме създавали инструменти, дето могат да служат както за огромно добро, така и за огромно зло. Огънят. Ядрената енергия. Интернет (добре де, може би не на ниво огъня, но схващаш).

AI в биологията върви по същата пътека. Технологията не се интересува от намеренията — тя просто прави това, за което е обучена. Ама намеренията? Те идват от хората. И някои хора, за съжаление, имат много лоши такива.

Dario Amodei, главен изпълнителен директор на Anthropic, наскоро призова за забавяне на AI разработките. Биотероризмът бил основна грижа. Това не е паника от случаен песимист — това го казва човекът, дето буквално строи тези системи.

Какво правим сега?

Откровено? Нямам всички отговори. Аз съм си обикновен научен блогър, не експерт по политика или биологична сигурност.

Ама ето какво мисля:

Първо, имаме нужда от международно сътрудничество за стандарти за безопасност на AI, особено що се отнася до синтетичната биология. Една компания не може сама да се справи с това.

Второ, хората трябва повече да разбират какво се случва. Страшните неща стават по-малко страшни, когато ги разбереш.

Трето, и това е трудната част: трябва да намерим начин да запазим полезните изследвания, но да спрем злоупотребите. Като да се опитваш да задържиш джина в бутилката, ама същевременно да ползваш магията на лампата за добро.

Въпросът, дето ме тормози

Ето накъде ви насочвам с въпрос без лесен отговор:

Ако имаме силата да създаваме нови живи същества — а нека няма заблуда, това на практика правим — как да гарантираме, че тази сила остава в правилните ръце?

Защото този джин вече е излязъл от бутилката. Единственото, което можем да направим, е да решим как да се справим с него.

Какво мислите? Това ли е зората на нова ера в медицината, или си играем с огъня, дето не го разбираме напълно? Искрено ми е интересно да чуя вашите мисли.