Слышали про ИИ, который умеет проектировать вирусы?
Честно говоря, я уже несколько ночей не могу нормально спать из-за одной темы. И сегодня мне нужно с вами об этом поговорить.
Учёные создали модель под названием Evo 2. Эта штука умеет проектировать ДНК с нуля. Да, включая вирусы. Не просто копировать существующие, а создавать совершенно новые формы жизни, которых в природе никогда не было.
Представьте: вы даёте ребёнку безразмерный конструктор и надеетесь, что он соберёт только домики. Ага.
Но давайте сначала разберёмся, зачем вообще это нужно. Потому что причины на самом деле есть.
Тут не всё так плохо
Вот что делает эту тему такой сложной: сама по себе технология не плохая.
Помните про суперинфекции, устойчивые к антибиотикам? Эти бактерии, которых уже ничем не взять. Они убивают больше миллиона человек в год, и с каждым годом ситуация ухудшается. Так вот, с помощью таких моделей можно было бы разрабатывать новые бактериофаги — вирусы, которые уничтожают именно бактерии, не трогая остальное.
Или вот рак. Учёные уже изучают, как использовать сконструированные вирусы для уничтожения раковых клеток. Звучит как научная фантастика, но это уже происходит.
Обратная сторона
А теперь та часть, где мой внутренний оптимист начинает нервничать.
Компания Anthropic, которая делает ИИ-помощника Claude, недавно опубликовала отчёт. И там были... интересные запросы пользователей. Кто-то пытался узнать про создание биологического оружия.
Ладно, компания эти запросы отловила и заблокировала. Но сам факт, что такое вообще возможно? Это пугает.
А дальше — ещё страшнее. Исследователи протестировали другую модель, Moremi Bio Agent. Сняли защитные ограничения (слава богу, в рамках эксперимента) и попросили создать новые токсины.
Результат? Сиквенсы, очень похожие на рицин и яды змеиных белков. Модель сгенерировала порядка 10^20 новых токсичных белков и пять тысяч токсичных молекул.
Это не опечатка. Это потенциальные биологические武器.
Паттерн, который мы уже видели
Исторически так сложилось, что человечество постоянно создаёт инструменты с двойным назначением. Огонь. Ядерная энергия. Интернет.
ИИ в биологии идёт по той же дорожке. Технология сама по себе нейтральна — она просто делает то, чему её научили. А вот намерения — это уже человеческое.
Гендиректор Anthropic Дарио Амодей недавно призвал замедлить развитие ИИ, указав на биотерроризм как серьёзную угрозу. Это не паника какого-то безумца. Это говорит человек, который непосредственно создаёт эти системы.
Что теперь делать?
Честно? У меня нет всех ответов. Я просто блогер, а не эксперт по биобезопасности.
Но вот что я думаю.
Во-первых, нужна международная координация по стандартам безопасности ИИ, особенно в синтетической биологии. Компании сами не справятся.
Во-вторых, нужно просвещение. Страшное перестаёт быть страшным, когда люди понимают, что происходит.
В-третьих, и это самое сложное: нужно найти способ сохранить полезные исследования и при этом закрыть доступ к вредоносному применению. Как удержать джинна в бутылке, но при этом пользоваться его силой.
Вопрос без ответа
И вот вопрос, который не даёт мне покоя:
Если у нас есть возможность создавать новые формы жизни — а это, по сути, именно то, о чём мы говорим — как убедиться, что эта сила окажется в правильных руках?
Потому что этот джинн уже вырвался из бутылки. Вопрос только в том, как мы с этим справимся.
А вы как думаете? Это начало новой эры в медицине или мы играем с огнём, который ещё не понимаем? Буду рад услышать ваше мнение.