Когда секретный проект оставили на виду у всех

Представьте: вы втихаря разрабатываете крутую штуку в техкомпании. А потом — бац! Документы по ней вываливаются в открытый доступ на сайте. Именно это приключилось с Anthropic на днях. Идеальный пример, как сложно держать под контролем разработку ИИ.

Журналистка Fortune Биа Нолан наткнулась на это первой. Почти 3000 файлов о будущих проектах просто лежали в незащищённой системе. Два исследователя по безопасности всё проверили. Anthropic признала: да, ошибка в настройках внешнего инструмента. Человеческий фактор.

Claude Mythos: что там внутри?

В утечке — новая модель ИИ под названием Claude Mythos. В документах её ещё зовут "Capybara". Шутка или кодовое имя — хрен поймёшь.

Это прорыв по сравнению с их топовой Claude Opus. Бенчмарки зашкаливают: анализ кибербезопасности, кодинг, научные задачи. ИИ не просто чуть умнее — он на голову выше. Mythos ставит новую планку для всей линейки.

Но фишка в другом: запускать её дорого. Чертовски дорого. Вот почему не спешат выпускать.

Двуострый клинок ИИ

Вот где засада. Утечка показала черновик поста от Anthropic. Они честно пишут: модель слишком хороша в кибере. Может, даже чересчур.

А если ИИ взломает лучше, чем защитит? Это как раздать хакерам отмычку круче любых замков. Компания предупреждает: атакующие с Mythos обгонят защитников. Уязвимости патчить не поспеют.

Это не косяк. Это ответственный подход. Поэтому и тормозят релиз.

Умная осторожность

Anthropic не гонит на всех сразу. Сначала — ранний доступ для фирм по киберзащите. Типа бета-теста для тех, кто готов к такому зверю. Как дать врачам изучить вирус, пока он не разошёлся.

Это знак: ИИ-индустрия повзрослела. Нельзя слепо кидать мощь на рынок. Если модель умнее спецов по безопасности — думай о рисках заранее.

Ещё пара секретов из утечки

Кроме модели, вылезли детали саммита для европейских боссов. В британском особняке, с CEO Дарио АMODEИ. Anthropic подтвердила: да, встречаем бизнес-лидеров. Обычное дело в их мире.

Что это значит для нас?

Утечка — позор для Anthropic, но вполне по-человечески. Ошибки в настройках бывают везде. Главное — как отреагировали: быстро признали, закрыли дыру, подтвердили инфу.

Большая тема — ИИ-компании учатся балансу силы и ответственности. Mythos — шаг вперёд, но с оглядкой на последствия. В мире, где всё летит сломя голову, такая осторожность радует.

Когда Mythos увидит свет? Не скоро. Но подождать стоит.