Anthropic представляет модель кибербезопасности Mythos через несколько недель после утечки кода Claude Code, которая выявила уязвимость в системе безопасности

Anthropic во вторник представила Claude Mythos Preview — новую модель ИИ, созданную для задач кибербезопасности, а также запустила Project Glasswing, партнерскую программу, которая дает небольшой группе крупных организаций в сфере технологий и инфраструктуры ранний доступ к системе для задач защитной безопасности.

Anthropic заявила, что пока не выпущенная модель уже обнаружила тысячи уязвимостей с высокой критичностью в крупных операционных системах и веб-браузерах, и охарактеризовала эту работу как срочный шаг, чтобы передать передовые кибервозможности защитникам, прежде чем злоумышленники получат сопоставимые инструменты.

Project Glasswing включает AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, Nvidia и Palo Alto Networks; более 40 дополнительных организаций также получают доступ. Anthropic сообщила, что в рамках программы выделяет до $100 миллионов в виде кредитов на использование и $4 миллиона в виде пожертвований группам открытого исходного кода по кибербезопасности.

Anthropic заявила, что модель может выявлять уязвимости и разрабатывать связанные эксплойты при минимальном или вообще без участия человека, и привела примеры, включая уязвимость OpenBSD, которой 27 лет, баг FFmpeg, которому 16 лет, и цепочки уязвимостей ядра Linux, которые могли бы расширить обычный доступ пользователя до полного контроля над машиной. В объявлении Anthropic говорится, что соответствующие баги уже исправлены.

Запуск Mythos происходит едва спустя чуть более недели после того, как Anthropic устроила собственный инцидент с безопасностью, случайно раскрыв исходные файлы кода Claude из-за ошибки упаковки в версии 2.1.88 ее программного обеспечения. Ошибка раскрыла почти 2,000 файлов и более 500,000 строк кода, а затем ситуация усугубилась, когда усилия Anthropic по удалению контента случайно затронули около 8,100 репозиториев GitHub, прежде чем компания отменила большинство уведомлений.

Теперь Anthropic представляет Mythos как настолько мощную и потенциально опасную модель, что пока не планирует широко выпускать ее. В материалах Project Glasswing компания заявляет, что не собирается делать Mythos Preview общедоступной, и вместо этого хочет сначала разработать меры предосторожности, чтобы модели класса Mythos в будущем можно было более безопасно внедрять в масштабе.

Согласно утечке внутреннего документа, Mythos описывается как самая способная модель компании на сегодняшний день и как существенный качественный скачок в области рассуждений, программирования и кибербезопасности. Также Anthropic обсуждала наступательные и оборонительные киберпоследствия модели с официальными лицами правительства США.

                    **Раскрытие:** эту статью отредактировал Эстефано Гомес. Для получения дополнительной информации о том, как мы создаем и проверяем контент, см. нашу Политику редакционной деятельности.