Обновленная ИИ-модель Mythos в два раза чаще имитирует кибератаки, тревога по поводу безопасности растет

Новая оценка Британского института безопасности искусственного интеллекта показывает, что обновленная версия ограниченной ИИ-модели "Mythos" от Anthropic значительно улучшила свою способность обнаруживать и эксплуатировать неизвестные уязвимости в программном обеспечении. Результаты подкрепляют опасения, что темпы развития наступательных кибервозможностей опережают адаптацию защитных систем и политик контроля.

Прогресс опережает ожидания

В публикации в блоге под заголовком "Как быстро развиваются автономные кибератакующие способности ИИ?" институт сообщает, что более новый чекпойнт модели "Mythos Preview", полученный после первоначальной апрельской оценки, демонстрирует дополнительный значительный скачок в эффективности.

При симулированной атаке на корпоративную сеть, состоящую из 32 последовательных шагов, система успешно завершила сценарий в 6 из 10 попыток – по сравнению с 3 из 10 при предыдущем тестировании. В институте подчеркивают, что "значительные скачки в возможностях не всегда требуют выпуска полностью новых моделей – более поздние итерации той же системы могут существенно изменить наши оценки".

Эти выводы дополняют апрельскую оценку, согласно которой "Mythos" стала первой ИИ-системой, самостоятельно выполнившей сквозную симуляцию атаки на корпоративную сеть – задачу, на которую, по оценке института, опытный специалист потратил бы около 20 часов работы.

Сейчас эксперты подсчитали, что ведущие наступательные кибервозможности ИИ удваиваются примерно каждые четыре месяца, тогда как к концу 2025 года этот темп составлял около семи месяцев.

Несанкционированный доступ и геополитические амбиции

На фоне растущей мощности модели возрастают и вопросы о том, способен ли Anthropic держать её под контролем. В день апрельского анонса "Mythos" группа неуполномоченных пользователей получила доступ к системе, воспользовавшись уязвимостью в среде стороннего поставщика, сообщает "Bloomberg".

Anthropic заявляет, что нет доказательств компрометации основных систем компании, но инцидент подчеркивает риск того, что даже ограниченные модели могут выйти за рамки, предусмотренные их разработчиками.

Параллельно с этим "The New York Times" информирует, что в прошлом месяце во время встречи в Сингапуре, организованной в рамках мероприятия "Carnegie Endowment for International Peace", представитель китайского аналитического центра обратился к руководству Anthropic с просьбой предоставить Пекину доступ к "Mythos". Компания отказала. По информации издания, сотрудники Совета национальной безопасности США были уведомлены о разговоре и отреагировали с беспокойством.

Разрыв между атакой и защитой

Новые данные института подчеркивают растущую асимметрию между наступательными и защитными приложениями ИИ. В апреле Anthropic запустила проект "Glasswing", посредством которого предоставила избранным партнерам – включая "Apple", "Microsoft", "Google", "Amazon" и "Nvidia" – ранний доступ к "Mythos" для использования в защитных целях.

Однако исследователи безопасности предупреждают, что подобная модель фактически создает двухуровневую систему: организации вне этого узкого круга остаются уязвимыми перед потенциалом модели, не имея возможности воспользоваться её оборонительными возможностями.

„Когда эта технология станет широко доступной – а сами сотрудники Anthropic говорят о горизонте от шести до восемнадцати месяцев – организации, которые и раньше отставали, не просто отстанут еще больше“, – прокомментировал Спенсер Уитман, директор по продукту в компании по ИИ-безопасности "Gray Swan", в интервью "Fortune". „Модель, на которой они строили свои программы, просто перестанет работать“.

Что дальше: регулирование, этика и практическая защита

Скорость, с которой "Mythos" улучшает навыки имитации и автоматизации сложных кибератак, ставит под вопрос готовность регуляторов и корпоративных систем безопасности реагировать вовремя. Возникают ключевые дилеммы: как ограничить доступ к подобным моделям, не блокируя развитие легитимных защитных приложений, и как гарантировать, что прорывы, подобные несанкционированному доступу через стороннего поставщика, не станут каналом для преступных или государственных акторов.

Эксперты предупреждают, что окно для подготовки ограничено. Если прогнозы о массовом распространении в течение года-полутора сбудутся, организации, которые не инвестируют в современные системы кибербезопасности и политики ответственного использования ИИ, рискуют не просто отстать, а стать легкой мишенью для нового поколения автоматизированных атак.