Anthropic не договорилась с Белым домом по Claude Fable 5: США сохраняют экспортные ограничения

Администрация Белого дома и компания Anthropic по итогам прошедших в Вашингтоне переговоров не смогли прийти к соглашению относительно модели Claude Fable 5. Ранее введенные экспортные ограничения, основанные на опасениях возможного обхода встроенных защитных механизмов, остаются в силе.

В обсуждении принимали участие представители Белого дома, Министерства торговли США, Офиса национального директора по кибербезопасности и Центра стандартов и инноваций в области ИИ. К дискуссии дистанционно присоединялись высокопоставленные чиновники, включая министра торговли США Говарда Лютника.

Делегацию Anthropic возглавляли сооснователь и директор по вычислительным системам Том Браун и руководитель направления внешних связей Сара Хек. Также на встречу прибыли Николас Карлини (старший исследователь безопасности) и Логан Грэм, руководитель команды комплексной проверки безопасности (red-teaming).

Причины разногласий: риск «джейлбрейка»

Основным предметом спора стала оценка рисков «джейлбрейка» — методов обхода встроенных ограничений модели с помощью специфических запросов. Власти США обеспокоены тем, что подобные манипуляции могут открыть доступ к расширенным функциям модели Mythos, которая является технологической базой для Fable 5, фактически деактивируя защитные барьеры.

Со своей стороны, руководство Anthropic настаивает на избыточности таких опасений, утверждая, что они не соответствуют фактическому уровню безопасности системы. Эту позицию разделяет ряд независимых экспертов по кибербезопасности, которые уже направили регуляторам открытое письмо с критикой текущих запретов.

Тем не менее, после проведения углубленного анализа уязвимостей, к которому привлекалось Агентство национальной безопасности США (NSA), администрация США подтвердила наличие критических пробелов в защите, что и послужило основанием для сохранения экспортных ограничений.

Перспективы Claude Fable 5 и влияние на отрасль

Вопрос возобновления полноценного доступа к Claude Fable 5 остается открытым, однако источники сообщают, что это станет возможным только после того, как компания полностью устранит риски обхода защитных механизмов.

Ситуация осложняется общим фоном: Anthropic в настоящее время вовлечена в дискуссии с Пентагоном относительно применения своих разработок в военных целях. Инвесторы внимательно следят за конфликтом с регуляторами, пытаясь оценить долгосрочные последствия для бизнеса компании.

Данный кейс создает важный прецедент для всего сектора искусственного интеллекта. По мнению экспертов, это свидетельствует о переходе к новой фазе отношений между государством и ИИ-лабораториями, при которой регуляторы будут участвовать в процессах разработки и выпуска передовых моделей на значительно более ранних этапах.

На данный момент Claude Fable 5 продолжает находиться под действием ограничений, а дискуссия о допустимых границах «защитных механизмов» только обостряется.