Домой Новости ИИ Anthropic договаривается с Белым домом о судьбе ИИ-моделей Fable 5 и Mythos...

Anthropic договаривается с Белым домом о судьбе ИИ-моделей Fable 5 и Mythos 5

Разработчик ведет переговоры с правительством США после блокировки своих самых мощных языковых моделей из-за опасений за национальную безопасность.

Технические специалисты компании Anthropic прибыли в Вашингтон для проведения очных встреч с представителями Белого дома. Основная цель визита — разрешение конфликта, связанного с принудительной блокировкой доступа к новейшим моделям искусственного интеллекта, которые были признаны властями США потенциальной угрозой национальной безопасности.

Переговорный процесс начался в минувшую пятницу после того, как администрация Трампа впервые обратилась к руководству разработчика с требованием ограничить возможности их систем. До текущего момента стороны обсуждали ситуацию в виртуальном формате, однако теперь требуются более детальные очные консультации.

Интерфейс нейросети и логотип Anthropic
Разработка мощных моделей ИИ требует соблюдения протоколов безопасности Источник: ixbt.com

Ранее администрация США издала прямой приказ, обязывающий Anthropic закрыть доступ к своим передовым разработкам — моделям Fable 5 и Mythos 5. Ограничение распространяется как на иностранных граждан, находящихся на территории Штатов, так и на пользователей за их пределами. В ответ на это предписание компания Anthropic приняла решение о полной глобальной блокировке данных моделей.

Конфиденциальность и риски

Стартап из Сан-Франциско, который на данный момент находится в процессе конфиденциальной подготовки к первичному публичному размещению акций (IPO), ранее уже выражал опасения относительно кибербезопасности. В частности, разработчики предупреждали о теоретической возможности взлома модели Mythos и намеренно воздерживались от её полноценного и широкого публичного релиза.

Кто инициировал проверку?

Подробности инцидента начинают проясняться уже постфактум. Согласно имеющимся данным, компания Amazon оказалась в числе тех, кто привлек внимание официального Вашингтона к потенциальным уязвимостям, обнаруженным в архитектуре Fable 5 и Mythos 5. Эти риски были расценены как достаточно серьезные, чтобы потребовать вмешательства на государственном уровне.

Источник: https://www.ixbt.com