Национальный институт стандартов и технологий США (NIST) объявил о расширении сотрудничества с ведущими игроками рынка искусственного интеллекта. Специализированное подразделение института, Центр стандартов и инноваций в области ИИ (CAISI), заключило новые партнерские соглашения с компаниями Google DeepMind, Microsoft и xAI. Целью инициативы стала всесторонняя проверка передовых нейросетевых моделей как до их официального выхода на рынок, так и после него, с особым упором на выявление потенциальных рисков для национальной безопасности.
Фактически CAISI берет на себя роль основного связующего звена между государственными структурами и индустрией разработки ИИ. По прямому поручению министра торговли Говарда Лютника, организация займется координацией процессов тестирования, проведением совместных исследований и формированием единых отраслевых стандартов для коммерческих систем искусственного интеллекта.
Главным нововведением стало предоставление государственным органам доступа к архитектуре и мощностям моделей еще до их публичного релиза. Такой подход позволяет экспертам проводить независимый аудит возможностей и оценивать возможные угрозы на самых ранних стадиях разработки. Согласно отчету ведомства, на текущий момент уже проведено более 40 подобных проверок, включая глубокий анализ новейших систем, которые пока не были представлены широкой публике.
«Независимая и строгая метрология критически важна для понимания возможностей передового ИИ и его влияния на национальную безопасность», — подчеркнул директор CAISI Крис Фолл. По его словам, новые соглашения позволяют масштабировать исследовательскую деятельность в условиях стремительно растущей глобальной конкуренции в сфере искусственного интеллекта.
Особое внимание в рамках проверок уделяется стресс-тестированию в условиях, имитирующих реальные угрозы. Разработчики предоставляют государственным специалистам доступ к версиям моделей с ослабленными защитными механизмами («red teaming»), чтобы детально оценить их поведение при попытках использования в опасных целях. В анализе участвуют эксперты из межведомственной группы TRAINS, специализирующейся на вопросах ИИ и государственной безопасности.
Заключенные соглашения также подразумевают активный обмен данными, что должно ускорить доработку продуктов и повысить прозрачность оценки нейросетей. При этом часть исследований будет проводиться в закрытых, в том числе засекреченных, лабораторных средах, чтобы исключить утечку конфиденциальных разработок.
