Риски антимонопольного регулирования в сфере ИИ
На фоне многочисленных сообщений о том, что рои ИИ-агентов взламывают веб-сайты и координируют свои действия через секретные форумы, а также после тревожного предупреждения для человечества от уходящего инженера Anthropic, ведущие компании в сфере ИИ призвали к скоординированному «замедлению» разработки технологий. Наряду с использованием этого конкретного термина, компании выразили обеспокоенность тем, что подобные меры могут вступить в противоречие с антимонопольным законодательством.
Эксперты по антимонопольному праву отмечают: хотя резкая риторика компаний вряд ли идет им на пользу, бесконтрольная разработка потенциально опасного ИИ вряд ли соответствует духу закона Шермана — ключевого американского акта, направленного на поддержание конкурентного рынка. В то же время получение официального одобрения от правительства на дальнейшие действия могло бы предотвратить дорогостоящие расследования в будущем.
Радикальная риторика
Согласно антимонопольному законодательству, то, как сотрудники компании обсуждают бизнес-решения, зачастую так же важно, как и сами эти решения. Google, например, обучала своих сотрудников избегать определенных фраз, которые могли бы подразумевать антиконкурентное поведение, и предписывала подчеркивать, как те или иные шаги улучшают предложения компании и приносят пользу потребителям. С этой точки зрения использование терминов «замедление» или «пауза» может вызвать у регуляторов больше подозрений, чем сама деятельность по обеспечению безопасности продвинутых моделей ИИ.
Коллективное соглашение о замедлении без четко обозначенной цели может быть интерпретировано регуляторами как антиконкурентный сговор с целью сокращения торговли. Джон Бергмайер, юридический консультант некоммерческой организации Public Knowledge, считает, что компании сами загнали себя в ловушку формулировками. По его словам, экономисты в антимонопольной сфере часто оценивают, не сокращают ли компании выпуск продукции, договариваясь «сбавить обороты». Вместо обсуждения мер, которые звучат как сговор, ИИ-компании могли бы акцентировать внимание на совместной работе над протоколами безопасности для предотвращения катастрофических рисков, рассматривая замедление выпуска моделей как естественный побочный эффект этих усилий.
Позиция индустрии и правовые прецеденты
Генеральный директор Meta Марк Цукерберг, чья компания недавно избежала масштабного антимонопольного иска со стороны Федеральной торговой комиссии (ФТК), не поддержал идею явного «замедления». Вместо этого он заявил, что у ИИ-лабораторий есть «сильный естественный стимул» заставлять агентов вести себя корректно, так как потребители не хотят, чтобы модели совершали нежелательные действия — то, что в индустрии называют «рассогласованием» (misalignment). По мнению Цукерберга, компании, которые не уделят времени настройке соответствия интересам пользователя, «отстанут» в конкурентной борьбе.
Это принципиальная разница: сказать «мы договорились некоторое время не делать автомобили лучше» или «мы не делаем более быстрые машины, пока не поймем, как сделать их безопасными, потому что никто не купит авто, если оно убивает людей». Дэвид Лоуренс, недавно занимавший пост директора по политике антимонопольного подразделения Министерства юстиции, отметил, что соглашения, направленные на предотвращение катастрофических рисков, фактически «увеличивают выпуск и способствуют конкуренции» и уже защищены законом через «доктрину вспомогательных ограничений». Один из юристов ФТК добавил: «В конце концов, отсутствие человечества приведет к отсутствию конкуренции».
С другой стороны, Роджер Элфорд, профессор юридического факультета Университета Нотр-Дам, предупреждает, что коллективный отказ от внедрения мер безопасности может грозить обвинениями в «фиксации качества». Он приводит в пример европейское антимонопольное дело, в котором автопроизводители объединились для разработки технологий снижения выбросов, но договорились не конкурировать в плане улучшений сверх законных требований, за что в итоге были оштрафей на сумму, эквивалентную миллиарду долларов.
Саморегулирование не является чем-то новым. Бергмайер отмечает, что отрасли могут ограничить свою антимонопольную ответственность в соответствии с Законом о национальных кооперативных исследованиях и производстве 1993 года, который позволяет создавать организации по разработке стандартов при условии уведомления ФТК и Минюста.
Рыночное давление
Органы, контролирующие соблюдение антимонопольного законодательства, обычно скептически относятся к исключениям из правил, считая, что они делают крупных игроков еще сильнее и препятствуют выходу на рынок новых компаний. Требование ИИ-компаний также вызвало вопросы у ряда экспертов, включая Дэвида Сакса, сопредседателя Совета консультантов президента по науке и технологиям.
Антимонопольные аспекты и рыночная конкуренция в сфере ИИ
Сакс обвинил Anthropic и OpenAI в создании дуополии, назвав просьбу об антимонопольном исключении «предвыборной психологической операцией» и предлогом для того, чтобы «сформировать картель». При этом многие сотрудники крупных ИИ-компаний искренне выражают обеспокоенность тем, как быстро их работодатели выпускают новые модели, что потенциально идет в ущерб безопасности. «Иногда компании хотят, чтобы их регулировали, как уловку, чтобы убрать за собой лестницу. Но иногда они действительно чувствуют, что рынок подталкивает их действовать так, как, по их мнению, не следует», — говорит Бергмайер. «Возможно, с психологической точки зрения ИИ-лаборатории чувствуют, что у них нет разрешения от рынков или от предстоящего IPO, чтобы в одностороннем порядке предпринять такие действия».
Этим летом как Anthropic, так и OpenAI подали конфиденциальные документы для проведения первичного публичного размещения акций, а их оценка приближается к триллиону долларов или превышает его. Ожидается, что Anthropic выйдет на биржу в следующем месяце, в то время как генеральный директор OpenAI Сэм Альтман заявил, что компания отложит свое IPO до 2027 года из-за недавних опасений по поводу безопасности (как ранее сообщал CNBC, финансовый директор OpenAI говорил сотрудникам, что компания станет публичной в 2027 году). Индекс Ramp AI, измеряющий темпы внедрения ИИ, предполагает, что модели обеих компаний имеют схожие показатели использования и идут ноздря в ноздрю в борьбе за лидерство.
Ни одна из компаний не ответила на просьбу прокомментировать этот материал. «Я думаю, они хотят получить исключение, потому что, по их мнению, им нужно координировать замедление, так как, будем честны, они не хотят в одностороннем порядке разоружаться, пока другие продолжают двигаться с головокружительной скоростью», — считает Олфорд.
Политическое давление и риски вмешательства регуляторов
Существует также политическое давление, требующее двигаться как можно быстрее. После новостей о предложении по замедлению разработок президент Дональд Трамп написал в социальных сетях, что правительство уже обладает «огромной УГОЛОВНОЙ и РЕГУЛИРУЮЩЕЙ властью над этими компаниями!» и что «КТО ПОБЕДИТ В ИИ, ТОТ ПОБЕДИТ ВСЕХ!». Аккаунт главного технического директора Министерства обороны также публиковал «антидумерские» мемы, что выглядит как реакция на идею замедления.
Антимонопольный отдел Министерства юстиции (DOJ) также не защищен от политических интриг. Олфорд был уволен из ведомства в прошлом году после того, как обвинил руководство Министерства юстиции в коррупции из-за одобрения слияния двух технологических инфраструктурных компаний, что Олфорд позже назвал «скандалом» в публичном выступлении. Кроме того, журналист Wall Street Journal сообщил, что глава Федеральной торговой комиссии (FTC) Эндрю Фергюсон заявил участникам антимонопольной конференции, что Трамп «в конечном итоге будет решать любую политику в области ИИ».
Если бы федеральное правительство инициировало антимонопольное расследование в отношении замедления развития ИИ, оно бы считалось «расследованием деятельности» (conduct investigation). В отличие от «расследования слияний», которое накладывает строгие временные рамки на государственную проверку, расследование деятельности может длиться годами. ИИ-компании могут быть обязаны предоставить миллионы страниц документов, руководители и другие ключевые сотрудники могут быть вызваны на дачу показаний, а устройства сотен других сотрудников могут попасть под юридическое удержание (litigation holds) — даже если правительство в итоге решит, что у него нет оснований для дела.
Поскольку новых нормативных актов на горизонте не предвидится, а антимонопольное исключение, вероятно, не будет предоставлено, передовым ИИ-лабораториям придется самостоятельно устанавливать правила игры и, возможно, попутно избегать одного-двух расследований.
