Путь к AGI: почему экстенсивное обучение заходит в тупик
Поиск сильного искусственного интеллекта (AGI) напоминает дорогостоящий научный эксперимент с непредсказуемым результатом. Пока бизнес инвестирует в ИИ триллионы долларов, надеясь на быструю окупаемость, разработчики вынуждены следовать экстенсивному пути. Они просто увеличивают количество параметров в больших языковых моделях (БЯМ), жертвуя при этом энергоэффективностью и экологией. Однако эксперты всё чаще задаются вопросом: приведет ли этот путь к созданию разума, принципиально иного, чем человеческий?
Со своим уставом в «OpenAI»
В феврале 2025 года OpenAI расформировала подразделение Mission Alignment, которое занималось внедрением этических норм среди сотрудников. Ранее компанию покинули Илья Суцкевер и Ян Лейке, лидеры команды Superalignment. Несмотря на кадровые перестановки, работа над безопасностью ИИ не остановилась: специалисты были распределены по другим отделам. Цель остается прежней — подготовить ИИ и будущий «сверхинтеллект» (SI) к сосуществованию с человечеством, чтобы машины не тратили ресурсы на бессмысленное самопознание, а приносили реальную пользу.
OpenAI, ставшая корпорацией в интересах общества (PBC), пытается балансировать между миссией и необходимостью зарабатывать деньги. Критики называют этот подход сомнительным, особенно на фоне контрактов с военными ведомствами. Тем не менее, масштабы затрат на обучение современных моделей делают невозможным существование компании без коммерческой составляющей.
Илья Суцкевер против Сэма Альтмана
Илья Суцкевер, сооснователь OpenAI и глава Safe Superintelligence Inc., скептически оценивает гонку за числом параметров. По его мнению, современные БЯМ — это «олимпиадники», которые прекрасно справляются с бенчмарками, но пасуют перед реальными задачами. Проблема кроется в слабой способности к обобщению и обучении с подкреплением, ориентированном на быстрый результат для инвесторов.
Суцкевер отмечает, что нынешние модели подвержены «алгоритмическим галлюцинациям» из-за поверхностного зазубривания данных. Человеческий интеллект, напротив, формируется через опыт в физическом мире. Использование синтетических данных, к которому призывают некоторые лидеры индустрии, не решит проблему, а лишь приблизит риск деградации моделей.
Вместо бесконечного увеличения мощностей, Суцкевер предлагает использовать адаптивное обучение и функции ценности (value function). Это позволит ИИ самостоятельно корректировать свои действия на каждом этапе, как человек, который сомневается перед ответом и проверяет факты. Подобный подход должен превратить ИИ из статичной программы в систему, обучающуюся прямо в процессе выполнения задач.
Будущее: от AGI к SI
Суцкевер прогнозирует, что AGI потребует от 5 до 20 лет для достижения нужной зрелости. Модель должна стать «цифровым Маугли», который взаимодействует с миром через миллионы аватаров, обмениваясь опытом и формируя агрегированную память. Такой подход делает угрозу со стороны ИИ менее вероятной: ведь смысл существования системы будет неразрывно связан с постоянным общением с людьми.
Параллельно в Китае разрабатывается нейросеть CATS Net, которая формирует внутренние «концепции» объектов. В отличие от стандартных перцептронов, разные инсталляции CATS Net могут согласовывать свои знания, что является шагом к созданию коллективной машинной памяти.
Несмотря на опасения скептиков относительно безопасности, путь к сильному ИИ кажется неизбежным. Остается только надеяться, что человечество успеет воспитать этот разум, показав ему достойный пример, ведь переложить все свои заботы на плечи машин в обозримом будущем не удастся.
