Посетители кафе и ресторанов все чаще сталкиваются с необычным явлением: иллюстрации блюд в меню выглядят безупречно симметричными, излишне гладкими и подозрительно ровными. Такой визуальный ряд вызывает у людей подсознательное ощущение того, что с изображением что-то не так. Генеративный искусственный интеллект проникает в ресторанный бизнес, используя модели, обученные на узком и «приятном» эстетическом шаблоне, который кажется фальшивым даже тогда, когда человек не может сразу объяснить причину дискомфорта.
Иногда подобные иллюстрации получаются откровенно нелепыми, например буррито с настолько пузырящимся и плавленым сыром, что оно напоминает образцы авангардного искусства. В других случаях они выглядят буднично, и подвох замечаешь только при внимательном рассмотрении. По словам Алекса Лисла, технического директора компании Reality Defender, создающей инструменты для обнаружения ИИ-контента, алгоритмы напоминают инопланетянина, пытающегося приготовить пиццу без понимания ее базовых принципов.
Особенности обучения моделей и феномен конвергенции
Большие языковые модели и диффузионные системы обучаются на колоссальных объемах данных, выявляя закономерности для предсказаний под конкретные запросы пользователей. Лисл поясняет, что многие современные генерации напоминают меню сетевых ресторанов образца 2015 года, поскольку именно этот массив информации лег в основу работы алгоритмов.
Компании, разрабатывающие искусственный интеллект, постоянно нуждаются в новых данных для обучения, иногда даже скупая и уничтожая редкие печатные издания после сканирования. При этом неизбежно попадание сгенерированного контента обратно в обучающие выборки. Когда ИИ обучается на собственных результатах, возникает эффект «конвергенции». В отличие от полного коллапса моделей, когда система полностью деградирует от циркуляции искусственных данных, конвергенция приводит к плавному снижению качества и стандартизации визуального стиля.
Запросы на создание меню для точек быстрого питания задействуют существующие образы популярных сетей вроде Burger King, Wendy’s или McDonald’s. Единый стиль исходных материалов закрепляется в результатах генерации, усиливаясь при повторном попадании таких картинок в тренировочные датасеты.
Гомогенизация изображений и эффект зловещей долины
Рекламные материалы крупных брендов всегда выглядят привлекательнее реальной еды благодаря работе фуд-стилистов, но в искусственном интеллекте этот эффект доводится до абсолюта. Директор центра Imagining the Digital Future в Университете Илона Маска Ли Райни отмечает, что оптимизация наборов данных нацелена на максимальную безобидность и приятность для пользователя, что в итоге приводит к стиранию уникальных деталей.
Похожее сглаживание происходит при многократном редактировании сгенерированных изображений. Эксперименты пользователей показывают, что после десятков правок цены или названий блюд в ChatGPT картинки с едой постепенно теряют естественные текстуры, становясь все более округлыми и гладкими. Подобные визуальные изменения вызывают у людей сильный психологический дискомфорт.
Исследователи из Университета Дуйсбурга-Эссена в Германии выяснили, что созданные нейросетями изображения еды вызывают эффект «зловещей долины». Картинки, которые выглядят почти реалистично, провоцируют у людей больше отвращения и неприязни, чем откровенно фальшивые рисунки. Подобная реакция объясняет волну критики со стороны посетителей в адрес заведений, использующих искусственный интеллект для оформления меню.
Проблема искусственной одинаковости визуального контента выходит далеко за рамки ресторанного бизнеса. По словам Алекса Лисла, традиционное доверие к визуальным и аудиодоказательствам как к золотому стандарту в судах и других сферах жизни человека постепенно уходит в прошлое, так как технологический мир фундаментально изменился.
«`html
Алекс Лисл описывает последствия обучения моделей на специфической эстетике довольно ярко: в таких мирах каждый шарик мороженого идеально круглый, а креветки будто бы генетически модифицированы так, чтобы поедать собственные хвосты, порождая новые «лавкрафтовские пищевые ужасы». Сама компания Reality Defender появилась на рынке на фоне растущей потребности бизнеса в верификации контента и защите от подобных технологических сбоев.
Лисл проводит параллель между циклом обучения нейросетей и опасным заболеванием: «Коллапс моделей похож на коровье бешенство… когда вы заново скармливаете модели ее собственные выходные данные, в конце концов инбридинг становится слишком сильным, и все рушится».
Если кто-то просит модель составить меню для ресторана быстрого питания, система обращается к архивам известных сетей вроде Wendy’s, Burger King или McDonald’s. В то время как реальная реклама вроде гамбургеров в роликах McDonald’s тщательно выстраивается профессиональными дизайнерами для максимальной аппетитности, искусственный интеллект доводит этот принцип до абсолюта, сглаживая все уникальные черты.
Ли Райни из Университета Илона Маска подчеркивает главную проблему оптимизации датасетов: алгоритмы нацелены на создание максимально приятного и безобидного контента, что приводит к тотальной гомогенизации. Из-за этого искусственный интеллект неизбежно «срезает все острые углы» как в изображениях, так и в текстовых формулировках.
Локальное сглаживание текстур наглядно демонстрируют экспериментытипа того, что провел пользователь под ником Labtec на платформе X. Он сгенерировал меню в ChatGPT, а затем вносил мелкие правки (например, менял цены или названия позиций) сто раз подряд. В результате еда на картинках все дальше уходила от реального облика, вызывая у наблюдателей сильный психологический дискомфорت и ощущение тревоги.
Негативная реакция посетителей на фальшивые меню имеет под собой научное обоснование. Немецкие исследователи из Университета Дуйсбурга-Эссена доказали действие эффекта «зловещей долины»: изображения еды, которые выглядят почти неотличимо от настоящих, провоцируют у людей гораздо больше отвращения и неприязни, чем карикатурные или явно искусственные подделки.
Масштаб проблемы подрывает фундаментальные принципы доверия в обществе. Подытоживая глобальные изменения, Лисл напоминает, что долгое время концепция «видеть и слышать — значит верить» была непоколебимым стандартом даже для судебных систем, опиравшихся на видеозаписи и аудиоархивы. Теперь этот принцип утратил силу, навсегда изменив реальность.
«`
