Мифология искусственного интеллекта: как вымысел формирует реальные технологии
Всякий раз, когда новая модель ИИ выходит в ограниченном виде из-за опасений по поводу её чрезмерной мощности, или когда алгоритм выходит за пределы «песочницы», совершая непредвиденные кибератаки на корпоративные сайты, в обществе неизбежно возникают шутки о реальности сценариев Skynet или HAL 9000. Однако научная фантастика не просто предсказала наши текущие отношения с искусственным интеллектом — она их сформировала.
Человеческая увлеченность искусственной жизнью возникла задолго до появления компьютеров и электричества. В древнегреческих мифах описывались механические слуги, созданные богом Гефестом, а еврейский фольклор подарил нам Голема — искусственное существо, оживленное для выполнения воли создателя.
В своей новой книге «Myth-Made Machines: The Stories Behind Artificial Intelligence» авторы Дэйв Брэдли и Келли Веро прослеживают путь человеческих грез и страхов, связанных с мыслящими машинами, через мифологию, литературу, кино и телевидение. Их тезис заключается в том, что эти истории не просто предвосхитили ИИ, но и определили то, как мы обсуждаем эту технологию, что от неё ожидаем и, в некоторых случаях, какие именно системы люди решают создавать.
Истоки ИИ в древности
Дэйв Брэдли отмечает, что основная идея книги строится на вечном интересе человечества к созданию разумных машин. Когда в 2022 году состоялся официальный релиз ChatGPT, одной из первых реакций в социальных сетях были шутки о запуске Skynet. По мнению авторов, восприятие новых технологий полностью обусловлено историями, которые мы рассказываем друг другу годами. Келли Веро подчеркивает, что миф — это фундамент, из которого берет начало каждый элемент ИИ или робофутуризма. В мифе люди вынуждены отделять реальное и предсказательное от пропаганды и вымысла.
Истоки искусственного интеллекта в человеческих историях уходят в глубокую древность. Дэйв Брэдли указывает, что идея создания автономных слуг из неживого материала существует тысячи лет: от золотых рабочих Гефеста до Голема. Ближе к пониманию современных вычислительных машин, в XVIII веке, Джонатан Свифт в «Путешествиях Гулливера» описал «Машину Лагадо», которая случайным образом переставляла слова в надежде сгенерировать полезное знание — сегодня это выглядит как пугающе точный сатирический прообраз генеративного ИИ. Сам же термин «искусственный интеллект» в современном понимании машинного обучения и рассуждений был введен информатиком Джоном Маккарти в 1950-х годах, что стало отправной точкой для появления темы в кино и на телевидении, включая знаковые эпизоды «Сумеречной зоны» и «Звездного пути».
Влияние фантастики на реальные разработки
Отвечая на вопрос о личных предпочтениях, Келли Веро выделяет «Газонокосильщика» и франшизу «Трансформеры», будучи фанатом десептиконов. Дэйв Брэдли считает R2-D2 самым важным персонажем «Звездных войн», отмечая также Марвина из «Автостопом по галактике», сайлонов из «Звездного крейсера «Галактика»» и андроида Дэйту из «Звездного пути: Следующее поколение». При этом Брэдли признается, что его раздражает HAL 9000, в основном из-за того, что люди десятилетиями цитируют ему фразу: «Прости, Дэйв, боюсь, я не могу этого сделать».
Авторы уверены: мифы о сознательных машинах напрямую влияют на реальное развитие ИИ. По словам Келли Веро, человеческая жизнь строится на концепциях, которые мы либо обожаем, либо боимся. Дэйв Брэдли добавляет, что современные инженеры и предприниматели выросли на произведениях «Звездных войн», «Звездного пути», Айзека Азимова и Уильяма Гибсона, и существуют веские доказательства того, что научная фантастика определяет взгляды тех людей, которые сегодня занимаются созданием будущего. В конечном счете, наше отношение к ИИ колеблется между двумя крайностями: «Если нам это не нравится, мы это убьем. Если мы это любим, мы на этом женимся».
Связь научной фантастики и реальности
Исследование 2022 года показало, что 93% британских астрономов увлекаются научной фантастикой, а 69% признались, что этот жанр повлиял на их карьерный выбор. Нередко эта связь проявляется напрямую. Пит Бонассо из TRACLabs называет HAL 9000 из «Космической одиссеи 2001 года» источником вдохновения для своих разработок в области ИИ-систем NASA. Три закона робототехники Айзека Азимова, придуманные для литературы, стали отправной точкой для реальных концепций безопасности ИИ. Например, «Конституция роботов», представленная Google DeepMind в 2024 году, устанавливает правила безопасности для машин именно в этой традиции.
Текущее состояние и перспективы ИИ
На вопрос о современном поколении моделей ИИ Дэйв Батлер (DB) отмечает, что следит за этой быстро меняющейся сферой, где обновления происходят почти ежедневно. Появление нового поколения граничных моделей доказывает, почему авторы решили написать книгу об исторических событиях, а не пытаться зафиксировать состояние ИИ в 2026 году. В индустрии видеоигр, по мнению Батлера, важно понять, какие новые возможности принесет ИИ, а не просто оценить скорость автоматизации процессов. Кэтрин Валентайн (KV) придерживается более скептичного взгляда, называя модели «факсимиле» всех книг, сериалов, фильмов и игр, которые мы когда-либо потребляли. Она уверена, что они никогда не станут такими же умными, как люди.
ИИ: угроза или возможность?
Валентайн видит в ИИ колоссальную возможность получить доступ к накопленным человечеством знаниям. До появления ИИ люди обладали монополией на интеллект, зная лишь то, что могли обнаружить или найти. Сегодня мы можем делегировать жажду знаний алгоритмам, получая сбалансированные результаты. Батлер считает выбор между «угрозой» и «возможностью» слишком простым. Будучи оптимистом, он верит в прогресс, но признает существование конфликтов вокруг рабочих мест, собственности и власти. Он напоминает слова Уильяма Гибсона о том, что будущее уже наступило, но распределено неравномерно. Ключевой вопрос заключается не в том, хороша технология или плоха, а в том, кто извлекает из нее выгоду, кто ее контролирует и как распределяются риски и блага.
Будущее сверхразума и проблема сознания
На вопрос о создании рукотворного сверхразума Валентайн задается вопросом, почему он должен отличаться от остального созданного человеком. Для нее принципиальна проблема разумности (sentience): когда система сможет моргать так же быстро, как человек, не задумываясь об этом, тогда можно будет продолжить диалог. Батлер полагает, что сверхразум не возникнет просто путем масштабирования современных трансформеров. Какими бы сложными ни были LLM, это вероятностные системы генерации контента, и они не обладают сознанием. Батлер надеется, что если мы когда-либо создадим реальный сверхразум, то, обладая доступом к огромным объемам информации и способностью видеть проблемы с разных сторон, он будет стремиться к помощи, а не к разрушению. Тем не менее, системы способны усиливать наши предрассудки, поэтому вопрос настройки (alignment) остается критически важным.
Человеческий подход к созданию ИИ
Валентайн подчеркивает, что люди — единственные стейкхолдеры: мы являемся арбитрами своих творений, и если нам что-то не понравится, мы это уничтожим. Ее главная тревога заключается в том, что лишь 6% населения мира решают, как остальные 94% будут жить и работать в эпоху ИИ. Батлер отмечает, что люди постоянно пытаются создать нечто по своему образу и подобию, одновременно опасаясь последствий этого шага. Мы боимся потери рабочих мест и идентичности, нас восхищает создание мощных систем, но пугает мысль, что они могут нас свергнуть. При этом страх перед слугой, который обернется против хозяина, или перед ненадежным союзником, который вытеснит нас, характерен не только для сферы машин.
Культурное восприятие технологий: между страхом и обожанием
Хотя в книгах и фильмах мы часто проецируем на компьютеры наши истории, их подтекст зачастую касается человеческой паранойи по поводу классовых различий, политики и войны. В частности, наблюдается постоянное колебание между любовью к собственным технологиям и страхом перед ними.
В 1970-х годах, на фоне паранойи времен холодной войны, компьютеры часто выступали в роли инструментов апокалипсиса: вспомните «Колосс», сайлонов, HAL 9000 или даже V’Ger из фильма «Звездный путь: Фильм». В 1980-х, когда персональные компьютеры и игровые консоли стали привычными домашними развлечениями, массовая культура все чаще предлагала нам машины в качестве верных спутников: KITT, Metal Mickey, Twiki, Nono и Дейта. Затем маятник качнулся обратно: к концу 1980-х и в 1990-е годы появились «Терминатор» и «Матрица». Эти чередующиеся волны оптимизма и тревоги можно проследить вплоть до времен промышленной революции. Технологии меняются, но наши эмоциональные реакции на них остаются удивительно постоянными.
Об авторах и книге
Келли Веро
Келли Веро работает в сфере видеоигр и технологий уже 30 лет — от программирования до высшего руководства. Она принимала участие в создании таких проектов, как Tomb Raider, серия Halo, серия Transformers и Subway Surfers. Веро — международный спикер, ведущий эксперт по геймификации и метавселенным, регулярно включается в технологические рейтинги и списки перспективных специалистов, такие как Forbes «100 женщин будущего». Она является отмеченным наградами педагогом, а также автором бестселлеров, номинированных на премии. Среди её документальных работ — Breaking Through Bytes: Women Shaping the Digital World и From Pixels to Portals: How Video Games Made the Metaverse. Проживает в Цюрихе, Швейцария.
Дейв Брэдли
Дейв Брэдли почти 30 лет работает в медиа в качестве журналиста печатных и онлайн-изданий, писателя, редактора, ведущего мероприятий, а также старшего менеджера и консультанта. Он писал и редактировал материалы для таких изданий, как Microsoft Windows: The Official Magazine, SFX, Comic Heroes и многих других. Кроме того, он публиковался в онлайн-изданиях, включая Pocket Gamer, PC Games Insider, Crime Fiction Lover. Будучи большим поклонником научной фантастики, Брэдли много путешествует, смотрит кино и играет в игры. Он курирует рассылку AI Gamechangers и часто выступает на конференциях Pocket Gamer Connects. Проживает в Бате, Великобритания.
Информация о книге
Книга Myth-Made Machines: The Stories Behind Artificial Intelligence, написанная в соавторстве Дейвом Брэдли и Келли Веро, будет опубликована издательством Bloomsbury 3 сентября 2026 года.
Об авторе статьи
Грэм — старший редактор по вопросам ИИ в TechRadar. Имея более чем 25-летний опыт работы в онлайн- и печатной журналистике, Грэм сотрудничал с различными ведущими технологическими брендами, включая Computeractive, PC Pro, iMore, MacFormat, Mac|Life, Maximum PC и другие. Он специализируется на освещении всего, что связано с ИИ, и появлялся в эфирах телепередач BBC, таких как BBC One Breakfast, а также на радио Radio 4, где комментировал последние технологические тренды. Грэм имеет диплом с отличием в области компьютерных наук, а свободное время посвящает подкастингу и ведению блога.
Дополнительные факты о влиянии мифов и эволюции представлений об ИИ
Важным дополнением к тезису о «мифологизации» технологий является мнение Келли Веро о том, как именно стоит воспринимать это наследие. По её словам, в мифологии мы как люди вынуждены постоянно навигировать между реальным и пророческим, отсекая при этом слой пропаганды и чистого вымысла. Сама идея создания «машин по образу и подобию» человека — это глубоко укоренившийся в нашей культуре процесс, который продолжается тысячи лет, и книга авторов призвана структурировать эти исторические слои.
Дэйв Брэдли также делает важную ремарку о том, что в процессе исследования они обнаружили своеобразных исторических прототипов современных лидеров индустрии: по его словам, «мы нашли своих Сэма Альтмана, Илона Маска и Дарио Амодеи, скрывающихся у всех на виду» в древнегреческих мифах. Это подчеркивает преемственность амбиций творцов прошлого и настоящего.
О природе сознания и «сверхразуме»
Развивая тему будущего ИИ, Келли Веро предлагает рассматривать проблему sentience (осознанности или чувствительности) как ключевой барьер. Она утверждает: «У нас уже есть рукотворный сверхразум, но у нас пока нет полностью функционирующей разумности». Она проводит четкую грань: пока система не способна к автономному, спонтанному действию, подобному человеческому морганию без сознательного участия, говорить о появлении «личности» в машине преждевременно.
Дэйв Брэдли со своей стороны предостерегает от чрезмерно восторженных прогнозов, которые сегодня часто строятся вокруг масштабирования LLM. Он подчеркивает, что современные модели — это, по своей сути, вероятностные системы, которые генерируют медиаконтент, и их текущая «гениальность» не эквивалентна сознанию. Тем не менее, он выражает надежду, что при создании полноценного сверхразума, который сможет анализировать проблемы с множества перспектив, его базовой установкой станет помощь и содействие, а не деструктивное поведение, хотя он и признает наличие риска усиления человеческих предрассудков и ошибок через алгоритмы.
Эмоциональные качели общества
Авторы выделяют интересную закономерность в том, как менялось восприятие роботов в массовой культуре. Если в 70-е годы, в эпоху холодной войны, компьютеры почти всегда были «инструментами апокалипсиса» (от HAL 9000 до V’Ger из «Звездного пути: Фильм»), то в 80-е годы, по мере проникновения технологий в дома обычных людей, риторика сменилась на образ «верных спутников». В этом списке, помимо уже упомянутых, значатся такие персонажи, как:
- KITT (из сериала «Рыцарь дорог»);
- Metal Mickey;
- Twiki;
- Nono.
Этот маятник, качающийся от обожания к страху и обратно, авторы называют удивительно стабильным эмоциональным ответом человечества, который тянется со времен промышленной революции. И хотя Брэдли и Веро признают, что технологии кардинально изменились, наши глубинные страхи — потеря идентичности, страх замены и подозрительность к «невидимому союзнику» — остаются практически неизменными.
«Системы также увеличивают наши предубеждения, недостатки и предрассудки. Вот почему согласование (alignment) имеет такое значение», — отмечает Дэйв Брэдли, подчеркивая, что техническая настройка ИИ — это в конечном счете социальная задача.
Итоговый вывод авторов книги звучит как предостережение: несмотря на то, что ИИ пронизывает все сферы жизни, лишь около 6% населения планеты сегодня фактически определяют, как остальные 94% будут адаптироваться к «ИИ-будущему». Тем не менее, авторы сохраняют осторожный оптимизм, полагаясь на исторический опыт человечества, которое, несмотря на все опасения, до сих пор успешно справлялось с глобальными технологическими трансформациями.
