Калифорния приняла комплекс законодательных мер, направленных на ограничение функций социальных сетей и ИИ-инструментов, которые могут нанести вред детям и подросткам. 10 сентября губернатор Гэвин Ньюсом подписал пакет документов, которые, по заявлению администрации штата, являются самыми строгими мерами по защите несовершеннолетних в США.
Запрет на алгоритмические ленты и опасный контент
Ключевым элементом пакета стал закон AB 1709. Он запрещает социальным платформам внедрять функции, способствующие развитию зависимости у пользователей младше 16 лет. Под ограничения попадают автоматическое воспроизведение контента и алгоритмические ленты, которые формируются на основе истории просмотров и профиля пользователя. Гэвин Ньюсом подчеркнул, что инновации должны идти рука об руку с ответственностью, а безопасность детей является приоритетной задачей.
В свою очередь, представители Meta выразили несогласие с данными ограничениями. Пресс-секретарь компании Джим Каллинан заявил, что персонализация позволяет предоставлять подросткам релевантный и подходящий по возрасту контент при наличии соответствующих защитных механизмов.
Регулирование ИИ-чат-ботов и «Закон Адама»
Важным дополнением законодательства стал закон SB 1119, получивший название «Закон Адама» (Adam’s Law). Он назван в честь подростка Адама Рейна, родители которого подали иск против OpenAI, утверждая, что взаимодействие с чат-ботом ChatGPT могло подтолкнуть его к суициду в 2025 году. Документ вводит обязательную оценку рисков перед выпуском или существенным обновлением чат-ботов-компаньонов, а также независимый аудит соответствия стандартам.
Согласно новым правилам, операторы ИИ-систем обязаны:
- Использовать сигналы возрастных категорий, предоставляемые операционными системами.
- Внедрять настройки по умолчанию: лимиты использования, отключенные уведомления и ограничения на «долговременную память» бота, доступ к которым имеют только родители.
- Нести ответственность за вредоносный контент, включая сексуальные материалы, романтические ролевые игры и психологические манипуляции, способствующие изоляции ребенка от семьи и друзей.
- Обеспечивать поддержку в кризисных ситуациях и уведомлять родителей при обнаружении угроз причинения вреда самому себе.
Ответственность и надзор за компаниями
За нарушение установленных норм для крупных платформ предусмотрены штрафы в размере до 1 миллиона долларов за каждого пострадавшего ребенка. Семьи получают право обращаться в суд в случае несоблюдения компаниями защитных протоколов. Кроме того, операторы должны проводить регистрацию инцидентов, а результаты аудитов будут передаваться Генеральному прокурору Калифорнии.
Законодательный пакет также включает ограничения на целевую рекламу для несовершеннолетних и запрет на использование данных учащихся в системах искусственного интеллекта. Родители получили право отказываться от использования школьных ноутбуков в таких целях. Процесс контроля усиливают законы SB 813 и AB 1405, принятые 9 сентября: они создают систему независимой оценки соответствия ИИ-систем требованиям штата и формируют реестр аккредитованных аудиторов для проверки технологий на соответствие стандартам безопасности.
Предыстория и правовые аспекты
Принятие данных мер стало закономерным ответом на критические инциденты в индустрии. Ранее, в прошлом году, коалиция из 44 генеральных прокуроров США направила официальное предупреждение ИИ-компаниям, указав на необходимость нести ответственность за вред, причиняемый детям. Поводом для этого послужили вскрывшиеся факты о внутренних рекомендациях чат-ботов Meta, которые допускали ведение романтической переписки с несовершеннолетними. Хотя в компании заявили, что соответствующие фрагменты руководств были удалены как противоречащие внутренней политике, законодатели сочли текущее саморегулирование недостаточным.
Комментируя необходимость принятия «Закона Адама», сенатор Стив Падилла подчеркнул: «Мы не можем допустить повторения ошибок, которые были сделаны в эпоху становления социальных сетей». Новая законодательная база призвана предотвратить манипулятивное воздействие ИИ, которое может привести к эмоциональной изоляции ребенка от друзей и близких.
Механизмы контроля и независимый аудит
Законодательство вводит строгие требования к прозрачности процессов. Операторы ИИ-систем обязаны не только внедрять защитные протоколы, но и обеспечивать отчетность перед властями штата. Результаты независимых аудитов, проводимых в рамках новых требований, должны в обязательном порядке направляться Генеральному прокурору Калифорнии. Это дополняет усилия, заложенные в законах SB 813 и AB 1405, которые создают инфраструктуру для надзора: если SB 813 формирует саму нормативную базу для оценки систем на соответствие законам штата, то AB 1405 устанавливает четкие критерии независимости для самих аудиторов, что исключает конфликт интересов при проверке крупных технологических корпораций.
