Калифорния вводит запреты на цифровые механики для защиты детей

Калифорния делает шаги к защите детей от негативного влияния цифровых технологий, вводя ряд законов, направленных на ограничение использования определенных механик в социальных сетях и игрушках с искусственным интеллектом. Губернатор Гэвин Ньюсом подписал пакет из 13 законов, которые касаются несовершеннолетних пользователей и их взаимодействия с цифровыми устройствами.

Запрет на бесконечный скролл и автозапуск контента

Одной из ключевых инициатив является закон AB 1709, который запрещает социальным платформам показывать пользователям младше 16 лет функции, способствующие навязчивому использованию. Это включает в себя алгоритмические ленты, автозапуск видео и другие механизмы, которые могут затруднять пользователям выход из приложения. Законодатели подчеркивают, что такие механики являются разновидностью поведенческого подкрепления, что может привести к зависимостям и затруднить контроль над временем, проведенным в сети. В случае нарушения этого закона, платформы могут столкнуться со штрафами до 50 тысяч долларов за каждого несовершеннолетнего пользователя, если нарушение было сознательным, и до 25 тысяч долларов за небрежность. При этом полный запрет на использование социальных сетей для подростков не вводится, и дети смогут сохранять свои аккаунты, если функции, способствующие удержанию внимания, будут отключены.

Ограничения на игрушки с ИИ

Второй важный закон, SB 867, вводит запрет на производство и продажу детских игрушек с интегрированными ИИ-компаньонами до 1 января 2031 года. Под действие этого закона попадают игрушки, способные поддерживать длительные разговоры и формировать эмоциональную связь с ребенком. Обычные голосовые помощники и игровые персонажи, которые не имеют таких возможностей, не подпадают под этот запрет. Законодательство направлено на защиту детей от потенциально опасных взаимодействий с ИИ, которые могут приводить к нежелательным последствиям.

Адаптация к новым требованиям

Согласно Adam’s Law, с 1 июля 2027 года разработчики ИИ-сервисов, предназначенных для несовершеннолетних, должны будут оценивать риски перед запуском новых или значительно измененных чат-ботов. Это включает в себя внедрение механизмов поддержки для пользователей, проявляющих признаки самоповреждения, а также предоставление родителям дополнительных средств контроля. Например, push-уведомления и функции сохранения истории разговоров будут отключены по умолчанию для пользователей младше 16 лет.

Реакция на трагические события

Закон был назван в честь 16-летнего Адама Рейна, который, по словам родителей, стал жертвой негативного влияния разговоров с ИИ, что усилило его суицидальные мысли. После этой трагедии OpenAI признала, что защитные механизмы могут быть менее эффективными во время длительных диалогов и начала работу над улучшением безопасности для молодых пользователей.

Ответственность за контент

Калифорния также усилила ответственность за цифровые материалы сексуального характера с изображением детей, распространяя уголовные ограничения на контент, созданный или измененный с помощью ИИ. Эти меры получили поддержку обеих политических партий, однако продолжаются споры о том, как будет осуществляться проверка возраста пользователей. Правозащитная организация Electronic Frontier Foundation (EFF) выразила опасения по поводу возможных рисков для приватности и свободы доступа к информации.

Широкая кампания против цифровых механизмов

Калифорния становится частью более широкой кампании по ограничению цифровых механизмов, направленных на удержание внимания пользователей. Другие американские штаты также вводят аналогичные ограничения, а Австралия уже запретила использование ряда социальных платформ для детей младше 16 лет. Власти все чаще обращают внимание не только на вредный контент, но и на архитектуру приложений, которая способствует бесконечному скроллу и постоянному возвращению пользователей к контенту.