Как раскрытие использования ИИ влияет на восприятие контента: исследования и рекомендации

С 2024 года Европейский Союз принял закон о ИИ, который требует от компаний раскрывать информацию о контенте, созданном с помощью искусственного интеллекта. Эти обязательства по раскрытию информации вступили в силу в августе 2026 года. Это изменение в политике раскрытия вызывает практическую озабоченность: уведомление пользователей о применении ИИ может изменить их восприятие доверия, подлинности и качества контента, что, в свою очередь, может повлиять на отношения с брендом. Исследования показывают, что реакции на раскрытие использования ИИ не являются однородными: они зависят от аудитории и типа контента, который содержит раскрытие, среди прочих факторов.

Что такое раскрытие использования ИИ?

Раскрытие использования ИИ — это читаемое человеком заявление, объясняющее, как ИИ был вовлечен в создание контента. Формы и заметность таких раскрытий могут варьироваться. Например, в социальных сетях они могут появляться в виде значков рядом с заголовком, а в более длинных текстах — внизу страницы в виде карточки или встроенного текста.

Проактивные и сторонние раскрытия

Раскрытия, добавленные пользователем ИИ, считаются проактивными, так как создатель делится этой информацией. Сторонние раскрытия делаются платформой, на которой размещен контент, или другим пользователем. Например, KXAN, филиал NBC News, добавил встроенное уведомление внизу своей статьи — это пример проактивного раскрытия. В то же время Google Docs добавил стороннее раскрытие к документу.

Водяные знаки против раскрытий ИИ

Важно не путать раскрытия ИИ с отметками о происхождении ИИ или водяными знаками, такими как статистический водяной знак, выпущенный компанией Anthropic для ее новых моделей Claude. Эти знаки являются машинно-читаемыми и не могут быть обнаружены человеческим глазом или экранным считывателем. В отличие от этого, раскрытия ИИ должны быть легко доступными для человеческого зрения или экранного считывателя без дополнительных инструментов.

Когда раскрытие ИИ не имеет последовательного эффекта

Исследования не показывают, что раскрытие использования ИИ последовательно вызывает негативную реакцию. В ходе экспериментов и отчетов, рассмотренных в этой статье, не было единой реакции аудитории на раскрытие ИИ. Его эффекты варьировались в зависимости от контекста: в некоторых случаях раскрытие ИИ снижало оценки доверия и подлинности контента, в других — не оказывало измеримого эффекта. Лорена Лиценджи и Юлиан Хоха проанализировали 47 исследований реакций читателей на авторство ИИ и раскрытие в новостях. Они выяснили, что не было последовательной реакции на участие ИИ в производстве новостей: результаты варьировались в зависимости от типа новостей, воспринимаемой надежности издателя и характеристик аудитории.

Роль и степень вовлеченности ИИ имеет значение

Несколько исследований показывают, что реакции аудитории зависят не только от того, использовался ли ИИ, но и от того, какую роль он сыграл и насколько сильно ИИ способствовал созданию контента. Например, в эксперименте Чжояна Ли и его команды, когда читателям сообщали, что ИИ сгенерировал контент, это снижало их оценки качества как аргументированных эссе, так и творческих рассказов. В то же время, если им говорили, что ИИ только редактировал текст, эффект был менее выраженным: оценки снижались для творческих рассказов, но не для эссе.

Более сильные негативные реакции, когда важен человеческий вклад

Исследования показывают, что когда пользователи ожидают человеческого суждения, искренности или связи в своих коммуникациях, они с большей вероятностью оценят контент более негативно после раскрытия использования ИИ. Раскрытие ИИ может сделать контент или его создателя менее подлинными. В предисловии к исследованию Яспера Давида Брунса и Мартина Мейснера участники не могли надежно отличить изображения, созданные ИИ, от созданных человеком. Однако в полном исследовании, когда изображение, созданное ИИ, было встроено в посты бренда в социальных сетях и раскрыто как созданное ИИ, участники оценили подлинность бренда, достоверность поста и отношение к бренду ниже.

Влияние отношения аудитории

В объединенном анализе 12 из 13 своих экспериментов Оливер Шилке и Мартин Рейман обнаружили, что штраф за доверие от раскрытия ИИ был меньше среди людей с более благожелательными отношениями к технологиям и среди тех, кто считал ИИ точным. Читатели, которые оценивали себя как более уверенных писателей, с большей вероятностью снижали свои оценки качества после раскрытия использования ИИ, в то время как писатели с низкой уверенностью, как правило, были менее негативными. Знание о ИИ также влияло на реакции читателей, но не последовательно: более высокая осведомленность о ChatGPT иногда (но не всегда) делала их более восприимчивыми к раскрытию использования ИИ.

Парадокс раскрытия

Несмотря на то, что читатели утверждают, что хотят раскрытия использования ИИ, они часто реагируют негативно на контент, который содержит такое раскрытие. Это противоречие, которое Сиаош Саэби, Пол Формоза и Сара Бэнкинс называют «парадоксом раскрытия». Участники оценивали текст с атрибуцией ИИ как менее надежный, менее подлинный и менее полезный, даже несмотря на то, что они заявляли о важности раскрытия использования ИИ. Это создает дилемму для создателей контента: читатели утверждают, что хотят видеть раскрытия, но наказывают авторов за выполнение этих ожиданий.

Рекомендации по раскрытию использования ИИ

Решение о раскрытии использования ИИ не может быть простым. Когда раскрытие не является обязательным, следует учитывать пять факторов PACED — политику, аудиторию, контекст, ожидания и степень участия ИИ — как набор вопросов, чтобы решить, следует ли раскрывать использование ИИ.

Политика: Обязательно ли раскрытие по закону, политике или платформе? Если вы создаете контент, который подпадает под конкретные случаи Закона о ИИ ЕС, вы юридически обязаны раскрывать использование ИИ.

Аудитория: Как ваша аудитория, вероятно, воспримет использование ИИ? Люди с более благожелательными отношениями к технологиям могут реагировать менее негативно на раскрытия.

Контекст: Насколько важен человеческий вклад? Раскрытия в коммуникациях, акцентирующих человеческие переживания, могут подвергаться большему scrutiny.

Ожидания: Ожидает ли ваша аудитория раскрытия использования ИИ? Исследования показывают, что читатели и писатели часто расходятся во мнениях по этому вопросу.

Степень использования ИИ: Насколько много ИИ способствовал созданию контента? Чем больше вклад ИИ, тем сильнее причина рассмотреть раскрытие.

Как требования к раскрытию использования ИИ становятся все более распространенными, организациям, использующим ИИ для создания контента, придется взвесить его преимущества в эффективности против риска того, что раскрытие снизит восприятие доверия и подлинности у пользователей.