Новые правила использования Claude от Anthropic: борьба с дезинформацией и манипуляциями

С 12 ноября 2023 года вступает в силу обновленная политика использования Claude от компании Anthropic, которая вводит строгие ограничения на использование модели для манипуляции источниками информации, на которые опираются поисковые системы и AI-системы. В частности, запрещается создавать контент, который искажает его происхождение, авторство или независимость. Примером такого нарушения является создание сети сайтов, которые выдают себя за независимые источники и поддерживают одни и те же утверждения.

Изменения в политике

Обновленная политика была опубликована 8 октября 2023 года и включает в себя новые разделы, касающиеся выборов, оружия, наблюдения и систематического злоупотребления моделями Claude. В частности, в ней появился новый раздел под названием "Не участвуйте в обманных кампаниях или искусственной деятельности", который четко определяет, что запрещено:

Манипулировать источниками, из которых поисковые системы или AI-системы получают ответы, заполняя их контентом, который искажает его происхождение, авторство или независимость (например, сети сайтов, выдающих себя за независимые источники).

Использовать фальшивые личности, медиа-ресурсы и отзывы.

Распространять контент через "фальшивые или якобы независимые ресурсы, сайты или аккаунты", чтобы скрыть их общее происхождение.

Создавать инструменты для обманных кампаний и продавать такие услуги.

Прежние и новые правила

Ранее политика уже запрещала создание сетей фальшивых аккаунтов и новостных сайтов, однако эти правила были разбросаны по различным разделам, касающимся выборов, мошенничества, конфиденциальности и дезинформации. Теперь же новый раздел охватывает любую форму обманной деятельности, как политическую, так и коммерческую. В старой версии, действующей до 15 сентября 2025 года, не упоминались поисковые системы или ответы AI.

Примеры нарушений

В сентябре 2023 года Anthropic связала новый раздел о дезинформации с примерами из своего отчета о угрозах. В частности, было выявлено около 70 сайтов, которые выглядели как независимые местные новостные ресурсы, но были связаны с рекламным агентством, базирующимся во Франции. Эти сайты использовали Claude для создания статей в одном формате, каждая из которых содержала три-четыре внутренних ссылки для автоматической публикации. В результате было опубликовано не менее 8913 статей на 20 языках, хотя большинство из них не вызвало значительного интереса у реальных пользователей. Anthropic сообщила о блокировке аккаунта Claude и запрете на деятельность организации, связанной с этими нарушениями.

Изменения в списке высоких рисков

В предыдущей политике использование "медийного или профессионального журналистского контента" было отнесено к высокорисковым случаям, что подразумевало автоматическую генерацию контента и его публикацию для внешнего потребления. В новой версии список высоких рисков включает 11 областей, где рекомендации AI требуют проверки и раскрытия информации, включая юридические, медицинские и финансовые советы. Публикация больше не входит в этот список.

Важность новых правил

Политика Google по борьбе со спамом описывает "попытки манипулировать ответами генеративного AI в Google Search" как спам. Обновление документации от 15 мая 2023 года уточнило, что эти правила применяются к ответам генеративного AI в поиске. Google применяет свои правила к сайтам, что иногда приводит к снижению их рейтинга или даже к исчезновению из результатов поиска. Anthropic же применяет свои правила к пользователям Claude и может ограничить или отозвать доступ при необходимости.

Будущее политики

Anthropic заявляет, что обновляет политику использования ежегодно и будет продолжать пересматривать ее по мере развития возможностей Claude и связанных с ними рисков. К 12 ноября 2023 года пользователи должны проверить, не публикуется ли созданный с помощью Claude контент на сетях сайтов, представленных как независимые друг от друга. Также необходимо сравнить процедуры проверки и раскрытия, внедренные для старого списка высоких рисков, с новым списком.