Борьба с ботами: как X (бывший Twitter) противостоит спаму с помощью ИИ

Недавние события на платформе X (ранее известной как Twitter) привлекли внимание к проблеме спама, который стал настоящим бедствием для пользователей. Никита Бир, руководитель продукта X, в течение 24 часов делился в Твиттере подробностями о том, как автоматизированные системы и ИИ используются для создания спама, а также о действиях, предпринимаемых для борьбы с этой проблемой.

Масштаб проблемы

Бир начал свой поток сообщений с описания масштабов проблемы с чат-ботами. Он сообщил, что команда X обнаружила 42,000 аккаунтов, использующих чат-ботов для автоматизации ответов, и все они были удалены с платформы. "Основная ценность X заключается в предоставлении подлинного пульса человечества, и использование ИИ для программного взаимодействия с пользователями без участия человека противоречит нашей миссии", — отметил Бир.

Мотивация спамеров

На следующий день Бир уточнил, что мотивация спамеров не имеет политической или идеологической подоплеки. Основной целью было зарабатывание денег. Спамеры стремились увеличить свою аудиторию, чтобы затем получить предложения о платной рекламе от компаний, работающих с ИИ. "99.99% спама на X экономически мотивированы. Это просто обычные мошенники", — добавил Бир.

Реакция на спам

Бир также сообщил, что атака спамеров была нейтрализована в течение одной ночи, и пользователи могли ожидать улучшения в своих лентах в течение следующих 6-12 часов. "Мы очистим это место. Мне не важно, сколько врагов я создам. X не будет манипулироваться преступниками", — заявил он, подчеркивая серьезность намерений компании в борьбе с неаутентичным поведением на платформе.

Адаптация спамеров

Одним из самых поразительных моментов в обсуждении стало описание одного из спамеров, который адаптировался к изменениям на платформе, меняя свои методы 40 раз за шесть месяцев. Бир отметил, что этот спамер ведет себя не как бот, а как человек, который внимательно следит за ответами и быстро разрабатывает контрмеры. Некоторые из спамеров начали использовать Grok, собственный ИИ-продукт X, для генерации ответов. Бир подтвердил, что такие попытки уже были выявлены и заблокированы.

Проблемы с ложными срабатываниями

В ходе обсуждения также возникла тема ложных срабатываний, когда алгоритм ошибочно классифицирует аккаунт как спам. Один из пользователей поделился своим опытом, когда его аккаунт был временно заблокирован, но после запроса на пересмотр был восстановлен через 12 часов. Бир отметил, что алгоритмы постоянно совершенствуются, чтобы минимизировать такие ошибки.

Подлинность в социальных сетях

Многие пользователи выразили поддержку действиям X против неаутентичного спама, подчеркивая, что социальные сети должны быть местом для обмена человеческими переживаниями. "С одной стороны, людям это нравится, но с другой — нельзя позволить, чтобы это стало основным контентом платформы", — отметил один из пользователей. В конечном итоге, борьба с ботами и спамом — это шаг к сохранению подлинности и качества контента на платформе.