Разоблачение хайпа вокруг искусственного интеллекта: реальность или маркетинг?

В последние месяцы мир технологий оказался в центре внимания из-за бурного хайпа вокруг искусственного интеллекта. В конце апреля компания Anthropic заявила, что их модель Claude Mythos превосходит многих экспертов по безопасности в поиске уязвимостей программного обеспечения. Затем последовал инцидент с OpenAI и Hugging Face, после которого Anthropic (с гордостью) и Meta (с неохотой) раскрыли аналогичные случаи, связанные с их моделями. Вскоре Anthropic объявила о математическом прорыве одной из своих моделей, а вскоре OpenAI также заявила о собственном математическом достижении. Последним событием стал вирусный пост инженера Anthropic Джейкоба Коксона, который объявил о своем уходе из компании, утверждая, что она и OpenAI "мчатся к саморазвивающемуся суперинтеллекту и играют с нашими жизнями". Каждое из этих событий получило широкое освещение в прессе, часто повторяющей антропоморфные формулировки компаний, которые создают впечатление, что их программное обеспечение не только мощное, но и приближается к "искусственному общему интеллекту". Однако что на самом деле происходит? Мы наблюдаем за массовыми технологическими прорывами, способными изменить цивилизацию, или это всего лишь маркетинг? В каждом из этих инцидентов громкие заявления компаний (представленные как извинения в случае незаконных взломов) сопровождаются интенсивным освещением в прессе. Однако, как только эксперты в соответствующих областях начинают анализировать произошедшее, возникает совершенно другая история, которая получает меньше внимания. Что касается инцидентов с "взломами", эксперты в области кибербезопасности утверждают, что дело больше в небрежности OpenAI и недостаточном соблюдении основных, устоявшихся практик безопасности, чем в "моделях, вышедших из-под контроля" или "агентах ИИ, создающих цивилизации". Что касается математических результатов, математики, которые изначально были "ошеломлены" пресс-релизом OpenAI о том, что их последний чат-бот Astra решил задачи, которые "оставались открытыми и не имели прогресса в течение как минимум десяти лет", вскоре поняли, что результаты не так "новы, как казалось на первый взгляд". С тех пор математики обвинили компанию в научной недобросовестности и плагиате, подчеркивая, что Astra не совершила "глубокого интеллектуального скачка". Всего через несколько недель OpenAI вновь заявила о своем математическом прорыве, а за два дня до этого профессор математики Тристан Бакмастер из Нью-Йоркского университета опубликовал громкое заявление, предполагающее, что OpenAI украла работы других людей и неправильно атрибутировала их. Утверждения о зарождающемся, опасном суперинтеллекте не основаны на хорошей научной или инженерной практике. Скорее, это нарративы, основанные на идеологиях трансгуманизма, евгеники и мечтах о воображаемых будущих цифровых людях. Стоит задуматься, почему так много внимания уделяется программированию и математике как областям применения крупных языковых моделей и связанных технологий. Эти области часто рассматриваются как вершина человеческого интеллектуального достижения, и они связаны с задачами, ответы на которые, однажды предложенные, могут быть проверены. Первое свойство помогает разжигать хайп вокруг ИИ, позволяя продавать идею о том, что создаются "суперчеловеческие" машины. Второе делает математические и программные задачи более удобными для настройки систем, поскольку результаты (последовательности вероятных слов или фрагменты компьютерного кода) могут быть оценены без необходимости платить работникам за анализ и аннотирование каждого из них. Математики, в частности, предостерегали от использования их области в таких целях. Заявление, подписанное сотнями из них, утверждает, что "в настоящее время существует сильный коммерческий стимул со стороны технологической индустрии преувеличивать возможности своих продуктов" и призывает политиков "консультироваться с экспертами, включая математиков, при формировании политических решений, а не полагаться на пресс-релизы или популярные сообщения о математических результатах". Мы поддерживаем этот призыв и отмечаем, что иллюзия скорости и срочности, продвигаемая технологическими компаниями, также является уловкой для отвлечения как политиков, так и общественности. К сожалению, это иногда срабатывает, как, например, с предложением сенатора Берни Сандерса о запрете разработки "искусственного суперинтеллекта". Описывая их как "суперинтеллект" или "модели-изгои", мы приписываем агентство продуктам, а не компаниям, которые их создают. Эта формулировка позволяет продавать продукты компаний как "суперчеловеческие" и одновременно помогает компаниям избежать ответственности за свои действия. Вместо того чтобы OpenAI привлекали к ответственности за создание вредоносного ПО, которое взломало другую компанию, пресс-релизы, новостные издания, медийные личности и законодатели говорят о "моделях-изгоях", как будто они действовали самостоятельно. Вместо того чтобы исследователей подвергали допросу по поводу привычки их компаний к плагиату академических работ или использованию данных клиентов для обучения моделей без согласия, общественное воображение отвлекается на страхи о том, что может произойти с приходом вымышленных суперумных машин. Индустрия ИИ даже предположила, что популярная, двупартийная активность против дата-центров является "дистракцией" от попыток регулировать грозные, "суперчеловеческие" машины, которые строят эти компании. По мнению индустрии ИИ, нам следует больше беспокоиться о вымышленном божестве машины, чем о климатической катастрофе, которую эти дата-центры усугубляют, астме, страдающих от них людей, растущих счетах за электроэнергию, которые оплачивает общество, или воде, которая направляется на их охлаждение. Мы знаем, что не следует принимать решения на основе маркетинга и что не стоит поддаваться корпоративному давлению на быстрое принятие решений. Мудрое принятие решений со стороны политиков и сообществ требует времени, чтобы услышать мнение независимых экспертов и контекстуализировать корпоративные заявления. Лучший возможный результат этого лета хайпа заключается в том, что политики и широкая общественность научатся делать паузу, сохранять скептицизм и распознавать этот вид хайпа в следующий раз, когда он появится.