Google Earth отменяет генерацию изображений на основе ИИ: уроки из кризиса

Недавнее решение компании Google о сворачивании функции генерации изображений с использованием искусственного интеллекта в Google Earth стало неожиданным, но закономерным шагом. Изначально эта функция была внедрена с целью помочь пользователям визуализировать различные сцены, например, как может выглядеть сад на пустом участке. Однако, как это часто бывает в интернете, пользователи нашли способ использовать нововведение для создания изображений, изображающих разрушения и катастрофы.

Реакция пользователей и последствия

После запуска функции генерации изображений пользователи начали активно создавать реалистичные сцены, на которых изображены взрывы бомб и разрушения в различных городах. Это вызвало бурную реакцию в социальных сетях, и Google вскоре приняла решение о приостановке функции. В официальном заявлении на аккаунте News From Google компания подтвердила, что, хотя функция использовалась геопространственными специалистами для полезных целей, она также привела к распространению изображений, которые нарушают внутренние политики компании.

Официальное заявление Google

В обновлении от 31 июля Google сообщила: "Мы знаем, что люди уникально доверяют Google Earth как надежному источнику информации о мире. Мы видели, как геопространственные специалисты использовали эту функцию для множества полезных целей, однако мы также наблюдали, как пользователи делятся скриншотами сгенерированных изображений, которые, по нашему мнению, нарушают наши правила. Поэтому мы откатываем эту функцию в Google Earth, пока работаем над внедрением более строгих ограничений". Важно отметить, что сгенерированные изображения не отображались в основном интерфейсе Google Earth и имели водяной знак, указывающий на то, что они созданы ИИ.

Необходимость строгих ограничений

Многие пользователи в социальных сетях, включая платформу X (ранее известную как Twitter), выразили недоумение по поводу того, как инженеры Google могли выпустить такую функцию без должных ограничений. Один из пользователей написал: "Вы живете в полном пузыре. Выйдите на улицу из Кремниевой долины на пару секунд, и вы поймете, что ни один нормальный человек не хочет, чтобы ИИ заполнил каждый уголок каждого продукта. Поговорите с реальными людьми". Это подчеркивает необходимость более глубокого понимания потребностей пользователей и потенциальных последствий новых технологий.

Уроки для будущего

Возможно, Google могла бы обратиться к своему собственному проекту Gemini, чтобы получить идеи о том, как функция генерации изображений может быть использована неправильно, прежде чем запускать ее в Google Earth. Этот инцидент стал важным уроком для компании, подчеркивающим необходимость тщательной проверки новых функций и их потенциального влияния на общество. Таким образом, сворачивание функции генерации изображений в Google Earth не только отражает реакцию на негативные последствия, но и служит напоминанием о важности ответственного подхода к внедрению технологий, которые могут быть использованы как во благо, так и во вред.