Оптимизация затрат на токены AI-агентов с помощью протокола Model Context Protocol от Okta

В последние годы наблюдается стремительный рост использования искусственного интеллекта (AI) в различных сферах, что приводит к увеличению затрат на токены при взаимодействии AI-агентов с инструментами. Okta, компания, специализирующаяся на управлении идентификацией и доступом, представила решение, которое может значительно снизить эти затраты за счет внедрения протокола Model Context Protocol (MCP).

Проблема "налога на инструменты"

Каждый вызов модели, выполняемый AI-агентом, включает в себя схемы, названия, описания и параметры для каждого инструмента, доступного на сервере MCP. Okta называет это "налогом на инструменты" — токены, которые расходуются на обработку информации о инструментах, даже если агент никогда не обращается к ним. Эта проблема возникает до того, как агент попытается использовать инструмент, и последующий отказ в несанкционированном запросе не может вернуть уже потраченные токены.

Решение Okta: фильтрация инструментов

Okta предлагает решение, которое фильтрует список инструментов до того, как он будет передан модели. Это достигается с помощью разрешений, назначенных идентичности агента и пользователя, связанного с ним. Внутренние исследования компании показали, что в некоторых сценариях количество видимых инструментов может быть сокращено более чем на 90%. Соответственно, затраты на схемы инструментов также уменьшаются примерно на ту же величину, хотя конкретные цифры не были предоставлены.

Как работает MCP

Сервера MCP становятся важным связующим звеном между AI-агентами и инструментами, такими как Google Workspace и Slack. Каждый вызов модели включает представление каждого доступного инструмента, что создает значительную нагрузку на токены. Проблема усугубляется, когда широко используемый сервер MCP предоставляет множество инструментов, так как каждый активный пользователь несет эту нагрузку при каждом вызове модели.

Применение принципа наименьших привилегий

Okta внедряет принцип наименьших привилегий на уровне инструментов. Это означает, что агент не должен быть осведомлен о ресурсах или инструментах, которые ему не были явно разрешены. Удаление недоступных инструментов из подсказки также исключает их схему из вызова модели, что дополнительно снижает затраты на токены.

Моделирование и результаты

Okta провела моделирование, в котором сравнила количество инструментов, доступных модели, до и после применения идентификационного скопирования. Для оценки доступности инструментов компания сопоставила инструменты сервера MCP с OAuth-областями, которые их разблокируют, и определила репрезентативные сегменты пользователей, такие как операторы службы поддержки и администраторы приложений. Результаты показали, что в некоторых случаях количество видимых инструментов сокращается более чем на 90%.

Сравнение с контролем затрат через шлюзы

Okta также проводит различие между идентификационным скопированием и контролем затрат через шлюзы. Шлюзы могут ограничивать расходы по ключам, командам или группам, а также поддерживать маршрутизацию и ограничение частоты. В отличие от этого, идентификационные полномочия определяют доступные инструменты для конкретного агента или пользователя, что позволяет более точно управлять затратами.

Безопасность и снижение рисков

Удаление инструментов из видимости несанкционированной идентичности также снижает риск действий, которые эта идентичность могла бы предпринять в случае компрометации. Okta утверждает, что их механизм проверки области действия работает на двух уровнях: при сборе списка инструментов для подсказки агента и при попытке агента выполнить вызов инструмента.

Заключение

Okta предлагает элегантное решение для оптимизации затрат на токены AI-агентов, используя данные о полномочиях, которые уже регулируют безопасность. Это позволяет организациям не только контролировать затраты, но и снижать риски, связанные с доступом к инструментам. В условиях растущей зависимости от AI и увеличения затрат на токены, такие инновации становятся особенно актуальными.