Словарь терминов искусственного интеллекта: от агентов до нулевых подсказок

Искусственный интеллект (AI) стал неотъемлемой частью современного дизайна и разработки продуктов. Однако, общение в этой области часто сопровождается специализированной терминологией, которая может быть непонятна многим. В этой статье мы рассмотрим ключевые термины, связанные с AI, которые часто встречаются в работе с продуктами и дизайном, и предложим их простые определения.

Агент

Агент — это система, способная использовать модель и инструменты для выполнения нескольких шагов к достижению цели, оценки своего прогресса и принятия решений о следующих действиях. Продукт, основанный на агенте, контролирует его инструменты, разрешения, правила остановки и возможности для человеческой проверки.

Агентный AI

Агентный AI описывает степень свободы, которую система имеет между подсказками. Агентная система может выбирать несколько шагов и использовать инструменты для достижения цели без необходимости указания каждого действия.

Инженерия AI

Инженерия AI включает в себя работу по превращению AI-моделей в надежные продукты: предоставление контекста, проектирование подсказок, подключение инструментов, оценка поведения, развертывание, мониторинг и добавление защитных механизмов.

AI Slop

AI Slop — это низкокачественный, массово производимый контент, сгенерированный AI: текст, изображения или код, которые на первый взгляд выглядят правдоподобно, но на самом деле являются небрежными, общими или непроверенными.

AI Washing

AI Washing — это практика, связанная с ложными, вводящими в заблуждение или преувеличенными заявлениями о том, использует ли продукт AI, как он его использует или что он может делать. Это может подорвать доверие пользователей, когда возможности не соответствуют заявленным.

Алгоритм

Алгоритм — это пошаговая процедура или набор правил для решения задачи или выполнения задания. В AI алгоритмы обучают модели, ищут решения, делают прогнозы, извлекают информацию и выбирают действия.

Выравнивание

Выравнивание — это усилия по тому, чтобы AI-системы действовали в соответствии с человеческими ценностями, намерениями и этическими нормами. Основная задача дизайна заключается в создании систем, которые делают то, что хотят пользователи, избегая при этом вредных или непреднамеренных последствий.

Антропоморфизм

Антропоморфизм — это приписывание человеческих качеств, таких как чувства или намерения, AI-системе из-за способа ее общения. Это может сделать продукт более доступным, но также может привести к чрезмерному доверию пользователей к системе.

Искусственный общий интеллект (AGI)

AGI — это гипотетический AI с широкими, гибкими возможностями в различных интеллектуальных задачах. На сегодняшний день ни одна система не считается общим интеллектом, и нет согласованного определения или теста для него.

Автоматизация предвзятости

Автоматизация предвзятости — это тенденция отдавать предпочтение результатам автоматизированной системы и менее критично их оценивать, даже когда они неверны. Это может привести к чрезмерной зависимости от AI.

Предвзятость

Предвзятость — это систематическое искажение в данных, моделях, результатах или процессах, которое несправедливо ущемляет определенные группы или точки зрения. Предвзятость может возникнуть на любом этапе жизненного цикла AI-системы.

Обучение с учителем

Обучение с учителем — это метод обучения модели с использованием размеченных данных, таких как пары вопросов и ответов. Этот метод позволяет моделям учиться на примерах и обобщать их.

Генеративный AI

Генеративный AI — это системы, которые создают новый контент (текст, изображения, код) на основе паттернов, изученных в процессе обучения, а не только извлекают или классифицируют уже существующее.

Модель

Модель — это приближенное представление естественного явления или концепции. Модели используются для описания поведения или событий и могут быть математическими или программными.

Подсказка

Подсказка — это ввод (обычно текст), предоставленный AI-системе для получения ответа. Подсказка может исходить от пользователя или быть частью инструкций на уровне приложения.

Инжекция подсказки

Инжекция подсказки — это атака, при которой инструкции к LLM вставляются в контент, который система читает. Эта атака пытается заставить AI-систему нарушить свои собственные правила или неправильно использовать свои инструменты.

Заключение

Знание этих терминов поможет вам лучше ориентироваться в мире AI и эффективно взаимодействовать с продуктами и системами, основанными на этой технологии. Понимание языка AI — это первый шаг к успешному использованию его возможностей в дизайне и разработке продуктов.