🧠Настройки: креативность, порог разнообразия, усилие размышления и многословие
Настройка моделей ИИ может отличаться по ряду параметров. В статье подробнее о них.
Параметры креативность и порог разнообразия определяют степень случайности и креативности ответов ИИ-агента. Они взаимосвязаны, но имеют разные подходы и принципы работы.
📌 Креативность
Что это: Параметр, управляющий случайностью генерации текста.
Как работает:
Значения от
0до2(обычно используют от0до1).Чем выше значение, тем более случайные, неожиданные и креативные ответы даёт ИИ.
Чем ниже значение, тем более консервативные, последовательные и предсказуемые ответы.
Примеры:
0— практически одинаковый ответ на похожие запросы (четкость и предсказуемость).0.7–1.0— более разнообразные и творческие ответы.1.5— максимальная креативность и неожиданные ассоциации (но и больше ошибок).
📌 Порог разнообразия:
Что это: Параметр, ограничивающий пул наиболее вероятных токенов, которые рассматриваются моделью при генерации текста.
Как работает:
Значения от
0до1.Если установить значение, например,
0.1, то модель будет рассматривать только наиболее вероятные токены, суммарная вероятность которых составляет 90%.Это значит, что менее вероятные варианты полностью игнорируются, а более вероятные токены остаются, но в пределах этого порога.
Примеры:
порог разнообразия = 0.1— только самые вероятные слова (ограниченные и предсказуемые ответы).порог разнообразия = 0.9 – 1— позволяет генерировать более разнообразный и креативный текст.
🚩 В чём разница и как использовать:
Креативность регулирует случайность ответа напрямую (как «ползунок хаоса»).
Порог разнообразия ограничивает диапазон вариантов ответа по вероятностям (как «фильтр лучших вариантов»).
Обычно для настройки ассистентов применяется один из этих параметров, а не оба одновременно, потому что они действуют на один и тот же процесс отбора токенов.
🎯 Рекомендации по использованию:
Если нужны точность и стабильность —
креативностьблизка к0(например, 0.1–0.3).Если важны оригинальность, живость и естественность —
креативностьот0.7до1.Если нужен баланс между случайностью и стабильностью с гарантией качества ответа —
порог разнообразия≈0.9.
Обычно рекомендуется выбрать один из параметров, чаще используется именно креативность, а порог разнообразия — альтернативный подход, если хочется контролировать разнообразие через вероятности, а не просто уровень случайности.
📌 Усилие размышления
Что это: Параметр работы ИИ, имитация процессов человеческого размышления и рассуждения.
Может принимать значения:
«Отключено» — отвечает почти сразу, «на автомате».
«Минимальное» — думает мало, отвечает быстро и дёшево.
«Среднее» — золотая середина (стандарт).
«Максимальное» — думает долго, дорого, но на выходе даёт умный ответ.
«Ультра» — анализирует, делает заметки и проверяет решение несколько раз перед ответом.
📌 Многословие
Что это: Параметр работы ИИ, насколько развёрнутый ответ будет получать пользователь в переписке с ИИ.
Может принимать значения:
«Минимальное» — отвечает коротко, быстро и дёшево.
«Среднее» — золотая середина (стандарт).
«Максимальное» — думает дольше, даёт развёрнутый ответ.
🎯 Рекомендации по использованию:
По умолчанию рекомендуем использовать значение «Среднее». Если для вас важнее всего скорость ответа — выбирайте значение «Отключено» и/или «Минимальное». Если же подразумевается работа ИИ с аудитом, обучением и передачей сложной информации — выбирайте значение «Ультра» и/или «Максимальное».
Last updated