👾Модели ИИ

В статье рассказываем о моделях искусственного интеллекта, на основе которых вы можете создать своих виртуальных менеджеров.

В сервисе Selarti доступны десять моделей ИИ: GPT-4.1, GPT-4.1-mini, GPT-4.1-nano, GPT-4.5 prewiew, o1, o3-mini, GPT-4o, GPT-4o-mini, GPT-4 Turbo и GPT-4 Turbo Preview. Эти модели отличаются по функциональности, производительности и цене, что позволяет выбирать наиболее подходящую для конкретных задач.

Этот ресурс является открытым источником, загруженные в него данные становятся доступными для OpenAI. Шифрование отсутствует.

Вы можете ознакомиться с различиями моделей на официальном сайте Open AI, а можете прочитать ниже в статье. С тарифами Selarti можно также ознакомиться тут.

Сравнительная таблица моделей ИИ

Контекстное окно — объём текста, который модель может просматривать и обрабатывать для генерации ответа. Чем оно больше, тем больше контекста из диалога модель будет помнить в случае долгого разговора.

Название	Цена ввода	Цена вывода	Контекстное окно	Скорость	Назначение	Способность мыслить
GPT-4.1	$2.40	$9.6	1047576	Средняя	Для сложных диалогов, маркетинга, поддержки клиентов, образовательных и бизнес-продуктов	Выше среднего
GPT-4.1-mini	$0.48	$1.92	1047576	Выше средней	Для повседневных задач: чат-боты, рекомендации, дешёвая генерация текстов	Средняя
GPT-4.1-nano	$0.12	$0.48	1047576	Очень высокая	Для простых задач: автозаполнение, фильтрация, классификация, микросервисы	Ниже среднего
GPT-4.5 prewiew	$90.00	$180.00	Информации пока нет	Информации пока нет	Для задач, где важна высокая точность: медицина, право, финансы, технические тексты	Информации пока нет
o1	$18.00	$72.00	200000	Медленная	Для аналитики, исследований, принятия решений, глубоких рассуждений	Выше среднего
o3-mini	$1.32	$5.28	200000	Средняя	Для логических задач, программирования, работы с данными, сложных ассистентов	Выше среднего
GPT-4o	$3	$12.00	128 000	Средняя	Для мультимодальных задач: голос, изображение, текст. Подходит для универсальных ассистентов и видео	Средняя
GPT-4o-mini	$0.18	$0.72	128000	Выше средней	Для быстрых мультимодальных решений: визуальные и голосовые боты с ИИ	Ниже среднего
GPT-4 Turbo	$12.00	$36.00	128000	Средняя	Для длинных диалогов, аналитики, генерации документации и инструкций	Ниже среднего
GPT-4 Turbo Preview	$12.00	$36.00	Информации пока нет	Информации пока нет	Для тестирования новых возможностей, раннего доступа к улучшенным функциям	Информации пока нет

Цена ввода и вывода указана за 1 млн токенов.

В таблице указана не вся информация о моделях, доступных для предварительного доступа — дело в том, что информация о их возможностях ещё собирается.

В пунктах ниже рассказываем чуть подробнее про особенности моделей, а в конце статьи делимся своим опытом и наблюдениями про создание бота Илюши на моделях o3 и GPT-4o.

GPT-4.1

GPT-4.1 — флагманская модель искусственного интеллекта от OpenAI, предназначенная для сложных задач, где требуется глубокое понимание контекста, продвинутые навыки кодирования и строгое следование инструкциям.

GPT-4.1-mini

GPT-4.1-mini — более дешёвая и быстрая вариация предыдущей модели. Быстрее откликается на запрос, но чуть меньше размышляет. Хорошо подходит для чат-ботов.

GPT-4.1-nano

GPT-4.1-nano — ещё более дешёвая и быстрая вариация GPT-4.1. Работает быстро, но размышляет хуже. Самая дешёвая из линейки.

GPT-4.5 prewiew

GPT-4.5 prewiew — это исследовательский предпросмотр самой мощной модели GPT для диалоговых приложений. Модель представляет собой новый шаг в эволюции ИИ, демонстрируя улучшения за счёт масштабирования как обучения без учителя, так и методов обучения для решения конкретных задач.

Основные отличия от предыдущих моделей:

• Более глубокое понимание мира — масштабирование вычислений и данных снижает уровень галлюцинаций и повышает достоверность ответов.

• Улучшенная эмоциональная интеллигентность (EQ) — новые методы обучения позволяют лучше понимать намерения пользователя и вести более естественный диалог.

• Расширенные возможности — поддержка поиска, загрузки файлов и изображений, а также интеграция с API для сложных задач.

• Повышенные стандарты безопасности — внедрение новых техник надзора и тестирования улучшает контроль качества и безопасность модели.

o1

OpenAI o1 — это новая модель искусственного интеллекта, представленная компанией OpenAI в сентябре 2024 года. Особенность модели в том, что она способна «рассуждать, как человек», и решать более сложные задачи по программированию и математике.

Основные характеристики:

• Высокая точность и качество генерации текста.

• Хороша в решении математических задач и их аналитике.

o3-mini

OpenAI o3-mini — новая экономичная модель для сложных задач в STEM, программировании и математике.

Основные характеристики:

• Улучшенное рассуждение — модель «думает» перед ответом, что повышает точность.

• Регулируемые уровни рассуждения — выбор между низким, средним и высоким режимами позволяет балансировать между скоростью и качеством.

GPT-4o

GPT-4o (GPT-4 Omni) является оптимизированной версией GPT-4. Эта модель разработана для обеспечения лучшего соотношения цена/качество, сохраняя при этом высокую производительность и точность.

Основные характеристики:

• Улучшенная производительность при меньших затратах.

• Оптимизация для конкретных задач.

• Снижение затрат на вычисления.

GPT-4o-mini

GPT-4o-mini — это экономичная версия модели GPT-4, предназначенная для выполнения простых задач. Подходит для задач, не требующих большого интеллекта и высоких вычислительных ресурсов.

GPT-4 Turbo

GPT-4 Turbo представляет собой ускоренную версию GPT-4, обеспечивающую более высокую скорость обработки запросов без существенного компромисса по качеству.

Основные характеристики:

• Высокая скорость генерации ответов.

• Поддержка большого объема запросов в реальном времени.

• Сохранение высокого качества текста.

GPT-4 Turbo Preview

GPT-4 Turbo Preview – это предварительная версия GPT-4 Turbo, предоставляющая доступ к новейшим улучшениям и оптимизациям. Эта модель позволяет пользователям оценить новые возможности и производительность перед официальным выпуском.

Основные характеристики:

• Доступ к новейшим функциям и улучшениям.

• Высокая скорость и производительность.

• Возможность обратной связи для дальнейшей оптимизации.

Наш опыт в создании бота для технической поддержки на моделях o3-mini и GPT-4o

Уже несколько месяцев мы создаём бота для нашего проекта onlinePBX. Этот бот будет отвечать клиентам на простые вопросы и переводить на сотрудников, если вопрос сложный. Кстати, назвали мы его Илья, он же сотрудник технической поддержки, значит имя должно быть.

В процессе создания бота мы пользовались двумя моделями — o3-mini и GPT-4o. Ниже делимся нашими наблюдениями.

Работа с документацией:

• o3-mini ссылается на документацию, даже если запретить это делать. Обычно делает это в формате цитирования, которое некорректно отображается. Иногда вместо знаков цитаты ставит эмодзи.

• o3-mini ищет упоминание темы во всех файлах и делает это более внимательно, чем GPT-4o.

• GPT-4o тоже ссылается на документацию, запрет работает не всегда.

• GPT-4o упоминает загруженные файлы, если в них нет информации, например может сказать: «В загруженных файлах нет такой информации».

• Оформление базы знаний в обоих случаях требует хорошей структуры — важно выделять пункты и подпункты заголовками, чтобы модели могли экономить время и ресурс, «читая» только то, что относится к конкретному вопросу клиента.

Мышление модели:

• Если на вопрос клиента нет чёткого ответа в документации, то GPT-4o может дать или очень размытый ответ или сказать, что такой информации нет. В такой же ситуации o3 проведёт анализ информации и придумает ответ. Иногда он будет корректным, а иногда полностью придуманным.

• У o3-mini контекстное окно больше, поэтому она будет обрабатывать больше информации, чем GPT-4o.

• GPT-4o предоставляет ответ быстро, как правило до 10 секунд.

• o3-mini отвечает дольше, в зависимости от установленного параметра размышления — около 15 секунд на минимальном, 20-30 секунд на среднем и около минуты на высоком уровне.

Передача вопроса оператору:

• o3-mini и GPT-4o обе требуют чётких инструкций по передаче диалога на оператора, но для o3-mini нужно расписывать это гораздо подробнее, так как модель будет считать, что она способна самостоятельно решить вопрос и будет придумывать ответы, которые не соотносятся с реальностью.

• GPT-4o, в отличие от o3-mini может передавать диалог оператору, если у неё нет информации для ответа. o3-mini же не понимает концепт недостатка информации и придумывает дальше.

Форматирование текста:

• GPT-4o использует Markdown-разметку, в которой для лучшего восприятия текста есть жирное начертание, курсив, а также оформление ссылок не в формате URL, а в формате гиперссылок. Если бот будет использоваться через хелпдеск, то всю разметку нужно запрещать, иначе будет некорректно отображаться всё выделение текста начертаниями, а также ссылки.

• o3-mini выдаёт текст в простой структуре, может разбить его на пункты, но ссылки будет отправлять в формате URL.

Другие особенности:

• При составлении промта (инструкции) GPT-4o легко работает по ролям и отыгрывает характер, может использовать больше «дружелюбных» формулировок и хорошо притворяется сотрудником техподдержки.

• o3-mini плохо разбирается в ролях, если попросить быть более эмоциональным и дружелюбным скорее будет использовать экспрессивную пунктуацию, например ставить больше восклицательных знаков. o3-mini больше похож на сухой справочник, чем на эмпатичного сотрудника.