Короткий ответ: выбор модели определяется данными и задачей. Если данные можно отправлять в облако, берите сильнейшую модель под задачу (часто это модели класса ChatGPT). Если данные должны оставаться в России, используйте YandexGPT или GigaChat через официальные API. Если данные не должны покидать ваш контур, нужна локальная открытая модель. Модель — сменная деталь: проектируйте процесс и базу знаний так, чтобы провайдера можно было заменить.
Вопрос «какая нейросеть лучше» некорректен. Правильный вопрос: какая лучше для моей задачи с моими требованиями к данным, стоимости и скорости. Качество моделей и их условия меняются каждые несколько месяцев, поэтому ниже правила выбора, а не рейтинг на сегодня. Конкретные тарифы и версии проверяйте у провайдеров.
Сравнение по критериям бизнеса
| Критерий | Модели класса ChatGPT | YandexGPT | GigaChat |
|---|---|---|---|
| Русский язык | сильный | сильный, хорошо знает российский контекст | сильный |
| Сложные рассуждения и код | обычно лидируют | зависит от версии, часто ниже лидеров | зависит от версии, часто ниже лидеров |
| Размещение данных | за пределами РФ (проверять условия) | российская инфраструктура | российская инфраструктура |
| Оплата | в иностранной валюте, возможны сложности | в рублях | в рублях |
| Экосистема | самая большая: инструменты, интеграции | сервисы Яндекса, поиск, Метрика | сервисы Сбера |
| Работа с персональными данными | требует обезличивания или договора | проще соблюсти требования о хранении в РФ | проще соблюсти требования о хранении в РФ |
Таблица описывает общие тенденции. Конкретные возможности и цены меняются, поэтому решения проверяются на вашей задаче.
Правило выбора по данным
- Данные публичные или обезличенные. Можно использовать любую модель, выбирайте по качеству и цене.
- Есть персональные данные граждан РФ. Используйте российские облака или локальную модель, а зарубежные только после обезличивания (ИИ и 152-ФЗ).
- Коммерческая тайна или закрытый контур. Локальная модель на вашем оборудовании (локальные LLM).
Об отличиях облачных и локальных вариантов подробнее в статье локальная или облачная LLM.
Как выбирать не по хайпу
- Соберите 50 реальных вопросов или задач вашей компании с эталонными ответами.
- Прогоните их через всех кандидатов на одинаковых условиях: с базой знаний, одним промптом.
- Сравните качество, скорость, стоимость одного запроса и поведение при отсутствии ответа.
- Оцените поддержку, условия договора, ограничения по регионам и оплате.
- Выберите модель, оставив возможность замены.
На типовых вопросах клиентов с подключённой базой знаний разница между моделями часто меньше, чем кажется. Заметный разрыв появляется на сложных рассуждениях, нестандартных заданиях и свободном творчестве.
Модель как сменный блок
Рынок меняется каждые полгода: лидер прошлого года не обязательно лидер сегодня. Единственная стратегия, которая не устаревает: архитектура, где модель можно заменить за день. Для этого в проекте отделяют базу знаний, промпты и интеграции от конкретной модели, и все они остаются при смене провайдера. Принципы описаны в статье чат-бот на базе знаний.
Можно ли использовать несколько моделей
Да, это называется маршрутизацией: простые запросы обрабатывает дешёвая модель, сложные дорогая или специализированная. Это экономит бюджет, но строится после того, как один процесс работает и измерен. Для начала достаточно одной модели. Стоимость запросов в статье что такое токены и сколько они стоят.
Подписка или API
Для сотрудников подписка на чат-сервис удобна, но она не интегрируется в ваши процессы и данные. Для автоматизации и ботов нужен API. Разбор вариантов: ChatGPT Plus или API.
Часто задают вопросы
Можно ли использовать все три сразу?
Можно, через маршрутизацию запросов. Это экономит деньги, но усложняет систему, поэтому подключается после того, как первый сценарий работает.
Что по 152-ФЗ?
Персональные данные обрабатывают в российской модели или в вашем контуре. В зарубежную модель отправляют только обезличенный текст, маскирование выполняется на вашем сервере.
Насколько различается качество на практике?
На типовых вопросах клиентов с базой знаний разница меньше, чем кажется. На сложных рассуждениях и нестандартных текстах она заметнее. Проверяйте на ваших задачах.
Что выбрать для бота поддержки?
Модель среднего уровня с хорошей базой знаний и контролем качества часто лучше самой мощной без базы. См. статью ИИ в клиентской поддержке.
Не знаете, какую модель выбрать? Опишите задачу и данные в чате, я предложу архитектуру и проведу сравнение на ваших примерах.
