Клиенты часто спрашивают, какой моделью мы пользуемся. Обычно мы отвечаем: смотря для чего.
Почему мы не привязываемся к одной модели
Разные модели сильны в разном. Одна хорошо справляется с длинными текстами, другая естественнее пишет по-китайски, третья дешёвая и быстрая и подходит для большого потока простых задач. Намертво привязать проект к одному поставщику — значит заранее отказаться от всех этих вариантов. К тому же модели быстро обновляются: сегодняшний лидер через несколько месяцев может им уже не быть.
Как мы выбираем
Для каждой задачи мы прогоняем модели нескольких поставщиков на одном и том же наборе реальных примеров и сравниваем четыре вещи: качество, стоимость, скорость и соответствие нормативным требованиям. Для проектов в Китае мы часто берём DeepSeek, Qwen, Kimi, Zhipu GLM и Doubao, для зарубежных — OpenAI, Claude, Gemini и Llama. Нередко в одной системе работу делят между собой две-три модели.
Как мы обращаемся с данными
- Предпочитаем корпоративные API, где данные клиентов не используются для обучения моделей
- Если данные чувствительные, разворачиваем открытые модели на собственных серверах клиента или его локальных устройствах
- Подключаясь к данным, запрашиваем только необходимые права, а то, как данные используются, прописываем в договоре
- То, что можно обработать локально, никуда не загружаем
С расчётом на будущее
О том, во что обойдётся смена модели, мы думаем ещё при проектировании системы. Когда выходит модель лучше, мы подключаем её, прогоняем тот же набор примеров и, если всё в порядке, начинаем ею пользоваться.