Прямой ответ
Эта страница объясняет, как команды используют шлюз NextModel, совместимый с OpenAI. Поймите метки поддержки потоковой передачи, прежде чем использовать модель в продакшене. Здесь добавлены практические шаги, заметки по настройке и частые вопросы.
Проверьте возможности модели перед включением потоковой передачи
Каталог моделей помечает кандидатов, которые поддерживают потоковую передачу на уровне провайдера или каталога. Используйте метку возможности как сигнал выбора, а затем точно проверьте маршрут продакшн-аккаунта перед запуском интерфейса потоковой передачи.