[Question]: 大模型配置qwq-32b出现错误提示

[yanheZ]

问题类别

安装和部署

问题描述

连接失败: create chat completion: error, status code: 400, status: 400 Bad Request, message: This model only support stream mode, please enable the stream parameter to access the model.

背景信息

No response

操作系统

win11

其他环境信息

No response

相关日志

连接失败: create chat completion: error, status code: 400, status: 400 Bad Request, message: This model only support stream mode, please enable the stream parameter to access the model.

已查找的资源

No response

确认事项

• 我已经搜索了现有的 issues 和文档
• 我已经提供了足够的信息来帮助理解问题

[begoniezhao]

我们使用了stream模式，如果该模型不支持，可以尝试一个支持stream的模型