Skip to content

Conversation

@CH3CHO
Copy link
Collaborator

@CH3CHO CH3CHO commented Sep 6, 2025

Ⅰ. Describe what this PR did

Support using a known service in OpenAI LLM provider.

image image

Ⅱ. Does this pull request fix one issue?

fixes #586

Ⅲ. Why don't you add test cases (unit test/integration test)?

Ⅳ. Describe how to verify it

Ⅴ. Special notes for reviews

@lingma-agents
Copy link

lingma-agents bot commented Sep 6, 2025

支持在 OpenAI LLM 提供商中使用已知服务

变更概述
  • 新功能
    • 在 OpenAI LLM 提供商中增加了对自定义服务的支持,用户可以选择已有服务或输入 URL。
    • 增加了 openaiCustomServiceNameopenaiCustomServicePort 配置项,用于指定自定义服务。
    • 更新了前端表单以支持新的配置方式,包括服务选择和路径输入。
    • 增加了对自定义服务的处理逻辑,包括服务源和服务实例的构建与删除。
  • 重构
    • 重构了 WasmPluginInstanceService 接口和实现类,增加了 internal 参数以区分内部和外部资源的删除操作。
    • 调整了 LlmProviderServiceImpl 中的服务源管理逻辑,支持额外服务源的创建和删除。
  • 问题修复
    • 修复了在删除 LLM 提供商时未正确删除相关服务源的问题。
  • 依赖更新
  • 安全增强
  • 测试更新
    • 更新了前端国际化资源检查器,增加了新的资源键。
  • 文档
  • UI/UX变更
    • 更新了前端界面,增加了自定义服务的选择和配置选项。
  • 配置调整
  • 数据库变更
  • 其他
    • ServiceServiceImpl 中增加了对服务协议的支持。
变更文件
文件路径 变更说明
backend/​console/​src/​test/​java/​com/​alibaba/​higress/​console/​FrontEndI18nResourceChecker.​java 增加了新的资源键,用于支持前端国际化资源检查。
backend/​sdk/​src/​main/​java/​com/​alibaba/​higress/​sdk/​service/​ServiceServiceImpl.​java 在服务列表中增加了对服务协议的支持。
backend/​sdk/​src/​main/​java/​com/​alibaba/​higress/​sdk/​service/​WasmPluginInstanceService.​java 增加了新的删除方法,支持通过 `internal` 参数区分内部和外部资源的删除。
backend/​sdk/​src/​main/​java/​com/​alibaba/​higress/​sdk/​service/​WasmPluginInstanceServiceImpl.​java 实现了新的删除方法,支持通过 `internal` 参数过滤资源。
backend/​sdk/​src/​main/​java/​com/​alibaba/​higress/​sdk/​service/​ai/​AiRouteServiceImpl.​java 在删除模型映射资源时,增加了对内部资源的过滤。
backend/​sdk/​src/​main/​java/​com/​alibaba/​higress/​sdk/​service/​ai/​LlmProviderServiceImpl.​java 增加了对自定义服务的支持,包括服务源的创建和删除。
backend/​sdk/​src/​main/​java/​com/​alibaba/​higress/​sdk/​service/​ai/​OpenaiLlmProviderHandler.​java 增加了对自定义服务的处理逻辑,支持从配置中提取服务名称和端口。
frontend/​src/​locales/​en-US/​translation.​json 增加了与自定义服务相关的国际化文本。
frontend/​src/​locales/​zh-CN/​translation.​json 增加了与自定义服务相关的国际化文本。
frontend/​src/​pages/​ai/​components/​ProviderForm/​index.​tsx 更新了前端表单,支持选择自定义服务或输入 URL,并处理相关配置。
frontend/​src/​pages/​ai/​configs.​tsx 更新了配置处理逻辑,支持自定义服务的构建和解析。
时序图
sequenceDiagram
    participant PF as ProviderForm
    participant OLP as OpenaiLlmProviderHandler
    participant LPS as LlmProviderServiceImpl
    participant SSS as ServiceSourceService
    PF->>OLP: 提交自定义服务配置
    OLP->>LPS: 构建服务源
    LPS->>SSS: 创建或更新服务源
    LPS->>SSS: 删除服务源
Loading

💡 小贴士

与 lingma-agents 交流的方式

📜 直接回复评论
直接回复本条评论,lingma-agents 将自动处理您的请求。例如:

  • 在当前代码中添加详细的注释说明。

  • 请详细介绍一下你说的 LRU 改造方案,并使用伪代码加以说明。

📜 在代码行处标记
在文件的特定位置创建评论并 @lingma-agents。例如:

  • @lingma-agents 分析这个方法的性能瓶颈并提供优化建议。

  • @lingma-agents 对这个方法生成优化代码。

📜 在讨论中提问
在任何讨论中 @lingma-agents 来获取帮助。例如:

  • @lingma-agents 请总结上述讨论并提出解决方案。

  • @lingma-agents 请根据讨论内容生成优化代码。

Copy link
Contributor

@johnlanni johnlanni left a comment

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

LGTM

@johnlanni johnlanni merged commit 1d068a8 into higress-group:main Sep 21, 2025
5 checks passed
@CH3CHO CH3CHO deleted the feat/custom-openai-service branch October 9, 2025 06:43
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

AI服务提供者需要支持可以关联服务列表中已有的服务

2 participants