Skip to content

【模型接入】腾讯混元 ​

项目基于 Spring AI + 自己实现的 models/hunyuan,实现 hunyuan 混元大模型 的接入:

功能模型Spring AI 客户端
AI 对话hunyuan-turbo、hunyuan-large 等HunYuanChatModel
AI 绘画混元生图 等暂未接入

# 1. 申请密钥 ​

由于腾讯混元是非开源的模型,所以无法私有化部署,需要去官网申请 API Key,然后通过 Spring AI 提供的客户端接入。

# 1.1 申请腾讯密钥 ​

① 在 腾讯云 上,注册一个账号。 ② 在 管理 -> API Key 管理 上,创建一个 API Key 密钥。 申请完成后,可以在我们系统的 [AI 大模型 -> 控制台 -> API 密钥] 菜单,进行密钥的配置。只需要填写“密钥”,不需要填写“自定义 API URL”(因为 Spring AI 默认官方地址)。如下图所示: 官方的密钥配置

# 2. 模型配置 ​

友情提示: 目前 ai_model 表中,已经预置了一些模型,可以直接使用!!!

# 2.1 AI 对话 ​

使用 《AI 对话》 时,需要在 [AI 大模型 -> 控制台 -> 模型配置] 菜单,配置对应的聊天模型。 模型有:hunyuan-turbo、hunyuan-large 等等,可以点击 混元生文 进行查看。 注意,每个模型标识的 max_tokens(回复数 Token 数)一般是 4096 或 8192,具体也是看上述链接。

# 2.2 AI 绘图 ​

TODO 等待 DouBao ImageModel 客户端!

# 3. 如何使用? ​

① 如果你的项目里需要直接通过 @Resource 注入 HunYuanChatModel 等对象,需要把 application.yaml 配置文件里的 yudao.ai.hunyuan 配置项,替换成你的! yudao: ai: hunyuan: # 腾讯混元 enable: true api-key: 5c1b5747-26d2-4ebd-a4e0-dd0e8d8b4272 model: hunyuan-1-5-lite-32k-250115 ② 如果你希望使用 [AI 大模型 -> 控制台 -> API 密钥] 菜单的密钥配置,则可以通过 AiModelService 的 #getChatModel(...) 方法,获取对应的模型对象。 ① 和 ② 这两者的后续使用,就是标准的 Spring AI 客户端的使用,调用对应的方法即可。 另外,HunYuanChatModelTests 里有对应的测试用例,可以参考。 .pageB img{width:80px!important;} .wwads-horizontal .wwads-text, .wwads-content .wwads-text{line-height:1;} 【模型接入】字节豆包 【模型接入】硅基流动 ← 【模型接入】字节豆包 【模型接入】硅基流动→ Theme by Vdoing | Copyright © 2019-2026 芋道源码 | MIT License

  • 跟随系统
  • 浅色模式
  • 深色模式
  • 阅读模式 × .windowRB{ padding: 0;} .windowRB .wwads-img{margin-top: 10px;} .windowRB .wwads-content{margin: 0 10px 10px 10px;} .custom-html-window-rb .close-but{ display: none; }
最近更新