微信接入本地部署的模型

[FelixTsing]

⚠️ 搜索是否存在类似issue

• 我已经搜索过issues和disscussions，没有发现相似issue

总结

在本地部署一个开源大模型，并将微信账户接入本地的模型，不使用API接口的方法完成这个任务

举例

No response

动机

不使用API接口

[sisuad]

可以，自己部署就行，本地部署可以用xinference，git上搜一下这个项目 。

[6vision]

模型是以openai接口提供的话，可以如下配置，参考#2046：

部分配置如下：
{
"open_ai_api_key": "sk-2c23a6cf8d2a2b677275d38c", # 三方服务的key
"bot_type": "chatGPT", # 兼容openai请求格式时候，保持不变，
"model": "claude-opus", # 依三方服务商提供的模型名字为准
"open_ai_api_base": "https://api.dxxxxxxh.com/v1", # 三方服务api 地址
}