Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

为什么要把大语言模型固定,不可以像open webui一样灵活调用模型吗? #2116

Closed
1 task done
kpsmail opened this issue Jun 30, 2024 · 7 comments
Closed
1 task done

Comments

@kpsmail
Copy link

kpsmail commented Jun 30, 2024

⚠️ 搜索是否存在类似issue

  • 我已经搜索过issues和disscussions,没有发现相似issue

总结

首先我不会编程,所以只能发这里来求助。
在open webui中(https://github.com/open-webui/open-webui/blob/main/backend/apps/openai/main.py),向open ai key中填入one api key 和url,可以选择one api 中已有的任何模型,并且成功调用。

举例

https://github.com/open-webui/open-webui/blob/main/backend/apps/openai/main.py

动机

更灵活的使用大语言模型

@huangzhitian
Copy link

huangzhitian commented Jun 30, 2024

可以使用管理员命令改模型啊,wx不像网站点点鼠标就能改模型

@kpsmail
Copy link
Author

kpsmail commented Jun 30, 2024

可以使用管理员命令改模型啊,wx不像网站点点鼠标就能改模型

只能改提前写进去的模型,比如我在one api里有llama3 8B,COW里没有写llama3 8B,是选择不了的llama 8B的

@6vision
Copy link
Collaborator

6vision commented Jun 30, 2024

使用bot_type参数,model写自定义的模型即可,不限于CoW项目内置模型名称,详见 #2046

@huangzhitian
Copy link

可以使用管理员命令改模型啊,wx不像网站点点鼠标就能改模型

只能改提前写进去的模型,比如我在one api里有llama3 8B,COW里没有写llama3 8B,是选择不了的llama 8B的

别人不能预知未来,出什么模型就慢慢加上

@kpsmail
Copy link
Author

kpsmail commented Jun 30, 2024

使用bot_type参数,model写自定义的模型即可,不限于CoW项目内置模型名称,详见 #2046

学会了,确实是这个方法,到处都没找到教程,非常感谢兄弟

@kpsmail kpsmail closed this as completed Jun 30, 2024
@t1804330987
Copy link

可以使用管理员命令改模型啊,wx不像网站点点鼠标就能改模型

这个管理员命令,可以在登录的时候更改使用的模型吗,想问下是什么命令,谢谢!

@huangzhitian
Copy link

可以使用管理员命令改模型啊,wx不像网站点点鼠标就能改模型

这个管理员命令,可以在登录的时候更改使用的模型吗,想问下是什么命令,谢谢!

#model 模型名字

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Projects
None yet
Development

No branches or pull requests

4 participants