使用 FastAPI 对接语言模型的 Word 插件。它允许你基于你在文档中写的内容生成文本。你可以使用它来翻译、总结、润色或者从零开始写一篇文章。
- 支持本地模型
- 支持OpenAI官方API和Azure OpenAI API
- 内置用于翻译、总结、润色和学术写作的提示
- 支持多种语言
- 可以自定义提示并保存以供将来使用
- 允许用户设置temperature和max tokens
- 支持代理
可以使用LangChainChatChat作为后端服务,它是一个基于fastAPI的服务,可以使用本地模型或者Azure OpenAI API。
教程参考启动API服务。