Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

feat: 支持长回复 #450

Merged
merged 7 commits into from
Mar 10, 2023
Merged

feat: 支持长回复 #450

merged 7 commits into from
Mar 10, 2023

Conversation

yi-ge
Copy link
Collaborator

@yi-ge yi-ge commented Mar 9, 2023

通过设置根目录下.env文件的环境变量VITE_GLOB_OPEN_LONG_REPLY=true,实现回复内容超过长度的时候自动开启继续回复功能。避免了回复代码或其他格式时由于长度超限再次手工“继续”后导致格式错乱。

注意:开启此功能可能导致API费用过高。

此功能依赖于另外一个PR得到合并:transitive-bullshit/agentic#459 及升级chatgpt-api版本。

@yi-ge
Copy link
Collaborator Author

yi-ge commented Mar 10, 2023

依赖的PR已经被合并,已升级chatgpt-api版本,设置默认VITE_GLOB_OPEN_LONG_REPLY为false并提示用户开启可能导致较高的API费用。

@goodwisdom
Copy link

这个功能十分需要,更新后,是可以通过环境变量直接做设置了是吧?不需要进入到文件中去做修改吧?

@Chanzhaoyu Chanzhaoyu merged commit 076c56d into Chanzhaoyu:main Mar 10, 2023
@yi-ge
Copy link
Collaborator Author

yi-ge commented Mar 10, 2023

@goodwisdom 是的

@cy-i
Copy link

cy-i commented Mar 10, 2023

可以直接加在Docker compose里吗?

@yi-ge
Copy link
Collaborator Author

yi-ge commented Mar 10, 2023

@cy-i 请尝试直接覆盖环境变量在Docker compose的build之前。

@goodwisdom
Copy link

@cy-i 请尝试直接覆盖环境变量在Docker compose的build之前。

是不是直接在Docker compose增加这个设置的代码,重新拉取下镜像,就可以了?

@yi-ge
Copy link
Collaborator Author

yi-ge commented Mar 10, 2023

@goodwisdom 我看了一下https://github.com/Chanzhaoyu/chatgpt-web/blob/main/docker-compose/docker-compose.yml文件,前端是编译后放置dist/*文件到/usr/share/nginx/html,因此和Docker无关。编译之前修改好.env即可。

@goodwisdom
Copy link

@goodwisdom 我看了一下https://github.com/Chanzhaoyu/chatgpt-web/blob/main/docker-compose/docker-compose.yml文件,前端是编译后放置dist/*文件到/usr/share/nginx/html,因此和Docker无关。编译之前修改好.env即可。

最怕这样了,docker部署的,找不到文件,要是能和设置权限密码一样,直接添加就好了

wanmyj pushed a commit to wanmyj/chatgpt-web-Business that referenced this pull request Mar 10, 2023
* chore: rename environment variables files

* docs: update README.md about .env file

* feat: support long reply

* chore: upgrade chatgpt package and set long reply to false default

* chore: set long reply to false default
@openaddr
Copy link

长回复功能会很贵吗?
我记得ChatGPT现在的模型单价是0.002/1k tokens

@goodwisdom
Copy link

goodwisdom commented Mar 11, 2023

@goodwisdom 是的

我用非docker的安装方式完成了安装,经测试长回复到后半段时,会有卡顿现象,这个可以优化吗?我看bilibili有连续生成100秒不卡顿的案例

修正下:我测试的时候估计是服务器繁忙阶段,目前测试输出顺滑

@yi-ge
Copy link
Collaborator Author

yi-ge commented Mar 11, 2023

@goodwisdom 这应该算是常规方法的,你说的找不到文件是什么情况呢?具体描述一下

@yi-ge
Copy link
Collaborator Author

yi-ge commented Mar 11, 2023

长回复功能会很贵吗? 我记得ChatGPT现在的模型单价是0.002/1k tokens

@openaddr 也还好,正常使用不贵,被恶意滥用就贵了。

@goodwisdom
Copy link

goodwisdom commented Mar 11, 2023

@goodwisdom 这应该算是常规方法的,你说的找不到文件是什么情况呢?具体描述一下

1、docker安装一般都是直接下载官方的镜像安装的,安装好后,在服务器里是找到不.env文件的,也就没法在里面进行参数修改了

2、启动长回复功能后,似乎下载安装客户端的功能就不能生效了

@goodwisdom
Copy link

长回复功能会很贵吗? 我记得ChatGPT现在的模型单价是0.002/1k tokens

@openaddr 也还好,正常使用不贵,被恶意滥用就贵了。

长回复消耗多,指的是没有回答完,会讲问题再提交一次是吗?其他情况下消耗不变吧?

@yi-ge
Copy link
Collaborator Author

yi-ge commented Mar 11, 2023

@goodwisdom 问题1,前端是先编译的,与是否使用docker无关。
问题2,与是否启用长回复无关。

@yi-ge
Copy link
Collaborator Author

yi-ge commented Mar 11, 2023

@goodwisdom
Copy link

通过设置根目录下.env文件的环境变量VITE_GLOB_OPEN_LONG_REPLY=true,实现回复内容超过长度的时候自动开启继续回复功能。避免了回复代码或其他格式时由于长度超限再次手工“继续”后导致格式错乱。

注意:开启此功能可能导致API费用过高。

此功能依赖于另外一个PR得到合并:transitive-bullshit/agentic#459 及升级chatgpt-api版本。

是否可以将此功能变成和访问权限设置一样,可以在Docker compose中直接添加变量来实现,当然如果能在页面上增加一个控制开关来实现就更完美了

@yi-ge
Copy link
Collaborator Author

yi-ge commented Mar 11, 2023

@goodwisdom 等待功能稳定后会的。

@goodwisdom
Copy link

@goodwisdom 等待功能稳定后会的。

谢谢,你贡献的功能,我都很喜欢,哈哈

@yi-ge
Copy link
Collaborator Author

yi-ge commented Mar 11, 2023

@goodwisdom 谢谢,其他喜欢的功能,点个赞呗

@goodwisdom
Copy link

goodwisdom commented Mar 12, 2023

长回复,如果是代码的时候,有时会出现下面的错误,第二张图是正确的形式:
mmexport1678629699660.png

mmexport1678629704034.png

@yi-ge
Copy link
Collaborator Author

yi-ge commented Mar 12, 2023

长回复,如果是代码的时候,有时会出现下面的错误,第二张图是正确的形式: mmexport1678629699660.png

mmexport1678629704034.png

这个问题估计只能等openai 修复了^_^

@zhy3213
Copy link

zhy3213 commented Mar 14, 2023

这个功能十分需要,更新后,是可以通过环境变量直接做设置了是吧?不需要进入到文件中去做修改吧?

通过环境变量设置好像并不能生效?

jingChen55 pushed a commit to jingChen55/chatgpt-web that referenced this pull request Mar 27, 2023
* chore: rename environment variables files

* docs: update README.md about .env file

* feat: support long reply

* chore: upgrade chatgpt package and set long reply to false default

* chore: set long reply to false default
jingChen55 pushed a commit to jingChen55/chatgpt-web that referenced this pull request Mar 27, 2023
* chore: rename environment variables files

* docs: update README.md about .env file

* feat: support long reply

* chore: upgrade chatgpt package and set long reply to false default

* chore: set long reply to false default
suikodev referenced this pull request in AstraSurge/gpteams Mar 27, 2023
* chore: rename environment variables files

* docs: update README.md about .env file

* feat: support long reply

* chore: upgrade chatgpt package and set long reply to false default

* chore: set long reply to false default
@realcbb
Copy link

realcbb commented Mar 29, 2023

通过设置根目录下.env文件的环境变量VITE_GLOB_OPEN_LONG_REPLY=true,实现回复内容超过长度的时候自动开启继续回复功能。避免了回复代码或其他格式时由于长度超限再次手工“继续”后导致格式错乱。
注意:开启此功能可能导致API费用过高。
此功能依赖于另外一个PR得到合并:transitive-bullshit/chatgpt-api#459 及升级chatgpt-api版本。

是否可以将此功能变成和访问权限设置一样,可以在Docker compose中直接添加变量来实现,当然如果能在页面上增加一个控制开关来实现就更完美了

强烈支持!

@devyujie
Copy link

通过设置根目录下.env文件的环境变量VITE_GLOB_OPEN_LONG_REPLY=true,实现回复内容超过长度的时候自动开启继续回复功能。避免了回复代码或其他格式时由于长度超限再次手工“继续”后导致格式错乱。
注意:开启此功能可能导致API费用过高。
此功能依赖于另外一个PR得到合并:transitive-bullshit/chatgpt-api#459 及升级chatgpt-api版本。

是否可以将此功能变成和访问权限设置一样,可以在Docker compose中直接添加变量来实现,当然如果能在页面上增加一个控制开关来实现就更完美了

强烈支持!

+1

@yi-ge
Copy link
Collaborator Author

yi-ge commented Mar 30, 2023

我加的说明被删了,暂时不清楚作者对这个功能的立场。😊

@cnchef
Copy link

cnchef commented Apr 5, 2023

为什么设置自己的key不生效 还是会使用站长自己的网站api进程回答?
前端代码中的api地址修改为本地后端地址就报错了src/api/index.ts 只能用站长的地址url: 'https://cbjtestapi.binjie.site:7777/api/generate',
本地地址 // url: 'http://localhost:3002/api/generate',
这是为什么??求解惑

@DearChuck
Copy link

可以直接加在Docker compose里吗?

docker hub里面的代码没有找到VITE_GLOB_OPEN_LONG_REPLY的环境变量的设置,现在的docker-compose里基于的镜像还是旧的代码,,这样是不是得重新build一个镜像才行啊?

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

Successfully merging this pull request may close these issues.

10 participants