Skip to content

Commit

Permalink
update
Browse files Browse the repository at this point in the history
  • Loading branch information
admin committed Jun 12, 2024
1 parent c8c6bb3 commit 519abad
Showing 1 changed file with 14 additions and 14 deletions.
28 changes: 14 additions & 14 deletions gradio.md
Original file line number Diff line number Diff line change
Expand Up @@ -11,24 +11,24 @@
修改为src="assets/iframeResizer.contentWindow.min.js"//"http://cdnjs.......
3. 代码中添加os.environ['GRADIO_ANALYTICS_ENABLED']='False'

版本3.36.1
之前搜到过一个网页,照着改就行了现在找不到了。
版本3.36.1
之前搜到过一个网页,照着改就行了现在找不到了。

# Chromadb 禁止访问posthog

代码中增加,[参考](https://github.com/zylon-ai/private-gpt/issues/34#issuecomment-1543930590)
例如在langchain中调用
from chromadb.config import Settings
db = Chroma(...,client+settings=Settings(anonymized_telemetry=False))
这是chromadb中
db = Chroma.from_documents(texts, llama, persist_directory=persist_directory, client_settings={"anonymized_telemetry": False})
代码中增加,[参考](https://github.com/zylon-ai/private-gpt/issues/34#issuecomment-1543930590)
例如在langchain中调用
from chromadb.config import Settings
db = Chroma(...,client+settings=Settings(anonymized_telemetry=False))
这是chromadb中
db = Chroma.from_documents(texts, llama, persist_directory=persist_directory, client_settings={"anonymized_telemetry": False})

# Tensorflow不能加载TensorRT的问题

tensorflow 2.16之后删除了tensorflow-gpu(最后版本停留在2.11版)。
tensorflow 2.16 [安装要求](https://tensorflow.google.cn/install/gpu?hl=zh-cn) :gpu驱动450以上版本,cuda 11.2,tensorRT 6.0, cudnn 8.1
pytorch 已经开始用cuda 12了,所以2个都用就有点麻烦的。
tensorflow 2.16.1使用tensorRT,好像连cudnn都没有加载成功。训练推理速度是上面的3倍。
tensorflow 2.16之后删除了tensorflow-gpu(最后版本停留在2.11版)。
tensorflow 2.16 [安装要求](https://tensorflow.google.cn/install/gpu?hl=zh-cn) :gpu驱动450以上版本,cuda 11.2,tensorRT 6.0, cudnn 8.1
pytorch 已经开始用cuda 12了,所以2个都用就有点麻烦的。
tensorflow 2.16.1使用tensorRT,好像连cudnn都没有加载成功。

最后只能使用tensorflow 2.11.0
在tensorflow 2.11.0下使用tensorRT需要安装tensorflow-gpu 2.11
最后只能使用tensorflow 2.11.0
在tensorflow 2.11.0下使用tensorRT需要安装tensorflow-gpu 2.11。安装成功后,训练推理速度是上面的3倍。

0 comments on commit 519abad

Please sign in to comment.