Skip to content

Latest commit

 

History

History
42 lines (26 loc) · 1.43 KB

README.zh.md

File metadata and controls

42 lines (26 loc) · 1.43 KB

构建用户界面以与预训练的 LLM 交互

此奖励文件夹包含用于运行类似 ChatGPT 的用户界面的代码,以便与第 5 章中的预训练 LLM 交互,如下所示。

Chainlit UI 示例

为了实现此用户界面,我们使用开源 Chainlit Python 包

 

步骤 1:安装依赖项

首先,我们通过

pip install chainlit

安装 chainlit 包(或者,执行 pip install -r requirements-extra.txt。)

 

第 2 步:运行 app 代码

此文件夹包含 2 个文件:

  1. app_orig.py:此文件加载并使用来自 OpenAI 的原始 GPT-2 权重。
  2. app_own.py:此文件加载并使用我们在第 5 章中生成的 GPT-2 权重。这需要您先执行 ../01_main-chapter-code/ch05.ipynb 文件。

(打开并检查这些文件以了解更多信息。)

从终端运行以下命令之一以启动 UI 服务器:

chainlit run app_orig.py

chainlit run app_own.py

运行上述命令之一应打开一个新的浏览器选项卡,您可以在其中与模型进行交互。如果浏览器选项卡未自动打开,请检查终端命令并将本地地址复制到浏览器地址栏中(通常,地址为 http://localhost:8000)。