此奖励文件夹包含用于运行类似 ChatGPT 的用户界面的代码,以便与第 5 章中的预训练 LLM 交互,如下所示。
为了实现此用户界面,我们使用开源 Chainlit Python 包。
首先,我们通过
pip install chainlit
安装 chainlit
包(或者,执行 pip install -r requirements-extra.txt
。)
此文件夹包含 2 个文件:
app_orig.py
:此文件加载并使用来自 OpenAI 的原始 GPT-2 权重。app_own.py
:此文件加载并使用我们在第 5 章中生成的 GPT-2 权重。这需要您先执行../01_main-chapter-code/ch05.ipynb
文件。
(打开并检查这些文件以了解更多信息。)
从终端运行以下命令之一以启动 UI 服务器:
chainlit run app_orig.py
或
chainlit run app_own.py
运行上述命令之一应打开一个新的浏览器选项卡,您可以在其中与模型进行交互。如果浏览器选项卡未自动打开,请检查终端命令并将本地地址复制到浏览器地址栏中(通常,地址为 http://localhost:8000
)。