Azure OpenAI Proxy

English | 简体中文

一个 Azure OpenAI API 代理工具，能将 OpenAI API 请求转换为 Azure OpenAI API 请求，使仅支持 OpenAI 的应用程序可以无缝地使用 Azure Open AI。

使用要求

必须拥有Azure OpenAI帐户才能使用 Azure OpenAI Proxy。

Azure部署

Docker Deployment

docker run -d -p 3000:3000 scalaone/azure-openai-proxy

本地运行和测试，命令行方式

1. 安装 NodeJS 18。
2. 克隆代码到命令行窗口。
3. 运行 npm install 安装依赖项。
4. 运行 npm start 启动应用程序。
5. 运行下面脚本测试，运行前需要把YOUR_RESOURCE_ID，YOUR_MODEL_DEPLOYMENT，YOUR_API_KEY, AZURE_API_VERSION替换，AZURE_API_VERSION参数可选，目前默认是2023-03-15-preview。

curl -X "POST" "http://localhost:3000/v1/chat/completions" \
-H 'Authorization: YOUR_RESOURCE_ID:YOUR_MODEL_DEPLOYMENT:YOUR_API_KEY:AZURE_API_VERSION' \
-H 'Content-Type: application/json; charset=utf-8' \
-d $'{
  "messages": [
    {
      "role": "system",
      "content": "You are an AI assistant that helps people find information."
    },
    {
      "role": "user",
      "content": "hi."
    }
  ],
  "temperature": 1,
  "model": "gpt-3.5-turbo",
  "stream": false
}'

已测试应用

以下应用已经过测试，确认可以与 azure-openai-proxy 一起工作：

App Name	E2E Docker-compose file
chatbot-ui	docker-compose.yml
chatgpt-web	docker-compose.yml
gptlite	docker-compose.yml

要在本地运行测试，请按照以下步骤操作：

1. 在命令行窗口中克隆代码。
2. 更新环境变量OPENAPI_API_KEY的值为YOUR_RESOURCE_ID:YOUR_MODEL_DEPLOYMENT:YOUR_API_KEY。或者，直接在docker-compose.yml文件中更新OPENAPI_API_KEY值。
3. 导航到包含要测试的应用程序的docker-compose.yml文件所在的目录。
4. 执行构建命令：docker-compose build。
5. 启动服务：docker-compose up -d。
6. 根据docker-compose.yml文件中定义的公开端口，启动应用以在本地进行测试。例如，访问 http://localhost:3000。

常见问题

Q：什么是YOUR_RESOURCE_ID，YOUR_MODEL_DEPLOYMENT，YOUR_API_KEY

A: 可以在Azure的管理门户里查找，具体见下图标注

Q: 如何支持GPT-4

A: 要使用GPT-4，请使用下列格式的key:

YOUR_RESOURCE_ID:gpt-3.5-turbo|YOUR_MODEL_DEPLOYMENT,gpt-4|YOUR_MODEL_DEPLOYMENT,gpt-4-32k|YOUR_MODEL_DEPLOYMENT:YOUR_API_KEY:AZURE_API_VERSION

贡献代码方式

欢迎提交各种PR。

免责声明

此代码仅供演示和测试目的。