diff --git a/README.md b/README.md index 6a712ae..64f0711 100644 --- a/README.md +++ b/README.md @@ -1,18 +1,23 @@ # 构筑大语言模型应用 -2023 年的上半年里，我（@phodal）和 Thoughtworks 的同事们、开源社区的朋友们一起，创建了一系列的流行的或者不流行的开源项目。它们涉及了： +2023 年的上半年里，我（@phodal）和 Thoughtworks +的同事们（如：@[tianweiliu](https://github.com/tianweiliu)、@[teobler](https://github.com/teobler)、@[mutoe](https://github.com/mutoe)）、 +开源社区的同伴们（如： +卷王@[CGQAQ](https://github.com/CGQAQ)、@[genffy](https://github.com/genffy)、 @[liruifengv](https://github.com/liruifengv) +等) +一起，创建了一系列的流行的或者不流行的开源项目。它们涉及了： - Prompt 的编写、开发和管理 - 最好的大语言模型能带来什么？ - - 探索未来的软件开发架构：Unit Mesh - - 基于 AI 2.0 （ChatGPT）的应用开发探索 - - 基于 AI 2.0 （ChatGPT + Copilot）如何去设计软件开发流程 + - 探索未来的软件开发架构：Unit Mesh + - 基于 AI 2.0 （ChatGPT）的应用开发探索 + - 基于 AI 2.0 （ChatGPT + Copilot）如何去设计软件开发流程 - 如何基于开源模型构建自己的模型 - - 基于 LLaMA、ChatGLM 的微调 - - 开源大语言模型 + 软件开发生命周期的结合 + - 基于 LLaMA、ChatGLM 的微调 + - 开源大语言模型 + 软件开发生命周期的结合 - LLM 应用架构的设计与落地 - - 如何设计一个基于 LLM 的应用架构 - - 如何将 LLM 应用到软件开发中 + - 如何设计一个基于 LLM 的应用架构 + - 如何将 LLM 应用到软件开发中 围绕于上述的一系列内容，我们也在思考软件开发能给我们带来了什么。所以，我重新整理了过去半年的一些思考、文章，重新编写了这本开源电子书，希望能够帮助到大家。 @@ -34,4 +39,18 @@ | [AutoDev](https://github.com/unit-mesh/auto-dev) | 一款 Intellij IDEA 的 LLM/AI 辅助编程插件。AutoDev 能够与您的需求管理系统（例如 Jira、Trello、Github Issue 等）直接对接。 | IDEA 插件 | 207 | | [ArchGuard Co-mate](https://github.com/archguard/co-mate) | 基于人工智能技术的架构副驾驶、设计和治理工具 | 架构协同应用 | 25 | +我们在 QCon +上的演讲：[演讲：探索软件开发新工序：LLM 赋能研发效能提升](https://qcon.infoq.cn/2023/guangzhou/presentation/5319) + +> LLM（如 ChatGPT + GitHub +> Copilot）作为一种创新的工具组合，为我们带来了全新的机遇。它能够帮助业务人员和开发者在需求、架构、编码、测试等环节提高效率和质量，实现从设计到验证的端到端流程。在本次分享中，我将向大家介绍 +> LLM 在研发效能方面的应用场景和实践案例，展示它是如何在各个环节中发挥作用的。同时，我们还将分享如何构建私有化的 LLM +> 工程化方式，使其更好地适应组织的需求。欢迎对 LLM + 研发效能感兴趣的朋友们参加本次分享，与我们一起探讨研发效能的未来。 + +我们在 Bilibili 上的大语言模型微调相关的视频： + +- LLaMA + 系列在线视频： 《[代码辅助生成](https://www.bilibili.com/video/BV1Rh411u74H/)》 、《[测试代码生成](https://www.bilibili.com/video/BV1jg4y1G7Xc/)》 、《[详细需求生成](https://www.bilibili.com/video/BV1Us4y1N7rd/)》 、《[文本转 SQL](https://www.bilibili.com/video/BV1uv4y1H7bg/)》 +- ChatGLM 系列在线视频： 《[LoRA 大比拼：ChatGLM vs LLaMA，谁更会写需求文档？](https://www.bilibili.com/video/BV1fv4y1n7Y3/)》 + 欢迎大家一起来参与我们的开源项目，一起来探索 LLM + 软件开发的未来。 diff --git a/src/SUMMARY.md b/src/SUMMARY.md index 7dc8567..28594e4 100644 --- a/src/SUMMARY.md +++ b/src/SUMMARY.md @@ -17,15 +17,15 @@ # LLM 应用手册 - 应用开发模式 - [开发 LLM 应用之前](./develop-llm-app-setup.md) -- [Workflow + AI 2.0](./develop-llm-app-with-workflow.md) -- [DSL 驱动开发](./dsl-driven-development.md) -- [LLM 集成模式](./develop-llm-intergration-patterns.md) +- [模式：高质量流程驱动](./develop-llm-app-with-workflow.md) +- [模式：DSL 驱动开发](./dsl-driven-development.md) +- [LLM 应用集成模式](./develop-llm-intergration-patterns.md) # LLM 应用手册 - 微调 + LLMOps篇 - [微调之前的准备](./finetune-setup.md) -- [微调的三阶六步：LLMOps](./finetune-llm-ops.md) -- [BizDevOps + 微调](./finetune-bizdevops.md) +- [微调模式：三阶六步 + LLMOps](./finetune-llm-ops.md) +- [示例：BizDevOps](./finetune-bizdevops.md) # LLM 应用手册 - 训练篇（TBD） diff --git a/src/develop-llm-app-with-workflow.md b/src/develop-llm-app-with-workflow.md index 5ea840c..f85ebbf 100644 --- a/src/develop-llm-app-with-workflow.md +++ b/src/develop-llm-app-with-workflow.md @@ -9,7 +9,7 @@ 简单来说，就是我们依旧需要碳基生物作为检查官，来检查硅基生物输出是否合理？ -## 高质量流程 +## 设计构建高质量流程 基于我们对 ChatGPT 的使用经验，我们建议在使用 ChatGPT 之前，先考虑如何设计高质量的流程。这里的高质量流程，指的是： @@ -49,9 +49,7 @@ ## ChatFlow 是什么？ -让 AI 来读标题，回答一下这个问题： - -- Write about ChatFlow：开源 ChatFlow：让人类设计高质量流程，让 ChatGPT 生成与复读 +![ChatFlow](images/chatflow-writing.png) ChatFlow 是一个基于自然语言处理（NLP）的流程编排工具，具有以下特点： @@ -72,28 +70,27 @@ ChatFlow 是一个基于自然语言处理（NLP）的流程编排工具，具 在线示例：[https://www.clickprompt.org/zh-CN/click-flow/](https://www.clickprompt.org/zh-CN/click-flow/) -### ChatFlow 示例：需求与代码生成 +### ChatFlow 示例：需求与代码生成。 用于帮助开发人员快速生成代码并进行测试，从而加快开发进度和提高代码质量。 -### ChatFlow 示例：**软件系统设计** +![](images/chatflow-ac.png) + +### ChatFlow 示例：软件系统设计 用于帮助系统设计人员快速理解用户需求并生成对应的系统设计方案。 +![](imags/chatflow-software-design.png) + ### ChatFlow 示例：写作的发散与探索 用于帮助写作人员快速生成文章并进行修改和编辑，从而提高写作效率和文章质量。 +![ChatFlow](images/chatflow-writing.png) + ### ChatFlow 示例：ClickPrompt 工作流 用于帮助开发团队快速解决问题并进行代码审查，从而加快项目进度和提高代码质量。 -## 未来：ChatFlow 的下一步 - -作为一个刚挖的新坑，我们缺乏关于这一领域的相关知识，所以如果你也有兴趣，欢迎来加入我们。 - -与一个简单的工具相比，我们更想把 ChatFlow 做成一个框架，类似于 Hexo 这一类的博客软件。所以，我们暂时计划： +![](images/clickprompt-workflow.png) -1. 扩展更多的可视化组件：除了表格和时间轴，还可以考虑增加图表、地图、树形结构等更多的组件。这样，用户可以更加方便地构建自己的工作流，实现更加复杂的业务需求。 -2. 插件开发机制：建立一个开放的插件开发机制，让开发者可以开发和共享自己的插件，从而增加 ChatFlow 的可扩展性。这样，用户可以根据自己的需求选择合适的插件，也可以为其他用户贡献自己的插件。 -3. 易于编写的工作流：将编写工作流的难度降到最低，尽可能让用户只需拖拽和连接组件就能完成工作流的构建。同时，还可以为高级用户提供更多的编程接口，让他们能够更加自由地控制工作流的执行。 diff --git a/src/images/chatflow-ac.png b/src/images/chatflow-ac.png new file mode 100644 index 0000000..ec06b41 Binary files /dev/null and b/src/images/chatflow-ac.png differ diff --git a/src/images/chatflow-software-design.png b/src/images/chatflow-software-design.png new file mode 100644 index 0000000..3029f73 Binary files /dev/null and b/src/images/chatflow-software-design.png differ diff --git a/src/images/chatflow-writing.png b/src/images/chatflow-writing.png new file mode 100644 index 0000000..84d26ec Binary files /dev/null and b/src/images/chatflow-writing.png differ diff --git a/src/images/clickprompt-workflow.png b/src/images/clickprompt-workflow.png new file mode 100644 index 0000000..26f573d Binary files /dev/null and b/src/images/clickprompt-workflow.png differ diff --git a/src/prelude.md b/src/prelude.md index 929ef34..9d06c9a 100644 --- a/src/prelude.md +++ b/src/prelude.md @@ -1,6 +1,11 @@ # 构筑大语言模型应用 -2023 年的上半年里，我（@phodal）和 Thoughtworks 的同事们、开源社区的朋友们一起，创建了一系列的流行的或者不流行的开源项目。它们涉及了： +2023 年的上半年里，我（@phodal）和 Thoughtworks +的同事们（如：@[tianweiliu](https://github.com/tianweiliu)、@[teobler](https://github.com/teobler)、@[mutoe](https://github.com/mutoe)）、 +开源社区的同伴们（如： +卷王@[CGQAQ](https://github.com/CGQAQ)、@[genffy](https://github.com/genffy)、 @[liruifengv](https://github.com/liruifengv) +等) +一起，创建了一系列的流行的或者不流行的开源项目。它们涉及了： - Prompt 的编写、开发和管理 - 最好的大语言模型能带来什么？ @@ -34,4 +39,19 @@ | [AutoDev](https://github.com/unit-mesh/auto-dev) | 一款 Intellij IDEA 的 LLM/AI 辅助编程插件。AutoDev 能够与您的需求管理系统（例如 Jira、Trello、Github Issue 等）直接对接。 | IDEA 插件 | 207 | | [ArchGuard Co-mate](https://github.com/archguard/co-mate) | 基于人工智能技术的架构副驾驶、设计和治理工具 | 架构协同应用 | 25 | +我们在 QCon +上的演讲：[演讲：探索软件开发新工序：LLM 赋能研发效能提升](https://qcon.infoq.cn/2023/guangzhou/presentation/5319) + +> LLM（如 ChatGPT + GitHub +> Copilot）作为一种创新的工具组合，为我们带来了全新的机遇。它能够帮助业务人员和开发者在需求、架构、编码、测试等环节提高效率和质量，实现从设计到验证的端到端流程。在本次分享中，我将向大家介绍 +> LLM 在研发效能方面的应用场景和实践案例，展示它是如何在各个环节中发挥作用的。同时，我们还将分享如何构建私有化的 LLM +> 工程化方式，使其更好地适应组织的需求。欢迎对 LLM + 研发效能感兴趣的朋友们参加本次分享，与我们一起探讨研发效能的未来。 + +我们在 Bilibili 上的大语言模型微调相关的视频： + +- LLaMA + 系列在线视频： 《[代码辅助生成](https://www.bilibili.com/video/BV1Rh411u74H/)》 、《[测试代码生成](https://www.bilibili.com/video/BV1jg4y1G7Xc/)》 、《[详细需求生成](https://www.bilibili.com/video/BV1Us4y1N7rd/)》 、《[文本转 SQL](https://www.bilibili.com/video/BV1uv4y1H7bg/)》 +- ChatGLM 系列在线视频： 《[LoRA 大比拼：ChatGLM vs LLaMA，谁更会写需求文档？](https://www.bilibili.com/video/BV1fv4y1n7Y3/)》 + 欢迎大家一起来参与我们的开源项目，一起来探索 LLM + 软件开发的未来。 +