This project accelerates local deployment of chatglm and vector inference using PyTorch compiled in C++, and includes an OpenAI API Mock script for quick setup of local speed testing services. This setup enhances performance and efficiency, ideal for high-performance applications and development testing.

to train a wechat version of yourself. 用微信聊天数据训练微信版的你, aka wechat-me. 支持Qwen1.5, Yi, InterLM2, ChatGLM3, Baichuan2等。

(简单/Simple 易学/Hackable 的中文大模型微调) lit-gpt with chinese models, Qwen1.5/MoE, InternLM2, Yi, Baichuan2, ChatGLM2/3.

An spoken English chatbot runs in realtime and offline based on LLM.

自学自讲_学习笔记_c06_自学_王树森老师的b站系列分享

A Genshin Impact Book Question Answer Project supported by LLM

一个小玩具demo：使用LangChain调用本地ChatGLM3-6B模型实现的搜索引擎agent

Genshin Impact Character Instruction Models tuned by Lora on LLM

open-llms-next-web，一个类似于chatgpt-next-web的开源大型语言模型web演示，支持离线开源大模型和PEFT模型

LLM API Server , OpenAI 同时支持 ChatGLM3 ，Llama, Llama-3, Firefunction, Openfunctions ，BAAI/bge-m3 ,bge-large-zh-v1.5

Deploy a demo of ChatGLM3 using Docker, Docker Compose, and Poetry in an environment without a GPU.

欢迎star⭐。使用微信聊天记录微调大语言模型，并绑定到微信机器人，实现自己的数字克隆。 LLM/大语言模型/大模型/微信聊天记录/微信聊天机器人/LoRA

一个基于HuggingFace开发的大语言模型训练、测试工具。支持各模型的webui、终端预测，低参数量及全参数模型训练(预训练、SFT、RM、PPO、DPO)和融合、量化。

👋 欢迎来到 ChatGLM 创意世界！你可以使用修订和续写的功能来生成创意内容！

基于ChatGLM-6B、ChatGLM2-6B、ChatGLM3-6B模型，进行下游具体任务微调，涉及Freeze、Lora、P-tuning、全参微调等

An efficient, flexible and full-featured toolkit for fine-tuning LLM (InternLM2, Llama3, Phi3, Qwen, Mistral, ...)

C++ implementation of ChatGLM-6B & ChatGLM2-6B & ChatGLM3 & GLM4(V)

《开源大模型食用指南》基于Linux环境快速部署开源大模型，更适合中国宝宝的部署教程