Search results

编译安装时，third_party中的sentencepiece的cmake_minimum_required(VERSION 3.1 FATAL_ERROR)需要更新至3.5

Status: Open.

#351 In li-plus/chatglm.cpp;

· stjuliet opened on Apr 3, 2025

对CharacterGLM-6B量化失败

Status: Open.

#350 In li-plus/chatglm.cpp;

· yc-chn opened on Feb 7, 2025

能支持arm64架构的linux环境编译吗

Status: Open.

#348 In li-plus/chatglm.cpp;

· QDPeng opened on Sep 18, 2024

你好，我的开发环境有2张卡，推理时想使用2张卡进行并行推理。请问推理时，可以指定用哪张卡吗

Status: Open.

#346 In li-plus/chatglm.cpp;

· XiaoYangWu opened on Sep 11, 2024

glm-4-9b-chat量化bin模型(精度q8_0)调用function calling失败

Status: Open.

#345 In li-plus/chatglm.cpp;

· rustjiao opened on Sep 10, 2024

关于在Windows环境下编译CUDA版本出现的问题和一些应该去标明环境的细节

Status: Open.

#343 In li-plus/chatglm.cpp;

· XiaoQiu2451 opened on Sep 1, 2024

运行./build/bin/main -m models/chatglm-ggml.bin -p 你好时报错， '.' 不是内部或外部命令，也不是可运行的程序 或批处理文件。

Status: Open.

#342 In li-plus/chatglm.cpp;

· yuanyuanwang123 opened on Aug 16, 2024

CUDA可用，但是推理时还是用的CPU

Status: Open.

#341 In li-plus/chatglm.cpp;

· sxsp opened on Aug 9, 2024

跑比较长文本推理报错

Status: Open.

#338 In li-plus/chatglm.cpp;

· leizhu1989 opened on Jul 30, 2024

有关内容总结质量

Status: Open.

#332 In li-plus/chatglm.cpp;

· leizhu1989 opened on Jul 2, 2024

量化模型再T4服务器不能调用GPU资源，是什么原因呢？

Status: Open.

#331 In li-plus/chatglm.cpp;

· hithepeng opened on Jun 28, 2024

并发问题

Status: Open.

#330 In li-plus/chatglm.cpp;

· Ab-123 opened on Jun 28, 2024