用于金融领域的智能问答客服
- 该模组可以在中国金融语境下,与用户展开关于金融话题的多轮对话,或是为用户解释金融专业的相关知识。如智能金融技术知识回答,情感分析,
- 用到的技术:RAG, 微调
- 用到的数据:爬取维基百科等,网上检索现有数据集(如情感分析),调用大模型根据材料生成问题和答案
- 该模组可以基于金融新闻、研报和相关政策文件为用户提供投资建议、时事分析、政策解读。
- 用到的技术:RAG
- 用到的数据:爬取东方财富网新闻研报等文本材料
先将金融知识等材料文本向量化处理存储至本地作为数据库,用户进行提问时,将问题向量化,然后算相似度找到最接近的文本材料作为Prompt(提示)来让基础大模型对问题和材料做一个总结性的回答。
- 优点:回答效果较好,准确。
- 缺点:每篇材料不能过长,与基础模型的输入最大token限制有关,可以将材料按内容分块存储。
LORA是一种低资源微调大模型方法,使用LORA,训练参数仅为整体参数的万分之一、GPU显存使用量减少2/3且不会引入额外的推理耗时。基础模型参数锁住不变,增加新参数,使用数据进行微调。
- 调研整理
- 模型训练,部署,测试效果,随时更新。
- 量化预测
- 欺诈识别