三元组损失，原本用于图像人脸embedding的生成，很好理解，公式如下，这里我们用来作为句子represent的训练损失， 来收敛句子的embedding：
- triplet loss的优势在于细节区分，当两个输入很相似时，能够更好地对细节进行建模，交叉熵这样的损失没有办法做如此细节的区分，它度量的是真实分布和预测分布之间的距离；
- 两个具有同样标签的样本，他们在新的编码空间里距离更近；两个具有不同标签的样本，他们在新的编码空间里距离更远；
代码已做过gpu上训练的适配：
triplet_loss.py
- 实现策略：
我们选择的是batch_hard策略，即在一个batch中，循环定义每一个样本为anchor，选择距离anchor最大的positive exmaple 记为：d(a,p)；选择距离anchor最小negtive example，记为d(a,n)，我们的目标是通过训练尽可能缩小d(a,p)，增大d(a,n)； 对于1个anchor来说，loss=max(hardest_positive_dist - hardest_negative_dist + margin,0)。 假定batch=64，距离计算采用欧式距离，我们会将一个batch中的距离求平均，作为当前batch的损失
- 模型结构采用CNN + 时序模型Bilstm
- 超参数配置在conf/model.yaml
- 词级别的特征融合词属性特征，是word + word_feature的结构
- 特征用一套领域化的辞典维护：config/specific_words.txt
词特征的引入对于句子的语义表征尤为重要，当推理过程中，出现新词，可以通过添加辞典的方式，强化生词的属性特征，从而推理得到的 句子表征更加合理，在最终相似度计算时能够更贴近实际class对应的句子表征。 - 处理举例：
处理前：|今天我想看湖南卫视的快乐大本营|
处理后：|今天/我/想/看/湖南卫视//的/快乐大本营/|
模型层需要对特征词和做表征，融合方式有很多，我这里采用的embedding拼接的方式。 - 特征构建方案采用ac_tree的树搜索/utils/preprocess.py 及 /utils/ac.py
- 该项目结构可以做到新增类别时，不训练模型；
通过配置文件data/add/extra.csv添加需要的extra_text和class，在推理阶段会同时计算extra_text的句子表征，在相似度计算时， 会将extra_text所得到的表征一并纳入计算范围，若match成功，则返回extra_text对应的class。 - 该方案同样适用于badcase的快速修复
- 来自facebook的向量搜索框架：https://github.com/facebookresearch/faiss
该框架可以做很多事情，具体自行研究。我这里用到的样本数量过百万，推理时同样需要计算百万级的句子表征，因此借助faiss来加速。
- cosine_similarity;
我这里采用余弦计算句子相似度，返回top1结果，注意faiss中没有直接计算余弦的方法,方案是先对向量做normalize,再做点积，得到的 结果就是余弦相似度，基本的数学知识。
- 数据放在data文件夹，执行run.py
- text_match_with_server.py
- 增添同义词替换代码：
推理过程中，若出现同义词，会导致词级别的word feature出现OOV，因而没办法计算出句子真实的语义特征，我这里做了一个同义词替换的方法，去 替换辞典中出现的词。 - 举例：
"电视机"是一个specific_word，而"电视"是一个生词；
"电视机"词包含的语义信息为emb_a，辞典特征包含的语义信息emb_b，在不做替换情况，"电视"给不出辞典所包含的语义信息，而"电视"本身属于生词， 其给出的词级别的表征，没有任何意义，那么句子经过模型的表征也就不准确，难以匹配到正确的意图；
tm = TextMatch(ip_port='localhost:50051')
- 参数说明：
ip_port:faiss server的地址及端口号
confidence, similar_text, pred_label = tm.inference(text)
- 参数说明：
text:用户的input_text 类型：str
return:
confidence:置信度 类型：float
similar_text:top1接近的text 类型：str
pred_label:预测结果标签 类型：str