理工酷

利用预训练的中文模型实现基于bert的语义匹配模型

环境配置

tensorflow >= 1.11.0 # CPU Version of TensorFlow.
# tensorflow-gpu >= 1.11.0 # GPU version of TensorFlow.
Pandas

数据集

LCQMC官方数据，下载到data文件夹

包含训练、验证和测试集，训练集包含24万口语化描述的中文句子对，标签为1或0。1为句子语义相似，0为语义不相似。

文件说明

• 训练脚本 train.sh
• 批量测试脚本 predict.sh
• 利用模型进行单条语句测试 intent.py
• chinese_L-12_H-768_A-12为预训练的相关模型和词典

参数说明

• max_seq_length sentence的最大长度（字）
• train_batch_size batch_size的大小
• max_seq_length = 50
• eval_accuracy = 0.87207
• test_accuracy = 0.86272
• max_seq_length = 40
• eval_accuracy = 0.88093615
• test_accuracy = 0.86256

来源https://github.com/pengming617/bert_textMatching/blob/master/data/test.txt