Pytorch实现中文文本分类任务（Bert，ERNIE，TextCNN，TextRNN，FastText，TextRCNN，BiLSTM_Attention, DPCNN, Transformer）_dpcnn模型pytorch实现

Chinese-Text-Classification

Github项目地址：https://github.com/JackHCC/Chinese-Text-Classification-PyTorch

中文文本分类，基于pytorch，开箱即用。

• 神经网络模型：TextCNN，TextRNN，FastText，TextRCNN，BiLSTM_Attention, DPCNN, Transformer

• 预训练模型：Bert，ERNIE

介绍

神经网络模型

模型介绍、数据流动过程：参考

数据以字为单位输入模型，预训练词向量使用 搜狗新闻 Word+Character 300d，点这里下载

预训练模型

参考：

• ERNIE - 详解
• DPCNN 模型详解
• 从经典文本分类模型TextCNN到深度模型DPCNN

环境

python 3.7
pytorch 1.1
tqdm
sklearn
tensorboardX
pytorch_pretrained_bert(预训练代码也上传了, 不需要这个库了)

中文数据集

我从THUCNews中抽取了20万条新闻标题，已上传至github，文本长度在20到30之间。一共10个类别，每类2万条。数据以字为单位输入模型。

类别：财经、房产、股票、教育、科技、社会、时政、体育、游戏、娱乐。

数据集划分：

更换数据集

• 按照THUCNews数据集的格式来格式化自己的中文数据集。
• 对于神经网络模型：
  • 如果用字，按照数据集的格式来格式化你的数据。
  • 如果用词，提前分好词，词之间用空格隔开，python run.py --model TextCNN --word True
  • 使用预训练词向量：utils.py的main函数可以提取词表对应的预训练词向量。

实验效果

机器：一块2080Ti ， 训练时间：30分钟。

原始的bert效果就很好了，把bert当作embedding层送入其它模型，效果反而降了，之后会尝试长文本的效果对比。

预训练语言模型

bert模型放在 bert_pretain目录下，ERNIE模型放在ERNIE_pretrain目录下，每个目录下都是三个文件：

• pytorch_model.bin
• bert_config.json
• vocab.txt

预训练模型下载地址：

bert_Chinese: 模型 https://s3.amazonaws.com/models.huggingface.co/bert/bert-base-chinese.tar.gz
词表 https://s3.amazonaws.com/models.huggingface.co/bert/bert-base-chinese-vocab.txt

来自这里

备用：模型的网盘地址：https://pan.baidu.com/s/1qSAD5gwClq7xlgzl_4W3Pw

ERNIE_Chinese: https://pan.baidu.com/s/1lEPdDN1-YQJmKEd_g9rLgw

来自这里

解压后，按照上面说的放在对应目录下，文件名称确认无误即可。

使用说明

神经网络方法

# 训练并测试：
# TextCNN
python run.py --model TextCNN

# TextRNN
python run.py --model TextRNN

# TextRNN_Att
python run.py --model TextRNN_Att

# TextRCNN
python run.py --model TextRCNN

# FastText, embedding层是随机初始化的
python run.py --model FastText --embedding random 

# DPCNN
python run.py --model DPCNN

# Transformer
python run.py --model Transformer
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21

预训练方法

下载好预训练模型就可以跑了：

# 预训练模型训练并测试：
# bert
python pretrain_run.py --model bert

# bert + 其它
python pretrain_run.py --model bert_CNN

# ERNIE
python pretrain_run.py --model ERNIE
1
2
3
4
5
6
7
8
9

预测

预训练模型：

python pretrain_predict.py
1

神经网络模型：

python predict.py
1

参数

模型都在models目录下，超参定义和模型定义在同一文件中。

参考

论文

[1] Convolutional Neural Networks for Sentence Classification

[2] Recurrent Neural Network for Text Classification with Multi-Task Learning

[3] Attention-Based Bidirectional Long Short-Term Memory Networks for Relation Classification

[4] Recurrent Convolutional Neural Networks for Text Classification

[5] Bag of Tricks for Efficient Text Classification

[6] Deep Pyramid Convolutional Neural Networks for Text Categorization

[7] Attention Is All You Need

[8] BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding

[9] ERNIE: Enhanced Representation through Knowledge Integration

仓库

本项目基于以下仓库继续开发优化：

• https://github.com/649453932/Chinese-Text-Classification-Pytorch
• https://github.com/649453932/Bert-Chinese-Text-Classification-Pytorch