深度学习文本分类工具 CoolNLTK 发布 - 开源中国社区
深度学习文本分类工具 CoolNLTK 发布
正_午 2018年03月13日

深度学习文本分类工具 CoolNLTK 发布

正_午 正_午 发布于2018年03月13日 收藏 9 评论 0

在您的既有IT基础设施上按需构建人工智能更高效>>>  

CoolNLTK

文本分类工具集

特点

  1. 多模型,相对统一的数据输入,方便效果对比

  2. 可直接用于生产

  3. 使用相对简单

已实现模型

  1. TextCNN

  2. TextRNN

  3. CLstm

模型训练

1.train file

使用和fastText一样的数据输入

测试数据可以从fastText的代码中下载然后copy到./datasets/dbpedia目录下 具体方法, 参照fatText的文档,运行其中的classification-example.sh就能得到dbpedia.train 和dbpedia.test

注意:类别标签是从1开始的,因为在后面训练的时候需要做pad 0 的操作,为了避免混淆。

一个例子如下:

__label__7 , joseph purdy homestead
__label__13 , forever young ( 1992 film )
__label__11 , nepenthes ' boca rose
__label__6 , mv eilean bhearnaraigh

在train/main.sh指定相关的训练样本路径

TRAIN_FILE=./datasets/dbpedia/dbpedia.train
TEST_FILE=./datasets/dbpedia/dbpedia.test # 使用的模型 可选cnn, bilstm, clstm MODEL=cnn # 中间文件输出路径 DATA_OUT_DIR=./datasets/dbpedia/ # 模型输出路径 MODEL_OUT_DIR=./results/dbpedia/

2.embedding

生成word2vec的训练数据

./main.sh pre

训练词向量

./main.sh vec

3.map file

这一步产生需要的映射文件

./main.sh map

4.tfrecord

产生tfrecord 文件

./main.sh data

5.train

模型训练

./main.sh train

6.模型导出

导出成pb文件,可用Java,Go语言读取

./main export

模型使用

在predict.py中有例子,读取上面训练好导出的模型,和产生的vocab.json文件

TextRNN、TextCNN,CLstm 模型能共用这个模块

todo

  • 根据最新的tensorflow重构代码

  • 修改tfrecord 文件的格式,产生多分而不是一份

  • 添加tensorboard 

计划实现更多模型,包括但不限于下面这些

  1. HAM

  2. RCNN

  3. Recurrent Entity Network

  4. Dynamic Memory Network

[GitHub][码云]

本站文章除注明转载外,均为本站原创或编译。欢迎任何形式的转载,但请务必注明出处,尊重他人劳动共创开源社区。
转载请注明:文章转载自 开源中国社区 [http://www.oschina.net]
本文标题:深度学习文本分类工具 CoolNLTK 发布
分享
评论(0)
最新评论
顶部