lightNLP:框架功能丰富,开箱即用
向AI转型的程序员都关注了这个号????????????
机器学习AI算法工程 公众号:datayx
基于Pytorch和torchtext的自然语言处理深度学习框架,包含序列标注、文本分类、句子关系、文本生成、结构分析、五大功能模块,已实现了命名实体识别、中文分词、词性标注、语义角色标注、情感分析、关系抽取、语言模型、文本相似度、文本蕴含、依存句法分析、词向量训练、聊天机器人、机器翻译、文本摘要等功能。
项目地址地址获取
关注微信公众号 datayx 然后回复 NLP 即可获取。
AI项目体验地址 https://loveai.tech
依据自然语言处理四大任务等,框架主要设计为有以下五大功能:
序列标注, Sequence Labeling
文本分类, Text Classification
句子关系, Sentence Relation
文本生成, Text Generation
结构分析, Structure Parsing
因此将有五个主要的功能模块:sl(序列标注)、tc(文本分类)、sr(句子关系)、tg(文本生成)、sp(结构分析)和其他功能模块如we(词向量)。
当前已实现的功能
序列标注,sl
中文分词,cws
命名实体识别,ner
词性标注,pos
语义角色标注, srl
结构分析,sp
基于图的依存句法分析,gdp
基于转移的依存句法分析, tdp
句子关系,sr
语句相似度,ss
文本蕴含,te
文本分类,tc
关系抽取,re
情感极性分析,sa
文本生成,tg
语言模型,lm
聊天机器人,cb
机器翻译,mt
文本摘要,ts
词向量,we
-
词袋模型,cbow
base
hierarchical_softmax
negative_sampling
-
跳字模型,skip_gram
base
hierarchical_softmax
negative_sampling
安装
本项目基于Pytorch1.0
pip install lightNLP
建议使用国内源来安装,如使用以下命令:
pip install -i https://pypi.douban.com/simple/ lightNLP
模型
ner: BiLstm-Crf
cws: BiLstm-Crf
pos: BiLstm-Crf
srl:BiLstm-Crf
sa: TextCnn
re: TextCnn,当前这里只是有监督关系抽取
lm: Lstm,基础的LSTM,没有使用Seq2Seq模型
ss: 共享LSTM + 曼哈顿距离
te:共享LSTM + 全连接
tdp: lstm + mlp + shift-reduce(移入规约)
gdp: lstm + mlp + biaffine(双仿射)
cbow: base、hierarchical_softmax、negative_sampling
skip_gram: base、hierarchical_softmax、negative_sampling
cb: Seq2Seq+Attention
mt: Seq2Seq+Attention
ts: Seq2Seq+Attention
阅读过本文的人还看了以下:
不断更新资源
深度学习、机器学习、数据分析、python
搜索公众号添加: datayx
长按图片,识别二维码,点关注
AI项目体验
https://loveai.tech