已经安装spacy , 对应的中文模型也安装了。pip list 里面都能看见spacy,和中文/英文的包 但是一旦运行就报错,就算用的是英文的模型也一样。import spacynlp = sp...
已经安装spacy , 对应的中文模型也安装了。pip list 里面都能看见spacy,和中文/英文的包 但是一旦运行就报错,就算用的是英文的模型也一样。
import spacynlp = spacy.load("zh_core_web_md")
OSError: [E050] Can't find model 'zh_core_web_md'. It doesn't seem to be a Python package or a valid path to a data directory.
SError: [E050] Can't find model 'en_core_web_md'. It doesn't seem to be a Python package or a valid path to a data directory.
spaCy是最流行的开源NLP开发包之一,它有极快的处理速度,并且预置了词性标注、句法依存分析、命名实体识别等多个自然语言处理的必备模型,因此受到社区的热烈欢迎。中文版预训练模型包括词性标注、依存分析和命名实体识别,由汇智网提供,下载地址:spaCy2.1中文模型包。
1、模型下载安装与使用
下载后解压到一个目录即可,例如假设解压到目录/models/zh_spacy,目录结构如下:
/spacy/zh_model
|-meta.json#模型描述信息
|-tokenizer
|-vocab#词库目录
|-tagger#词性标注模型
|-parser#依存分析模型
|-ner#命名实体识别模型
使用spaCy载入该模型目录即可。例如:
importspacy
nlp=spacy.load('/spacy/zh_model')
doc=nlp('西门子将努力参与中国的三峡工程建设。')
fortokenindoc:
print(token.text)
spaCy2.1中文预训练模型下载地址:
spaCy2.1中文模型包-汇智网sc.hubwiz.com
2、使用词向量
spaCy中文模型采用了中文维基语料预训练的300维词向量,共352217个词条。
例如,查看词向量表大小及维度:
importspacy
nlp=spacy.load('/spacy/zh_model')
print(nlp.vocab.vectors.shape)
print(nlp.vocab['北京'].vector)
结果如下:
(352217,300)
[-0.136166-0.3398350.5281090.417842-0.093321-0.42306-0.475931
-0.1254590.137432-0.5672290.2423390.245993-0.377495-0.274273
...
0.2380250.309567-0.692431-0.078103-0.268160.0518050.075192
-0.0529020.376131-0.2212350.23855-0.116850.40507]
3、使用词性标注
spaCy中文词性标注模型采用UniversalDependency的中文语料库进行训练。
importspacy
nlp=spacy.load('/spacy/zh_model')
doc=nlp('西门子将努力参与中国的三峡工程建设。')
fortokenindoc:
print(token.text,token.pos_,token.tag_)
将得到如下的词性标注结果:
西门子NNP
将BB
努力RB
参与VV
中国NNP
的DEC
三峡工程NN
建设NN
4、使用依存分析
spaCy中文依存分析模型采用UniversalDependency的中文语料库进行训练。
例如,下面的代码输出各词条的文本、依赖关系以及其依赖的词条:
importspacy
nlp=spacy.load('/spacy/zh_model')
doc=nlp('西门子将努力参与中国的三峡工程建设。')
fortokenindoc:
print(token.text,token.dep_,token.head)
输出结果如下:
西门子nsubj参与
将advmod参与
努力advmod参与
参与ROOT参与
中国det建设
的case:dec中国
三峡工程nmod建设
建设obj参与
。punct参与
也可以使用spaCy内置的可视化工具:
fromspacyimportdisplacy
displacy.render(doc,type='dep')
结果如下:
5、使用命名实体识别
spaCy中文NER模型采用ontonotes5.0数据集训练。
例如:
importspacy
nlp=spacy.load('/spacy/zh_model')
doc=nlp('西门子将努力参与中国的三峡工程建设。')
forentindoc.ents:
print(ent.text,ent.label_)
输出结果如下:
西门子ORG
中国GPE
三峡工程FAC
也可以使用spaCy内置的可视化工具:
fromspacyimportdisplacy
displacy.render(doc,type='ent')
运行结果如下:
原文链接:spaCy2.1中文模型包—汇智网
相关问题推荐
换行。比如,print hello\nworld效果就是helloworld\n就是一个换行符。\是转义的意思,'\n'是换行,'\t'是tab,'\\'是,\ 是在编写程序中句子太长百,人为换行后加上\但print出来是一整行。...
十种常见排序算法一般分为以下几种:(1)非线性时间比较类排序:a. 交换类排序(快速排序、冒泡排序)b. 插入类排序(简单插入排序、希尔排序)c. 选择类排序(简单选择排序、堆排序)d. 归并排序(二路归并排序、多路归并排序)(2)线性时间非比较类排序:...
前景很好,中国正在产业升级,工业机器人和人工智能方面都会是强烈的热点,而且正好是在3~5年以后的时间。难度,肯定高,要求你有创新的思维能力,高数中的微积分、数列等等必须得非常好,软件编程(基础的应用最广泛的语言:C/C++)必须得很好,微电子(数字电...
迭代器与生成器的区别:(1)生成器:生成器本质上就是一个函数,它记住了上一次返回时在函数体中的位置。对生成器函数的第二次(或第n次)调用,跳转到函数上一次挂起的位置。而且记录了程序执行的上下文。生成器不仅记住了它的数据状态,生成器还记住了程序...
python中title( )属于python中字符串函数,返回’标题化‘的字符串,就是单词的开头为大写,其余为小写
第一种解释:代码中的cnt是count的简称,一种电脑计算机内部的数学函数的名字,在Excel办公软件中计算参数列表中的数字项的个数;在数据库( sq| server或者access )中可以用来统计符合条件的数据条数。函数COUNT在计数时,将把数值型的数字计算进去;但是...
head是方法,所以需要取小括号,即dataset.head()显示的则是前5行。data[:, :-1]和data[:, -1]。另外,如果想通过位置取数据,请使用iloc,即dataset.iloc[:, :-1]和dataset.iloc[:, -1],前者表示的是取所有行,但不包括最后一列的数据,结果是个DataFrame。...
挺简单的,其实课程内容没有我们想象的那么难、像我之前同学,完全零基础,培训了半年,直接出来就工作了,人家还在北京大公司上班,一个月15k,实力老厉害了
Python针对众多的类型,提供了众多的内建函数来处理(内建是相对于导入import来说的,后面学习到包package时,将会介绍),这些内建函数功用在于其往往可对多种类型对象进行类似的操作,即多种类型对象的共有的操作;如果某种操作只对特殊的某一类对象可行,Pyt...
相当于 ... 这里不是注释
还有FIXME
python的两个库:xlrd和xlutils。 xlrd打开excel,但是打开的excel并不能直接写入数据,需要用xlutils主要是复制一份出来,实现后续的写入功能。
单行注释:Python中的单行注释一般是以#开头的,#右边的文字都会被当做解释说明的内容,不会被当做执行的程序。为了保证代码的可读性,一般会在#后面加一两个空格然后在编写解释内容。示例:# 单行注释print(hello world)注释可以放在代码上面也可以放在代...
主要是按行读取,然后就是写出判断逻辑来勘测行是否为注视行,空行,编码行其他的:import linecachefile=open('3_2.txt','r')linecount=len(file.readlines())linecache.getline('3_2.txt',linecount)这样做的过程中发现一个问题,...
或许是里面有没被注释的代码
自学的话要看个人情况,可以先在B站找一下视频看一下