spaCy的标记化 ,因此它始终代表原始输入文本,并且从不添加或删除任何内容。这是Doc
对象的一种核心原理:您应该 始终 能够重建和再现原始输入文本。
尽管 可以 解决此问题,但通常有更好的方法可以实现相同的目的而不破坏输入文本?Doc
文本一致性。一种解决方案是根据您要使用的任何目标,向令牌添加自定义扩展属性,例如is_excluded
:
from spacy.tokens import Token
def get_is_excluded(token):
# Getter function to determine the value of token._.is_excluded
return token.text in ['some', 'excluded', 'words']
Token.set_extension('is_excluded', getter=get_is_excluded)
处理时Doc
,您现在可以对其进行过滤,以仅获取未排除的令牌:
doc = nlp("Test that tokens are excluded")
print([token.text for token if not token._.is_excluded])
# ['Test', 'that', 'tokens', 'are']
您还可以使用Matcher
或PhraseMatcher
在上下文中找到标记序列并将其标记为已排除,从而使其更加复杂。
另外,出于完整性考虑:如果您确实想更改中的令牌Doc
,则可以通过构造一个新的Doc
对象来实现此目的,words
该对象具有(字符串列表)和可选spaces
(布尔值列表,指示令牌后跟空格还是空格)不)。要构造Doc
具有词性标签或依赖项标签Doc.from_array
之类的属性的,您可以调用具有要设置的属性和值(所有ID)的numpy数组的方法。