英文的分词也不只是用空格分开那么简单，比如： The golden gate bridge is located in San Francisco ，这句话如果简单的用空格 explode 的话，最终会将“ golden gate bridge ”以及“ San Francisco ”给分拆开来而失去原有的意义，有没有这方面英文词组相关的分词 api 或者开源程序？
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
This topic created in 3550 days ago, the information mentioned may be changed or developed.
 |
knightdfFeb 15, 2017
1
你想多了，这已经不是简单的分词了，是 entity extraction 了
|
 |
ligyxyFeb 15, 2017 via Android
2
second order phrase model
|
 |
yangyaofeiFeb 15, 2017 via Android
3
@knightdf 这不是 n-gram 么……
|
 |
neurocomputingFeb 15, 2017
4
stanford 有开源的 NLP 包
|
 |
slixurdFeb 15, 2017
5
所以一般英文处理的时候会保留位置信息...
|
|
knightdfFeb 15, 2017
6
@yangyaofei n-gram 只是方法
|
 |
cszeusFeb 16, 2017
8
是想做 named entity recognition 还是 tokenization?
|
|
cszeusFeb 16, 2017
9
反正可以看看 standford 的 http://nlp.stanford.edu/software/CRF-NER.shtml#Starting 或者 NLTK
|
 |
freemanFeb 16, 2017
10
还有那种没有空格的，比如： goldnecklace(gold necklace)
|
 |
holajamcFeb 16, 2017
11
斯坦福的 CoreNLP ，如果是 Java 程序员的话可以直接用，也可以配合 Python NLTK ，另外连续相同的单词首字母大写可以划分为一个词咩（逃
|
 |
liyu4Feb 16, 2017
12
wocao ，英文分词你还要怎么样！
|
 |
BarryLuNov 16, 2020
13
您好！请问一下，这个分词需求您后来用什么解决了？
|
Select Language