有下面的一个需求,请问一下大家有什么好的方案? 现在有亿级别的新闻文本数据,每条文本有超过二十个的属性(比如新闻正文、译文、时间、国家、地点等),已经使用 es 对这些数据建了索引。
现在要根据提供的关键词进行检索,对检索到的前 N 条( N 可能为 2000 、 5000 、 10000 、 100000 等)数据进行分析,主要是针对各个属性进行统计,比如统计各个国家的新闻数量。
目前是直接通过 es 拿到结果做统计,但是非常慢,有什么好的方案吗?
1
ligyxy 2016-06-02 21:23:24 +08:00 via Android
Spark cluster
|
3
fcicq 2016-06-02 22:54:58 +08:00
带宽和 IOPS 就是单机水平那就不可能指望有突破啊.
|
6
SmiteChow 2016-06-03 16:19:49 +08:00
我觉得你的 ES 部署方式有问题,是分布式的么?
|