JL1990
0.5D
V2EX  ›  问与答

请教各位,这种海量数据的存储方案~

  •  
  •   JL1990 · Dec 14, 2018 · 2721 views
    This topic created in 2720 days ago, the information mentioned may be changed or developed.

    每天 5~8 亿条同类型的数据,每条数据在 50+个字段(有部分没有,但是也填充成一样的字段了),求助各位 v 友,有没有什么好的数据库方案可以推荐?我好学习下

    14 replies    2018-12-15 14:27:02 +08:00
    misaka19000
        1
    misaka19000  
       Dec 14, 2018
    nosql
    misaka19000
        2
    misaka19000  
       Dec 14, 2018
    可以用 ES
    hyperdak288
        3
    hyperdak288  
       Dec 14, 2018 via Android
    需求事务就 tidb
    不需求就 es
    还是看具体的也许类型
    dapang1221
        4
    dapang1221  
       Dec 14, 2018
    “每天 5~8 亿条同类型的数据,每条数据在 50+个字段”……你这是想把日志存起来……?检索日志试下 EFK 吧,冷数据进磁带机……
    JL1990
        5
    JL1990  
    OP
       Dec 14, 2018
    没有事务需求,可以说是日志呢,ES 性能怎么样?抱歉,没有用过相关的。我查了下,是属于开源搜索与分析的软件,但存储方案呢?选什么数据库比较好?做集群的话,得多少台机器起步呀~
    @hyperdak288
    @dapang1221
    jiang2018
        6
    jiang2018  
       Dec 15, 2018 via Android
    要做分析吗
    jiang2018
        7
    jiang2018  
       Dec 15, 2018 via Android
    加微信 1259131780
    jiang2018
        8
    jiang2018  
       Dec 15, 2018 via Android
    HANA 内存数据库了解下
    FullBridgeRect
        9
    FullBridgeRect  
       Dec 15, 2018 via Android
    @JL1990 es 貌似可以存东西的
    SsuchingYu
        10
    SsuchingYu  
       Dec 15, 2018 via Android
    @jiang2018 #8 我总觉得不开源不好。
    yanaraika
        11
    yanaraika  
       Dec 15, 2018 via Android
    如果里面有非结构化数据需要搜索 那就 es + mongodb,否则就 influxdb
    yidinghe
        12
    yidinghe  
       Dec 15, 2018 via Android
    日志存储对性能要求不高,对可扩展性要求高。用内存数据库不合适,看看 cassandra。
    byteli
        13
    byteli  
       Dec 15, 2018 via Android
    堵需求是怎么样的。如果读和后续分析不太复杂的话用 es 挺好,3 台 8 核 32g 是肯定够了的,甚至 16g 也能凑合,磁盘要大点,每天 8 亿不是很大其实
    JL1990
        14
    JL1990  
    OP
       Dec 15, 2018
    没有很复杂的后续分析,目前考虑就用 ES 了,后续再考虑 4#说的 EFK 方案吧,感谢各位
    @byteli
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1005 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 46ms · UTC 22:34 · PVG 06:34 · LAX 15:34 · JFK 18:34
    ♥ Do have faith in what you're doing.