linpf
V2EX  ›  问与答

使用 PHP 框架开发的产品,在数据量越来越大的时候,发现分表是个很难的工作。

  •  
  •   linpf · Jul 15, 2017 · 3515 views
    This topic created in 3262 days ago, the information mentioned may be changed or developed.

    产品上线也一年多了,目前数据表中的数据越来越多。由于之前开发的时候,为了追求尽快上线,没有做好长期规划,完全使用了数据模型来进行操作,导致现在需要分表的时候发现难以下手。

    产品是用 tp5 开发的,tp 文档里是有支持分表功能的,但是功能实在是比较弱,无法满足需求。

    这个时候就需要考虑自己去改造业务代码。

    主要需要切分的有用户表、订单表、订单评论表

    其实直接拆分一个表,还是困难不大。但是之前都是用数据模型来操作数据库,如果要拆表的话,发现数据模型改造起来成本太高,需要对架构进行修改。鉴于尽量不修改框架本身的原则,不得不放弃,只能用查询构造器了。

    因为拆表,带来各种的关联也是更加复杂。比如订单评论表本身需要关联订单信息,所以在在每个评论表里都增加 part 和 partId 字段。

    同时用户表的改造带来的问题更多,因为用户表在八成的业务中都用到了,这就意味着带来更多的业务量。幸好之前有一定的封装,但是由于数据模型的操作是利用对象,查询构造器利用是数组,所以需要把所有用户信息修改的地方全部改掉。

    最头疼的地方是,分表是基于项目 ID、用户 ID 进行拆分的,但是有时候需要根据项目表其他字段进行查询的时候,带来的问题就是没有办法在一个表内查询到所有数据。那么我需要再根据要查询的字段再做一个映射表。这样做不但增加了大量的 sql 查询,程序复杂度也大大增加。

    但是我哪怕是做了这个映射表,还是有没有解决的问题。

    一旦我需要 join 查询的时候,映射表就用不到了。这个时候,我只能分别查询所有子表,然后将数据进行整合。

    数据库用的阿里云 RDS,不支持 mrg_myisam(merge)引擎。而且因为考虑到事务的支持,也不考虑 mysql 引擎。

    所以在这里有这几个疑问:

    1、一个听起来很简单的拆表,带来的工作量是不拆表的三到四倍。我实在是想不到有什么更好的办法可以解决这个问题了,希望能够得到大家的意见或者成熟解决方案。

    2、我也查看了一下其他框架对于分表的支持,发现主流框架对于分表支持都不是不友好,那到底利用框架开发的产品,到底能不能支撑起单表超过千万的业务?

    3、如果自己去写一个框架的话,从框架层面,根据自己的业务需求直接解决分表问题就轻松的多了。很好奇是不是大公司都会在数据量到达一定规模的时候,完全放弃通用框架,根据自身业务开发一个框架来重构产品?

    我们产品现在数据量还是几百万,没有达到千万,但是按照现在的数组增长曲线,过千万不会太久。目前产品功能基本上已经定型,问题就是即将面临的性能问题,我是想趁着现在数据量还不大,不会有太大改动成本,提前把改造完成,然后这个产品就可以保持长久一段时间内不改动了,所以不适用于“过早优化是万恶之源”理论,希望大家勿喷。

    15 replies    2017-07-16 14:08:29 +08:00
    loveyu
        1
    loveyu  
       Jul 15, 2017
    有段时间做表迁移,就是把所有的 join 查询全部去掉,然后一张表一张表的改。一百多张,最后就变成了苦力活
    linpf
        2
    linpf  
    OP
       Jul 15, 2017
    @loveyu 我现在仅仅是拆订单表,就已经加了 3 个冗余表了。
    shoaly
        3
    shoaly  
       Jul 15, 2017
    这个时候 我感觉应该是 专门把数据库 读写操作 替换成 其他 java 等重量级来处理了, 保证 php 那边代码傻白甜.
    changwei
        4
    changwei  
       Jul 15, 2017 via Android
    试试看一些流行的数据库中间件呗,顺带还把读写分离等性能优化措施给做好了。
    bazingaterry
        5
    bazingaterry  
       Jul 15, 2017 via iPhone
    上数据库中间件吧……
    linpf
        6
    linpf  
    OP
       Jul 15, 2017
    @shoaly 即使换做 java 业务逻辑也是一样的。用 java 也并没有什么区别。

    @changwei 公司只有我一个后端,我只能依靠 PHP 来解决问题。
    changwei
        7
    changwei  
       Jul 15, 2017 via Android   ❤️ 1
    @linpf 你还是先去百度一下数据库中间件是怎么一回事吧,mysql 好像有个 mycat 听很多人说过,而且这个网上很多实战教程的,实在不行花点钱请个大牛带带你也是好的,了解学习这个东西这个东西对个人成长很有用的。
    guoer
        8
    guoer  
       Jul 16, 2017
    用中间件可能花费时间更多,多一层依赖就多了一个出问题的点。
    lshero
        9
    lshero  
       Jul 16, 2017
    千万数据的话做表分区就好了啊
    justplaymore
        10
    justplaymore  
       Jul 16, 2017
    @guoer 不要去造轮子,造轮子容易,维护才是问题,这种系统底层的东西应该抽象掉,交给中间件去完成,项目代码不应该关心这些事情,大多数老项目总是维护的时间大于开发时间的,我在的公司以前为了节约开发时间,到最后花了十倍的时间去维护,去填坑,这种内部质量绝对不要去妥协。
    linpf
        11
    linpf  
    OP
       Jul 16, 2017
    @lshero 网上查了一下,表分区似乎只支持 myisam 引擎
    shoaly
        12
    shoaly  
       Jul 16, 2017
    @linpf 只有你一个 那就没办法了. 老老实实 php 吧, 公司也不是你的公司, 就这么着吧...
    我只是说从项目角度上, 单独到 java 上 确实也还要写, 但是好处如下:
    1 让这个本来就不是一个人的活, 分出去, 让更多的人参与进来解决, 而且这个问题就算是专门找人, 也并不是搜搜 google, 就能解决的事情, , 是需要一直持续优化和升级的(假如数据量一直都稳步增长的话)
    2 对于复杂问题来说, java 处理起来比 php 有更容易维护的方式, 也有更多可以 google 借鉴的例子. tp5... 对于现在碰到的问题, 已经到瓶颈了.
    lshero
        13
    lshero  
       Jul 16, 2017
    wdlth
        14
    wdlth  
       Jul 16, 2017
    你可以先在数据库层次进行考虑,比如分表后,通过在视图中使用 UNION,并且在表加入一些明确的约束去让数据库进行优化,或者你可以搞更高端的存储过程。
    上千万其实并不算多,适当调整统计信息更新频率,数据库参数大小等,查询优化好,一样可以很快。
    你们应该加钱上 DBA 啦……
    akrf
        15
    akrf  
       Jul 16, 2017 via Android
    单表体积有多大?
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1158 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 52ms · UTC 17:27 · PVG 01:27 · LAX 10:27 · JFK 13:27
    ♥ Do have faith in what you're doing.