这是一个创建于 1591 天前的主题，其中的信息可能已经有所发展或是发生改变。
最近发现项目（前后端分离）导出报表过慢，后来发现导出结果集其实很快（几秒），只是查询很慢（几十秒甚至几分钟），但是报表太多了，全是大的 sql 语句
所以我在想是否可以在不修改业务代码的情况下提高导出效率，所以我准备用多线程实现。项目用的 MyBatis，我的想法：
是否可以写个对 Executor.class 的 query 方法的拦截，
@Intercepts({@Signature(type = Executor.class, method = "query",
args = {MappedStatement.class, Object.class, RowBounds.class, ResultHandler.class, CacheKey.class, BoundSql.class})
})
然后把大 sql 先 count 下计算下总数，如果超过 10 万行我就 limit 方式分解多条 sql， 然后多个线程去跑，最后把结果集合并。
老哥们觉得如何，是否有啥 bug 呢？
所以我在想是否可以在不修改业务代码的情况下提高导出效率，所以我准备用多线程实现。项目用的 MyBatis，我的想法：
是否可以写个对 Executor.class 的 query 方法的拦截，
@Intercepts({@Signature(type = Executor.class, method = "query",
args = {MappedStatement.class, Object.class, RowBounds.class, ResultHandler.class, CacheKey.class, BoundSql.class})
})
然后把大 sql 先 count 下计算下总数，如果超过 10 万行我就 limit 方式分解多条 sql， 然后多个线程去跑，最后把结果集合并。
老哥们觉得如何，是否有啥 bug 呢？
 |
1
siweipancc 2020-07-14 12:39:58 +08:00 via iPhone
ಠ_ಠ 我们是按主体个数开线程 countdown 的。
|
 |
2
skypyb 2020-07-14 12:46:34 +08:00 via Android
异步。 点导出之后让用户去主动下载导出文件
|
 |
3
micean 2020-07-14 12:58:12 +08:00
瓶颈在数据库的话，开几个线程都没用
如果是 OLAP 的就半夜跑任务 如果是 OLTP 的就减少查询量 一定要混着用……改成新开一个窗口，js 控制伪进度，让用户等吧 |
 |
4
ZehaiZhang 2020-07-14 13:09:15 +08:00
之前都是半夜定时生成报表，早上他们再自己下
|
 |
5
6666666666666666 OP @micean @ZehaiZhang 我就是凌晨定时生成的报表，只是查询报表不是查所有，是查询该账号下能查到的数据并导出，每个帐号挂多个角色，报表的每个行有个 type 然后 type in ('2','3'..该帐号下的角色)，就是这样查报表的，所以每个帐号生成的数据都不一样的。
|
 |
6
weizhen199 2020-07-14 13:37:30 +08:00
赌五毛会更慢
|
 |
7
buzailianxi 2020-07-14 13:44:51 +08:00
不改不现实，取出所有 type 的数据 or 所有 type 的数据放 redis，思路就是预先准备数据集合，导出的时候直接取就可以。
|
 |
8
yizmaoaa 2020-07-14 15:37:32 +08:00
- - 你开多线程去 CountDownLautch 估计速度也是差不多。主数据源放内存里吧。只要你走数据库。导出大量数据必然是慢
|
 |
9
starcraft 2020-07-14 15:44:50 +08:00 via iPhone
bug 不 bug 不知道，但就你提供这个方法，大概率是变慢，而不是在优化。
|
 |
10
greatbody 2020-07-14 15:51:22 +08:00
分析清楚报表的取数逻辑。在梳理清楚的基础上，进行 SQL 优化，能用存储过程的，用存储过程。减少和数据库的交互，提高数据库计算的效率。
|
 |
11
lqw3030 2020-07-15 07:30:24 +08:00 via iPhone
应该是异步而不是多线程，这种长阻塞的场景多线程会导致线程全部挂起
|
Select Language