V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
PingCAP
V2EX  ›  数据库

Loader 使用文档

  •  
  •   PingCAP · Jan 10, 2017 · 1188 views
    This topic created in 3404 days ago, the information mentioned may be changed or developed.

    Loader 是什么

    Loader 是由 PingCAP 开发的数据导入工具,可以用于向 TiDB 中导入数据,也可以用于向 MySQL 中导入数据。本篇文章将详细介绍 Loader 的使用方法。

    为什么我们要做这个东西

    当数据量比较大的时候,如果用 mysqldump 这样的工具迁移数据会比较慢。我们尝试了 Percona 的 mydumper/myloader 套件,能够多线程导出和导入数据。在使用过程中, mydumper 问题不大,但是 myloader 由于缺乏出错重试、断点续传这样的功能,使用起来很不方便。所以我们开发了 loader ,能够读取 mydumper 的输出数据文件,通过 mysql protocol 向 TiDB/MySQL 中导入数据。

    Loader 有哪些优点

    多线程导入 支持 mydumper 数据格式 出错重试 断点续导 通过 system variable 优化 TiDB 导入数据速度

    使用方法

    参数说明

    1.jpg-47.2kB

    配置文件

    除了使用命令行参数外,还可以使用配置文件来配置,配置文件的格式如下: t2.jpg-27.3kB

    使用示例

    通过命令行参数:

    ./bin/loader -d ./test -h 127.0.0.1 -u root -P 4000

    或者使用配置文件 "config.toml":

    ./bin/loader -c=config.toml

    注意事项

    如果使用默认的 checkpoint 文件,在导完一个 database 数据后,请删除 loader.checkpoint 后再开始导入下一个 database 。推荐每个数据库导入的时候,明确指定 checkpoint 文件名。

    3 replies    2017-01-11 14:01:38 +08:00
    mingyun
        1
    mingyun  
       Jan 10, 2017
    也不提供下安装文档
    PingCAP
        2
    PingCAP  
    OP
       Jan 11, 2017
    @mingyun 我们是开源在 github 上的,相关内容均可在 github 主页上找~源码地址: https://github.com/pingcap/tidb
    PingCAP
        3
    PingCAP  
    OP
       Jan 11, 2017
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   5824 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 59ms · UTC 02:40 · PVG 10:40 · LAX 19:40 · JFK 22:40
    ♥ Do have faith in what you're doing.