senx0000
V2EX  ›  数据库

数据库大字段 json 内容提取最佳实践

  •  1
     
  •   senx0000 · Apr 22, 2024 · 2663 views
    This topic created in 770 days ago, the information mentioned may be changed or developed.
    目前数据库是 oracle 11g ,不支持 json 之类的函数,现在想把一个表里 clob 字段存储的 json 格式内容中的 key 和 value 提取出来存到另一个表,json 有多层如{"a":{"b":"c"}},表里数据量是百万级,如何实现能保证速度不能太慢?
    我能想到的是写个批处理程序,有没有相应的框架或者更快的方案推荐?
    9 replies    2024-04-23 16:26:49 +08:00
    hemingway
        1
    hemingway  
       Apr 22, 2024   ❤️ 1
    百万级还好吧,如果是我做,思路:把源表的数据导出到文件,写一个处理程序处理这个文件得到你要的数据给是,然后导入到新表
    javalaw2010
        2
    javalaw2010  
       Apr 22, 2024
    用你熟悉的语言快速写个批量处理的程序,这个量级,你有找别的方案的时间,数据都导完了。
    senx0000
        3
    senx0000  
    OP
       Apr 22, 2024
    如果是亿级数据呢?感觉应该有现成的方案。
    SuperMari0
        4
    SuperMari0  
       Apr 22, 2024
    正则?
    zw1one
        5
    zw1one  
       Apr 22, 2024
    json 数据,要不直接切换到 MongoDB ?
    dode
        6
    dode  
       Apr 22, 2024
    oracle 原生支持 json 运算,处理吗
    Jasckcc
        7
    Jasckcc  
       Apr 22, 2024
    使用 PL/SQL 编写存储过程:
    编写一个 PL/SQL 存储过程来解析和提取 JSON 数据,然后将提取出的数据插入到目标表中
    realJamespond
        8
    realJamespond  
       Apr 22, 2024
    不放 elk 搞起?
    dada88xyxy
        9
    dada88xyxy  
       Apr 23, 2024
    可以试试用 kettle 来做,读取后再写入
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   5981 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 41ms · UTC 02:11 · PVG 10:11 · LAX 19:11 · JFK 22:11
    ♥ Do have faith in what you're doing.