V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
推荐学习书目
Learn Python the Hard Way
Python Sites
PyPI - Python Package Index
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
bbhj3434
V2EX  ›  Python

web 开发,周期任务是怎样实现的?大字段放数据库还是另存 txt 好?

  •  
  •   bbhj3434 · 2014-03-18 12:46:26 +08:00 · 3220 次点击
    这是一个创建于 3886 天前的主题,其中的信息可能已经有所发展或是发生改变。
    没完成多少个项目,所以很多东西都没有思路……
    web的周期任务比如每周定时清空数据,每月排行榜这些应该怎样实现?是把定时任务扔到系统计划or数据库计划?

    另:大字段(5000中文字,100w行左右)放数据库还是另存txt好?
    4 条回复    1970-01-01 08:00:00 +08:00
    henices
        1
    henices  
       2014-03-18 13:15:27 +08:00
    Linux 想到crontab是比较自然的,Windows也有计划任务。
    MarsWang
        2
    MarsWang  
       2014-03-18 13:25:16 +08:00
    1、定期的任务事件一般都是写好脚本然后crontab定期执行,任务比较多的话会用一台单独的服务器去跑。

    2、关于数据存储,这个看场景吧。具体不太清楚。
    verfino
        3
    verfino  
       2014-03-18 15:17:58 +08:00
    定时任务一般都是仍crontab的吧

    数据存储,几百兆按行整理的数据可以放txt里,计算完压缩保存(有条件的话放SSD上计算)

    每月排行榜的话就按天计算,存储好需要的数据到数据表(按天,或者按小时),然后按月统计计算
    yakczh
        4
    yakczh  
       2014-03-18 15:25:26 +08:00
    txt

    行按日期, 列按指标存放, 空值可以用-来占位

    看数据粒度,如是是按天的话,全部存一个文件也有300多行

    如果是小时,分钟,可以根据月份,季度名字统一文件命名规则
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1392 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 23:47 · PVG 07:47 · LAX 15:47 · JFK 18:47
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.