V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
推荐学习书目
Learn Python the Hard Way
Python Sites
PyPI - Python Package Index
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
Leon1s
V2EX  ›  Python

萌新请教 Python 爬虫附件下载问题

  •  
  •   Leon1s · 2020-06-15 16:48:36 +08:00 · 1776 次点击
    这是一个创建于 1613 天前的主题,其中的信息可能已经有所发展或是发生改变。
    有一个一直困扰的问题,爬虫过程中已经获取到所有附件的链接和文件名(不包含后缀名)到数据库,现在提取数据库里的信息进行附件下载。

    问题是:
    1.有些文件的后缀名可能不在 url 中,或者头信息中。没有办法获取到文件后缀名,下载的附件没有文件类型。
    2.有些文件的真实后缀名跟 url 中的不一样。

    请问各位大佬有什么好的办法解决这个痛点吗,谢谢。
    8 条回复    2020-06-30 10:03:33 +08:00
    j0hnj
        1
    j0hnj  
       2020-06-15 17:01:07 +08:00
    关键词:guess content type
    Leon1s
        2
    Leon1s  
    OP
       2020-06-15 17:06:56 +08:00
    @j0hnj 谢谢回复,可以麻烦详细说说吗。首先 guess 是什么,刚才没百度到。另外 content_type 应该是我说的第 1 点,可能头信息没有包含在内。
    silencefly
        3
    silencefly  
       2020-06-15 17:18:00 +08:00 via iPhone
    根据文件最开始的字节匹配文件类型
    zdnyp
        4
    zdnyp  
       2020-06-15 17:31:23 +08:00
    1.后缀名在 response 的 header 里 2.放个例子
    xiri
        5
    xiri  
       2020-06-15 17:34:04 +08:00
    @Leon1s guess:猜测
    python 又相应的包可以自动检测(猜测)文件类型
    xiri
        6
    xiri  
       2020-06-15 17:34:17 +08:00
    @xiri 又->有
    xiri
        7
    xiri  
       2020-06-15 17:35:08 +08:00
    @Leon1s mimetypes.guess_type()
    warcraft1236
        8
    warcraft1236  
       2020-06-30 10:03:33 +08:00
    magic number,应该有相应的库来做这个事
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1901 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 16:30 · PVG 00:30 · LAX 08:30 · JFK 11:30
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.