V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
推荐学习书目
Learn Python the Hard Way
Python Sites
PyPI - Python Package Index
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
xiaolinjia
V2EX  ›  Python

memoryview 的使用场景到底是什么呢?

  •  
  •   xiaolinjia · Dec 7, 2020 · 3053 views
    This topic created in 1969 days ago, the information mentioned may be changed or developed.
    我一直想知道 py 的 memoryview 能干嘛,但我平时看的一些技术书和博客,微信公众号都鲜有提及到这块,我平时写代码的时候,也没遇到要使用它的场景。我也查了下,memoryview 是有学习了 numpy 的思想,弄出来的数据结构,好像是用来共享内存不用进行复制操作?所以 memoryview 有什么比较常用的场景吗。
    9 replies    2020-12-08 18:45:56 +08:00
    wuwukai007
        1
    wuwukai007  
       Dec 7, 2020 via Android
    大矩阵计算,矩阵用一个,但是算法不一样,开多进程共享矩阵内存,就不需要每个进程复制一个大矩阵了,效率高,节省内存
    guyskk0x0
        2
    guyskk0x0  
       Dec 7, 2020 via Android
    http server, socket 相关场景有用到,可以避免复制内存,实现 zero copy 效果。
    bilibilifi
        3
    bilibilifi  
       Dec 7, 2020 via iPhone
    cython 里可以很方便地暴露接口
    mattx
        4
    mattx  
       Dec 8, 2020
    @bilibilifi 问下 在 cython 的场景是怎么样的,贴个代码看看
    ruanimal
        5
    ruanimal  
       Dec 8, 2020
    zero copy
    xiaolinjia
        6
    xiaolinjia  
    OP
       Dec 8, 2020
    @guyskk0x0
    @ruanimal
    两位都提到了零拷贝的场景,但是 py 不是有 mmap 这个模块也提供了这个吗?这个和 mmap 的有啥不同呢?
    ruanimal
        7
    ruanimal  
       Dec 8, 2020
    @xiaolinjia

    mmap 是共享内存。
    zero copy 是为了避免重复 copy 对象,比如 socket 发包的时候,避免在多个缓冲区之间反复 copy 内存。zero copy 在 linux 下是基于 sendfile 实现的
    xiaolinjia
        8
    xiaolinjia  
    OP
       Dec 8, 2020
    @wuwukai007 你指的是 multiprocessing.Process(target=func1, args=memoryview(sth))、multiprocessing.Process(target=func2, args=memoryview(sth))吗,还是特指 py38 的 multiprocess.SharedMemory 。我看了下 SharedMemory 的源码,确实是有用到 memoryview 和 mmap 。
    wuwukai007
        9
    wuwukai007  
       Dec 8, 2020 via Android
    python3.8 的新特性
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   3998 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 36ms · UTC 04:11 · PVG 12:11 · LAX 21:11 · JFK 00:11
    ♥ Do have faith in what you're doing.