推荐学习书目
Learn Python the Hard Way
Python Sites
PyPI - Python Package Index
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
QiShine
V2EX  ›  Python

机器学习训练的时候,为啥 CPU 占用率到不了 100%?

  •  
  •   QiShine · Dec 27, 2023 · 3043 views
    This topic created in 868 days ago, the information mentioned may be changed or developed.

    使用 scikit-learn ,训练一个随机森林。所有的数据都在内存里,但是训练时间还是很长,但是看任务管理器里面,CPU 占用一直 40%,不是应该 100%吗?是不是 Python GIL 的问题?怎么样才可以提速?

    6 replies    2023-12-31 15:50:07 +08:00
    jr55475f112iz2tu
        1
    jr55475f112iz2tu  
       Dec 27, 2023
    1. 你用的是什么 CPU
    2. 占用 40%,具体是 1 核有难多核围观,还是每个核都有占用
    3. 最好还是把代码列出来
    Yuanlaoer
        2
    Yuanlaoer  
       Dec 27, 2023
    所有数据都在“内存”里,“CPU”占用一直 40%

    内存,CPU
    QiShine
        3
    QiShine  
    OP
       Dec 27, 2023
    ```
    # transform list into array
    train = asarray(train)
    # split into input and output columns
    trainX, trainy = train[:, :-1], train[:, -1]
    # fit model
    model = RandomForestRegressor(n_estimators=1000)
    model.fit(trainX, trainy)
    # make a one-step prediction
    yhat = model.predict([testX])
    return yhat[0]
    ```
    jr55475f112iz2tu
        4
    jr55475f112iz2tu  
       Dec 27, 2023
    你也没说全
    先试试在 import 之后加一行 n_jobs = -1 吧
    或者自己看文档 https://scikit-learn.org/stable/modules/ensemble.html#parallelization
    QiShine
        5
    QiShine  
    OP
       Dec 28, 2023
    @czfy 感谢回复!改成 model = RandomForestRegressor(n_estimators=1000, n_jobs=-1)之后,速度快了两倍。
    jr55475f112iz2tu
        6
    jr55475f112iz2tu  
       Dec 31, 2023 via Android
    有用就好
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1142 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 32ms · UTC 23:05 · PVG 07:05 · LAX 16:05 · JFK 19:05
    ♥ Do have faith in what you're doing.