V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
lenqu

如何从头构建一个自己的大模型呢?从底层最基础的神经网络开始实现

  •  1
     
  •   lenqu · Jan 11, 2025 · 2507 views
    This topic created in 473 days ago, the information mentioned may be changed or developed.

    我最近闲来无事,想系统性的学习一下神经网络,之前看到的都很片面,希望有懂的推荐一下

    9 replies    2025-02-17 18:24:23 +08:00
    TimeNewRome
        1
    TimeNewRome  
       Jan 11, 2025
    实现不了.深度神经网络有三部分: 数据 模型 训练
    TimeNewRome
        2
    TimeNewRome  
       Jan 11, 2025   ❤️ 1
    @TimeNewRome 孤立的一个人在没有足够的经费的情况下, 什么都做不了.
    paopjian
        3
    paopjian  
       Jan 11, 2025
    大模型? 不如先从传统机器学习学起? sklearn 上的功能模型学一下决策树 svm 之类的, 再开始深度学习, 从 rnn cnn 到 resnet 最后是 tansformer, 最终参数量大了就可以叫大模型了
    NewYear
        4
    NewYear  
       Jan 12, 2025
    现代的 AI 引擎的训练量是非常恐怖的,你可以理解为一个显卡运行几年才理解完成,才能得出这么好的效果。

    别说服务器,电费都是个问题。
    NewYear
        5
    NewYear  
       Jan 12, 2025
    回忆一下,你有没有听过给照片里的汽车“拉框”的兼……职工作?看似 AI ,全是人力确认才交给 AI 引擎去训练!
    leaves98
        6
    leaves98  
       Jan 12, 2025 via Android
    系统性的话,最好看书吧,西瓜书,花书
    Sawyerhou
        7
    Sawyerhou  
       Jan 12, 2025
    从花书开始。
    huangyezhufeng
        9
    huangyezhufeng  
       Feb 17, 2025
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1401 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 38ms · UTC 23:59 · PVG 07:59 · LAX 16:59 · JFK 19:59
    ♥ Do have faith in what you're doing.