V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member Sign In
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
BN 中一开始先进行归一化处理，然后使用 gamma 和 beta 调整，那为什么一开始不直接使用 gamma 和 beta 调整呢
Deking · Jun 30, 2023 · 944 viewsThis topic created in 1040 days ago, the information mentioned may be changed or developed.
RT ，BN 中一开始先进行归一化处理，然后使用 gamma 和 beta 调整，那为什么一开始不直接使用 gamma 和 beta 调整呢
 |
1
txhwind Jun 30, 2023
方便描述和模型训练。实际推理部署的时候一般都是融合到一起了。
|
 |
2
paidaxtis Jun 30, 2023
归一化是归一化，gamma 和 beta 调整是 gamma 和 beta 调整。一开始直接使用不是跳过归一化了吗？
|
Select Language