support_adamw_moment1_bfloat16

[risemeup1]

PR Category

Execute Infrastructure

PR Types

Others

Description

• adamw 优化器支持 moment 参数数据类型为bfloat16
• 优化了adamw_gpu.cu的代码结构，之前的模版不合理，大量if else逻辑，改起来非常费劲，主要改动如下：

1. 使用模板化的BetaPowAccessor统一处理CPU和GPU的beta幂参数访问，通过模板特化自动选择直接取值或指针访问
2. 合并了原先的REG和MEM kernel，通过模板参数自动适配不同情况，减少了大量代码

[paddle-bot]

你的PR提交成功，感谢你对开源项目的贡献!
请关注后续CI自动化测试结果，详情请参考Paddle-CI手册。
Your PR has been submitted. Thanks for your contribution!
Please wait for the result of CI firstly. See Paddle CI Manual for details.