【昇思MindSpore技术公开课】第七讲:鹏城·脑海模型的训练过程课程预告
2024/01/04
【昇思MindSpore技术公开课】第七讲:鹏城·脑海模型的训练过程课程预告
昇思MindSpore技术公开课大模型专题第二期课程火爆来袭!未报名的小伙伴抓紧时间扫描下方二维码参与课程,并同步加入课程群,有免费丰富的课程资源在等着你。**课程同步赋能第8届ICT大赛,**欢迎大家报名参与!
本周六(2024年1月6日)14:00-15:30昇思MindSpore技术公开课大模型专题课程迎来新年第一课——鹏城·脑海模型的训练过程。鹏城·脑海200B模型是具有2千亿参数的自回归式语言模型,在中国算力网枢纽节点‘鹏城云脑Ⅱ’千卡集群上基于昇思MindSpore的多维分布式并行技术进行长期大规模训练,目前完成了1.8T token量的训练。欢迎各位开发者进入直播间一同学习,探讨更多大模型问题!
