鹏城实验室发布鹏城脑海通用AI大模型
鹏城实验室发布“鹏城·脑海”通用AI大模型
近日，中国工程院院士、鹏城实验室主任高文在2023华为全联接大会上正式发布了“鹏城·脑海”（PengCheng Mind）通用AI大模型，以国产化基座大模型为新一代AI大模型发展构筑新基点。据悉，本次发布的是以中文为核心的“鹏城·脑海”基础版，将在OpenI启智社区向全社会开源。
“鹏城·脑海”通用AI大模型以稠密型架构实现2000亿参数，依托“鹏城云脑II”国产化AI算力平台进行全程预训练，采用了MindSpore昇思国产化深度学习框架，完善了大规模并行训练策略、底层算子性能和容错机制，显著提升了国产算力平台的训练效率，并构建了一套涵盖中文、英文及50余个“一带一路”共建国家及地区语种的多样化语料数据集和数据质量评估工具集。
?
高文介绍“鹏城·脑海”通用AI大模型。鹏城实验室 供图
“‘鹏城·脑海’的发布是国产AI大模型全新的起点。”高文表示，在广东省和深圳市的统一部署下，在中国外文局、华为、腾讯等战略合作伙伴的联合支持下，鹏城实验室贯穿国产算力+自主大模型创新链，聚焦AI核心器件、算力设施、模型算法、训练系统等关键环节，持续推进“鹏城·脑海”大模型核心技术攻关。
据高文介绍，鹏城实验室正同步研制“中国算力网”（China Computing Network，C2Net）全国一体化算力协同计算调度平台，以深圳为总调度中心，已汇聚全国协同算力达3E规模。“鹏城·脑海”大模型将进一步依托“中国算力网”接入的协同算力，以“算力网算力调度+模型赋能”相结合的方式，携手国家新一代AI公共算力平台。
“我们将陆续发布‘鹏城·脑海’大模型进阶版、专业版等各个阶段的版本，持续满足我国不断增长的数字化转型需求。”高文说，鹏城实验室将牵头成立“鹏城·脑海”开源联合体，广泛联合企业、高校和科研院所，通过这一全新的开源群智合作模式，“一揽子”提供覆盖压缩、部署、微调与价值对齐等环节的模型工具。
