中国研究机构开源DeepSeek-R1多芯片版本

11

北京2月25日电(记者 宋宇晟)智源研究院25日宣布,已联合多个芯片厂商一同开发并开源DeepSeek-R1多芯片版本,旨在推动大模型在不同芯片的适配应用,打破生态墙和算力束缚,构建多元芯片的统一技术栈和开源软硬件生态。

智源研究院称,此次发布基于FlagOS的DeepSeek-R1多芯片版本,是业界首次通过统一开源软件栈实现DeepSeek-R1的多芯片开源版本,并同时给出了严谨的模型对齐结果,保证了开源可用、统一易用。

智源研究院副院长兼总工程师林咏华在接受记者采访时表示,基于FlagOS,只需要几步,用户即可在支持的AI芯片服务器上完成环境搭建和模型部署。这意味着国产芯片也可部署满血版DeepSeek-R1。

林咏华称,DeepSeek-R1多芯片版本,使用同一套开源代码和底层框架,实现了不同AI芯片架构的DeepSeek-R1推理,推动生态统一、开放;在各个芯片服务器上,均与英伟达芯片上的DeepSeek-R1进行严格评测,保证在不同芯片架构上的DeepSeek-R1版本与原始英伟达版本效果对齐。

据介绍,多芯片版本的源代码、各个芯片的DeepSeek-R1模型文件、各个芯片的一站式Docker运行镜像文件分别开放到Github/Gitee,Huggingface和魔搭,云厂商镜像仓库等平台,方便广大开发者用户的获取。依托各芯片适配的基础镜像,安装 FlagOS 核心组件,其中涵盖异构并行训推框架 FlagScale 与大模型通用算子库 FlagGems。在此基础上,能够一键部署 DeepSeek - R1 模型服务和自动分布式推理调优能力,同时提供与 OpenAI 兼容的 API,极大降低使用门槛,提升部署效率。(完) 【编辑:付子豪】

承德市集中开展高层民用建筑消防安全治理

美国田纳西州一炸药工厂爆炸致19人失踪

中国驻苏丹使馆建议在苏中国公民尽快撤离

湖南宁乡“金种子沃土计划”二十条发布 护航大学生创业

港珠澳大桥穿梭巴士紧急暂停部分珠海隔离班次

广东社会各界守望相助 齐心抗击疫情

第37届中国·哈尔滨之夏音乐会启幕 续写“世界音乐之城”艺术传奇

美国佛罗里达州单日新增新冠确诊病例激增 路易斯安那州重症监护病房饱和

访白云边检站:疫情之下,用更好服务减少旅客通关“滞感”

韩国法院决定驳回释放尹锡悦请求

外交部:试图以政治力量改变经济规律 无法解决美国自身问题

受强降雨影响浙江绍兴转移2458人 目前总体汛情平稳

广东发布2024年第1号总林长令:建设高水平城乡一体化绿美环境

消费基础设施信托基金登场 首批项目正式受理

杭州孔庙“扫地僧”:53岁安保员讲文物 让“石头书”发声

文章版权声明:除非注明,否则均为旭R网原创文章,转载或复制请以超链接形式并注明出处。