中新网北京2月25日电(记者宋宇晟)智源商议院25日晓谕J9九游会,已议论多个芯片厂商一同成就并开源DeepSeek-R1多芯片版块,旨在鼓舞大模子在不同芯片的适配诈欺,结巴生态墙和算力抑止,构建多元芯片的斡旋技能栈和开源软硬件生态。
智源商议院称,这次发布基于FlagOS的DeepSeek-R1多芯片版块,是业界初次通过斡旋开源软件栈终了DeepSeek-R1的多芯片开源版块,并同期给出了严谨的模子对皆范畴,保证了开源可用、斡旋易用。
智源商议院副院长兼总工程师林咏华在接管中新网记者采访时示意,基于FlagOS,只需要几步,用户即可在相沿的AI芯片干事器上完成环境搭建和模子部署。这意味着国产芯片也可部署满血版DeepSeek-R1。
林咏华称,DeepSeek-R1多芯片版块,使用合并套开源代码和底层框架,终显著不同AI芯片架构的DeepSeek-R1推理,鼓舞生态斡旋、怒放;在各个芯片干事器上,均与英伟达芯片上的DeepSeek-R1进行严格评测,保证在不同芯片架构上的DeepSeek-R1版块与原始英伟达版块后果对皆。
据先容,多芯片版块的源代码、各个芯片的DeepSeek-R1模子文献、各个芯片的一站式Docker启动镜像文献永诀怒放到Github/GiteeJ9九游会,Huggingface和魔搭,云厂商镜像仓库等平台,浅薄强大成就者用户的取得。依托各芯片适配的基础镜像,装置 FlagOS 中枢组件,其中涵盖异构并行训推框架 FlagScale 与大模子通用算子库 FlagGems。在此基础上,好像一键部署 DeepSeek - R1 模子干事和自动散布式推理调优才气,同期提供与 OpenAI 兼容的 API,极大缩小使用门槛,普及部署服从。(完)