云天励飞发布视觉大模型推理芯片 完善自进化城市智能城市体

在高交会开幕日现场，云天励飞(688343)展位大屏幕上播放着公司创始人、董事长陈宁博士与艾伦·麦席森·图灵的双方数字人影像，围绕 “机器是否可以像人类一样思考”等话题，展开了一段跨时空对话；展台外围满了引颈企望的观众，密切关注着云天励飞发布新一代AI芯片。

“我们今天发布的AI推理芯片，是在云天励飞的自进化城市智能体战略中，补齐了国产工艺的大模型芯片环节的缺位。” 站在屏幕前，陈宁向场下来宾和记者介绍，云天励飞新一代AI芯片DeepEdge10作为国内首创的国产14nm Chiplet大模型推理芯片，采用自主可控的国产工艺，内含国产RISC-V核，支持大模型推理部署，可广泛应用于AIoT边缘视频、移动机器人等场景。

云天励飞高管向证券时报·e公司记者表示，大语言模型已经逐步向边缘和终端渗透，云天励飞聚焦构建边缘推理芯片的自主可控生态，本次公司推出的推理芯片主要针对百亿可以有效支持千亿级大模型的边缘视觉场景部署，下一代AI芯片将全面兼容多模态大模型。

（云天励飞创始人、董事长陈宁）

布局AI应用落地“最后一公里”

人工智能芯片从功能上可以分为训练芯片和推理芯片，前者注重绝对的计算能力，而后者更注重综合指标，是实现AI应用落地终端的“最后一公里”。

“训练不是目的，生产大模型不是目的，千行百业的落地和应用才是最终的目的。”陈宁表示，不论是机器人、无人驾驶汽车智能传感，还是各类智能硬件，甚至脑机接口芯片，都需要大模型的推理芯片，当前国内这个领域还处于“百家争鸣”阶段，云天励飞聚焦在边缘推理计算发力。

本次云天励飞推出的DeepEdge10，就定位于边缘计算全场景应用，内置公司最新的第四代神经网络处理器，打造了Edge10C、Edge10 标准版和Edge10Max 三款系列芯片；出货形态包括芯片、板卡、盒子、加速卡、推理服务器等，可广泛应用于AIoT边缘视频、移动机器人等场景。

云天励飞副总裁、芯片产品线总经理李爱军表示，由于边缘计算的场景呈现出算力碎片化、算法长尾化、产品非标化、规模碎片化的特征，传统的算法开发和芯片都难以适应新一代人工智能边缘计算场景的产品化需求。大模型的出现，为行业提供了算法层面的解决之道；但大模型在边缘计算场景要面向实战发挥作用，则需要AI大模型推理芯片的支持。

简而言之，AI边缘推理芯片不仅要支持大模型等AI计算任务，还需要具备较强的通用算力。其中，Transformer作为语言视觉多模态大模型的最核心架构，云天励飞从2015年开始研发神经网络处理器，在2021年指令集已经实现兼容基于Transformer 架构的新型计算范式。

依托 Deep Edge10创新的 D2D chiplet架构打造的X5000推理卡，已适配并可承载SAM CV大模型、Llama2等百亿级大模型运算。

构建国产推理芯片生态

目前，云天励飞已向国内头部的AIoT芯片设计厂商、智慧汽车芯片设计厂商、服务机器人厂商、国家重点实验室等提供神经网络处理器的IP授权。而边缘计算市场将迎来高速发展。根据IDC预测，到2023年底，全球的边缘计算市场将达到2000亿美金的规模；预计到2026年，边缘计算市场将突破3000亿美金。

为了布局庞大的边缘计算市场，就需要构建自主可控的推理芯片生态。

作为云天励飞AI芯片重要技术特点，DeepEdge10采用了 D2D Chiplet技术和C2C Mesh扩展架构，可实现算力的灵活扩展，可支持千亿大模型，相较总体性能要比上一代1000系列的芯片提升，整体性能提升20倍以上超过20倍。

陈宁介绍，通常百亿级、千亿级的大模型需要极强的计算能力和超低功耗、超低成本，对工艺需求提升到7纳米、5纳米甚至2纳米；结合国产生产工艺现状，云天励飞与合作伙伴从三年前就开始联合技术攻关，定制系列IP，实现在14纳米节点上生产多颗不同计算规格的AI的推理芯片，运营大模型的功能。

在软件栈、工具链方面，云天励飞打造了开放的算法应用平台，提供超过100多种的算法。通过自研芯片，公司沉淀了 “算法芯片化”的核心能力，完成了3代指令集架构、4代神经网络处理器架构的研发，目前自研神经网络处理器已经获得国内顶尖的芯片设计公司采用，生态合作伙伴扩大到近30家，芯片也大规模应用到安防模块等领域。

“我们将立足国产工艺，打造自主可控的AI芯片，虽然这条路非常艰难，但是我们还会坚定不移地走下去。”李爱军表示。

完善自进化城市智能体

云天励飞的自主研发芯片，也是公司自进化城市智能体战略的重要引擎。2020年，云天励飞在高交会上正式发布自进化城市智能体战略，其核心逻辑是打造“应用生产数据、数据训练算法、算法定义芯片、芯片规模化赋能应用”的数据飞轮。

“我们今天发布的大模型的推理芯片，就是在自进化城市智能体战略里，补齐了国产工艺的大模型芯片环节。”陈宁表示。

目前云天励飞自研千亿级大模型——云天天书大模型达到行业先进水平，在今年9月上旬的 C-Eval 中文大模型榜单中，云天天书大模型位列榜单第一。

据公司高管向证券时报·e公司记者介绍，大模型已经逐步向边缘和终端渗透，考虑个人隐私、工具影响时间等系列问题，未来智能手机、个人电脑终端将在本机本地部署大语言模型。云天励飞聚焦构建边缘推理芯片生态，本次推出的推理芯片虎牙主要针对百亿可以有效支持千亿级大模型的边缘视觉场景部署，下一代AI芯片将全面兼容多模态场景，适配云天天书大模型的升级。

本次高交会上，云天励飞首次展示了助力打造深圳福田CBD智慧商圈的建设成果，通过引入人工智能大模型，可为政府、商圈运营机构、消费者三方提供不同服务。近期，由云天励飞进行整体智能化建设的福田CBD智慧商圈已经获评2023年第二批全国示范智慧商圈。并且是唯一一个实现3个购物中心同时成功获评全国示范智慧商店的商圈。

云天励飞还展示了智慧线路优化系统、智慧巡检、交通新能源网联应用等自进化城市智能体在交通领域的建设成果。未来，公司将继续加大自主研发力度，立足自主可控，以自研“芯”，为自进化城市智能体发展提供强大引擎。