(原标题:云天励飞:力争实现百万Tokens推理成本降低100倍以上)
人民财讯2月3日电,2月3日,云天励飞正式举办“大算力芯片战略前瞻会”,首次对外公布未来三年的大算力AI推理芯片战略布局。公司高管宣布,未来云天励飞将以GPNPU架构为核心,大力推进云端大算力强化软硬协同与存储体系攻坚,力争将百万Tokens推理成本降低100倍以上,推动大模型从示范应用走向规模化交付。据介绍,去年公司架构调整,形成四大事业部,其中,政企事业部将战略重点转向推理设备和智算中心的建设。此外,云天励飞还计划打造区域级“千卡集群”,树立城市AI算力赋能的新标杆。
