证券之星消息,根据企查查数据显示燧原科技(688801)新获得一项发明专利授权,专利名为“一种大模型推理服务的数据预取方法、装置、设备及介质”,专利申请号为CN202610883372.6,授权日为2026年10月27日。
专利摘要:本发明公开了一种大模型推理服务的数据预取方法、装置、设备及介质。包括:将输入词元序列划分为多个词元窗口,确定第一词元窗口中的第一嵌入行,并同时执行第一嵌入行的流式直接内存访问搬运以及批量旁路转换缓冲预热;启动执行第一词元窗口的预填充阶段计算,并异步并行执行第二词元窗口的数据预取操作;根据候选词元树确定多个第二嵌入行,根据第二嵌入行进行流式直接内存访问搬运以及推测式旁路转换缓冲预填,并异步并行执行主模型推理计算;若确定当前解码步的推理结果命中候选词元树的任一候选路径,则根据命中的候选路径对候选词元树进行更新。上述技术方案能够提升预填充阶段的吞吐效率,降低解码阶段远端访存时延,消除长尾延迟抖动。
今年以来燧原科技新获得专利授权46个。结合公司2026年中报财务数据,今年上半年公司在研发方面投入了6.4亿元,同比增9.13%。
通过天眼查大数据分析,上海燧原科技股份有限公司共对外投资了18家企业,参与招投标项目11次;财产线索方面有商标信息255条,专利信息400条,著作权信息34条;此外企业还拥有行政许可12个。
数据来源:企查查
以上内容为证券之星据公开信息整理,不构成投资建议。
