证券之星消息,根据天眼查APP数据显示创意信息(300366)新获得一项发明专利授权,专利名为“一种大语言模型高并发量推理方法及系统”,专利申请号为CN202510660889.4,授权日为2025年9月9日。
专利摘要:本发明涉及人工智能技术领域,公开了一种大语言模型高并发量推理方法及系统,利用执行器计算显存块大小分配显存空间;利用调度器转换请求序列放入调度器的等待队列;调度器为每个请求序列分配相应的显存块直至每个请求序列都能够进行下一次推理;调度器按照优先级顺序计算等待队列中请求序列的显存需求,将等待队列中的请求序列转移到运行队列中;根据请求序列的预填充类型数量和解码类型数量,分配用于执行预填充推理或用于执行解码推理的显存块数量;由此,本发明采用连续批处理、动态分配空间机制和任务调度框架,充分利用连续批处理的并行推理能力,提升了大模型推理的并发量和吞吐量,解决传统连续批处理需要预分配空间的局限性。
今年以来创意信息新获得专利授权10个,较去年同期减少了41.18%。结合公司2025年中报财务数据,今年上半年公司在研发方面投入了4680.06万元,同比减53.28%。
通过天眼查大数据分析,创意信息技术股份有限公司共对外投资了20家企业,参与招投标项目1696次;财产线索方面有商标信息13条,专利信息132条,著作权信息305条;此外企业还拥有行政许可15个。
数据来源:天眼查APP
以上内容为证券之星据公开信息整理,由AI算法生成(网信算备310104345710301240019号),不构成投资建议。