创意信息获得发明专利授权：“一种大语言模型分层加载方法及装置”

证券之星消息，根据企查查数据显示创意信息（300366）新获得一项发明专利授权，专利名为“一种大语言模型分层加载方法及装置”，专利申请号为CN202311650783.3，授权日为2024年2月23日。

专利摘要：本发明提供了一种大语言模型分层加载方法及装置，属于模型加载技术领域。方法包括：根据大语言模型的模型层次结构，在内存中创建对应的空模型，并确定空模型中参数层的元数据信息；依据空模型中参数层的元数据信息进行空间占用计算，并根据空间占用计算结果确定空模型中参数层的设备分布状况；基于空模型中参数层的设备分布状况，从磁盘中分层加载空模型的模型参数权重，并将分层加载的模型参数权重拷贝至空模型中各参数层对应的分布设备；释放已拷贝至分布设备的模型参数权重所占用的内存资源，完成大语言模型的分层加载。本发明可以大幅度提升模型的加载速度，减少模型的加载时间，实现了时间资源与空间资源的模型双向优化加载。

今年以来创意信息新获得专利授权3个。结合公司2023年中报财务数据，2023上半年公司在研发方面投入了9624.29万元，同比增14.22%。

数据来源：企查查

以上内容由证券之星根据公开信息整理，由算法生成，与本站立场无关。证券之星力求但不保证该信息（包括但不限于文字、视频、音频、数据及图表）全部或者部分内容的的准确性、完整性、有效性、及时性等，如存在问题请联系我们。本文为数据整理，不对您构成任何投资建议，投资有风险，请谨慎决策。