浪潮信息获得发明专利授权：“生成式对话模型推理方法、设备、介质及计算机程序产品”

证券之星消息，根据天眼查APP数据显示浪潮信息（000977）新获得一项发明专利授权，专利名为“生成式对话模型推理方法、设备、介质及计算机程序产品”，专利申请号为CN202410854061.8，授权日为2024年8月20日。

专利摘要：本发明公开了一种生成式对话模型推理方法、设备、介质及计算机程序产品，涉及人工智能技术领域，包括：根据生成式对话模型的模型结构确定出键矩阵和值矩阵的各个输出位置；基于输出位置对生成式对话模型进行分割，得到分割后的多个模型块，并对每一模型块输出的键矩阵和值矩形作为中间状态值进行保存；将各模型块部署至目标芯片，并在目标芯片上按照生成式对话模型的先后分割顺序依次对各模型块进行推理，直到满足预设停止条件；推理过程包括：将目标相邻模型块中的前一模型块的推理结果与对应中间状态值的叠加结果作为下一模型块的输入；目标相邻模型块包括任一次循环推理过程中的最后一个模型块和下一次循环推理过程中的第一个模型块。

今年以来浪潮信息新获得专利授权152个，较去年同期减少了11.11%。结合公司2023年年报财务数据，2023年公司在研发方面投入了30.71亿元，同比减3.95%。

数据来源：天眼查APP

以上内容由证券之星根据公开信息整理，由算法生成（网信算备310104345710301240019号），与本站立场无关，如数据存在问题请联系我们。本文为数据整理，不对您构成任何投资建议，投资有风险，请谨慎决策。