税友股份获得发明专利授权：“一种大语言模型训练方法、装置、设备及存储介质”

证券之星消息，根据企查查数据显示税友股份（603171）新获得一项发明专利授权，专利名为“一种大语言模型训练方法、装置、设备及存储介质”，专利申请号为CN202311624845.3，授权日为2024年3月1日。

专利摘要：本申请公开了一种大语言模型训练方法、装置、设备及存储介质，涉及大语言模型领域，包括：获取初始语料数据并进行数据清洗得到目标语料数据，以创建第一训练数据集；将P?Tuning v2模块嵌入预训练语言大模型的适配器模块，并基于第一训练数据集对适配器模块进行训练；基于第一训练数据集构建第二训练数据集，并在底座大模型中嵌入预设门控模块；基于第二训练数据集对预设门控模块进行训练，在预训练语言大模型收敛后停止训练。通过将P?Tuning v2模块嵌入预训练语言大模型的适配器模块，和基于前置的门控模块改造预训练的底座模型，将训练流程变成二段式，实现模型动态控制激活适配器参数，达到输出结果更稳定、泛化的目的。

今年以来税友股份新获得专利授权3个。结合公司2023年中报财务数据，2023上半年公司在研发方面投入了2.04亿元，同比增1.12%。

数据来源：企查查

以上内容由证券之星根据公开信息整理，由算法生成，与本站立场无关。证券之星力求但不保证该信息（包括但不限于文字、视频、音频、数据及图表）全部或者部分内容的的准确性、完整性、有效性、及时性等，如存在问题请联系我们。本文为数据整理，不对您构成任何投资建议，投资有风险，请谨慎决策。