证券之星消息,根据天眼查APP数据显示新点软件(688232)新获得一项发明专利授权,专利名为“一种面向垂域大模型预训练的数据配比方法、装置及设备”,专利申请号为CN202411054262.6,授权日为2024年11月29日。
专利摘要:本申请公开了一种面向垂域大模型预训练的数据配比方法、装置及设备,涉及数据处理技术领域。该方法应用于计算机集群,包括以下步骤:确定目标领域,将领域子集和通用子集输入训练模型,计算注意力特征,得到领域子集和通用子集的注意力分布;利用训练模型对领域子集和通用子集进行知识探测,得到领域子集和通用子集的知识权重;基于领域子集和通用子集的注意力分布和知识权重,确定训练数据集的混合权重;根据训练数据集的混合权重动态调整训练数据集的混合比例,对训练模型进行进一步训练,直至训练模型达到预设标准。本方案综合了数据垂直领域和通用领域的特性,不断优化模型性能,实现了精准和有效的数据配比,提高了模型训练的效果和性能。
今年以来新点软件新获得专利授权21个,较去年同期增加了61.54%。结合公司2024年中报财务数据,今年上半年公司在研发方面投入了2.31亿元,同比减9.2%。
数据来源:天眼查APP
以上内容为证券之星据公开信息整理,由智能算法生成,不构成投资建议。