民生证券:LLaMA 3开源或推动国内算力需求与应用发展

来源:智通财经 2024-04-22 10:43:56
关注证券之星官方微博:

(原标题:民生证券:LLaMA 3开源或推动国内算力需求与应用发展)

智通财经APP获悉,民生证券发布研报称,2024或是AI应用的真正元年,LLaMA 3的发布使得开源大模型SOTA对标GPT4,具有真正强生产力的AI应用或百花齐放,AI终端重构、算力国产化多模态引领AI应用这三大新方向孕育重要机遇。

建议关注:

1.国产核心算力:寒武纪(688256.SH)、浪潮信息(000977.SZ)、海光信息(688041.SH)、超讯通信(603322.SH);华为昇腾一体机:科大讯飞(002230.SZ)、云从科技(688327.SH)、软通动力(301236.SZ)、恒为科技(603496.SH)等。

2.AI终端变革:中科创达(300496.SZ)、萤石网络(688475.SH)、漫步者(002351.SZ)等。

3.数据落地的AI应用:效率办公-金山办公(688111.SH)、AI司法-金桥信息(603918.SH)、AIGC-超讯通信(603322.SH)、教育-佳发教育(300559.SZ)、邮箱-彩讯股份(300634.SZ)、社交-掌阅科技(603533.SH)等。

民生证券主要观点如下:

LLaMA 3大模型发布,目前已经发布8B/70B版本,其中70B版本性能已经超过早期版本GPT4,未来还将进一步发布400B版本。

据Meta官网,LLaMA 3是同类产品中最好的开源模型,在真实世界场景测试集(Meta开发了一个新的高质量人类评估集,该评估集包含1800个提示,涵盖12种关键用例:征求建议、头脑风暴、分类、封闭式问题解答、编码、创意写作、提取、角色/人物角色、开放式问题解答、推理、改写和总结)回答结果人类偏好排名中成为新的SOTA。此外,据Hugging Face第三方大模型跑分测评数据,LLaMA 370B性能已经超过部分早期版本GPT4。据Meta官网,LLaMA 3400B版本正在训练中,或与多模态LLaMA 3在未来几个月内发布。

GPT4级别的开源大模型或带动AI应用进入强生产力时代。

民生证券将AI应用与大模型的关系分为三个阶段,并通过Notion的发展趋势进行映射说明:

1)大模型性能小于GPT3.5:由于模型性能较差,AI应用以工具属性为主,以Notion为例,在2022年初次引入GPT3时,Notion AI用的最多的几个场景分别是Brainstormideas(头脑风暴)、To-dolist(任务清单)以及Outline(写概要)。

2)大模型性能处于GPT3.5-4之间:此时AI已经具备相当的智能,已经具备打通底层数据、从单产品到多产品自动化流程的能力,此时Notion AI已经可以读取当天的笔记内容进行总结或者列出接下来要做的事情、对销售团队一周工作做一个总结并列出下周要做的待办事项ActionItems等。

3)大模型性能超过GPT4:此时AI已经具备较强智能,可以作为强大生产力,MS 365 Copilot展示出的打通全部工作流,让AI替代人类完成各类SaaS碎片、繁杂的操作流程,Notion CEO预计在未来的5到10年时间,Notion可能成为世界的前端基础设施,Notion负责搜索、通知和权限,用户想做的任何软件,都可以通过Notion来构建。

LLaMA 3的成功,对于训练数据、AI算力、算法开发等环节也有较多借鉴意义。

Llama3在超过15T的token上进行了预训练,训练数据集是Llama2的七倍,包含的代码数量也是Llama2的四倍,同时使用数据过滤技术保证训练数据高质量;此外,LLaMA在两个定制的24KGPU集群上进行训练,还通过自动检测、处理和维护错误技术使总体有效训练时间缩短了95%以上,是LLaMA2训练效率的三倍;算法上,LLaMA 3创新性使用监督微调(SFT)、拒绝采样、近似策略优化(PPO)和直接策略优化(DPO)等技术。

风险提示

1)政策落地不及预期:目前国产软硬件在产品性能和生态上都尚且不及国外巨头,但受益于国产化政策推动市场份额连年提升,若后续国产化支持政策落地进度不及预期,可能会导致国产软硬件推进进度变慢,影响公司业绩增长前景。

2)行业竞争加剧:目前国产软硬件尚未呈现出清晰的格局,芯片、数据库、操作系统等行业仍处于高度竞争状态,若后续行业竞争加剧,可能会影响公司的毛利率水平,进而影响相关公司的盈利能力。

微信
扫描二维码
关注
证券之星微信
APP下载
好投资评级:
好价格评级:
证券之星估值分析提示浪潮信息盈利能力一般,未来营收成长性良好。综合基本面各维度看,股价合理。 更多>>
下载证券之星
郑重声明:以上内容与证券之星立场无关。证券之星发布此内容的目的在于传播更多信息,证券之星对其观点、判断保持中立,不保证该内容(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关内容不对各位读者构成任何投资建议,据此操作,风险自担。股市有风险,投资需谨慎。如对该内容存在异议,或发现违法及不良信息,请发送邮件至jubao@stockstar.com,我们将安排核实处理。
网站导航 | 公司简介 | 法律声明 | 诚聘英才 | 征稿启事 | 联系我们 | 广告服务 | 举报专区
欢迎访问证券之星!请点此与我们联系 版权所有: Copyright © 1996-